Курсовая работа

Курсовая по искусственному интеллекту в МГТУ им. Баумана: данные, baseline, модель и честная проверка качества

Как писать курсовую по искусственному интеллекту в Бауманке: подготовить данные, выбрать baseline, обучить модель, проверить метрики, ошибки и ограничения.

Содержание +

Курсовая по искусственному интеллекту в МГТУ им. Баумана должна показывать не только факт использования нейросети, но и полный экспериментальный цикл: постановку задачи, данные, baseline, обучение, независимую проверку и анализ ошибок.

В МГТУ им. Н.Э. Баумана искусственный интеллект представлен в актуальных образовательных траекториях. Например, кафедра ИУ5 публикует программу «Искусственный интеллект в системах обработки информации и управления» в рамках направления 09.03.01 «Информатика и вычислительная техника».

Официальная страница:
https://iu5.bmstu.ru/

Начните с задачи

Плохо:

«Использование нейронных сетей».

Сильнее:

«Классификация дефектов поверхности по изображениям с оценкой recall для редкого класса».

Или:

«Прогноз отказа узла по временным рядам датчиков».

В теме должны быть:

  • объект;
  • данные;
  • задача;
  • метрика.

Определите тип задачи

Это может быть:

  • классификация;
  • регрессия;
  • сегментация;
  • detection;
  • clustering;
  • ranking;
  • forecasting.

Не выбирайте архитектуру до определения типа задачи.

Целевая переменная

Для supervised learning нужно ясно понимать, что считается правильным ответом.

Например:

  • класс дефекта;
  • срок до отказа;
  • вероятность события;
  • координаты объекта.

Если label ненадёжен, метрика модели тоже ненадёжна.

Разметка

Опишите:

  • кто размечал;
  • по какому правилу;
  • сколько объектов;
  • спорные случаи.

Не используйте label, происхождение которого неизвестно.

Согласие экспертов

Если разметка субъективна, полезно оценить согласованность нескольких экспертов на части данных.

Это показывает качество target.

Модель не может стабильно превзойти противоречивую разметку без дополнительных оснований.

Train, validation, test

Разделите данные до подбора модели.

Train:

  • обучение.

Validation:

  • выбор гиперпараметров.

Test:

  • финальная оценка.

Не смотрите test после каждой итерации.

Data leakage

Утечка часто возникает незаметно.

Например:

  • один объект попадает и в train, и в test;
  • нормализация рассчитана по всему набору;
  • будущее значение используется при прогнозе прошлого.

Метрика становится завышенной.

Групповой split

Если у одного пациента, детали или пользователя несколько строк, обычный random split может создать утечку.

Разделяйте по сущности.

Это особенно важно для изображений и временных рядов.

Временной split

Для прогнозирования будущее должно быть после прошлого.

Не перемешивайте временной ряд случайно, если модель предназначена для реальной эксплуатации.

Baseline

Без baseline непонятно, полезна ли сложная модель.

Примеры:

  • majority class;
  • линейная регрессия;
  • logistic regression;
  • простое правило;
  • предыдущий период.

Сначала победите простой ориентир.

Метрика

Accuracy подходит не всегда.

Для редкого дефекта модель, всегда говорящая «нет дефекта», может иметь 99% accuracy.

Но recall дефекта будет 0.

Выбирайте метрику по цене ошибки.

Precision и recall

Если ложное срабатывание дорого, важен precision.

Если опасно пропустить дефект, важен recall.

Объясните бизнес или инженерный смысл.

F1

F1 балансирует precision и recall, но предполагает, что они одинаково важны.

Если цена ошибок различна, одной F1 недостаточно.

Confusion matrix

Покажите:

  • TP;
  • FP;
  • FN;
  • TN.

Это помогает объяснить, где модель ошибается.

Не ограничивайтесь одной итоговой цифрой.

ROC-AUC

ROC-AUC полезен, но при сильном дисбалансе может выглядеть оптимистично.

Дополните PR-AUC и конкретным operating point, если это важно.

Threshold

Для вероятностной модели порог 0,5 не является обязательным.

Выберите threshold по:

  • recall;
  • precision;
  • стоимости ошибки.

Покажите компромисс.

Regression

Для регрессии можно использовать:

  • MAE;
  • RMSE;
  • R².

RMSE сильнее штрафует большие ошибки.

MAE проще интерпретируется.

Выбор должен соответствовать задаче.

Time series

Для временного ряда сравните с простыми baseline:

  • last value;
  • moving average;
  • seasonal naive.

Если сложная модель не лучше простого прогноза, это важный вывод.

Предобработка

Все преобразования должны обучаться только на train:

  • scaling;
  • imputation;
  • encoding;
  • feature selection.

Лучше оформить pipeline.

Пропуски

Не заменяйте всё нулём автоматически.

Ноль может быть реальным значением.

Разберите механизм пропуска и выберите метод.

Категории

Для категориальных признаков подумайте о:

  • one-hot;
  • target encoding;
  • embedding.

Target encoding особенно чувствителен к leakage.

Feature engineering

Признак должен быть доступен в момент реального предсказания.

Если он появляется после события, модель нельзя использовать заранее.

Это частая скрытая утечка.

Нейросеть

Если используется deep learning, объясните:

  • вход;
  • архитектуру;
  • loss;
  • optimizer;
  • epochs;
  • regularization.

Не вставляйте только `model.fit()`.

CNN

Для изображений покажите:

  • размер;
  • augmentation;
  • normalization;
  • классы.

Если используется pretrained model, объясните transfer learning.

NLP

Для текста важно:

  • токенизация;
  • длина;
  • язык;
  • предобработка;
  • способ представления.

Не удаляйте пунктуацию автоматически, если она несёт смысл.

Transformer

Если используете готовую модель, укажите:

  • checkpoint;
  • fine-tuning;
  • dataset;
  • max length.

Не называйте использование API разработкой собственной нейросети.

LLM

Для курсовой с большой языковой моделью заранее определите:

  • задачу;
  • датасет;
  • prompt;
  • критерий оценки;
  • baseline.

Красивые примеры ответов не заменяют системную оценку.

Галлюцинации

Если LLM отвечает на факты, создайте проверяемый набор вопросов и эталон.

Считайте ошибки.

Не оценивайте модель впечатлением.

RAG

Для retrieval augmented generation разделите:

1. retrieval;
2. generation.

Измерьте качество поиска отдельно.

Иначе непонятно, откуда ошибка.

Clustering

Для unsupervised-задачи нет готового label.

Используйте:

  • внутренние метрики;
  • устойчивость;
  • интерпретацию;
  • экспертную проверку.

Не называйте кластеры реальными сегментами автоматически.

Аномалии

Для anomaly detection особенно трудно получить ground truth.

Покажите:

  • долю;
  • примеры;
  • ручную валидацию;
  • стабильность.

Не объявляйте все редкие точки дефектами.

Feature importance

Важность признака не равна причинности.

Даже SHAP показывает вклад в предсказание модели, а не доказанный механизм реального мира.

Формулируйте аккуратно.

Explainability

Для инженерной темы полезно показать несколько конкретных объяснений.

Например, какие области изображения повлияли на классификацию.

Но визуальное объяснение тоже нужно проверять.

Cross-validation

Она полезна при небольшом наборе.

Но fold должен сохранять структуру данных.

Для временного ряда обычный KFold может быть некорректен.

Hyperparameter tuning

Задайте пространство поиска заранее.

Не делайте сотни экспериментов на test.

Используйте validation.

Reproducibility

Зафиксируйте:

  • seed;
  • версии;
  • параметры;
  • hardware;
  • split.

Это позволяет повторить результат.

GPU

Если сравнивается время обучения, укажите модель GPU и batch size.

Не сравнивайте две модели на разном оборудовании без оговорки.

Error analysis

Возьмите ошибки и классифицируйте их.

Например:

  • плохое качество изображения;
  • редкий класс;
  • необычный ракурс;
  • неправильная разметка.

Это часто полезнее ещё одного процента accuracy.

Робастность

Проверьте небольшие изменения:

  • шум;
  • освещение;
  • пропуски;
  • другой период.

Если качество резко падает, ограничьте вывод.

Fairness

Если модель работает с людьми, проверьте, нет ли существенного различия качества между группами, если такие признаки допустимы и действительно нужны исследованию.

Не делайте вывод о человеке по чувствительным характеристикам без строгого основания.

Deployment

Если модель должна работать в системе, оцените:

  • размер;
  • latency;
  • memory;
  • throughput.

Лучшая offline-модель может быть слишком тяжёлой для edge-устройства.

MLOps

Для развитой работы можно показать:

  • versioning данных;
  • модель;
  • experiment tracking;
  • deployment;
  • monitoring.

Но не добавляйте инфраструктуру ради модного слова.

Drift

После запуска распределение может измениться.

Определите, какой сигнал будет говорить о drift:

  • качество;
  • PSI;
  • изменение признаков.

Это особенно важно для долгоживущей системы.

Практическая глава

Рабочая структура:

1. задача;
2. dataset;
3. split;
4. baseline;
5. модель;
6. метрики;
7. ошибки;
8. робастность;
9. ограничения.

Бауманский контекст

ИИ в МГТУ связан с обработкой информации, управлением и инженерными системами. Поэтому курсовая особенно сильна, когда модель встроена в реальную техническую задачу и сравнивается с понятным baseline.

Защита

Будьте готовы показать split, baseline, confusion matrix, ошибочный пример, влияние threshold и ограничение модели.

Сильная курсовая по искусственному интеллекту в Бауманке не доказывает, что «нейросеть работает», а показывает, на каких данных, насколько хорошо, по сравнению с чем и где она ошибается.

Степан Сергеев

Автор – Степан Сергеев

Кандидат физико-математических наук (PhD). Четыре диплома о высшем образовании. Помогаю разобраться в учебных и исследовательских задачах.

Ещё по теме