Репозиторий курса Разработка Нейросетевых Систем
Для допуска к экзамену необходимо подготовить отчет по каждой лабораторной и ДЗ. Отчеты по разделам содержат ваши результаты лабораторных работ и ДЗ. Фиксируйте этапы вашей работы, ваши вариации гиперпараметров и моделей, выводы к чему это приводит. На защиту приносите сразу текущую версию отчета.
Отчеты отправлять на почту [email protected]
Примеры отчетов
- Записи лекций VK Видео
- Записи лекций Youtube
- Лекция №1. Введение в DL
- Лекция №2. Сверточная нейросеть
- Лекция №3. Регуляризация и аугментация
- Лекция №4. Перенос обучения
- Лекция №5. Автоэнкодеры
- Лекция №6. Сегментация, Object Detection, LiDAR
- Лекция №7. Рекуррентные нейросети
- Лекция №8. Трансформеры
- Рубежный контроль №1 (1-4 лекции)
- Рубежный контроль №2 (5-8 лекции)
Выражаем благодарность Ишкову Денису за подготовку лабораторных работ
- Лабораторная работа №1. Введение в DL
- Лабораторная работа №2. Сверточная нейросеть
- Лабораторная работа №3. Регуляризация и аугментация
- Лабораторная работа №4. Перенос обучения
- Лабораторная работа №5. Автоэнкодеры
- Лабораторная работа №6. Классификация LiDAR
- Лабораторная работа №7. Спутниковые снимки
- Лабораторная работа №8. Рекуррентные нейросети
Согласовать тему с преподавателем. Требуется разработать экспертную систему на основе SSR
веб-приложения для классификации изображений 3 близких классов. Для этого нужно собрать собственный набор данных, минимум по 100 изображений на класс. Приложение должно выводить загруженное изображение, иметь простой, но индивидуальный дизайн. По каждому классу приложение должно выводить описание и 2-3 ключевых параметра. Например для классификации авиалайнеров выводить описание, количество пассажиров и дальность полета.
Сохраняется тема ДЗ-1. Требуется разработать SPA
приложение для object detection ваших классов. Разметить изображения набора данных и обучить модель Yolo
не менее 4 раз. В приложении обновить цвета рамок и добавить к ним подписи.
- Инструкция по разметке в cvat.ai
- Обучение YOLOv7
- Приложение на React для onnx YOLO. Демо-версия приложения и файл обученной модели для 3 классов (Чайник для газовой плиты, Заварочный чайник, Электрический чайник)
- Генерация текста
- Машинный перевод
- Телеграм-бот
- Обучить модель yolov8-segment и преобразовать ее в файл ONNX: yolov8+onnx.ipynb. Приложение на React для onnx YOLO react.md
- 实验 №1. 神经网络
- 作业的实验和应用
- 使用cvat.ai标记数据集
- 训练 yolov8实例分割模型并将其转换为 ONNX 文件:yolov8+onnx.ipynb。为yolov8-segment创建React应用的中文教程:react.md
- Опишите алгоритм обучения с учителем.
- Устройство нейрона, формула вычисления значения. Объясните принцип его работы.
- Многослойный персептрон, архитектура, достоинства и недостатки.
- Виды активационных функций, назначение.
- Количество нейронов, связей, параметров в полносвязной нейронной сети.
- Эпоха, батч, итерация обучения.
- Дайте определение функции потерь.
- Кросс-энтропия, как функция потерь.
- Метод наименьших квадратов, как функция потерь.
- Алгоритм обратного распространения ошибки.
- Алгоритм оптимизации AdaGrad.
- Алгоритм оптимизации RMSProp.
- Алгоритм оптимизации с моментом.
- Алгоритм оптимизации Adam.
- Алгоритм оптимизации стохастического градиентного спуска.
- Преимущества и недостатки стохастического и пакетного градиентного спуска.
- Что такое гиперпараметры? Приведите примеры, оптимальные значения гиперпараметров.
- Оценка точности классификации F1-score, формула расчета и составляющие
- Что такое ONNX, Pytorch?
- Опишите структуру набора данных.
- Что такое свертка, как она применяется в нейронных сетях?
- Свойства свертки.
- Количество нейронов, связей и параметров в сверточном слое.
- Что такое stride, padding? Варианты.
- Дайте определение пулинга. Примеры
- Способы сокращения размерности карты признаков.
- Аугментация данных
- Переобучение и недообучение нейронной сети.
- Дайте определение регуляризации, dropout.
- Штраф за сложность модели
- Сглаживание меток
- Перенос обучения, дообучение. Принцип, преимущества.
- Зачем требуется заморозка весов? Применение
- Шумоподавляющий автоэнкодер.
- В чем заключается векторное представление (embedding)? Примеры применения.
- Сверточный автоэнкодер, применение.
- Коэффициент детерминации и средняя абсолютная ошибка
- Преимущества и недостатки современных генеративных моделей
- Архитектура GAN, обучение.
- Архитектура VAE, преимущества.
- Диффузионные модели: принципы, score-функция
- Архитектура Stable Diffusion
- Понятие временного ряда (ВР). Примеры ВР. Цель анализа ВР.
- Опишите задачи регрессии и классификации.
- Авторегрессионная модель. Преимущества и недостатки.
- Понятие рекуррентных нейронных сетей. Структурная схема RNN.
- Особенности обучения рекуррентных нейросетей. Проблема затухающих и взрывных градиентов.
- LSTM сети. Преимущества LSTM по сравнению с RNN.
- Количество обучаемых параметров ячейки LSTM в PyTorch
- Возможные модификации LSTM. Их преимущества и недостатки.
- GRU (Gated recurrent unit) сети.
- Применение рекуррентных и LSTM сетей для анализа текста
- Архитектура seq2seq.
- Метрики dice и IoU
- Архитектура PointNet
- Что такое плотное облако точек? Форматы и особенности обработки
- Архитектура U-Net
- Отличие задач сегментации, классификации и обнаружения объектов
- Архитектура трансформер
- Механизм внимания. Внутреннее и внешнее внимание
- Архитектуры BERT и GPT