Преподаватели:
Михаил Криницкий (RG link, github)
Обратите внимание на правила распространения источников и литературы
Здесь доступна подборка книг издательства Springer, доступных для свободной загрузки, по компьютерным наукам, компьютерному зрению, машинному обучению и науке о данных. Здесь - полный список книг издательства Springer, выложенных в открытый доступ для свободной загрузки.
| Title | Date | Topic | Content |
|---|---|---|---|
| Лекция 1 | 17.09.2020 | Вводная лекция. От линейных моделей к нейронным сетям. Часть 1 |
материалы; видеозапись |
| Лекция 2 | 24.09.2020 | Вероятностные основы линейных моделей. Обобщенные линейные модели. Перцептрон. |
материалы; видеозапись |
| Лекция 3 | 01.10.2020 | Технические аспекты вычисления градиента функции потерь глубоких нейронных сетей. Особенности оптимизации функции потерь. |
видеозапись материалы |
| Лекция 4 | 08.10.2020 | Особенности оптимизации функции потерь (продолжение) Вопросы инициализации параметров. |
видеозапись материалы |
| Лекция 5 | 15.10.2020 | Особенности оптимизации функции потерь (продолжение) Пакетная нормализация и регуляризации. |
видеозапись материалы |
| Лекция 6 | 22.10.2020 | Циркулянт и операция дискретной циклической свертки Сверточные нейронные сети. |
видеозапись материалы |
| Лекция 7 | 29.10.2020 | Практика Современные архитектуры сверточных нейронных сетей |
видеозапись |
| Лекция 8 | 05.11.2020 | Визуализация и интерпретация сверточных нейронных сетей Снижение размерности и автокодировщики |
видеозапись |
| Лекция 9 | 12.11.2020 | Снижение размерности и автокодировщики Дивергенция Кульбака-Лейблера |
видеозапись материалы |
| Лекция 10 | 19.11.2020 | Снижение размерности и автокодировщики Задача выучивания расстояний (Metric Learning) |
видеозапись материалы |
| Лекция 11 | 26.11.2020 | Порождающие состязательные сети (Generative Adversarial Networks, GANs) |
видеозапись материалы |
| Лекция 12 | 03.12.2020 | Порождающие состязательные сети - 2 (Generative Adversarial Networks, GANs) |
видеозапись материалы |
| Лекция 13 | 10.12.2020 | Порождающие состязательные сети - 3 Обработка последовательностей. Идея Word2Vec. |
видеозапись материалы |
| Лекция 14 | 17.12.2020 | Обработка последовательностей. RNN, LSTM, GRU. Механизм обучаемого внимания (Attention) и архитектура Transformer. |
видеозапись материалы |
| Title | Date issued | Deadline | Topic | Content |
|---|---|---|---|---|
| ДЗ №1 | 18.09.2020 | 24.09.2020 | Градиентный спуск своими руками | описание и данные |
| ДЗ №2 | 27.09.2020 | 14.10.2020 | Обучение трехслойного перцептрона | описание |
| ДЗ №3 | 10.10.2020 | 17.10.2020 | Оптимизация многослойного перцептрона на PyTorch | описание |
| ДЗ №4 | 23.10.2020 | 30.10.2020 | Обзор последних исследовательских статей по искусственным нейронным сетям | Описание и список статей |
| ДЗ №5 | 18.11.2020 | 26.11.2020 | Сверточная нейронная сеть на PyTorch | описание |
| ДЗ №6 | 23.12.2020 | 31.12.2020 | Рекуррентная сеть на PyTorch для обработки текстов | описание |
(следите за обновлениями!)
- Николенко С. И., Кадурин А. А., Архангельская Е. О. "Глубокое обучение." / СПб.: Питер. 2019. 480 с. publisher link
- Гудфеллоу Я., Бенджио И., Курвилль А. "Глубокое обучение." / М.: ДМК Пресс, 2017. 652 c. publisher link
- Интерактивная онлайн-книга Aston Zhang, Zack C. Lipton, Mu Li, Alex J. Smola "Dive into Deep Learning"
Дополнительные источники
-
Флах П. "Машинное обучение. Наука и искусство построения алгоритмов, которые извлекают знания из данных." / Флах П. М.: ДМК Пресс, 2015. 400 c. publisher link
-
Шай Шалев-Шварц, Шай Бен-Давид "Идеи машинного обучения." / - М.: ДМК Пресс, 2018. 432 c.
-
Hastie T., Tibshirani R., Friedman J. "The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Second Edition" / T. Hastie, R. Tibshirani, J. Friedman, 2-е изд., New York: Springer-Verlag, 2009.
Первод на русский язык: (Фридман Дж., Хасти Т., Тибширани Р. "Основы статистического обучения")
-
Bishop C. "Pattern Recognition and Machine Learning" / C. Bishop, New York: Springer-Verlag, 2006. Доступна для легального скачивания.
Перевод на русский язык: Бишоп К.М. "Распознавание образов и машинное обучение"
-
Matrix cookbook - справочник по соотношениям в матричной форме
-
Курс лекций К.В. Воронцова:
-
Курс лекций Л.М. Местецкого "Математические методы распознавания образов"
-
Препринт книги Cosma Rohilla Shalizi "Advanced Data Analysis from an Elementary Point of View". Доступен онлайн.
-
James G., Witten D., Hastie T., Tibshirani R., 2013. "An Introduction to Statistical Learning: with Applications in R", Springer Texts in Statistics. Springer-Verlag, New York. Книга доступна для скачивания.