Листочек 2: пятьдесят оттенков градиентного спуска#
Повторять до сходимости — это как жарить до готовности.
—Неизвестный студент Вышки
В этом листочке мы поговорим про градиентный спус и узнаем фамилию Маши. Он состоит из 6 задачек. Мы обсудим в них различные вариации градиентного спуска и посмотрим как с помощью него можно обучать линейную регрессию и логистическую регрессию. Цель листочка не объяснить градиентный спуск с нуля, а напомнить, как он работает.
Перед погружением в листочек, было бы неплохо выяснить, что такое линейная регрессия и как работает градиентный спуск. Если вы когда-то давно слышали об этом, решение задач из листочка, поможет вам обо всём вспомнить. Последние две задачи в листочке со звёздочкой. Вы можете их проигнорировать. Но мне было жалко выбрасывать их, и я их оставил.
Подробнее о линейной регрессии читай в лекциях Жени Соколова
Про градиентный спуск подробнее читай в лекциях Жени Соколова
Также вы можете посмотреть лекцию про градиентный спуск от автора этой виньетки