3. Взрыв градиентов

Important

Тут будет упражнение про взрыв/затухание градиентов рекуррентных архитектурах и способы лечить его. От LSTM до инициализации ортогональными матрицами с неумирающими активациями.