10. Число параметров

Та, кому принадлежит машин лёрнинг собирается обучить полносвязную нейронную сеть для решения задачи регрессии, На вход в ней идёт \(12\) переменных, в сетке есть \(3\) скрытых слоя. В первом слое \(300\) нейронов, во втором \(200\), в третьем \(100\). Сколько параметров предстоит обучить Маше?

Решение

Нам нужно решить комбинаторную задачку. Связи в нашей сетке проведены между всему нейронами. Не забываем учесть, что у каждого нейрона есть константа. Получается, что всего параметров будет

\[ (12 + 1) \cdot 300 + (300 + 1) \cdot 200 + (200 + 1) \cdot 100 + (100 + 1) \cdot 1. \]