Листочек 8: тут будет листочек про эмбеддинг#
Он когда-нибудь появится. Что можно поделать:
Позаписывать разные модели как автокодировщики:
pca
картинки
w2v
node2vec
elmo
ещё что-то
посчитать число параметров в fasttext
энкодер декодер с какими-нибудь свойствами для расстояний (типа все лежат в какой-нибудь залупе и т.п.)
Посчитать ченить в w2v и пооценивать параметры
Что-нибудь про классические механизмы внимания в автопереводах