Листочек 8: тут будет листочек про эмбединг

Листочек 8: тут будет листочек про эмбединг#

Он когда-нибудь появится. Что можно поделать:

  1. Позаписывать разные модели как автокодировщики:

    • pca

    • картинки

    • w2v

    • node2vec

    • elmo

    • ещё что-то

  2. посчитать число параметров в fasttext

  3. энкодер декодер с какими-нибудь свойствами для расстояний (типо все лежат в какой-нибудь залупе и тп)

  4. Посчитать ченить в w2v и пооценивать параметры

  5. Что-нибудь про классические механизмы внимания в автопереводах