Обновить

Краткий справочник про внимания (self-attention, cross-attention, multi-head attention)

Уровень сложностиСредний
Время на прочтение5 мин
Охват и читатели8.5K
Всего голосов 8: ↑7 и ↓1+8
Комментарии3

Комментарии 3

1) За математический разбор - спасибо. Вполне полезно

2) За отсутствие комментариев к формулам (а точнее к формулам только "математические комментарии")... Ну не замечание, а скорее "упрек". Очень интересно, но нифига не понятно -)

А вот за то, что материал оценен на уровень "Средний" - отдельное "Браво"! Что же вы тогда оцениваете на "сложный уровень"? Чистые формулы квантовой физики без комментариев?

Добрый день, спасибо за критику, в следующие разы учту!

"Мы не можем работать с буквами" - почему не можем?

"Для упрощения будем считать, что 1 токен = 1 слово" - для упрощения чего?

И далее тоже упрощения... Вобщем не строго как-то и почти ничего непонятно. Надеюсь только мне

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации