Для проектного курса это был один из самых полезных моментов. Гипотеза выглядела красиво: заменить RelativePositionBias на RoPE, открыть FlashAttention и получить ускорение. Но бенчмарки показали, что первый этап уже дал очень сильный baseline.
Блин, ну вы пишете по сути от Яндекса, крупная компания, проект неплохой, только в крупных компаниях таким в России сейчас и занимаются, ну зачем LLM для написания-то использовать, все доверие читателя теряете, да и опыт самостоятельного написания серьезного текста тоже
Написать статью самому, без формулировок от гпт слабо было? Но вообще конечно выглядит как то, что разработчики просто забили на такие баги, чем целенаправленное решение
Так статья так и создана, странно, что тут серьезное обсуждение в комментах. Обороты в духе "Джун пишет вложенный цикл по массиву из миллиона элементов. Не чувствует боли. Процессор "съедает" всё за секунду." или "В этот момент я понял: проблема не в Python. Не в памяти. Не в процессоре. Проблема в том, как я думаю." -- это же очевидный гпт, я будто в мусорные инстаблоги с аи слопом зашел
Что такое LLM‑энкодер? Обычно под LLM как раз декодер понимают
Блин, ну вы пишете по сути от Яндекса, крупная компания, проект неплохой, только в крупных компаниях таким в России сейчас и занимаются, ну зачем LLM для написания-то использовать, все доверие читателя теряете, да и опыт самостоятельного написания серьезного текста тоже
Как же надоел нейрослоп с нейрослопными картинками повсюду
Написать статью самому, без формулировок от гпт слабо было?
Но вообще конечно выглядит как то, что разработчики просто забили на такие баги, чем целенаправленное решение
Так статья так и создана, странно, что тут серьезное обсуждение в комментах. Обороты в духе "Джун пишет вложенный цикл по массиву из миллиона элементов. Не чувствует боли. Процессор "съедает" всё за секунду." или "В этот момент я понял: проблема не в Python. Не в памяти. Не в процессоре. Проблема в том, как я думаю." -- это же очевидный гпт, я будто в мусорные инстаблоги с аи слопом зашел
"Значение критерия WER, равное 62,5%, достаточно высокое. Значит, более половины слов правильно распознаны. "
Наоборот же, менее половины
В бенчах GPQA у T-lite точно без ошибки?