Comments 6
Вообще немного мутные выводы, топовые головы и так те, от которых зависит качество, они, собственно, поэтому и топовые, потому что выбираются в процессе обучения. Если их отключить в процессе инференса, то качество, конечно, падает, но это не дает никакого понимания, почему и как они думают.
То есть это как у нас футбольная команда, и мы убираем сильных игроков — команда начинает играть хуже, но это не значит, что мы поняли, как победить на чемпионате мира по футболу. Мы просто доказали очевидный факт — значение слова «сильный».
Странный выбор для названия статьи: "Логический компас для искусственного интеллекта". Если учесть, что логика присутствует еще с самой первой системы Logic Theorist (1956), особенно в современных версиях когнитивно-символьных систем (LBS, CESP, 2020+), которые на несколько голов в логике лучше любой топовой LLM, а в статье пишут только про LLM, то у меня есть только один вывод - автор продолжает хайповаться на теме ИИ, иначе, название было бы - "Логический компас для LLM"
Это логический компас для LLM. Авторы научной статьи занимаются такими исследованиями, как сделать LLM более логичными.
Так я критикую не саму статью, а выбор ее названия. Сводить все к одному термину "ИИ" - это неправильно, так как в разных архитектурах все по-разному. "Таким названием" Вы обесцениваете десятки лет исследований в этой области, и заставляете читателя приходить к выводу, что логико-символьные и когнитивно-символьные системы тоже не имеют логики.
А мало того, что они имеют, так Вы еще можете просмотреть каждую логическую ветку и при необходимости отредактировать любую, если она "ложная" или имела ошибочную точку входа (Logic Entry Point), и всё это в режиме реального времени
Просто "логический компас для искусственного интеллекта" выглядит как-то лучше по стилю, чем "логический компас для LLM". Так как в названиях релизов в публицистическом стиле использовать аббревиатуры нехорошо. Можно конечно "логический компас для больших языковых моделей", так по стилю норм, но это кажется усложненным, название лучше проще делать, если есть возможность, при сохранении смысла.
А насчет хайпа претензия странная, LLM по-моему еще более хайповое, чем ИИ.
Наконец-то нейронки научатся воздерживаться от генерации промежуточных кадров, когда меняется ракурс?
Логический компас для искусственного интеллекта