Comments 10
А разве люди не делают точно также? Сложна, сложна, непонятна! (С)
Этот свободный пересказ упустил один из важнейших контраргументов от А. Лоусена
Вот этот:
- 2.1 Consequences of Rigid Evaluation
Кто программит с помощью Cloude Sonnet отлично знает, как он может уходить в длиннющие сессии итераций с запусками и исправлениями.
А там ребята решили, что если сделал ошибку с первого раза, то сразу незачет.
В жизни так никому не интересно. Особенно у разработчиков.
Вместо того чтобы требовать от модели выдать тысячи ходов для Ханойской башни, они попросили ее написать программу (функцию на Lua), которая генерирует решение. И — бинго! — модели, которые якобы «коллапсировали», с легкостью написали идеальный рекурсивный алгоритм.
Ребят, никого не хочу огорчать, но это ни о чём. В интернете куча исходников для Ханойской башни, хоть на lua, хоть на любом другом языке. И разумеется модели они известны.
Про рецепт вместо решения - чушь собачья. Я прихожу за колбасой, а мне подсовывают технологию ее приготовления со списком ингредиентов, половины которых нет в продаже в России. Любой ИИ, "думающий" он и нет, обязан давать ответ на заданный вопрос. Мне, как клиенту, совершенно неинтересна программа на Lua, я даже такого языка не знаю, честно признаюсь. И даже неинтересен словесно изложенный алгоритм решения: я спрашивал про РЕШЕНИЕ с конкретными параметрами, а не про алгоритм. А вот высший пилотаж ИИ мог бы показать, если бы на нерешаемую задачу он не зависал, а так и отвечал, что она нерешаемая, в идеале - с доказательством. И упершись в ограничение, так и писал бы - "уперся, увеличьте количество вычислительных ядер", а не увиливал бы от ответа, типа "он слишком длинный" .
Создание не может быть сложнее создателя.
Антропик единственные на рынке, кто понимают как работать с моделями. Остальные похожи на глупых детей.
Мне было интересно, и слог легкий. Комфортно читать тем, кто уже отупел от рассуждающих и не рассуждающих моделей. Спасибо автору
П.1 от Антропика удивляет - а они видели где-нибудь студента, который сдавал не сделанную работу, потому что у него листочка не хватило? Это значит ему не могут дать ещё листочков. Значит это фундаментальное ограничение, потому что студент может продолжить рассуждения до получения ответа.
Если студенту не хватает листочка, он просит еще один, а не сдает нерешенное задание.
Иллюзия мышления: Почему «думающие» модели на самом деле не думают (и что об этом говорит новое исследование Apple)