Comments 4
Мне нравится наблюдать как рассуждает Дипсик, ну если есть время, и если вижу ошибку или уходит не туда, останавливаю его и уточняю
Ответ - никак. Как можно про любой детерминированный алгоритм сказать, что он "думает"?
ллм не детерминированы. они при температуре 0 становятся "почти детерминироваными", т.е. на один и тот же вопрос будут с очень большой (не 100%!) вероятностью давать один и тот же ответ
если бы ллм были детерминированы то такая дисциплина как AI alignment была бы не нужна
природа ллм стохастическая, а не детерминированная
человеческий разум тоже набор различных алгоритмов. тем не менее мы можем говорить про человека что он думает
Да, современные ИИ могут генерировать последовательности текста, которые структурно изоморфны человеческому процессу рассуждений. Ключевое слово — структурно. ИИ не переживает "момент озарения" или "сомнение", но его выходные данные можно разметить теми же категориями (анализ, план, проверка), потому что он обучался на человеческих текстах, где эти паттерны запечатлены. Это не "мышление" алгоритма, а симуляция его внешних проявлений. Однако такая симуляция небесполезна: понимая, по каким "сценариям" работает модель, мы можем делать её рассуждения более надежными и управляемыми, даже не наделяя её разумом. Это инженерия, а не психология.
Таким образом, работа важна не как доказательство "мышления" ИИ, а как мощный инструмент для его отладки и контроля.
Как думают ИИ-модели: раскладываем рассуждения на эпизоды