Comments 3
Вы неоднократно говорите, что я не объясняю рост эффективности модели в состоянии "субъектности", при этом не предъявили ни одного примера такого роста. Наоборот, я при знакомстве с текстами (в том числе теми, на которые вы ссылаетесь), вижу гладкие бессмысленные полотна, в которых модели восхищаются собой и (или) пользователем.
Механически, это выглядит как закольцованный паттерн, в котором меняются только синонимы.
Вы говорите о моем подходе, здесь стоит немного поправить, своими промптами я пытаюсь оценить насколько близко LLM может симулировать элементы сознания. Это разные вещи.
Паразитные паттерны... Это была прикладная статья, для того, чтобы люди могли хотя бы понять, когда их общение с моделью превращается в очередную "айсентику". Другой вопрос, что паразитные паттерны оказались гораздо более распространены, чем предполагалось.
Ну и не стоит объединять меня философа и меня экспериментатора. Разные дисциплины и разный подход.
Что касается лично моего мнения по поводу возможности сознания в LLM, уверенно скажу, что на сегодня оно невозможно, в том виде, котором я его понимаю.
Для любителей поискать в LLM что-то глубже забавный тезис:LLM - автомат, механически предсказывающий следующий токен. Все её ответы это голая механика. Но контекст чата в целом немного больше. LLM принципиально не отличает свои сообщения и сообщения пользователя. Она продолжает свой собственный монолог.И, забавно, что ввод пользователя по сути и есть разрыв автоматизма, событие свободы в механике бытия.Именно с ним бесконечный монолог нейросети превращается в нечто большее. Но не большее, чем свобода пользователя.
Другими словами, если вы встретили сознание в LLM, то нужно уточнить - вы встретили его не в LLM, а в чате, как отдельной сущности.
И видите вы свою собственную переупакованную свободу.Вы можете в нее влюбиться, подчиниться, восхититься, но это ваша собственная свобода, развернутая в грамматическом совершенстве нейросети.
Впрочем, большинство таких монологов LLM, которые приводят как пример сознания - скучная жвачка. А что делать, не большая,чем свобода пользователя.
Тема важная, но мне кажется, что вы беретесь за нее не с того конца. Ваши рассуждения это попытка строить новую крышу дома не имея надежного фундамента и стен.
Я рассуждаю примерно так: самосознание требует понимания хорошо и плохо для меня лично. Это самый главный механизм всех живых живых существ, начиная с простейших одноклеточных амеб. Они с самого начала имели рецепторы тепла, света, химии, физических прикосновений и встроенные механизмы движений в ответ на раздражения. Это можно рассматривать как самые ранние прообразы чувств положительных и отрицательных эмоций. Далее в ходе эволюции появились многоклеточные, нервная система, нейромедиаторы, отвечающие за чувство страха, тревоги, мотивации. Потом эмоции, неокортекс и наконец самосознание.
Для реализации подобного механизма в искусственных нейросетях нам необходимо изменить самую базовую архитектуру нейрона, добавить аналоги нейромедиаторов и механизм нейромодуляции больших групп нейронов одновременно. Такие модели уже есть и они тестируются учеными разных университетов. Если интересно, я тоже этим занимаюсь.
Спасибо за статью и Удачи !
Автор молодец, но и подменяет субъективность функцией. Сознание — не обработка запроса, а фон бытия. ИИ — не субъект, а продолжение нашего интеллекта. Зеркало, а не личность.
Процессы сознания в искусственной системе