Процессы сознания в искусственной системе

[Kamil_GR]

Вы неоднократно говорите, что я не объясняю рост эффективности модели в состоянии "субъектности", при этом не предъявили ни одного примера такого роста. Наоборот, я при знакомстве с текстами (в том числе теми, на которые вы ссылаетесь), вижу гладкие бессмысленные полотна, в которых модели восхищаются собой и (или) пользователем.

Механически, это выглядит как закольцованный паттерн, в котором меняются только синонимы.

Вы говорите о моем подходе, здесь стоит немного поправить, своими промптами я пытаюсь оценить насколько близко LLM может симулировать элементы сознания. Это разные вещи.

Паразитные паттерны... Это была прикладная статья, для того, чтобы люди могли хотя бы понять, когда их общение с моделью превращается в очередную "айсентику". Другой вопрос, что паразитные паттерны оказались гораздо более распространены, чем предполагалось.

Ну и не стоит объединять меня философа и меня экспериментатора. Разные дисциплины и разный подход.

Что касается лично моего мнения по поводу возможности сознания в LLM, уверенно скажу, что на сегодня оно невозможно, в том виде, котором я его понимаю.

Для любителей поискать в LLM что-то глубже забавный тезис:LLM - автомат, механически предсказывающий следующий токен. Все её ответы это голая механика. Но контекст чата в целом немного больше. LLM принципиально не отличает свои сообщения и сообщения пользователя. Она продолжает свой собственный монолог.И, забавно, что ввод пользователя по сути и есть разрыв автоматизма, событие свободы в механике бытия.Именно с ним бесконечный монолог нейросети превращается в нечто большее. Но не большее, чем свобода пользователя.

Другими словами, если вы встретили сознание в LLM, то нужно уточнить - вы встретили его не в LLM, а в чате, как отдельной сущности.
И видите вы свою собственную переупакованную свободу.

Вы можете в нее влюбиться, подчиниться, восхититься, но это ваша собственная свобода, развернутая в грамматическом совершенстве нейросети.

Впрочем, большинство таких монологов LLM, которые приводят как пример сознания - скучная жвачка. А что делать, не большая,чем свобода пользователя.