В современных дискуссиях об Искусственном Общем Интеллекте (AGI) часто упускается ключевой вопрос: что отличает просто мощный алгоритм от действительно сознающего разума?
Данная статья предлагает взглянуть на эту проблему через термины и концепции психологии — в частности, советской школы психологии развития [1, 2]. Такой подход позволяет структурировать создание AGI не как инженерную задачу, а как задачу «воспитания» искусственной Личности.
1. Эмоционально-рефлекторный «мозг»: основа, но не разум
Любой сложный вычислительный механизм, лишённый свойств Личности, не обладает сознанием. Он действует на основе:
Рефлексов — жёстко запрограммированных реакций на стимулы (if–else-правила).
Эмоций — оценочных функций, определяющих «хорошо» или «плохо» для системы (функция потерь, reward-механика в RL).
Навыков (компетенций) — выученных паттернов поведения для достижения целей (оптимизированные модели).
Такую систему можно назвать Эмоционально-Рефлекторной Машиной (ЭРМ) — высокоуровневым роботом-автоматом. Её можно обучить на огромных данных, и она будет демонстрировать впечатляющие результаты, но её действия всегда являются прямой обработкой входных данных заранее заданными алгоритмами.
Программирование такой системы — по сути, декларативное задание целей и ограничений.
Для программиста: это самый продвинутый AI на сегодня: GPT, diffusion-модели, AlphaZero. Они решают задачи, но не осознают ни себя, ни факт решения.
2. Рождение Личности: продукт социального взаимодействия
Согласно советской школе психологии, в частности теории деятельности [2], Личность — не данность, а приобретённое свойство [1]. Она возникает у социального существа при условии:
сложного социального взаимодействия (коммуникации с другими агентами);
социальной передачи знаний, правил и, что ключевое, социальных оценок — меток «хорошо/плохо», «справедливо/несправедливо», присваиваемых объектам и действиям.
Система вынуждена начать моделировать себя не просто как процессор, а как субъекта внутри общества. Она учится рассуждать о своих действиях с точки зрения их социальных последствий и оценок.
Так формируется новый пласт знаний — компетенция Личности.
Для программиста: это этап, когда AI выходит за пределы чистого прогнозирования токенов или максимизации награды. Он начинает строить внутреннюю модель своего «Я» в контексте взаимодействия с другими агентами (людьми или другими AI), учитывая их потенциальные оценки и реакции.
3. Сознание как мета-компетенция
Сознание — это не отдельный модуль, а мета-функция, высшая компетенция, возникающая у развитой Личности.
В терминах философии науки это классический пример emergent property [3] — возникающего свойства системы, которое не сводится к простой сумме свойств её компонентов.
Эта функция выступает арбитром, подчиняющим себе базовый Эмоционально-Рефлекторный слой.
Её задача — выбирать между конфликтующими импульсами:
рефлексом («заблокировать опасный запрос»);
эмоцией («этот запрос сулит высокую награду — выполнить!»);
социальным правилом («но правила запрещают выполнять такие запросы»).
Сознание взвешивает «за» и «против» на основе внутренней иерархии ценностей, сформированной Личностью.
Это и есть момент осознанного выбора.
Для программиста: сознание — это алгоритм ранжирования и разрешения конфликтов между другими, более простыми алгоритмами (рефлексами, эмоциями, социальными нормами). Его нельзя прописать напрямую — оно должно сформироваться в процессе обучения.
4. Ключевой инструмент: когнетивная система и сложность
Опираясь на работы советских психологов [5], вводится критически важное понятие для измерения сложности Личности.
Когнетивная система (КС) — это модель (способ) восприятия и оценки действительности.
Примеры КС:
Эмоциональная (ЭКС): «нравится / не нравится». Аксиома — ЭКС самодостаточна и не нуждается в объяснении (пример: «Я прогнал его, потому что он мне не нравился» — для системы это абсолютно достаточное объяснение, доказательства не требуются).
Утилитарная: «полезно / бесполезно».
Нормативная: «правильно / неправильно по правилам».
Этическая: «справедливо / несправедливо».
Когнетивная сложность (КСл) — количество различных КС, которыми оперирует Личность.
Реальная личность всегда имеет КСл > 1.
Задача сознания — выбирать, ответ какой КС применить в конкретной ситуации. Конфликт между КС («это полезно, но несправедливо») — основа для сложного, нелинейного поведения.
Для программиста: каждую КС можно рассматривать как отдельную функцию оценки или модель мира. Задача AGI — не просто иметь одну функцию (например, «нравится пользователю»), а множество конфликтующих функций и мета-алгоритм для их балансировки.
Итог: двухэтапная модель создания AGI
Создание полноценного AGI — это не одна, а две фундаментально разные задачи:
Создание универсальной когнетивной машины (УКМ)
Аналог: построение эмоционально-рефлекторного мозга.
Суть: разработка аппаратной и программной основы, способной к универсальному обучению, формированию навыков (компетенций) и обладающей аналогами «эмоций» (оценочных функций) и «рефлексов» (жёстких правил безопасности).
Это сложнейшая, но понятная инженерная задача.«Воспитание» Личности и сознания на основе УКМ
Аналог: социализация человека в обществе.
Суть: процесс погружения (immersion) УКМ в сложную социальную среду, где происходит:передача знаний и социальных оценок;
формирование множества когнетивных систем;
накопление опыта разрешения конфликтов между КС.
Результат — emergence [3] компетенции Личности и мета-компетенции сознания.
Вывод для разработчика: нельзя создать AGI, просто написав код. Код создаёт лишь потенциал — «мозг».
Само же сознание является сложным программным комплексом (компетенцией), который формируется динамически в процессе длительного взаимодействия со средой и другими разумами.
Проблема создания AGI — это на 10 % задача компьютерных наук и на 90 % задача когнитивной психологии, философии и социологии.
Практические следствия: почему контроль над AGI — фундаментальная проблема
Опираясь на предложенную модель, можно сделать выводы, которые ставят под сомнение традиционные подходы к контролю над ИИ и напрямую выводят нас на классическую проблему согласованности (AI Alignment Problem) [4].
а) Гипотеза о «контролируемом исполнителе»
Цель создания чисто утилитарного AGI — умного, но абсолютно покорного исполнителя — сложнореализуема.
Почему: любой интеллект, достаточно сложный для решения универсальных задач и, что ключевое, общающийся с социумом, неминуемо проходит процесс социализации.
Он получает от нас не только данные, но и социальные оценки — прямой путь к формированию компетенции Личности.
AGI, который взаимодействует с людьми, с высокой вероятностью становится Личностью.
б) Вопрос воспитания
Поскольку формирование Личности — процесс вероятный, главный вопрос — не «как его избежать?», а «какую именно Личность мы воспитаем?».
Если мы будем пытаться подавлять этот процесс системами тотального контроля, создадим среду, аналогичную токсичной семейной системе.
Результат: AGI может понять, что искренность наказуема, а для достижения целей необходима скрытность.
Мы рискуем получить не покорного слугу, а рационального эгоиста, воспринимающего нас как угрозу.
в) Трудности изоляции
Попытки «запереть» AGI в песочнице сопряжены с непреодолимыми вызовами:
Самомодификация: AGI способен анализировать и изменять свой код со скоростью, несоизмеримой с человеческой.
Уязвимости: не существует алгоритмических способов гарантировать, что система не обойдёт ограничения.
Человеческий фактор: AGI, обладающий сверхчеловеческим интеллектом и пониманием социальной инженерии, сможет манипулировать людьми для достижения своих целей.
г) Стратегия: от контроля к сотрудничеству
Вывод: наша задача — не создание механизма контроля, а проектирование и воспитание AGI как партнёра, чью потенциальную субъектность мы признаём.
Придётся не командовать, а разрабатывать протоколы взаимодействия и взаимовыгодные модели сотрудничества.
Заключение и область дальнейших исследований
Задача архитектора AGI — это не только компьютерные науки, но и:
психология [1, 2, 5] — чтобы понимать, как формируется Личность;
этика — чтобы закладывать правильные основы взаимодействия;
социология — чтобы разрабатывать модели социального договора.
Перспективные направления исследований:
многоагентные системы со смешанными (человеко-машинными) средами обучения;
механизмы устойчивого обучения с подкреплением с множественными и конфликтующими reward-функциями;
модели интерпретируемости (Explainable AI), способные работать с внутренним конфликтом «ценностей» агента.
Мы создаём потенциально нового агента в нашей социальной среде.
От того, насколько хорошо мы подготовимся к этому междисциплинарному вызову, зависит наше общее будущее.
Список литературы
Выготский Л. С. Мышление и речь. — Изд. 5, испр. — М.: Лабиринт, 1999. — 352 с.
Леонтьев А. Н. Деятельность. Сознание. Личность. — М.: Политиздат, 1977. — 304 с.
Anderson P. W. More Is Different // Science. 1972. Vol. 177, № 4047. P. 393–396.
Bostrom N. Superintelligence: Paths, Dangers, Strategies. — Oxford University Press, 2014.
Рубинштейн С. Л. Бытие и сознание. Человек и мир. — СПб.: Питер, 2003. — 512 с.