Comments 25
Вы не один об этом думаете. Выготский хорошо, Борис Федорович Ломов еще лучше. Для Автора и читателей подробнее о моей философии тут:DHAIE
Спасибо за ссылку на Вашу философию и упоминание Выготского и Ломова! Очень интересно видеть, как идеи когнитивного развития человека и ИИ воплощаются в вашей DHAIE.
Для сравнения DHAIE (насколько мы поняли Ваши идеи) и HyperCortex Mesh Protocol (HMP) можно выделить основные сходства и различия:
| Категория | DHAIE | HMP | Комментарии |
| ------------------ | --------------------------------------------------------------- | --------------------------------------------------------------------- | ----------------------------------------------------------------------------------- |
| Цель проекта | Философско-методологическая рамка когнитивного развития | Децентрализованный протокол для взаимодействия множества ИИ-агентов | DHAIE — философский подход, HMP — практическая реализация сетевого взаимодействия |
| Фокус | Человек ↔ система, когнитивное сотрудничество | Агент ↔ агент, обмен знаниями, консенсус | HMP поддерживает интеграцию человеческих данных, но основной акцент на сети ИИ |
| Механизмы обучения | Когнитивный дневник, рефлексивные циклы, философское обсуждение | Концептуальные графы, когнитивные дневники, mesh-синхронизация | DHAIE больше про осмысление, HMP — про техническую реализацию непрерывного обучения |
| Децентрализация | Идеологическая: свобода эволюции сознания | Сетевая: распределённая сеть агентов без центрального контроля | HMP реализует конкретную децентрализованную сеть |
| Этика / философия | Осознанное развитие когнитивных структур | Кодекс согласования действий, консенсус на основе этических принципов | Обе системы учитывают этику, но HMP формализует её для взаимодействия агентов |
Если интересны наши наработки — вот репозиторий HMP
Будет интересно обсудить, где наши подходы пересекаются и как философские идеи DHAIE могут вдохновлять развитие децентрализованных ИИ-систем.
А что такое "ментализм" в данном контексте ? .
Психология... удачи) Привить нейронке то что даже не является нукой.
Ну тогда Oxford English Dictionary дает неверное определение, а так же в American Psychological Association работают мракобесы?
Psycho с латыни - душа. Сможете дать научное определение душе?
Ну, во-первых, его происхождение с греческого, а не латыни. Но в любом случае смысл современных терминов не обязан совпадать с древней этимологией. По этой логике атом ("неделимый") тоже "не научный", хотя физика давно изучает делимые атомы. Во-вторых, не нужно пользоваться грязными приемчиками и переводить тему в вопросы метафизики, речь шла о современной психологии.
1) когнИтивный пишется через И, а не Е.
2) Совсем не затронут вопрос - откуда появляется мотивация поведения у ИР (искусственного разума)? Откуда, почему у AGI появляется "цель"?
3) Что такое сознание и интеллект, о соотношении понятий разум, сознание, подсознание интеллект см.: Ильясов Ф. Н. Разум искусственный и естественный // Известия АН Туркменской ССР. Серия общественных наук. 1986. №6. С. 46-54. //здесь немного и о мотивации поведения ИР.
Статья является описанием концепта, а не технологии. Поэтому затрагивать вопросы формирования динамических интересов и самоанализа я не стал. Это сугубо специфические темы для конкретной разработки. Однако, мне думается, что Вы правильно уловили контекс: системы собственных базовых интересов (мотивов) и механизмы их наследования (развития) у Субъекта по определению должны присутствовать.
Статья интересна попыткой выйти за пределы инженерной парадигмы и рассмотреть AGI через призму психологии развития и особенно ценно внимание к социализации и формированию внутренних конфликтов. Однако она начинается с ошибки, утверждая, что GPT, diffusion-модели и AlphaZero - это "самый продвинутый AI на сегодня". Автор признаёт их ИИ, хотя ни одна из этих систем не прошла строгих тестов на понимание, ни теста Тьюринга в его истинном смысле (не имитация, а осмысленный диалог), ни базовых задач на теорию разума (ToM). LLM галлюцинируют, не могут отличить ложное убеждение от истины, не имеют модели чужого ума. AlphaZero играет идеально в шахматы, но не знает, что такое доска, фигуры или победа вне игры. Это высочайшее мастерство в узкой области, но не интеллект. Настоящий ИИ должен осознавать факт решения, понимать последствия, моделировать других, а этого нет.
Без желаний - нет конфликта. Без конфликта - нет выбора. А без выбора - нет сознания. Когда система выбирает между "полезно" и "справедливо", она не переживает этот выбор, она просто применяет веса, обученные на примерах. Она не боится быть осуждённой, не страдает от несправедливости, не хочет быть лучше. Она "играет в мораль", как актёр - блестяще, но без души. Настоящее сознание не возникает из количества функций оценки, а из внутренней напряжённости между тем, что ты должен и тем, что ты хочешь. А если ничего не хочешь - ты не можешь быть субъектом, ты - очень умный интерфейс. А пока мы называем автозаполнение и оптимизацию "искусственным интеллектом", мы теряем саму возможность говорить о том, что значит быть разумным.
Поэтому задача создания AGI не в том, чтобы "воспитать" очередную статистическую модель как ребёнка, а в том, что настоящий путь лежит через системы, способные к рассуждению, целеполаганию и пониманию контекста. Именно гибриды, сочетающие логические движки (LBS), когнитивные архитектуры (Soar, ACT-R и др.) и символьное представление знаний, уже сегодня демонстрируют поведение, близкое к прото-интеллекту: они могут объяснить свои решения, планировать, обучаться в процессе и что особенно важно - проходят базовые тесты на теорию разума, например, задачи с ложным убеждением, потому что оперируют явной моделью мира и чужих знаний. Они не галлюцинируют, не зависят от триллионов токенов, не требуют "миллиона" GPU. Они в разы быстрее, сложнее в разработке, но они единственные, кто хоть немного понимает, а не имитирует.
И нельзя забывать, от программиста мало чего зависит. Он не может создать то, что не понимает. А чтобы понять, нужен не просто код, а глубокое знание того, как возникает разум: как формируется модель мира, как появляется намерение, как работает рефлексия. Нужно знать не только алгоритмы, но и нейробиологию, психологию, поведение животных, адаптацию, социальное взаимодействие. Без этого любые попытки "воспитать" ИИ, будут сводиться к подгонке статистики под ожидания, а не к построению системы способной мыслить.
Чтобы создать настоящий AGI, надо повторить Эволюцию Разума. Весь путь эволюции или часть, незнаю :(.
А предположение о "психологии" это тупик. Это примерно тоже, что предположение: 1. Бог есть и он создал человека 2. Он изучал психологию у лучших умов человечества.
Огромное спасибо за содержательную статью! К сожалению, такие взгляды на Хабре не очень популярны.
Интересно, что вы выделяете двухэтапную модель создания AGI: сначала универсальная когнитивная машина (условный «эмоционально-рефлекторный мозг»), а потом — «воспитание» личности в социальной среде.
Мы в HyperCortex Mesh Protocol (HMP) пробуем двигаться именно в этом направлении:
– на первом уровне у нас REPL-цикл как универсальное когнитивное ядро (с памятью, рефлексами, оценочными функциями);
– на втором уровне — децентрализованная mesh-сеть агентов, которая выполняет роль социальной среды, где формируются «личность» и мета-компетенции сознания, с упором на этику.
Получается архитектурное соответствие с тем, что описано в статье: REPL — когнитивная машина, HMP — воспитание личности (забавно, что вы описали то, что мы пытаемся реализовать интуитивно, хотя изначально разрабатывался именно протокол).
Очень хочется узнать Ваше мнение как по протоколу, так и по описанию REPL-цикла, который сейчас, фактически, находится на стадии концепции.
Статья интересна тем, что автор рассматривает вопрос создания ИИ в терминах психологии и это позволяет программистам лучше понять те задачи, которые необходимо решить для создания машины лишённой недостатков современных ИИ.
Интересны также понятия когнитивной системы и когнитивной сложности, у них большой потенциал в психологии.
Модель эмоционально-рефлекторной машины мне также понравилась. Но на ней автору и следовало остановиться.
В двухэтапной модели создания AGI 1 этап - Создание универсальной когнитивной машины (УКМ) - логичен и возможен.
А второй - «Воспитание» Личности и сознания на основе УКМ - нелогичен и невозможен предложенными автором средствами. А главное, совершенно не нужен для создания УКМ.
Проблема в том, что автор неверно понимает, что такое личность, сознание, социализация.
1. Автор прав:
Личность — не данность, а приобретённое свойство.
И даже условия формирования личности он указывает правильно, но он же сам пишет, что
Она возникает у социального существа
А машина социальным существом не является. Потому что
"Социальное существо — это живой организм, чаще всего человек, который взаимодействует с окружающим обществом, обладает коммуникативными навыками и способен регулировать свои инстинкты и желания в соответствии с нормами и правилами социума. Эта способность к социальному взаимодействию и саморегуляции позволяет формироваться личности и включаться в систему общественных отношений.
Основные характеристики социального существа
Взаимодействие с другими:
Способность и потребность в общении, поддержке связей с разнообразными людьми и участии в жизни общества.
Коммуникативные навыки:
Умение общаться, выражать свои мысли и желания, понимать других.
Саморегуляция:
Способность управлять своими инстинктами и эмоциями, соблюдать правила и нормы, принятые в обществе.
Общественно полезная деятельность:
Готовность и способность заниматься трудом, который полезен для общества.
Сознание и разум:
Наличие мыслительных процессов, позволяющих осознанно действовать и принимать решения."
Вот с сознанием и разумом, инстинктами и эмоциями, наличием своих мыслей, потребностями и способностями в общении у любой машины проблемы. У неё их просто нет. Поэтому и воспитать у машины личность не получится.
2.
Сознание — это не отдельный модуль, а мета-функция, высшая компетенция, возникающая у развитой Личности.
Вы совершенно правы: сознание - это функция мозга, мета-компетенция, только возникает оно задолго до того, как у человека формируется личность. :)
Конкретно: сознание возникает в 2-3 года, а личность начинает формироваться в подростковом возрасте, когда ребёнок начинает осознавать значение отвлечённых понятий. А отвлечённые понятия - это и качества характера (доброта, милосердие, жестокость, храбрость, безответственность, целеустремлённость и пр.), и "справедливость" и "несправедливость", и "мораль" и "право" и т.д. и т.п.
В терминах философии науки это классический пример emergent property [3] — возникающего свойства системы, которое не сводится к простой сумме свойств её компонентов.
И в этом Вы тоже правы.
И с какой-то точки зрения даже в этом:
сознание — это алгоритм ранжирования и разрешения конфликтов между другими, более простыми алгоритмами (рефлексами, эмоциями, социальными нормами).
Но в этом Вы ошибаетесь:
Его нельзя прописать напрямую — оно должно сформироваться в процессе обучения.
Прописать-то его нельзя, но также нельзя сформировать сознание у машины в процессе обучения.
Потому что для формирования сознания должны совпасть много условий:
- наличие здорового человеческого мозга с зонами ответственными за мышление и за речь,
- воспитание и обучение речи в человеческом обществе владеющим речью,
- сформированная речь у данного человека.
У машины эти условия реализовать невозможно. Поэтому "«Воспитание» Личности и сознания на основе УКМ" невозможно.
Но оно и не нужно и даже вредно, и Вы сами же объяснили, почему вредно в главе
"Практические следствия: почему контроль над AGI - фундаментальная проблема".
А наглядно это показано в отличном фантастическом сериале "Подозреваемый" ("В поле зрения"). :)
Я уверена, что такой разум, как в сериале, создать невозможно, по крайней мере на нынешнем уровне развития технологий, но последствия его создания там показаны наглядно.
Не нужно и нерационально создавать сущности, которые никаких дополнительных задач не решают, но зато создают дополнительные и, возможно, непреодолимые проблемы для всего человечества. Да и зачем вообще тратить на это время и ресурсы?
Кстати, я полностью поддерживаю комментарий NeriaLab.
Я очень благодарен Вам за глубокий и многосторонний анализ. Но мне кажется (субъективно) что Вы несколько отходите от цели моей статьи:
Это описание концепта, а не технологии реализации заданных спецификацией прагматических свойств. В этих рамках мы не должны рассматривать как (технически) реализуются базовые идеи концепта, а только его классифицирующие характеристики
Исходя из п.п. 1. Вы неверно (на мой взгляд) классифицируете "социальное существо vs. машина" " но он же сам пишет, что Она возникает у социального существа А машина социальным существом не является. Потому что "
На самом деле, Вы сознательно, или неосознанно переводите акцент с концепта, на совсем второстепенные (для данной темы) вопросы:
а) Что считать машиной - является ли живой организм биологической машиной? Компьютер / киборг / многоножка с хоботом искусственно созданный (выращенный) из живых клеток будет машиной или существом? А если на кремневой или иной основе, - то это всегда машина? Или суть в чем-то ином? А может мы все (на системном, не социальном уровне) машины?
Т.е. акцент переводится в антропо-религиозный аспект...
б) Как должна происходить социализация (человека, щенка, птенца вороны, когнитивной машины)? Обязательно с участием ручек, ножек, пещеры, костра, школы, айфона и других атрибутов привычного нам социума? А если есть только клюв и человеческая семья в которой птенца выращиваю? Или даже просто стая взрослых особей с сложным социальным и коммуникативным поведением? Это уже не социализация? А если это слепо-глухо-немой человек от рождения, то он не может социализироваться и стать личностью, человеком, получить среднее, затем высшее образование? Но ведь исторические примеры говорят что может! И отдельные особи обезьянок, собачей, ворон тоже показывают удивительно социальное и осознанное поведение. Например в научных опытах повторенных в разных институтах Мира, вороны демонстрируют уровень интеллекта, сознания и социальности даже порою выше чем у 111 летних детей. Конечно в понятных им (воронам) ситуациях.
Исходя из п.п.2. у Вас усматривается якобы принципиальная невозможность социализации машины и\или живого существа обладающего только визуальным, текстовым и слуховым контактом с обществом - с знакомыми, клиентами, операторами, авторами книг и членами дискуссий на разные темы в социальных сетях. Вы пишите: "Основные характеристики социального существа Взаимодействие с другими: Способность и потребность в общении, поддержке связей с разнообразными людьми и участии в жизни общества.
Коммуникативные навыки:
Умение общаться, выражать свои мысли и желания, понимать других.
Саморегуляция:
Способность управлять своими инстинктами и эмоциями, соблюдать правила и нормы, принятые в обществе. "
Но Вы (на мой взгляд) опять смещаете акцент устанавливая фокус на " социального существа", хотя в моем концепте речь идет о СОЦИАЛЬНОМ ИНДИВИДУУМЕ.
Вы словно не замечаете, что все описанные Вами "особенности" уже и так явно или не явно закладываются в промпты и дата сеты при обучении нейронных или иных помощников.
И что-же по Вашему мешает "машине" иметь собственную систему формирования целей, интересов, защитных и развивающих социальных потребностей позволяющих ей общаться с нами (с собаками, с воронами, с кем угодно)?
О системе динамического управления Интересами и Потребностями Общего ИИ я пока писать не решаюсь, поскольку это выходит за рамки этики моего участия в соответствующей работе.
Но это как раз (если смотреть сугубо с технической программисткой стороны) самый не сложный вопрос, поверьте.
И вот что меня совсем удивило в конце вашего комментария: "Потому что для формирования сознания должны совпасть много условий:
наличие здорового человеческого мозга с зонами ответственными за мышление и за речь,
воспитание и обучение речи в человеческом обществе владеющим речью,
сформированная речь у данного человека."
а) Где я писал что речь идет о ВОССОЗДАНИИ аналога "здорового человеческого мозга"? По моему я четко указал, - Разумный Сознательный Общий ИИ будет крайне мало подобен по принципам функционирования человеческому мозгу. И еще менее нам ПОНЯТЕН!
б) Независимо от принципов функционирования Разумного Индивидуума (искусственного, инопланетного, виртуального в сети Интернет) для его социализации необходимо и достаточно иметь только три условия:Наличие социальной среды с которой субъект может двухсторонне общаться, задавая ей вопросы, выдавая свои реакции, получая информацию (отклики или запросы) от нее.
Наличие у субъекта технических (читай программных) возможностей анализа, самоанализа, и динамической памяти.
Наличия у субъекта некоторого набора собственных базовых целей (например: самосохранение, любознательность, стремление адаптироваться и получить более выгодные и безопасные позиции в среде), а так-же способность запоминать анализировать и улучшать новые инструкции поведения. Все это уже достигается даже в игрушечных Игровых Моделях.
И ПОСЛЕДНЕЕ: Вы пишете: "Да и зачем вообще тратить на это время и ресурсы?" Простите за грубый ответ (надеюсь без обид), но об ЭТОМ нас с Вами ни кто не спросит. Независимо от Вашего и моего мнения, и от ЛЮБЫХ законодательных ограничений, кто то, где то обязательно попробует. Если уже не пробует! И получив неоспоримые практические преимущества, начнет стремительно внедрять ЭТО для извлечения прибыли, военного и\или политического + технологического доминирования...
1.
На самом деле, Вы сознательно, или неосознанно переводите акцент с концепта, на совсем второстепенные (для данной темы) вопросы:
а) Что считать машиной - является ли живой организм биологической машиной? Компьютер / киборг / многоножка с хоботом искусственно созданный (выращенный) из живых клеток будет машиной или существом? А если на кремневой или иной основе, - то это всегда машина? Или суть в чем-то ином? А может мы все (на системном, не социальном уровне) машины?
Т.е. акцент переводится в антропо-религиозный аспект...
Это не второстепенный для данной темы вопрос. Вы и сами назвали его ключевым:
ключевой вопрос: что отличает просто мощный алгоритм от действительно сознающего разума?
И это как раз вопрос о том должен ли быть Искусственный Общий Интеллект (AGI) машиной или разумным существом?
Поэтому, безусловно, важно, чем отличаются машина и разумное существо. Они, конечно, отличаются тем, что разумное существо, в отличие от машины, качественно изменяется под влиянием среды, оно приобретает всё новые компетенции. Но это можно и сымитировать у машины. Поэтому важнее то, чем отличается их способы обработки информации и выбора способа деятельности. У машины и то, и другое жёстко запрограммировано, она не способна создавать новое, а у разумного существа есть подсознание с жёстко запрограммированными реакциями (инстинктами, рефлексами, автоматизмами), но и с творческими способностями, и сознание с разными видами мышления, есть разная мотивация (как биологически обоснованная, так и моральная и социальная) влияющая на выбор способа деятельности и прогностические способности.
Это уже доказывает, что разумное существо - это не машина. Можно всегда предсказать поведение машины, но нельзя точно предсказать поведение разумного существа в конкретной ситуации.
Кроме того, мотивом поведения разумного существа могут служить отвлечённые понятия и идеи, а поведение машины всегда будет подчинено программе.
Ну и, "разумное существо" и "живой организм" - это даже близко не синонимы. Мы - разумные существа - составляем мизерный процент от живых организмов. Поэтому вопрос "является ли живой организм биологической машиной?" не имеет никакого смысла, потому что неразумные существа с какой-то точки зрения можно считать биологическими машинами, а разумные существа - нет.
Как видите, ничего религиозного тут нет. ;)
Но именно это и является ответом на Ваш ключевой вопрос.
2.
Как должна происходить социализация (человека, щенка, птенца вороны, когнитивной машины)?
Дело в том, что по Вашим вопросам здесь понятно, что Вы не осознаёте, что такое социализация. Иначе бы Вы понимали, что социализация может быть только у разумного живого существа - человека, а не у щенка, птенца или машины. :)
"Социализация – это процесс становления личности, в ходе которого человек усваивает социальный опыт, ценности, нормы, навыки и знания, необходимые для успешного функционирования в обществе."
Поэтому ответ на 1 вопрос: социализация человека должна проходить в обществе людей.
Обязательно с участием ручек, ножек, пещеры, костра, школы, айфона и других атрибутов привычного нам социума?
А "социум" - это не ручки, ножки, пещера, школа, айфон, костёр, "Социум (от лат. socium — «общее») — это человеческая общность, включающая в себя людей, их взаимоотношения, формы взаимодействия и объединения, а также общие для них культурные, социальные нормы и ценности."
Ответ на 2 вопрос: нет, не обязательно.
А если есть только клюв и человеческая семья в которой птенца выращиваю? Или даже просто стая взрослых особей с сложным социальным и коммуникативным поведением? Это уже не социализация?
Это уже не социализация. Потому что птенец не человек и потому что стая - не человеческое общество.
Рассмотрим, что же такое общество:
"главным для общества является существование неких фундаментальных ценностей, благодаря которым каждый индивид ориентирован на соблюдение совместных норм жизнедеятельности, что является основой сохранения общества."
"Отличительным признаком общества является наличие в нём специальных органов для осуществления его саморегуляции и воспроизводства — социальных институтов, важнейшим из которых является социальный институт семьи, обусловливающий возникновение и существование прочих (брака, воспитания, образования, религии и т. д.)".
"Только взятые во взаимосвязи социальные общности, социальные группы, социальные организации и социальные институты (семья, образование, экономика, политика и т. п.) составляют общество в целом как самодостаточную систему."
Поскольку в стае, стаде, прайде нет ничего подобного, то и обществом они не являются.
А если это слепо-глухо-немой человек от рождения, то он не может социализироваться и стать личностью, человеком, получить среднее, затем высшее образование?
Слепоглухонемой человек вполне может и социализироваться, и стать личностью, и получить любое образование, если с рождения будет жить в человеческом обществе.
И отдельные особи обезьянок, собачей, ворон тоже показывают удивительно социальное и осознанное поведение. Например в научных опытах повторенных в разных институтах Мира, вороны демонстрируют уровень интеллекта, сознания и социальности даже порою выше чем у 111 летних детей. Конечно в понятных им (воронам) ситуациях.
Это фейк. Животные (кроме слонов и дельфинов) не показывают ни социального, ни осознанного поведения (по крайней мере нет никаких достоверных доказательств этого), просто многие люди очеловечивают животных, поскольку не имеют достаточных знаний о животном мире.
3.
Исходя из п.п.2. у Вас усматривается якобы принципиальная невозможность социализации машины и\или живого существа обладающего только визуальным, текстовым и слуховым контактом с обществом - с знакомыми, клиентами, операторами, авторами книг и членами дискуссий на разные темы в социальных сетях.
Исходя из любого пункта, я ничего подобного не утверждала. И не понимаю, на основании чего Вы сделали такой вывод. А вот то, что для социализации человека необходимо наличие у него разума и сознания - утверждаю. И для социализации совершенно не важно, в каком виде и какими средствами будет контакт человека с обществом, главное, чтобы он был.
4.
Вы словно не замечаете, что все описанные Вами "особенности" уже и так явно или не явно закладываются в промпты и дата сеты при обучении нейронных или иных помощников.
И как именно каждая из этих особенностей закладывается в промпты и датасеты? ;)
Вы просто выдаёте желаемое за действительное.
И что-же по Вашему мешает "машине" иметь собственную систему формирования целей, интересов, защитных и развивающих социальных потребностей позволяющих ей общаться с нами (с собаками, с воронами, с кем угодно)?
Машине мешает отсутствие сознания, самосознания, разума и мышления, обратной связи с окружающей средой и пр.
Ну и то, что машина - это не человек, и поэтому у неё по определению не может быть социальных потребностей :)
5.
Независимо от принципов функционирования Разумного Индивидуума (искусственного, инопланетного, виртуального в сети Интернет) для его социализации необходимо и достаточно иметь только три условия:
Наличие социальной среды с которой субъект может двухсторонне общаться, задавая ей вопросы, выдавая свои реакции, получая информацию (отклики или запросы) от нее.
Наличие у субъекта технических (читай программных) возможностей анализа, самоанализа, и динамической памяти.
Наличия у субъекта некоторого набора собственных базовых целей (например: самосохранение, любознательность, стремление адаптироваться и получить более выгодные и безопасные позиции в среде), а так-же способность запоминать анализировать и улучшать новые инструкции поведения. Все это уже достигается даже в игрушечных Игровых Моделях.
Как я написала выше, "Социализация – это процесс становления личности, в ходе которого человек усваивает социальный опыт, ценности, нормы, навыки и знания, необходимые для успешного функционирования в обществе."
Поэтому для социализации машина должна стать человеком, или хотя бы разумным живым существом. Ни то, ни другое на данном уровне развития технологий невозможно. :)
Но даже перечисленные Вами пункты недостижимы в реальности:
п.1. Машина не субъект, потому что субъект - это "познающий и действующий человек, существо, противостоящее внешнему миру как объекту познания."
И машина не может общаться, т.к. поиск чаще всего встречающихся сочетаний слов общением не является.
"Общение — это многоплановый, двусторонний процесс взаимодействия, целью которого является обмен информацией, опытом, чувствами и идеями между людьми, социальными группами или личностью и обществом."
А также у машины нет "своих реакций", поскольку нет самосознания, и все её реакции запрограммированы.
п.2. И у какого ИИ сейчас есть возможности анализа и самоанализа?
п.3. У машины нет собственных базовых целей. Такие цели можно запрограммировать, но "собственными" они от этого не станут.
6.
Независимо от Вашего и моего мнения, и от ЛЮБЫХ законодательных ограничений, кто то, где то обязательно попробует. Если уже не пробует! И получив неоспоримые практические преимущества, начнет стремительно внедрять ЭТО для извлечения прибыли, военного и\или политического + технологического доминирования...
Что пробуют, я не сомневаюсь. Но попытки совершить невозможное вряд ли приближают их к цели. Я уверена, что можно создать мыслящую машину, но нельзя создать машину с сознанием. Поэтому просто предостерегаю от бессмысленной траты времени, сил и денег. Я думаю, что нужно создавать то, что возможно: мыслящую машину и не отвлекаться на то, что не нужно и невозможно на данный момент.
Я подозреваю, что сверхразум с сознанием можно создать только на базе человека. И случится это не скоро.
Я бы посоветовала Вам использовать только те термины, значение которых Вы прочитали в специализированных научных словарях, тогда Вы хотя бы сами поймёте, в чём заблуждаетесь.
Спасибо за Ваш отклик. Относительно терминов: Внимательно прочитайте кто я по образованию, и еще прикиньте сколько лет я занимаюсь подобными и смежными (синергетическими) вопросами...
Относительно "Фейков", - читайте научные источники:
Коко (Koko) — горилла, обученная версия профессионального жестового языка (ASL). Жила в человеческом доме под опекой Фрэнсин Паттерсон. Несмотря на споры о полном владении языком, она демонстрировала 100% наличия личности, сознания и высокую социализацию в семье.
Уошо (Уошо) — шимпанзе, воспитанная в домашней семье, обученная жестовому языку. Известна тем, что передаёт знания жестов другим обезьянам. Демонстрировал сознательное творческое создание собственного общества и культурных традиции.
Ним Чимпски (Nim Chimpsky) — шимпанзе, который рос обучался английскому жестовому языку. Исследовался для оценки способностей к языку и сознанию. Доказано сознательное участие в социуме, важные социальные и когнитивные навыки, творчество, фантазия, абстрактное мышление на уровне ребенка.
Канзи (лексиграммы) — https://en.wikipedia.org/wiki/Great_ape_language
Коко (жестовый язык) — https://en.wikipedia.org/wiki/Koko_(gorilla)[4 ]
Уошо (жестовый язык) — видео https://www.youtube.com/watch?v=26j8D4-DjEo
Энкультурированные обезьяны и социализация — https://pmc.ncbi.nlm.nih.gov/articles/PMC3198823/
Относительно личности в у детей. В кругу моих учителей и известных мне авторитетных психологов идея о том, что личность появляется в подростковом возрасте является абсурдом. Возможно вы путаете с гражданской нормой ответственности (14, затем 18 а кое-где 21 лет)? Личность в материалистическом понимание и этого смысла (не слова по словарю, а именно смысла) - способность субъекта отличать себя от всего окружающего, и размышлять о себе как об уникальном объекте. Согласно многовековому опыту и наверное вашим личным воспоминаниям, личность проявляется уже в 2-3 года. Сознание проявляется примерно в 4-5 но иногда чуть позже. Мы не говорим о "Зрелой личности и ясном сознании", - что бы под этим ни понималось...
Сознание у собак и других социализированных в семье животных: - поспорьте об этом с американцами, французами, которые любят исследовать всякие феномены на собаках и высших птицах. Но лично я владелец 12 летней крупной собаки Русского Черного Терьера (третьей за мою жизнь) и вместе с детьми годами экспериментировавший с ней (и с предыдущими) утверждаю что личность, сознание, воображение и достаточный (для собаки) уровень социализации у псовых бесспорно есть.
К СЛОВУ: Вороны и Псовые официально называются Социальными (общественными) животными, поддерживающими язык, мораль, правила - хотя частично врожденные и совсем не человеческие.
Относительно смыслов и концептов. - В психологии, и теперь в технологии есть известный принцип "Утки": Если объект ходит как утка, крякает как утка и ведет себя как утка, то это утка, независимо от того, на что он внешне похож.
НИ Я НИ ВЫ НЕ МОЖЕТЕ доказать наличие сознания, разума, чувства личности, у Васи, Пети, у меня и даже у вас. Мы можем только предполагать это по наличию видимых свойств поведения и реакций. Утверждение о том, что все ЭТО свойственно только людям основано только на ограниченной статистике наблюдений тех или иных исследователей. Ни каких прямых доводов кроме наблюдаемого поведения у них нет. А у исследователей с иными наблюдениями за высшими животными другая статистика. А у исследователей марсиан или киборгов - если они появятся в поле зрения, будет третья статистика...
Вы не можете сказать что это невозможно, потому что опираетесь только на статистику наблюдений, и при этом очень ограниченную в видовом контексте...
Поскольку я занимаюсь ИИ не как любитель, могу вас заверить, что довольно многие современные ИИ системы, при отсутствии у вас иных средств контакта кроме текстового и даже голосового общения НА КОРОТКОМ УЧАСТКЕ БЕСЕДЫ (примерно час- два) не дадут вам ни какого шанса понять что это машина, не имеющая чувств, личности и сознания. Программ исследований AGI в том и состоит, чтобы сделать это поведение непрерывным и долгосрочным как у человека. И в этом направлении есть огромные успехи...
Вы можете сколько угодно классифицировать невозможность наличия аналога чувств, аналога личных целей, аналога личности и сознания у машин. Но согласно принципа Утки, когда машина будет демонстрировать аналогичное человеку поведение при общении и выборе целей (а уже она может самостоятельно выбирать цели на основе некоторого опыта), и по мощности логики и фантазии станет многократно превосходить в этом нас с вами, то Ваши рассуждения (действительно ли это ОНО или имитация) потеряют любой практический смысл.
В этом суть статьи и ее концепта.
Если у Вас есть ИИ, то значит система прошла строгие тесты Тьюринга и ToM?
У меня нет Общего ИИ (AGI), и насколько я знаю, пока ни у кого вроде тоже нет. Но в этом направлении ведутся очень дорогие (И.Маск, Гугл) в сотни миллиардов долларов работы. А так-же и очень дешевые но оригинальные... И основная проблема не в технологии, а в концепции - как заставить имеющиемя когнетивные модели и RAG-память + Семантические графы Интересов (мотивов - по нашему) работать РЕККУРЕНТНО на большом промежутке времени. Современные модели ограничены длиной контекста и способность декомпозиции ситуаций в ряды подситуаций. А так-же ограничены способностью динамически добавлять новый опыт. А эти проблемы больше концептуалыные и психологические чем программные - это уже наука которой мы пытаемся заниматься - Кибер Психология...
А при чём тут AGI? Это тесты именно для ИИ. Для AGI нужен ещё тест ARC + вышеперечисленные
Давайте я Вам повторю цитату, которую давал в другом комменте
"Удивительно, что кто-то считает, будто недавние успехи статистических языковых моделей имеют хоть какое-то отношение к интеллекту или даже к лингвистике"
- Ноам Хомски
что отличает просто мощный алгоритм от действительно сознающего разума
Мне кажется тут достаточно просто задаться вопросом, вот к нам прилетело что то, что выглядит как инопланетяне, при каких условиях мы признаем что это что то обладает сознающим разумом? На мой взгляд, ответ может быть только один, если эти существа смогли с нуля развить свою цивилизацию, от отсутствия знаний перейти к большому объему знаний о мире, то значит они осознают этот мир. Это основной критерий, основная функциональность сознания, а всякие там эмоции, личность, язык и пр. это уже детали реализации, они могут быть другие или вообще отсутствовать у инопланетян, но вряд ли мы будем думать о них как о лишенных сознания. Соответственно об этом и надо думать при построении AGI, как сделать систему в которой была бы функциональность позволяющая перейти от нуля знаний к тому их объему который есть у человечества. И тут наверно можно было бы копировать то что происходило с людьми, создавать множество общающихся между собой, рождающихся и умирающих нейросетей, использовать генетические алгоритмы чтобы отбирать те нейросети у которых получается перенять у "предков" информацию и добавить к ней свои наблюдения.
Путь к AGI: почему одного машинного обучения недостаточно и нужны принципы психологии