У меня нет Общего ИИ (AGI), и насколько я знаю, пока ни у кого вроде тоже нет. Но в этом направлении ведутся очень дорогие (И.Маск, Гугл) в сотни миллиардов долларов работы. А так-же и очень дешевые но оригинальные... И основная проблема не в технологии, а в концепции - как заставить имеющиемя когнетивные модели и RAG-память + Семантические графы Интересов (мотивов - по нашему) работать РЕККУРЕНТНО на большом промежутке времени. Современные модели ограничены длиной контекста и способность декомпозиции ситуаций в ряды подситуаций. А так-же ограничены способностью динамически добавлять новый опыт. А эти проблемы больше концептуалыные и психологические чем программные - это уже наука которой мы пытаемся заниматься - Кибер Психология...
Спасибо за Ваш отклик. Относительно терминов: Внимательно прочитайте кто я по образованию, и еще прикиньте сколько лет я занимаюсь подобными и смежными (синергетическими) вопросами...
Относительно "Фейков", - читайте научные источники:
Коко (Koko) — горилла, обученная версия профессионального жестового языка (ASL). Жила в человеческом доме под опекой Фрэнсин Паттерсон. Несмотря на споры о полном владении языком, она демонстрировала 100% наличия личности, сознания и высокую социализацию в семье.
Уошо (Уошо) — шимпанзе, воспитанная в домашней семье, обученная жестовому языку. Известна тем, что передаёт знания жестов другим обезьянам. Демонстрировал сознательное творческое создание собственного общества и культурных традиции.
Ним Чимпски (Nim Chimpsky) — шимпанзе, который рос обучался английскому жестовому языку. Исследовался для оценки способностей к языку и сознанию. Доказано сознательное участие в социуме, важные социальные и когнитивные навыки, творчество, фантазия, абстрактное мышление на уровне ребенка.
Относительно личности в у детей. В кругу моих учителей и известных мне авторитетных психологов идея о том, что личность появляется в подростковом возрасте является абсурдом. Возможно вы путаете с гражданской нормой ответственности (14, затем 18 а кое-где 21 лет)? Личность в материалистическом понимание и этого смысла (не слова по словарю, а именно смысла) - способность субъекта отличать себя от всего окружающего, и размышлять о себе как об уникальном объекте. Согласно многовековому опыту и наверное вашим личным воспоминаниям, личность проявляется уже в 2-3 года. Сознание проявляется примерно в 4-5 но иногда чуть позже. Мы не говорим о "Зрелой личности и ясном сознании", - что бы под этим ни понималось...
Сознание у собак и других социализированных в семье животных: - поспорьте об этом с американцами, французами, которые любят исследовать всякие феномены на собаках и высших птицах. Но лично я владелец 12 летней крупной собаки Русского Черного Терьера (третьей за мою жизнь) и вместе с детьми годами экспериментировавший с ней (и с предыдущими) утверждаю что личность, сознание, воображение и достаточный (для собаки) уровень социализации у псовых бесспорно есть. К СЛОВУ: Вороны и Псовые официально называются Социальными (общественными) животными, поддерживающими язык, мораль, правила - хотя частично врожденные и совсем не человеческие.
Относительно смыслов и концептов. - В психологии, и теперь в технологии есть известный принцип "Утки": Если объект ходит как утка, крякает как утка и ведет себя как утка, то это утка, независимо от того, на что он внешне похож.
НИ Я НИ ВЫ НЕ МОЖЕТЕ доказать наличие сознания, разума, чувства личности, у Васи, Пети, у меня и даже у вас. Мы можем только предполагать это по наличию видимых свойств поведения и реакций. Утверждение о том, что все ЭТО свойственно только людям основано только на ограниченной статистике наблюдений тех или иных исследователей. Ни каких прямых доводов кроме наблюдаемого поведения у них нет. А у исследователей с иными наблюдениями за высшими животными другая статистика. А у исследователей марсиан или киборгов - если они появятся в поле зрения, будет третья статистика...
Вы не можете сказать что это невозможно, потому что опираетесь только на статистику наблюдений, и при этом очень ограниченную в видовом контексте...
Поскольку я занимаюсь ИИ не как любитель, могу вас заверить, что довольно многие современные ИИ системы, при отсутствии у вас иных средств контакта кроме текстового и даже голосового общения НА КОРОТКОМ УЧАСТКЕ БЕСЕДЫ (примерно час- два) не дадут вам ни какого шанса понять что это машина, не имеющая чувств, личности и сознания. Программ исследований AGI в том и состоит, чтобы сделать это поведение непрерывным и долгосрочным как у человека. И в этом направлении есть огромные успехи...
Вы можете сколько угодно классифицировать невозможность наличия аналога чувств, аналога личных целей, аналога личности и сознания у машин. Но согласно принципа Утки, когда машина будет демонстрировать аналогичное человеку поведение при общении и выборе целей (а уже она может самостоятельно выбирать цели на основе некоторого опыта), и по мощности логики и фантазии станет многократно превосходить в этом нас с вами, то Ваши рассуждения (действительно ли это ОНО или имитация) потеряют любой практический смысл.
С Вашей точкой зрения в общем согласен. Но я описывал КОНЦЕПТ а не конкретную технологию . Поэтому не вижу фатальных противоречий между Вашим откликом и моей статьей. Спасибо.
Статья является описанием концепта, а не технологии. Поэтому затрагивать вопросы формирования динамических интересов и самоанализа я не стал. Это сугубо специфические темы для конкретной разработки. Однако, мне думается, что Вы правильно уловили контекс: системы собственных базовых интересов (мотивов) и механизмы их наследования (развития) у Субъекта по определению должны присутствовать.
Я очень благодарен Вам за глубокий и многосторонний анализ. Но мне кажется (субъективно) что Вы несколько отходите от цели моей статьи:
Это описание концепта, а не технологии реализации заданных спецификацией прагматических свойств. В этих рамках мы не должны рассматривать как (технически) реализуются базовые идеи концепта, а только его классифицирующие характеристики
Исходя из п.п. 1. Вы неверно (на мой взгляд) классифицируете "социальное существо vs. машина" " но он же сам пишет, что Она возникает у социального существа А машина социальным существом не является. Потому что "
На самом деле, Вы сознательно, или неосознанно переводите акцент с концепта, на совсем второстепенные (для данной темы) вопросы: а) Что считать машиной - является ли живой организм биологической машиной? Компьютер / киборг / многоножка с хоботом искусственно созданный (выращенный) из живых клеток будет машиной или существом? А если на кремневой или иной основе, - то это всегда машина? Или суть в чем-то ином? А может мы все (на системном, не социальном уровне) машины? Т.е. акцент переводится в антропо-религиозный аспект... б) Как должна происходить социализация (человека, щенка, птенца вороны, когнитивной машины)? Обязательно с участием ручек, ножек, пещеры, костра, школы, айфона и других атрибутов привычного нам социума? А если есть только клюв и человеческая семья в которой птенца выращиваю? Или даже просто стая взрослых особей с сложным социальным и коммуникативным поведением? Это уже не социализация? А если это слепо-глухо-немой человек от рождения, то он не может социализироваться и стать личностью, человеком, получить среднее, затем высшее образование? Но ведь исторические примеры говорят что может! И отдельные особи обезьянок, собачей, ворон тоже показывают удивительно социальное и осознанное поведение. Например в научных опытах повторенных в разных институтах Мира, вороны демонстрируют уровень интеллекта, сознания и социальности даже порою выше чем у 111 летних детей. Конечно в понятных им (воронам) ситуациях.
Исходя из п.п.2. у Вас усматривается якобы принципиальная невозможность социализации машины и\или живого существа обладающего только визуальным, текстовым и слуховым контактом с обществом - с знакомыми, клиентами, операторами, авторами книг и членами дискуссий на разные темы в социальных сетях. Вы пишите: "Основные характеристики социального существа Взаимодействие с другими: Способность и потребность в общении, поддержке связей с разнообразными людьми и участии в жизни общества.
Коммуникативные навыки: Умение общаться, выражать свои мысли и желания, понимать других.
Саморегуляция: Способность управлять своими инстинктами и эмоциями, соблюдать правила и нормы, принятые в обществе. "
Но Вы (на мой взгляд) опять смещаете акцент устанавливая фокус на " социального существа", хотя в моем концепте речь идет о СОЦИАЛЬНОМ ИНДИВИДУУМЕ.
Вы словно не замечаете, что все описанные Вами "особенности" уже и так явно или не явно закладываются в промпты и дата сеты при обучении нейронных или иных помощников.
И что-же по Вашему мешает "машине" иметь собственную систему формирования целей, интересов, защитных и развивающих социальных потребностей позволяющих ей общаться с нами (с собаками, с воронами, с кем угодно)?
О системе динамического управления Интересами и Потребностями Общего ИИ я пока писать не решаюсь, поскольку это выходит за рамки этики моего участия в соответствующей работе. Но это как раз (если смотреть сугубо с технической программисткой стороны) самый не сложный вопрос, поверьте.
И вот что меня совсем удивило в конце вашего комментария: "Потому что для формирования сознания должны совпасть много условий:
наличие здорового человеческого мозга с зонами ответственными за мышление и за речь,
воспитание и обучение речи в человеческом обществе владеющим речью,
сформированная речь у данного человека."
а) Где я писал что речь идет о ВОССОЗДАНИИ аналога "здорового человеческого мозга"? По моему я четко указал, - Разумный Сознательный Общий ИИ будет крайне мало подобен по принципам функционирования человеческому мозгу. И еще менее нам ПОНЯТЕН! б) Независимо от принципов функционирования Разумного Индивидуума (искусственного, инопланетного, виртуального в сети Интернет) для его социализации необходимо и достаточно иметь только три условия:
Наличие социальной среды с которой субъект может двухсторонне общаться, задавая ей вопросы, выдавая свои реакции, получая информацию (отклики или запросы) от нее.
Наличие у субъекта технических (читай программных) возможностей анализа, самоанализа, и динамической памяти.
Наличия у субъекта некоторого набора собственных базовых целей (например: самосохранение, любознательность, стремление адаптироваться и получить более выгодные и безопасные позиции в среде), а так-же способность запоминать анализировать и улучшать новые инструкции поведения. Все это уже достигается даже в игрушечных Игровых Моделях.
И ПОСЛЕДНЕЕ: Вы пишете: "Да и зачем вообще тратить на это время и ресурсы?" Простите за грубый ответ (надеюсь без обид), но об ЭТОМ нас с Вами ни кто не спросит. Независимо от Вашего и моего мнения, и от ЛЮБЫХ законодательных ограничений, кто то, где то обязательно попробует. Если уже не пробует! И получив неоспоримые практические преимущества, начнет стремительно внедрять ЭТО для извлечения прибыли, военного и\или политического + технологического доминирования...
У меня нет Общего ИИ (AGI), и насколько я знаю, пока ни у кого вроде тоже нет. Но в этом направлении ведутся очень дорогие (И.Маск, Гугл) в сотни миллиардов долларов работы. А так-же и очень дешевые но оригинальные... И основная проблема не в технологии, а в концепции - как заставить имеющиемя когнетивные модели и RAG-память + Семантические графы Интересов (мотивов - по нашему) работать РЕККУРЕНТНО на большом промежутке времени. Современные модели ограничены длиной контекста и способность декомпозиции ситуаций в ряды подситуаций. А так-же ограничены способностью динамически добавлять новый опыт. А эти проблемы больше концептуалыные и психологические чем программные - это уже наука которой мы пытаемся заниматься - Кибер Психология...
Спасибо за Ваш отклик. Относительно терминов: Внимательно прочитайте кто я по образованию, и еще прикиньте сколько лет я занимаюсь подобными и смежными (синергетическими) вопросами...
Относительно "Фейков", - читайте научные источники:
Коко (Koko) — горилла, обученная версия профессионального жестового языка (ASL). Жила в человеческом доме под опекой Фрэнсин Паттерсон. Несмотря на споры о полном владении языком, она демонстрировала 100% наличия личности, сознания и высокую социализацию в семье.
Уошо (Уошо) — шимпанзе, воспитанная в домашней семье, обученная жестовому языку. Известна тем, что передаёт знания жестов другим обезьянам. Демонстрировал сознательное творческое создание собственного общества и культурных традиции.
Ним Чимпски (Nim Chimpsky) — шимпанзе, который рос обучался английскому жестовому языку. Исследовался для оценки способностей к языку и сознанию. Доказано сознательное участие в социуме, важные социальные и когнитивные навыки, творчество, фантазия, абстрактное мышление на уровне ребенка.
Канзи (лексиграммы) — https://en.wikipedia.org/wiki/Great_ape_language
Коко (жестовый язык) — https://en.wikipedia.org/wiki/Koko_(gorilla)[4 ]
Уошо (жестовый язык) — видео https://www.youtube.com/watch?v=26j8D4-DjEo
Энкультурированные обезьяны и социализация — https://pmc.ncbi.nlm.nih.gov/articles/PMC3198823/
Относительно личности в у детей. В кругу моих учителей и известных мне авторитетных психологов идея о том, что личность появляется в подростковом возрасте является абсурдом. Возможно вы путаете с гражданской нормой ответственности (14, затем 18 а кое-где 21 лет)? Личность в материалистическом понимание и этого смысла (не слова по словарю, а именно смысла) - способность субъекта отличать себя от всего окружающего, и размышлять о себе как об уникальном объекте. Согласно многовековому опыту и наверное вашим личным воспоминаниям, личность проявляется уже в 2-3 года. Сознание проявляется примерно в 4-5 но иногда чуть позже. Мы не говорим о "Зрелой личности и ясном сознании", - что бы под этим ни понималось...
Сознание у собак и других социализированных в семье животных: - поспорьте об этом с американцами, французами, которые любят исследовать всякие феномены на собаках и высших птицах. Но лично я владелец 12 летней крупной собаки Русского Черного Терьера (третьей за мою жизнь) и вместе с детьми годами экспериментировавший с ней (и с предыдущими) утверждаю что личность, сознание, воображение и достаточный (для собаки) уровень социализации у псовых бесспорно есть.
К СЛОВУ: Вороны и Псовые официально называются Социальными (общественными) животными, поддерживающими язык, мораль, правила - хотя частично врожденные и совсем не человеческие.
Относительно смыслов и концептов. - В психологии, и теперь в технологии есть известный принцип "Утки": Если объект ходит как утка, крякает как утка и ведет себя как утка, то это утка, независимо от того, на что он внешне похож.
НИ Я НИ ВЫ НЕ МОЖЕТЕ доказать наличие сознания, разума, чувства личности, у Васи, Пети, у меня и даже у вас. Мы можем только предполагать это по наличию видимых свойств поведения и реакций. Утверждение о том, что все ЭТО свойственно только людям основано только на ограниченной статистике наблюдений тех или иных исследователей. Ни каких прямых доводов кроме наблюдаемого поведения у них нет. А у исследователей с иными наблюдениями за высшими животными другая статистика. А у исследователей марсиан или киборгов - если они появятся в поле зрения, будет третья статистика...
Вы не можете сказать что это невозможно, потому что опираетесь только на статистику наблюдений, и при этом очень ограниченную в видовом контексте...
Поскольку я занимаюсь ИИ не как любитель, могу вас заверить, что довольно многие современные ИИ системы, при отсутствии у вас иных средств контакта кроме текстового и даже голосового общения НА КОРОТКОМ УЧАСТКЕ БЕСЕДЫ (примерно час- два) не дадут вам ни какого шанса понять что это машина, не имеющая чувств, личности и сознания. Программ исследований AGI в том и состоит, чтобы сделать это поведение непрерывным и долгосрочным как у человека. И в этом направлении есть огромные успехи...
Вы можете сколько угодно классифицировать невозможность наличия аналога чувств, аналога личных целей, аналога личности и сознания у машин. Но согласно принципа Утки, когда машина будет демонстрировать аналогичное человеку поведение при общении и выборе целей (а уже она может самостоятельно выбирать цели на основе некоторого опыта), и по мощности логики и фантазии станет многократно превосходить в этом нас с вами, то Ваши рассуждения (действительно ли это ОНО или имитация) потеряют любой практический смысл.
В этом суть статьи и ее концепта.
С Вашей точкой зрения в общем согласен. Но я описывал КОНЦЕПТ а не конкретную технологию . Поэтому не вижу фатальных противоречий между Вашим откликом и моей статьей. Спасибо.
Статья является описанием концепта, а не технологии. Поэтому затрагивать вопросы формирования динамических интересов и самоанализа я не стал. Это сугубо специфические темы для конкретной разработки. Однако, мне думается, что Вы правильно уловили контекс: системы собственных базовых интересов (мотивов) и механизмы их наследования (развития) у Субъекта по определению должны присутствовать.
Я очень благодарен Вам за глубокий и многосторонний анализ. Но мне кажется (субъективно) что Вы несколько отходите от цели моей статьи:
Это описание концепта, а не технологии реализации заданных спецификацией прагматических свойств. В этих рамках мы не должны рассматривать как (технически) реализуются базовые идеи концепта, а только его классифицирующие характеристики
Исходя из п.п. 1. Вы неверно (на мой взгляд) классифицируете "социальное существо vs. машина" " но он же сам пишет, что Она возникает у социального существа А машина социальным существом не является. Потому что "
На самом деле, Вы сознательно, или неосознанно переводите акцент с концепта, на совсем второстепенные (для данной темы) вопросы:
а) Что считать машиной - является ли живой организм биологической машиной? Компьютер / киборг / многоножка с хоботом искусственно созданный (выращенный) из живых клеток будет машиной или существом? А если на кремневой или иной основе, - то это всегда машина? Или суть в чем-то ином? А может мы все (на системном, не социальном уровне) машины?
Т.е. акцент переводится в антропо-религиозный аспект...
б) Как должна происходить социализация (человека, щенка, птенца вороны, когнитивной машины)? Обязательно с участием ручек, ножек, пещеры, костра, школы, айфона и других атрибутов привычного нам социума? А если есть только клюв и человеческая семья в которой птенца выращиваю? Или даже просто стая взрослых особей с сложным социальным и коммуникативным поведением? Это уже не социализация? А если это слепо-глухо-немой человек от рождения, то он не может социализироваться и стать личностью, человеком, получить среднее, затем высшее образование? Но ведь исторические примеры говорят что может! И отдельные особи обезьянок, собачей, ворон тоже показывают удивительно социальное и осознанное поведение. Например в научных опытах повторенных в разных институтах Мира, вороны демонстрируют уровень интеллекта, сознания и социальности даже порою выше чем у 111 летних детей. Конечно в понятных им (воронам) ситуациях.
Исходя из п.п.2. у Вас усматривается якобы принципиальная невозможность социализации машины и\или живого существа обладающего только визуальным, текстовым и слуховым контактом с обществом - с знакомыми, клиентами, операторами, авторами книг и членами дискуссий на разные темы в социальных сетях. Вы пишите: "Основные характеристики социального существа Взаимодействие с другими: Способность и потребность в общении, поддержке связей с разнообразными людьми и участии в жизни общества.
Коммуникативные навыки:
Умение общаться, выражать свои мысли и желания, понимать других.
Саморегуляция:
Способность управлять своими инстинктами и эмоциями, соблюдать правила и нормы, принятые в обществе. "
Но Вы (на мой взгляд) опять смещаете акцент устанавливая фокус на " социального существа", хотя в моем концепте речь идет о СОЦИАЛЬНОМ ИНДИВИДУУМЕ.
Вы словно не замечаете, что все описанные Вами "особенности" уже и так явно или не явно закладываются в промпты и дата сеты при обучении нейронных или иных помощников.
И что-же по Вашему мешает "машине" иметь собственную систему формирования целей, интересов, защитных и развивающих социальных потребностей позволяющих ей общаться с нами (с собаками, с воронами, с кем угодно)?
О системе динамического управления Интересами и Потребностями Общего ИИ я пока писать не решаюсь, поскольку это выходит за рамки этики моего участия в соответствующей работе.
Но это как раз (если смотреть сугубо с технической программисткой стороны) самый не сложный вопрос, поверьте.
И вот что меня совсем удивило в конце вашего комментария: "Потому что для формирования сознания должны совпасть много условий:
наличие здорового человеческого мозга с зонами ответственными за мышление и за речь,
воспитание и обучение речи в человеческом обществе владеющим речью,
сформированная речь у данного человека."
а) Где я писал что речь идет о ВОССОЗДАНИИ аналога "здорового человеческого мозга"? По моему я четко указал, - Разумный Сознательный Общий ИИ будет крайне мало подобен по принципам функционирования человеческому мозгу. И еще менее нам ПОНЯТЕН!
б) Независимо от принципов функционирования Разумного Индивидуума (искусственного, инопланетного, виртуального в сети Интернет) для его социализации необходимо и достаточно иметь только три условия:
Наличие социальной среды с которой субъект может двухсторонне общаться, задавая ей вопросы, выдавая свои реакции, получая информацию (отклики или запросы) от нее.
Наличие у субъекта технических (читай программных) возможностей анализа, самоанализа, и динамической памяти.
Наличия у субъекта некоторого набора собственных базовых целей (например: самосохранение, любознательность, стремление адаптироваться и получить более выгодные и безопасные позиции в среде), а так-же способность запоминать анализировать и улучшать новые инструкции поведения. Все это уже достигается даже в игрушечных Игровых Моделях.
И ПОСЛЕДНЕЕ: Вы пишете: "Да и зачем вообще тратить на это время и ресурсы?" Простите за грубый ответ (надеюсь без обид), но об ЭТОМ нас с Вами ни кто не спросит. Независимо от Вашего и моего мнения, и от ЛЮБЫХ законодательных ограничений, кто то, где то обязательно попробует. Если уже не пробует! И получив неоспоримые практические преимущества, начнет стремительно внедрять ЭТО для извлечения прибыли, военного и\или политического + технологического доминирования...