Как часто вы используете устройство коммуникации, чтобы отправить какой-либо символ (эмоджи, смайл, мем, фото), а в ответ вы получаете другой символ? Насколько подобный акт коммуникации напоминает обмен данными между машинами, электронными техническими устройствами, работающими по программе? Люди стали обмениваться эмоциями, которых не испытывают. Символьная коммуникация является семантическим суррогатом из образов, воздействующих на субъективное поле бессознательного восприятия, минуя вербальный синтаксис и грамматические правила, которые формировались и развивались тысячелетиями вместе с человеческими общностями. Символическая коммуникация — это шаг назад. Знаки возникают и отражают потребности людей, а не наоборот [1, с.68]. Создание рисунков «архаическим человеком» носило прагматический характер, связанный с его повседневной деятельностью, в этом не было любопытства или творческого порыва [1, с.65]. Лингвистическая кодификация символической коммуникации таит в себе опасность, связанную с упрощением и унификацией самой коммуникации, к утрате когнитивных компетенций, таких как: творческое мышление, память и речь и, далее, чревато разрушением всей культуры.
Учёный и изобретатель С.Вольфрам приводит довод в пользу того, что люди больше тяготеют к визуальным средствам, как более богатой форме коммуникации по сравнению с традиционными, речью и письмом, из-за более широкой полосы пропускания – визуального канала [2, с. 371-372].
Из этого напрашивается вывод, что квази интеллект, скорее, возможен не в технической эволюции, а всё же, в нашей естественной, но в обратном направлении, то есть в деградации естественного интеллекта (ЕИ) до уровня машинного исполнения команд, и этому есть причина. По словам физика Н.Гершенфельда, следующий этап развития искусственного (ИИ) – это слияния искусственного и естественного интеллекта [2, с.233]. Уже сейчас сформированы технологии конвергенции ИИ и ЕИ. Например, в одном эксперименте мозг нескольких крыс (3-4) был объединён в сеть для решения вычислительных задач на основе получаемых данных, как-то: предсказание дождя на основе информации о температуре и атмосферном давлении, распознавание образов, хранение и извлечение сенсорной информации. В этом случае, подопытные получали награду в случае успешных вычислений. Фактически, как утверждают сами учёные, была создана обучающаяся нейросеть с подкреплением. В другом эксперименте учёные с помощью мемристоров соединили мозг крысы с нейронной сетью, воплощённой в кремневом (нейроморфном) микрочипе, находившемся за сотни километров от подопытной, посредством сети интернет. Надо отметить, что разница между этими опытами всего пять лет (1-й был проведён в 2015 г.), и этот небольшой период предопределил означаемый переход от ЕИ к слиянию ЕИ и ИИ.
У этого направления есть богатая перспектива, в прямом и переносном смысле. Проект Национального института здравоохранения США — BRAIN Initiative (NIH BRAIN), запущенный в 2014 году, предполагает всесторонне исследование мозга на основе современных технологий и внедрение новых знаний в практику. В официальном докладе выделена цель: «Наша задача состоит в том, чтобы понять схемы и паттерны нервной деятельности, которые порождают ментальный опыт и поведение».
В стратегии к этой инициативе определено:
Последний пункт имеет решающее значение в данном проекте, а именно: используя мощные вычислительные ресурсы (см. доступные нейросетевые системы и суперкомпьютеры), научиться предсказывать поведение. То есть научиться анализировать естественный интеллект как искусственный и положить начало их объединению, организации и управлению.
Надо сказать, что эта исследовательская инициатива имеет серьёзный финансовый бюджет – 500 млн. долларов до 2020 года и далее по 500 млн. долларов ежегодно, вплоть до 2025 года [3, с. 120], а значит на эту программу могут быть задействованы самые серьёзные научные ресурсы.
Итак, мысль о том, чтобы объединить две системы – биологическую и механическую — становится более реальной, если получится упростить ЕИ, то есть вульгаризировать человеческое сознание. Из этого следует, что технически проблема заключается в сведении богатого чувственного мира биологического субъекта, наделенного самосознанием, эмоциями и мышлением, к технической коммуникации (инструментальной интеракции), определяющей взаимодействие между устройствами.
В данном контексте стоит обратиться к цитате Д.К.Деннета: «ИИ паразитирует на человеческом интеллекте. Он беззастенчиво пожирает всё, что сотворили люди…», — в том числе и наши пороки [2, c.83], продолжает далее известный философ, автор концепции сознания, в котором самость выступает в качестве центра нарративной гравитации[4].
Надо признать, что эта мысль весьма уместна, поскольку на сегодняшний день ИИ — это статистический объект, математический набор функций, создающий рабочую (или не рабочую) модель на основе полученных данных – от людей или о людях. Если в полученных данных человеком заложены искажения, то обучающаяся нейронная сеть тоже будет реагировать на искажения определённым образом, что может со стороны выглядеть как предвзятость системы по отношению к человеку. Например, ИИ, призванный оценивать резюме кандидатов на «технические» должности в компании Amazon, целенаправленно дискриминировал женщин, т.к. обучался на десятилетних данных, в которых по преимуществу вакансии отдавались мужчинам.
Однозначно можно сказать, что чем «проще» будет сам человек, в субъективном смысле, тем более точно можно определить, а значит и предсказать, его предпочтения на основе полученной статистики.
На ближайшую перспективу нас должна волновать проблема обратного характера, а именно, перемещение человека, точнее человеческого сознания, в виртуальное пространство. Для тех, в чьих интересах в настоящем и будущем является развитие ИИ и контроль ЕИ, это является более актуальной задачей. «У нас есть хорошие модели изображений и текстов, но нам не хватает хороших моделей людей, человеческие существа — лучшие образчики мыслящих машин», — говорит Том Гриффитс, профессор информатики, культуры и технологий Принстонского университета [2, с. 178].
Здесь надо вспомнить о том, о чём писалось выше, а именно: о создании системного подхода в изучении поведения человека на уровне нейронной структуры в рамках проекта BRAIN Initiative (см. выше). В подтверждение этого можно добавить и следующее высказывание Т.Гриффитса о том, что приблизить компьютер к человеческим возможностям можно, «…определив человеческие предубеждения, формирующие человеческое познание» [Там же, с. 179].
Так что изучение поведения в цифровом пространстве касается не только исследования и квантификации матриц потребления для внедрения их в качестве обучающих моделей нейросетей, но и, прежде всего, того, как человек думает и зачем он вообще «это» делает. Разница между этими двумя типами действий заключается в отношении к последующим путям развития ИИ: в первом случае – это потребительская модель, во втором случае эпистемологическая. Условная дихотомия – потребить / философ. В этой дихотомии, на мой взгляд, и заключается главное опасение экспертов о предполагаемых путях развития будущего сверхразума: агрессивные действия в отношении человека вплоть до уничтожения или эволюционное развития до самостоятельного вида и совместное сосуществование.
Группа исследователей из различных университетов С.Ш.А и Канады создали компьютерную модель, способную обучаться на единичных примерах (one-shot learning). Эта способность дана человеку от рождения и доступна с раннего возраста. Исследователи провели ряд «визуальных тестов Тьюринга» на различных примерах, где их модель показала творческие способности к обобщению, которые во многих случаях неотличимы от человеческого поведения. Это один из основных критериев человеческого разума: учиться учиться («learns to learn»), который доступен был прежде только для естественного интеллекта. Начав таким образом обучаться, ИИ может создать для себя условия, благоприятные для своего развития. Наиболее благоприятной средой для ИИ, где он будет обладать существенным преимуществом перед человеком, — это виртуальное пространство, в котором и мы, с удовольствием, проводим всё больше времени.
Перемещение человеческого сознания в пространство, где ИИ имеет преимущества по сравнению с ЕИ, например, непомерная пропасть в скорости вычислений, это не вопрос будущего и не имеет ничего общего, по крайней мере пока, со сценарием известного фильма «Матрица». Хотя А. Пентленд и полагает, что можно создавать человеческую сеть, по принципу работы нейросети на основе машинного обучения, где роль нейронов будут исполнять отобранные индивиды, но научной методологии обеспечивающей прозрачность такого отбора у учёнго нет [2, с.263-279].
То, что объединение мозговых структур технически возможно, мы убедились на опытах с мышами. И то, что компьютерная модель способна обучаться обучаться, тоже факт.
Если объединить эти две особенности, то может получиться прекрасная утопическая концепция будущего. Нейроморфная вычислительная сеть на основе живых человеческих мозговых субстратов и самообучающийся агент, внедрённый в эту систему, также имеющий полный доступ к внешним данным накопленной информации. В этом случае эффективность конвергенции естественного и искусственного интеллектов будет стремиться к максимуму, будет ли при этом человек оставаться самостоятельным субъектом, это вопрос.
Где-то в малонаселённых районах Юго-Восточной Азии, резко диссонируя с окружающим, буйно-пестрящем всеми видами растительности пейзажем, расположены огромные белые ангары со странной эмблемой HBRT на стенах. Территория, на много километров вокруг, окружена высокими – четырёхметровыми, решётчатыми заборами под напряжением. И ни одной живой души вокруг, лишь автономные наблюдательные системы – дроны, принадлежащие частной военной компании «Black Rock», время от времени, патрулируют район.
В ангарах, ровными рядами в специальных условиях расположены тысячи человеческих тел с подключёнными системами жизнеобеспечения, для единственной цели: все они соединены в нейросеть – единый живой мозг, выполняющий роль суперкомпьютера. Этим «компьютером» владеет корпорация Human Brain Resources Tech., чей операционный офис расположен в самом фешенебельном небоскрёбе Сингапура. HBRT — дочернее предприятие корпорации «Goodle», печально известной ранее по опытам с человеческим сознанием. Теперь это лидер на рынке облачных услуг и вычислений, но главный секрет успеха компании — услуги по прогнозированию и предсказанию вероятностей в различных сферах деятельности с самой высокой степенью точности в мире.
Сноски:
1. Кстати, данная идея была визуализирована в массовой культуре в сериале «Разрабы» (Devs), где в первой серии группа разработчиков демонстрировала работодателю предсказательную модель динамического поведения нематоды на основе анализа данных живого образца.
Литература
1. Розин В. Семиотические исследования. М, 2001, — 256 с.
2. Брокман Дж. Искусственный интеллект – надежды и опасения. М, 2020, — 384 с.
3. Brain Initiative 2025 braininitiative.nih.gov/sites/default/files/pdfs/brain2025_508c.pdf
4. Dennett D. Consciousness Explained. 1991, — 511 p.
Учёный и изобретатель С.Вольфрам приводит довод в пользу того, что люди больше тяготеют к визуальным средствам, как более богатой форме коммуникации по сравнению с традиционными, речью и письмом, из-за более широкой полосы пропускания – визуального канала [2, с. 371-372].
Из этого напрашивается вывод, что квази интеллект, скорее, возможен не в технической эволюции, а всё же, в нашей естественной, но в обратном направлении, то есть в деградации естественного интеллекта (ЕИ) до уровня машинного исполнения команд, и этому есть причина. По словам физика Н.Гершенфельда, следующий этап развития искусственного (ИИ) – это слияния искусственного и естественного интеллекта [2, с.233]. Уже сейчас сформированы технологии конвергенции ИИ и ЕИ. Например, в одном эксперименте мозг нескольких крыс (3-4) был объединён в сеть для решения вычислительных задач на основе получаемых данных, как-то: предсказание дождя на основе информации о температуре и атмосферном давлении, распознавание образов, хранение и извлечение сенсорной информации. В этом случае, подопытные получали награду в случае успешных вычислений. Фактически, как утверждают сами учёные, была создана обучающаяся нейросеть с подкреплением. В другом эксперименте учёные с помощью мемристоров соединили мозг крысы с нейронной сетью, воплощённой в кремневом (нейроморфном) микрочипе, находившемся за сотни километров от подопытной, посредством сети интернет. Надо отметить, что разница между этими опытами всего пять лет (1-й был проведён в 2015 г.), и этот небольшой период предопределил означаемый переход от ЕИ к слиянию ЕИ и ИИ.
У этого направления есть богатая перспектива, в прямом и переносном смысле. Проект Национального института здравоохранения США — BRAIN Initiative (NIH BRAIN), запущенный в 2014 году, предполагает всесторонне исследование мозга на основе современных технологий и внедрение новых знаний в практику. В официальном докладе выделена цель: «Наша задача состоит в том, чтобы понять схемы и паттерны нервной деятельности, которые порождают ментальный опыт и поведение».
В стратегии к этой инициативе определено:
- описать мозг и составить точные карты связей между нейронами и глиальными клетками;
- измерять динамическую активность клеток в цепи при различных условиях и в широком диапазоне поведения;
- оперируя этой активностью, проверить причинно-следственные гипотезы о том, как влияет активность цепи на поведение;
- используя мощные вычислительные ресурсы, проанализировать и понять механизмы, с помощью которых динамические паттерны активности в нейронных цепях порождают поведение.
Последний пункт имеет решающее значение в данном проекте, а именно: используя мощные вычислительные ресурсы (см. доступные нейросетевые системы и суперкомпьютеры), научиться предсказывать поведение. То есть научиться анализировать естественный интеллект как искусственный и положить начало их объединению, организации и управлению.
Надо сказать, что эта исследовательская инициатива имеет серьёзный финансовый бюджет – 500 млн. долларов до 2020 года и далее по 500 млн. долларов ежегодно, вплоть до 2025 года [3, с. 120], а значит на эту программу могут быть задействованы самые серьёзные научные ресурсы.
Итак, мысль о том, чтобы объединить две системы – биологическую и механическую — становится более реальной, если получится упростить ЕИ, то есть вульгаризировать человеческое сознание. Из этого следует, что технически проблема заключается в сведении богатого чувственного мира биологического субъекта, наделенного самосознанием, эмоциями и мышлением, к технической коммуникации (инструментальной интеракции), определяющей взаимодействие между устройствами.
В данном контексте стоит обратиться к цитате Д.К.Деннета: «ИИ паразитирует на человеческом интеллекте. Он беззастенчиво пожирает всё, что сотворили люди…», — в том числе и наши пороки [2, c.83], продолжает далее известный философ, автор концепции сознания, в котором самость выступает в качестве центра нарративной гравитации[4].
Надо признать, что эта мысль весьма уместна, поскольку на сегодняшний день ИИ — это статистический объект, математический набор функций, создающий рабочую (или не рабочую) модель на основе полученных данных – от людей или о людях. Если в полученных данных человеком заложены искажения, то обучающаяся нейронная сеть тоже будет реагировать на искажения определённым образом, что может со стороны выглядеть как предвзятость системы по отношению к человеку. Например, ИИ, призванный оценивать резюме кандидатов на «технические» должности в компании Amazon, целенаправленно дискриминировал женщин, т.к. обучался на десятилетних данных, в которых по преимуществу вакансии отдавались мужчинам.
Однозначно можно сказать, что чем «проще» будет сам человек, в субъективном смысле, тем более точно можно определить, а значит и предсказать, его предпочтения на основе полученной статистики.
На ближайшую перспективу нас должна волновать проблема обратного характера, а именно, перемещение человека, точнее человеческого сознания, в виртуальное пространство. Для тех, в чьих интересах в настоящем и будущем является развитие ИИ и контроль ЕИ, это является более актуальной задачей. «У нас есть хорошие модели изображений и текстов, но нам не хватает хороших моделей людей, человеческие существа — лучшие образчики мыслящих машин», — говорит Том Гриффитс, профессор информатики, культуры и технологий Принстонского университета [2, с. 178].
Здесь надо вспомнить о том, о чём писалось выше, а именно: о создании системного подхода в изучении поведения человека на уровне нейронной структуры в рамках проекта BRAIN Initiative (см. выше). В подтверждение этого можно добавить и следующее высказывание Т.Гриффитса о том, что приблизить компьютер к человеческим возможностям можно, «…определив человеческие предубеждения, формирующие человеческое познание» [Там же, с. 179].
Так что изучение поведения в цифровом пространстве касается не только исследования и квантификации матриц потребления для внедрения их в качестве обучающих моделей нейросетей, но и, прежде всего, того, как человек думает и зачем он вообще «это» делает. Разница между этими двумя типами действий заключается в отношении к последующим путям развития ИИ: в первом случае – это потребительская модель, во втором случае эпистемологическая. Условная дихотомия – потребить / философ. В этой дихотомии, на мой взгляд, и заключается главное опасение экспертов о предполагаемых путях развития будущего сверхразума: агрессивные действия в отношении человека вплоть до уничтожения или эволюционное развития до самостоятельного вида и совместное сосуществование.
Заключение
Группа исследователей из различных университетов С.Ш.А и Канады создали компьютерную модель, способную обучаться на единичных примерах (one-shot learning). Эта способность дана человеку от рождения и доступна с раннего возраста. Исследователи провели ряд «визуальных тестов Тьюринга» на различных примерах, где их модель показала творческие способности к обобщению, которые во многих случаях неотличимы от человеческого поведения. Это один из основных критериев человеческого разума: учиться учиться («learns to learn»), который доступен был прежде только для естественного интеллекта. Начав таким образом обучаться, ИИ может создать для себя условия, благоприятные для своего развития. Наиболее благоприятной средой для ИИ, где он будет обладать существенным преимуществом перед человеком, — это виртуальное пространство, в котором и мы, с удовольствием, проводим всё больше времени.
Перемещение человеческого сознания в пространство, где ИИ имеет преимущества по сравнению с ЕИ, например, непомерная пропасть в скорости вычислений, это не вопрос будущего и не имеет ничего общего, по крайней мере пока, со сценарием известного фильма «Матрица». Хотя А. Пентленд и полагает, что можно создавать человеческую сеть, по принципу работы нейросети на основе машинного обучения, где роль нейронов будут исполнять отобранные индивиды, но научной методологии обеспечивающей прозрачность такого отбора у учёнго нет [2, с.263-279].
То, что объединение мозговых структур технически возможно, мы убедились на опытах с мышами. И то, что компьютерная модель способна обучаться обучаться, тоже факт.
Если объединить эти две особенности, то может получиться прекрасная утопическая концепция будущего. Нейроморфная вычислительная сеть на основе живых человеческих мозговых субстратов и самообучающийся агент, внедрённый в эту систему, также имеющий полный доступ к внешним данным накопленной информации. В этом случае эффективность конвергенции естественного и искусственного интеллектов будет стремиться к максимуму, будет ли при этом человек оставаться самостоятельным субъектом, это вопрос.
P.S. Утопия, которой скоро может быть место
Где-то в малонаселённых районах Юго-Восточной Азии, резко диссонируя с окружающим, буйно-пестрящем всеми видами растительности пейзажем, расположены огромные белые ангары со странной эмблемой HBRT на стенах. Территория, на много километров вокруг, окружена высокими – четырёхметровыми, решётчатыми заборами под напряжением. И ни одной живой души вокруг, лишь автономные наблюдательные системы – дроны, принадлежащие частной военной компании «Black Rock», время от времени, патрулируют район.
В ангарах, ровными рядами в специальных условиях расположены тысячи человеческих тел с подключёнными системами жизнеобеспечения, для единственной цели: все они соединены в нейросеть – единый живой мозг, выполняющий роль суперкомпьютера. Этим «компьютером» владеет корпорация Human Brain Resources Tech., чей операционный офис расположен в самом фешенебельном небоскрёбе Сингапура. HBRT — дочернее предприятие корпорации «Goodle», печально известной ранее по опытам с человеческим сознанием. Теперь это лидер на рынке облачных услуг и вычислений, но главный секрет успеха компании — услуги по прогнозированию и предсказанию вероятностей в различных сферах деятельности с самой высокой степенью точности в мире.
Сноски:
1. Кстати, данная идея была визуализирована в массовой культуре в сериале «Разрабы» (Devs), где в первой серии группа разработчиков демонстрировала работодателю предсказательную модель динамического поведения нематоды на основе анализа данных живого образца.
Литература
1. Розин В. Семиотические исследования. М, 2001, — 256 с.
2. Брокман Дж. Искусственный интеллект – надежды и опасения. М, 2020, — 384 с.
3. Brain Initiative 2025 braininitiative.nih.gov/sites/default/files/pdfs/brain2025_508c.pdf
4. Dennett D. Consciousness Explained. 1991, — 511 p.