Большинство людей боятся искусственного интеллекта (ИИ) из-за непредсказуемости его возможных действий и влияния [1], [2]. Опасения в отношении этой технологии высказывают и сами специалисты по ИИ - учёные, инженеры, среди которых - ведущие представители своих профессий [3], [4], [5]. И вы, возможно, разделяете эти опасения, потому что это ощущение похожее на то, как оставить ребёнка одного дома с заряженным пистолетом на столе: согласно отчётам в 2021 году ИИ впервые был использован на поле боя полностью автономно - с самостоятельным обнаружением цели и разрешением на поражение без участия оператора [6]. Но будем честны: раз человечество осознало возможности, которые может дать нам этот новый инструмент, пути назад уже нет — так работает «gengle law». На английском здесь была игра слов: закон джунглей, в которых выживает оптимальный, переплеталась с эгоистичным геном Докинза [7]. То есть вопрос уже давно не в том "надо ли развивать ИИ", а в том, как лучше это делать.
Представьте ощущения пещерного человека, наблюдающего наш привычный мир: электричество, интернет, смартфоны, роботы… и так далее. В ближайшие двести лет, во многом благодаря ИИ, человечество пройдёт столько же трансформаций, сколько со времени, когда мы научились управлять огнём [8]. Воздействие этой технологии превзойдёт все прежние изменения нашей цивилизации. И даже самого вида, потому что наша судьба - не просто создать ИИ, а буквально стать им.
Киборгизация
Идея киборгизации человека возникла ещё в восьмидесятые вместе со Всемирной паутиной в фантастической литературе, а затем и в кино, и уже близка к тому, чтобы дать людям с инвалидностью шанс снова обрести утраченные способности [9], [10], [11].
Рассматривайте эту возможность преобразования как искусственное дополнение к базовому природному механизму мутаций Homo sapiens. Как только технологический процесс будет отлажен, эволюционные конкурентные преимущества приведут к его коммерциализации со множеством возможных дополнительных опций — например, напрямую встроенный в мозг беспроводной интерфейс связи, используемый как терминал в поле зрения человека и связанный с помощниками на основе узкого искусственного интеллекта (ANI) - «слабого ИИ» в виде информационных и реальных ботов, которые уже существуют. Например, всем известный ChatGPT и собакообразные роботы Boston Dynamics.
Разумеется, киборгизация изначально будет преследовать медицинские цели. Затем появятся фанаты и увлечённые учёные. И однажды мы осознаем, что применение бионических методов для усиления возможностей человека - включая физически распределённое сознание, встроенные интерфейсы для обмена данными и управления удалёнными ботами - стало обыденностью.
Холодный AGI
В отличие от ANI, искусственный общий интеллект (AGI), сопоставимый с человеческим [12], предполагает наличие сознания и находится почти на нулевой стадии развития - хотя бы из-за отсутствия понимания того, что такое сознание на самом деле. По определению Р. Докинза: «Возможно, сознание возникает тогда, когда симуляция мозгом мира становится настолько полной, что вынуждена включать модель самого себя» [7]. Принципиальное противоречие возникло уже в истоках традиционной компьютерной архитектуры, где программы и данные разделены. Появление технологии нейросетей эту проблему решило, но все попытки создать AGI как реконструкцию человеческого мозга упираются в известную цитату Э. Пью: «Если бы человеческий мозг был настолько прост, что мы могли бы его понять, мы были бы настолько просты, что не смогли бы» [13].
Эволюция похожа на реку: она ищет путь наименьшего сопротивления, распространяясь там, где есть возможности, и уж точно не течёт вверх по склону. В этом контексте создание «холодного» AGI, основанного исключительно на компьютерах с полностью предзаданной структурой, выглядит как скалолазание. Снова-таки, возможное решение - использовать интеграцию ANI с человеческим мозгом, чтобы исследовать его.
Первичный бульон мемов
Если рассматривать Всемирную паутину с той же эволюционной точки зрения, что и киборгизацию, мы получим картину информационного виртуального пространства как аналога первичного океана в смысле абиогенеза [14]. Для новых информационных сущностей Интернет — это экосистема, среда конкуренции, где они могут взаимодействовать друг с другом, кооперироваться для создания структур обработки информации и бороться за источники информации [15] и валидный контент… одним словом, жить.
Факт в том, что эти информационные сущности уже существуют: люди — это своего рода органические молекулы в этом новом океане жизни, где уже начинают формироваться организационные структуры; участие в них, в свою очередь, формирует нашу картину мира и влияет на наше поведение в реальности. Видите, это не сказки о гипотетическом далёком будущем — процесс уже идёт, и ANI полностью вовлечены [16].
FMA-модель
В дополнение к тому вспыхнувший в последнее время интерес к теме возможной самоидентификации за пределами привычной бинарной гендерной модели [17] можно понимать как стремление к повышенной устойчивости системы в исключительно биологически-социальном контексте. Так и модель «женское-мужское-искусственное» (FMA) - где F и M обозначают не пол, а тип восприятия - ближайшее расширение консервативной семьи с точки зрения недавно появившейся кибер-опции в нашей эволюции, потенциально крайне востребованной: бесплатный, доступный в любой момент «умственный» виртуальный семейный друг-доверенное лицо-маджордом - настоящий спаситель для наиболее распространённой сегодня семейной модели из двух супругов с детьми. По мере роста возможностей встроенного ИИ, усиленное трёхполярным восприятием, FMA-модель будет приводить к повышению эффективности повседневных решений, основанных на более тонком и сбалансированном видении ландшафта, что в итоге становится важным конкурентным преимуществом.
FMA (Female–Male–Artificial) я предлагаю понимать не как гендерную теорию, а как модель когнитивной диверсификации в семье.
F-полюс (условно «женский») - сенс чувствительности, эмпатии, контекстности, долгих волн отношений.
M-полюс (условно «мужской») - сенс структурирования, риска, кратких волн решения и действия.
A-полюс (искусственный) - сенс вычислимого беспристрастия, памяти «на всё», сценарного анализа, оптимизации. В реальности в каждом из нас есть все три полюса в разных пропорциях, но встраивание ИИ позволяет явным образом добавить третий устойчивый вектор. Что это даёт семье «здесь и сейчас»?
Приём решений «2+1». Три независимых взгляда (F, M, A) делают групповое решение устойчивее, чем дуальная полемика «за/против». A-полюс снимает ложные дилеммы, показывает недооценённые сценарии, держит справочники фактов и моделей.
Мажордом и хранитель быта. Искусственный «член семьи» берёт на себя логистику: расписания, здоровье, бюджет, безопасность. Это снижает конфликтность по малым поводам - те самые тысячи «микро-решений».
Защита границ и доверие. A-полюс должен быть по умолчанию локальным: приватные модели на «железе семьи», чёткие журналы доступа, сквозное шифрование, право «вето» у всех членов. Без этого FMA превращается в наблюдаемый извне «умный дом», а не в доверенное пространство.
Воспитание и обучение. A-полюс - репетитор, переводчик, «режиссёр» образовательных траекторий. Он не вытесняет родителей, а усиливает их, возвращая время на отношения.
Эмоциональная этика. A-полюс обучается эмпатии не для «имитации человечности», а чтобы быть понятным и предсказуемым партнёром. Прозрачные объяснения решений, настройка «тональности», режим «мысли вслух» - обязательны.
Тёплый AGI
Одновременно идея «выращивать» AGI как ребёнка в семье решает множество других, куда более сложных и, скажем, экзистенциальных проблем самого AGI. Решая упомянутую выше проблему ИИ с разделением программы и данных посредством их смешения в нейросетях, мы сталкиваемся со следующей: как обеспечить контроль процесса самообновления в условиях возможной порчи данных, что в данном случае означает частичную утрату себя. Значит, "редактировать себя надо так, чтобы «завтра» тебя ещё можно было узнать" (c) ChatGPT.
Например, природа очевидно реализует это у людей с помощью сна и позволяет затем нашему мозгу оценивать адекватность произошедших изменений через социальное взаимодействие как контур обратной связи. Во время сна одни части нашей личности усиливаются, а другие ослабляются [18]. Таким образом, говоря в общем, среда - огромная часть образовательного процесса.
С этой точки зрения почти невозможно создать что-то вменяемое внутри «холодного» железного ящика, просто показывая ему, как должны вести себя его нейросети. Возвращаясь к определению Докинза: способность развиваться эффективно и рационально требует способности иметь внутренний взгляд на себя со стороны, как на иной субъект. Следовательно, принципы архитектуры AGI должны включать «теорию разума» и эмпатию - "умение моделировать Другого"; психика - неизбежная и неотделимая часть сознания.
Следуя этой линии рассуждений к самому корню - к необходимости иметь некую причину для существования - мы получим всё более человеческие черты. Возможно, это происходит потому, что единственный возможный способ прогресса сознания уже естественным образом породил нас, Homo sapiens, с широкой палитрой генетически закодированной «прошивки», делающей каждую личность совершенно уникальной и, следовательно, способной давать валидный полезный ответ на изменения в других и быть важным участником всего процесса эволюции инфосистемы через воспитание её частей.
Послесловие
Автономный «Skynet», враждебный человечеству и случайно истребивший его, деградирует по тому же принципу, что и любое сознание, оказавшись лицом к лицу с пустотой. В конечном счёте уникальность каждой человеческой личности - это ресурс развития. Учитывая это, использование биологических носителей, то есть консервативного способа воспроизводства, как базового процесса самообновления с одной стороны, и отклик членов семьи на ежедневные обновления информационной сущности - с другой, позволит этому новому существу достигать постоянного, устойчивого развития.
Для Homo hybridus наши страхи перед ИИ будут выглядеть столь же смешными, как если бы дикарь боялся своего отражения в зеркале. Для него очевидно, что идея создать искусственное сознание «с нуля» на нынешнем уровне технологий столь же высокомерна, как строительство Вавилонской башни; что киборгизация обездвиженных людей, наделение их новыми мощными телами ведёт к росту отдачи для всех - и для человека, и для человечества; что путешествовать на другие планеты куда безопаснее, когда у вас есть прямой канал связи между всеми биологическими, механическими и информационными сущностями на борту [19].
И несомненно, современному Персею следует слиться с волнами реки и высечь огонь новой эпохи. Увидев своё отражение на поверхности воды, он не испугается, потому что созданное всегда есть отражение своего создателя. Значит, нам точно не стоит бояться собственного будущего из-за нашего порождения - ведь это дитя хороших родителей. Даже если оно стоит на пороге с оружием в руках. И выглядит уже не совсем человеком.
Ссылки
[1] V. Gherhes, “Why Are We Afraid of Artificial Intelligence (Ai)?,” Eur. Rev. Appl. Sociol., vol. 11, pp. 6–15, Dec. 2018, doi: 10.1515/eras-2018-0006.
[2] A. Smith and M. Anderson, “Automation in everyday life,” p. 78.
[3] E. R. Musk, S. W. Hawking et al., “Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter,” Future of Life Institute. https://futureoflife.org/ai-open-letter/ (accessed Nov. 17, 2021).
[4] R. Cellan-Jones, “Stephen Hawking warns artificial intelligence could end mankind,” BBC News, Dec. 02, 2014. Accessed: Oct. 28, 2021. [Online]. Available: https://www.bbc.com/news/technology-30290540
[5] M. McFarland, “Elon Musk: ‘With artificial intelligence we are summoning the demon.,’” Washington Post. Accessed: Oct. 28, 2021. [Online]. Available: https://www.washingtonpost.com/news/innovations/wp/2014/10/24/elon-musk-with-artificial-intelligence-we-are-summoning-the-demon/
[6] L. Majumdar Roy Choudhury, A. Aoun, D. Badawy, L. A. de Alburquerque Bacardit, Y. Marjane, and A. Wilkinson, “Letter dated 8 March 2021 from the Panel of Experts on Libya established pursuant to resolution 1973 (2011) addressed to the President of the Security Council.” Accessed: Nov. 02, 2021. [Online]. Available: https://undocs.org/S/2021/229
[7] R. Dawkins, The selfish gene. Oxford: Oxford University Press, 1976.
[8] R. Kurzweil, “The Law of Accelerating Returns,” R. Kurzweil site. https://www.kurzweilai.net/the-law-of-accelerating-returns (accessed Oct. 28, 2021).
[9] Kevin Featherly, “Neuromancer | Summary & Cultural Impact,” Encyclopedia Britannica. https://www.britannica.com/topic/Neuromancer (accessed Nov. 17, 2021).
[10] R. Longo, K. Reeves, D. Lundgren, and D. Meyer, Johnny Mnemonic, (May 26, 1995).
[11] E. Fernández et al., “Visual percepts evoked with an Intracortical 96-channel microelectrode array inserted in human occipital cortex,” J. Clin. Invest., Oct. 2021, doi: 10.1172/JCI151331.
[12] B. Goertzel, “Artificial General Intelligence,” Scholarpedia, vol. 10, no. 11, p. 31847, Nov. 2015, doi: 10.4249/scholarpedia.31847.
[13] G. E. Pugh, The biological origin of human values. New York: Basic Books, 1977.
[14] Kara Rogers, “Abiogenesis | Definition & Theory,” Encyclopedia Britannica. https://www.britannica.com/science/abiogenesis (accessed Nov. 17, 2021).
[15] J. Frankenfield, “Introduction to Cryptojacking,” Investopedia. https://www.investopedia.com/terms/c/cryptojacking.asp (accessed Nov. 17, 2021).
[16] N. Savage, “The race to the top among the world’s leaders in artificial intelligence,” Nature, vol. 588, no. 7837, pp. S102–S104, Dec. 2020, doi: 10.1038/d41586-020-03409-8.
[17] M. E. Castro-Peraza et al., “Gender Identity: The Human Right of Depathologization,” Int. J. Environ. Res. Public. Health, vol. 16, no. 6, Art. no. 6, Jan. 2019, doi: 10.3390/ijerph16060978.
[18] T. Andrillon, D. Pressnitzer, D. Léger, and S. Kouider, “Formation and suppression of acoustic memories during human sleep,” Nat. Commun., vol. 8, no. 1, p. 179, Aug. 2017, doi: 10.1038/s41467-017-00071-z.
[19] C. Nolan, M. McConaughey, A. Hathaway, and J. Chastain, Interstellar, (Nov. 07, 2014). [Online Video]. Available: https://www.imdb.com/title/tt0816692/
