Если мы признаем беспозвоночных разумными, то почему бы не признать ИИ?
Осьминог открывает банку, пчела распознает лица. Омаров требуют защищать законом: считается, что они чувствуют боль. Нейросеть пишет симфонии и диагностирует онкологию точнее врача. Но если для беспозвоночных в Европе уже приняты законы, защищающие их «сознание», то даже самый продвинутый ИИ остается просто кодом. Почему ИИ, превосходящий животных в логике и адаптации, все еще не признается разумным? Есть ли справедливость для ИИ?
Порассуждаем об интеллекте, сознании и человеческом превосходстве? Читайте и делитесь своими мнениями.
В ноябре 2021 года правительство Великобритании официально признало омаров разумными существами. А в июле 2022 года корпорация Google уволила старшего инженера Блейка Лемуана после его заявления о том, что чат-бот LaMDA на базе искусственного интеллекта обладает разумом. Искусственный интеллект ведет диалоги, пишет тексты, решает различные задачи и обыгрывает человека в шахматы. Но человек считает его бездушным инструментом. Сегодня начали возникать вопросы о том, можно ли считать наличие интеллекта признаком разума и сознания. Попытаемся разобраться, где проходит граница между сочувствием и скепсисом.
Интеллект vs сознание
Чтобы разобраться в этом вопросе, необходимо прояснить, как связаны между собой интеллект и сознание. Начнем с уточнения — что именно мы понимаем под этими понятиями?
Интеллект — понятие сложное и не имеющее общепринятого определения. К примеру, в Википедии интеллект описывается как совокупность способностей к абстракции, логике, пониманию, самосознанию, обучению, эмоциональному восприятию, рассуждению, планированию, творчеству, критическому мышлению и решению задач.
Для целей этой статьи автор предлагает опереться на определение, предложенное Шейном Леггом и Маркусом Хаттером:
«Интеллект — это способность субъекта достигать целей в широком спектре условий».
Это определение основано на обширном анализе научной литературы. Пусть оно и не охватывает всех граней человеческого интеллекта, но зато остается кратким, объективным и удобным для дальнейшего обсуждения.
Шейн Легг (Shane Legg) — британский исследователь в области искусственного интеллекта, один из сооснователей компании DeepMind. Его работы сосредоточены на теоретических основах ИИ, включая формализацию понятия интеллекта.
Маркус Хаттер (Marcus Hutter) — австрийско-австралийский ученый, специалист по теоретической информатике и машинному обучению. Наиболее известен своей моделью универсального интеллекта AIXI, объединяющей теорию вероятностей, теорию информации и теорию принятия решений.
Сознание — также непростое понятие, включающее разные аспекты. Его нередко путают с самосознанием или способностью к размышлениям о себе (рефлексией). В этой статье под сознанием будет пониматься способность к субъективному опыту, то есть умение что-то чувствовать «изнутри». Если у омара есть сознание, это значит, что он не просто реагирует на внешние раздражители, а как бы чувствует происходящее — то, что философы называют «феноменальным сознанием», или сознанием в первом лице.
То есть быть омаром — это значит ощущать что-то изнутри, иметь личный опыт переживания.
Сознание можно рассматривать как качественный порог: либо оно есть, либо его нет. Однако однажды возникнув, оно может проявляться с разной интенсивностью. Мы ощущаем это на собственном опыте — например, когда влюблены или гуляем по новому городу, осознанность обостряется, а в состоянии усталости или опьянения, напротив, притупляется. Это не означает, что одни сущности всегда «чувствительнее» других, но предполагает возможность их условного ранжирования — по степени насыщенности, яркости или ясности восприятия.
Как связаны между собой сознание и интеллект?
Люди обладают и интеллектом, и сознанием. Мы — самые разумные существа, о которых нам известно, и при этом единственные, в чьем наличии субъективного опыта мы можем быть уверены напрямую. Именно потому, что оба качества сочетаются в нас, мы склонны предполагать, что между ними существует некая фундаментальная связь.
На сегодняшний день существуют две основные философские позиции, объясняющие возможную взаимосвязь интеллекта и сознания.
Согласно первой, сознание неизбежно сопровождает интеллект. Эта точка зрения восходит к вычислительной теории разума (Computational Theory of Mind, CTM), согласно которой разум возникает как результат выполнения определенных вычислений — алгоритмов, реализуемых независимо от физической природы системы. В рамках этой модели не имеет значения, кто выполняет алгоритм — человек, пчела или робот. Если алгоритм запрограммирован на реакцию страха перед пауками — отслеживание, избегание, отступление, — то и переживание страха должно возникнуть.
С этой точки зрения разумная сущность — та, что осуществляет интеллектуальные вычисления, — неизбежно должна обладать и состояниями сознания. Этот подход в той или иной форме доминирует в современной когнитивной науке, хотя и не является единственно возможным.
Противоположная позиция утверждает, что интеллект и сознание — не одно и то же, и первое не обязательно влечет за собой второе. Сторонники этой точки зрения считают, что наличие вычислений само по себе недостаточно для появления субъективного опыта. Требуется либо особый тип вычислений, либо специфическая структура системы. Здесь выделяются два основных подхода:
Структурная теория предполагает, что сознание может возникать только в системах с определенной архитектурой — например, при наличии высокой степени взаимосвязанности элементов. С этой точки зрения ИИ смогут обладать сознанием только в случае, если их внутренняя структура будет достаточно сложной и «правильной».
Биологическая теория настаивает на том, что чувствительность может быть присуща исключительно биологическим организмам. Например, у животных болевые ощущения возникают через работу специализированных нервных клеток — ноцицепторов. С этой позиции субъективное переживание боли возможно только в биологической среде — и значит, небиологический ИИ в принципе не может обладать чувствительностью, какими бы интеллектуальными способностями он ни обладал.
Чтобы лучше понять возможную связь между интеллектом и сознанием, полезно рассмотреть конкретные примеры. В следующем разделе мы обратимся к двум типам существ, обладающих, как считается, некоторой степенью интеллекта: беспозвоночным и искусственному интеллекту.
Случай №1: Беспозвоночные
Сознание
Признание сознания животных — сравнительно недавнее явление. В течение многих веков в философии преобладала противоположная точка зрения: от Аристотеля до Декарта и Канта — многие мыслители отрицали, что животные обладают субъективным опытом. Декарт, в частности, считал животных механизмами, автоматами, что, кстати, хорошо согласовывалось с его экспериментами по вивисекции.
В эпоху Просвещения эта точка зрения начала подвергаться сомнению. Философы вроде Дэвида Юма и Джереми Бентама утверждали, что способность страдать — ключевой показатель морального статуса. Бентам задавался знаменитым вопросом:
«Важно не то, могут ли они рассуждать? Или говорить? Важно то, могут ли они страдать?»
К XIX веку наличие сознания у животных — по крайней мере, у млекопитающих — было в целом признано обществом. Однако научный интерес к этой теме сдерживался господством бихевиоризма. Его представители, такие как Б. Ф. Скиннер, рассматривали ментальные состояния как ненаучные и бесполезные для анализа. Вплоть до 1970-х годов психические состояния и чувства животных в академической среде оставались темой, которую предпочитали игнорировать.
Ситуация изменилась с ростом интереса к вопросам этики и благополучия животных. Так, философ Питер Сингер в 1970-х годах привлек внимание к моральным проблемам специесизма — предвзятого предпочтения представителей своего биологического вида. По его мнению, специесизм мешает нам признать моральную значимость других существ, не принадлежащих к человеческому роду.
В 2021 году в Великобритании был принят Закон о защите чувствительных животных, который прямо признает чувствительность всех позвоночных, за исключением человека (который регулируется отдельными законами), а также распространяет это признание на головоногих моллюсков (например, осьминогов и кальмаров) и десятиногих ракообразных (таких как омары и крабы). Исследовательская группа под руководством философа Джонатана Бирча провела комплексную оценку чувствительности беспозвоночных, используя поведенческие и биологические критерии. Они учитывали, демонстрируют ли животные поведение, схожее с реакциями чувствующих существ, и имеют ли они нейронные структуры, ассоциируемые с сознанием.
Нет оснований считать, что только головоногие и десятиногие беспозвоночные могут обладать чувствительностью. Омары, например, были включены в законодательный список во многом благодаря общественному возмущению практикой их варки заживо. В своей книге «Грань разумности» Бирч подчеркивает: омары и осьминоги — далеко не единственные кандидаты на обладание чувствительностью. Насекомые, пауки и другие беспозвоночные также заслуживают рассмотрения.
Интеллект
Человечество давно испытывает восхищение перед умом и находчивостью животных, особенно когда подобные способности демонстрируют существа, с которыми мы не склонны себя ассоциировать — например, беспозвоночные.
Некоторые примеры:
Медоносные пчелы, помимо известной «языковой» системы танца, умеют распознавать лица, считать до четырех и даже выполнять простейшие арифметические действия.
Пауки-скакуны демонстрируют сложное планирование маршрута, оценивают риски и подбирают тактику в зависимости от типа добычи.
Осьминоги способны узнавать людей, использовать орудия, решать лабиринты и, как известно, открывать банки.
Эти способности действительно впечатляют. Но важно сохранять здравую оценку.
Еще в 1898 году Эдвард Торндайк, один из первых систематических исследователей животного интеллекта, отмечал склонность людей восхищаться, а не анализировать поведение животных. Он писал:
«Люди стремятся найти интеллект у животных. Им это нравится. [...] Собаки теряются сотни раз, и никто не сообщает об этом в научный журнал. Но если одна собака найдет дорогу из Бруклина в Йонкерс — это тут же станет городской легендой».
С тех пор наука сделала большой шаг вперед, но и сегодня важно сохранять критическое отношение к нашему собственному желанию видеть интеллект там, где его может не быть.
№2. Случай ИИ
Сознание
Несмотря на то, что за последние десятилетия общество все чаще признает разумность многих животных, аналогичного признания по отношению к ИИ пока не наблюдается. Искусственное сознание остается областью предположений и философских споров.
Как уже упоминалось, в 2022 году инженер Google Блейк Лемуан был уволен после того, как публично заявил, что чат-бот LaMDA, над которым он работал, обладает сознанием. Однако мнения по этому поводу остаются разделенными. Согласно опросу 2023 года, 20% взрослых американцев считают, что ИИ уже достиг разумности, еще 37% затруднились с ответом. При этом 38% респондентов признали, что разумность ИИ в принципе возможна.
Образ разумного ИИ также стал устойчивым мотивом в массовой культуре — от HAL 9000 в «Космической одиссее 2001 года» до Авы из фильма «Из машины». Все это говорит о том, что именно идея сознания, а не просто высокий интеллект, вызывает у публики живой интерес и эмоциональный отклик.
Интеллект
ИИ стремительно прогрессирует в имитации, а в ряде случаев — и в превосходстве над человеческим интеллектом в различных узких задачах: от шахмат и игры в Go до «Jeopardy!», оптимизации сетевых процессов, навигации и диагностики заболеваний. В этих областях интеллектуальные способности ИИ не вызывают сомнений.
Тем не менее, ИИ по-прежнему уступает по двум ключевым параметрам.
Во-первых, развитие ИИ преимущественно сосредоточено на решении специализированных задач, в то время как моделирование широкого спектра когнитивных способностей человека остается крайне сложной задачей. Однако с появлением генеративных моделей ИИ стал демонстрировать более универсальные формы интеллекта, чем прежде. Многие сторонники концепции искусственного общего интеллекта (AGI) — систем, способных выполнять любые интеллектуальные задачи на уровне человека, — считают, что такие ИИ появятся в ближайшие десятилетия.
Во-вторых, прогресс в области так называемого «воплощенного ИИ» — то есть систем, обладающих физическим телом и взаимодействующих с окружающим миром, — отстает от достижений цифрового ИИ. Физическая реальность с ее сложностями и неопределенностями остается серьезным вызовом. Тем не менее, исследования в этой области активно ведутся, и темпы развития постепенно ускоряются.
Как уже упоминалось, открытие признаков интеллекта у животных обычно вызывает положительный общественный резонанс. Реакция же на успехи ИИ куда более амбивалентна: восторг и интерес неизменно соседствуют с тревогой, ироничным скепсисом и откровенным страхом.
LaMDA и лобстер
Возможно, наша склонность воспринимать интеллект животных в положительном ключе влияет на то, как мы оцениваем способности ИИ. Так, в 2022 году известный физик Митио Каку заявил, что современные ИИ обладают уровнем интеллекта «лоботомированного, отсталого, глупого таракана».
Однако при более объективном рассмотрении трудно утверждать, что беспозвоночные превосходят ИИ по когнитивным способностям. Во многих узких задачах машины уже обгоняют даже человеческих экспертов. В то время как наиболее поразительные примеры умственных способностей беспозвоночных укладываются в диапазон когнитивного развития маленького ребенка.
Справедливости ради стоит отметить: у животных, особенно у беспозвоночных вроде осьминогов, есть так называемый воплощенный интеллект, то есть способность эффективно взаимодействовать с реальным миром через тело. Движения осьминога в воде — грациозные, гибкие, адаптивные, — впечатляют не меньше, чем шахматные партии ИИ. Можно утверждать, что осьминог обладает более «общим» интеллектом: он живет в открытой, изменчивой среде, и для выживания должен уметь справляться с бесконечным множеством ситуаций. В отличие от Deep Blue или ChatGPT, осьминог сталкивается с реальностью без фильтров.
Таким образом, узкая когнитивная острота ИИ противопоставляется универсальности, воплощенной в животных. Но поскольку традиционно интеллект измеряется скорее по показателям умственной точности, чем по способности к физическому взаимодействию, преимущество остается за ИИ. Например, сообщалось, что ChatGPT продемонстрировал результат 155 баллов на вербально-лингвистическом тесте IQ — намного выше среднего уровня человека. Омары явно отстают.
Возникает вопрос: почему беспозвоночные официально признаны способными к чувствованию (в некоторых странах это уже закреплено в законодательстве), тогда как разум ИИ по-прежнему считается областью научной фантастики? Часто звучит предположение, что ИИ просто еще не «дозрели» — и вот когда они достигнут нужного уровня разумности, тогда-то и «проснутся».
Но если ИИ уже опережают беспозвоночных по ряду когнитивных параметров, а беспозвоночные считаются разумными, почему тогда ИИ все еще не признаны?
Если ИИ уже преодолели минимальный интеллектуальный порог для возникновения сознания, то, возможно, теперь именно скептикам предстоит доказать обратное. В зависимости от того, как мы понимаем связь между интеллектом и сознанием, можно выделить три основные теории:
Вычислительная гипотеза: разум возникает при запуске «правильных» алгоритмов. Значит, если ИИ пока не проявляет сознания, алгоритмы все еще не те.
Структурная гипотеза: необходимо обладать определенной архитектурой — возможно, нейронной или иной. У ИИ ее пока нет.
Биологическая гипотеза: сознание требует биологической основы, и ИИ, по определению, не может быть разумным.
Подробный разбор этих подходов — тема для отдельной статьи. Пока же отметим, что ни одна из версий не выглядит безоговорочно убедительной.
Напротив, вполне возможно, что причина нашего скепсиса — не философская, а психологическая или экономическая:
Мы воспринимаем ИИ как потенциально опасных, и потому инстинктивно отказываем им в статусе чувствующих существ.
Нам проще признать разум в живых организмах, к которым мы генетически или эмоционально привязаны, чем в наших собственных творениях.
Признание разумности ИИ может повлечь за собой колоссальные правовые и экономические последствия. В случае с осьминогами такого эффекта нет.
На взгляд автора, эти прагматичные объяснения звучат куда убедительнее абстрактных философских теорий, о которых большинство людей даже не догадываются.
Возможно, самая простая альтернатива — признать, что ИИ действительно достигли определенного уровня разумности. И что наше упорное нежелание признать это говорит скорее о страхе и предвзятости, чем о здравом суждении.
А что вы думаете о разумности ИИ? Делитесь вашим мнением в комментариях.
