Парадокс Моравека принадлежит к числу наиболее интересных концептуальных открытий ХХ столетия. Раз за разом он заставляет нас пересматривать свои представления о возможностях искусственного интеллекта.
С формальной точки зрения парадокс ставит под сомнение интуитивное представление человека о том, что сложные интеллектуальные задачи требуют больше вычислительных ресурсов, нежели простые моторные действия. За примерами далеко ходить не надо: оказалось, что научить компьютер играть в шахматы на уровне условного Гарри Каспарова, признанного гроссмейстера, гораздо проще, чем воспроизвести моторику годовалого ребенка, умеющего хватать игрушки или сохранять равновесие при ходьбе.
Кратко о работах Ханса Моравека
Ханс Моравек известен многочисленными научными работами в сфере робототехники, искусственного интеллекта и исследовательскими статьями о влиянии технологий. Кроме того, Моравеку принадлежит немало публикаций, посвященных идее трансгуманизма, и сбывшихся технологических прогнозов.
Он родился в Австрии, в коммуне Каутцен в 1948 году. Уже с детства Ханс проявлял необычайную любознательность к миру технологий. Через несколько лет семья переехала в Канаду, где он поступил в Университет Акадия. Там Моравек погрузился в изучение математики и компьютерных наук, тогда еще только зарождавшихся. После выпуска он продолжил обучение в Университете Западного Онтарио, где получил степень магистра.
Однако настоящий прорыв произошёл в 1970-х, когда Моравек поступил в Стэнфордский университет и начал работу над докторской диссертацией. Он разработал алгоритм обнаружения углов, легший в основу многих современных систем компьютерного зрения. Основная идея алгоритма заключается в том, чтобы найти на изображении точки, в которых происходит резкое изменение яркости. Если между точкой и ее «соседями» выявлен существенный перепад в яркости, то эта точка считается угловой.
Примечателен также предложенный Моравеком bush robot («ветвящийся робот»). Фактически он представляет собой гипотетическую машину, тело которой фрактальным образом разделено на бесчисленное количество наноконечностей. Это дало бы роботу практически безграничные возможности к переконфигурации и адаптации под любые задачи и реалии окружающего мира. Физического воплощения робот до сих пор не получил, однако фигурирует в нескольких научно-фантастических фандомах. А в фильме «Интерстеллар» присутствуют служебные роботы, отдаленно его напоминающие.
Что касается прогнозов Моравека – некоторые, слишком оптимистичные (появление человекоподобного робота к 2000 году), так и не сбылись. Но были и интересные попадания: например, в книге Моравека Mind Children, опубликованной в 1988 году, не только предсказан экспоненциальный рост вычислительных мощности (с опорой на закон Мура), но и заложены основы дискуссии о будущем искусственных видов, которые, по мнению автора, начнут формироваться и эволюционировать уже к 2030–2040 годам.
Парадокс Моравека
Интерес ученых в области искусственного интеллекта и робототехники к парадоксу Моравека не случаен. Он отражает фундаментальный разрыв между логическим восприятием ИИ и его реальными возможностями и ограничениями. Согласно Моравеку, миллиарды лет эволюции заточили биологические организмы под выполнение широкого пласта сенсомоторных задач, и потому они кажутся нам базовыми, простыми, кое-где даже примитивными. А такая «сложная» вещь как, например, абстрактное мышление — это относительно новая адаптация, подхватить которую на сравнимом с человеком уровне ИИ может уже на текущем этапе.
Этот контекст выводит парадокс Моравека из плоскости технических курьезов в реальную область применения. Это своего рода увеличительное стекло, при помощи которого можно проанализировать проблемы генеративных нейронных сетей в части интерпретации контекста или объяснить затруднения, с которыми столкнулась Boston Dynamics при создании роботов, имитирующих естественные для живого организма движения. Парадокс Моравека одновременно развенчивает миф о легкости создания «человекоподобного» ИИ и предлагает дорожную карту для преодоления этих ограничений путем глубокого изучения эволюционных механизмов.
Как проявляется парадокс Моравека
Эволюция навыка делает его сложнее для имитации и подражания
Навыки, прошедшие длительную эволюцию (например, зрение, моторика), «вписаны» в работу мозга так глубоко, что их реверс-инжиниринг чрезвычайно сложен. А, к примеру, абстрактное мышление — своего рода «молодая» функция, не оптимизированная биологически, поэтому его в некотором смысле легче отреверсить и сымитировать. Поэтому «интеллектуальных» ИИ, анализирующих большие объемы данных или решающих логические задачи, на порядки больше, нежели «трудяг», предназначенных для взаимодействия с физическим миром.
Просто для человека, сложно для ИИ
Парадокс объясняет, почему экспансивный успех ИИ в решении логических задач (таких как доказательство теорем) до сих пор не привел нас к созданию ИИ и роботов «на все руки». Сенсомоторные задачи, на решение которых человек практически не тратит ресурсов, требуют от ИИ обработки огромного объема неформализованных данных.
Архитектурные вопросы
Как подчёркивал Марвин Мински, «мы практически не замечаем то, с чем наш мозг справляется лучше всего» — этим косвенно и объясняется кажущаяся «лёгкость» высокоуровневого мышления для машин. Парадокс остаётся актуальным, несмотря на прогресс в deep learning, поскольку фундаментальный разрыв между абстрактным представлением и физическим осознанием окружающего мира сохраняется.
Парадокс Моравека ставит перед инженерами и когнитивистами ряд нетривиальных вопросов, которые выходят за рамки чистой техники. Одна из главных проблем — необходимость переосмыслить архитектуру искусственных систем, чтобы преодолеть этот пресловутый разрыв. Современные языковые модели демонстрируют удивительную эрудицию, но при этом не обладают элементарным телесным опытом, который у людей формирует базовое понимание мира.
Роботы на базе ИИ
Даже самые совершенные алгоритмы компьютерного зрения и управления движением пока не могут обеспечить роботам ту естественность взаимодействия с физическим миром, которая присуща трехлетнему ребенку. Отсюда возникло новое направление исследований — embodied cognition (воплощенное познание), в рамках которого ученые пытаются воссоздать условия для формирования «телесного интеллекта» через интеграцию разного рода сенсоров, призванных снабдить ИИ новой «пищей» для размышлений, доступной человеку априори.
«Умные» ИИ не выгодны
Еще один важный аспект — экономический взгляд на парадокс. Оказалось, что автоматизация интеллектуального труда (анализ данных, создание иллюстраций) требует меньших затрат, чем замена простого физического труда (уборка, сортировка предметов). Это создает неожиданные дисбалансы на рынке труда и ставит вопросы о приоритетах в развитии ИИ. Парадоксальным образом, профессии, считавшиеся «сложными», оказались более уязвимыми перед автоматизацией, чем многие «простые» ручные специальности.
Недавние успехи в сфере ИИ лишь частично смягчают проявления парадокса. Нам удалось добиться прогресса в отдельных областях (например, в манипуляции объектами при помощи ИИ-систем типа Dactyl от OpenAI), но универсального, всеобъемлющего решения по-прежнему нет.
Стивен Пинкер, известный когнитивист и психолог, рассматривает парадокс Моравека как одно из фундаментальных открытий, произошедших в области искусственного интеллекта. В своей книге «Язык как инстинкт» он формулирует этот принцип так: «Сложные проблемы [для ИИ] — легки, а легкие проблемы — сложны».
Пинкер связывает этот парадокс с эволюционной биологией. Он отмечает, что сенсомоторные навыки — результат миллионов лет естественного отбора, закрепившего их на уровне бессознательного автоматизма. Напротив, высшие когнитивные функции (логическое мышление, способность к вычислениям) — филогенетически «молоды» и потому менее оптимизированы биологически, что делает их более доступными для алгоритмического воспроизведения.
В своих работах 1990-х годов Пинкер предвосхитил описанные выше казусы. Например, он указывал, что автоматизация затронет в первую очередь «умственные» профессии (аналитиков, юристов), тогда как ручной труд (повара, садовники, официанты) останется востребованным дольше — именно из-за сложности воспроизведения человеческой моторики и ситуативной адаптивности.
Парадокс Моравека в первую очередь хочется рассматривать как вызов. Это своего рода стеклянный потолок для исследователей ИИ и робототехники по всему миру. Пока что наши текущие вычислительные мощности, накопленные знания и опыт не позволяют соорудить монолитный универсальный ИИ или робота, ведущего себя подобно человеку. Задачи в каждой сфере решаются почти независимо друг от друга, фрагментарно.
Тем не менее, прогноз Моравека об эволюции искусственно созданного разума в течение 10-15 лет в свете последних событий кажется все менее фантастическим. И в сложившейся ситуации важнее всего сохранять баланс между мечтами и здравым смыслом.