77-летний робототехник больше двадцати лет не давал больших интервью. Теперь он рассказал, почему верно оценил скорость развития ИИ, но совершенно иначе представлял сам машинный разум.

Ханс Моравек почти исчез из публичной жизни ещё в начале двухтысячных. Он продолжал заниматься промышленной робототехникой, но перестал ездить по конференциям и объяснять людям, каким будет их будущее. И за время его молчания один из самых смелых прогнозов конца XX века перестал выглядеть фантастикой.

В 1988 году Моравек выпустил книгу Mind Children. В ней он предположил, что примерно через сорок лет вычислительные системы достигнут человеческого уровня. Получался 2028 год.

Сейчас Моравеку 77 лет. До названного срока осталось полтора года, а спор уже идёт не о том, возможно ли появление такого ИИ, а о критериях. Современные модели превосходят человека в отдельных интеллектуальных задачах, но проваливаются там, где требуется устойчивое понимание ситуации, самостоятельность или работа в физическом мире. Чёткой границы, после которой можно объявить появление общего искусственного интеллекта, человечество так и не придумало. Как обычно, техническая часть развивается быстрее договорённостей о том, что именно мы строим.

Свой прогноз Моравек получил не из философских рассуждений. Он начал с инженерной оценки. Работая над компьютерным зрением, Моравек попытался определить, какая вычислительная мощность требуется человеческой сетчатке. Затем перенёс эту оценку на весь мозг и получил около десяти триллионов операций в секунду. После этого он сопоставил результат с тем, как на протяжении десятилетий дешевели вычисления. Линии пересеклись в конце 2020-х.

Расчёт был грубым, но направление Моравек выбрал верно. Он считал, что главным ограничением для искусственного интеллекта остаётся доступная вычислительная мощность. Многие исследователи того времени надеялись найти компактный набор правил, который сможет воспроизвести разум даже на слабом компьютере. Моравек видел проблему иначе: восприятие, движение и ориентация требуют огромного количества операций, которые человек выполняет автоматически и потому почти не замечает.

Его ранние роботы наглядно это показывали. Машина могла потратить десять или пятнадцать минут на обработку изображения, проехать около метра и снова остановиться для расчётов. Задача, с которой ребёнок справляется без усилий, оказывалась сложнее многих формальных вычислений. Позднее это наблюдение стали называть Парадоксом Моравека: действия, которые человеку кажутся простыми, часто оказываются для машины чрезвычайно трудными. А задачи, требующие от человека образования и сосредоточенности, компьютер иногда решает сравнительно легко.

Но устройство будущего ИИ Моравек представлял неправильно. Он ожидал, что искусственный разум соберут как сложную инженерную систему. Отдельный модуль будет отвечать за зрение, другой за память, третий за планирование. Разработчики зададут машине цели и ограничения, после чего поместят её в тело робота. Такой ИИ должен был сначала научиться видеть, двигаться и действовать в окружающем мире, а уже потом разговаривать и рассуждать на уровне человека. И в целом, это действительно напоминает путь развития человека.

Произошло почти обратное. Первые системы, которые всерьёз приблизились к человеческому уровню в широком наборе задач, не получили тела. Они появились в дата-центрах и научились работать с языком, изображениями и программным кодом. Их поведение не прописали в виде понятного набора правил. Модели обучили на огромных массивах данных. Способности возникли внутри нейросетей, устройство которых разработчики понимают лишь частично. Моравек долго относился к этому направлению скептически. В итоге именно нейросети сделали его старый прогноз похожим на правду.

Моравек правильно оценил рост вычислительных возможностей, но переоценил управляемость будущего разума. В спроектированной системе инженер хотя бы знает, где находится конкретное правило, цель или запрет. В большой нейросети поведение распределено между миллиардами параметров. Её можно обучать, проверять и ограничивать, но нельзя открыть схему и прочитать, почему она приняла именно такое решение.

Самого Моравека это тревожит меньше, чем многих его современников. Он никогда не считал человека окончательной формой разума. Название Mind Children отражало его отношение к машинам: они должны были стать интеллектуальными потомками человечества, продолжить развитие и со временем превзойти своих создателей.

Раньше он представлял этот переход более спокойным. Теперь Моравек признаёт, что новые системы оказались менее понятными и предсказуемыми, чем он ожидал. Потомки появились примерно в назначенный срок, но родители плохо понимают, что происходит у них в голове. И тут будто бы схожесть людьми становится как нельзя лучшей аналогией. Семейная история вполне человеческая, а экспоненциально выросшие вычислительные мощности (с ними и цены на железо) уже другие.

В молодости Моравек также писал о возможности перенести человеческое сознание в компьютер. Сейчас участвовать в таком эксперименте он не хочет. В 2022 году у него диагностировали миастению. Он быстро устаёт, почти не работает и наблюдает за развитием ИИ с планшета. Рассуждения о разуме, который может существовать независимо от тела, для него перестали быть чистой теорией. Моравек почти угадал время появления нового типа интеллекта, но ошибся в способе его создания.

Он думал, что люди спроектируют разум как устройство, с понятной архитектурой и заданными целями. Вместо этого они обучили систему на собственных текстах, изображениях и поступках, а затем начали выяснять, чему именно она научилась. Разница между этими двумя сценариями гораздо важнее погрешности в несколько лет. И жить в новой реальности нам с вами.