Google DeepMind опубликовала доклад "From AGI to ASI" о том, как искусственный интеллект будет развиваться после достижения человеческого уровня. Среди авторов — сооснователь DeepMind Шейн Легг, которому приписывают сам термин AGI, и Маркус Хаттер, создатель математической теории универсального интеллекта. Это первая работа крупной лаборатории, целиком посвященная не вопросу "когда появится AGI", а тому, что будет после.
Главное в репорте — планка. AGI авторы определяют как систему уровня медианного человека на большинстве когнитивных задач. А вот сверхинтеллект (ASI) должен превосходить не отдельного гения, а десятки тысяч скоординированных экспертов, которые работают над одной задачей десять лет. По масштабу это целое научное направление или крупная корпорация. Есть и хитрая оговорка: эксперты берутся с технологиями уровня 2010 года — иначе планка сдвигалась бы вечно, ведь люди с доступом к мощному ИИ сами становятся способнее.
От AGI к ASI авторы видят четыре пути, которые могут работать параллельно:
дальнейшее масштабирование вычислений, моделей и данных;
смена парадигмы — принципиально новые архитектуры вместо трансформеров;
рекурсивное самоулучшение, когда ИИ ускоряет разработку следующих версий ИИ;
коллективы из множества ИИ-агентов, чей суммарный интеллект превышает возможности каждого по отдельности.
При этом гарантий никто не дает. Для каждого пути в докладе перечислены узкие места: исчерпание качественных данных для обучения, слишком быстрый рост потребления энергии, недостаток финансирования, удорожание самих исследований по мере того, как "низко висящие плоды" сорваны, и возможное сознательное замедление со стороны регуляторов. Станут ли эти факторы непреодолимой стеной или лишь притормозят прогресс — открытый научный вопрос, честно пишут авторы.
Сроков в докладе нет вообще. Зато есть два отрезвляющих тезиса. Первый: сверхинтеллект не будет всемогущим — он ограничен скоростью света, законами термодинамики, теорией сложности и теоремами Геделя, поэтому обещания вроде "ИИ победит старение" остаются гипотезами. Второй: вместо одного резкого скачка человечество, скорее всего, ждет серия трансформаций — по мере того, как ИИ будет ускорять прогресс в разных областях науки и технологий.
А самая необычная деталь спрятана в первом разделе. Авторы прямо рекомендуют людям не читать доклад, а попросить своего ИИ-ассистента пересказать его — и оставили для ассистентов отдельные инструкции: что обязательно упомянуть, какие списки не сокращать и как оценить, выдержали ли аргументы проверку временем. Похоже, в DeepMind уже исходят из того, что научные статьи читают в основном модели.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
