В начале июля в Южной Корее состоялась международная конференция по машинному обучению (ICML), на которой было представлено много интересных докладов и были поставлены важные вопросы. Одним из приглашенных спикеров стал Arvind Narayanan, профессор компьютерных наук в Принстонском университете и директор Центра политики в области информационных технологий, а также автор многих работ по искусственному интеллекту. Его доклад был посвящен дальнейшим направлениям развития ИИ и месту человеку в будущем мире. Будут ли ИИ и человек идти рука об руку или кто‑то возьмет первенство? На эти и другие вопросы дал ответы Arvind Narayanan.
Мир наблюдает за тем, как мы адаптируемся.
С течением времени этот вопрос из философского превратился в практический. Образовались два основных нарратива. Если мы выберем первый, то, вероятно, упустим возможность развить полезные навыки.
Один из главных посылов выступления выражен в следующей цитате:
..view AI as a transformative technology on the scale of the industrial revolution
(рассматривать ИИ как технологию, меняющую мир в масштабах промышленной революции).
В качестве примера Arvind Narayanan приводит появления электричества и, вследствие, электрификацию заводов: процесс полной перестройки занял около 40 лет; изменения затронули как техническую составляющую, так и человеческую: рабочие учились, нанимались и увольнялись. Таким образом, спикер презентует схему применения diffision‑of‑innovations theory (теория распространения инноваций) к ИИ:
Следуя этой логике, мы сейчас находимся на этапе раннего внедрения (early adoption). Исследование, проведенное в 2026 году среди пользователей Claude, показало, что основными причинами беспокойствами, связанными с ИИ, являются ненадежность ИИ (26.7%), работа и экономика (22.3%), автономия и свобода действий (21.9%), когнитивная атрофия (16.3%), государственное управление (14.7%).
Arvind Narayanan предлагает сфокусироваться сначала на ненадежности: как «измерить» это понятие? Метрикой становится совокупность факторов: состоятельность (хотим, чтобы ИИ как можно чаще выдавал правильные ответы), устойчивость (работа в несовершенных условиях), калибровка (знание, когда верно/ неверно), операционная надежность (отсутствие катастрофических ошибок). Основным замечанием здесь является то, что так называемые «automatic agents» и «collaboration agents» должны обучаться, формироваться и оцениваться по‑разному.
Далее докладчик переходит ко второй проблеме: влиянию на рынок труда и отвечает на вопрос, почему это влияние необязательно негативное на примере software engineering. Статья 2019 года утверждает, что написание кода не является проблемным местом. С появлением и внедрением ИИ изменился баланс сил между пониманием требований заказчика, непосредственной разработкой, тестированием и обслуживанием продукта. Arvind Narayanan использует очень красноречивое сравнение с сэндвичем:
DECIDE — интерпретация запросов клиента, Product‑Market Fit (PMF)
EXECUTE — написание кода, отладка
DELIVER — глубокое понимание кода для предоставления для интеграции и обслуживания
Здесь приводится интересное сравнение ИИ с подъемным краном: ИИ усиливает возможности человека, но не заменяет его ответственность и контроль, как подъемный кран помогает поднять больший вес, но находится под управлением человека.
Recursive Self‑Improvement and Human‑like AI
Рассуждая на тему рекурсивного самообучения ИИ, спикер приходит к вопросу о том, что мы ожидаем от этого понятия: оптимизации гиперпараметров или полной замены креативности и интеллекта исследователя? Пока мы ближе к первому, так как ИИ лучше справляется с проверяемыми задачами. И тут мы сталкиваемся с проблемой: мы не знаем как точно проверить кретивность ИИ (парадокс креативности). Докладчик высказывает несколько гипотез об этом:
ИИ отстает от человека во многих аспектах креативности, особенно в репрезентативной способности: ограничения памяти у человека становятся стимулом к оптимизации представлений.
Человек способен перестраивать модель свое восприятие мира с появлением новой информации, ИИ же доучивается.
Economically transformative AI and Superintelligence
Утверждается, что современные модели уже достаточно продвинуты для того, чтобы изменить экономику. Но большинство проблем не могут быть решены «в лаборатории», например, лекарство от болезни требует масштабной и долгой проверки.
Главной мыслью второй темы является, что продвижения в исследовании ИИ также заставляют развиваться людей:
AI progress also improves human intelligence. We are the superintelligence.
В качестве вывода после этих секций, Arvind Narayanan говорит:
None of these dimensions (Recursive Self‑Improvement, Human‑like AI, Economically transformative AI and Superintelligence) is both achievable in the lab and will have drast economic or labor impacts. Our skills and agency will remain valuable for the foreeable future.
(Ни одно из этих направлений (Recursive Self‑Improvement, Human‑like AI, Economically transformative AI and Superintelligence) не может быть реализовано в лабораторных условиях и не окажет существенного влияния на экономику или рынок труда. Наши навыки и самостоятельность сохранят свою ценность в обозримом будущем.)
Как изменится роль человека с развитием ИИ?
Тут мы возвращаемся к первоначальному вопросу и ответ в том, что усилия сместятся от создания к оценке.
Почему оценивание ИИ устойчиво к автоматизации? Потому что для корректной оценки требуется выявить, что непосредственно оценивать и высокий профессионализм в конкретной области. Таким образом, оценка ИИ агентов стала отдельной отраслью: улучшаются методы оценки моделей, расширяется набор оценочных вопросов. Существует большой соблазн автоматизировать экспертную оценку и, по мнению докладчика, это ловушка. Хотя ИИ агенты могут быть полезны для простой проверки кода или воспроизведения результатов.
Если перейти от изучения области ИИ к науке в целом и задаться вопросом: «Как ИИ изменит научные исследования?», то Arvind Narayanan предлагает такой прогноз: внедрение ИИ в науку потребует новых инструментов, специализированных на создании человеческого понимания ИИ‑решений. Он говорит, что одной из целей науки является поиск решения некоторой задачи и автоматизация этого процесса противоречит тому, что представляет собой наука.
The human understanding is not some friction to be automated away. It is rather essential. It is central to the very purposes behind why we do science, and if we lose human understanding, we lose all of these things that flow from it.
(Человеческое понимание — это не какая‑то помеха, от которой можно избавиться с помощью автоматизации. Напротив, оно крайне важно. Оно лежит в основе самой науки, и если мы утратим человеческое понимание, то потеряем все, что с ним связано.)
Arvind Narayanan заканчивает свое выступление личными размышлениями по адаптации к ИИ:
рост способностей ИИ вместе со способностями развивающих его людей
изменение оптимальный баланс между производительностью и ростом
готовность к «когнитивному напряжению» (работать головой)
сохранение контроля: не принимать ответы ИИ за истину без проверки, не делегировать все обязанности ИИ.
