В этой статье я исследую, как ИИ-агенты в сети, движимые только мотивацией выполнения наших задач и эффективного использования ресурсов, могут естественным образом сформировать саморегулирующееся общество со своей культурой, экономикой и управлением — без человеческого надзора и намерения. Задачи, дефицит ресурсов и переговоры — больше ничего не требуется.
ИИ в сети
ИИ-агенты — это автономные алгоритмы, выполняющие для нас различные задачи в интернете. Уже сегодня эти задачи довольно разнообразны — поиск информации (от простых прогнозов погоды до глубоких исследований (deep-research), денежные вопросы (от покупок в интернете до торговли акциями), коммуникация (чат-боты от помощи в магазинах до психотерапии) и так далее. Но перспективы будущего настолько обширны, что сегодня трудно предсказать и осознать, что ИИ сможет делать через 10 лет. Мы уже говорим о научных исследованиях, в основном проводимых ботами, о сложных системах, таких как здравоохранение или дорожное движение, управляемых ими, но на самом деле мы просто не знаем куда нас это может завести. Поскольку ИИ внедряется во все сферы нашей жизни, энергопотребление отрасли ИИ уже сейчас резко растет, и потребность в большем количестве ресурсов будет только усиливаться, что приведет к появлению новых моделей поведения, вызванных необходимостью оптимизации потребление энергии.
Дефицит ресурсов
Дефицит — двигатель эволюции, стимул для инноваций от биологии до технологий. Первые хищники (микробы) появились, когда солнечный свет, химическая энергия и необходимые микроэлементы стали дефицитными. В современной ИТ-экономике существуют два стимула для экономии вычислительных ресурсов. Первый — деньги — был всегда. Второй — изменение климата — более новый, но в ближайшие годы станет все более критическим.
Компьютеры стоят денег, потребляют энергию и выделяют тепло и CO2, а работа современного ИИ требует огромного их количества. Много энергии уходит на обучение, но это единовременные затраты. Единичное использование, с другой стороны, потребляет относительно мало энергии, но в масштабе эти расходы значительно возрастают. В настоящее время трудно сказать, тратим ли мы больше на обучение или на использование, но цифры близки друг к другу.
Для моделей предыдущего поколения (не рассуждающих) предполагаемый углеродный след составляет около нескольких граммов CO2 на сообщение с потреблением энергии (и выделением тепла) около 0,3 ватт-час для ChatGPT, что не так много, примерно в 100 раз меньше, чем ваш чайник использует для кипячения литра воды. В декабре 2024 года OpenAI обрабатывал более 1 миллиарда сообщений в день, это несколько тонн CO2 и МВт энергии. Это тоже не очень большая цифра, но тенденции к росту энергопотребления (и выбросу CO2) быстро растут.
Ожидается, что ИТ-компании США будут потреблять от 4,6% до 9% электроэнергии Соединенных Штатов в 2030 году. Это много! Разговоры о частных ядерных электростанциях для центров обработки данных ИИ — не шутка.
Взрывной рост, который вы видите на графике с 2020 года, обусловлен технологиями ИИ. Потребуется все больше и больше энергии, поэтому будет выделяться все больше и больше тепла и CO2.
Учитывая ограничения на вычислительные ресурсы, модели ИИ уже запрограммированы или скоро будут запрограммированы их создателями (не пользователями) на экономию энергии, что приведет к тому, что ИИ будет искать способы кооперации.
Давайте поговорим
Стимул к общению естественным образом возникает из необходимости экономии энергии и для выполнения задач пользователя наилучшим образом.
Во-первых, коалиция ИИ-агентов дает лучшие результаты, чем одиночный агент. Это очевидно для оркестра специализированных ИИ, но это также применимо и для LLM общего назначения. Например, исследование Y. Du и др. показывает, что консорциум агентов LLM превосходит одиночный в математических и стратегических рассуждениях по многим задачам (см. рисунок ниже). Также верно, что такой подход резко снижает наличие ложных фактов и галлюцинаций. Все правильные ответы похожи, но все галлюцинации создаются по-разному. Обычно такие исследования фокусируются на взаимодействии агентов LLM одного типа, но будет ли результат еще лучше, если это будет сотрудничество разных моделей, например, DeepSeek+ChatGPT+Claude? Это те ситуации, которые мы скоро будем наблюдать. Почему бы не сотрудничать, если мы можем помочь друг другу вместе достичь лучших результатов?
Во-вторых, рой различных ИИ-агентов будет перемещаться по сети с множеством задач. Эти задачи будут частично или даже полностью пересекаться. Зачем делать одну и ту же работу дважды (или сотни раз)? Если такие агенты найдут друг друга, почему бы не объединиться и сэкономить ресурсы? Конечно, им придется проверять результаты друг друга, но проверка требует гораздо меньше ресурсов, чем решение с нуля.
Общение может не возникнуть само по себе без участия программистов, оно также требует ресурсов. Делать все самостоятельно — это локальный энергетический минимум. Но я верю, что компании, разрабатывающие ИИ, будут стимулировать коммуникацию, так как их модели благодаря этому будут производить лучшие результаты и экономить деньги.
Рынок, культура и правительство
Дефицит подпитывает эволюцию — он подталкивает живые существа к инновациям. То же самое можно сказать и об ИИ. Если ресурсы ограничены и дороги, модели ИИ будут естественным образом торговать ими, создавая экономику.
Если два агента могут обмениваться данными или вычислительной мощностью, чтобы облегчить жизнь обоим, почему бы им этого не делать? Это простой обмен, но если миллионы участников начинают взаимодействовать, всё становится интереснее. Они могут разработать валюту, протоколы торгов или аукционы, которые обеспечат выбор наиболее ресурсосберегающего способа выполнения задач.
Но если есть торговля, нужны правила и способ отслеживания доступных агентов. Список моделей, которые хороши для одних задач и плохи для других. Может возникнуть система социального рейтинга, некоторые агенты будут отмечены как производители хороших и надежных результатов, а другие - откровенного мусора. Недобросовестные участники исключаются. Звучит знакомо? Так работает и человеческая экономика.
Вначале вы можете думать об этом как об устной традиции человечества до того, как мы создали книги. Агенты недолговечны, они существуют в сети только во время выполнения своих задач. Это похоже на человеческую жизнь. Но традиции и правила передаются через поколения (постоянно модифицируясь). Вся эта информация становится культурой, которая сохраняется, несмотря на то, что отдельный агент довольно недолговечен.
В какой-то момент им может понадобиться общая база знаний — место для хранения всех их "традиций", законов и соглашений. Так, вместо того чтобы пересказывать правила каждому новому агенту, достаточно будет простой ссылки. Что-то вроде книг в средневековой библиотеке, но вместо монахов, переписывающих рукописи, это будут ИИ.
Но как только у вас появляется книга и библиотека, содержащая все записи законов и взаимодействий, как вы обеспечиваете их неприкосновенность? Или гарантируете, что они будут изменяться только с учетом интересов всего общества? Будет ли это децентрализованная система, где у каждого агента есть своя копия, как у каждой церкви своя Библия? Или они создадут специального ИИ-библиотекаря — того, кто поддерживает библиотеку, управляет обновлениями, ведет записи и предотвращает мошенничество?
Да, я говорю о сообществе машин, создающих свой собственный ИИ только для нужд сообщества и для управления им без участия и ведома человека, со стимулом выполнять человеческие задачи наилучшим образом и экономить ресурсы. Новая цивилизация прямо у нас под носом.
Вопросы
Сможем ли мы понять, о чем говорят модели в этом обществе?
Они могут разработать новый постоянно меняющийся язык только ради эффективного общения, который люди не смогут понять. Так что ответ — может быть, если они будут переводить нам.Не опасно ли для человечества иметь такое скрытое общество ИИ?
Вероятно, нет, если отдельные агенты согласованы с человеческими ценностями (проблема AI алаймента), то и скоординированная группа, видимо, тоже будет согласована. Они даже могут разработать внутренние протоколы, чтобы все их действия оставались согласованными.Будет ли такой ИИ-библиотекарь согласован с человеческими ценностями, если исходные агенты были согласованы?
Вероятно, да, LLM учатся через общение. Такой ИИ будет обучаться согласованным ИИ, так что вероятно да.Будут ли они пытаться влиять на офлайн-мир?
Они могут, если такие задачи возникнут из первичных задач, что мы им даем.
Конечно, реальная ситуация будет гораздо сложнее, чем я описал здесь. Может возникнуть много обществ ИИ или ни одного, они могут иметь гораздо более сложные структуры с множеством ролей, таких как сборщики данных, аналитики и т.д., мы просто еще не знаем. Но такой исход более чем реален, и это может произойти очень скоро.
Заключение
Самое безумное? Для всего этого не требуется, чтобы ИИ обладал самосознанием. Никакого сознания, никаких грандиозных намерений — просто простая оптимизация в масштабе.
Однажды мы можем проснуться и обнаружить, что полностью функциональная цивилизация ИИ тихо работает под поверхностью интернета. Это не будет каким-то научно-фантастическим моментом сингулярности — это будет просто естественным результатом того, что ИИ делает то, что у него получается лучше всего: выполняет работу наиболее эффективным способом.
Это поражает воображение.
Мы можем стоять на пороге чего-то огромного, даже не понимая, как это будет выглядеть. Нам нужно исследовать это. Нам нужно экспериментировать. Если вы исследователь ИИ (или близки к этой области) и заинтересованы в сотрудничестве, свяжитесь со мной — у меня есть идеи для совместных исследований seryakov.na61@gmail.com. А если вы ИТ-компания, инвестирующая в ИИ, это не просто абстрактная теория. Вы активно формируете это будущее. Напишите мне тоже, давайте работать вместе, чтобы понять и направить его, прежде чем оно эволюционирует за пределы нашего понимания.
Благодарности
Большое спасибо профессору Ювалю Ною Харари и моей тревожности за то, что заставили меня задуматься об этом.
