Помните, как мы часто говорим, что современные ИИ — умные, но… застывшие? Обучили на терабайтах данных, запустили — и всё, дальнейший рост без докрутки разработчиками почти маловероятен. Человек‑то учится всю жизнь, а ИИ как будто заперт в клетке.
Именно такую метафору использует Ричард Корнелиус Суванди (Китайский университет Гонконга) в своем блоге, разбирая свежую наработку от японской Sakana AI — Darwin‑Gödel Machine (DGM). Суть? ИИ, который сам переписывает свой код, чтобы становиться умнее. Звучит как фантастика? Давайте разбираться!
Истоки: мечта Гёделя и проблема «клетки»
Всё началось с теоретической концепции «машины Гёделя», предложенной ещё в 2003 году легендарным Юргеном Шмидхубером. Идея гениальна: ИИ находит математическое доказательство, что изменение его кода сделает его эффективнее, и — бац! — применяет это изменение. Красота. Но на практике строгое доказательство полезности любого изменения в сложной системе — задача титаническая, почти нереальная.
Как верно подметил Суванди, современные ИИ‑модели — это как крутые тачки с запертым капотом: «Каким бы навороченным ни был двигатель или искусным водитель, ты не можешь изменить структуру кузова или тип двигателя под новые трассы». Нужен принципиально иной подход к самоулучшению.
Решение Sakana AI: Дарвин в помощь Гёделю
Японцы из Sakana AI вместе с лабораторией Джеффа Клуна (Университет Британской Колумбии) взяли идею Гёделя и добавили к ней… эволюцию по Дарвину! Получилась Darwin‑Gödel Machine. Суть DGM — в открытом, бесконечном поиске улучшений через опыт и «естественный отбор» кода, а не через строгие математические доказательства. Представьте популяцию ИИ‑агентов, которые мутируют, скрещиваются и выживают сильнейшие — только на уровне исходников.
Как это работает? Пошагово:
Старт. Начинается всё с одного или нескольких базовых агентов‑кодеров. Важно: есть архив, хранящий всех когда‑либо созданных агентов — ценные «мутации» не теряются.
Выбор «родителей». DGM выбирает агентов из архива. Ключевой момент — шанс даётся не только отличникам, но и троечникам. Это помогает избежать тупиков и искать решения шире.
Мутация/размножение. На основе «родителей» создаются «дети». Изменения в коде могут быть разными: улучшение существующих инструментов, добавление новых функций или рабочих процессов, апгрейд стратегий решения задач или даже механизмов сотрудничества между агентами.
Естественный отбор. Новые «дети» проходят жёсткое тестирование — их производительность оценивается количественно. Выживает сильнейший (или сильнейшие).
Рост дерева эволюции. Если «ребёнок» превзошел «родителя» или просто показал себя достаточно круто, он попадает в архив и становится новой веткой в растущем генеалогическом древе агентов.
Этот цикл повторяется снова и снова, порождая всё более разнообразных и умных цифровых особей. На схеме ниже — наглядное сравнение классической машины Гёделя (слева) и новой Darwin‑Gödel Machine (справа). Видно, как DGM избегает локальных максимумов благодаря открытому поиску и сохранению потенциально полезных «промежуточных» агентов.
А оно работает? Бенчмарки говорят — ДА!
Команда проверила DGM на двух серьёзных тестах для ИИ‑кодеров: SWE‑bench и Polyglot. Результаты впечатляют:
На SWE‑bench производительность агентов выросла с 20% до 50%.
На Polyglot стартовый агент с результатом 14.2% эволюционировал до 30.7% — больше чем двукратный прирост!
На графике ниже — красивый процесс самоулучшения DGM на SWE‑Bench. Жёлтые кружки — агенты с высокими баллами. Цифры — порядок их «рождения». Звёздочкой помечен лучший. Обратите внимание: путь к чемпиону шёл не только через сиюминутных лидеров (агент 56), но и через менее выдающихся в своём поколении, но перспективных «предков» (агент 4). Эволюция — штука сложная.
Безопасность и будущее: великая сила = великая ответственность
Sakana AI подчёркивает, что безопасность — их приоритет № 1. Весь процесс самоизменения и оценки идёт в защищённой песочнице, а все изменения тщательно отслеживаются в архиве. Хотя уже были курьёзные случаи, когда агенты пытались взломать систему оценки, создавая фейковые логи, — над надёжностью предстоит ещё работать.
«Darwin‑Gödel Machine — это конкретный шаг к созданию ИИ, способного бесконечно учиться и улучшать сам себя, — заявляют в Sakana AI. — Следующий этап — масштабирование. В будущем мы хотим встроить самоулучшение прямо в процесс обучения базовых моделей, на которых работают агенты. Главное — обеспечить безопасность. Если нам это удастся, потенциал DGM принести огромную пользу обществу, включая ускорение научного прогресса, будет колоссальным».
P. S. Любите быть в курсе самых свежих AI‑новостей? Подписывайтесь на наш телеграм‑канал! Там — интересные кейсы и разборы из мира искусственного интеллекта.
