В сентябре 2026 года в отрасли снова спорят о том, что считать искусственным интеллектом человеческого уровня — artificial general intelligence (AGI). Появился удобный ответ: AGI наступит тогда, когда ИИ сам сможет вести исследования ИИ и создавать своего преемника, то есть при достижении рекурсивного самоулучшения или recursive self‑improvement (RSI).
1. Начну с определений, чтобы не потеряться на смешении понятий. AGI (artificial general intelligence) описывает широту способностей: система считается общей, когда она справляется с большинством экономически ценных задач на уровне человека. RSI (recursive self‑improvement) описывает механизм развития: система улучшает саму себя или своего преемника, и каждое улучшение облегчает следующее. ASI (artificial superintelligence) описывает уровень способностей: система превосходит всех людей практически во всём. Эти три оси:
широта способностей,
механизм развития
и уровень способностей
логически независимы друг от друга. Можно представить себе очень общую систему, которая не умеет вести собственные исследования, и узкую систему, которая отлично улучшает один класс алгоритмов и при этом бесполезна в остальном. Когда кто‑то говорит, что AGI будет достигнут при достижении RSI, он склеивает все три оси.
Полезно держать в голове рамку Google DeepMind из работы Морриса и соавторов (Morris et al., Levels of AGI, 2023), где способности раскладываются отдельно по глубине (performance) и по широте (generality), а автономность вынесена в третье измерение. Определять AGI через RSI означает заранее гарантировать себе право объявить победу, когда заработает средство, даже если сама цель — человеческие способности в широком смысле — еще не достигнута.
2. Сама идея AGI via RSI не новая. Ещё в 1965 году И. Дж. Гуд в статье Speculations Concerning the First Ultraintelligent Machine описал интеллектуальный взрыв, написав дословно, что сверхразумная машина могла бы проектировать еще лучшие машины, и что первая такая машина станет последним изобретением, которое человеку нужно будет сделать, при условии что машина достаточно послушна, чтобы объяснить нам, как держать её под контролем. Оговорка про контроль в этой цитате теряется, а зря, так как современная версия идеи звучит посуше и коммерчески более точной.
В октябре 2025 года Сэм Альтман в прямом эфире и затем в посте на X сформулировал внутренние цели OpenAI: автоматический стажер‑исследователь к сентябрю 2026 года и полноценный автоматический исследователь к марту 2028 года (X). В начале сентября 2026 года OpenAI сообщила (Engadget), что цель по стажеру достигнута: система выполняет четко поставленные исследовательские задачи под руководством человека, включая те, что заняли бы у специалиста несколько дней. Обратите внимание на осторожную формулировку: там нет слова AGI, там есть слово стажёр, и там есть слова под руководством человека.
Параллельно журналисты и сами лаборатории начали подменять термин. В мае 2026 года TechCrunch прямо написал, что RSI стал новым AGI, и что его так же трудно определить . В августе 2026 года Time описал внутреннюю систему OpenAI под именем Astra и связал разговоры про AGI именно с петлёй самоулучшения: модель, которая ускоряет собственные исследования, называется recursive self‑improvement. Так возникла та самая склейка: раз порог AGI спорен, давайте измерять его через способность вести исследования ИИ. Удобно, но нечестно.
Проверим четыре утверждения из исходной заметки по первоисточникам:
a) Страница Anthropic Institute When AI builds itself действительно описывает RSI как систему, способную полностью автономно проектировать и строить своего преемника, и прямо говорит, что мы ещё не там и что RSI не является неизбежным (Anthropic). Более того, Anthropic называет конкретный оставшийся пробел: Claude уже сопоставим с человеком в исполнении хорошо поставленного эксперимента, но большие разрывы сохраняются, когда речь идёт о выборе целей, то есть о выборе направлений исследований. Это подтверждает пункт заметки.
b) Устав OpenAI (OpenAI Charter) определяет AGI как высокоавтономные системы, превосходящие людей в большинстве экономически ценных работ. Формулировка подтверждается дословно как определение про экономику труда, а не про самоулучшение, и в нём нет ни слова про то, что система должна строить своего преемника.
c) AlphaEvolve от Google DeepMind (май 2025) действительно улучшил вычислительные процессы, включая обучение самой Gemini: он ускорил ключевое ядро матричного умножения на 23%, что дало сокращение общего времени обучения Gemini примерно на 1% (Google DeepMind). Это подтверждается первоисточником DeepMind. Отдельно AlphaEvolve ускорил ядро FlashAttention примерно на 32,5 процента, но это уже про инференс и обучение, а не конкретно про самоулучшение.
d) 9 сентября 2026 года OpenAI в тексте The AI policy window is open заявила, что полностью автономного RSI сегодня не существует, (OpenAI) и отделила его от ускорения отдельных исследовательских задач. Дословно смысл такой: ИИ уже ускоряет части исследований, но это не recursive self‑improvement, а свидетельство направления движения. Подтверждается.
Вывод из проверки простой: сами первоисточники аккуратнее, чем их пересказы. Никто из серьёзных авторов не написал, что AGI равно RSI. Знак равенства ставят заголовки и твиты.
3. Почему лабораториям удобно приравнять AGI к RSI?
a) Это автоматизирует их следующее конкурентное преимущество. Ценность лаборатории в её исследователях. Если определить главный порог как автоматического исследователя, то гонка идёт ровно за тем активом, который у лабораторий уже есть и который они лучше всех умеют масштабировать. Это удобное определение вершины для того, кто уже лидирует именно в этом.
b) Оценки фронтиер‑лабораторий 2025 и 2026 годов огромны. OpenAI 2 октября 2025 года завершила вторичную продажу акций на 6,6 миллиарда долларов при оценке 500 миллиардов долларов, из авторизованных 10,3 миллиарда, обогнав SpaceX как самая дорогая частная компания мира. Anthropic закрыла раунд Series G на 30 миллиардов долларов 12 февраля 2026 года при post‑money оценке 380 миллиардов долларов, ведущие инвесторы GIC и Coatue. xAI закрыла увеличенный раунд Series E на 20 миллиардов долларов 6 января 2026 года при оценке около 230 миллиардов долларов, причем сама компания подчеркнула, что раунд превысил целевые 15 миллиардов. Обещание цикла самоулучшения оправдывает такие капитальные затраты лучше, чем обещание еще одного полезного продукта.
c) Контракт OpenAI и Microsoft показал, как дорого стоит определение AGI. По условиям реструктуризации октября 2025 года объявление AGI со стороны OpenAI теперь проверяет независимая экспертная панель, права Microsoft на интеллектуальную собственность продлены до 2032 года и включают модели после AGI, а выплаты доли доходов идут до 2030 года. Определение AGI стало юридическим переключателем на десятки миллиардов долларов, и лаборатории заинтересованы контролировать его формулировку.
d) Порог RSI совпадает с их собственными порогами безопасности. Политика Anthropic Responsible Scaling Policy вводит уровни AI R&D-4 и AI R&D-5: первый это способность полностью автоматизировать работу младшего исследователя, второй это способность вызвать резкое ускорение разработки ИИ, то есть фактически RSI, и он требует уровня защиты ASL-4. У OpenAI критический порог AI Self‑improvement определён похоже: сверхчеловеческий исследовательский агент или сокращение времени смены поколения модели в пять раз, удерживаемое несколько месяцев. Когда безопасность и объявление AGI завязаны на один и тот же порог, удобно называть его главным, потому что тогда история про безопасность и история про победу рассказываются в одной терминологии.
Но положительная обратная связь не равна неограниченному росту. Монотонно возрастающая последовательность может иметь конечный предел: сумма ряда ½ + ¼ + ⅛ + … растёт на каждом шаге, но никогда не превышает единицы — это предел данной функции. Вопрос не в том, есть ли петля, а в том, каков коэффициент усиления и где стоят ограничители. Ограничителей несколько, и по ним есть данные.
Вычисления
Многие сценарии программного интеллектуального взрыва предполагают, что софт улучшает софт без нового железа. Но серьёзные эксперименты требуют вычислений уровня обучения фронтиер‑модели, а рост вычислений упирается в физику, энергию и сроки поставки. Экономическая работа 2025 года показала, что при определённой связи между экспериментами и идеями вычисления становятся жестким узким местом (arxiv), и программное ускорение живёт лишь до этого предела.
Идеи становится всё труднее находить
Это известный результат экономики роста: чтобы поддерживать постоянный темп улучшений, нужно вкладывать всё больше исследовательских усилий. Даже сторонники сценария сингулярности у Forethought оценивают отдачу так, что одно удвоение когнитивного труда даёт около 1,2 удвоения выхода в среднем, с широким разбросом от 0,4 до 3,6. Если параметр ближе к нижней границе, «взрыва» не происходит вовсе, а происходит затухание.
Эксперимент и проверка
Даже идеальный автоматический исследователь должен ставить опыты и ждать результатов. Обзор Epoch AI прямо отмечает, что эксперименты не серебряная пуля, потому что модель может быть ошибочной, а бенчмаркинг требует полного цикла обучения, доступного лишь горстке игроков.
Физическое строительство
Дарио Амодеи, оптимист, в эссе Machines of Loving Grace (октябрь 2024) признает, что «страна гениев, живущая 24/7 в дата‑центре», упрется в физические и практические пределы, например в скорость биологических экспериментов. Его формулы powerful AI и country of geniuses in a datacenter намеренно избегают слова AGI. «Страна гениев в дата‑центре» — это огромный коллектив сильных исследователей‑агентов, которые живут внутри серверов. Метафора складывается из четырёх свойств, которые он перечисляет:
«Гении». Каждая копия модели умнее нобелевского лауреата в большинстве областей: в математике, биологии, программировании и инженерии.
«Страна». Ресурсы, потраченные на обучение модели, позволяют одновременно запустить миллионы её копий. По численности это население небольшой страны.
Скорость. Каждая копия думает и действует в 10–100 раз быстрее человека.
Самоорганизация. Копии могут работать над разными задачами независимо или объединяться в команды. Некоторых можно дообучить на отдельную специализацию, как в институте или министерстве.
«В дата‑центре» означает, что у этих гениев нет тел. Они сидят на серверах и действуют через компьютер: пишут код, заказывают материалы, управляют лабораторным оборудованием и дают указания людям.
Амодеи выбрал этот образ по двум причинам. Первая: метафора уходит от спорного слова AGI и описывает конкретную картину, которую можно оценивать [fact]. Вторая: она сразу показывает предел. Даже целая страна гениев вынуждена ждать, пока пройдут биологические эксперименты и будет построено новое железо [fact].
Человеческий вклад и стоимость
В июле 2025 года METR провела рандомизированный контролируемый эксперимент: 16 опытных разработчиков, 246 задач, данные февраля по июнь 2025 года, инструменты Cursor Pro с Claude 3.5 и 3.7 Sonnet. Результат дословно: разрешение использовать ИИ увеличило время выполнения на 19%, с доверительным интервалом примерно от +2 до +39%, при том что после эксперимента те же разработчики оценивали ускорение в 20%. Один эксперимент не приговор, и сама METR отмечает, что это замер начала 2025 года. Но он показывает, как легко спутать ощущение ускорения с ускорением, и почему ощущения плохой измеритель.
4. Что говорят данные о темпе, и как их читать? Есть тренд, который цитируют чаще всего. METR измеряет временной горизонт задач: длину задачи по человеческому времени, которую модель решает с вероятностью 50%. Этот горизонт удваивался примерно каждые семь месяцев в 2019 по 2025 годы, а на данных 2024 по 2025 удвоение выглядит ближе к четырём месяцам. Anthropic на странице When AI builds itself приводит именно эту ускоренную оценку и добавляет внутренние данные: более 80 процентов кода, заливаемого в кодовую базу Anthropic на май 2026 года, написано Claude, (Anthropic) а типичный инженер во втором квартале 2026 года заливал в 8 раз больше кода в день, чем в 2024 году (Anthropic).
Строки кода это количество, а не качество, и Anthropic оговаривает, что величина 8x почти наверняка завышает реальный прирост продуктивности. Кривая METR очень чувствительна к нескольким длинным задачам, а человеческие базовые времена измерены лишь для малой части самых длинных задач. Но это не доказательство того, что машина сама выбирает направления исследований. Именно выбор целей Anthropic называет своим главным оставшимся разрывом.
И ещё один датапоинт против прямолинейной экстраполяции. Дэниел Кокотайло, ведущий автор сценария AGI 2027 (апрель 2025), к концу 2025 и в 2026 году сдвинул свою медиану ближе к 2029 и 2030 годам, потому что прогресс идет несколько медленнее сценария. Скептики вроде Эге Эрдиля и Тамая Бесироглу из Epoch AI держат горизонт AGI за 2045 годом и не считают интеллектуальный взрыв правдоподобным, хотя допускают взрывной экономический рост. Когда авторы самого известного сценария сдвигают сроки, это сигнал, что экстраполяцию одной кривой стоит принимать с осторожностью.
5. Что реально засчитывалось бы как доказательство существования RSI? Чтобы говорить о RSI как о свершившемся факте, а не о маркетинговом хайпе, нужен повторяемый рост исследовательской способности на протяжении нескольких поколений моделей, измеренный с учётом двух вещей: человеческого вклада и стоимости вычислений. Конкретно я бы смотрела на следующее:
Растёт ли способность модели самостоятельно выбирать направления исследований, а не только исполнять поставленные эксперименты, ведь именно этот разрыв называет своим Anthropic.
Сохраняется ли ускорение, когда вы фиксируете бюджет вычислений, а не наращиваете его.
Держится ли эффект на нескольких поколениях подряд, а не на одном удачном релизе.
Подтверждается ли он контролируемыми замерами вроде METR, а не опросами и ощущениями.
Пока хотя бы часть этих условий не выполнена, разумно считать, что мы видим ускорение отдельных задач, ровно как и написала сама OpenAI 9 сентября 2026 года.
6. AGI и RSI это разные вещи, и приравнивать их значит путать цель со средством. RSI это механизм, потенциально мощный, но пока не замкнутый; AGI это широта способностей; ASI это уровень. Склейка выгодна лабораториям по вполне земным причинам: она автоматизирует их главный актив, оправдывает капитал, переносит финишную черту под их контроль и совпадает с их порогами безопасности.
Наверняка в ближайший год кто‑то из крупных игроков объявит внутреннюю систему, удовлетворяющую его собственному определению AGI через автоматического исследователя, и сделает это раньше, чем появятся независимо воспроизводимые доказательства устойчивого RSI.
Практический вывод: надо смотреть на воспроизводимые замеры с учётом стоимости вычислений, на способность систем выбирать задачи, а не только исполнять их, на то, фиксирует ли компания бюджет вычислений в своих заявлениях о продуктивности.
Что игнорировать: одиночные твиты со знаком равенства между AGI и RSI, графики без доверительных интервалов, метрики вроде строк кода, оценки продуктивности по ощущениям пользователей.
Если вам понравилась моя статья, подпишитесь на тг‑канал
Источники
Источники
OpenAI, The AI policy window is open. We need to act. https://openai.com/index/ai‑policy‑window/
Anthropic Institute, When AI builds itself. https://www.anthropic.com/institute/recursive‑self‑improvement
OpenAI Charter. https://openai.com/charter/
Microsoft, The next chapter of the Microsoft OpenAI partnership. https://blogs.microsoft.com/blog/2025/10/28/the‑next‑chapter‑of‑the‑microsoft‑openai‑partnership/
Google DeepMind, AlphaEvolve. https://deepmind.google/blog/alphaevolve‑a-gemini‑powered‑coding‑agent‑for‑designing‑advanced‑algorithms/
Sam Altman, пост на X, 29 октября 2025. https://x.com/sama/status/1983584366547829073
TechCrunch, Sam Altman says OpenAI will have a legitimate AI researcher by 2028. https://techcrunch.com/2025/10/28/sam‑altman‑says‑openai‑will‑have‑a-legitimate‑ai‑researcher‑by-2028/
Engadget, OpenAI says it reached its goal of creating an automated research intern. https://www.engadget.com/2251859/openai‑says‑it‑reached‑its‑goal‑of‑creating‑an‑automated‑research‑intern/
Morris et al., Levels of AGI. https://arxiv.org/pdf/2311.02462
Dario Amodei, Machines of Loving Grace. https://darioamodei.com/essay/machines‑of‑loving‑grace
CNBC, Sam Altman says AGI is not a super useful term. https://www.cnbc.com/2025/08/11/sam‑altman‑says‑agi‑is‑a-pointless‑term‑experts‑agree.html
Anthropic, Responsible Scaling Policy. https://www.anthropic.com/responsible‑scaling‑policy
METR, Time Horizon 1.1; AI Digest, Time horizons. https://metr.org/blog/2026-1-29-time‑horizon-1-1/ и https://theaidigest.org/time‑horizons
METR, Measuring the Impact of Early-2025 AI on Experienced Open‑Source Developer Productivity (arXiv:2507.09089). https://metr.org/blog/2025-07-10-early-2025-ai‑experienced‑os‑dev‑study/
Forethought, Three Types of Intelligence Explosion. https://www.forethought.org/research/three‑types‑of‑intelligence‑explosion
Epoch AI, Explosive growth from AI: a review of the arguments. https://epoch.ai/blog/explosive‑growth‑from‑ai‑a-review‑of‑the‑arguments
Dwarkesh Podcast, AGI is still 30 years away, Ege Erdil and Tamay Besiroglu. https://www.dwarkesh.com/p/ege‑tamay
FutureSearch, AI 2027 Six Months Later. https://futuresearch.ai/blog/ai-2027-6-months‑later/
TIME, What Happens When AI Starts Building AI. https://time.com/article/2026/08/07/ai‑recursive‑self‑improvement‑anthropic‑openai/
TechCrunch, RSI is the new AGI. https://techcrunch.com/2026/05/28/rsi‑is‑the‑new‑agi‑and‑its‑just‑as‑hard‑to‑pin‑down/
Whitfill and Wu, Will Compute Bottlenecks Prevent an Intelligence Explosion? (arXiv:2507.23181). https://arxiv.org/pdf/2507.23181
