«Мы принадлежим крестоформу?»

Проблема коллапса моделей, или model collapse, сегодня хорошо известна. Если следующую генеративную модель обучать на текстах, созданных предыдущей, распределение обучающих данных начинает сужаться от поколения к поколению. Сначала исчезают редкие случаи: необычные обороты, маловероятные сочетания, локальные знания, отклонения от нормы. Затем беднее становится и сама норма.

Каждая отдельная генерация при этом может выглядеть убедительно: грамматически правильной, логичной и узнаваемой. Ошибка проявляется не как немедленный бред, а как постепенное сокращение пространства возможного.

Это похоже на последовательность копий: первая почти неотличима, десятая всё ещё узнаваема, сотая сохраняет общий контур, но теряет детали, которые никто не считал важными, пока они не исчезли.

Здесь необходима оговорка. Коллапс моделей не считается неизбежным: эксперименты показывают, что сохранение исходного человеческого корпуса данных и контролируемое добавление синтетических данных могут стабилизировать обучение. Но пока это больше похоже на способ сдерживать деградацию, чем на окончательное решение. Система по-прежнему требует постоянного внешнего якоря, а редкие части распределения могут исчезать первыми.

Для AI-компаний это хотя бы инженерная задача: корпус можно очистить, пересобрать, заново взвесить и повторить обучение.

У людей такой возможности нет.

Технологическая сингулярность была одной из последних больших форм веры в прогресс, ещё пытавшейся выглядеть как теория. В её основе лежал простой образ: если технологическое развитие ускоряется, если каждая новая ступень делает следующую не просто возможной, а более быстрой, то исторический график рано или поздно перестаёт быть продолжением прежнего тренда и начинает напоминать экспоненту. А экспонента в историческом воображении всегда выглядит как особый тип обещания: долго почти ничего, потом — почти вертикаль.

Её не обязательно понимать в карикатурной версии — как момент, когда искусственный интеллект просыпается, переписывает сам себя и выносит человечество за скобки. В более интересном виде это была гипотеза о пределе предсказуемости: если технологическое развитие начинает производить условия собственного дальнейшего ускорения, оно меняет не только инструменты, но и саму среду, в которой человек строит модели будущего. После некоторой точки продолжать график прежней рукой уже нельзя.

В конце XX века эта гипотеза казалась правдоподобной не потому, что все ждали одного всемогущего алгоритма. Наоборот, старое будущее было избыточным. Оно наступало сразу с нескольких сторон. Физика обещала новые фундаментальные открытия и способы описания реальности, космос — новый масштаб цивилизации, атом — избыток энергии, компьютеры — ускорение мышления, биотехнологии — переписывание жизни, нанотехнологии — управление веществом снизу вверх. В этой картине сингулярность была не продуктом одной отрасли, а суммарным эффектом нескольких ускорений, которые рано или поздно должны были сложиться в нечто, уже не похожее на обычный исторический прогресс.