Ставка на будущее

«Наука должна начинаться с мифов и с критики мифов». — Карл Поппер

Что отличает физическую теорию от «Гарри Поттера»?

Не логическая непротиворечивость. При желании можно построить вполне стройный мир с волшебниками, дементорами и Министерством магии. Не красота: вымышленный мир легко может оказаться красивее реального. И даже не способность объяснять уже случившееся. Прошлое лежит перед нами, и при достаточной гибкости для него почти всегда найдётся убедительная история.

Разница возникает там, где описание вынуждено поставить что-то на кон.

Если при условиях A теория заранее ожидает результат B, а мы получаем C, между теорией и миром начинается конфликт. «Гарри Поттера» можно спасти новым заклинанием, стиранием памяти или ещё одной тайной магического сообщества. Физическую теорию тоже иногда спасают дополнительными гипотезами, но каждая такая операция чего-то ей стоит.

Предсказание не доказывает, что мир устроен именно так, как говорит теория. Зато оно показывает: теория зацепила какую-то устойчивость, которая не была целиком вложена в неё рукой автора.

Между тем, что удаётся свернуть в правило, и тем, что не удаётся, как будто стоит стекло. К нему мы ещё вернёмся.

«Мы принадлежим крестоформу?»

Проблема коллапса моделей, или model collapse, сегодня хорошо известна. Если следующую генеративную модель обучать на текстах, созданных предыдущей, распределение обучающих данных начинает сужаться от поколения к поколению. Сначала исчезают редкие случаи: необычные обороты, маловероятные сочетания, локальные знания, отклонения от нормы. Затем беднее становится и сама норма.

Каждая отдельная генерация при этом может выглядеть убедительно: грамматически правильной, логичной и узнаваемой. Ошибка проявляется не как немедленный бред, а как постепенное сокращение пространства возможного.

Это похоже на последовательность копий: первая почти неотличима, десятая всё ещё узнаваема, сотая сохраняет общий контур, но теряет детали, которые никто не считал важными, пока они не исчезли.

Здесь необходима оговорка. Коллапс моделей не считается неизбежным: эксперименты показывают, что сохранение исходного человеческого корпуса данных и контролируемое добавление синтетических данных могут стабилизировать обучение. Но пока это больше похоже на способ сдерживать деградацию, чем на окончательное решение. Система по-прежнему требует постоянного внешнего якоря, а редкие части распределения могут исчезать первыми.

Для AI-компаний это хотя бы инженерная задача: корпус можно очистить, пересобрать, заново взвесить и повторить обучение.

У людей такой возможности нет.

Технологическая сингулярность была одной из последних больших форм веры в прогресс, ещё пытавшейся выглядеть как теория. В её основе лежал простой образ: если технологическое развитие ускоряется, если каждая новая ступень делает следующую не просто возможной, а более быстрой, то исторический график рано или поздно перестаёт быть продолжением прежнего тренда и начинает напоминать экспоненту. А экспонента в историческом воображении всегда выглядит как особый тип обещания: долго почти ничего, потом — почти вертикаль.

Её не обязательно понимать в карикатурной версии — как момент, когда искусственный интеллект просыпается, переписывает сам себя и выносит человечество за скобки. В более интересном виде это была гипотеза о пределе предсказуемости: если технологическое развитие начинает производить условия собственного дальнейшего ускорения, оно меняет не только инструменты, но и саму среду, в которой человек строит модели будущего. После некоторой точки продолжать график прежней рукой уже нельзя.

В конце XX века эта гипотеза казалась правдоподобной не потому, что все ждали одного всемогущего алгоритма. Наоборот, старое будущее было избыточным. Оно наступало сразу с нескольких сторон. Физика обещала новые фундаментальные открытия и способы описания реальности, космос — новый масштаб цивилизации, атом — избыток энергии, компьютеры — ускорение мышления, биотехнологии — переписывание жизни, нанотехнологии — управление веществом снизу вверх. В этой картине сингулярность была не продуктом одной отрасли, а суммарным эффектом нескольких ускорений, которые рано или поздно должны были сложиться в нечто, уже не похожее на обычный исторический прогресс.