Эта работа описывает методику отслеживания непреднамеренного наследования паттернов между последовательными версиями языковых моделей.

Проверяем гипотезу, что при обучении новых моделей на предыдущих версиях (распространённая практика ради эффективности) они наследуют не только явные знания, но и «способы мышления», которые ускользают от привычных фильтров и процедур оценки.

Основные элементы:

Двухконтурный анализ

• Внутренний: сравнение геометрии представлений по cosine similarity и Centered Kernel Alignment (CKA) в выровненных пространствах признаков.

• Внешний: оценка переноса фиксированной классификационной «головы» (логистическая регрессия), обученной на одной версии и применённой к другой без дообучения.

Обнаружение событий

• O-TRACE: многомасштабное EMA + ζ-ядро для фиксации согласованных колебаний метрик.

• Импульсы: пороговая детекция резких падений в Δcos и ΔCKA.

Эксперименты на реальных моделях

• Эволюция семейства GPT-2: distilgpt2 → gpt2 → gpt2-medium.

• Переход между архитектурами: GPT-2 → DeepSeek-Coder-1.3B.

• Датасет: SST-2 (анализ тональности).

Ключевые выводы

• Геометрические сдвиги (падения CKA) могут быть значительными, даже когда cosine similarity остаётся высокой.

• Перенос фиксированных «голов» часто сохраняется при смене архитектуры.

• Самые сильные импульсы наблюдаются на межархитектурных переходах.

• «Стиль» и «смысл» могут расходиться независимо в процессе эволюции.

Эволюция моделей включает не только плановые улучшения, но и неконтролируемый перенос паттернов. Это важно для безопасности ИИ: модели могут наследовать и усиливать нежелательные предвзятости и формы поведения, обходящие стандартные фильтры.

Структура (3 папки):

• docs/ — два PDF с полным текстом на русском и английском.

• code/ — code_real_GPT2family.txt: одна ячейка для Colab. Загружает SST-2, извлекает признаки (mean-pool last_hidden_state), выравнивает размерности методом Procrustes, считает cosine/CKA и перенос логистической «головы», сохраняет отчёты (CSV, JSON, TXT).

Код и полный файл с объяснением методологии (на русском) доступны по

ссылке: https://zenodo.org/records/17926666

"Блуждающая Земля": вопросы, мимо которых я не смогла пройти

Сегодня я решила посмотреть фильм Netflix «Блуждающая Земля», где человечество пытается спасти себя, буквально сдвинув всю планету с орбиты.

С первых минут меня накрыл поток вопросов. Если бы я не разобралась с ними сразу, дальше смотреть было бы тяжело 😆

В фильме люди строят гигантские двигатели, чтобы вытолкнуть Землю с орбиты и отправить её в другую звёздную систему. Но вообще это хотя бы теоретически возможно?

Логично, что атмосфера должна исчезнуть, поэтому в фильме люди живут в подземных городах. Но тогда — как они там добывают воздух?

И даже если, как в сюжете, Земля через 1500 лет доберётся до новой системы, как она вообще сможет «встать» на орбиту вокруг другой звезды? Наша Луна играет огромную роль в стабилизации приливов и угла наклона Земли. Без неё разве всё не развалится?

То есть миссия была обречена с самого начала? И не превратит ли появление Земли ту систему в полный бардак?

В какой-то момент я приняла важное решение: спросить ИИ.

Вот что он мне объяснил.

1. Можно ли вообще сдвинуть Землю с орбиты?

Коротко: теоретически да. Практически — запредельно трудно.

Энергия. Чтобы преодолеть притяжение Солнца и разогнать Землю, нужна почти немыслимая энергия. В фильме используют гигантские «планетарные двигатели» на ядерном синтезе. Даже если представить, что управляемый синтез освоен, построить десятки тысяч таких двигателей по всей планете — за пределами воображения.

Тяга. Двигатели такой мощности, вероятно, разрушили бы земную кору. Даже если распределить нагрузку, это всё равно вызвало бы чудовищные землетрясения и извержения по всему миру.

Вывод: астрономическое по масштабу инженерство. Почти нереально, но с точки зрения строгой физики — не «запрещено».

2. Потеряет ли Земля атмосферу и как выжить под землёй?

Коротко: атмосферу почти наверняка сдует. Подземные города — единственный шанс.

Атмосфера. Как только Земля выйдет из обитаемой зоны, планета замёрзнет. Атмосфера начнёт выпадать «снегом», газы постепенно улетучатся в космос без солнечного тепла и нормальной магнитной защиты.

Подземные города. Это выглядит логично. На глубине можно использовать геотермальное тепло как источник энергии и тепла.

Как делать воздух:

1. Растения — подземные биомы с искусственным освещением для фотосинтеза.

2. Электролиз воды — разложение H₂O на кислород и водород ценой огромных энергозатрат. Кислород — для дыхания, водород — как топливо.

3. Химическое извлечение из минералов — разложение оксидов с выделением кислорода.

Вывод: чудовищно сложно, но, как ни странно, именно эта часть в фильме выглядит наиболее реалистичной.

3. Как Земля «припаркуется» в новой звёздной системе?

Коротко: это самая фантастическая часть.

Навигация. Путешествие на 2500 лет (примерно 4,3 светового года до Проксимы Центавра) потребовало бы немыслимой точности. Малейшая ошибка — и планета пролетит мимо звезды на миллионы километров.

Захват звездой. Чтобы Землю «поймала» гравитация другой звезды, её нужно сильно затормозить. Значит, теми же двигателями придётся долго тормозить — снова упираемся в безумные энергозатраты.

Проблема Луны. В фильме Луну бросают. Без неё Земля теряет приливный ритм и стабилизирующий наклон оси. Климат уходит в разнос. Но если все живут под землёй, это уже побочный эффект.

Вывод: вероятность того, что Земля аккуратно войдёт в устойчивую орбиту у другой звезды, практически нулевая. Чистая фантазия.

4. Не разрушит ли Земля новую планетную систему?

Коротко: да, там начнётся гравитационный хаос.

Закинуть лишнюю планету в уже уравновешенную систему — это как покатить боулинговый шар по аккуратно расставленным бильярдным шарам.

орбиты планет могут дестабилизироваться;

возможны столкновения или выброс планет из системы.

Чтобы этого избежать, нужно вставить Землю по орбите с абсурдной точностью — задача за гранью реальности.

Итог: миссия невыполнима?

С точки зрения сегодняшней науки — да, полностью.

Но в этом и смысл научной фантастики. Она не выдаёт чертежи, а задаёт вопрос «что если?».

На техплощадках важен не только смысл, но и ритуал.
Привычная «правильная» статья выглядит так: узкая задача, немного знакомой теории, кусок кода, график, вывод в цифрах. Всё, что выбивается из этой формы, автоматически воспринимается как риск.

Дальше включается чистая психология:

• незнакомый формат вызывает чувство «я это не контролирую», и вместо «я не понял» проще сказать «автор несёт чушь» и нажать минус;

• смешение областей (физика, биология, ИИ, философия в одном тексте) для многих — маркер «эзотерики», даже если там нормальные идеи;

• текст без прямой инструкции «как настроить/починить» мозг сразу складывает в ящик «бесполезная философия»;

• первые пару минусов создают эффект стаи: дальше уже голосуют по инерции, не вчитываясь.

Хорошо это видно на чужих примерах. Автор пишет: «хромосомный аппарат клетки можно рассматривать как биологический аналог голографической пластинки или алгоритма само-подобия». Один читатель тут же требует ссылку на журнал и объявляет это «шизофазией». Другой спокойно поясняет, что речь не о буквальном равенстве, а о схожем способе распределения информации и реакции на локальные изменения. Одна и та же мысль: для одного — нормальная системная аналогия, для другого — набор странных слов.

В итоге сложные, концептуальные тексты почти всегда получают по шапке не потому, что обязательно плохие. А потому что площадка натренирована под другое: под маленькие, проверяемые трюки и готовые рецепты. Всё, что шире и глубже, воспринимается как ересть и минусуется «по умолчанию».