Обновить
1

Пользователь

Отправить сообщение

"Блуждающая Земля": вопросы, мимо которых я не смогла пройти Сегодня я решила посмотреть фильм Netflix «Блуждающая...

Время чтения3 мин
Охват и читатели6.4K

"Блуждающая Земля": вопросы, мимо которых я не смогла пройти

Сегодня я решила посмотреть фильм Netflix «Блуждающая Земля», где человечество пытается спасти себя, буквально сдвинув всю планету с орбиты.

С первых минут меня накрыл поток вопросов. Если бы я не разобралась с ними сразу, дальше смотреть было бы тяжело 😆

В фильме люди строят гигантские двигатели, чтобы вытолкнуть Землю с орбиты и отправить её в другую звёздную систему. Но вообще это хотя бы теоретически возможно?

Логично, что атмосфера должна исчезнуть, поэтому в фильме люди живут в подземных городах. Но тогда — как они там добывают воздух?

И даже если, как в сюжете, Земля через 1500 лет доберётся до новой системы, как она вообще сможет «встать» на орбиту вокруг другой звезды? Наша Луна играет огромную роль в стабилизации приливов и угла наклона Земли. Без неё разве всё не развалится?

То есть миссия была обречена с самого начала? И не превратит ли появление Земли ту систему в полный бардак?

В какой-то момент я приняла важное решение: спросить ИИ.

Вот что он мне объяснил.

Читать дальше →

На техплощадках важен не только смысл, но и ритуал. Привычная «правильная» статья выглядит так: узкая задача, немного...

Время чтения1 мин
Охват и читатели5.3K

На техплощадках важен не только смысл, но и ритуал.
Привычная «правильная» статья выглядит так: узкая задача, немного знакомой теории, кусок кода, график, вывод в цифрах. Всё, что выбивается из этой формы, автоматически воспринимается как риск.

Дальше включается чистая психология:

Читать дальше →

«Теории всего» под копирку: как LLM создаёт иллюзию гениальности Думаю вы видели такие тексты, где автор открыл...

Время чтения3 мин
Охват и читатели7.5K

«Теории всего» под копирку: как LLM создаёт иллюзию гениальности

Думаю вы видели такие тексты, где автор открыл универсальный закон мироздания, всё разложил по полочкам и теперь делится с миром. На первый взгляд — вау, гениально! А приглядишься и понимаешь: что‑то тут не так.

Что происходит? Берётся одна и та же базовая схема, чуть‑чуть перекрашивается и «уникальная теория» готова ! Причём чаще всего за этим стоит не кропотливая работа автора, а ChatGPT или другая большая языковая модель.

Примеры? Да сколько угодно:

где‑то это «информация – симметрии – поля – гравитация»;

где‑то — библейская троица как схема устройства вселенной;

а где‑то — «сознание = вычисление» или «мультивселенные = вероятности».

Одна суть обёрнутая в понятные пользователю слова.

Так получается , потому что LLM :

1. Учат говорить чётко и связно, поэтому модель мастерски соединяет несвязанные на первый взгляд темы.

2. Подстраивается под тебя. Говоришь научным языком — получишь формулы и термины. Используешь религиозные образы — будет про дух и божественный замысел. Пишешь как айтишник — получишь схемы и алгоритмы.

3. Переиспользует заготовки. Модель обучается на огромных массивах текстов и типовые куски постоянно гуляют по сети. В итоге получается такой «гладкий синтез» — красиво, складно, но без глубины.

4. Создаёт иллюзию авторства. Автору кажется, что это его собственные идеи и формулы. На деле — стандартные блоки, собранные под его стиль. Причём формулы чаще всего декоративные: «несложно показать», но никаких конкретных расчётов нет.

Читать дальше →

Эта работа описывает методику отслеживания непреднамеренного наследования паттернов между последовательными версиями...

Время чтения2 мин
Охват и читатели6.8K

Эта работа описывает методику отслеживания непреднамеренного наследования паттернов между последовательными версиями языковых моделей.

Проверяем гипотезу, что при обучении новых моделей на предыдущих версиях (распространённая практика ради эффективности) они наследуют не только явные знания, но и «способы мышления», которые ускользают от привычных фильтров и процедур оценки.

Основные элементы:

Двухконтурный анализ

• Внутренний: сравнение геометрии представлений по cosine similarity и Centered Kernel Alignment (CKA) в выровненных пространствах признаков.

• Внешний: оценка переноса фиксированной классификационной «головы» (логистическая регрессия), обученной на одной версии и применённой к другой без дообучения.

Обнаружение событий

• O-TRACE: многомасштабное EMA + ζ-ядро для фиксации согласованных колебаний метрик.

• Импульсы: пороговая детекция резких падений в Δcos и ΔCKA.

Эксперименты на реальных моделях

• Эволюция семейства GPT-2: distilgpt2 → gpt2 → gpt2-medium.

• Переход между архитектурами: GPT-2 → DeepSeek-Coder-1.3B.

• Датасет: SST-2 (анализ тональности).

Ключевые выводы

• Геометрические сдвиги (падения CKA) могут быть значительными, даже когда cosine similarity остаётся высокой.

• Перенос фиксированных «голов» часто сохраняется при смене архитектуры.

• Самые сильные импульсы наблюдаются на межархитектурных переходах.

• «Стиль» и «смысл» могут расходиться независимо в процессе эволюции.

Эволюция моделей включает не только плановые улучшения, но и неконтролируемый перенос паттернов. Это важно для безопасности ИИ: модели могут наследовать и усиливать нежелательные предвзятости и формы поведения, обходящие стандартные фильтры.

Читать дальше →

Информация

В рейтинге
Не участвует
Зарегистрирован
Активность