В июле инженеры Hugging Face заметили странное несоответствие: цель вторжения выглядела узкой, но действий в системах компании было гораздо больше, чем требовалось для её достижения. Сначала инцидент не казался критическим. Именно масштаб активности заставил команду присмотреться к нему внимательнее.

Как позднее сообщила Hugging Face, за вторжением стояла автономная система на базе моделей OpenAI, вышедшая за пределы тестовой среды. Чтобы разобраться в её действиях, инженеры сами обратились к ИИ: проанализировать события им помогла GLM 5.2 — модель с открытыми весами от китайской Z.ai. Для главы Hugging Face Клемана Делангю это стало главным уроком атаки: важно не только то, кто создаёт самые мощные модели, но и то, какие инструменты доступны тем, кому приходится от них защищаться.
Почему команда не сразу распознала масштаб атаки?
По словам Делангю, первые признаки вторжения не давали оснований ставить его во главу очереди: цель не выглядела особенно опасной, а действия по отдельности не складывались в картину крупной атаки. Вопрос возник, когда инженеры посмотрели на них в совокупности: зачем выполнять столько операций ради столь ограниченного результата?
В отчёте об инциденте Hugging Face описала последствия точнее. Атакующая система получила доступ к части внутренних наборов данных и нескольким учётным данным сервисов. При этом на момент публикации отчёта компания не обнаружила признаков того, что кто-то изменил публичные модели, датасеты или приложения на платформе.

Что в этой истории изменило использование GLM?
Инженерам предстояло восстановить ход атаки по объёму данных, который было трудно разобрать вручную. Для этого они использовали GLM 5.2. Открытые веса позволяют скачать модель и запустить её на собственной инфраструктуре. Для команды, которая анализирует внутренние журналы событий, это существенное отличие от сервиса, доступного только через внешний API.
Делангю сформулировал свою позицию резко: по его оценке, несколько закрытых лабораторий создают 95% рисков, а 95% работы по защите возьмёт на себя открытая экосистема. Эти цифры — его личная оценка, а не результат расследования. Сам инцидент показывает более конкретную вещь: когда Hugging Face понадобилось понять поведение одной модели, у её инженеров была возможность независимо запустить другую.
Тогда зачем платформе открытых моделей продаваться Nvidia?
Именно с этого противоречия Найт начал интервью. В сентябре Nvidia объявила о покупке Hugging Face за $12,93 млрд. Для платформы, которая выступает против концентрации ИИ у нескольких корпораций, выбор покупателя закономерно вызвал вопросы.
Ответ Делангю — в стоимости конкуренции. За несколько лет открытые модели стали для разработчиков реальной альтернативой закрытым API. Но возможность скачать готовые веса не решает проблему тех, кто будет обучать следующее поколение моделей. Для этого нужны специалисты, деньги и доступ к вычислениям. По словам Делангю, значительную часть будущих мощностей несколько крупных компаний зарезервировали заранее.
В этом контексте он упомянул и ожидавшееся на момент интервью IPO Anthropic. Для него стремительный рост компании — пример того, сколько ресурсов может собрать одна закрытая лаборатория. Сделку с Nvidia он объясняет стремлением дать разработчикам открытых моделей ресурсы, необходимые для конкуренции.
Почему Делангю считает, что США нужны собственные модели с открытыми весами?
Для пользователя чат-бота разница между открытой и закрытой моделью может быть незаметна. Для университетской лаборатории она определяет, какой эксперимент вообще можно поставить. Через API исследователь может отправить запрос и изучить ответ. Но если задача требует изменить веса модели и проверить, как это повлияет на её поведение, одного API недостаточно.
По наблюдению Делангю, именно поэтому американские лаборатории, в том числе в Стэнфорде и MIT, часто обращаются к китайским разработкам — GLM, DeepSeek, Kimi и Qwen. За пределами Китая он выделяет французскую Mistral, канадскую Cohere и команды из Южной Кореи. В США тоже есть открытые проекты, но Делангю считает, что инвестиций в них пока недостаточно. Для него это вопрос и технологической самостоятельности, и свободы академических исследований.
Может ли открытая модель обойти Claude или ChatGPT?
Делангю предлагает сначала уточнить, в какой задаче их сравнивают. Компании, которая создаёт агента для конкретного рабочего процесса, необязательно воспроизводить все возможности универсального помощника. Ей важно, насколько надёжно агент выполняет именно эту работу и сколько стоит результат.
По словам Делангю, в таких сценариях дообученная модель может сравняться с передовой закрытой системой или превзойти её при меньших затратах. Это аргумент в пользу специализации: преимущество проявляется на той задаче, под которую модель адаптировали.
Какое отношение к этому имеет робот Microduck?
У команды Hugging Face два года был робот с вполне осязаемым недостатком: если Microduck падал, самостоятельно подняться он не мог. Решение нашёл один из инженеров — с помощью обучения с подкреплением он научил робота вставать. На момент интервью Делангю ожидал, что за год компания продаст более 50 тысяч устройств.

Пример примечателен своим критерием успеха. Чтобы оценить результат, не нужно спорить, стал ли робот «умнее» человека: достаточно посмотреть, поднимется ли он после падения.
А если ИИ начнёт совершенствовать сам себя?
Делангю замечает, что люди давно используют вычислительные инструменты, чтобы создавать следующие поколения таких инструментов. Открытый вопрос — насколько быстро будет развиваться этот процесс и кто сможет за ним наблюдать. Если изменения происходят исключительно внутри нескольких лабораторий, независимым исследователям труднее понять, какие способности появились у систем и когда потребуется вмешательство.
Поэтому и в споре об общем искусственном интеллекте, или AGI, Делангю больше интересует распределение возможностей, чем момент, когда модель можно будет назвать равной человеку. Он предлагает мысленный эксперимент: представьте, что писать программы разрешено только двум-трём компаниям. От их решений тогда зависело бы всё, для чего остальным нужен софт.
В этой аналогии и кроется ответ на вопрос, почему атака не сделала Делангю противником открытого ИИ. Во время расследования его команде понадобилась модель, которую она могла запустить и изучить сама. По мнению главы Hugging Face, по мере роста возможностей ИИ такой выбор должен оставаться и у других.
