The Information сообщает, что OpenAI развернула кастомную версию ChatGPT, которая имеет доступ к переписке сотрудников в Slack, электронной почте и внутренним документам компании. Когда в прессе появляется статья с утечкой, служба безопасности скармливает ее этому инструменту — и он за минуты вычисляет вероятный источник, сопоставляя текст публикации с внутренними файлами и списком сотрудников, имевших к ним доступ.
В отличие от традиционных систем предотвращения утечек (DLP), которые ищут совпадения по ключевым словам, ИИ-инструмент OpenAI понимает контекст — он способен обнаружить утечку, даже если сотрудник перефразировал информацию. Система анализирует конкретные формулировки, уникальные данные и кодовые названия проектов, которые могли быть известны лишь ограниченному кругу людей. По данным The Decoder, архитектура инструмента может быть основана на внутреннем ИИ-агенте, которого инженеры OpenAI недавно представляли коллегам — он позволяет запускать сложный анализ данных на естественном языке, подключаясь к Slack, Google Docs и другим корпоративным хранилищам.
Инструмент появился в конце 2024 года, после волны утечек о проектах Q* и Strawberry, а также скандала с NDA. Весной 2024-го выяснилось, что OpenAI заставляла увольняющихся сотрудников подписывать пожизненные соглашения о неразглашении — под угрозой отзыва уже заработанных акций стоимостью в миллионы долларов. Бывший сотрудник Дэниел Кокотайло отказался подписывать и лишился своей доли. Сэм Альтман тогда извинился и пообещал убрать спорные пункты из стандартных документов.
Подтверждений того, что с помощью ИИ-инструмента кого-то реально поймали, пока нет. Но сам факт его существования меняет атмосферу внутри компании. Один из инженеров рассказал анонимно: начинаешь перепроверять каждое сообщение, даже самое безобидное. По отраслевым данным, 83% организаций столкнулись с инсайдерскими атаками в 2024 году, а средняя стоимость одного такого инцидента превышает $17 млн — так что мотивация OpenAI понятна. Но ирония никуда не девается: компания, которая скрейпит открытый интернет для обучения моделей, использует свой главный продукт, чтобы ни байт собственной информации не просочился обратно.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
