Теневой ИИ: как сотрудники сливают данные через ChatGPT и что с этим делать

Сотрудники копируют конфиденциальные данные в публичные нейросети в обход ИТ-служб. В 2025 году объём утечек вырос в 30 раз — зафиксировано 410 млн DLP-срабатываний, связанных с ChatGPT.

Явление получило название Shadow AI — использование публичных ИИ-сервисов без согласования с безопасниками. По данным Zscaler, 77% сотрудников копируют конфиденциальную информацию в промпты, 60% загружаемых PDF содержат чувствительные данные.

Что утекает

• Исходный код и архитектурные схемы

• Персональные данные клиентов

• Финансовые отчёты и коммерческая тайна

• Внутренняя переписка и служебные документы

Каналы: прямые промпты, загрузка файлов, RAG-инъекции, агентные системы. В 2023 году сотрудники Samsung передали в ChatGPT исходный код оборудования. Обнаружена уязвимость EchoLeak — письмо со специальным содержимым заставляло Microsoft 365 Copilot автоматически отправлять на внешний сервер фрагменты переписки из Outlook.

Регуляторные риски в РФ

Персональные данные граждан нельзя передавать в зарубежные сервисы без согласия (152-ФЗ). Утечка коммерческой тайны, исходного кода и финансовых отчётов нарушает требования 187-ФЗ о безопасности КИИ. Предусмотрены оборотные штрафы и уголовная ответственность по ст. 272.1 УК РФ.

Что делать

Технические меры:

• Видимость трафика к ИИ-сервисам через корпоративный прокси

• AI-aware DLP для анализа промптов на лету

• Защита от prompt injection в собственных ИИ-приложениях

• Управление агентами и контроль RAG-источников

Организационные меры: чёткие правила использования ИИ, регистрация инструментов, обучение персонала. Главное — предоставить безопасные альтернативы вместо запретов. Запрет без замены приводит к ещё большему теневому использованию.

Проблема системная: сотрудники видят в ИИ инструмент для ускорения работы и не задумываются о последствиях. Задача ИТ — сделать защищённые решения удобнее публичных, иначе теневой ИИ будет расти.

TG @CIOlogia