Существует ли вообще решение этой проблемы, можно ли создать модель, способную системно находить инсайты? Я не знаю. И ChatGPT, который помог мне посчитать стоимость «похода в душ» для LLM, в обсуждении природы инсайта в основном поддакивал или говорил банальности. Видимо, и моя, и его семантическая сетка пока не содержит ответа.
Существует. И работает. На любой уже существующей модели.
Вменяемые разработчики ИИ-агентов всегда прописывают проверку нескольких независимых источников. То, что "сырая" модель "повелась" на фейк ни о чём не говорит. Это просто хайп недалёкого "умника". Вероятно, в базовые системные промпты Claude изначально заложена установка проверки и перепроверки источников. В принципе, это хороший стиль разработчиков Claude, который и выделяет их модели на рынке.
Вот три фундаментальные ошибки в аргументации «LLM не хранит, а согласия достаточно»:
Ошибка 1: «LLM не хранит данные»
Это опасное упрощение. Даже если сама модель не запоминает промпты навсегда, инфраструктура вокруг неё — почти наверняка хранит:
Логи и телеметрия: API-провайдеры (OpenAI, Anthropic, Google и др.) логируют запросы и ответы для мониторинга, отладки и борьбы со злоупотреблениями.
Улучшение моделей: Многие провайдеры по умолчанию используют пользовательские данные для дообучения моделей, если это явно не запрещено в настройках Enterprise-тарифа.
Кеширование и бэкапы: Данные могут временно или постоянно сохраняться на стороне провайдера.
Итог: Даже если вы не сохраняете данные у себя, их получает и обрабатывает третья сторона. С точки зрения закона, это не отменяет факта обработки.
Ошибка 2: «Согласия субъекта достаточно»
Нет, недостаточно. Ни в РФ (152-ФЗ), ни в ЕС (GDPR).
В контексте 152-ФЗ (Россия):
Локализация (ст. 18(5)): Первичный сбор и хранение персональных данных граждан РФ должны осуществляться на серверах, физически находящихся в России. Отправка данных в API иностранной LLM нарушает это требование, даже при наличии согласия.
Трансграничная передача: Если данные уходят за рубеж, это отдельный юридический процесс. Он требует либо наличия страны в «белом списке» Роскомнадзора, либо обеспечения адекватной защиты, либо выполнения ряда бюрократических процедур. Просто «получить галочку согласия» здесь не работает.
Комплекс мер: Закон также требует обеспечения безопасности (шифрование, доступы), уведомления Роскомнадзора, назначения ответственного и т.д.
Вывод: Согласие — это лишь одно из условий начала обработки, но оно не отменяет требования локализации и безопасности.
Ошибка 3: «Нет хранения = нет регулирования»
Законы о персональных данных регулируют обработку (processing), а не только хранение.
Определение: Обработка — это любое действие с данными: сбор, запись, передача, систематизация, использование, обезличивание, блокирование, удаление.
Транзит — это тоже обработка: Сам факт отправки промпта с персональными данными (например, «Пациент Иванов, диагноз...») на сервер в другую юрисдикцию уже является трансграничной передачей и подпадает под регулирование.
Почему для российской команды это критично?
Если российский сервис отправляет пользовательские данные (ФИО, телефоны, историю обращений) в API иностранной LLM:
Нарушается требование локализации баз данных.
Возникает неконтролируемая трансграничная передача.
Провайдер LLM может использовать эти данные для обучения, что делает невозможным выполнение требования об удалении данных по запросу пользователя («право на забвение»).
Резюме: Использование иностранных LLM для работы с персональными данными граждан РФ возможно только в обезличенном виде, либо через специальные шлюзы/прокси, обеспечивающие локализацию и юридическую чистоту передачи. В противном случае выбор действительно сводится к российским решениям или self-hosted моделям, развернутым внутри контура компании.
Надеюсь, теперь Вы видите разницу между «технически модель не запоминает» и «юридически мы передали данные третьей стороне». Безопасность и комплаенс — это про архитектуру целиком, а не только про веса модели.
Если российская команда выбирает LLM для продакшена и этот продакшен будет связан с пользовательскими данными, то ничего другого у команды, кроме российских LLM не остаётся. Если же команда не российская, то наверное она будет ориентироваться на законодательство своей страны в вопросах обработки ПДн.
Спасибо за интересную статью! Но использовать MCP только для того чтобы ознакомить модель с контекстом проекта - это, на мой взгляд, overhead. Достаточно простой просьбы - изучи проект, ознакомься со структурой. Всё. Теперь модель знает всё про ваш проект.
Статья хорошая, кейсы приведены правильные, жизненные. А Вас видимо смущает то, что Вы видите в себе того-самого покупателя/клиента из статьи, который постоянно хочет "дёшево-сердито".
Вы пожалуйста на тизер к своей статье посмотрите. Не хочу даже приводить этот текст здесь. Смотрится он мягко говоря странно. Если это не выпад в сторону нижегородской стоматологии, то что?
Андрей, Вы сделали мой день! Читаю, особенно сайт Вашей клиники, и испытываю массу непередаваемых эмоций полного спектра. Но нижегородских товарищей Вы зря обидели. В Нижнем Новгороде и области много высоких профессионалов. Я понимаю, трэш-маркетинг и все дела. Но это дела обоюдоострые. Не делайте так больше :)
Скажите пожалуйста, система ИИ для УЗИ разрешена к применению в практике Минздравом?
И второй вопрос, не кажется ли Вам, что подобная «система поддержки принятия решений» будет только мешать опытному врачу в процессе исследования?
Существует. И работает. На любой уже существующей модели.
Вменяемые разработчики ИИ-агентов всегда прописывают проверку нескольких независимых источников. То, что "сырая" модель "повелась" на фейк ни о чём не говорит. Это просто хайп недалёкого "умника". Вероятно, в базовые системные промпты Claude изначально заложена установка проверки и перепроверки источников. В принципе, это хороший стиль разработчиков Claude, который и выделяет их модели на рынке.
Вот три фундаментальные ошибки в аргументации «LLM не хранит, а согласия достаточно»:
Ошибка 1: «LLM не хранит данные»
Это опасное упрощение. Даже если сама модель не запоминает промпты навсегда, инфраструктура вокруг неё — почти наверняка хранит:
Логи и телеметрия: API-провайдеры (OpenAI, Anthropic, Google и др.) логируют запросы и ответы для мониторинга, отладки и борьбы со злоупотреблениями.
Улучшение моделей: Многие провайдеры по умолчанию используют пользовательские данные для дообучения моделей, если это явно не запрещено в настройках Enterprise-тарифа.
Кеширование и бэкапы: Данные могут временно или постоянно сохраняться на стороне провайдера.
Итог: Даже если вы не сохраняете данные у себя, их получает и обрабатывает третья сторона. С точки зрения закона, это не отменяет факта обработки.
Ошибка 2: «Согласия субъекта достаточно»
Нет, недостаточно. Ни в РФ (152-ФЗ), ни в ЕС (GDPR).
В контексте 152-ФЗ (Россия):
Локализация (ст. 18(5)): Первичный сбор и хранение персональных данных граждан РФ должны осуществляться на серверах, физически находящихся в России. Отправка данных в API иностранной LLM нарушает это требование, даже при наличии согласия.
Трансграничная передача: Если данные уходят за рубеж, это отдельный юридический процесс. Он требует либо наличия страны в «белом списке» Роскомнадзора, либо обеспечения адекватной защиты, либо выполнения ряда бюрократических процедур. Просто «получить галочку согласия» здесь не работает.
Комплекс мер: Закон также требует обеспечения безопасности (шифрование, доступы), уведомления Роскомнадзора, назначения ответственного и т.д.
Вывод: Согласие — это лишь одно из условий начала обработки, но оно не отменяет требования локализации и безопасности.
Ошибка 3: «Нет хранения = нет регулирования»
Законы о персональных данных регулируют обработку (processing), а не только хранение.
Определение: Обработка — это любое действие с данными: сбор, запись, передача, систематизация, использование, обезличивание, блокирование, удаление.
Транзит — это тоже обработка: Сам факт отправки промпта с персональными данными (например, «Пациент Иванов, диагноз...») на сервер в другую юрисдикцию уже является трансграничной передачей и подпадает под регулирование.
Почему для российской команды это критично?
Если российский сервис отправляет пользовательские данные (ФИО, телефоны, историю обращений) в API иностранной LLM:
Нарушается требование локализации баз данных.
Возникает неконтролируемая трансграничная передача.
Провайдер LLM может использовать эти данные для обучения, что делает невозможным выполнение требования об удалении данных по запросу пользователя («право на забвение»).
Резюме: Использование иностранных LLM для работы с персональными данными граждан РФ возможно только в обезличенном виде, либо через специальные шлюзы/прокси, обеспечивающие локализацию и юридическую чистоту передачи. В противном случае выбор действительно сводится к российским решениям или self-hosted моделям, развернутым внутри контура компании.
Надеюсь, теперь Вы видите разницу между «технически модель не запоминает» и «юридически мы передали данные третьей стороне». Безопасность и комплаенс — это про архитектуру целиком, а не только про веса модели.
Если российская команда выбирает LLM для продакшена и этот продакшен будет связан с пользовательскими данными, то ничего другого у команды, кроме российских LLM не остаётся. Если же команда не российская, то наверное она будет ориентироваться на законодательство своей страны в вопросах обработки ПДн.
Спасибо за интересную статью! Но использовать MCP только для того чтобы ознакомить модель с контекстом проекта - это, на мой взгляд, overhead. Достаточно простой просьбы - изучи проект, ознакомься со структурой. Всё. Теперь модель знает всё про ваш проект.
Sapienti sat.
Статья хорошая, кейсы приведены правильные, жизненные. А Вас видимо смущает то, что Вы видите в себе того-самого покупателя/клиента из статьи, который постоянно хочет "дёшево-сердито".
Спасибо за понимание и адекватный комментарий :) Вы предложили бета-тестирование - вот тестируем.
Не корректно ваш скрипт работает. При входе на сайт сразу на весь экран пользователь получает сообщение (картинка выше), а он пишет (картинка ниже).
У меня модель Codestral 22B с квантизацией 4 бита локально работает на машине с 32 гб RAM и 12 гб VRAM. Процессор Ryzen 5 5600X.
Точно? И возьмёт на себя полную юридическую ответственность за причинённый вред? В том числе здоровью?
Вы пожалуйста на тизер к своей статье посмотрите. Не хочу даже приводить этот текст здесь. Смотрится он мягко говоря странно. Если это не выпад в сторону нижегородской стоматологии, то что?
Андрей, Вы сделали мой день! Читаю, особенно сайт Вашей клиники, и испытываю массу непередаваемых эмоций полного спектра. Но нижегородских товарищей Вы зря обидели. В Нижнем Новгороде и области много высоких профессионалов. Я понимаю, трэш-маркетинг и все дела. Но это дела обоюдоострые. Не делайте так больше :)
И второй вопрос, не кажется ли Вам, что подобная «система поддержки принятия решений» будет только мешать опытному врачу в процессе исследования?