Привет! Спасибо за интерес к статье и комментарию!
> При маскировании данных возникает неочевидная проблема: таблица соответствий "реальное значение → псевдоним" сама становится чувствительными данными и требует отдельной защиты
Это максимально корректное и валидное замечание, безусловно. В рамках продукта founudation models маппинг анонимизированных данных к оригинальным - защищен и уникальный для каждого запроса.
> Ещё коварнее другое – LLM способна восстанавливать замаскированные сущности из контекста: если в промпте [PERSON] "работает в [COMPANY] на должности [ROLE] в [CITY]", модель при достаточном контексте выводит, кто это, без явного имени.
Валидное замечание, но при анонимизации - в модель попадают ТОЛЬКО замаскированные данные, она не знает об оригинальных значениях и не может их восстановить. Модель не запоминает новые оригиналы из промпта — она работает только с тем, что видит в запросе, а в запросе она получает маски.
Привет! Спасибо за интерес к статье и комментарию!
> При маскировании данных возникает неочевидная проблема: таблица соответствий "реальное значение → псевдоним" сама становится чувствительными данными и требует отдельной защиты
Это максимально корректное и валидное замечание, безусловно. В рамках продукта founudation models маппинг анонимизированных данных к оригинальным - защищен и уникальный для каждого запроса.
> Ещё коварнее другое – LLM способна восстанавливать замаскированные сущности из контекста: если в промпте [PERSON] "работает в [COMPANY] на должности [ROLE] в [CITY]", модель при достаточном контексте выводит, кто это, без явного имени.
Валидное замечание, но при анонимизации - в модель попадают ТОЛЬКО замаскированные данные, она не знает об оригинальных значениях и не может их восстановить. Модель не запоминает новые оригиналы из промпта — она работает только с тем, что видит в запросе, а в запросе она получает маски.