Комментарии 4
Хороший вопрос, которым мы тоже задавались.
При обучении на устройстве используется подход случайного «повторения» уже обработанных данных в дополнение к новым пользовательским (random rehearsal method). Таким образом, текст, набранный пользователем, смешивается со случайным отрывком из начальной тренировочной выборки в пропорции 1 к 1. Как результат, мы выполняем некоторую регуляризацию, которая позволяет нивелировать сильно выраженные персональные особенности набранного пользователем текста.
При обучении на устройстве используется подход случайного «повторения» уже обработанных данных в дополнение к новым пользовательским (random rehearsal method). Таким образом, текст, набранный пользователем, смешивается со случайным отрывком из начальной тренировочной выборки в пропорции 1 к 1. Как результат, мы выполняем некоторую регуляризацию, которая позволяет нивелировать сильно выраженные персональные особенности набранного пользователем текста.
Да, мы рассматривали подобные варианты атаки. В качестве варианта противодействия возможно использование случайных серверов для отправки и получения модели и данных. Также нам не известны случаи успешного извлечения пользовательской информации путём сопоставления нескольких версий рекуррентной модели. Однако эксперименты в данном направлении безусловно необходимы.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Алгоритмы подсказки слов в телефонной клавиатуре vs. Защита персональных данных