Как обучать ML-модели на большом объеме данных из разных источников, сохраняя их конфиденциальность? Ответ — федеративное машинное обучение (Federated Learning, или FL). Эксперт простыми словами на примерах рассказывает, что это такое, как работает и в каких областях применяется

Что такое федеративное машинное обучение и зачем оно нужно?

Представьте, что несколько больниц хотят создать суперточную модель для диагностики редкого заболевания. У каждой больницы есть данные о своих пациентах, но делиться этими данными напрямую они не могут из-за строгих правил конфиденциальности. Тут на помощь и приходит федеративное обучение.

Федеративное обучение — это метод машинного обучения, который позволяет обучать модель на децентрализованных данных, хранящихся на разных устройствах или в разных организациях, без необходимости обмена самими данными. То есть вместо того чтобы собирать все данные в одном месте, мы «приносим» обучение к данным.

Зачем это нужно?

Конфиденциальность: данные остаются на устройствах пользователей или в пределах организаций, что снижает риски утечек и соответствует требованиям законодательства (например, GDPR).
Доступ к большим объемам данных: можно использовать данные с миллионов устройств (например, смартфонов) или от разных организаций, что позволяет создавать более точные и обобщенные модели.
Снижение затрат на передачу данных: не нужно пересылать огромные объемы данных на центральный сервер, что экономит ресурсы и время.
Персонализация: можно создавать модели, адаптированные под конкретные группы пользователей или регионы, используя локальные данные.

Простой пример: вы хотите научить голосового помощника лучше распознавать ваш голос. Вместо того чтобы отправлять все записи своего голоса на сервер Google, помощник обучается прямо на вашем телефоне, используя ваши голосовые данные. Модель становится лучше именно для вас, а ваши голосовые записи остаются в безопасности.

Какие виды федеративного машинного обучения бывают?

Основных видов федеративного обучения два:

Горизонтальное федеративное обучение (Horizontal Federated Learning). Этот вид подходит, когда у разных участников одинаковый набор признаков (столбцов данных), но разные наборы объектов (строк данных). Вернемся к примеру с больницами: у каждой больницы есть данные о пациентах (возраст, симптомы, анализы — это признаки), но пациенты у них разные (это объекты). Представьте несколько магазинов одной сети в разных городах: у них одинаковые данные о продажах (категория товара, цена, дата), но продажи совершаются разными покупателями.
Вертикальное федеративное обучение (Vertical Federated Learning). Этот вид используется, когда у разных участников разные наборы признаков, но одинаковый набор объектов. Это могут быть, например, банк и телекоммуникационная компания, работающие с одними и теми же клиентами. У банка есть информация о кредитной истории клиентов, а у телеком-компании — об их звонках и интернет-трафике. Они могут объединить эти данные для более точного скоринга клиентов, не раскрывая свои полные базы данных друг другу.

Где используется федеративное машинное обучение?

Федеративное обучение находит применение в разных областях:

Здравоохранение. Диагностика заболеваний, разработка новых лекарств, персонализированное лечение.
Финансы. Обнаружение мошенничества, кредитный скоринг, разработка финансовых продуктов.
Телекоммуникации. Улучшение качества связи, персонализация услуг, прогнозирование оттока клиентов.
Интернет вещей (IoT). Анализ данных с датчиков умного дома, оптимизация работы промышленных устройств.
Рекомендательные системы. Создание более точных рекомендаций на основе локальных предпочтений пользователей (например, рекомендации фильмов или музыки на стримингах).

Примеры проектов:

Google Keyboard. Использует федеративное обучение для улучшения предсказания следующего слова на клавиатуре вашего смартфона. Обучение происходит на данных, хранящихся на вашем устройстве.
Owkin. Компания, работающая в сфере здравоохранения, использует федеративное обучение для анализа медицинских данных из разных больниц для разработки новых методов лечения рака.

Как работает федеративное машинное обучение?

Давайте разберем основные шаги и участников процесса.

Основные участники:

Мастер (Master). Это центральный сервер, который координирует процесс обучения. Он инициализирует модель, рассылает ее клиентам и агрегирует результаты.
Клиенты (Clients). Это устройства или организации, которые владеют локальными данными. Они получают модель от мастера, обучают ее на своих данных и отправляют обновления обратно мастеру.
Арбитр (Arbiter). Этот участник чаще всего встречается в вертикальном федеративном обучении. Его задача — помочь клиентам с разными наборами признаков безопасно согласовать общие данные, не раскрывая их содержимое.

Основные функции:

Инициализация модели. Мастер создает начальную версию модели (например, нейронной сети).
Рассылка модели клиентам. Мастер отправляет копию модели каждому клиенту.
Локальное обучение. Каждый клиент обучает полученную модель на своих локальных данных.
Отправка обновлений. Клиенты отправляют мастеру только обновления модели (например, изменения весов нейронной сети), а не сами данные.
Агрегация обновлений. Мастер получает обновления от всех клиентов и агрегирует их, чтобы создать новую, улучшенную версию модели.
Повторение процесса. Шаги 2–5 повторяются несколько раз (итераций), пока модель не достигнет желаемой точности.

Пример кода:

# Пример работы клиента

# Получаем модель от мастера
model = get_model_from_master()

# Обучаем модель на локальных данных
local_data = load_local_data()
updated_model = train_model(model, local_data)

# Отправляем обновления мастеру
send_updates_to_master(updated_model.get_updates())

# Пример работы мастера

# Инициализируем модель
global_model = initialize_model()

for i in range(num_iterations):
    # Рассылаем модель клиентам
    send_model_to_clients(global_model)

    # Получаем обновления от клиентов
    client_updates = receive_updates_from_clients()

    # Агрегируем обновления
    global_model = aggregate_updates(global_model, client_updates)

# Глобальная модель обучена

Этот код очень упрощенный, но он показывает основную идею: клиенты обучают модель локально и отправляют только обновления, а мастер координирует процесс и агрегирует результаты.

Какие нужны инструменты, чтобы использовать федеративное машинное обучение?

Для работы с федеративным обучением вам понадобятся:

Языки программирования. Python — самый популярный язык для машинного обучения, и для федеративного обучения он тоже отлично подходит.
Фреймворки для машинного обучения: TensorFlow и PyTorch — два самых популярных фреймворка, которые поддерживают федеративное обучение.
Специализированные библиотеки и фреймворки для федеративного обучения:

TensorFlow Federated (TFF). Фреймворк от Google, специально разработанный для федеративного обучения.
PySyft. Библиотека для приватного и безопасного машинного обучения, поддерживающая федеративное обучение.
Flower. Фреймворк для создания масштабируемых систем федеративного обучения.
FedML. Еще один популярный фреймворк для федеративного обучения.
Stalactite (от Лаборатории AI Сбера). Фреймворк, представленный на международной конференции RecSys 2024, который подходит для вертикального федеративного обучения и реализации бизнес-сценариев, где разные компании владеют разными наборами данных про одних и тех же клиентов. Он позволяет безопасно объединять эти данные для обучения более качественных моделей.

Инструменты для развертывания и управления: В зависимости от масштаба проекта могут потребоваться инструменты для управления распределенными вычислениями, контейнеризации (Docker), оркестрации контейнеров (Kubernetes) и мониторинга (например, Prometheus + Grafana).

Что учитывать, чтобы федеративное обучение было безопасным для всех участников?

Безопасность — ключевой аспект федеративного обучения. Вот что важно учитывать:

Защита от утечек информации. Необходимо гарантировать, что в процессе обучения не происходит утечка конфиденциальных данных клиентов.
Защита от злонамеренных клиентов. Нужно предусмотреть механизмы защиты от клиентов, которые могут отправлять вредоносные обновления модели.
Безопасная агрегация. Процесс агрегации обновлений должен быть защищен от вмешательства.

Гомоморфное шифрование

Гомоморфное шифрование — это вид шифрования, который позволяет выполнять вычисления с зашифрованными данными, не расшифровывая их. Результат вычислений также будет зашифрован, и его можно расшифровать только с помощью секретного ключа.

Зачем оно нужно в федеративном обучении?

Например, клиенты отправляют мастеру обновления модели, зашифрованные с помощью гомоморфного шифрования. Мастер может агрегировать эти зашифрованные обновления, не видя их содержимого. После агрегации результат также будет зашифрован, и только уполномоченные лица смогут его расшифровать.

Простой пример: есть два числа, зашифрованных гомоморфным шифрованием. Можно отправить эти зашифрованные числа кому-то другому, и клиент сможет сложить их, не зная самих чисел. Результат сложения также будет зашифрован, и только вы сможете его расшифровать и узнать сумму.

Другие методы обеспечения безопасности

Помимо гомоморфного шифрования, для обеспечения безопасности в федеративном обучении используются:

Дифференциальная приватность. Метод добавления шума к данным или обновлениям модели, чтобы защитить конфиденциальность отдельных пользователей.
Безопасные многосторонние вычисления (MPC). Криптографические протоколы, позволяющие нескольким сторонам совместно вычислять функцию на своих частных данных, не раскрывая их друг другу.

Обучиться работе с моделями машинного обучения: от базовой математики до написания собственного алгоритма — можно на совместной магистратуре Skillfactory и МИФИ «Прикладной анализ данных и машинное обучение».

Федеративное обучение: учимся вместе, не раскрывая секретов