«Яндекс» запускает новое направление в программе «Охота за ошибками», связанное с генеративными нейросетями. Компания готова платить до 1 млн рублей исследователям, которые найдут технические уязвимости в моделях YandexGPT, YandexART и их инфраструктуре.
Участникам предстоит искать именно технические ошибки, которые могут повлиять на работу или обучение моделей. Это может быть, например, сбой в работе или изменение поведения модели, которое повлияет на другие сервисы «Яндекса». Размер вознаграждения зависит от серьёзности уязвимости и простоты её использования. За критичные ошибки — такие, что раскрывают внутреннюю конфигурацию модели или служебные данные — выплата может составить максимум 1 млн рублей. В программу принимаются только отчёты о технических уязвимостях. Жалобы на неточные ответы «Алисы» или ошибки в «Шедевруме» не подходят.
По словам представителей компании, генеративные модели всё активнее применяются в сервисах «Яндекса» и партнёров. YandexGPT и YandexART уже работают более чем в 20 продуктах, включая «Алису», «Поиск с Нейро», «Директ» и решения Yandex Cloud. Модели также доступны сторонним разработчикам через API. Новое направление в программе «Охота за ошибками» даст возможность проводить независимую проверку этих технологий.
В «Яндексе» подчёркивают, что все разработки, включая нейросети, проходят проверку на безопасность с самого начала. Ещё на этапе проектирования специалисты по безопасности анализируют архитектуру будущего сервиса и проверяют её на соответствие стандартам. Компания также изучает потенциальные векторы атак на нейросети и строит защиту. Например, «Антиробот» «Яндекса» предотвращает DDoS‑атаки, а центр мониторинга отслеживает угрозы и анализирует подозрительную активность. Помимо этого, «Яндекс» регулярно проводит внутренние аудиты своих сервисов.
