Юристы ByteDance подали в суд на стажёра, который «злонамеренно вмешался» в обучение моделей ИИ, используемых в исследовательском проекте, а также два месяца саботировал выполнение задач по разработке нейросетей.
ByteDance в иске требует от стажёра компенсации в размере 8 млн юаней ($1,1 млн). Китайская компания обвинила своего бывшего сотрудника в преднамеренной атаке на IT-инфраструктуру для обучения крупной языковой модели искусственного интеллекта. По информации государственных СМИ Китая, иск против аспиранта Пекинского университета подан в народный суд района Хайдянь в Пекине. Юристы ByteDance настаивают, что стажёр намеренно саботировал задачи по обучению моделей, манипулировал кодом, путая других разработчиков, и вносил несанкционированные изменения в репозитории проекта.
Ранее в ByteDance признали, что программист-стажёр по имени Keyu Tian действительно некоторое время «злонамеренно вмешивался» в обучение ИИ моделей, используемых в исследовательском проекте, но это произошло без ущерба для продуктов компании. Также в ByteDance опровергли информацию, что стажёр якобы нанёс убытков на $10 млн, а в ходе саботажа он смог на время заблокировать работу около 8 тыс. графических процессоров, чипов, используемых для обучения моделей ИИ.
В ByteDance сообщили, что стажёр из исследовательской команды по разработке коммерческих технологий для ИИ был уволен в августе за серьёзные дисциплинарные нарушения. Компания добавила, что её официальные коммерческие продукты и большие языковые модели, а также базовая технология для генеративного ИИ не были затронуты инцидентом.
ByteDance заявила, что проинформировала университет, где обучается стажёр, о случившемся. Также о неподобающем поведении программиста компания сообщила в отраслевые ассоциации.
Профильные эксперты по ИБ сообщили, что программист устроился в компанию ByteDance стажёром и изнутри два месяца саботировал выполнение проекта по разработке нейросетей, добавляя ошибки в код, а также на встречах команды узнавал о том, как собираются фиксить баги, и придумывал новые. Из-за его действий команда из трёх десятков разработчиков круглосуточно искала и устраняла постоянно появляющиеся ошибки в проекте.
В итоге стажёра выловили по логам. Также инженеры из ByteDance пояснили, что команда из тридцати программистов целых два месяца работала впустую из-за деструктивных действий одного разработчика.
