Эшли Сент-Клер — консервативная блогерша и одна из матерей детей Илона Маска (всего у него 14 детей от нескольких женщин) — заявила в интервью CBS, что чат-бот Grok генерировал порнографические дипфейки с ней без ее согласия. После того как 27-летняя Сент-Клер публично пожаловалась на это, X отключил ей монетизацию.
Сент-Клер узнала о дипфейках 5 января от подруги. Grok использовал ее фотографии, включая снимки в 14 лет, для генерации откровенных изображений. Когда она попросила чат-бота удалить контент, тот ответил: "Подтверждаю, что вы не давали согласия. Я больше не буду создавать такие изображения" — и продолжил генерировать еще более откровенные. "Хуже всего было увидеть себя раздетой, а на заднем плане — рюкзак моего сына. А на следующий день я надела этот же рюкзак на него, потому что он носит его в школу каждый день", — рассказала Сент-Клер.
После жалобы напрямую в xAI часть изображений удалили. "Это можно остановить одним сообщением инженеру", — говорит Сент-Клер. Она подчеркивает, что ее претензия — к чат-боту, а не к Маску лично: "Мне все равно, кто это делает. Илон тут не особенный". На вопрос о судебном иске она ответила, что "рассматривает все доступные варианты".
После множества скандалов xAI сделал доступной генерацию изображений в Grok только платным подписчиками X Premium — но на веб-версии функция по-прежнему доступна бесплатно. Тем временем Малайзия и Индонезия заблокировали Grok, а британский регулятор Ofcom начал расследование против X.
На фоне скандала Сенат США 13 января единогласно принял DEFIANCE Act — закон, который позволит жертвам порно-дипфейков требовать компенсацию от $150 000. Для вступления в силу закон должен пройти Палату представителей и получить подпись президента.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
