Anthropic отправила технических специалистов в Вашингтон для встречи с представителями Белого дома, чтобы попытаться урегулировать спор вокруг новой модели искусственного интеллекта Fable 5, пишет Axios со ссылкой на источники.
Компания мобилизовала ресурсы для примирения с администрацией президента США Дональда Трампа. Американские власти считают, что недавно выпущенные модели Fable 5 и Mythos 5 представляют угрозу безопасности. В результате по распоряжению Белого дома обе модели заблокировали из-за нарушений экспортного контроля.
Представители администрации сообщили, что Anthropic не проявила должной серьёзности в своих действиях. Однако источники Axios рассказали, что с момента первого обращения администрации технические специалисты компании проводили виртуальные встречи с представителями Белого дома.
Собеседники новостного сайта с обеих сторон заявляют о своём стремлении урегулировать этот вопрос.
Спустя несколько дней после запуска Fable 5 генеральный директор Amazon Энди Джесси заявил в Белом доме об обеспокоенности по поводу возможности обойти установленные в модели ограничения. При этом Amazon выступает инвестором Anthropic. В частности, Amazon обнаружила, что если модель попросить проверить код на ошибки, то она найдёт в нём уязвимости, которые можно использовать для взлома.
«Введение экспортного контроля стало крайней мерой после многочасовых уговоров пойти нам навстречу. Мы не хотели этого делать, но наши руки были связаны», — сообщил высокопоставленный чиновник Белого дома.
В Anthropic опровергли утверждения о том, что компании предоставили выбор добровольно сотрудничать с администрацией. Белый дом дал 90 минут на удаление моделей, не предоставив никаких подробностей о реальной угрозе, поделился источник Politico.
Fable 5 представляет собой общедоступную модель, относящуюся к классу Mythos. Ранее этот уровень был закрыт и доступен только партнёрам по секретной программе Project Glasswing. В начале текущего года генеральный директор Anthropic Дарио Амодей отказался предоставить Министерству обороны полный доступ к ИИ-системам компании. После этого Пентагон поместил Anthropic и её продукты в категорию рисков для цепочки поставок США.
