В ходе продолжающегося судебного процесса по делу об авторских правах компания Anthropic признала, что её чат-бот Claude предоставил недостоверную информацию, которая впоследствии была использована в качестве доказательства в суде.
Согласно заявлению, поданному в окружной суд Калифорнии, Claude придумал «неточный заголовок и неверных авторов». Ошибка ускользнула от ручной проверки и осталась незамеченной — наряду с несколькими другими ошибками в цитатах, допущенными Claude, как следует из судебных документов.
Фальшивое цитирование появилось в показаниях Оливии Чен, сотрудницы Anthropic, которая выступала в качестве свидетеля-эксперта по этому делу. Иск подан несколькими музыкальными издательствами, в том числе Universal Music Group, которые обвиняют Anthropic в нарушении авторских прав с помощью её систем генеративного искусственного интеллекта.
Согласно судебным протоколам, адвокаты Anthropic специально попросили Claude составить юридически корректную ссылку на статью из журнала The American Statistician: «Биномиальные доверительные интервалы для редких событий: важность определения погрешности относительно величины доли» Оуэна МакГрата и Кевина Берка. Claude должен был составить правильную юридическую ссылку на статью.
Несмотря на то, что Claude правильно указал название публикации, год и ссылку, в итоговой цитате всё равно был вымышленный заголовок и ложные имена авторов. По словам Anthropic, в процессе форматирования в сноску чат-бота закралось ещё больше ошибок в формулировках. Компания не опубликовала полный список этих ошибочных цитат.
После того как юристы музыкальных издательств выявили ошибки в цитатах, судья Сьюзан ван Кеулен попросила Anthropic дать ответ. Компания назвала эту проблему «честной ошибкой в цитате, а не подделкой авторитетного источника», отметив, что исходная статья существует и подтверждает заявление Чена. Anthropic отрицает намеренный обман. Тем не менее, адвокат компании был обязан официально извиниться за ошибки, допущенные Claude.