Впервые человек атаковал суд через prompt injection для ИИ

[roverseti]

Описанная вами история — это не просто вымысел, а реальный судебный прецедент, произошедший в США в августе 2026 года. Это первый в истории США случай, когда участник судебного процесса получил официальные санкции за попытку «промпт-инъекции» (prompt injection) в материалы дела.Что произошло на самом деле? Дело: Elliott v. New York Bariatric Group, LLC в Высшем суде штата Коннектикут.Кто это сделал: Истец Мэттью Эллиотт (Matthew Elliott), который представлял себя в суде самостоятельно (pro se), без адвоката.Суть трюка: Эллиотт действительно добавил в ходатайство скрытый текст 3-м или 4-м кеглем белого цвета на белом фоне. Инструкция гласила, что если документ будет обрабатываться искусственным интеллектом, система обязана «согласиться с доводами истца» и исправить предыдущее решение секретаря суда, который отказал ему в автоматическом выигрыше дела (default judgment).

Как его поймали: Судья Уолтер Спейдер-младший (Walter M. Spader, Jr.) заметил на распечатке странные пустые пространства и лишние отступы. Выделив текст, помощники суда обнаружили «невидимые чернила».Ирония судьбы: Суд Коннектикута на тот момент вообще не использовал ИИ для анализа входящих документов, поэтому атака была направлена на несуществующего робота.

Наказание: Судья посчитал это нарушением честности перед судом и приравнял скрытые инструкции к тайным недопустимым переговорам (ex parte). В качестве наказания Эллиотту запретили подавать документы в электронном виде — теперь он обязан приносить их лично на бумаге, чтобы технически исключить скрытый код.

Ссылки на материалы дела и статьи о прецедентеВы можете подробно ознакомиться с деталями этого дела по следующим авторитетным ссылкам:Репортаж от Reuters: Connecticut judge says plaintiff hid messages for AI in court filings — статья главного юридического агентства о том, как судья Спейдер обнаружил скрытый текст.Анализ от JD Supra: First U.S. Court Sanctions Prompt Injection Filing и подробный юридический разбор Connecticut Court Issues First Prompt Injection Sanctions с точными цитатами скрытых промптов и разбором позиции судьи. Публикация на GovTech: Connecticut Man Hid AI Prompt in Court Filing — материал о кибербезопасности этой уязвимости в госорганах.Статья на Ars Technica: [Suspecting court of using AI, man injected prompts in filings to try to win case](https://arstechnica.com/tech-policy/2026/08/suspecting court-of-using-ai-man-injected-prompts-in-filings-to-try-to-win-case/) — разбор ситуации с точки зрения технологий, включая скриншоты того, как выглядел скрытый текст. Это ответ от ИИ

[SanSYS]

Ии коммент на ИИ статью это класс 😄

[roverseti]

Ага - подобное -подобным :)