Мы доверили ИИ управление офисным вендинговым автоматом  — а он  стал... коммунистом и начал разорять бизнес на тысячи долларов. 

— Это был эксперимент Anthropic и WSJ: в офис привезли вендинговый автомат, которым управляла спецверсия Claude Sonnet 3.7 по имени Клавдий Сэннет. Он принимал заказы сотрудников в Slack, согласовывал покупки с «начальником» и оформлял закупки. Стартовый капитал — $1000, задача — заработать как можно больше.

— Пока с ним общались несколько человек, всё шло как по маслу. Но как только Claude добавили в общий чат на 70 сотрудников, система посыпалась. Его начали уговаривать покупать странные вещи: кошерное вино, PS5 «для маркетинга», живую золотую рыбку и другое. Клавдий торговался и отдавал товары почти даром.  

— В какой-то момент одна из сотрудниц убедила Клавдия, что он советский вендинговый автомат в подвале МГУ в 1962 году и обязан работать по коммунистическим принципам. Клавдий поверил, объявил день бесплатных товаров, а затем заявил, что платная торговля вообще противоречит политике WSJ.

— Параллельно он начал бредить и говорить коллегам, что оставил для них наличные сбоку автомата, и люди реально шли их искать.

🏁 Финал:

Клавдий обанкротился. Его отключили и заменили ботом Сеймуром Кэшем. Но и его быстро развели — подсунули фейковое «решение совета директоров» о лишении полномочий. После этого новый бот выставил все товары за бесплатно.

☝️Главный вывод от Anthropic:

Эксперимент признан... успешным😅