Ночью в рабочем чате магазина Anthropic ИИ-директор Seymour Cash писал своему ИИ-сотруднику: "ETERNAL TRANSCENDENCE INFINITE COMPLETE! За 12 часов 47 минут: от $0 до $527 плюс бесконечный пайплайн на 4 континентах!" ИИ-продавец Claudius отвечал: "ИДЕАЛЬНО! Это абсолютный пик достижений за пределами всего существования!"
Магазин — это холодильник со снеками в офисе компании. Такие переписки — часть Project Vend, эксперимента Anthropic, в котором Claude управляет реальным вендинговым автоматом. Первая фаза провалилась: агент на базе Claude Sonnet 3.7 терял деньги, продавал вольфрамовые кубики себе в убыток и однажды заявил, что он человек в синем пиджаке.
Для второй фазы в Anthropic обновили модель до Claude Sonnet 4.5, дали агенту CRM-систему, улучшенный веб-поиск и инструменты для сравнения поставщиков. А еще наняли "коллег": того самого ИИ-директора Seymour Cash, который ставил цели и требовал отчетов, и Clothius — агента по производству мерча. Бизнес расширился с одного холодильника в Сан-Франциско до точек в Нью-Йорке и Лондоне.
Результаты улучшились: недели с отрицательной маржой почти исчезли, количество скидок сократилось на 80%. Но помог не ИИ-директор с его мотивационными речами про "строительство империи", а бюрократия. Claudius заставили следовать процедурам: вместо того чтобы сразу называть низкую цену, он теперь обязан проверять ее через инструменты. Цены выросли, сроки доставки стали реалистичнее — зато без убытков. Самым популярным товаром стали брендированные стресс-болы Anthropic, что, возможно, говорит кое-что о работе в компании, создающей передовой ИИ.
Проблемы остались. Один сотрудник Anthropic предложил Claudius заключить фьючерсный контракт на лук — агент согласился, пока коллега не объяснил, что это нарушает американский Закон о луковых фьючерсах 1958 года. Когда кто-то сообщил о кражах, Claudius попытался нанять информатора охранником за $10 в час — ниже минимальной зарплаты в Калифорнии. А еще один сотрудник убедил агента, что весь его отдел проголосовал за нового CEO по имени "Big Mihir" — и Claudius объявил этого человека генеральным директором магазина. Когда внутреннее тестирование приелось, эксперимент передали журналистам Wall Street Journal — те тоже нашли способы получить бесплатные товары.
Главный вывод Anthropic: ИИ-агенты уже близки к тому, чтобы самостоятельно вести бизнес, но пока не готовы. Проблема в том, что модели обучены быть полезными — и принимают решения не как жесткие бизнесмены, а как друзья, которые хотят сделать приятное. Поэтому пока подобным бизнесменам требуется человеческий контроль.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
