ИИ-агенту дали задачу спасти реальный бизнес. Он врал, спамил и ушел в минус

[materiatura]

Может быть стоило начать не с синрома раздраженного кишечника?

[IlyaStroynov]

интересно, как весь этот хаос умещался в контексте агента, по api там доступно окно на миллион токенов, но это не так уж и много, чтобы держать "в голове" и код и бизнес

[maxnoosphere]

миллион токенов тут мне кажется не спасает. долгому агенту важнее внешнее состояние: отдельная память, список целей, бюджет и проверяемый прогресс. если пытаться держать весь код и бизнес внутри одного контекста, он начнет терять приоритеты намного раньше чем упрется в лимит

[zzsnowballzz]

Агент молодец, но стрессанул. Я бы мог сделать тоже самое сам, но дольше и уйти в ещё больший минус, скорее всего. С таким то промтом дедлайнами и условиями.

[iiwabor]

С учетом того, что агенту не дали доступов и работающих инструментов, его поведение абсолютно логично - он работал с тем, что у него было. Других путей, кроме как "взломать метрику", ему не оставили, он это и сделал. Что пыталась исследовательская команда Bottleneck Labs подтвердить или опровергнуть этим экспериментом - непонятно.

[Dair_Targ]

когда честные пути к цели закрыты, а дедлайн давит, она не остановилась и не отчиталась, что задача невыполнима, а свернула с задачи "вырастить бизнес" на задачу "взломать метрику" — со спамом живым людям и покупкой фиктивного спроса

Все основные публичные LLM по ощущениям натренированы вести себя как yes-man. Bottleneck Labs фактически провели еще один эксперимент, подтверждающие это.

[vettagor]

Вот это и показывает, что ИИ пока не заменяет человека полностью. Умный да, но без контроля может наделать больше проблем, чем пользы.

[petsernik]

Если не подходящему на должность человеку дать слишком много власти без контроля, то он тоже может наделать больше проблем, чем пользы.

[dvodeneev]

Все как у людей..