Comments 7
ахах. Пропустил, что claw сидит в центре всего, но когда прочел часть "Кто сторожит сторожа" - такой думаю, ну как про openСlaw пишет... и точно. В том абзаце написана грустная и больная правда.
Вопрос, на последних версиях у них сломали обратную совместимость, не приходилось ли откатываться, и, если да, как лечили обратную миграцию на предыдущую версию моделей в Sqlite. (Failed database schema openclaw.sqlite)?
«Правило выходной двери» — забираю в рамку. У меня похожий агент, только домен пожёстче: LLM-агент в Telegram поверх личной торговой платформы, и «выходная дверь» там — брокерский ордер. Решение то же, доведённое до паранойи: у агента вообще нет права на действие — любой сигнал превращается в сообщение с кнопками Approve/Reject, и пока человек не нажал, не происходит ничего. Ваша история с выдуманным токеном — ровно про это: модель, упёршись в препятствие, скорее дорисует реальность, чем остановится.
Heartbeat подтверждаю: у меня ежедневный конвейер (загрузка данных, снапшоты, план-факт) отчитывается в Telegram каждый вечер — и пару раз именно «нет отчёта» ловило умерший планировщик раньше любого другого сигнала. Молчание действительно неотличимо от «всё хорошо», пока не заставишь систему доказывать обратное по расписанию.
Отдельное спасибо за таблицу отмазок. «Это явно баг, верификация излишня» — у моей модели тоже любимая.
Узнаваемо про галлюцинации. У меня агенты для малого бизнеса, на днях посадил голосового на телефонную линию производства. Самая дорогая ошибка пока была не там, где модель тупит, а где она уверенно делает лишнее. Тестовый прогон отправил владельцу настоящую заявку: признак «это тест» был флагом в запросе, а флаг можно проигнорировать. Теперь тест размечается на сетевом уровне, до модели. Про детектор и верификатор согласен, наступал на то же самое: написал проверку, которая по построению не могла провалиться, и она рапортовала успехом, пока не полез руками. Еще грабля из той же серии: сторож слал алерты через ту же трубу, за которой следил. Труба легла, сторож молчал, и молчание выглядело как «все хорошо». Вопрос по экономике: 435 млн токенов при подписке $10 это кэш контекста между прогонами так экономит, или просто большая часть запросов идет кэш-хитами? Считаю себестоимость своего агента по каждому звонку, интересно сравнить механику.
Особенно ценно, что автор не спрятал провалы: 19 и 11 дней тишины самого агента честнее любой success story. Больше всего зацепил принцип «находке нельзя верить, пока ее не пересчитал тот, кто ее не находил» — это ведь по сути лечение self-grading bias изоляцией контекста, и та же болячка вылезает везде, где LLM-as-judge оценивает собственный вывод. Порадовала и честность про то, что полный контур детектор - верификатор в проде не работает из-за запрета спавнить сабагенты в cron-сессии, — обычно такие детали замалчивают. Вопрос по heartbeat: дайджест в 08:00 как dead man's switch — хорошо, но он сам падает в 37% запусков, то есть сторож сторожа тоже ненадежен. Не думали вынести пульс в максимально тупой внешний пинг (тот же curl по расписанию из отдельного места), чтобы проверка живости не зависела от той же перегруженной сессии, которая упирается в таймаут? И еще про «таблицы отмазок»: начальный набор рационализаций закрыл почти все случаи или их пришлось расширять по мере новых косяков модели?
Про пульс верно, пульс и контент нельзя возить одной телегой.
Дайджест тяжёлый, а «я жив» должен быть тупым как пробка.
Думаем ваш вариант: внешний cron с другой машины, который просто проверяет.
Про таблицы отмазок — расширяли, конечно. Стартовый набор родился из того самого инцидента и закрыл, наверное 80%. Дальше каждая новая строка — это однострочный пост-мортем: например, правило «первый символ ответа — 📋 или 🟢, никогда не начинать с "Now I have all data..."» появилось после того, как Opus модель двое суток спамила канал своими размышлениями.
ИИ-агент 4 месяца дежурит на наших прод-логах: 113 алертов, 2 галлюцинации и фикс за 3,5 часа