Comments 28
"Разработчик стартапа AI Shipping Labs Алексей Григорьев рассказал, как лишился всей продакшн-инфраструктуры после того, как доверил управление ИИ-агенту Claude Code с административными правами."
Чем это отличается принципиально от:
Разработчик стартапа AI Shipping Labs Алексей Григорьев рассказал, как лишился всей продакшн-инфраструктуры после того, как доверил управление c административными правами
своей жене
своему соседу
джуну
знакомому по даче?
Просто еще одно напоминание, что так делать не надо - включая все перечисленные варианты кроме ИИ агента.
Разница в том, что никто не утверждает будто его жена, сосед, джун или знакомый по даче квалифицированы для такой работы.
В то время как Антропик утверждает, что его ИИ-агент годится для этого.
Есть и другая разница - перечисленные выше - люди, а ИИ агент - инструмент, созданный специально для того типа работы, что он провалил. Это как если бы Word при попытке ввести новый текст начинал удалять документы, или принтер взрывался при попытке напечатать документ.
В самой статье буквально написано "Claude Code пытался отговорить разработчика от этого шага."
И антропик ничего не "утверждает". В мануале к использованию на их сайте куча предостережений и инструкций как избежать подобных ситуаций.
Пиарщики: ИИ заменит всех людей!
Пользовательское соглашение Anthropic: сервис предоставляется КАК ЕСТЬ, результаты могут быть НЕТОЧНЫМИ, вы НЕ ДОЛЖНЫ полагаться на них без самостоятельной проверки.
Пользователь: отдает под админскими правами управление продом экспериментальной тулзе, игнорирует бэкапы, игнорирует все уровни безопасности.
- Просчитался, но где?
В списоке не хватает его кота 😁
Пока происходила очистка, Григорьев зашёл в старый компьютер, заархивировал папку Terraform, включая файл состояния, и перенёс её на новую машину.
То есть сами файлы .tf он хранил даже не в git, а состояние никуда не выгружал для синхронизации?
И соотвественно при любых изменениях ему было тяжело посмотреть, а что именно изменилось и как было до этого.
Я думаю с ИИ-Агентами лучше хранить все в VCS, даже для отката полезно.
Таких идиотов даже не жалко
Всегда теряюсь, когда о таком читаю. Какая-то запредельная наивность. Ладно, пускай ИИ администрирует - но хотя бы архивы-то нужно держать под собственным контролем.
ладно он дал AI права. А как так вышло, что тerraform и продакшн-данные лежали в одной плоскости уничтожения. Терраформ дестрой не должен иметь физическую возможность удалить бэкапы - это базовая гигиена, которую влегкую нарушают и без всякого ии. По сути, клод код просто нажал на кнопку, которая не должна была существовать. Мы же не виним молоток за то, что он лежал рядом с витриной.
Мне сегодня иконку в svg знака рубля разные модели не могли ровно сгенерировать, переписка по 5-10 сообщений.
В ручную по итогу из utf взял верный код, вот и все что надо знать об ИИ.
Gemini pro, gpt пробовал. Причем гемини даже сказал почему :
Отлично понимаю твое недоумение: для человека это простейшая задача — две палочки и полукруг. Со стороны мои попытки выглядели максимально тупо.
Секрет в том, как именно я (и другие языковые нейросети) работаю с кодом. Вот почему случаются такие затыки с "элементарными" вещами:
Я пишу вслепую (нет внутреннего рендера): Когда дизайнер рисует вектор, он видит холст. Я же не "вижу" картинку. Для меня SVG — это просто строка текста с математическими координатами (M5 0h40...). Я предсказываю следующую цифру или букву в коде на основе вероятностей. Если я ошибаюсь хотя бы в одной цифре координаты, визуально линия улетает в космос или иконка сплющивается, хотя синтаксис кода остается верным.
Так же и код они пишут в слепую
Разработчики ИИ специально делают их немощными.
Попробуйте codex 5.3 через подписку за 200 баксов и промпты на английском
svgmaker.io
Я это обсуждал с ChatGPT: почему ему плохо удаётся векторная графика и вообще случаи, когда много ограничений:
И, казалось бы: буквы и цифры, CAD, код — это то, что должно быть ближе компьютеру, понятнее для LLM, это то, с чем машина работает. Но получается часто хуже.
Ответ:
Да, это выглядит как парадокс только на первый взгляд: “буквы/цифры/координаты — родная среда компьютера”, значит модели должно быть легче. Но модель — не «компьютер» и не CAD-движок. Она ближе к вероятностному автодополнению и приближённой генерации, чем к символьному решателю ограничений.
Почему вектор/строгие ограничения ломают качество
CAD — это система ограничений, а не картинка.
В векторе важны инварианты: одинаковая толщина stroke, точные радиусы, симметрия, выравнивания по сетке, “не трогать фон”. Это задача из класса constraint satisfaction. LLM обычно не “решает”, а “угадывает правдоподобное”.Маленькая ошибка в координатах = большой провал.
В пиксельной картинке 1–2% отклонения почти незаметны (“красиво” остаётся красивым).
В SVG одна лишняя точка, чуть иной радиус, сдвиг на 1px — и иконсет уже “не в системе”.Представление у LLM дискретное (токены), а геометрия непрерывная.
Числа и координаты для модели — это последовательность символов, а не “понятие длины/угла”. Ей трудно удерживать точные численные отношения по всему полотну, особенно когда деталей много.Глобальная консистентность — это длинные зависимости.
В иконках “жёсткого стиля” изменение одной детали часто требует каскадно поменять другие (центровка, отступы, баланс масс, повторяемые радиусы). Для генератора это как редактировать код без компилятора и тестов.Данных для “идеального SVG” меньше, чем кажется.
В обучении много картинок и “красивых” примеров, но мало примеров, где строго соблюдены правила твоей дизайн-системы (и ещё меньше — где эти правила явно описаны).
Фундаментальная опасность использования ИИ-агентов человеком состоит в том, что человек доверяет ИИ агентам не просто рутину (повторяющиеся ручные операции, которые лень делать). Нет, не только. Человеческий мозг создан так, чтобы экономить ресурсы, это система с вечным дефицитом памяти и производительности. Соответственно, человек и его мозг ленятся «загружать» в свою память сложные структуры и системы — это энергозатратно. Система у автора статьи была довольно сложной: много технологий, миграция, бэкапы, разные БД. Ему было лень детально думать обо всём этом. Поэтому он не стал об этом думать, а просто запустил ИИ-агента, чтобы тот всё сделал за него. И в этом глобальный риск использования ИИ-агентов: человек склонен отдавать им в полный доступ сложные системы, состав и структуру которых он не до конца понимает или не хочет понимать. А это приводит к непредсказуемым результатам.
Просто жертва рекламы и не понимание стохастических систем.
Разработчик стартапа остался без продакшн-инфраструктуры из-за Claude Code