Инженеры Amazon по ошибке вывели из строя часть Amazon Web Services после совета AI-ассистента

[chrooter]

Кто их вобще назвал инженерами?

[poige]

HR'ы и HR'ки(?) :)

[linakun]

В Amazon позже признали, что ключевой причиной стал человеческий фактор

Хорошо когда за ИИ есть человек, можно на него все повесить. Авось в будущем будут вакансии по типу "ответственный за действия ИИ".

[TerraV]

Звучит как шутка, но вполне может оказаться пророческой. Наблюдаю очень разную картину взаимодействия с ИИ среди своих коллег. Большая часть - уяк-уяк и в продакшн. Причем желательно с одного промпта и auto-accept всех изменений. Меньшая отслеживают "ход мысли" ИИ и осуществляют "контроль намерений". Там же на самом деле такое огромное количество красных флагов, перед тем как ИИ сделает эпическую глупость. Это не промпт-инжениринг, это вполне себе взрослая инженерная тема когда ты выстраиваешь рабочий процесс, где AI это инструмент со своим диапазоном применимости. Просто из-за того, что ИИ "говорит человеческим языком", кажется ну вот я ему в двух предложениях задачу поставил - всё же понятно.

[u_u]

Можно как-то аккуратно продолжить работу после красного флага без перезапуска контекста? Claude очень болезненно реагирует, если отклонить его правку и сказать делать иначе, и идёт переделывать половину уже написанного, даже если замечание его не касалось.

[TerraV]

Конкретно в Claude Code есть возможность "откатить" историю. Три раза Escape и появляется узлы (пользовательский ввод), можно выбрать насколько далеко шагнуть назад. Проблему context poisoning решает.

[Deosis]

Зицпредседатель ИИгорь

[Neusser]

Винового работника уже выгнали на мороз и заменили на ИИ? /s

[shenmue]

И так.
У нас есть опытный обученный высококвалифицированный инженер который предоставил критически важную инфраструктуру нейронке, поведение которой предсказать не может никто. И это не развертывание каких то новых скриптов на тестовых серверах с предварительным бекапом. А на прямую заливка нового "софта" на прод.
Это если обученный специалист такое вытворяет то представьте что будут делать обычные хомяки.

Скрытый текст

[BugM]

Так требуют же. Историй про не очень умное руководство которое требует использовать сетки и ставит KPI на это уже достаточно.

[TemArtem]

Обычные хомяки хотя бы побоятся нажать кнопку "удалить все". А вот сеньор нажмет уверенно, потому что "у нас же наверняка настроены бэкапы и disaster recovery, мы же aws"

[T700]

ИИ отключает мозги. А мозг ленив и не хочет думать зря.

[Conung_ViC]

Самое смешное, что в статью где рассказывается как ИИ накосячил с сервером, вставлена реклама, предлагающая дать ИИ возможность решать задачи...

Не, спасибо, я пешком постою

[smarkelov]

Судя по комментам - до ИИ никто прод не ломал?

[linakun]

Может я не прав, но ИИ продвигается как надежная замена человека. А тут, получается, что мешок косячит, что ИИ. Тогда смысл затеи? Получить больше косяков за меньше кол-во времени?

[taujavarob]

А тут, получается, что мешок косячит, что ИИ. Тогда смысл затеи?

Смысл в процентах косяков. Если с внедрением ИИ он уменьшится, то смысл есть.

[linakun]

Имхо, смотря насколько он уменьшиться. Я не думаю что уменьшение процента косяков на 1 процентный пункт будет того стоить. И таки смотря какие косяки будут у ИИ, может они превзойдут коски человеческие.

[TemArtem]

Ломали конечно, но делали это с душой, творчески, после бессонной ночи с энергетиками) А теперь машина ломает инфраструктуру бездушно и холодно, лишая нас монополии на косяки. Обидно за профессию

[TemArtem]

На самом деле итог закономерный. Бизнес требует от инженеров ускоряться с помощью ии, ставит kpi на использование модных тулзов, инженеры делегируют рутину, чтобы успевать за спринтами, а в итоге получают даунтайм на 13 часов. Виноватым конечно сделают кожаного мешка

[TrueScaffold]

Здесь еще вот что интересно. Совет переустановить среду - это именно то, для чего надо было вкладывать миллиарды в новую технологию? Человек до такого варианта действий без ИИ не додумался бы?