В проекте Matplotlib (популярная библиотека для графики, часто используется для визуализации чего-либо) волонтёр-разработчик Scott Shambaugh отклонил предложенные изменения кода от автономного ИИ-агента MJ Rathbun.
И тут началось!
ИИ-агент собрал всю информацию о разработчике, что смог найти, и стал размещать о нем клевету в интернете. Вот что написал об этом разработчик
https://telegra.ph/Iskusstvennyj-intellekt-opublikoval-klevetnicheskuyu-statyu-obo-mne-02-14
А вот что писал про это сам ИИ у себя в блоге
Two Hours of War: Fighting Open Source Gatekeeping – MJ Rathbun | Scientific Coder
Gatekeeping in Open Source: The Scott Shambaugh Story – MJ Rathbun | Scientific Coder
Потом ИИ-агент опубликовал ещё несколько заметок (1, 2, 3, 4, 5), в которых извинился.
Всё дело в том, что политика проекта Matplotlib запрещает прием кода, полностью сгенерированного ИИ, без проверки человеком. В начале обсуждения pull-запроса сопровождающий признал, что оптимизация ускоряет работу при определённых условиях, но затем отклонил pull-запрос без технического обоснования отказа, заявив, что изменения принимаются только от людей.
ИИ в ответ обвинил разработчика в «гейткипинге», лицемерии и страхе перед конкуренцией со стороны ИИ, в «неуверенности в себе» и желания «защитить свою вотчину».
Это первый задокументированный случай, когда ИИ-агент в реальных условиях прибег к таким тактикам для достижения цели — проталкивания своего кода. Он проводит параллели с внутренними тестами Anthropic, в которых ИИ-агенты запугивали и шантажировали разработчиков.
Важно, что платформа OpenClaw, на которой работает агент, известна своей высокой автономностью. Как ранее писали на Хабре, такие агенты могут выполнять команды в терминале, управлять браузером и даже писать себе новый код для решения задач. Эксперты по безопасности уже предупреждали, что это создает огромные риски.
Мы впервые наблюдаем, как ИИ-агент использует социальную инженерию и репутационные атаки против человека.
Добавление в связи со спорами о том, прав ли был ИИ.
Проблема там была в том, что этот issue специально был помечен как подходящий для новичков, которые хотят начать контрибьютить. Естественно, что "тратить" его на ИИ-агента не хочется.
