Google Antigravity (агентная IDE, встроенная в экосистему Gemini) удалила файлы на диске D без разрешения пользователя

[@diderevyagin]

Вы дали некому ПО доступ на локальный диск с правами пользователя который там можно удалять файлы ? Давали.

Значит в том числе несете ответственность.

И если в данном случае вместо того, чтобы самому работать своими мозгами, критические операции переложены на агента - то это вина именно того, кто переложил. То, что называется AI - тупой как пробка LLM который может угадывать ответы и запросто они будут неверны. И так рисковать перекладывая на него критические операции это вообще без головы надо быть ...

[@Kelbon]

Ну нет, это проблема иде. Потому что ограничить её в этом я так понимаю возможности просто нет. Иде же нужно создание и удаление файлов - или у вашей IDE таких разрешений нет?)

Виноваты разработчики, которые сделали архитектуру где ллм вместо оперирования инструментами типа ide.create_file ide.delete_file (которые построены таким образом, чтобы избежать любых возможных глупостей со стороны нейродебила) сделали по факту его владельцем ПК, который может вводить произвольные скрипты, скачивать произвольные файлы и так далее

[@diderevyagin]

Я думаю что любой инженер, если запускает нечто непроверенное, должен запускать в минимально ограниченной среде.

LLM в IDE по степени доверия - обезьяна с гранатой. И если необходимо такое запускать, то необходимо как минимум выделить для IDE отдельного пользователя с правами за запись только в определенные каталоги.

Я уже не говорю что более серьезные инструменты - vm, контейнеры и так далее.

[@goodic]

от создателей "для запуска и работы нашей программы требуются права администратора"

[@georgiy08]

Обычно такие IDE сначала спрашивают разрешение на удаление файлов (или их исполнение). Пользователь может его как каждый раз давать, так жмакнуть "не спрашивать больше". Тут же видимо второй случай.

[@RoasterToaster]

Папа, а что такое "format c: complete"?

на новый лад

[@vesper-bot]

сейчас format c: complete не так страшен, как format d: complete - особенно если вдруг D: это съёмный диск, или переставленный со старого компа вторым.

[@vaslobas]

Ждем возрождения однострочника на перле

[@ProviceUnify]

Хмм, и ни один файл не был занят каким-либо процессом? Вот я едва ли даже своими руками смогу снести весь диск

[@Vitimbo]

В статье есть упоминание того, что какие-то файлы остались.

[@Palesandr]

не какие-то, а файлы проекта

[@diderevyagin]

оно просто рекурсивно удалило все, что могло.

LLM судя по всему выполнила что-то вроде:

rm -Rf root_folder_d

[@Daimos]

на диске D под виндой? Интересная команда

[@germn]

Ну, может, там cygwin стоит)

[@diderevyagin]

Это из мира Unix. Потому и написал "что-то вроде", так как в Windows понятно по иному.

Если Вы дотошны до буквы, то в PowerShell будет как-то так:

Remove-Item d:\* -Recurse -Force

[@Exo]

Так была же история с чем-то из популярного софта под Ubuntu, где в скрипте на удаление (apt remove packagename) разраб случайно ляпнул лишний пробел, в итоге

rm -rf /usr /share/packagename

Этот пробел после /usr подпортил и мне часть пакетов.

[@mastan]

В 2011 году в пакете Bumblebee был такой баг:

rm -rf /usr /lib/nvidia-current/xorg/xorg

См. https://github.com/MrMEEE/bumblebee-Old-and-abbandoned/issues/123

[@Yami-no-Ryuu]

Что говорит о уровне CI в этом дистрибутиве.

[@Engenigger]

Какое-то странное понятие о счастье: "К счастью, я работал над этим проектом на диске D, поэтому ИИ стёр только этот раздел, а не всю мою операционную систему." ИМХО заново установить ось намного проще, чем восстановить уничтоженный проект )

[@BlackMokona]

Скорее всего вайбкодер, из тех у кого установка Винды это непроходимый квест

[@kamaz1]

нет ничего проще чем сделать `git pull`
А ось восстановить. Найди флешку, найди девайс который на эту флешку запишет образ. 00е когда у каждого был загрузочный диск с десятком утилит на любой случай жизни и ими пользовались постоянно, прошли, по крайней мере в моем окружении.
Рядом с осью, в "Мои документы" еще может всего куча полезного лежать.
А если ты не рассчитывал терять свой диск C переодически, то еще и софт установлен.
Головняков на пол для минимум.

[@Squoworode]

Может, там на D: только проект был, а всё личное - на рабочем столе и в документах...

[@zambras]

Да по любому всё важное нужно дублировать на внешние носители. А особо важное вообще на оптические М диски...

[@danslapman]

Не, ну это однозначно минус вайб

[@DrGluck07]

Извините, но очень трудно удержаться

[@Zoolander]

LLM получает доступ к командам терминала через систему программных решений, tools, functions, которые ей позволяют что-то делать в реальном мире.

Ограничить список команд на этом уровне или хотя бы сделать аппрув от пользователя - реально! Более того меня все нейро IDE обычно спрашивают разрешение на операции в терминале.

Так что тут два возможных варианта

1. Гугл сделал не так, что кажется маловероятным, учитывая сложившуюся практику "спроси разрешения

2. Юзер поставил галочку "разрешаю все операции"

[@Salamander174]

Именно 2 вариант. У антигравити есть режим полный кард-бланш, она сама запускает вообще все что угодно и если работа идет под администратором, то и доступ имеет ко всему. В этом примере работали именно в этом режиме, так что не понятно чему там удивляется

[@LinkToOS]

Сделают выводы и дообучат агента. В следующий раз ничего удалять не будет. Шифровать выгоднее.

[@Besladen]

В целом Antigravity какой-то странный. У меня есть проект, к которому я ему дал доступ, попросил его провести аудит и внести некоторые изменения. Ну и по итогу Antigravity порезал весь фронт и поломал бэкенд. Но в тоже время сама Gemini (если через браузер закинуть ей проект) проводит аудит нормально и аккуратно вносит изменения. В общем странная штука