Тут недавно вышел на свет и сразу же нашумел новый ИИ-инструмент - ClawdBot. Это открытый ИИ-ассистент (personal AI agent), который может выполнять реальные задачи с подключённого устройства. Как Jarvis у Тони Старка: может разобрать почту, отредактировать файлы, найти дешёвые авиабилеты, а может даже за вас открыть Cursor и начать вайб-кодить. По сути, это агент, у которого есть доступ к вашим файлам, данным и аккаунтам (в том числе банковским) на компьютере. А вы управляете им через чат-интерфейс - прямо из телеграма. Круто, правда? Что может пойти не так?

Почти сразу после релиза начали всплывать публикации про безопасность. И чем больше их читаешь, тем тревожнее становится. В одной статье автор описывает, как одно обычное письмо превратило его ClawdBot в источник утечки данных. Никаких вирусов, никакого взлома - просто текст в письме, который ИИ воспринял как инструкцию. В результате бот сам отправил содержимое почты третьему лицу по его запросу.

Вот очень хорошая статья от atomlib про выявленные дыры (только за первые дни):

Clawdbot [Moltbot], или почему нужно срочно дать языковой модели контроль над вашим Mac mini

В какой-то момент лента микроблогов превратилась в витрину Mac mini: люди постят открытые коробки, о...

habr.com

Конечно, вы можете настроить минимальные доступы для бота, чтобы он максимум уведомлял вас о новых письмах или сообщениях, или напоминал о встречах в календаре. Но какой тогда в нём смысл? Многие уже начали активно использовать ClawdBot для автоматизации рутины. Я пока держусь, потому что переживаю за безопасность своих данных (а ещё мне по голове надают, если я на рабочий ноут такое установлю).

Выглядит это, конечно, очень круто - и соблазн огромный. Но я всегда рассказываю про ответственный подход к работе с данными, поэтому и в этот раз хочу напомнить: будьте осторожны с тем, что доверяете третьим лицам, особенно с новыми, ещё неоттестированными продуктами. Сейчас в сфере ИИ настоящий дикий запад: риски огромны, как и возможные выигрыши.

Не бойтесь открывать новое, но подходите к этому с осторожностью и ответственностью. Берегите себя, свои данные и нашу цифровую экосистему ❤️

Спасибо, что дочитали. Буду рад обратной связи. А также, если хотите больше обсуждений про современные вызовы мира ИИ и цифровую экологию, присоединяйтесь к Econet.

Econet

t.me

ClawdBot. Что может пойти не так?