Pull to refresh

Comments 55

извините, но бэк же все равно - чья то модель? Каким образом локальный openclaw предотвращает утечки чувствительных данных?

При желании можно подключить любой openai-совместимый эндпоинт, будь то пк или vps с нейронкой.

С локальными возникает геморрой в виде tool calling, который может не работать с какой-нибудь lm studio или другими штуками, где это переключение не так очевидно. А без этого не будут работать skills, из-за которых, собственно, весь сыр-бор. Как раз встрял на этом

Тоже на этом застрял.

А какая ему разница локально модель развернута (через ollama или llama.cpp) или удаленно, если он с ней через стандартный API общается?

Так ведь статья начинается именно с "не хочется куда-то что-то отправлять".

tool calling, который может не работать с какой-нибудь lm studio

Сейчас lmstudio хорошо работает с tool calling, пробовал недавно на Qwen 3.5 4B, которая неплохо гоняется на локалке, потому что маленькая.

Но локальные модели, конечно, все равно маловаты.

Переход на 9B не помогает? Девятка вроде летает, если целиком помещается в VRAM. Думаю ее прикрутить к OpenClaw.

Хотя я от 3.5 отказался в пользу next-версии из-за проблем с чрезмерным следованием промпту без учета контекста.

9B тоже норм, но у меня сильнее нагружает видеокарту.

Даже у 9B не всегда получается в tool calling.

llama,cpp gpt-oss-20B, нормально работает tool calling.

Моя сборка: OpenClaw на виртуалке с Линукс. Модель на хосте. Так же на хосте searxng в docker. Работает. Только побаловался неделю, не нашёл для него задач и забросил.

а что по ресурсам виртуалки? проц-память-видео?

Попросите openclaw развернуть вам vllm. Только на личном сервачке должен быть linux насколько помню. Можно sglang в docker попробовать, так вроде на Винде можно и tool calling поддерживается.

Странно что в lmstudio до сих пор нет...

UPD:

выше пишут что tool calling есть. Просто 2-3B модели это слишком мелко. Надо 9B+, а лучше 32B квантованную если ресурсы позволяют.

В ollama много моделей с поддержкой тулов

Утечку данных лучше вам взять на себя путем настройки локальной модели

Те вместо сдачи мощностей под реально полезные вещи вроде поиска новых материалов, расчета баллистики и других тех свойств применяемых в оборонке и другой промышленности, поиска и синтеза новых лекарств selectel предлагает запускать openclaw - это ж гениально. Можно даже котиков генерировать....
С таким отношением к железу чувствую дефицит потребительских карт будет только нарастать( цены и сейчас неадекватно:высокие), а уж если брать РФ то у нас итак их в дефиците

Так арендуйте и рассчитывайте, кто же вам запрещает

речь вообще не про это. если бы у него была бы ценность, то клод и другие платформы не ограничивали использование openclaw. по метрикам он сжигает кучи токенов в сутки, при этом выхлоп с него сомнителен. в общем я понял, что минусовали любители котиков. вообще не разобравшись в моем посыле.
в рф дефицит с электроэнергией. с вычислительными мощностями - по мне не совсем адекватно в это время пиарить такого рода вещи. но по реакциям я понял - всем пофиг. не нравиться не пользуйся, а дальше хоть потоп.

А можно пруф про “ограничивает использование openclaw”?

Они ограничили использование ровно потому, что это был misuse их API ключей. Они были предназначены для их же клиентов, с некоторым расчетным потреблением, а когда их стали использовать для агентского использования, экономическая юнит-модель перестала сходиться, и тут же последовали репрессии.

А не потому, что у этой штуки нет (или есть) ценности.

Полезный разбор, спасибо. Мне кажется, здесь особенно важно отдельно подсветить не только риск утечки данных, но и риск избыточных полномочий агента: как только ему дают execbrowserfs и внешние токены, вопрос уже не только в приватности, а в полноценном контроле над средой.

Я бы для таких кейсов рекомендовал запускать агента только в изолированном контуре: отдельный сервер/контейнер, минимальные права, секреты через vault, аудит действий и обязательный human-in-the-loop для любых операций “что-то оплатить / удалить / отправить”. Тогда это уже становится похоже не на игрушку, а на управляемый инструмент.

В целом статья хорошо показывает, что сейчас ценность агента упирается не столько в “умеет ли он”, сколько в то, насколько безопасно и ограниченно ему разрешено действовать.

спасибо за комментарий. Да, вы правы -- ценность такого агента действительно есть, но если дать ему полноценный доступ = оставить ребенка трех лет одного в квартире со спичками. Рано или поздно что-то нехорошее произойдет)

Я дал агенту права внутри его пользователя, полные. Он живет 1 на этой vps, ломать ему там нечего, кроме самого себя, но можно бэкап делать конфигов.

Нюанс только в токенах и прочих доступах, которые агент может читать и без них толку от него не много 🙂

Тоже сначала заморочился, докер изоляция, но потом понял что смысла нет. Купил самый дешевый vps 1cpu 2.5gb памяти и теперь openclaw там один житель 😎 пусть делает что хочет. Тем более если дать немного инструкций и работать через openai модели, то они послушные и вообще не делают ничего опасного

Для обычного пользователя полезность openclaw немного сомнительна. Это инструмент для предпринимателей, которым нужно автоматизировать повторяющиеся офисные задачи.

Согласен с вами. И это не должны быть задачи хоть с каким-то уровнем ответственности -- все же любая модель может выдавать аномалии, ломаться, "подтасовывать" и выдумывать результаты, отчеты и тд.

Я вот пока тоже не очень вижу смысл сейчас в таком виде использовать но вполне может оказаться что таких домашних применений столько же, сколько у компьютеров. Когда-то IBM не понимала зачем обычным людям компьютеры, это же только банкирам надо и учёным. Если Claw будет встроена в телефон на глубоком уровне, вполне может прижиться. И у обычных людей тоже много повторяющихся задач.

Про автоматизацию рутины - согласен. У меня уже 13 агентов работает на OpenClaw ) Закрывают чисто повторяющиеся менеджерские действия.

А можно узнать примеры таких задач?

Прочтение моих мессендежром и почты, где есть mco, Анализ конкурентов, анализ новостей и свод их мне в телегу, выпуск PR от моего имени, написание статей для СММ и тд.

Любая задача где чату гпт не хватает пермиссий в его песочнице, типа скачать какой-то нетекст и поискать там или дёрнуть какую-нибудь апишку.

Развёртывание этого инструмента напоминает развёртывание компьютерного вируса. Тот тоже может считывать экран управлять программами и так далее.

Или DLP -- все те же возможности, но с контролем со стороны оператора)

Прочитал статью и осознал - мы уже живём в будущем просто оно пока тормозит на 8 ГБ RAM

Автор, спасибо за честный разбор. Особенно про дикий запад - прямо про многие ИИ-проекты сейчас. Разворачивать такое на своём железе пока только ради спортивного интереса, но как технологический демо-стенд - огонь.

спасибо за комментарий. Да, пока не много сценариев применения агентов, и они пока сыроваты. Но будем надеяться, что не зря комплектующие дорожают, и в скором времени ИИ-агенты разовьются настолько, что им можно будет доверять покупку билетов в кино, и кое-какие средства на эти самые покупки. Но пока увы и ах)

агент сам проверяет календарь, пишет письма и бронирует переговорку

Ну всё в точности по сценарию
«— К чему этот долгий и утомительный процесс? — риторически спросил я и вылил пиво в унитаз.» © С. Лукьяненко

Может, пускай они ещё и переговариваются сами?

мой опыт - негативный – ничего не умеет кроме отвечать и ну создавать файлы, если сравнивать с локальными агентами - небо и земля

долго учил ставить напоминания,- сам не умеет, себя не знает, но сказал ему, как звучит метод и параметры и он начал справляться с системным cron (от openclaw который)

навязчиво пытается создавать скилы, которые интерпретирует, как реальные и потом применяет и такой, странно, должно было сработать =)

но если относиться как к гиковской фитче, то вполне можно настроить, но ощущение, что легче своего написать

кстати, пока не сказал ему поместить мысль в heartbeat.md он не выходил на связь, как хайпят, что сам тебе пишет

по агентной структуре - делает что-то без шаговой отбивки и потом сообщает – по сути как web response

также - контекст огромный для просто перекидывания сообщений, как-то так

а хостинг, да, для рекламы хостинга самое оно:

  • управление софтом — он может сам скачивать, устанавливать и настраивать нужные приложения на вашем компьютере;

  • программирование — OpenClaw пишет и сразу тестирует простые скрипты, исправляя ошибки без вашего участия.

common! что он там скачивает/устанавливает ?)

как думаете, стоит дальше с ним мучаться ?

Попробуйте nanobot, на весит всего 4000 строк кода, работает быстрее, написан на Python. И делает все тоже самое.

В описании: Что умеет OpenClaw:

  • автономные действия — вы даете одну задачу («Организуй встречу с коллегами»), а агент сам проверяет календарь, пишет письма и бронирует переговорку;

  • работа с контекстом — он «видит» происходящее на экране и помнит историю ваших действий, что позволяет ему обучаться под ваши привычки;

  • управление софтом — он может сам скачивать, устанавливать и настраивать нужные приложения на вашем компьютере;

  • программирование — OpenClaw пишет и сразу тестирует простые скрипты, исправляя ошибки без вашего участия.

В демонстрации: чат в телеграмме. И всё. Чатами с GPT мы и так пользуемся с момента выхода ChatGPT. Серьезно, о чем статья? Начал читать, заинтересовавшись кейсом "видения происходящего на экране", особенно при установке на VDS. Увы, ни о чем

Статья ж рекламная, как установить сервер в Selectel :)

«Не попадут ли мои данные не в те руки?»
«развернуть модель на собственном железе»
«Инструкция по развертыванию»
«Выбираем быстрый процесс инициализации и указываем Hugging Face в качестве провайдера»
«Далее выбираем канал общения с ИИ-агентом — например, Telegram»

Теперь мои данные в руках и Телеграм и Hugging Face и $electel.
Спасибо за нейрослоп в стиле "вредные советы".

Это, вы еще про поискового провайдера забыли... И, потенциально, про любой сайт, куда оно залезет в процессе поиска и зарегистрируется "без СМС" для доступа к "очень полезным данным"....

Нормальный безопасник бы такую чушь не написал. OpenClaw это не просто дыра, это бездна, дно. То что написано в интро - про чатики со своей моделью, а не про агента который при первой инъекции отправит куда угодно данные всех карт и содержимое всех кошельков, угонит телегу и понапишет "отправьте мне на сбер сколько не жалко, на срочную операцию котику" всем контактам во всех мессерджерах.

безопасник бы такую чушь не написал. OpenClaw это не просто дыра, это бездна, дно.

Зато "прикольно "!

Даже для подавляющего большинства читателей данной статьи - это аргумент.

Думаю скоро появятся статьи "как Openclaw слил все мои данные" после появления фишинговых сайтов с инекциями специально для Openclaw-подобных агентов.

Вы сильно преуменьшаете масштаб проблем, которые можно получить с таким бекдором. Особенно если там же эцп. Особенно если там же вход в закрытые контура систем, где крутятся уже не жалкие копейки карточек этого конкретно пользователя.

Если это выделенный сервер (VPS), исключительно под это дело, вне контура, с ежедневным бекапом и восстановлением из образа бекапа по 1 клику - то картина сразу меняется.

А в чем тогда смысл агента, "делающего рутину за Вас"? Как он узнает актуальную информацию о моих коллегах, моих привычках и прочее, кроме доступа к актуальному рабочему/личному пространству?
Как он может делать рутину без авторизации необходимой для доступа к рутине?

кто то может посоветовать агента по поиску авиабилетов и сравнения цен между разными агрегаторами по заданным критериям - направление, кол-во пассажиров/дней/пересадок и ценовому диапазону ? искал такие MCP для курсора - ничего интересного не нашел.

Я, может, поступил по менеджерски, но я дал анропику ко-ворку доступ к моему компу и попросил его настроить мне OpenClaw - он сделал все от и до )

Как будто основная проблема всех таких решений, что они пытаются быть всем сразу.

Я пробовал похожее. в итоге упростил до Telegram-first агента с базовыми скиллами, и это внезапно работает лучше.https://habr.com/ru/articles/1012258/

Как сказал один киногерой «за изобретение - 5, а за экзамен - неуд»: неплохо что есть движение в эту сторону, хорошая статья для новичка, каждый может попробовать для себя поиграться и понятно, что любой ИИ найдет точечную информацию и даст ответ быстрее чем поиск в гугле… среагирует быстрее на изменение рынка… сделает анализ быстрее, чем вы, которому нужно свести таблицы, сравнить два документа или отпарить необходимые данные, НО всегда есть «но», а именно, когда программист или разработчик будет полагается только на ИИ, инженер будет спрашивать, как работать с мультиметром, что такое последовательное и параллельное соединение аккумов ну или что такое КСВ))) то будущее с терминаторами не так уж и далеко, а капитан из фильма про робота Валли - еще ближе: люди начинают тупеть, потому что те кто не используют ИИ элементарно будут тягаться с дурачками, которым поможет ИИ и например в поиске инфы - ВСЕГДА проиграют, а значит завтра и для себя откроют этот ящик Пандоры

зарезервируем пять IPv4-адресов, чтобы потом была возможность расширить систему или разнести сервисы по разным IP

Это Самое главное в статье! ))

Представляю, сколько народу по этой инструкции нарезервирует адресов! Маркетоидам за эту статью просто обязаны выписать премию!

И Расти есть куда: можно и памяти зарезервировать "для расширения". Да и диск не помешает.

Тоже улыбнуло. Ну куда нам без 5 IP адресов, это не серьезно.

Только начал экспериментировать с локальными нейронками, сначала поставил на win 11 Ollama, стандартный набор моделей и AnythingLLM - было интересно, но хотелось больше возможностей и решить проблему с отставанием данных по дате (он предлагал мне данные за 23 год, модель llama 3.1 8b, qwen и mistral), ну решил что то помощнее - вот Openclaw попробовал - блин, это был ужас, просто под контроль мою пекарню взял, и управлять им тяжко, решил вообщем отложить его до лучших времен.

Теперь поставил Openwebui, Stability Matrix и ComfyUI. С генерацией картинок и видео пытаюсь, но ничего путного, так как я дилетант ещё в этом совсем.

Ну хоть учиться получается и надеюсь получится создать цепочку из нодов для генерации текста, картинки и видео для публикаций в соц сетях (ведении группы), пока не решил проблему с актуальными данными и галлюцинациями)))

А вы чем пользуетесь для ведения соц сети (ну или просто по делу, а не развлечения, приколов и просто изучения работы) и Openclaw вам в этом помог реально?

Чуть разобрался в своих воркфлоу и моделях - решил попробовать вернуться к Openclaw, но зря - очень много с ним времени потерял - пробовал внедрять в OpenwebUI и еще Nerve поставить, но не сошлось. Мне лично кажется он сырой с какой либо локальной оболочкой (какой нибудь телеграм то конечно, но это не то, мы же за конфиденциальность своих данных).

Лучше руками управлять рабочими областями умными из OpenwebUI для своих разных задач, чем напрягаться с этим красавцем сырым, подождем еще

У меня свой SaaS проект.

Если упрощенно то на днях:

  1. Взял VPS (2 ядра, 8 гб озу).

  2. Поставил на него OpenClaw.

  3. Подключил OpenClaw к репозиторию на гитхаб (readonly ессно).

  4. Подключил к телеге.

  5. Подключил GPT через OAuth (чтобы на токены не тратиться).

  6. Дал задачу OpenClaw изучить код проекта и на основе его сформировать максимально подробный контекст по функционалу системы.

А теперь просто добавляю бот в каждый чат с клиентами в телеге + сделал чат прямо в проекте. Получил агента поддержки, способного ответить на простые вопросы пользователей и по API проекта.

Пока в восторге! :) Давно хотел, не думал, что так просто все окажется.

По качеству ответов пока данных мало.

Может чуть позже напишу отдельную статью, на VC или тут если кармы хватит (юзер пока нулевый).

Sign up to leave a comment.

Information

Website
slc.tl
Registered
Founded
Employees
1,001–5,000 employees
Location
Россия
Representative
Александр Шилов