Обновить

Ботинок — локальный консольный AI-агент для тех, у кого мало VRAM

Уровень сложностиСредний
Время на прочтение29 мин
Охват и читатели8.9K
Всего голосов 20: ↑19 и ↓1+20
Комментарии14

Комментарии 14

А на 6 гб vram прокатит?

прокатит даже без видеокарты вопрос в скорости

Лет десять сидел в ридонли Хабрахабра, и это один из немногих случаев, когда действительно хочется оставить комментарий. Завел аккаунт, наконец. Просто хотелось сказать спасибо Вам за Вашу работу. Давно в мыслях сидит сделать что-то подобное, но кроссплатформенное и с несколько иным функционалом. Ваш материал промотивировал начать пробовать. Будем сидеть, вчитываться и курить мануалы.

Добра!

Ты чего наделал!:) Я сам пишу себе такого агента, Омни, который делает точь в точь, что ты описал.

И в тоже время, огромное спасибо!

ну идея то на поверхности плавает :)

А что насчёт codex cli, claude code, qwen code?

Основной упор на локальный инференс и опенсорс модели. Хотя оллама дает возможность использовать облачные так же просто как и локальные без перенастройки.

Теперь настала пора открыть для себя opencode

Спасибо, открыл. Консольный интерфейс приятный, есть что взять на заметку.

Но поставили бы вы его на боевой сервер? Автоматические агенты — это круто, но когда на просьбу проверить погоду OpenCode, не моргнув глазом и без спроса, установил и запустил в системе несколько приложений, я задумался. Подозреваю, что такое поведение можно и нужно настраивать.

Всё это здорово, но вот что подумал, не потому ли мы пишем свои приложения, что хотим полностью контролировать их работу, а не тратить время на изучение чужих интерфейсов?

И в дополнение: раз уж вы даете советы, не могли бы вы рассказать, как быстро и просто настроить работу OpenCode через сервер Ollama в локальной сети? Ситуация, когда на машине с агентом нет интернета — это критически важный сценарий использования.

Идея на самом деле отличная, продолжайте! Я сейчас для всего этого использую Warp с его киллер-фичей Warpify, когда можно подключиться к любому серверу по ssh и “варпифицировать” его консоль (добавить туда AI-ассистента).

Да спасибо интересный подход, но реализация все так же страдает завязкой исключительно на облачные сервисы, что резко снижает смысл почти до нуля в реальной производственной корпоративной среде.

Есть Wave — опенсорс аналог Warp. Как и opencode, не привязан к конкретному провайдеру LLM и допускает работу с локальным LLM API типа Ollama. Вообще даже Claude Code можно запустить с не-антропиковскими (и даже локальными) API, лишь бы они были совместимы.

И ещё стоит упомянуть: доки в интернете лучше не самому парсить, а пользоваться MCP Context7 — у них на фришном плане (не требует ввода банковской карты) 1000 запросов в месяц. И добавить новый сайт с документацией может кто угодно, не обязательно тот, кому эта документация принадлежит — ну, естественно, если сайт сам легальный.

Хорош ) тестирую

Подходит для запуска на старых процах без avx ( хоум лаба ) , накоторых opencode и oh-my-pi ( и след и open clowd) не запускаются

В прочем как и подойдет и aider-chat ( и много чего что на питоне)

Авто поиск навыков понравился особо как и реализация текстового веб поиска

И все таки и все таки поставил ollama ) всю дорогу на llama.cpp , но это может быть обосновано - для подрубания к облакам

Для полного счастья не хватило подключения к MCP серверу из коробки, полагаю что это может быть сделано через tools. Как бы обмен навыками через скилы реализован, а вот обмен актуальной кодовой базой Эмм , ну как бы вроде тоже логично бы или хотя бы мануал как это сделать )

И на сегодня репа 5 месяцев без обновлений ) Хотя, может все сделано что было задумано.

Хардкорный минималистик )

Сам временами использую p104-100)

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации