Гайд: запуск автономного агента Ануфрия на локальной модели с LM Studio на Linux
Агент Ануфрий - это open source-конструктор для создания собственных ассистентов на Python. Базовый агент уже мультиплатформенный, с долговременной памятью, автоматизацией браузера через CDP/Playwright, трекером задач, и системой навыков.
Репозиторий: AgentAnufry
Для быстрого запуска нам хватит безголового (без графического интерфейса) демона llmster (https://lmstudio.ai/). Команда в терминале:
curl -fsSL https://lmstudio.ai/install.sh | bash
Перезапустите терминал или добавьте директорию lms командой, которая будет выведена в терминале.
Запускаем:
lms daemon up
Качаем нужную LLM модель (чем больше, тем умнее, но требует больше ресурсов): https://lmstudio.ai/models Для примера возьмем небольшую модель:
lms get qwen/qwen3.5-9b
После скачивания подгружаем модель в память:
lms load qwen/qwen3.5-9b
В .env скопируйте эту конфигурацию:
# ============================================ # LM Studio Configuration (Local) - ACTIVE # ============================================ LLM_PROVIDER=lmstudio LLM_API_KEY=lm-studio LLM_BASE_URL=http://localhost:1234/v1 LLM_MODEL=deepseek/deepseek-r1-0528-qwen3-8b # ============================================ # Embeddings Configuration (Local) - ACTIVE # ============================================ # Используем локальную embeddings модель из LM Studio EMBEDDINGS_PROVIDER=lmstudio EMBEDDINGS_MODEL=text-embedding-nomic-embed-text-v1.5 EMBEDDINGS_BASE_URL=http://localhost:1234/v1 EMBEDDINGS_API_KEY=lm-studio # ============================================ # Дополнительные параметры # ============================================ LLM_TEMPERATURE=0.1 LLM_MAX_TOKENS=4096 LLM_TIMEOUT=300 MAX_ITERATIONS=20
Запустите lms сервер:
lms server start --port 1234 &
или
lms server start
Порт по умолчанию будет 1234
Запустите агента.
Шпаргалка с командами lms:
# запустить демон lms daemon up # запуск/остановка сервера lms server start lms server stop lms server status # статус сервера lms ps # загруженные в память модели lms ls # список скачанных моделей # остановить текущую модель lms unload # выгрузить все модели из памяти lms unload --all # получить список доступных моделей lms ls # Удалить конкретную модель lms rm qwen/qwen3.5-9b # Или удалить несколько моделей lms rm model1 model2 model3
Важно!
Чем слабее ваше железо, тем меньше модель вы сможете использовать, с меньшим объемом контекстного окна. Объем контекста в базовой версии агента (системный промпт + описание инструментов) в районе 6к товенов, это много.
Для работы с небольшими моделями сожмите системный промпт и описание инструментов или удалите лишнее (файл main.py)
