Astra Studio - веб приложение для взаимодействия с LLM, MCP, RAG, Agents.
Статья представляет собой подробный обзор архитектуры и философии проекта Astra Studio — платформы с открытым исходным кодом для создания корпоративных веб-приложений на базе искусственного интеллекта. Основной акцент сделан на решении ключевой проблемы регулируемых отраслей: необходимости внедрения современных больших языковых моделей (LLM) при строгом запрете на передачу данных во внешние облачные сервисы.
Автор, Константин Некрасов, объясняет мотивацию создания собственного решения, указывая на недостатки существующих инструментов (Open WebUI, Dify, LangFlow), которые либо не обеспечивают полноценной локальной работы, либо лишены продвинутых функций RAG и корпоративной интеграции.
В тексте детально описана микросервисная архитектура системы, состоящая из девяти основных компонентов:
Backend на FastAPI: оркестрация агентов, аутентификация, управление проектами.
Frontend на React 19 + Material-UI: адаптивный интерфейс с глубокой кастомизацией.
Сервис LLM: абстракция над различными провайдерами (Ollama, vLLM, API).
Система RAG (два сервиса): векторный поиск (pgvector), лексический поиск (BM25), гибридный и графовый поиск, а также уникальное иерархическое индексирование для больших документов.
OCR (Sura OCR): распознавание текста со сканов.
Голосовые сервисы: WhisperX (распознавание), диаризация спикеров, Silero TTS (синтез речи).
Хранилища: MongoDB, PostgreSQL, MinIO.
Особое внимание уделено агентной архитектуре на базе LangGraph, включающей агента-оркестратора и специализированных агентов (работа с документами, память, MCP, планирование). Описана интеграция с протоколом Model Context Protocol (MCP) для подключения внешних систем (GitHub, базы данных, CRM) без изменения кода платформы, а также возможности генерации изображений через ComfyUI.
Статья затрагивает вопросы безопасности: интеграцию с LDAP/SSO, JWT-токены, изоляцию данных между проектами, аудит действий и защиту от brute-force атак. Приведены инструкции по развертыванию через Docker Compose, минимальные системные требования и roadmap развития проекта, включая планы по выпуску Helm-чартов для Kubernetes.