LMStudio Relay — интеллектуальный прокси-сервер между LLM и внешними ресурсами

[@fuCtor]

Код все же лучше в git держать и дать ссылку. Так проще будет его копировать и видеть актуальную версию.

[@stilrambler]

Согласен обычно я так и делаю. Но я не уверен что это кому либо надо. И продолжать это я не буду поэтому и выложил в таком виде. У меня вторая версия она намного интереснее.

[@Andreas_Fogel]

В чем отличие от mcp серверов, которые как раз можно в lmstudio добавлять?

[@stilrambler]

Об этом сказано в тексте. Они обрабатываются в локальных запросах. Сетевые запросы не обрабатываются. Возможно в будущих версиях будет по другому. Так же данный прокси легко настроить на оламму где такой обработки в принципе нет.

[@DarkGenius]

По сути, это шаг к AGI-архитектуре, где LLM становится не просто генератором текста, а центром принятия решений

[@stilrambler]

да но это будет в третьей версии.