Комментарии 17
"Пробовал, ненужная глючная переусложнённая фигня, удалил"?
Может быть за прошедший последний год что-то и изменилось, но тогда - оно тупо отказывалось сохранять созданные чаты, а настройки безопасности, какие-то регистрации в локальном сервисе, отсутствие полного доступа после, создали ощущение, что я сайт Пентагона разворачиваю.
Chatbox. Скачал. Запустил.
Поддержки Ютуба только нет, допиливается за абзац текста. Всё равно любая "поддержка Ютуба" только ютубовские кривые субтитры скачивает.
Не раскрыта тема авторизации, можно ли внутри компании развернуть на много юзеров, чтобы у каждого отдельно были и RAG-и, и чаты, а вот модели для всех одни настроить?
Уже более года развернуто для 20+ человек полёт нормальный. Это пожалуй лучшее решение из доступных на сегодня, особенно с провайдерами типа openrouter, которые кучу моделей предоставляют через одно Api, выходит сильно дешевле (в разы) и удобнее чем платить за отдельные подписки для всех сотрудников.
Самой главной фичей данного софта является то, что у тебя все модели в одном месте. И ты можешь выбирать что тебе сейчас важнее - скорость ответа, или качественность размышлений. Такого экспириенса не даёт ни один "моно провайдер".
Ещё в нём есть фича с каналами, это групповые чаты как в discord, их можно использовать для обсуждения проектов подключая разные модели к обсуждению.
Недавно в openwebui добавили группы для более удобного управления доступами, так что в этом плане все работает отлично.
Так же в нём есть sso, если у вас всё по взрослому.
Короче говоря пушка гонка, лучше которой ни чего нет, если нужен selfhosted, и сразу на много пользователей.
Мне было бы интересно ещё узнать можно ли при условии использования многими людьми делать централизованную настройку моделей, а то вот Lobe Chat запустил, а там оказалось, что каждый должен сам себе всё настроить, ключи подсунуть и прочее...
Кажется, мне надо просто попробовать )
Там можно и так и так. Весь набор моделей по дефолту приватный, и доступен только админам. Далее можно выбрать интересующие вас модели (как правило от основных провайдеров - openai, gemini, claude, grok, deepseek, perplexity). Так же можно туда подгрузить "быза знаний" если у вас есть какая-то специфика (дока по проектам, дизайн-доки, стилистические гайдлайны и т.п.).
Этого набора уже хватит для абсолютного большинства пользователей. Но если есть энтузиасты, они могут себе на основе доступных им моделей (которые выдал админ) делать персонализованные версии (с кастомным системным промптом, и наборами знаний).
В общем толковая штука, обязательно попробуйте, благо это очень просто и есть много вариантов как его установить (docker, venv, sqlite/postgres, нативно рабоатет на win/mac/linux).
P.S. Если будете использовать OpenRouter будтье внимательны к каким моделям даёте доступ, чтобы там случайно не оказался какой-нибудь gpt-o1-pro который за пару чатов высасывает около сотни баксов...
с точки зрения пользователя очень спорная фигня. Если нет ничего то это неплохо, но если есть с чем сравнивать, и нейронок подключено несколько то сразу видны "особенности"
настройки чата общие для всех, оно никак не различает какие параметры поддерживает конкретная нейронка, какие у нее лимиты для параметра и тд
форматирование жопа. Может это и настраивается, но у нас по работе раздали WebUI, даже нейронки добавляют и обновляют. Так вот какие-то отлично работают и дают форматированный ответ, а какие-то гонят в каком-то своем формате из-за чего WebUI показывает его как обычный текст
оно лаганое перелаганное, причем это именно фронт-енда косяк, а не сервера где оно стоит. Что то больше на нем пробовать 100% не стоит
По поводу форматирования — возможно, была какая-то экспериментальная или очень компактная модель, которая натренирована выводить текст совсем без Markdown. Потому что вряд ли в общедоступном поле можно найти более-менее крупную модель, которая не поддерживает форматирование. Смотрите пример здесь: https://habr.com/ru/companies/bothub/articles/945762/, как можно обойти это через промпт (в статье, наоборот, форматирование удаляется, но схожими способами можно его и внести). То есть дело не в Open WebUI, если сама модель не поддерживает форматирование.
По поводу лагов — не замечал ни разу) Версия последняя или, может, заблокированы обновления, поэтому осталась одна из предыдущих?
Очень полезная статья! Как раз искал способ объединить все нейросети в одном месте, и Open WebUI оказался тем самым решением. Особенно понравилось про создание своих ассистентов - это действительно меняет подход к работе с ИИ. Кстати, было бы здорово, если бы добавили https://mermaidviewer.com/ для визуализации процессов прямо в чате. В целом, отличный обзор, который сэкономил мне кучу времени на поиски и тесты!
К сожалению, через # не всю страницу стягивает, в итоге даже не смогла ответить, какой рейтинг у этой статьи, и комментарии не показало. Может как-то можно подключить локальный crawler, который куда лучше с источниками из сети будет работать?
12 неожиданных фактов об Open WebUI, которые стоит знать всем