Обновить

Как настроить прокси сервер на базе squid-proxy для LLM-провайдеров и не только. Самый простой гайд для чайников

Уровень сложностиПростой
Время на прочтение3 мин
Количество просмотров7.6K
Всего голосов 5: ↑4 и ↓1+4
Комментарии4

Комментарии 4

Делаю что то похожее, только через OpenVPN и Nginx. На домашнем сервере у меня запущен Nginx который работает как ресерс прокси к OpenAI и OpenRouter, но работает он через OpenVPN клиент который работает рядом, к OpenVPN клиент подключён серверу который находится в Нидерландах. В таком варианте кстати можно дополнительно в конфиге для Nginx указать и API key если он используется только в локальной сети.
Ну и прокси указывать не нужно а просто вместо URL OpenAI указывать надо IP своего прокси.

squid лучше в docker контейнер положить, имхо.

Нет, лучше создать виртуалку, в виртуалке поднять докер, и туда squid запихнуть. А чо, пусть работает, да.
Шутка.

Если бы Вы имели представление, как работает Squid, Вы бы не предлагали такую чушь.

Я вот только не понимаю, вот эту строку? как настроить доступ по логину паролю (у меня дин ip)
acl whitelist src 111.111.111.111 # Добавляем IP адрес нашего основного сервера (нужно указать реальный IP) в список доступа

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации