FilipLinx11 июл в 23:03

Свой AI-прокси на Java: как я пытался подключиться к Gemini

Средний

12 мин

13K

Java * DevOps * Искусственный интеллектПрограммирование *

Комментарии 4

ArtemErykov 12 июл в 02:25

Спасибо, что поделились. Очень полезно и актуально.

FilipLinx 13 июл в 12:38

Спасибо! Рад, что пригодилось.

im_vvl 13 июл в 11:22

Выглядит как попытка переизобрести litellm. Если я правильно понял, она делает минимум то же самое.

FilipLinx 13 июл в 12:37

Вы правы LiteLLM умеет это и многое другое. LiteLLM требует postgres и нужно в памяти держать 2GB RAM. В моем же сервисе нет БД и требования скромнее.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий