Все LLM в одном окне: как мы сделали AI-сервис Daisy

[rsashka]

Вы же на ИТ ресурсе, где у вас deppsekk-coder?

И у вас странная модель ценообразования. Плата за подписку и непонятные ограничения на количество запросов и размер контекста. Посмотрел свою статистику, даже на самом дорогом вашем тарифе (300 запросов в стуки) мне его будет недостаточно для работы.

[redmadrobot]

Спасибо за фидбек! Daisy пока ориентирован на обычных пользователей, которым достаточно текущих лимитов. В будущем будем разрабатывать большие тарифы под нужды аудитории.

[redmadrobot]

В целом у нас суммарно ко всем моделям 1400 запросов в сутки на тарифе Pro.

[Fizikoleg]

Вроде и неплохо, но это, как и во многих подобных сервисах, "голые" языковые модели без дополнительных опций, таких как, например, Canvas в ChatGPT

[redmadrobot]

В Daisy есть собственная модель для генерации изображений на базе Flux с улучшенным репромтингом, а также внутренний RAG-пайплайн для обработки документов и поиска в интернете.

[Sapsan_Sapsanov]

Это уже считается оркестрацией или нет?

[redmadrobot]

Daisy — не просто API к LLM, как мы показываем в статье. У сервиса собственная уникальная архитектура и дополнительные фичи, которые улучшают выдачу, поиск, обработку документов и изображений. На подходе интеграция в сервис AI-агентов и кастомных пайплайнов, которые сделают работу с разными нейросетями ещё удобнее.

[starfair]

Здравствуйте. По поводу тарифов хотелось бы немного понимания. Запросы к разным языковым моделям суммируется как один, или допустим, я могу преключиться и задать перечисленное в тарифе число раз, уже к другой модели? Просто для понимания, а то нигде пояснения не нашел

[redmadrobot]

Добрый день! Для разных моделей разные лимиты. Например, вот как выглядят ограничения на тарифе Pro. Соответственно, одно сообщение в чате — один запрос к выбранной модели.

[starfair]

Ну, табличку то я посмотрел и сам у вас на сайте. Я про то, вариативность моделей в течении одних суток. Это как то учтено? Допустим, я выбрал лимит на GPT-4, потом могу с другим вопросами обратиться на другую модель, или нет?

[redmadrobot]

Да, конечно. Например, сначала можно использовать 50 запросов к GPT-4о, потом ещё 200 к 4о mini или к другим моделям — всего в сумме 1400 запросов к моделям в сутки.

[starfair]

Меня даже не это смущает, а механизмы оплаты для этих моделей из РФ. Я готов переплачивать интегратором, но платить в РФ без гемороя, как у BotHub, к примеру!