Как прикрутить AI к табуретке

[Bardakan]

А заменить ключ без релиза фронта уже не получится, особенно если речь про мобильное приложение.

Че? Создается файл на бэкенде/сайте/firebase с нужными настройками и мобильное приложение выкачивает его где-нибудь на старте. Приватные ключи правда не пытался запихнуть туда и зашифровать, но думаю, это тоже реализуемо

[vital_pavlenko]

Как вариант. Я об этом и говорю, что главное в бандл токен не пихать

[chuzhiegrably]

• лёгкие запросы → дешёвые модели
• сложные, требующие логики → более дорогие
• структурные задачи → наиболее стабильные
• длинные тексты → модели с большим контекстом

А что из себя представляет оценщик сложности запроса?

[vital_pavlenko]

Обычно в продукте набор промптов под разные цели. Где-то промпт генерирует квиз, и там нужно более дорогую модель. А где-то исправляет синтаксические ошибки, там справится и дешевая, кажется. Можно просто потестировать разные модели и подобрать.

Если вопрос как налету это делать, то здесь уже сложная архитектура. Возможно для продукта такое и не нужно