Comments 3
Предполагаю внутри подобие rag-системы: ищет нечто релевантное, вместо текста отдает Y/N...
Первым делом проверил бы, на каком интерфейсе слушает сервер: телефон, раздающий HTTP без авторизации в гостевой сети отеля, – подарок для любопытного соседа.
Сделал поддержку новой модели в формате CMF и приложении, она отлично подойдет для работы локально на мощных телефонах, хорошо понимает русский язык и можно использовать как справочник без доступа к Интернету https://huggingface.co/infosave/Spark-X2.5-cmf лучше 4B
Sign up to leave a comment.
API принятия решений у вас в телефоне: ответ за десятки миллисекунд, без облака и без подписки (быстрый аналог Jev)