Comments 4
А можете ещё добавить примеров? Не нужно код, просто сценарии где могут быть полезны Pipelines?
Фильтр сообщений — проверяет сообщения на запретные темы (взлом, мошенничество, создание запрещенных вещей и т. д.).
Лимит запросов — ограничение пользователей по количеству запросов.
Логирование запросов — сохранение того, что пользователи спрашивают и что им отвечает модель.
Дополнение запросов нужным контекстом — например, документацией.
Вызов функций.
На странице проекта есть описание. И в папке examples есть демонстрационные примеры.
Интересно. Но не подходит для моей ситуации. Если кто знает - я написал на Bash простого бота который выполняет команды в терминал на ollama3.1:7b и описал ему как пользоваться системными токенами, сделал их обработчик и модель постоянно косячит с оформлением этих токенов, хотя поидеи обучена их выводить 🤨. Либо я что то не правильно понимаю
В моём случае была похожая ситуация. Пришлось подобрать оптимальные промты DEFAULT_SYSTEM_PROMPT и TEMPLATE для модели IlyaGusev/saiga_llama3_8b_gguf/model-f16.gguf. В твоём случае, возможно, и обучение надо подкрутить, а может, только промт подобрать более точный.
Вызов функций в Ollama