GigaSearch или Поисковая система на GigaChat

[tolyod]

что то я так и не понял, для поиска нужен специальный промпт или нет?

[prohor33]

Привет! Специальный промпт нужен только если используете GigaChat через API и хотите, чтобы GigaChat использовал знания из Вашей поисковой системы.
А если Вы задаете вопрос в GigaChat через https://developers.sber.ru/gigachat/, то можно просто задать вопрос. Правильный промпт с поисковой выдачей сформируется внутри нашего сервиса автоматически, а Вы получите уже готовый ответ.

[tolyod]

теперь понял

[dimwap]

На самые невинные вопросы ГигаЧат отвечает: "Что-то в вашем вопросе меня смущает. Может, поговорим на другую тему?"

[prohor33]

Привет! Это срабатывает цензор. Если вопрос невинный, стоит попробовать начать новый диалог. Мы работаем над уменьшением количества false positive срабатываний цензора.

[averkij]

Круто. А есть ли примеры как подготовить свою базу знаний и использовать поверх неё GigaChat?

[prohor33]

Привет! Да, есть пример в библиотеке GigaChain (библиотека пока в альфа версии).

[rPman]

Как выглядит база данных, которую может использовать гигачат для поиска в ней? Может ли это быть генерируемый на ходу контент (т.е. к примеру использование уже существующего поисковика а точнее сторонний сервис, но работающий со структурированными запросами, например реляционная БД)

[Andriljo]

Приветствую. Можно сделать простой retrieval с ru_sbert+faiss и выдавать оттуда по запросу/промту ближайшие соседи с банка в промт

[rPman]

Не вижу тут ничего простого. Само по себе создание запроса на основе текущего контекста беседы нетривиальная задача, я всего хотел узнать как реализован внутренний поиск у гигачат

[Andriljo]

Для меня видимо она тривиальная, потому что я на этом и специализируюсь, примерно так и реализован, даже в статье об этом написано. Концептуально по-крайней мере

[rPman]

можно надеяться на статью от вас как этим пользоваться, что это такое и т.п.
а то я с ходу получаю неоднозначные результаты, которые показывают что я ничего не понимаю ;)

sentence transformer это для генерации векторных представлений знаний (информации, например предложений) как этим можно воспользоваться чтобы делать поиск во внешнюю базу данных, у которой нет построенной базы этих векторов.

[Andriljo]

Во внешнюю бд конечно не сделать так, но как описано в статье там внутренняя бд. Если же работаем с внешним поиском, то можно делать запросы в web или отдавать команду сгенерированную самой LLM в внешнюю бд. Команда может быть скриптом или иным другим видом взаимодействия с ней.

[rPman]

отдавать команду сгенерированную самой LLM

у вас есть специально обученная llm для генерации запросов веб? есть в доступе?

[prohor33]

Привет! Да, конечно, это может быть любая БД или другой источник данных. Пример работы со своим источником данных в библиотеке GigaChain (библиотека пока в альфа версии).

[spiel601]

Я так понимаю ваша модель еще не умеет генерировать код?

Просил сгенерировать простейшую функцию на powershell, нейросеть же начала упарываться в SQL и какую то БД вместо работы с AD

[prohor33]

Привет! Кажется, GigaChat предпочитает bash ;) А если серьезно, мы работаем над повышением качества генерируемого кода на разных языках, в том числе и на скриптовом языке powershell. Прошу вас оставить обратную связь, если генерация была неудачная.