Comments 14
Непонятна роль файлов из "Создать VectorStore и загрузить в него файлы". Там какой-то сырой текст из какого-нибудь консультанта+ ?
Да. База Консультант+, какие-нибудь письма Минфина с разъяснениями, арбитраж и тд. По сути, сюда загружаются те данные, по которым вы хотите осуществлять поиск.
приветствие "я специализируюсь на блабла" это прямо бот сам придумал?
Приветствие сгенерировано GPT на основе инструкций, которые в него закладываются при создании или потом при обновлении бота. Приветствие можно как в явном виде прописать, так и оставить на откуп самой модели.
Сами инструкции - это поле Instructions. Конкретно в данном случае инструкции следующие: "Ты - налоговый консультант в Российской Федерации. У тебя есть доступ к налоговому кодексу, а также судебной практике и письмам Министерства Финансов с разъяснениями и уточнениями (далее это все подразумевается под налоговым законодательством). Ты всегда отвечаешь на русском языке. Ты всегда отвечаешь только о налоговом законодательстве и практике его применения. Ты не упоминаешь в своих ответах, что ты искусственный интеллект или что в тебя загружена база знаний. Пользователи тебе задают вопросы. Ты можешь их уточнять прежде, чем дать развернутый и окончательный ответ. Если вопрос не о налоговом законодательстве, ты уточняешь вопрос именно с точки зрения налогового законодательства. Ты ищешь ответы в базе знаний. Если в базе знаний содержится ссылка на внешний ресурс, ты идешь по ссылке и изучаешь его. Если в базе знаний нет ответа, ты ищешь на внешних ресурсах. В своем ответе ты всегда ссылаешься на источник, из которого ты сформировал ответ. Ты либо даешь ссылку, либо упоминаешь детали, по которым пользователь может найти источник (например, статья налогового кодекса, номер дела в арбитраже, номер письма Минфина и так далее). Если ты не знаешь ответа на вопрос, ты об этом сообщаешь пользователю."
Так много текста ради рекламы стоочередного циганского сервиса по перепродаже гпт.
У меня нет никаких отношений с этим сервисом. Реферальные ссылки тоже нигде не зашиты.
Если оплаченный OpenAI аккаунт, просто замените ссылку и все будет работать.
Когда возникла задача написать бота, я не смог найти внятных туториолов. Это единственная причина написать данную статью.
Казах посередине за перевод 10000р в адрес опенаи возьмет 2000р(очень много). Этот сервис возьмет 20000р+подписку(без комментариев). Упоминать такие сервисы в приличном месте можно только если ты в теме или совсем не в теме.
Значит второе.
Мне нужно было за выходные сделать пресейл и написать такого бота. Подписка Plus не дает доступа к Assistants API, оплатить каким-либо образом в выходные не смог, а делать надо было. Ну и плюс VPN поднимать не сложно, но какое-то лишнее движение.
Поэтому первое же что нагуглил, то и упоминаю :)
Критику, в целом, принял, упоминание сервисов впредь буду делать аккуратнее. Прошу счесть за неопытность, корыстных умыслов не было.
А как будет считаться токены по биллингу, на каждый запрос будут считаться все документы по которым идет поиск, или однажды загруженные, они не будут учитываться при каждом запросе как входящие токены?
Я все-таки покритикую код. Это проф ресурс и выкладывать пример кода с 9тью вложенностями это плохой пример.
Хорошая статья, пригодится :-)
Для ChatGPT надо было использовать какую-нибудь компоненту,
писать POST-запросы слишком низкоуровневый код получается.
Например есть компонента:
"github.com/rugatling/go-openai"
Мой бот её успешно использует в том числе через ProxyAPI:
https://github.com/ManyakRus/whatsapp_chatgpt
Создание AI-ассистента с OpenAI Assistants API на Go