Комментарии 3
Спасибо за обзор! Заметил, что довольно неплохо детерминирует результат примерно такие запросы (в данном случае, мне нужна была долгота/широта):
For this location, %Location, identify the longitude and latitude, and return an RFC8259-compliant JSON response. If any data is missing, use null for the value. Do not include any explanations, notes, or assumptions, and strictly adhere to the JSON format described below:
{
"Longitude": 0.0,
"Latitude": 0.0
}
А вот на счёт этого не понял:
Развенчиваем мифы: модели, доступные через API "глупее" веб-интерфейса чата, потому что у них нет памяти и контекста
Это миф или его развенчание? Дело в том, что если вы про веб-интерфейс https://chat.openai.com/, то он так же ограничен 4к токенами.
Я тоже пробовал добавлять Longitude/Latitude, если запрос гиперлокальный (содержит слова nearest, close to me и т.д.), но получал рандом в 50% случаев. В итоге остановился на самостоятельной поверке исходной фразы в боте: если есть слова про "локальность", то отправляю запрос локейшена из Тг.
А вот на счёт этого не понял:
Я имел в виду, что "ЧятЖПП всемогущ, вот щас подключусь к его АПИ и у меня будет тоже самое за 5 копеек" - это миф. На самом деле ChatGPT, доступный через веб-интерфейс https://chat.openai.com/, отличается от того, что доступно через API (в т.ч. модели davinci и turbo)
А как вы это определили (не говорим пока про v4)? Если я правильно всё понимаю, то ограничение в 4к заложено в саму модель, а не услугу. И это подтверждают мои эксперименты. У https://chat.openai.com +, тоже память как у рыбки Дори, поспрашивайте его о чем-нибудь, потом попросите перевести какой-то большой отрывок из Алиса в стране чудес, и потом спросите, какой был первый вопрос, и он скажет "Вы просили перевести отрывок из ...". Может они конечно делают сводку беседы и передают её потом в запрос, но это всё равно в рамках их стандартного API и 4к.
Или вы не про память, а про какие-то другие характеристики?
От Amazon Lex до GPT-4: как сделать бота со «своими» данными?