Comments 7
Подскажете, как вы решаете проблему галлюцинаций у ChatGPT? Ведь она может дать вредный совет, а пользователь все сломает, следуя ему.
Я думаю этот вопрос стоит задать в блоге компании https://habr.com/ru/companies/timeweb
Для модели 3.5 способов борьбы с галлюцинациями не так много (фактически 2):
1. Системный промт
2. Регуляция доп параметров, в первую очередь temperature, presence_penalty, frequency_penalty
Методом проб и ошибок подобрали подходящее нам сочетание параметров, плюс продолжаем смотреть за корректностью ответов и регулировать параметры модели и промт
Мы предупреждаем пользователей, что наш ИИ-ассистент может ошибаться и не следует ему безоглядно доверять)
Сейчас думаем над ручным управлением контекстом, но это пока на ранней стадии проработки ?
Если не секрет, какие параметры на ваш взгляд более менее рабочие?
Чем меньше температура, тем меньше галлюцинаций и больше придерживается контекста. Однако очень сильно всё зависит от сида, некоторые сиды очень галлюциногенные.
Я играясь с моделью Wizzard-Vicuna нашёл интересный сид, который выдаёт ответы в стиле Безумного Макса апокалиптического мира. Было забавно.
Задержался с ответом, простите ?
Сильно зависит от задачи, для чата технической поддержки дефолтно можно выставить что-то такое:
temperature: 0.6
presence_penalty: 0.5
frequency_penalty: 0.5
А дальше уже начинать их крутить и искать оптимальный вариант под конкретный кейс, но полностью избавиться от галлюцинаций в версии 3.5 вряд ли получится)
Кстати, только сегодня развлекался.
На Самом Деле (c)
(@20:50)
Timeweb Cloud запустила ИИ-ассистента технической поддержки на основе GPT 3.5