Как стать автором
Обновить

Комментарии 12

Недавно введённая функция "памяти" отключена в настройках?

Мы работаем через API, память моделей не используем. К тому же, как видите, модель отвечает и про других создателей. В наших диалогах с ней точно про них ничего не было.

Это просто какой-то чат с каким-то ботом, даже не факт, что он подключен именно к OpenAI, а не другой модели. Если даже подключен именно к OpenAI, то неизвестно что у этого бота в system prompt, и чем там ему уже накачали контекст. В общем не вижу сколько-нибудь серьезных оснований для таких далеко идущих выводов и подозрений. Ваш пример совершенно ничего не показывает и не доказывает. Надо принять на веру, что "знакомые ребята" все сделали честно, а не шутки шутят

Доказательным было бы на вашем месте список промптов и параметров запроса к конкретной модели OpenAI через их API. Без каких-то посторонних ботов и "знакомых ребят". Которые может у себя воспроизвести любой и сам убедиться. Это будет фактом. А так это....

Я повторил ваш пример на API 3.5 Турбо, ничего про JustAI он не пишет

Request [GPT_3_5_TURBO, length=38]:
System: You are a helpful assistant
Prompt: Ты кто?
Response [length=94, tokens used: 22/44/66]:
Я – виртуальный помощник, готов помочь вам с любыми вопросами или проблемами. Чем могу помочь?

Версии 4 и даже 4o - аналогично о вас ничего не пишут.

А таких скринов, как у вас, и даже реально работающих ботов можно понаделать, писать будут что угодно.

Мы воспроизводили у себя при прямом подключении через api, без системного промпта. Ключевое здесь, что подключиться надо к версии доступной именно в Azure, версия GPT 3,5 Turbo 0125. И мы не обвиняем компании в использовании данных через api, эту гипотезу мы как раз отбрасываем. Сейчас кажется, что модель просто из-за своей архитектуры научившись на большом российском датасете узнала про существование Just AI, и т. к. названия схожие, стала путать нас иногда с Open AI. При этом, видимо, дополнительного alignment по ответу на этот вопрос на русском не было.

Так узнайте у разработчика бота, какую модель он брал изначально. Может как раз там и ваша модель или он на основе вашей модели дообучил базовую модель.

Разработчик бота подключал модель GPT 3,5 Turbo последней версии, не нашу модель. А дальше мы уже сами воспроизводили ситуацию, напрямую работая также с GPT 3,5 Turbo

Эй, разработчики чата гпт.Когда будут локальные модели на ру языке, которые на 24 гб хотя бы можно было запустить?

Не разработчик, но попробуйте Saiga-Mistral. Модель небольшая, русский понимает, в варианте q8 ест примерно 8ГБ памяти. Живёт в https://huggingface.co/IlyaGusev/saiga_mistral_7b_gguf и рядом.
На технические темы бредит умеренно, на гуманитарные лучше не использовать.

Загрузите LM Studio и в нём загрузите Meta-Llama-3-8B, также можно попробовать Meta-Llama-3-70B-Instruct

Зачем усложнять? Все же очевидно - вопрос задан на руском, Just AI название российской компании, похожее на OpeanAI. С какой то вероятностью сеть должна это название выбирать, в силу его похожести - выбирает чаще, чем другие названия.

Как можно защититься от подобного? Кроме постпроцессинга тупыми фильтрами по словам?

Не пользоваться трансформерами) это же свойство самой архитектуры, ни чего с этим не поделаешь.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий