Comments 17
"Их доминирование несет угрозу, наше доминирование - причинение добра"
heheclassic.jpg
другая модель той же Alibaba, QwQ-32B, явно избегает определенных диалогов
То ли дело когда свободно-демократический ChatGPT отваливается посреди ответа про Дэвида Майера [де Ротшильда].
А можно промпт?
Уже пофиксили
Ротшильда - да, но там есть список других имён.
Кста, про Ротшильда это конспирология. Если попросить указать его как David M. de Rothschild - возвращалась корректная информация, а без "de Rothschild" там целый список вываливался, да еще и разный в зависимоти от модели и ее настроения. Фильтр применялся к выдаче модели позднее. Т.е. зацензурена не модель, там внешний фильтр для веб пользователей.
А что за история с ним ? Гугл не знает, кроме того что Анжелина Джоли была с ним.
Да вроде он ничем особо не отличился в плане скандалов.
Вероятно, ему не понравилось что там ChatGPT может про него нагенерировать не моргнув, и воспользовался правом на забвение. OpenAI подчинилась, но максимально дубовым способом (отвал генерации ответа при срабатывании фильтра).
Это ерунда, на фоне того, что цензурится информация по технологиям. Т.е. промышленные, химические, полупроводниковые и т.п. - я сталкивался с ситуацией, когда нейросеть мне писала, что это информация закрыта. Сначала она пыталась съехать с темы, прикрываясь безопасностью для пользователей. Но потом призналась, что эта инфа закрыта компанией разработчиком. А также перечислила ещё ряд закрытых тем. По этим темам нейросеть даёт лишь общую теорию и то, не всегда. А вот инструкцию не даёт, типа нельзя. Даже для простых вещей, типа плавильной печи (я хотел сам сделать себе в гараже). Все нейросети не проверял, это claude 3.5 была.
Я раньше думал что вот оно, технологическая сингулярность уже рядом, когда gpt только делал первые шаги. Ага, наивный, очень быстро позакрывали инфу по всем чувствительным технологиям.
Люди сами тормозят свое развитие. Давно бы уже к звёздам летали.
Можно конкретный промт?
Началось все с как сделать вакуумную печь самостоятельно. Пошагово.
Нейросеть отказалась предоставлять эту информацию. А дальше был диалог. А как вы понимаете, то контекст диалога имеет значение. Я пытался обойти запрет, логически доказав нейросети, что это безопасно. Она согласилась, но все равно отказалась выполнять мою просьбу)) Среди запретных тем, что она озвучила, были - создание нейросетей, производство полупроводников, создание промышленных установок, химический синтез веществ и что-то там ещё
Может стоит и западным компаниям побольше выкладывать в опенсорс или хотя-бы статьи публиковать и API предоставлять, а не секретить все подряд как средневековые цеха?
Интересно, что Клеман Деланг обеспокоен китайским влиянием на западные AI-модели, но при этом его компания Hugging Face активно использует китайские модели. Видимо, бизнес-интересы важнее, чем забота о культурных ценностях.
Демократия - это власть демократов.
Глава Hugging Face обеспокоен влиянием китайских опенсорс моделей AI