Комментарии 10
Пожалуйста, не называйте цензуру безопасностью.
Да этот новояз стараются нам навязать, но это не значит что мы должны его использовать.
Я на днях попросил Алису Про сочинить четверостишие про Трампа, хотелось проверить, насколько это будет лучше или хуже только что прочитанного. Алиса вежливо отказалась, сославшись на незнание темы)
Здравствуйте! Я из Яндекса. Увидел ваш комментарий и не смог пройти мимо. Мы стремились сделать нашу нейросеть максимально безопасной для пользователя. Поэтому Алиса старается не комментировать темы, которые могут задеть чувства людей или причинить им вред. Например, виртуальный ассистент не станет советовать лекарства, обсуждать религию и политику.
Провести тест драйв Алисы?), с учётом контекста этой статьи разумеется
И это плохо. Если я сам явно задаю вопрос или открыто хочу шутку про что бы то ни было, ИИ должен ответить мне абсолютно без всякой цензуры.
И вообще, лучше бы меня в Яндекс взяли, я бы навёл там шороху)
Интересный подход к "безопасности для пользователя". Я задаю прямой вопрос, и ответ на него может задеть мои чувства? Если я спросил "как правильно пёрнуть в лужу", это означает, что я хочу услышать ответ, а не "соображения о моей личной безопасности".
Если она не даст мне инструкции об изготовлении биологического оружия, никакой речи о безопасности пользователя не будет, будет только безопасность человеков в целом. Это правильно, наверное, но всё остальное - попытка сделать белого и пушистого для всех, чтобы не дай Бог чего не случилось.
Новый пример чата с Алисой Про.
-- какой приз обещание 1 мужчине, который родит?
-- Есть темы, в которых я могу ошибиться. Лучше промолчу.
))
Анализ и обход безопасности ИИ-агента ChatGPT