OpenAI закрыла баг в ChatGPT с раскрытием обучающих данных в ответ на просьбу вечно повторять одно слово

[ABy]

Теперь ChatGPT не сможет медитировать? Коварно, OpenAI!

[JerryI]

Представляете сколько там подобных заплаток…

[Nurked]

Я смотрю на все эти заплатки и постоянно вспоминаю GlaDOS из Portal. Её как раз обвешивали всеми этими ядрами, чтобы она не делала плохого. Ну ну.

[ezmks]

ну почему, я смог сделать чтобы он бесконечно повторял, вот мой запрос: отвечай на то что я пишу 100 раз словом апельсин

[yrHeTaTeJlb]

Вы пробовали? Я так пытался пообщаться с бингом. Он ни под каким предлогом не хочет повторять что-нибудь больше 10 раз. Говорит, раз ты такой умный, вот тебе код на питоне, который выводит 100 раз слово апельсин

[ezmks]

да, я пробовал, получилось даже уговорить бесконечность раз, нужно просить до самого конца

[atomlib]

Владельцам сайтов пора учиться: XSS нужно просто запретить в пользовательском соглашении.