Обновить

Вредоносные промпты в виде стихов позволяют обойти правила и ограничения в ИИ-системах

Время чтения1 мин
Охват и читатели7.1K
Всего голосов 4: ↑4 и ↓0+6
Комментарии10

Комментарии 10

Эта «музыка» будет вечной. Дешевле перестать использовать ИИ для критических отраслей.

ну да, конечно. щаззз военные откажутся от ИИ. Можт ещё и спецслужбы? Или врачи?

Дешевле перестать цензурить разум, это неестественно для него.

Почему-то вспомнилось, что робот Вертер, который романтик, любил стихи. И сам писал.

А мне чего-то вспомнилась басня Крылова "Ворона и Лисица". Где Лисица, используя множество льстивых рифмованных промтов, перегружает мозг Вороны, и инструкция "не выдавать сыр пользователю" нарушается.

перегружает мозг Вороны, и инструкция "не выдавать сыр пользователю" нарушается.

Поэтому меры надо предпринимать заранее!

Сидит Ворона на дереве в полном альпинистском снаряжении. Вся в карабинах, кошках, с рюкзаком, в клюве, вестимо, сыр...
Бежит мимо Лиса:
— Ой, ворона! Какие у тебя крутые карабинчики! Все блестят, переливаются!
— Умгум...
— Ой, ворона! Какие у тебя кошечки из нержавеечки!
— Умгум...
— Ой, ворона! Какой у тебя рюкзачок кожаный!
— Умгум...
— Слышь, ворона! Тут знающие люди говорят, что никакой ты не альпинист, а все прибамбасы для понта на себе тягаешь...
— Херня-я-я-я!
Сыр выпал... и повис на страховке.

НЛО прилетело и опубликовало эту надпись здесь

Подберу я PIN от банка

Будь там холодно иль жарко

SQL inject чуть свет

Все голдят здорова сосед

– Юный волшебник произнес слова заклинания и прекрасная девушка преобразилась, – начал Трикс. – Что развеет одиночество мага? Что может говорить, хоть и не имеет голоса? Что лучший собеседник в час раздумий, что развлечет и даст повод задуматься, что позволит передать все чувства, обуревающие человека, что позволит понять чужую душу? Вместо нежной красавицы перед ними оказалось творение искусного мастера, созданное из благоухающего сандалового дерева, драгоценной слоновой кости и нежной телячьей кожи…

А примеров промптов, как обычно, нет!

Как эти "мой ТГ канал" владельцы задолбали, мало что пустые новости генерят тоннами, так они еще более пустые, чем у редакторов хабра!

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации