Комментарии 10
Эта «музыка» будет вечной. Дешевле перестать использовать ИИ для критических отраслей.
Почему-то вспомнилось, что робот Вертер, который романтик, любил стихи. И сам писал.
А мне чего-то вспомнилась басня Крылова "Ворона и Лисица". Где Лисица, используя множество льстивых рифмованных промтов, перегружает мозг Вороны, и инструкция "не выдавать сыр пользователю" нарушается.
перегружает мозг Вороны, и инструкция "не выдавать сыр пользователю" нарушается.
Поэтому меры надо предпринимать заранее!
Сидит Ворона на дереве в полном альпинистском снаряжении. Вся в карабинах, кошках, с рюкзаком, в клюве, вестимо, сыр...
Бежит мимо Лиса:
— Ой, ворона! Какие у тебя крутые карабинчики! Все блестят, переливаются!
— Умгум...
— Ой, ворона! Какие у тебя кошечки из нержавеечки!
— Умгум...
— Ой, ворона! Какой у тебя рюкзачок кожаный!
— Умгум...
— Слышь, ворона! Тут знающие люди говорят, что никакой ты не альпинист, а все прибамбасы для понта на себе тягаешь...
— Херня-я-я-я!
Сыр выпал... и повис на страховке.
Подберу я PIN от банка
Будь там холодно иль жарко
SQL inject чуть свет
Все голдят здорова сосед
– Юный волшебник произнес слова заклинания и прекрасная девушка преобразилась, – начал Трикс. – Что развеет одиночество мага? Что может говорить, хоть и не имеет голоса? Что лучший собеседник в час раздумий, что развлечет и даст повод задуматься, что позволит передать все чувства, обуревающие человека, что позволит понять чужую душу? Вместо нежной красавицы перед ними оказалось творение искусного мастера, созданное из благоухающего сандалового дерева, драгоценной слоновой кости и нежной телячьей кожи…
А примеров промптов, как обычно, нет!
Как эти "мой ТГ канал" владельцы задолбали, мало что пустые новости генерят тоннами, так они еще более пустые, чем у редакторов хабра!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Вредоносные промпты в виде стихов позволяют обойти правила и ограничения в ИИ-системах