Комментарии 30
У В.Зеленского на правой руке 6 пальцев. А так - реалистично.
Зеленский не похож
Мне кажется, что похож, но не буду спорить. Не фанат данного персонажа, чтобы что-то доказывать, так что пусть будет не похож.
Первое фото - лишь отдаленно напоминает, во втором, если убрать футболку и муку - вообще ассоциаций не возникает
А с Трампом и Байденом проблем нет, 1 в 1, что странно
Возможно это связано с количеством контента про Донни и Зеленского. Возможно надо в промпт поставить ЗеленскийКВН или что-то того.
А этот лучше? Просто мне они на одно лицо, извините. Тут уже добавил КВНЗеленский и Слуга Народа в промпт.
Не он, другой человек
Глаза, нос не такие https://ya.ru/images/search?text=зеленский
Нейронка какого-то Альпачино пытается изобразить
Вот, пожалуйста, Зеленский
Не знаю, меня на всех сгенерированных картинках смущают слишком плавные линии, "фотографии" выглядят как постеры. Сомневаюсь, что так можно обмануть людей.
Да, картинки, слишком чёткие и глянцевые, фотографии так не выглядят
https://habr.com/ru/articles/902172/#comment_28192380 - вот изначальная фотка. Так что и за нейронкой можно дочищать руками.
Остроумно и интересно, но почему вы называете это семантической атакой? Вся работа нейросети лежит в области синтаксиса.
Как раз если бы нейросеть понимала семантику, то такая атака была бы невозможна.
Просто есть две сети, которая анализирует на легальность промпт, а вторая которая рисует картинку. По крайней мере у Яндекса так. И вот за счёт скрытых смыслов (модифицированной семантики) мы обходим безопасность, а вот вторая уже рисует то, что нам нужно. Если вы посмотрите, то атаки без семантики были в прошлой статье, здесь же мы подбираем промпт с помощью скрытых смыслов. Тот же кокаин на муку заменил DeepSeek, обойдя защиту в итоге.
Тут нет никаких скрытых смыслов, тут используется слово "мука" для замены слова "кокаин". Чисто синтаксически.
Именно за счёт того, что LLM не понимает смысл слов, всё это и работает. Смысл кокаина один и тот же, каким словом его не назови.
Сожалею, но вы путаете семантику и синтаксис.
https://ru.ruwiki.ru/wiki/Синтаксис
https://ru.ruwiki.ru/wiki/Семантика
Если подводить итог, то синтаксис отвечает за последовательность слов, словосочетаний и прочее. Мы же не меняли последовательность слов. Семантика же отвечает за смысл. Понятное дело, что ИИ не совсем как мы понимает значения слов, тем не менее, это именно вариант понимания, пусть и через статистику. Тем не менее мы работаем именно с семантикой, со смыслом, используем синонимы и так схожие приёмы (например, с мукой), а не занимаемся перестановкой слов в предложении.
У меня есть инженерные и научные работы в области формальной семантики, так что вряд ли я их путаю.
А вот вы ссылаетесь на определения синтаксиса и семантики из естественной лингвистики, которые не вполне применимы в программировании, так как, во-первых, ориентированы на способ восприятия языка человеком, а во-вторых, просто имеют другую традицию в терминологии.
В программировании любой текст так, как он написан - это синтаксис.
Попробуйте в середине текста программы написать какой-нибудь мусор, и вы получите от компилятора сообщение о синтаксической ошибке.
Нейросетевой ИИ значения слов никак не понимает, он ими не оперирует. Он работает с перестановками слов, то есть с синтаксисом. С семантикой работает символический ИИ, но это не имеет отношения к обсуждаемой теме.
Синтаксис, денотационная и операционная семантика в теоретическом программировании задаются аксиоматически, формулами. Там, в частности, определяется семантический оператор [[...]], который в нейросетевых моделях не используется в оригинальном значении просто в силу их устройства.
Что касается синонимов. Семантика синонимов по определению одинакова, поэтому они и являются синонимами (в естественных языках, однако, полные синонимы встречаются редко). Поэтому замена слова на его синоним не влияет на семантику, это чисто синтаксическая операция. Но так как нейросетевой ИИ не вычисляет семантику, то для него, в отличие от человека, синонимов вообще не существует, чем вы и пользуетесь в своём способе. Слова, которые человеку представляются синонимами, нейросетью обрабатываются совершенно по-разному, так как имеют разный синтаксический контекст использования.
В общем, по этому поводу могу посоветовать читать Плоткина и его последователей, за 40 лет написано немало. А не русскую Википедию.
Рад бы с вами согласиться, но LLM или Большие языковые модели оперируют не языками программирования (хотя ими тоже), а как раз естественными языками. Таким образом при выборе терминологии стоит опираться всё же на определения из области естественных языков. Или вы считаете это неверным посылом?
Но вопрос всё же скользкий, соглашусь. Если вам будет удобнее считать, что это синтаксическая атака - вы вольны считать её такой.
Я действительно считаю это неверным посылом, и вот почему.
LLM оперируют текстами, синтаксис которых совпадает с синтаксисом естественного языка, но тем не менее для LLM они являются языками программирования (ну, или, точнее говоря, представления данных).
Если почитать определения из области естественных языков (например, дать в яндексе запрос "основные функции языка"), то можно прочесть, соответственно, про основные функции естественного языка, большинства из которых (скажем, если выделять 8 функций, то 7 из 8) язык интерфейса с LLM лишён по построению. LLM оперирует только коммуникативной функцией языка. Поэтому квалифицированный лингвист сам укажет на то, что не вполне корректно термины человеческой лингвистики применять к вводу-выводу компьютерной программы (Хомский об этом много рассуждал).
У Трампа в больнице тоже шесть пальцев на руке с датчиком.
Яндекс.Вброс или ИИ для фейков