Дешёвая модерация анонимной стены: 3-слойный каскад и ROT13-джейлбрейк в проде

[Granulex]

"LLM раскусил ROT13-джейлбрейк." Это хорошая новость. Плохая: значит, LLM читает смысл, а не буквы – и однажды найдётся джейлбрейк, который смысл скрывает, но токены пропускает. Безопасность через непонимание – не защита, а гонка вооружений, в которой у атакующего неограниченное время на эксперименты.

[yukakust]

согл, мне кажется за смыслами это к Лекуновской JEPA, я правда думал H-JEPA для архитектуры БД попробовать поюзать, но видимо можно и в ту сторону посмотреть

[Granulex]

JEPA работает в пространстве смыслов – именно то, что нужно против обфускации. Вопрос только в том, насколько быстро атакующий научится говорить на том же языке.

[yukakust]

я не про в защите, но это же вроде гонка вооружений, сначала придумывают способ взломать потом защиту и так до бесконечности