Обновить

Можно ли обмануть ИИ‑детектор: внимание на типографику

Уровень сложностиПростой
Время на прочтение6 мин
Охват и читатели9K
Всего голосов 5: ↑5 и ↓0+6
Комментарии6

Комментарии 6

Повторюсь. Я считаю ии-детекторы вредными вообще и бесполезными в долгосрочном периоде.

Что касается российских ИИ-детекторов, полагаю, что они обучают лёгкую нейросеть на синтетике и та выучивает типографику как дешевый признак, поэтому наличие длинного тире регулярно, но не постоянно роняет модель в оценку текста как ИИ. Зависит, подозреваю, не от других сигналов а от того как карта ляжет. ))

Добрый день! я тоже могу лишь повториться - пока детекторы используются, нужно лучше понимать принципы их работы, я лишь пытаюсь это сделать в меру сил :)))))

Вот же блин! Свой дипломный проект прошлого века (ещё в W&D написанный) прогнал, ИИ около 75%.
Мои любимые буквы Ё там есть, длинные тире отсутствуют.

А обратный опыт вы не ставили? Взять заведомо человеческий текст, например свой старый, написанный до 2022 года, и просто заменить в нём дефисы на длинные тире, а «е» на «ё». Если оценка ИИ после этого заметно вырастет, значит, детектор во многом реагирует на типографику, а не на стиль, и вывод статьи станет гораздо сильнее.

Не думаю что ИИ детектор построенный в свою очередь на LLM даст какие-то достоверные результаты. И чем больше текст на входе тем ниже достоверность - без встроенного watermark в саму генерацию достоверный детектор принципиально невозможен — только вероятностная эвристика с ложноположительными и ложноотрицательными срабатываниями.

кавычки‑елочки «» на кавычки‑ лапки «»

Встроенный типограф Хабра с радостью превратил все признаки написания человеком в признаки написания ИИ.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации