В рамках работы над облегчением труда китайских модераторов, отслеживающих и удаляющих запретный контент в Сети, учёные из Китая создали прототип устройства с ИИ, определяющее, когда человек смотрит порнографию, сообщило издание South China Morning Post. Исследователи планируют объединить возможности ИИ и человеческого мозга в сфере фильтрации контента в Интернете. По их словам, несмотря на стремительно развитие технологий, ИИ всё ещё существенно уступает человеку в плане определения порнографии. Разработанное устройство объединяет возможности человека и машины, что должно привести к улучшению эффективности работы модераторов вместе с облегчением их труда.
Исследование авторов было опубликовано 13 июня в китайском Journal of Electronic Measurement and Instrumentation. К сожалению, найти исследование в Сети не удалось. Всё, что известно о самом устройстве, указано на изображении ниже и в материале SCMP.
В обучении системы участвовали 15 мужчин в возрасте от 20 до 25 лет. Они надевали на голову шапочку, по всей видимости, аналогичную той, что используется при ЭЭГ. Испытуемые сидели перед монитором не моргая, в то время как на экране показывались различные часто меняющиеся изображения. Устройство считывало активность мозга, научившись распознавать эмоции человека, появляющиеся в зависимости от просмотра той или иной картинки.
Как указывает SCMP, разработка умеет отфильтровывать шумы в активности мозга, вызванные неподходящими эмоциями, усталостью или другими мыслями. Каждый раз, когда появлялась непристойная фотография, срабатывал сигнал тревоги. Причём для срабатывания сигнала достаточно, чтобы изображение появилось всего на полсекунды. Средняя точность разработанного прототипа составила 80%.
Авторы выделили ряд проблем и факторов для дальнейшей проработки. В частности, в исследовании не участвовали женщины, из-за чего неизвестно, влияет ли пол на результаты. Кроме того, возможное использование прибора ставит ряд этических проблем. Например, в китайском законодательстве нет норм, регулирующих использование таких устройств или защищающих собранные ими данные.
