Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) ищет разработчика интеллектуальной системы, отслеживающей незаконный визуальный контент в интернете. Это следует из конкурсной документации, с которой ознакомились «Известия».
Стартовая цена разработки — 70 млн рублей. Подвести итоги конкурса ГРЧЦ намерен 30 июня. Как следует из техзадания, система под названием «Окулус» будет анализировать не менее 200 тыс. изображений в сутки с погрешностью не более 20%.
Алгоритмы искусственного интеллекта должны будут выявлять в том числе материалы с признаками терроризма и экстремизма, призывами к массовым беспорядкам, оскорбления в адрес российских государственных символов и органов власти, пропаганду наркотиков и суицида, пропаганду среди несовершеннолетних нетрадиционных сексуальных отношений и иной «нежелательный» контент.
От исполнителей требуют предоставить не менее 1 тыс. изображений по каждому типу нарушений для обучения искусственного интеллекта. «Окулус» также должен распознавать текстовую информацию на изображениях и кадрах видеоматериалов, в том числе расшифроввывать QR-коды, переписки в чатах и каналах мессенджеров, надписи, URL-адреса, субтитры и другие опции.
Технологии, позволяющие отслеживать противозаконный видеоконтент в интернете, в России пока находятся на зачаточном уровне, считает руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров. При этом методы, позволяющие анализировать тексты и фото пользователей в социальных сетях, уже есть, отметил он.
В целом распознавание видео с порно, сценами насилия или пропагандой наркотиков наладить сложно, но реально, считает Бедеров. «Для обучения потребуется размеченный массив данных и некоторое количество времени, технических ограничений для этого точно нет», — отметил эксперт.
Создание подобной системы — крайне сложная и трудоёмкая задача, предупредил эксперт Российской ассоциации электронных коммуникаций Карен Казарян. По его словам, на рынке есть наработки в сфере машинного анализа изображений и видео, но оценивать сложные сюжеты они пока не могут.
О планах создания системы мониторинга визуального контента стало известно в 2021 году — тогда ГРЧЦ объявил конкурс на проведение научно-исследовательских работ по изучению возможностей искусственного интеллекта в этой сфере. Победителем конкурса стал Московский физико-технический институт, он предложил провести эти изыскания за 14 млн рублей.
Ранее бороться с противоправным контентом в Сети уже договорились крупнейшие российские digital-компании. В феврале 2022 года «Яндекс», VK и «Лаборатория Касперского» запустили пилотный проект по выявлению и блокировке детской порнографии, а также «сексуализированного контента с участием несовершеннолетних». Для поиска компании используют как искусственный интеллект, так и ручную выборку.
Ранее ГРЧЦ предложил для защиты российских геймеров от вредной информации использовать искусственный интеллект для мониторинга контента видеоигр, включая поиск там незаконного контента со сценами, содержащими детскую порнографию, призывы к совершению самоубийств и употреблению наркотиков.
