Как стать автором
Обновить

Подведомственный Роскомнадзору центр объявил конкурс для создания информсистемы по отслеживанию незаконного контента

Время на прочтение 3 мин
Количество просмотров 1.9K

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) ищет разработчика интеллектуальной системы, отслеживающей незаконный визуальный контент в интернете. Это следует из конкурсной документации, с которой ознакомились «Известия».

Стартовая цена разработки — 70 млн рублей. Подвести итоги конкурса ГРЧЦ намерен 30 июня. Как следует из техзадания, система под названием «Окулус» будет анализировать не менее 200 тыс. изображений в сутки с погрешностью не более 20%.

Алгоритмы искусственного интеллекта должны будут выявлять в том числе материалы с признаками терроризма и экстремизма, призывами к массовым беспорядкам, оскорбления в адрес российских государственных символов и органов власти, пропаганду наркотиков и суицида, пропаганду среди несовершеннолетних нетрадиционных сексуальных отношений и иной «нежелательный» контент.

От исполнителей требуют предоставить не менее 1 тыс. изображений по каждому типу нарушений для обучения искусственного интеллекта. «Окулус» также должен распознавать текстовую информацию на изображениях и кадрах видеоматериалов, в том числе расшифроввывать QR-коды, переписки в чатах и каналах мессенджеров, надписи, URL-адреса, субтитры и другие опции.

Технологии, позволяющие отслеживать противозаконный видеоконтент в интернете, в России пока находятся на зачаточном уровне, считает руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров. При этом методы, позволяющие анализировать тексты и фото пользователей в социальных сетях, уже есть, отметил он.

В целом распознавание видео с порно, сценами насилия или пропагандой наркотиков наладить сложно, но реально, считает Бедеров. «Для обучения потребуется размеченный массив данных и некоторое количество времени, технических ограничений для этого точно нет», — отметил эксперт.

Создание подобной системы — крайне сложная и трудоёмкая задача, предупредил эксперт Российской ассоциации электронных коммуникаций Карен Казарян. По его словам, на рынке есть наработки в сфере машинного анализа изображений и видео, но оценивать сложные сюжеты они пока не могут.

О планах создания системы мониторинга визуального контента стало известно в 2021 году — тогда ГРЧЦ объявил конкурс на проведение научно-исследовательских работ по изучению возможностей искусственного интеллекта в этой сфере. Победителем конкурса стал Московский физико-технический институт, он предложил провести эти изыскания за 14 млн рублей.

Ранее бороться с противоправным контентом в Сети уже договорились крупнейшие российские digital-компании. В феврале 2022 года «Яндекс», VK и «Лаборатория Касперского» запустили пилотный проект по выявлению и блокировке детской порнографии, а также «сексуализированного контента с участием несовершеннолетних». Для поиска компании используют как искусственный интеллект, так и ручную выборку.

Ранее ГРЧЦ предложил для защиты российских геймеров от вредной информации использовать искусственный интеллект для мониторинга контента видеоигр, включая поиск там незаконного контента со сценами, содержащими детскую порнографию, призывы к совершению самоубийств и употреблению наркотиков.

Теги:
Хабы:
+5
Комментарии 11
Комментарии Комментарии 11

Другие новости

Истории

Работа

Ближайшие события

Московский туристический хакатон
Дата 23 марта – 7 апреля
Место
Москва Онлайн
Геймтон «DatsEdenSpace» от DatsTeam
Дата 5 – 6 апреля
Время 17:00 – 20:00
Место
Онлайн