По информации «ТАСС», в Петербурге разработали программный комплекс по защите детей в интернете, который работает с помощью применения технологий искусственного интеллекта. Нейросеть обучена находить суицидальный и депрессивный контент в социальных сетях, а также выявлять среди пользователей «группы смерти» или подростков с суицидальными наклонностями.
Представитель администрации Санкт-Петербурга сообщил изданию, что специальная программа в ходе работы не только мониторит публикации и группы в соцсетях, но и проводит анализ действий пользователей-участников «групп смерти», а также выявляет факторы негативного влияния цифровой среды на молодежь для дальнейшей передачи информации в Роскомнадзор и Роспотребнадзор. Ведомства уже решают вопрос блокировки этих запрещенных страниц сайтов и публикаций в соцсетях в РФ. Он также уточнил, что в России суицид является очень распространенной причиной гибели подростков, причем последнее время эта проблема стала более острой из-за распостранения различных «групп смерти» в соцсетях.
Вдобавок источник «ТАСС» пояснил, что тестовая версия программы с ИИ уже прошла необходимые испытания и сейчас занимается обработкой и ранжированием информации и оценкой степени суицидального риска по контенту в наиболее популярных социальных сетей у российских несовершеннолетних пользователей в Петербурге и Ленинградской области. В дальнейшем власти планируют масштабировать этот проект на всю Россию.
11 августа СМИ сообщили, что Роскомнадзор добился удаления из TikTok хештегов «синего кита» и заблокировал с начала августа более 200 постов с запрещенным суицидальным контентом в Instagram и TikTok. Представитель РКН пояснил, что специалисты ведомства ведут работу по выявлению «групп смерти» в соцсетях с февраля 2017 года. За этот период они обнаружили и закрыли доступ к более чем 10 тыс. сообществам, личным страницам пользователей и отдельным постам с суицидальным контентом и запрещенными призывами.
В конце мая глава Роскомнадзора Андрей Липов рассказал, что ведомство использует нейросети и проекты, связанные с искусственным интеллектом для мониторинга публикаций в соцсетях и сервисах. Эти системы анализируют миллиарды сообщений и принимают решения по выдаче предписания администрации ресурса в автоматическом режиме, но их еще проверяют вручную сотрудники РКН. РКН планирует до конца года в 14 раз увеличить объем обрабатываемой информации, чтобы закрыть практически все белые зоны и отрабатывать все доступные в РФ пользовательские сервисы.
