Компания Google опубликовала на сайте поддержки информацию об улучшении работы алгоритмов автоматической модерации на своём видеосервисе Youtube. Как заявила администрация видеохостинга, алгоритмы будут эффективнее справляться со спамом и оскорблениями в комментариях. Также разработчики пояснили, что активным сетевым хулиганам будут выноситься предупреждения и выдаваться временные ограничения пользования платформой.
В посте говорится об удалении на YouTube более 1,1 млрд комментариев, содержащих спам, за первую половину 2022 года. Как утверждают разработчики, спамеры постоянно меняют тактику и для этого приходится совершенствовать модели машинного обучения, чтобы они могли эффективнее обнаруживать нежелательный контент.
Эти защитные ИИ-алгоритмы работают не только в комментариях под видео, они будут работать в чатах прямых трансляций. Также при удалении системой нескольких комментариев оскорбительного характера от одного пользователя ему будет вынесено предупреждение о недопустимости нарушения политики ресурса. Если же он будет игнорировать выданное предупреждение, его забанят на 24 часа и он не сможет оставлять комментарии.
Администрация YouTube утверждает, что проведённое ими исследование показывает снижение вероятности оскорбительного поведения пользователя при использовании озвученных мер. Сейчас предупреждения выносятся в англоязычном сегменте платформы, но их функции расширят и на другие сегменты Youtube.
