Речь, конечно же, о шоу Джо Рогана, и далее мы разберемся в ситуации чуточку подробнее. Всех, кого интересует происходящее в мире подкастинга и аудиоконтента, приглашаем под кат.

Но ученые научились определять, где система дает сбой.

В далекое прошлое ушли уютные форумы, где люди-модераторы заставляли участников следовать правилам и цивилизованно общаться. Эпоха массовых соцсетей требует иных решений. Сегодня искусственный интеллект учат отделять одну ругань от другой в соответствии с современными представлениями о справедливости. В рамках этой темы хотим поделиться переводом июньской публикации MIT Technology Review о датасете HateCheck.

Сэкономим для Винни-Пуха время: идеальная модерация в многопользовательских видеоиграх не возможна.
Независимо от выбранной цели (и методов), идеальная модерация ОБЯЗАТЕЛЬНО будет наступать на все доступные мозоли либо "бизнесу", либо игрокам, либо бедным замороченным людям, на которых обязанности модераторов будут возложены.
Всё.

А почему так?

Попробуем разобраться с применением длинных слов и абстрактных идей.

Социальная сеть Facebook будет удалять контент, отрицающий Холокост, сообщил руководитель компании Марк Цукерберг. По его словам, соцсеть обновила политику из-за роста случаев антисемитизма во всём мире и «пугающего уровня неосведомлённости о Холокосте». 

Facebook запускает в тестовом режиме систему оповещения администраторов сообществ о появляющихся конфликтах, работающую на основе анализа ИИ.      

Несмотря на самые суровые законы о травле и домогательствах в интернете, Германия не справляется с потоком агрессии в социальных сетях в преддверии выборов, которые состоятся в это воскресенье. Об этом пишет The New York Times.

Лауру Дорнхайм, баллотирующуюся в Бундестаг, нередко передергивает от изощренности и жестокости угроз, которые она ежедневно получает в соцсетях. Дорнхайм часто становится мишенью агрессивных нападок из-за ее активной поддержки абортов, гендерного равенства и лояльной миграционной политики. Порой она отправляет жалобы модераторам Facebook и Twitter, в которых призывают убить и/или изнасиловать кандидатку, однако служба поддержки соцсетей не всегда отзывчива: как утверждает Дорнхайм, сходу она может вспомнить только один раз, когда подобный пост заблокировали.

Домогательства и травля в соцсетях давно перестали быть редкими и из ряда вон выходящими. Однако власти Германии надеялись изменить ситуацию к лучшему: в 2017 году принят один из самых жестких в мире законов об интернет-травле ― Netzwerkdurchsetzungsgesetz (NetzDG). Согласно ему, представители Facebook, Twitter и YouTube обязаны удалить любой контент, связанный с развязыванием ненависти, в течение 24 часов с момента получения жалобы ― в противном случае власти оштрафуют соцсети на 50 млн евро. Сторонники закона считали, что это хотя бы частично обезопасит интернет, а модель пресечения буллинга, созданная в ФРГ, впоследствии появится в других странах.

Журналисты Bloomberg выяснили, что Twitter по-разному относится к пользователям и утверждают о наличии списка важных персон, получающих привилегии при модерации — случаи оскорбления и буллинга в их сторону рассматриваются в первую очередь. В этот список входят крупные блогеры, лидеры мнений, журналисты и политики.