Twitter рассказала о тестировании функции автоматической блокировки пользователей, реагирующей на «потенциально опасную лексику». При включенной функции система анализирует взаимодействия пользователя с другими профилями, включая переписки, упоминания и тон общения. Если система заподозрит неладное, она на неделю заблокирует доступ «агрессора» к профилю пользователя.
Разработчики признают, что их система работает не идеально и периодически допускать ошибки. По этой причине у пользователя есть возможность отменить блокировку до окончания срока. Также система обучена не блокировать людей, с которыми пользователь постоянно ведёт общение.
Пока опцию ввели в небольшой группе англоязычных пользователей. Она тестируется на iOS, Android и Twitter.com. Разработка системы проводилась при участии специалистов из областей интернет-безопасности, психологии и прав человека. Эти же специалисты выбирали экспериментальную группу. Они отдали предпочтение женщинам-журналистам и людям из маргинализированных сообществ.
По словам Twitter, конечная цель системы — защитить получающего твиты пользователя за счёт снижения распространенности и видимости потенциально опасных замечаний. Разработчики будут наблюдать за работой системы и внесут необходимые изменения по итогам экспериментов.
