С развитием социальных сетей и других онлайн-платформ люди получили беспрецедентную возможность для проведения публичных мероприятий. Но нередко эта способность по публикации и распространению информации используется не во благо. Здесь и распространение насилия, терроризма, фейка, популяризации запрещенных препаратов, спам, оскорбления и многое другое, что вызывает резонанс в обществе. И в таких случаях возможности онлайн-платформ по распространению информации начинают работать во вред людям.

При этом трудностей с выявлением информации, которую мы не хотели бы видеть, у онлайн-платформ хватает, так как объем распространяемого в интернете контента огромен, и он постоянно растет, а задача модерации контента при этом отнюдь не тривиальная. Поэтому, несмотря на успехи автоматических методов, число нанятых онлайн-платформами модераторов, вручную просматривающих контент, также непрерывно растет, как и волна критики со стороны общества в отношении процесса модерации.

«В споре рождается истина». Фраза старая, но все еще верная. Появление цифровых технологий открыло новые возможности для проведения дискуссий. И породило новую проблему — соблюдения культуры онлайн. В этом посте рассматриваются существующие на данный момент технологии онлайн модерирования, направленные на выявление информации, нарушающей правила проведения дискуссий. Рассматриваются различные преимущества и недостатки этих технологий.

В предыдущих постах был предложен новый подход к модерированию интернет-обсуждений, не требующий назначенного модератора или организации коллективного голосования и позволяющий пользователям с разных сайтов организоваться в своеобразное Сообщество модераторов. Данный подход позволит пользователям самим контролировать культуру общения онлайн, что снизит нагрузку на владельцев веб-сайтов по модерированию комментариев.



Читателям Хабра был предложен небольшой тестовый пример ленты комментариев, в котором можно было попробовать данный подход в действии.

Спасибо всем, кто принимает участие в тестировании! Уже первоначальная статистика позволяет говорить, что читатели уверенно выполняют модерацию. Сейчас пришло время двинутся дальше. В этом посте хочется обсудить простейшее возможное устройство веб-сервиса, реализующего данный подход. К сожалению, опыта для реализации такой задачи маловато, поэтому требуется совет Хабр сообщества.

Почему в настоящее время владельцы сайтов нередко отключают пользователям возможность обсуждения информации на своих ресурсах? Казалось бы, дискуссия на публикуемую тему — это здорово, ведь она раскрывает дополнительные нюансы, позволяет рассмотреть тему с различных сторон. Но, тем не менее, владельцы сайтов ограничивают возможность комментирования. Почему это происходит?

О чем эта история? О том, что нас постоянно должен кто-то оберегать от крайностей в интернет дискуссиях. О том, что делается организаторами дискуссий, чтобы позволить нам хоть как-то приемлемо общаться, и как им не удается справиться с этой задачей. О том, чего нам не хватает при таком общении и что нового можно предложить в области модерирования.

Итак, на сцене под жарким светом софитов – модерация интернет дискуссий, а точнее комментариев.