Twitter собирается объявить войну «Троллям»

    «Мы не будем терпеть злоупотребления такого рода!», — с такими словами выступил директор Twitter по вопросам безопасности и доверия Дел Харви. Заявление было сделано вскоре после того, как дочь Робина Уильямса, актриса Зельда Уильямс, «удалила» свой блог в Twitter из-за массивной атаки троллей оскорбляющих память ее погибшего отца.



    «Мы приостановили ряд учетных записей, замеченных в нарушениях наших правил, и проводим оценку, как мы можем изменить политику содействия пользователям попавшим в трагическую ситуацию, подобную этой» сказал Харви в заявлении для ABC News.
    Каким именно образом руководство Twitter планирует оказывать поддержку пользователям в беде пока не ясно, но заявление прозвучало грозно.

    Напомню, что после смерти любимого миллионами актера Робина Уильямса, его дочь Зельда(названная родителями в честь принцессы Зельды из серий видеоигр «Легенда Зельды») начала получать тысячи оскорблений в твиттер и инстаграм. Зельда даже обратилась к своим читателям за помощью, попросив их жаловаться на троллей модераторам, но это не спасло. Через некоторое время молодая актриса не выдержала и удалила твиттер со всех девайсов.

    Вопрос к Хабру — возможно ли придумать реальный механизм борьбы с троллями в социальных сетях? На сегодня единственный выход в таких случаях не читать реплаи. Но тогда и тысячи слов поддержки будут не замечены. Просто заблокировать всех троллей, думаю не получится.

    источник ABC
    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More
    Ads

    Comments 30

      +3
      В общем случае, хорошим решением против троллей, может быть — изменение своего отношения к ним, но далеко не всякому это решение подходит, в силу отсутствия возможностей ;)

      Неплохим направлением может оказаться введение единого идентификатора писателя (в т.ч. анонимного), позволяющее ввести ограничение на количество действующих аккаунтов на писателей, а значит изменит уже их отношение к окружающим. Один аккаунт на человека позволит эффективнее блокировать нежелательных людей в своем кругу.

      К сожалению технически реализовать этот идентификатор как минимум дорого, а в общем случае не менее сложно чем обучить всех людей стать терпимее к высказыванию других ;)
        +5
        Syntax error: expecting '.', got ';)' on lines: 1, 5.
          +1
          >Неплохим направлением может оказаться введение единого идентификатора писателя

          Вы отлично уложились в тему статьи. Нужно больше идентификаторов!
          +1
          Вот если бы ещё прокремлёвских троллеботов угомонили, цены бы не было. Впрочем, в свете недавней встрече представителей Роскомзапрета с представителями Твиттера, эта перспектива туманная
            +2
            Твиттер переполнен рекламой, ботами и троллями. Стоит выйти за пределы своего круга — глаза вытекают. При этом есть trends. Жмёте и видите тысячи похожих постов. Можно пачками выкашивать ботов.
            0
            Решать точно так же, как южные корейцы решили проблему регистрации в ММО (ботоводство) — по паспорту. Замечен в серьезном нарушении — больше вообще не сможешь играть ни во что. Хотя, я не уверен, что все обстоит именно так.

            P.S. И не начинайте про свободу волеизъявления и тотальную слежку, все и так под колпаком.
              0
              Про "… по паспорту" что то похожее мы недавно уже слышали.
                –2
                Не сравнивайте… с пальцем. Я говорю о регистрации на определенных ресурсах. К сожалению, борьба с нарушениями в сети возможна только в таком разрезе. И если вы считаете, что подключаясь в Wi-Fi не «по паспорту» вас не найдут, то вы оптимист. Вопрос в том, что легко блокировать доступ «тролля» должны уметь сами владельцы сервисов, причем окончательно и бесповоротно, без привлечения спец. служб, но пока регистрация свободная — это невозможно. Ну, хотя есть другой вариант, когда привязка реального человека к аккаунту не понадобится:

                image

                И нет, я не хочу регистрации по паспортам, я просто говорю, что это был бы самый простой и действенный механизм.
                  0
                  Паспорт — грубое и не правильное решение.
                  Для блокировки достаточно идентификатора человека, уникального в пределах ресурса.
                  Т.е. по одному идентификатору на соцсеть/форум/игру/…

                  Пример реализации — централизованный сервис, обслуживающий идентификаторы 'всех пользователей интернета' на всех ресурсах. Проводящий авторизацию и аутентификацию пользователей, и выдающий сервисам минимум информации, в идеале ничего кроме идентификатора.

                  Кстати, вполне возможно, что когда количество систем управления на основе сигналов мозга (например таких) превысит некую черту, появятся системы биометрической аутентификации, завязанные полностью на уникальную и индивидуальную реакцию мозга человека.
                    +2
                    окей, как вы ограничите получение идентификаторов?
                      0
                      Наверное я не достаточно подробно выразился.

                      На текущий момент, НЕ СУЩЕСТВУЕТ гарантированных механизмов уникальной идентификации. Поэтому красивого ответа на ваш вопрос нет.
                      Но если попытаться создать что то близкое к тому что я описал, то централизованный сервис может собирать доказательства уникальности выдаваемых идентификаторов, в т.ч. используя существующие системы идентификации, тот же паспорт.

                      На самом деле в общем случае защитить от возникающих проблем сбора этой информации у централизованного сервиса очень сложно, но реально. Например можно используя алгоритмы криптографии скрыть связь идентификатора пользователя на сервисах и идентификатор пользователя на централизованном сервисе.

                      Весь смысл в том, чтобы обладатель огромной базы идентификаторов не смог ею воспользоваться ни в чем, кроме идентификации. Именно это условие будет являться препятствием создания такой базы, слишком это лакомный кусочек.
                        0
                        централизованный сервис может собирать доказательства уникальности выдаваемых идентификаторов, в т.ч. используя существующие системы идентификации, тот же паспорт


                        Зачем еще один уникальный идентификатор, если он уже существует в виде паспорта?

                        «не клади все яйца в одну корзину» — основная причина не создавать описанную вами глобальную базу.
                          0
                          Ну конечно, паспорт невозможно использовать online, это offline идентификатор, так же его надежность оставляет желать лучшего. Т.е. тут и нужен какой то посредник, который проверит предъявляемый паспорт на подделку и предоставит online доступ к необходимой информации.
                      0
                      появятся системы биометрической аутентификации

                      Пока сбор выполняется на оборудовании, подконтрольном пользователю, он может нагенерить фейковых данных.
                        0
                        Я говорю про системы, когда генерация криптографических данных происходит не на основе случайного числа, а на основе каких-либо уникальных, не подделываемых и в идеале абсолютно надежных данных на основе реакции нервной системы/мозга. Грубо говоря аутентификацией будет заниматься мозг человека… но это пока только мечты.
                  +2
                  А в чем проблема натренировать обучалку?
                  Ну да, дело недешевое — прогнать турком 10К — 100К сообщений, если я сам дома на коленке такое сделаю.
                  Но как-то для таких монстров как твиттер или мордокнига — в чем проблема оценить пост по эмоциональности?
                  Ну да, лингвистам посидеть придеться.
                  Ну картинки не возьмет.
                  Но большинство постов фильтрануть (причем на основе индивидуальных предпочтений) — не проблема никак.

                  Насколько мне известно у амазона есть система, которая фильтрует проплаченные описания продуктов.
                  И в общем никакой супертайной магии там вроде нет.

                  Сам занимался близкой тематикой и как раз прикидывал стоимость тролль-детектора — для домашней работы не получится, но командой можно организовать относительно малой кровью.

                  И никакого паспорта или деанонимизации не надо будет.
                  Все роботом делается.
                    +1
                    Не вникал особо в тему, но я так подозреваю, что если бы можно было обучить (как в случае со спамом), это уже давным давно бы сделали. Значит не так просто. Тут скорей нужно что-то такое — если ты пожаловался на какое-то собщение, то система должна находить похожие и уже дальше их фильтровать.
                      +1
                      Можно.
                      Я делал похожее для английского языка, только без эмоционалки, по другим критериям.

                      Там другие грабли вылезают.
                      Я уперся в симметричную ошибку, т.е. если допустим качество 99%, то каждое сотое нормальное сообщение будет пропадать как троллинг.
                      А реально качество систем анализа текста — далеко не 99%.

                      Чистую эмоционалку я не делал, там качество может быть не самым высоким.
                      Но никто не мешает не фильтровать, а выставлять соответствующий флажок.

                      Вообще думаю заняться этой темой, в сентябре может буду искать спонсора, если другой проект не выстрелит.

                      Почему это не сделано?
                      Это на самом деле сделано — обработка отзывов о товарах например или мем-трекеры («а кто это у нас тут про президента плохую шутку повторяет» :) ).

                      Но это B2B, не для всех, т.к. инвестиции в лингвистику достаточно большие и открывать их никто не хочет.
                      На толстых котах в энтерпрайзе больше отбивается.
                      0
                      А в чем проблема натренировать обучалку?

                      Для начала, её надо будет научить распознавать сарказм.
                      А это значит, высокий уровень ложных срабатываний.
                      И постоянная боязнь пользователей — а не слишком ли эмоционально написан пост, что он попадёт в бан.
                      Из такой сети пользователи сбегут. Например, я бы не стал постить, если безобидные (на мой взгляд) посты заблокирует авто-модератор.
                        0
                        Скарказм кстати почти нерешенная проблема, вояки вроде пытались сделать, надо посмотреть что получилось.

                        Вот тут например есть строчка в таблице:
                        www.darpa.mil/opencatalog/DEFT.html

                        А насчет ложных срабатываний — это вполне регулируется, в антивирусах вон вообще ради <0.01% FP детекцию до 60% режут а то и ниже.
                        Это как раз не такая серьезная головная боль, решается увеличением пропускаемых сообщений.

                        Ну и опять же — а зачем автоматом все резать, когда можно просто показывать пользователю индикатор эмоциональности или троллеметр.
                        И пусть каждый юзер сам настраивает когда резать — под свой личный уровень комфорта.
                        Может ему наоборот нравятся срачи, а блокировать надо мимишных котиков.

                        PS
                        В твиттере не сижу, но пробежался по своей ленте в g+ — мне как раз наибольшие непрятности доставляют как раз политхейтеры и матерщинники, их фильтровать — FP практически не будет. Сарказма там маловато, они реально простейшие.

                        Но это мои личные предпочтения, наверное у кого-то критерии будут другими и соответственно качество фильтрации тоже будет другим.

                        Пробовать надо на живой системе.
                          0
                          В том и дело, что если прикрутить фильтрацию, и все о ней будут знать, начнётся гонка меча и щита.
                          Мат будет трёхэтажным, не поддающимся детекту, а троллинг не грубым, а саркастически едким.
                      +13
                      Вопрос к Хабру — возможно ли придумать реальный механизм борьбы с троллями в социальных сетях?

                      Да что там придумывать — пусть прикрутят систему кармы, посливают ее друг другу за пару месяцев и будет тишь да благодать.
                        +1
                        В таком случае малейшее несогласие с большинством — и ты заклеймён. Это будет дикая травля.
                          0
                          Можно разделить обычную карму (как на Хабре) и сарятанную более глубоко кнопку «Это тролль». Психологически будет неудобно лезть в дебри профиля и искать эту кнопку не по делу.
                          +1
                          Карма работает только в случае, если на ресурсе непросто зарегистрироваться.
                          –1
                          Мне кажется, что если усовершенствовать всякие Cleverbot'ы, Siri и прочие прочие боты, то вполне можно следить за троллингом и оскорблениями. Хотя вряд ли подобная система будет в ближайшем будущем.
                            0
                            Вопрос к Хабру — возможно ли придумать реальный механизм борьбы с троллями в социальных сетях?

                            А не является ли этот вопрос троллингом и вбросом на вентилятор?...;)
                              0
                              Нет.
                            • UFO just landed and posted this here
                              • UFO just landed and posted this here

                                Only users with full accounts can post comments. Log in, please.