Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 30
В общем случае, хорошим решением против троллей, может быть — изменение своего отношения к ним, но далеко не всякому это решение подходит, в силу отсутствия возможностей ;)
Неплохим направлением может оказаться введение единого идентификатора писателя (в т.ч. анонимного), позволяющее ввести ограничение на количество действующих аккаунтов на писателей, а значит изменит уже их отношение к окружающим. Один аккаунт на человека позволит эффективнее блокировать нежелательных людей в своем кругу.
К сожалению технически реализовать этот идентификатор как минимум дорого, а в общем случае не менее сложно чем обучить всех людей стать терпимее к высказыванию других ;)
Неплохим направлением может оказаться введение единого идентификатора писателя (в т.ч. анонимного), позволяющее ввести ограничение на количество действующих аккаунтов на писателей, а значит изменит уже их отношение к окружающим. Один аккаунт на человека позволит эффективнее блокировать нежелательных людей в своем кругу.
К сожалению технически реализовать этот идентификатор как минимум дорого, а в общем случае не менее сложно чем обучить всех людей стать терпимее к высказыванию других ;)
Вот если бы ещё прокремлёвских троллеботов угомонили, цены бы не было. Впрочем, в свете недавней встрече представителей Роскомзапрета с представителями Твиттера, эта перспектива туманная
Решать точно так же, как южные корейцы решили проблему регистрации в ММО (ботоводство) — по паспорту. Замечен в серьезном нарушении — больше вообще не сможешь играть ни во что. Хотя, я не уверен, что все обстоит именно так.
P.S. И не начинайте про свободу волеизъявления и тотальную слежку, все и так под колпаком.
P.S. И не начинайте про свободу волеизъявления и тотальную слежку, все и так под колпаком.
Про "… по паспорту" что то похожее мы недавно уже слышали.
Не сравнивайте… с пальцем. Я говорю о регистрации на определенных ресурсах. К сожалению, борьба с нарушениями в сети возможна только в таком разрезе. И если вы считаете, что подключаясь в Wi-Fi не «по паспорту» вас не найдут, то вы оптимист. Вопрос в том, что легко блокировать доступ «тролля» должны уметь сами владельцы сервисов, причем окончательно и бесповоротно, без привлечения спец. служб, но пока регистрация свободная — это невозможно. Ну, хотя есть другой вариант, когда привязка реального человека к аккаунту не понадобится:
И нет, я не хочу регистрации по паспортам, я просто говорю, что это был бы самый простой и действенный механизм.
И нет, я не хочу регистрации по паспортам, я просто говорю, что это был бы самый простой и действенный механизм.
Паспорт — грубое и не правильное решение.
Для блокировки достаточно идентификатора человека, уникального в пределах ресурса.
Т.е. по одному идентификатору на соцсеть/форум/игру/…
Пример реализации — централизованный сервис, обслуживающий идентификаторы 'всех пользователей интернета' на всех ресурсах. Проводящий авторизацию и аутентификацию пользователей, и выдающий сервисам минимум информации, в идеале ничего кроме идентификатора.
Кстати, вполне возможно, что когда количество систем управления на основе сигналов мозга (например таких) превысит некую черту, появятся системы биометрической аутентификации, завязанные полностью на уникальную и индивидуальную реакцию мозга человека.
Для блокировки достаточно идентификатора человека, уникального в пределах ресурса.
Т.е. по одному идентификатору на соцсеть/форум/игру/…
Пример реализации — централизованный сервис, обслуживающий идентификаторы 'всех пользователей интернета' на всех ресурсах. Проводящий авторизацию и аутентификацию пользователей, и выдающий сервисам минимум информации, в идеале ничего кроме идентификатора.
Кстати, вполне возможно, что когда количество систем управления на основе сигналов мозга (например таких) превысит некую черту, появятся системы биометрической аутентификации, завязанные полностью на уникальную и индивидуальную реакцию мозга человека.
окей, как вы ограничите получение идентификаторов?
Наверное я не достаточно подробно выразился.
На текущий момент, НЕ СУЩЕСТВУЕТ гарантированных механизмов уникальной идентификации. Поэтому красивого ответа на ваш вопрос нет.
Но если попытаться создать что то близкое к тому что я описал, то централизованный сервис может собирать доказательства уникальности выдаваемых идентификаторов, в т.ч. используя существующие системы идентификации, тот же паспорт.
На самом деле в общем случае защитить от возникающих проблем сбора этой информации у централизованного сервиса очень сложно, но реально. Например можно используя алгоритмы криптографии скрыть связь идентификатора пользователя на сервисах и идентификатор пользователя на централизованном сервисе.
Весь смысл в том, чтобы обладатель огромной базы идентификаторов не смог ею воспользоваться ни в чем, кроме идентификации. Именно это условие будет являться препятствием создания такой базы, слишком это лакомный кусочек.
На текущий момент, НЕ СУЩЕСТВУЕТ гарантированных механизмов уникальной идентификации. Поэтому красивого ответа на ваш вопрос нет.
Но если попытаться создать что то близкое к тому что я описал, то централизованный сервис может собирать доказательства уникальности выдаваемых идентификаторов, в т.ч. используя существующие системы идентификации, тот же паспорт.
На самом деле в общем случае защитить от возникающих проблем сбора этой информации у централизованного сервиса очень сложно, но реально. Например можно используя алгоритмы криптографии скрыть связь идентификатора пользователя на сервисах и идентификатор пользователя на централизованном сервисе.
Весь смысл в том, чтобы обладатель огромной базы идентификаторов не смог ею воспользоваться ни в чем, кроме идентификации. Именно это условие будет являться препятствием создания такой базы, слишком это лакомный кусочек.
централизованный сервис может собирать доказательства уникальности выдаваемых идентификаторов, в т.ч. используя существующие системы идентификации, тот же паспорт
Зачем еще один уникальный идентификатор, если он уже существует в виде паспорта?
«не клади все яйца в одну корзину» — основная причина не создавать описанную вами глобальную базу.
появятся системы биометрической аутентификации
Пока сбор выполняется на оборудовании, подконтрольном пользователю, он может нагенерить фейковых данных.
Я говорю про системы, когда генерация криптографических данных происходит не на основе случайного числа, а на основе каких-либо уникальных, не подделываемых и в идеале абсолютно надежных данных на основе реакции нервной системы/мозга. Грубо говоря аутентификацией будет заниматься мозг человека… но это пока только мечты.
А в чем проблема натренировать обучалку?
Ну да, дело недешевое — прогнать турком 10К — 100К сообщений, если я сам дома на коленке такое сделаю.
Но как-то для таких монстров как твиттер или мордокнига — в чем проблема оценить пост по эмоциональности?
Ну да, лингвистам посидеть придеться.
Ну картинки не возьмет.
Но большинство постов фильтрануть (причем на основе индивидуальных предпочтений) — не проблема никак.
Насколько мне известно у амазона есть система, которая фильтрует проплаченные описания продуктов.
И в общем никакой супертайной магии там вроде нет.
Сам занимался близкой тематикой и как раз прикидывал стоимость тролль-детектора — для домашней работы не получится, но командой можно организовать относительно малой кровью.
И никакого паспорта или деанонимизации не надо будет.
Все роботом делается.
Ну да, дело недешевое — прогнать турком 10К — 100К сообщений, если я сам дома на коленке такое сделаю.
Но как-то для таких монстров как твиттер или мордокнига — в чем проблема оценить пост по эмоциональности?
Ну да, лингвистам посидеть придеться.
Ну картинки не возьмет.
Но большинство постов фильтрануть (причем на основе индивидуальных предпочтений) — не проблема никак.
Насколько мне известно у амазона есть система, которая фильтрует проплаченные описания продуктов.
И в общем никакой супертайной магии там вроде нет.
Сам занимался близкой тематикой и как раз прикидывал стоимость тролль-детектора — для домашней работы не получится, но командой можно организовать относительно малой кровью.
И никакого паспорта или деанонимизации не надо будет.
Все роботом делается.
Не вникал особо в тему, но я так подозреваю, что если бы можно было обучить (как в случае со спамом), это уже давным давно бы сделали. Значит не так просто. Тут скорей нужно что-то такое — если ты пожаловался на какое-то собщение, то система должна находить похожие и уже дальше их фильтровать.
Можно.
Я делал похожее для английского языка, только без эмоционалки, по другим критериям.
Там другие грабли вылезают.
Я уперся в симметричную ошибку, т.е. если допустим качество 99%, то каждое сотое нормальное сообщение будет пропадать как троллинг.
А реально качество систем анализа текста — далеко не 99%.
Чистую эмоционалку я не делал, там качество может быть не самым высоким.
Но никто не мешает не фильтровать, а выставлять соответствующий флажок.
Вообще думаю заняться этой темой, в сентябре может буду искать спонсора, если другой проект не выстрелит.
Почему это не сделано?
Это на самом деле сделано — обработка отзывов о товарах например или мем-трекеры («а кто это у нас тут про президента плохую шутку повторяет» :) ).
Но это B2B, не для всех, т.к. инвестиции в лингвистику достаточно большие и открывать их никто не хочет.
На толстых котах в энтерпрайзе больше отбивается.
Я делал похожее для английского языка, только без эмоционалки, по другим критериям.
Там другие грабли вылезают.
Я уперся в симметричную ошибку, т.е. если допустим качество 99%, то каждое сотое нормальное сообщение будет пропадать как троллинг.
А реально качество систем анализа текста — далеко не 99%.
Чистую эмоционалку я не делал, там качество может быть не самым высоким.
Но никто не мешает не фильтровать, а выставлять соответствующий флажок.
Вообще думаю заняться этой темой, в сентябре может буду искать спонсора, если другой проект не выстрелит.
Почему это не сделано?
Это на самом деле сделано — обработка отзывов о товарах например или мем-трекеры («а кто это у нас тут про президента плохую шутку повторяет» :) ).
Но это B2B, не для всех, т.к. инвестиции в лингвистику достаточно большие и открывать их никто не хочет.
На толстых котах в энтерпрайзе больше отбивается.
А в чем проблема натренировать обучалку?
Для начала, её надо будет научить распознавать сарказм.
А это значит, высокий уровень ложных срабатываний.
И постоянная боязнь пользователей — а не слишком ли эмоционально написан пост, что он попадёт в бан.
Из такой сети пользователи сбегут. Например, я бы не стал постить, если безобидные (на мой взгляд) посты заблокирует авто-модератор.
Скарказм кстати почти нерешенная проблема, вояки вроде пытались сделать, надо посмотреть что получилось.
Вот тут например есть строчка в таблице:
www.darpa.mil/opencatalog/DEFT.html
А насчет ложных срабатываний — это вполне регулируется, в антивирусах вон вообще ради <0.01% FP детекцию до 60% режут а то и ниже.
Это как раз не такая серьезная головная боль, решается увеличением пропускаемых сообщений.
Ну и опять же — а зачем автоматом все резать, когда можно просто показывать пользователю индикатор эмоциональности или троллеметр.
И пусть каждый юзер сам настраивает когда резать — под свой личный уровень комфорта.
Может ему наоборот нравятся срачи, а блокировать надо мимишных котиков.
PS
В твиттере не сижу, но пробежался по своей ленте в g+ — мне как раз наибольшие непрятности доставляют как раз политхейтеры и матерщинники, их фильтровать — FP практически не будет. Сарказма там маловато, они реально простейшие.
Но это мои личные предпочтения, наверное у кого-то критерии будут другими и соответственно качество фильтрации тоже будет другим.
Пробовать надо на живой системе.
Вот тут например есть строчка в таблице:
www.darpa.mil/opencatalog/DEFT.html
А насчет ложных срабатываний — это вполне регулируется, в антивирусах вон вообще ради <0.01% FP детекцию до 60% режут а то и ниже.
Это как раз не такая серьезная головная боль, решается увеличением пропускаемых сообщений.
Ну и опять же — а зачем автоматом все резать, когда можно просто показывать пользователю индикатор эмоциональности или троллеметр.
И пусть каждый юзер сам настраивает когда резать — под свой личный уровень комфорта.
Может ему наоборот нравятся срачи, а блокировать надо мимишных котиков.
PS
В твиттере не сижу, но пробежался по своей ленте в g+ — мне как раз наибольшие непрятности доставляют как раз политхейтеры и матерщинники, их фильтровать — FP практически не будет. Сарказма там маловато, они реально простейшие.
Но это мои личные предпочтения, наверное у кого-то критерии будут другими и соответственно качество фильтрации тоже будет другим.
Пробовать надо на живой системе.
Вопрос к Хабру — возможно ли придумать реальный механизм борьбы с троллями в социальных сетях?
Да что там придумывать — пусть прикрутят систему кармы, посливают ее друг другу за пару месяцев и будет тишь да благодать.
Мне кажется, что если усовершенствовать всякие Cleverbot'ы, Siri и прочие прочие боты, то вполне можно следить за троллингом и оскорблениями. Хотя вряд ли подобная система будет в ближайшем будущем.
Вопрос к Хабру — возможно ли придумать реальный механизм борьбы с троллями в социальных сетях?
А не является ли этот вопрос троллингом и вбросом на вентилятор?...;)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Twitter собирается объявить войну «Троллям»