Comments 42
Каждый пользователь создает свой круг доверенных контактов
Мы уже это проходили в середине двухтысячных.
Где именно такая идея была реализована?
В myspace как минимум, остальные лень вспоминать.
К сожалению, никогда им не пользовался.
Вроде как это была изначально специализированная система под артистов, судя по википедии.
Сейчас там не вижу ничего похожего, лайки просто общие отображаются как везде.
Там была система персонализированного рейтинга которая строилась не глобально по всем лайкам, а по друзьям друзей?
Спросил claude "знаешь ли ты проекты которые уже пытались реализовать что то похожее на круги доверия?"
Вот что ИИ знает по теме:
Да, было несколько похожих проектов и концепций:
Web of Trust (WOT)
Самый известный похожий проект
Существовал с 2005 года
Браузерное расширение для оценки репутации сайтов
В 2016 был скандал с продажей пользовательских данных
Основное отличие: использовал общий рейтинг, а не персональные круги доверия
Google's Social Search (2009-2012)
Интегрировал результаты поиска с социальными связями из Google+
Показывал контент, которым делились ваши контакты
Закрыт вместе с Google+
Отличие: работал только внутри экосистемы Google
Metacert Protocol
Блокчейн-проект для верификации контента
Использовал концепцию "кругов доверия" для определения достоверности информации
Больше focused на борьбу с фейковыми новостями
Отличие: централизованная система верификаторов
TrustNet
Академический проект Стэнфордского университета
Исследовал концепцию "сети доверия" для оценки контента
Остался на уровне исследования
Похожая идея персональных связей
Stack Overflow's Reputation System
Хотя это не браузерное расширение, но использует похожую концепцию
Репутация пользователей влияет на вес их голосов
Отличие: замкнутая система внутри одной платформы
Основные причины, почему эти проекты не достигли массового успеха:
Сложность достижения критической массы пользователей
Проблемы с приватностью и безопасностью
Зависимость от конкретных платформ или экосистем
Сложность в поддержании актуальности данных
Проблемы с монетизацией
Ключевые отличия нашего проекта:
Фокус на персональных связях вместо общего рейтинга
Прозрачный механизм формирования оценок
Независимость от конкретных платформ
Чёткая модель монетизации
Современные технические возможности для реализации
Из опыта этих проектов можно извлечь важные уроки:
Необходимость простого и понятного UX
Важность защиты персональных данных
Необходимость быстрого набора критической массы пользователей
Важность независимости от конкретных платформ
Необходимость четкой модели монетизации с самого начала
А когда у нас ИИ стал авторитетным источником информации? Ну кроме Бендера, разумеется)))
единомышленники ближе, чем кажутся
Они пытаются эту же задачу решить другим методом, не используя социальные связи, а создавая глобальный рейтинг фактов.
В итоге или там сибилы смогут захватить власть, или произойдет централизация на источник который администрация выберет как авторитетный.
Ну и сам алгоритм они не раскрывают пока, не куда им показать - вот тут дыкра.
Ну ок, я доверяю своим кругам. В смысле, они мне не врут (хотя я бы не был так уверен относительно всех своих знакомых). Но я не знаю (и не смогу узнать простыми средствами), каков уровень компетенции у моих знакомых. Т.е. они не врут - но прекрасно могут добросовестно заблуждаться, рекомендуя мне какие-то источники.
Хабр прекрасный пример того, что совершенно пустые статьи зачастую набирают много плюсов. И даже более того - они реально могут быть полезны тем, кто ставит эти плюсы, но например не мне. Нужно ли мне доверять тем, кто поставил плюсы статье, если я не знаю их уровень подготовки? Их интересов? Ну и так далее.
Хабр прекрасный пример того, что совершенно пустые статьи зачастую набирают много плюсов
Выгорание и всякая прокрастинация)))
А, более менее технарские или научпоп материалы набирают по десятке в лучшем случае.
Вы наверняка имеете знакомых суждения которых считаете адекватными. Также это могут быть не только личные знакомые, но и публичные люди, вроде Панчина, мнению которых вы доверяете.
Конечно, это не страхует вас от того, что они не добавят к себе неадекватна в друзья в моей системе.
И даже не страхует от того, что к их друзьям добавится и они проапруаят рекламного бота.
Но все же, если вы адекватно выбрали людей в первой линии, во всех 3х кругах доверия будут в основном как минимум люди.
Сейчас же, на любом маркетплейсе если вы видите 100 отзывов вы не можете быть уверены, что там не 90% ботов
Ну как минимум пока критика хабра не карается ацким кармомётом в минуса, хабр не является совсем уж грустным примером.
Автору, спасибо что поднял вопрос.
Но по поводу реализации есть сомнения.
Пользователь sshikov сделал отличное замечание. По поводу уровня компетентности кругов.
Добавлю еще в более обостренно:
Разделение лжи на два типа:
1)Лживо врать (это когда человек явно знает что несет дезу)
2)Честно врать (это когда человек свято уверен в той дезе которую передаёт)
Как предполагаемая модель предлагает бороться с враньём-2 ?
В результате подобной модели которая уже работает (соцсети вполне пример) юзер фильтрует входящий поток инфы (да и механизмы соцсетей в этом помогают) которая согласуется с его картиной мира ДАЖЕ если эта картина не бьется с реальностью.
Итого люди живут все больше в изолированных информационных пузырях.
И кажется, что эти пузыри имеют тенденцию к все больше самоизоляции, взаимо-противопоставлению и все дальше от реальности.
Нет, я думал о явной лжи, вариает1.
В мире где 99.99% всех постов и коментов будут сделаны рекламными ИИ ботами станет очень актуально. А мы скоро окажемся в таком мире.
Но проблема Лжи-2 чудовищна по масштабам.
Ее предлагаемая тут система никак не исправит.
Для этого надо совсем другую штуку делать, а потом их конечно можно и совместить.
Например если сделать систему, где будет записано 100500 популярных убеждений, и
пользователи накликают ответы в формате
"полностью согласен"\ скорее согласен\ незнаю \ скорее несогласен \ полностью согласен
То можно будет сделать автоматическую сверку, и выделить пользователей убеждения которых например нп 90% совпадают с вашими. И отображать мнения\коменты\отзывы\рейтинги только таких пользователей вам.
Качественно вам сделать инфо пузырь.
Зачатки такой системы у меня есть кстати, можно свою картину мира сверить с любым другии пользователем телеглам бота https://t.me/mental_map_bot
Но, этого не достаточно. Тк можно сделать 100500 тыщь промо ботов, которые выскажут на 100% такие же убеждения как надо, чтобы вы видели их коменты и рейтинги.
И вот чтоб отделить ботов от реальных людей, нужна система кругов доверия.
Мож быть кстати надо сделать лимит, меньше числа донабара, например 100 человек можно добавить. Чтобы повысить вероятность что люди добавят именно личных знакомых и немного топ инфлов, а не всех подряд как они добавляют в соцсетях.
Качественно вам сделать инфо пузырь.
Спасибо за ссылку на бота, но решать проблему пожара керосином - это не совсем то про что имел ввиду.
Как бы уменьшить отрезанность людей в пузырях от реальности.
Задумайтесь глубже, действительно ли вы хотите потреблять контент без пузыря?
Пузырь это и тематика, и люди его составляющие.
Без пузыря, это был бы рандомный контент, от рандомного автора.
И представте недалекое будущее, где ИИ агентов которые пишут посты и коменты гораздо больше чем людей, потому что внимание людей это ценный ресурс.
У нас тут на хабре айтишно-научный пузырь, и это прекрасно.
Тут редко встречаются истинно верующие и мало школьников.
Ботов тож пока наверное мало, но будте уверены, подвезут, и у них будет очень хорошая карма.
И вот уютный хабр с людьми станет бототусовкой, где 99% коментов написаны ботами.
А я хочу остаться пузыре, вот как он сейчас тут есть примерно, не видеть коменты от ботов а только от людей. Ну хотяб чуток отфильтровать, часть ботов все равно просочится.
Задумайтесь глубже, действительно ли вы хотите потреблять контент без пузыря?
Я вынужден потреблять контент без пузырей для ряда деятельностей. Так как нужен контакт с реальностью (фактура), а не лозунги "как правильно", не гора мифов, вранья, ошибок, пропаганды, шизы частной, шизы коллективной, и т.д.
Возможно под пузырями подразумеваем разное.
Основная идея у автора - срубить бабла, а не сделать мир лучше. Упоминание о платных подписках на сервис тому подтверждение.
Я реалист. С чего то же надо серваки оплачивать.
Децентрализованая модель у меня тут не сложилась, слишком тяжелый бы клиент получался.
3 круга друзей, если по 300 в круге это 9м людей надо ослеживать чтоб индивидуальный рейтинг строить одному пользователю.
Много sql запросов, если один сервер потянет 10к активных пользователей, эт уже неплохо.
Делать продукт не понимая как его потом масштабировать совершенно не хочется.
Последний бастион доверия был мой домовой чат, но и там в итоге оказались мошенники.
Все эти круги взломают, как только они станут частым явлением.
Последний бастион доверия был...
...Bastyon. Но уже нет.
А если без шуток - то ситуация с масштабом и разнообразием дезы - жесть.
⚠️Мошенники воруют ТГ-аккаунты россиян с помощью «домовых чатов».
Они расклеивают в подъездах листовки, в которых предлагается перейти по QR-коду и вступить в новый чат соседей. Если перейти по ссылке, то можно потерять аккаунт. Будьте осторожны.
Кажется примерно что-то такое в Твиттере реализовано, когда на ленту заметно влияют лайки тех, на кого ты подписан.
Ага.
Но это ограничено твиттером, и сама система непрозрачна по алгоритму.
А мне хочется сделать систему, где можно оставлять отзывы и рейтинги всем сайтам\статьям и сами эти сайты никак не смогут эти отзывы модерировать.
Ну тк все сильно персонализировано, эти отзывы как бы не вполне публичны даже.
Структурно напоминает личный блог каждого человека, а те кто добавил его в друзья на него подписались.
У меня в соцсетях полно людей, которые часто имеют противоположное моему мнение и жизненную позицию. Это бывшие одногрупники, сослуживцы, коллеги, случайные знакомые. Мне порой любопытны миры, которые отличаются от моего. Но это ни разу не про обшие интересы или доверие.
Плюс, если мы с кем-то контрибьютим в один и тот же опенсорс проект, это совершенно не означает, что мне будет интересна реклама сигарет, собачьего корма или средств от облысения.
Да это так. И если это люди - это нормально.
Но вот если вы заходите на сайт, и там под статьей 100 коментов, 98 из которых написали промо боты, с целью рекламы или влияния на мнения по желаниб заказчика, то это уже немного другая ситуация. И это именно та ситуация о которой я думал, когда придумывал эту модель.
Если вы хотите бороться с распространением агентов влияния (будь то автоматизированные боты или живые люди), то более эффективным подходом будет распознавание и фильтрация самих агентов влияния и транслируемого ими контента. nlp давно показывают высокие результаты в распознавании фейков и ботов.
В дополнение к комментариям выше, кажется, стоит отметить, что люди, как правило, оставляют отзывы по собственной инициативе в двух случаях: когда они сильно довольны или просто недовольны. В ситуациях, когда «всё нормально» или «просто хорошо», большинство пользователей отзыв не напишут, и тем более, вряд ли станут покупать подписку ради этой функции.
Простым мысленным экспериментом можно представить ситуацию, когда большинство пользователей читают комментарии/отзывы, но лишь меньшинство их пишет. В таком случае, предложенная система может превратиться в информационный пузырь, внутри которого всё равно будут присутствовать агенты влияния (как идейные, так и работающие за деньги). Учет "социальной дистанции" тоже не решит проблему фейковых аккаунтов, так как заинтересованные лица могут создавать целые сети взаимосвязанных фейков из ИИ-агентов и живых людей, имитируя близкие социальные связи.
По иронии, в попытке уменьшить влияние фейков, мы получим инфопузырь, с потенциально усиленным влиянием фейков. Получается, что предложенная система не только не решает исходную проблему манипуляции мнением, но и потенциально усугубляет её, создавая иллюзию достоверности и одновременно усиливая воздействие дезинформации.
Другими словами: рекомендую посмотреть в сторону распознавания раньше, чем в сторону ранжирования.
Что имеется ввиду под nlp?
Что бы это ни было.. тест тьюринга ИИ давно пройден.
Если рейтинг общий для всей системы - то да, сети ботов рулят.
И они рулят прямо сейчас. Накрутить так алгоритмы кармы хабра например можно.
Но вот если рейтинг личный, через ваши личные социальные связи, то ботоферма в 100к аккаунтов крутящая друг другу рейтинг, на вас не влияет, если люди из ваших кругов общения не добавили сами их к себе в доверенные.
Ну а если кто то добавил, то тоже не так страшно, влияние будет но не такое тотальное как в системе с единым рейтингом.
то ботоферма в 100к аккаунтов крутящая друг другу рейтинг, на вас не влияет, если люди из ваших кругов общения не добавили сами их к себе в доверенные.
А они добавили. По сути обсуждаемая модель не сильно отличается от стандартной передачи слухов от человека к человеку "знакомый сына зятя двоюродной прабабушки сказал что..." принимается к сведению с маленькой достоверностью.
Но... каждому конкретному боту доверится, может и немного человек. Но если ботов много и они согласованы - то идея, ими продвигаемая, придет по многим путям и со многих сторон. Будет 'всем известно что..."
Да, на слухи похоже.
И еще похоже немного на байесианское вычисление, где мы понижаем вес факта если источник его дальше от нас находится.
Я думаю о такой сети, как полностью прозрачной.
И если увижу где то неадекватный рейтинг по моему мнению, то смогу легко увидеть, через кого в мою сеть попали боты, и смогу удалисть линк к человеку.
Или, если человек близкий - сказать ему, смотри вон кого ты добавил а у него ботоферма, удали.
Все это будет работать, если разовьется в сообществе такая культура, тщательно фильтровать свои источки, не добавлять тех кто не умеет фильтровать.
Сейчас например я уже делаю это выбирая чей контент смотрю на ютубе, но это не имеет глубины сети.
Допустим, что система реализована и набрала достаточную аудиторию для корректной (с точки зрения правил системы) работы.
Первое: мнения ботов я не вижу, это я понял.
Второе: мнение контакта А по вопросу X мне инетересно, но его мнение по вопросу Y (в силу его компетенции) меня уже не сильно интересует (можно сказать вес менения человека А меняется в пределах от 0 до 1 в зависимости от темы X) - без этого концепция "кругов" видится мне очень фрагментарной.
Третье: в случае утечки информации, злоумышленик получает контакты и "круги" доврия для построения наиболее эффективного вектора атаки.
Итого: при серьёзных рисках, система прелагает только фильтрацию от ботов с относительно быстрым построением нужного для этого "круга авторитетных мнений". И, мне кажется, сильно пеувеличивается возможность такой системы: какова вероятность, что на каком-то конкретном ресурсе по какому-то конкретному вопросу окажется мнение (хотя бы одно) человека из (хотя бы 3-его) моего круга?
Вот, да, нужны расчёты и моделирование. Без них бизнес -модель (утрируя и забыв обо всех вопросах к логике системы) воспринимается как: пользователи разметят весь интернет в Х вариантах и заплатят за это деньгами или просмотром рекламы
Расчеты и модели нужны - если вы уже делаете продукт.
Но ДО создания любого продукта есть очень важная стадия - найти своих потребителей, собрать комьюнити, которому настолько интересна идея продукта, что они готовы его обсуждать, готовы участвовать в тестировании сырой версии.
Как бы хороши не были модель, если пользователю не интересна идея продукта, то вы его просто не внедрите.
Я еще не делают продукт.
Пока интересуюсь сейчас мнением людей, видят ли они в таком продукте какой то смысл.
Пока в час добавилось 5 человек, и кстати там мне сикнули похожий концепт opinions.fyi , уже реализованный прототип, но у них глубина кругов = 1. А интерфейс классный.
Комьюнити создать не пытались даже 50 человек в твиттере, и проект по факту умер.
Переделай бекенд - и будет то что надо по сути.
>>Второе
- в кругах доверия эта задача никак не решается, тут нужнен другой, дополнительный инструмент, в котором люди выскажут свою точку зрения по куче вопросов.
>>Третье
- конечно, можно втерется в доверие, и агента влияния кто то добавит, и он станет на его круги влиять. Но сейчато то можно сразу влиять, хоть какой то но фильтр.
Эффективность сильно будет зависеть разовьется ли культура - прилагать усилия чтобы в 1м круге были проверенные люди. И удалять из него тех, кто такой культуры не имеет.
>>какова вероятность, что на каком-то конкретном ресурсе по какому-то конкретному вопросу окажется мнение (хотя бы одно) человека из (хотя бы 3-его) моего круга
- Мне тоже интересен этот вопрос.
У меня то даже нет статистики, как часто люди пишут коменты, чтоб какую то модель строить.
В третьем пункте я говорю не о том, что Вы комментируете. Влиять можно и сейчас. Ваш сервис становится концентратором знания о том кто кому больше доверяет. Эта информация может повысить качество уже существующих атак. Рано или позно она утечёт к тем, кому она так интересна.
"Не можешь победить - возглавь"
Может, вместо того, чтобы фильтровать отзывы по конкретному товару и ресурсу (а фильтрация - это скорее убывающая функция от набора критериев), создать сервис-бот, который поищет отзывы как "про" с применением лучших техник отсеивания ботов, лучших практик ранжирования отзывов и т.п. и предоставит мне отчёт с возможностью исключить (и переоценить в зависимости от этого) использованные источники, которым я не доверяю? Доверять такому результату всё ещё нельзя (а кому вообще можно? критическое мышление отключать нельзя), но так я получу сводку, которую сам бы строил теми же (или худшими) методами (с дополнительными субъективными ошибками и невнимательностью), только значительно дольше.
Тема интересная, нечто подобное я предлагал для децентрализованной пиринговой соцсети. А вот будет ли это работать для насквозь коммерциализированного собственнического "обычного интернета" - вопрос открытый. Вот даже автор статьи начал за здравие, а кончил за монетизацию.
И конечно, самый сложный вопрос - правильные алгоритмы. Здесь нужно очень хорошо подумать, как сделать так чтобы избавиться от всевозможных накруток и "поисковой оптимизации", как разделить мнения людей по разным вопросам (такое зачастую бывает что в одних вопросах человек профи а в других профан), и т.д. А если рассматривать децентрализованные архитектуры, то сложность возрастает еще на несколько порядков, накладывается нетривиальная криптография и т.п. Это реально непростая задача.
Круги доверия: персонализированная система рейтингов и рекомендаций