Comments 39
А что, разве не так уже давно делается (фейковые аккаунты)? Или тут новость в том, что это будет делать генеративный ИИ?
Да, о том, что это будет делать генеративный ИИ
Делается, и Пентагоном в том числе. Вот в этой статье Рейтерс, несмотря на название, есть про операции Пентагона в целом, не только про конкретных тролей-антиваксеров, дискредитировавших китайскую вакцину от ковида среди мусульман (типа не халяльная).
То есть спецслужбы уже в открытую признаются, что они совершают и будут совершать преступления и это их не **ёт. Если кто-то вдруг скажет "я создаю поддельные онлайн-персоны и фабрикую данные, чтобы сделать то-то и то" то он заслуживает наказания, а спецслужбам это внезапно можно.
Это где создание фейковых аккаунтов является нарушением закона?
В моем комментарии нет слов "нарушение закона". И если вы потрудитесь прочитать несколько Terms of Use каких нибудь соц. сетей скажем, то убедитесь что, в большинстве случаев, если вы предоставляете данные, то правила требуют, что они должны быть подлинными. "наказание" в лучшем случае - бан. До "нарушения закона" тоже может дойти, так как законов много и вы их все не читали. А когда кто-то (не спецслужбы) создает фейковые аккаунты en masse, думаете администрация сервисов или большинство людей просто будут считать это нормальным и в порядке вещей?
"Будут совершать преступления."
Нарушение правил пользования сервисом не является преступлением даже в мета-царстве Цукерберга. Нарушением закона будет использование торговых марок и нарушение авторских прав или использование фотографии человека без его согласия. Нарушением закона можно посчитать "целенаправленное введение в заблуждение". Создание инфошума и срачи в комментах с использованием ботов нарушением закона само по себе не является.
Нарушение правил пользования сервисом не является преступлением
Взлом сайта может расцениваться как нарушение правил, и он по вашей логике не будет преступлением? Не надо обобщать до крайностей.
Вы не поняли суть. Спецслужбам можно что-то нарушать и не нести ответственности, а другим пользователям - нет. В этом проблема.
Покажите мне закон, который будут нарушать спецслужбы, создавая аккаунты нейронками.
Взлом сайта будет являться нарушением закона если это прописано в законе, вне зависимости от того написано это в пользовательском соглашении сайта или нет. Создание фейковых аккаунтов не будет являться нарушением закона, аналогично, вне зависимости от того, что написано в пользовательском соглашении.
Вообще-то это их работа, всегда была, есть и будет. Любой разведчик - это тот же преступник, который занимается преступной деятельностью зарубежом, в интересах своего гос-ва.
Так это же не поддельные персоны, а искусственный интеллектуальный товарищ майор. Что за дискриминация!
" Клеммену это было не по душе, но, как доходчиво объяснил Д., преступники отличаются от работников спецслужб тем, что только первых власти объявляют вне закона. "(С)
влияния на открытые дискуссии в онлайн-среде
Боты используются давно, но боты с ИИ окончательно закроют для общества возможность как-то осознавать своё недовольство и координироваться.
Демократия закрыта на обслуживание, извините за неудобство.
Демократии кстати ничего не грозит - ни в США, ни в России, ни в Китае ни в Европе.
Нужно просто помнить правильное значение корня "демос".
В доинтернетное время участие в коллективном осознании и координации обязательно сопровождалось таким атрибутом, как членский билет.
но боты с ИИ окончательно закроют для общества возможность как-то осознавать своё недовольство и координироваться.
Вы забыли вставить словосочетание "через сеть". Так-то это всего лишь очередной гвоздь в гроб Интернета, наряду с SEO, рекламой, ухудшением поиска, мошенниками и т.д. Далеко не первый, но и не последний.
Я очень удивлен, что подобные техники манипуляции общественным мнением ещё не запрещены. Это должно быть сделано как можно скорее. Человек психологически склонен присоединяться к большинству. В конце концов, если все окружающие скажут вам, что вы не правы, вы ведь задумаетесь? А получается, говорить будут не люди, не общество, а один "товарищ мойор" тысячами фальшивых голосов.
Это как пчёлы против мёда?
Государства - одни из основных заказчиков ботоферм, с чего бы им себе это запрещать?
Процесс сделали ещё эффективнее (и дешевле, теперь не нужно будет платить живым людям по количеству комментариев). Остающихся без работы троллей не жалко, а вот обычных людей за ещё более усилившимся информационным шумом теперь совсем станет не слышно, вот это очень печально...
И кто их запретит? Те, то имеет возможности их использовать для усиления собственной власти? Ха.
Даже если запретят - запрет будет работать для "неправильных" политических сил, а "правильные" будут спокойно использовать ИИ-ботов под грифом секретности.
Вообще-то это основа демократии. Если сравнить декларируемые цели и реальные цели, то увидите, что массы в развитых демократиях водят вокруг пальца. Немного иначе, чем в тираниях, но результат абсолютно ровно тот же. Постправда давно с нами.
Рассмотрим сценарий
Вы запретили спецслужбам манипулировать общественным мнением.
Ваши спецслужбы вас послушали, спецслужбы другого государства — нет.
Спецслужбы другого государства начали манипулировать общественным мнением в вашей стране.
Ваши действия?
Ну вроде так и делается, цру нельзя проводить операции без разрешения внутри сша, чтобы соблазна не было
Начну с того, что позволить в своей стране диктатуру спецслужб - это настолько плохое решение, что нет такой проблемы, решение которой оно бы оправдывало.
Единственно приемлемое действие - это противодействие. Защита от внешних угроз - это основная функция государства.
Скайнет все ближе и ближе..
Что может противопоставить общество подобным технологиям? Есть способы борьбы с ботами и манипулированием мнением в социальных сетях?
Возможно, человечеству имеет смысл запретить соцсети и комментарии, до тех пор, пока не будет придуман способ верификации человека.
А смысл? Может ведь быть и так, когда комментарии от ботов будут лучше человеческих. Тут главное - чтобы ботов было много и отстаивающих разные точки зрения.
человек не сможет это все прочитать.
В этом нет ничего нового. Человек и так уже давно не может прочитать, скажем, все книги по какому-нибудь вопросу. Потом к этому добавились разные форумы, соцсети, итд итп.
В новой реальности - есть ли разница, написан ли текст каким-нибудь живым автором с (не)устраивающим меня мнением, или текст сгенерирован нейронкой с (не)устраивающей меня склонностью к какой-то точке зрения?
Ещё большую популярность обретут платформы агрегаторы и фильтры. Каждому по пузырю, информационному.
И в итоге будут спорить в интернете разные ИИ с разными точками зрения. Их же еще и безумно дешево будет делать и поддерживать... Неловко как-то осознавать, что таким будет ближайшее будущее. Назад в пещеру с мамонтами хочется, жаль только мамонты вымерли.
Большой Брат 2.0: Пентагон рассматривает возможность разработки ИИ для массового онлайн-наблюдения