Facebook удалил сотни аккаунтов со сгенерированными ИИ аватарками



    Facebook отчитался об удалении более чем 900 учетных записей, страниц и групп на своей платформе и в Instagram, с помощью которых в сети велась дезинформационная кампания. Как говорится в отчёте Facebook, для этого использовали фальшивые учетные записи с аватарками, сгенерироваными нейросетями. Исследователи Facebook заявили, что это было первое массивное использование искусственного интеллекта для поддержки дезинформационной кампании в социальных сетях.

    Расследование Facebook связало фальшивые аккаунты с двумя не связанными между собой информационными сетями. В первом случае были удалены 39 профилей, 344 страницы и 13 групп в Facebook, а также 22 учетные записи в Instagram, ориентированные на грузинскую аудиторию. В заявлении говорится, что «эти страницы позиционировали себя как агентства новостей и имитировали политические партии, известных личностей и СМИ». Контент на удалённых страницах касался местных новостей и политики. Как утверждают в Facebook, на рекламную кампанию эта сеть потратила $316 тысяч и набрала более 500 тысяч подписчиков.

    «Хотя люди, стоящие за этой деятельностью, пытались скрыть свою личность и местонахождение, наше расследование связало эту деятельность с Panda, рекламным агентством в Грузии, и политической партией «Грузинская мечта», — говорится в заявлении Facebook.

    Во втором случае сеть была сформирована во Вьетнаме и США. Она была нацелена «преимущественно на аудиторию из Соединенных Штатов, а также на пользователей из Вьетнама и по всему миру, говорящих на испанском и китайском языках», сообщают в Facebook. Она включала в себя 610 профилей, 89 страниц и 156 групп в Facebook, а также 72 учетные записи в Instagram.

    «Для некоторых из этих учетных записей использовали фотографии, созданные искусственным интеллектом. Это позволяло аккаунтам вступать в группы и публиковать контент. Чтобы избежать удаления, сеть использовала комбинацию поддельных и подлинных учетных записей для управления группами. Администраторы групп и владельцы аккаунтов размещали посты, связанные с политическими новостями и проблемами США, включая темы импичмента, консервативной идеологии, выборов, семейных ценностей и свободы вероисповедания».

    В Facebook отмечают, что эта сеть связана с медиагруппой The BL.
    «The BL неоднократно нарушала наши правила, в том числе запреты на спам и дезинформацию. The BL отныне запрещена на Facebook», — говорится в заявлении. В ходе кампании сеть собрала более 55 млн подписчиков.

    Как пишет портал Wired со ссылкой на исследователей из Graphika и DFRLab, большинство фальшивых аккаунтов числились среди администраторов групп с такими названиями, как «Америка нуждается в президенте Трампе», «Трампа — в президенты Америки» и так далее. Например, среди 15 администраторов группы Patriots for President Trump («Патриоты за президента Трампа») девять использовали в качестве аватарок сгенерированные ИИ лица. Из 16 администраторов группы President Trump KAG 2020 восемь использовали сгенерированные аватарки.

    Как отмечают исследователи, несмотря на то, что нейросети способны создавать лица, похожие на настоящие, они не учитывают анатомию человека и часто ошибаются в таких деталях, как фон фотографии, очки или серьги.



    «Мы постоянно работаем над обнаружением и прекращением этого вида деятельности, потому что не хотим, чтобы наши услуги использовались для манипулирования людьми. Мы удаляем эти страниц, группы и учетные записи в зависимости от их поведения, а не от контента, который они опубликовали. В каждом из этих случаев люди использовали поддельные учетные записи, чтобы ввести пользователей в заблуждение, и это послужило основой для наших действий», — подчёркивают в Facebook.
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 39

      +9
      хм, состязательные нейронные сети, при работе с разных сторон баррикад. Итогом будут неотличимые картинки.
        +6
        Тут ошибка выжившего наоборот — мы ничего не узнаем про неотличимые картинки, потому что мы их не отличим.
          0
          И, скорее всего, они уже есть и их много.
            0
            Думаете, кто-то держит такую разработку в секрете и ждёт, когда на открытом рынке появятся конкуренты?
              0
              да
                0

                Разработки велись давно, лет 5 назад точно, я знаю как минимум о двух израильских стартапах кто клепал ботов для пейсбука на сетке. Первые боты банились практически сразу. Последние версии даже могут изображать примитивные действия обычного пользователя кроме общения. А так репосты котиков, лайкать посты нужного пользователя, загрузка якобы новых фоток, всё можно автоматизировать.
                Бот с функциями общения пока еще редкость. Правда боты создавались не для того чтобы помогать прокачивать аккаунт, а для удобства мониторинга действий живого пользователя.


                Про продажу. Самих ботов не продают, но вот доступ к консольки управления ботами предоставить могут. Вот запостили вы фото котика в 2017 году на пейсбуке, а в 2020 году некто Мамерджан лайкает котика и просится добавить в друзья.

                  0
                  Какие-то у вас «последние» версии совсем как «первые» — с общением то какие проблемы, чат-боты общаются насыщеннее чем половина моих знакомых. И дело тут ведь не в «автоматизации», все автоматизируется джуниор-автоматизатором, а в деталях этой самой автоматизации — как бот двигает мышкой/скроллом, с какими траекториями и таймингами, причем сами траектории то создать не сложно, просто когда бот с ними «выходит в тираж» он этим и палится — «индивидуальный» почерк у него вдруг начинает совпадать с множеством таких-же инстансов бота, жадность как всегда губит… Ну и фингерпринтинг браузеров туда-же

                  А рассказывают нам про «спалили по артефактам нейросети», ага ага, не палить же реальные темы.
                  тема в паблике === мертвая тема
                  image

                    0
                    В своё время WG, когда сломали в танках сервера матчмейкинга/балансера, наняла китайцев, которые балансили вручную.
                    10000 китайцев балансили технику вручную.
                    Что мешает нанять абстрактных филлипинцев/индусов для создания анкет и имитации жизнедеятельности в соцсетях? Со вьетнамцами понятно — их банхаммером подавили.
                      +1
                      Что мешает нанять абстрактных филлипинцев/индусов для создания анкет и имитации жизнедеятельности в соцсетях?

                      А ведь можно, имея качественно сделанного бота, научить его самого косить под филлипинцев/индусов, и брать задания за деньги
                        –2
                        потому что это буду уже — «потриоты призидента Трампа, зделаем Омерику виликой, апять»
                        0
                        имхо статистика — бедность лексикона на фоне выплесков ключевиков из тех-задания — централизованно это проще отконтролить, да и проще отконтролить окружение/реализацию — не прокалываться на всяких SSL хендшейках и прочем, анонимность же не достигается приватной вкладкой
                    0
                    Это же очевидно.
              +4
              использовали фотографии, созданные искусственным интеллектом. Это позволяло аккаунтам вступать в группы и публиковать контент.
              Диагноз по аватару для вступления в группы? ОК.
              а также на пользователей из Вьетнама и по всему миру, говорящих на испанском и китайском языках
              Хм, много ли пользователей из Вьетнама говорящих на испанском и китайском языках?
                +9
                Что-то мне при виде этих аватарок вспомнился читанный ещё в далёком детстве фантастический роман Зиновия Юрьева «Дарю вам память»
                «— Простите, пожалуйста, — сказал еще раз Александр Яковлевич, — я, конечно… я не могу понять… это, разумеется, не мое дело, но ваш воротничок…
                — Что мой воротничок? — спокойно спросил посетитель.
                — Он у вас… в некотором смысле являет собой часть тела…
                — А он должен быть отдельно? Как странно, однако. Покажите мне, если вас не затруднит, как это у вас устроено?
                — Извольте, — сказал Александр Яковлевич и нагнул голову, словно поклонился.
                — Благодарю вас, — сказал посетитель. — Значит, воротничок должен быть отдельно от шеи. Непростительная ошибка с моей стороны. Сейчас мы сделаем зазор.
                »
                  0
                  об удалении более чем 900 учетных записей

                  что-то нулей не хватает, чтобы новость была значимой в масштабе ФБ.

                  Да и вообще, если подумать, то для генерации фейков в ФБ надо не полностью с 0 сгенерированные фото, а всего лишь фото, которые
                  1. не сметчатся с уже существующей базой фоток ФБ
                  2. будут определяться, как человеки
                  3. будут метчится между собой

                  то есть, если 1 фейк опубликовал 20 фоток со своим фейсом, то алгоритмы ФБ должны сделать выводы, что эти 20 фоток принадлежат одному человеку, и что этот человек новый для базы ФБ

                  и тут приходит на ум, что нужны другие методы. К примеру, взять реальный профиль человека, взять оттуда его 20 фоток, и чуток сузить на всех нос, или занизить лоб + местами поменять фон, чтобы не сметчили вцелом фото к фото. Или найти реальные профили двух очень похожих людей, и что-то вроде частичного дипфейка одного на второго сделать (людей похожих, чтобы артефакты минимальны были). Еще интересен подход, если что-то вроде 3д модели делать изначально, а нейросеть только для финальных штрихов, чтобы гарантировать, что очки или уши не скукожатся. Ну и, даже, если с 0, то фон надо какой-то эвристикой прорабатывать. Никто ведь не заставляет генерировать фото, где это сложно (развевающиеся волосы, например).
                    0

                    900 это много. Обычно они банят единицы ботов в год.

                    0
                    Так что справа (левый глаз) забыли отрендерить влияние очков на картинку?
                      0

                      Это не рендер, это мутации
                      https://habr.com/ru/post/432580/

                        0

                        Очки сами по себе неправдоподобные (левая и правая дужки и край оправы разного фасона).
                        Вот так сделаешь себе уникальные очки из двух старых, а тебя ботом обзовут.

                          0
                          image
                          В их создании, как я помню, тоже нейросеть напортачила...
                            +1
                            И их счастливый обладатель + его друзья получат бан от цука)
                        0
                        Зачем Грузинской мечте вмешиваться в выборы США на стороне Трампа? Звучит как какой-то бред если честно.
                          0
                          Грузины и не вмешивались, вмешивалась вторая сеть.
                          0
                          Нейронные сети атакуют социальные.
                            0
                            На картинке-примере есть якобы две неточности:
                            — дужка очков с одной стороны с металлом, с другой нет. Могла просто отвалиться или не видна в тени и под таким ракурсом
                            — фон внутри линзы очков, может быть виден если линза рассеивающая (дальнозоркость) и достаточно сильная. Так как голова немного повёрнута — то такой эффект должен быть как раз только на одном глазе.
                            Не удивлюсь, если в Грузии какой-то человек сейчас пишет статью, какие уроды в Фейсбуке, забанили его аккаунт.
                            А вообще, для себя, я давно забанил фейсбук, так как площадка не должна решать, какие новости мне читать и что правда, а что нет.
                              0
                              Фон сгенерирован по правильной схеме искажения, да не того цвета. И ухо расплавилось.
                                0
                                Вот при виде уха мне роман Зиновия Юрьева и вспомнился. А на какие нибудь развесёлые очки , замазанную гримом половину лица или прочий подобный перфоманс, думается, фейсбучный алгоритм прореагирует адекватно (т. е. никак не прореагирует).
                              0
                              Это просто кидание какашек в сторону Трампа.
                                +1
                                Мы постоянно работаем над обнаружением и прекращением этого вида деятельности, потому что не хотим, чтобы наши услуги использовались для манипулирования людьми

                                Немного недоговаривают, забыли добавить «если это делается без нашего ведома и отчислений в наш карман»
                                  +1
                                  Вот так вот, достаточно сфоткаться с разными серьгами в ушах или в починенных очках, как твою фотку запишут в генерированную сетью и забанят как бота…
                                    +4
                                    А если неаккуратно отфотошопить честную рожу — тоже забанят?
                                    Кто то прыщи замазывает, кто то размер груди надувает или уши уменьшает.

                                    В общем бред какой то. Главная мысль статьи — плохие парни топят за Трампа.
                                      0
                                      Мне кажется не хватает ссылочки на сервис генерации аватаров:
                                      thispersondoesnotexist.com
                                        0

                                        О, они улучшили нейросеть, теперь там значительно меньше артефактов, чем было. Здорово. Раньше была StyleGAN, теперь StyleGAN2 и js, меняющий фон страницы и добавляющий выпадашку в нижнем правом углу. Было удобнее, когда была просто картинка.

                                          0
                                          Ага, тоже заметил что результат гораздо лучше стал
                                            0
                                            js, меняющий фон страницы и добавляющий выпадашку в нижнем правом углу.

                                            Из-за чего у меня страница виснет 5 секунд, не отображая даже выпадашку сохранения. Ну да ладно, JS можно отключить.
                                          0

                                          Вообще, эти программы генерации лиц еще нам могут пригодиться, если в будущем соцсети и сайты госуслуг будут требовать загружать фото с уникальным лицом, не встречавшимся в других аккаунтах. По моему, какая-то соцсеть от Яндекса уже это требовала.

                                            0

                                            Простите за идиотский вопрос, в соцсетях не представлен, а для аватарки на FB нужно своё лицо? Котика какого you нельзя, или просто абстрактную картинку? Это же всего лишь аватарка…

                                              0
                                              Лицо обязательно. при каких-то операциях просят выбрать из фоток, кого лично знаешь. Не явдяюсь их пользователем, могу ошибаться.
                                                0
                                                Пару лет назад не требовалось, сейчас тоже не знаю как.

                                              Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                              Самое читаемое