ИИ Facebook научился находить 95% экстремистских высказываний, но соцсеть всё ещё требует от модераторов ходить в офисы

    Алгоритмы Facebook в третьем квартале 2020 года смогли обнаружить 95% экстремистских высказываний на платформе до того, как они попали к модераторам, говорится в официальном сообщении соцсети. Несмотря на это, компания всё ещё требует от модераторов приходить на работу в офис — сотрудники направили руководству Facebook открытое письмо с требованием разрешить удалённую работу. 

    Всего за третий квартал на платформе было выявлено 22,1 миллиона материалов с разжиганием ненависти, 19,2 миллиона постов с элементами жестокого графического содержания, 12,4 миллиона изображений детской порнографии и сексуальной эксплуатации, а также 3,5 миллиона материалов с издевательствами и домогательствами. Всего на подобный контент приходится 0,11% всего контента на Facebook — учитывая, что в соцсети зарегистрировано 2,7 миллиарда активных пользователей, это указывает на достаточно широкое распространение экстремистских и запрещённых материалов. 

    Соцсеть впервые раскрыла цифру о распространённости запрещённого контента, поэтому неизвестно, была ли его доля на платформе больше или меньше до июля 2020 года. 

    Facebook уточняет, что добиться удаления такого большого количества контента удалось с помощью искусственного интеллекта. Благодаря нему запрещённые посты оказываются удалены ещё до того, как пользователи сообщат о них модераторам. 

    Несмотря на улучшение показателей, соцсеть по-прежнему требует от модераторов ходить на работу в офисы. Об этом говорится в открытом письме сотрудников Facebook, направленном на имя Марка Цукерберга и Шерил Сандберг. В письме говорится, что работа модераторов была одной из самых тяжёлых в компании и до пандемии COVID-19, поскольку им приходится иметь дело с большим количеством жестокого контента, включая насилие и жестокое обращение с детьми. 

    Сотрудники возмущены, что компания заставляет их рисковать своей жизнью и здоровьем, требуя посещать офисы, при этом никак не доплачивая за риск. Они раскритиковали работу искусственного интеллекта, призванного модерировать контент на площадке — по мнению сотрудников, он далёк от того, чтобы вводить автоматизированную систему модерации.

    «Ваши алгоритмы не могут обнаружить сарказм. Они не могут отделить журналистику от дезинформации. Они не могут достаточно быстро реагировать на насилие или жестокое обращение с детьми. Мы можем», — говорится в письме. 

    Модераторы требуют, чтобы руководство компании обеспечило их безопасность и максимизировало количество удалённой работы. По их мнению, их обязанности можно исполнять и дистанционно, не подвергаясь риску заразиться COVID. При этом, если удалённая модерация контента не соответствует соображениям безопасности, как настаивает Facebook, то организацию работы следует изменить, считают модераторы. Кроме того, сотрудники требуют ввести доплату за риск и дать возможность воспользоваться реальной медицинской и психиатрической помощью — сейчас модераторам предлагают только еженедельные 45-минутные сеансы с «тренерами по оздоровлению», не имеющими психологического или психиатрического образования и потому не имеющими права ставить диагнозы и лечить.

    Реклама
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее

    Комментарии 37

      +2

      Интересно узнать, сколько у них работает модераторов?

        +8

        В будущем запрещённая мысль будет стираться прямо из мозга пользователя ещё на этапе формирования оной.


        Лучшие и талантливейшие люди работают над этим.

          +10

          Интересно бы ещё узнать процент false positives

          +3
          Всё логично, но удалёнка, как мне кажется, не право работника, а работодателя. Это в том случае, если нет такого пункта в договоре или законе.
            +13
            искусственный интеллект фб цензуры уже достал.
            я пишу художественный текст мне делают предупреждение «каждый может оибаться» что вообще то дико оскорбительно, потому что этот текст результат работы. я публикую картинку меня банят из-за сексуальных действий на картинке…

            я художник сюрреалист, и это запрет на профессию, потому что все сейчас в сети.

            вот эти картинки фб удалял
            image
            даже центральную… а на на мою жалобу ответил что я торгую животными


            попытки опротестовать игнорируются…
              +3

              Вы просто не попадаете под шаблон. Недостаточно стандартны. Алгоритм к-средних вас не любит. Фраза Не такой как все — это лишь замануха для неокрепших умов. А окрепшим добро пожаловать в стадо. Велкам. П.с. пора создавать альтернативные площадки

                +3
                да как бы все понимаю, но по факту меня и таких как я вычеркивают из жизни… и я немного завидую геям потому что они отстаивают свою странность.

                то есть для меня антиутопия наступила.

                  +2
                  собственно, проблема достаточно глубокая, и это «чисто американская хрень». корни этой странной цензуры лежат в сфере identity politics и civil religion. fb обнюхивает своих пользователей на предмет принадлежности к той или иной социальной группе. после чего включает систему «свой-чужой». если чужой, то тебе будет цензура по полной программе. что указывает на практику «культурной войны». есть у американских левых тема под названием «культурный марксизм». оттуда ноги растут. из стенфорда, штат калифорния.
                    0
                    так есть же чисто американский redit где, как я понял такой цензуры нет…

                    с одной стороны все понятно, с другой очень неприятно :-/
                      0

                      Не было, так будет точнее.
                      В битве Байден — Трамп они включили цензуру на уровне Твиттера.

                        0
                        смотрел я когда-то аниме в котором японская цивилизация жила сыто и радостно из-за того что всех кто проявлял странные эмоции считали преступниками и пролечевали…

                        ну вот все мы туда движемся… и проблема в том что для того чтобы двигаться куда то ещё надо это ещё хотябы представлять… а представляется в лучшем случае 37 год ((
                        0
                        Вообще, цензура гугла, твиттера и фейсбука стала проблемой для американцев. Цукерберга в 2018 приглашали в Конгресс «поговорить», но тот, похоже, намека не понял. На прошлой неделе разговор был уже в Сенате. Если выводов не последует, они ФБ судебными разбирательствами сильно погрызут. Вот запись трансляции из Сената. Там часа на 4 шоу.
                        youtu.be/ONYuLP7sHFQ
                          0
                          шоу нее смотрел, почитал что в новостях написали… как я понял, там две взаимно противоположные тенденции: с одной стороны площадка должна отвечать за инфу размещенную на ней — скажи цензуре да. с другой стороны, а с какого перепугу площадка решает, «что такое хорошо и что такое плохо» — скажи цензуре нет… про цензурирование «воображаемых сисек» там ничего не было.

                          ну и стало проблемой не для американцев а для политиков, которым обнулили првила ведения войны.
                    +2
                    альтернативные площадки не вариант, потому что художникам нужны зрители (все немного сложнее но ...) а зрители вот совсем не обязательно должны быть странными… они просто не придут на эту альтернативную площадку… как многие не придут например во вконтактик, просто из «эстетических» соображений.

                    больше того «нормальным» нужны чужие проявления «странного», на «нормальные» не пойдут туда где тусуются «странные»… это как бы общее место
                      +1
                      Помните, в далёких нулевых были дорвеи? Предлагаю воспользоваться таким методом. Давать посмотреть не работы, а ссылки на них, которые являлись бы для пейсбука милыми и пушистыми.
                        +1
                        сугубо из практики: на внешие ссылки почти никто не ходит — мобилка, пальчиком тырк тырк ленту, не более; так-же насколько я понимаю ссылки понижаются в выдаче, то есть на них мало того что никто не ткнет их ещё и мало кто увидит. Вот с редирктами все ещё хуже, я пробовал :)

                        в ряде мест, если мы про группы, внешние ссылки запрещены.

                        ну и не достаточно ликвидны мои картинки, вот если бы я ссылки на видео мануалы по дефлорации выкладывал, но у вы…
                        0
                        И, это, странная у вас аудитория, если пейсбук ей кажется более эстетичным, чем ВК.
                          0
                          вопрос не в эстетичности платформы, мир не ограничен «российской школотой»… а на vk это основная аудитория…

                          из людей с которыми я общаюсь (не аудитория, круг общения) только четверо привязаны к вконтактику
                            0

                            Я, например, пишу довольно своеобразные стихи, и самый большой охват аудитории это VK, как ни странно. Моя аудитория в FB больше по рабочим контактам ходит, вконтактике развлечение.

                              0
                              так ну зависит от того что делать и для кого, я не хочу вешать ярлыки на аудиторию, аудитории обидно… но от vk я не получаю того чего получаю(л?) от ФБ…

                              возможно надо ещё поработать с Vk но, на это нужно время
                          0
                          а в инстаграмме такая же хрень? я вот подписан в инсте на васю ложкина и галлерею «свиное рыло». вроде как всё работает. и ещё на одного современного художника, который работает в стиле «дубинопись».
                            0

                            Подписан на несколько художников с космическими артами, одному прилетал бредовейший страйк за «ошибочное историческое представление», вроде того. На рисунке дикари, обнаружившие Space Shuttle в руинах цивилизации.

                              0
                              инстаграм очень хочет пить кровь автора, причем желательно сразу из вены :(

                              чтобы все было хорошо надо…
                              или контент от звезды, о звезде
                              или контент вызывает простые эмоции которые способно испытывать больинство
                              или автор пальцы об телефон стирает продвигаясь в инсте.
                              или кормить все это деньгами

                              и то что я продавал через инстаграм свои работы лет ~4 назад «американским домохозяйкам» сейчас невозможно… да… из 5 аккаунтов два потерял, причем я так и не понял за что… вовремя не опротестовал и все…

                              у меня нет сил заниматься соц сетями специально, платить специально обученному человечку тоже не хочу, потому что не отобоется

                              и да мой инст если...
                              www.instagram.com/obscurealism
                              который я фактически забросил
                        +4
                        Мне еще интереснее как они посчитали свои «95%». Неужели пересмотрели абсолютно все записи, решили экстремистские ли они, а потом проверили сколько отобрал алгоритм?
                        Фантастика.
                          +1

                          Ну вообще то нейронные сети так и работают. Думаю у них скопилась весьма большая база экстремистских высказываний за годы ручной модерации.

                            0

                            Взяли случайную выборку из того контента, что проверяли нейросети и дали её проверить людям, наверное. Интересно какая эффективность нейросети у проверки текстов по сравнению с фото.

                            +3

                            Слава роботам, и далее по тексту.

                              +8
                              Корпорации — это новые «государства без границ», могущие делать всё, что им взбредет в голову.
                                +7
                                Остался вечный вопрос, а кто сторожит сторожей? Кто тот «никто», кто устанавливает критерии «экстремистского высказывания»?
                                  +2

                                  Это очень занятно, что они там упоминают сарказм.


                                  Первая проблема с этим — если они имеют в виду, что сарказм — это часть нежелательного контента, то не офигели ли они там совсем? Банить комедию — это совершенно не то же, что банить порнографию.


                                  Вторая проблема — то, что сарказм — форма юмора, которая основана на том, что говорящий делает утверждение, которое в буквальном смысле противоположно тому, что он на самом деле имеет в виду. И из-за этого часто принципиально невозможно отличить сарказм от серьезного утверждения, если отсутствует контекст, позволяющий понять, что автор не сказал это буквально. Ни человеку, ни роботу.

                                    +2

                                    Они его там именно в этом ключе и поминают, что ИИ воспринимает сарказм за чистую монету и выдаёт ложное срабатывание.

                                    0
                                    компания всё ещё требует от модераторов приходить на работу в офис

                                    Справедливо. Никчемная мразь, получающая деньги за затыкание людям рта и подавление инакомыслия, получает заслуженное скотское отношение.
                                    Ну и да, однозначно, это правильно еще и для бизнес процессов. Если модераторы будут собирать дома толпу друзей, и модерировать при них, попутно упражняясь в умении пошло шутить над содержимым, то это будет совсем зашквар
                                      +1
                                      Насколько известно, модераторы у них это нищие пакистанцы в аутсорсных бодишопах. Вряд ли им очень интересна проблема свободы слова в современной западной политической повестке, им кушать хоцца.
                                        0

                                        Ну так я это отлично понимаю. Как это дополняет или опровергает написанное? Тем более, презираю никчемную мразь, которая ради миски риса будет делать что угодно. Если бы это было их убеждением, то, скорее бы ненавидел.

                                      0

                                      Живые модераторы нужны и будут нужны, чтобы обеспечивать тенденциозность и двойные стандарты модерации согласно установленной политической линии. ИИ этого не может пока...

                                        +1
                                        Пытался тут зарегистрироваться на фэйсбуке — меня превентивно забанили, даже ни разу залогиниться не дали.
                                        Для «рассмотрения жалобы» потребовали номер телефона и фотографию, но по результатам написали «такие как вы, фэйсбуку не нужны, идите нафиг».

                                        Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                        Самое читаемое