Исследователи из Бразилии представили модели анализа нравственности на основе языка

    image

    Исследователи из Бразилии разработали три модели, которые могут описать моральные принципы людей на основе языка, который они используют. Модели оценивают выбор слов человека, чтобы определить его позицию по пяти ключевым нравственным принципам.

    Ивандре Парабони, адъюнкт-профессор Школы искусств, естественных и гуманитарных наук Университета Сан-Паулу, руководил исследованием. Его команда решила сосредоточиться на теории моральных основ, обычно используемой социологами. Она постулирует несколько ключевых категорий морали, включая заботу, справедливость, верность, авторитет и чистоту.

    По словам Парабони, цель новых моделей состоит в том, чтобы сделать вывод о ценностях человека, просто взглянув на его тексты, независимо от того, чему они посвящены.

    Для разработки и проверки моделей команда Парабони раздала анкеты более чем 500 добровольцам. Участников попросили оценить восемь тем (например, однополые браки, владение оружием, наркополитику) с помощью баллов (от 0 = «полностью против» до 5 = «полностью за»). Их также попросили написать пояснения к этим оценкам.

    Затем люди-судьи дали свою собственную оценку подмножеству объяснений участников. Это определило, насколько хорошо другие люди могут делать выводы из чужого текста. «Понимание сложности задачи с человеческой точки зрения дало нам более реалистичное представление о том, что вычислительные модели могут или не могут делать с этим конкретным набором данных», — говорит Парабони.

    Используя мнения участников исследования, исследовательская группа создала три алгоритма машинного обучения, которые могут оценить язык, используемый в утверждении каждого участника. В моделях анализировалась психолингвистика (эмоциональный контекст слов), слова и словосочетания.

    Первые две модели, которые фокусируются на отдельных словах, используемых автором, были более точными, чем подход глубокого обучения, который анализирует последовательности слов.
    Парабони добавляет: «Подсчет слов, например, того, как часто человек использует такие слова, как «грех» или «долг», в высшей степени раскрывает их моральные принципы, то есть с большей точностью предсказывает степень их заботы, справедливости, лояльности, авторитет и чистоту».

    Команда планирует включать в свои модели другие формы лингвистического анализа. Теперь она изучает модели, которые больше фокусируются на тексте независимо от его автора, чтобы представить способ анализа данных из Twitter.

    В ноябре прошлого года стало известно, что Росмолодежь предложила использовать Институт развития интернета как оператора субсидий для производства социально значимого контента в интернете для пользователей до 35 лет. Предполагалось, что видеоролики, мультфильмы, аудиотрансляции, веб-сериалы, подкасты, проекты в соцсетях, а также игровые приложения, образовательные программы, информационные ленты будут размещать в соцсетях «ВКонтакте», «Одноклассники», Instagram, Facebook, TikTok, на YouTube и других молодежных интернет-площадках. На эту работу в ближайшие три года российские власти планировали выделить 2,4 млрд рублей.
    См. также:

    Ads
    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More

    Comments 11

      0
      А как определяли фактическую моральность испытуемых? Типа, если написал "#идоры гнойные должны гореть в аду!" на вопрос об однополых браках, значит, высокоморален?
        0

        Если человек желает кому-то зла, там априори моралью и не пахнет. Если человек высокоморальный топит за традиционные отношения, и против альтернативных, он должен по идее, считая традиционные отношения благом, пытаться разрекламировать их тем, у кого другая точка зрения, так, чтобы они сами захотели попробовать то, что им так рекламирует этот хороший человек, относящийся к ним благожелательно, и с любовью.


        Другой вопрос, что ничего их этого не выгорит, потому как если нормальных мужчин не интересуют мужики, то людей с проблемами гендерной ориентации не интересуют прекрасные дамы(ни в каком виде, их мозг и ещё один орган на них не реагируют). Хорошо в этом плане универсалами-би, те могут и так, и эдак… Но ведь есть ещё асексуалы, самые несчастливые из всех людей, их вообще ни те, ни другие не интересуют никак. Так что если у человека хоть какой-то интерес есть, за него порадоваться надо, а то мог бы стать и асексуалом, которому такие страсти вообще не ведомы.


        Злые люди высокоморальными быть не могут. Осуждение — аморально само по себе. Не суди, да не судим будешь(источник фразы, если интересуетесь, найдёте сами в религиозных традициях одной авраамической религии).


        P.S.: я — лишённый эмпатии, резкий и не приятный в общении человек. Воспитанный в очень консервативной религиозной среде. Но даже я понимаю, что зло и агрессия порождают зло и агрессию, а не что-то хорошее. И тот, кто несёт агрессию — высокоморальным быть не может. Я не высоко ценю мораль, но пока выгодней поступать так, как поступают люди понимающие что-то в морали, я готов поступать также, чтобы иметь с этого какой-то профит. А практика и жизнь показали, что в долгосрочном плане поступать этично оказывается более выигрышной стратегией, чем не этичные поступки.

          +1
          а теперь сформулируйте что такое зло, что понять как читать ваш текст

          я на 102% процента серьезен потому, что так-же как вы лишённый эмпатии, резкий и не приятный в общении человек
            0

            Для меня лично зло — намеренное причинение ущерба другим людям, и биосфере нашей планеты. Как физического, так и морального(в случае с людьми и животными, ведь психологический дискомфорт — очень серьёзная вещь). Если человек поступает по отношению к другим так, как он по отношению к себе, и близким ему людям бы никогда не поступил, причиняет им ущерб — сдаётся мне, что он поступает не очень хорошо. Когда кто-то травит реки, озёра, воздух или бросает пластиковые стаканчики и бутылки в море, он тоже причиняет ущерб планете и животным, и опосредованно, и другим людям. В этом году я видел пластик в Эгейском море, в десятке километров от берега, если не больше. И видел людей, что выпив воду, кидали бутылки прямо в море… Лично для меня то, что делают такие люди — несомненное зло, за которое нужно жестоко наказывать провинившихся.


            Что подразумевают под злом другие люди – я не знаю. Я не очень интересуюсь их мнением и чувствами. Но, сдаётся мне, что и для них это синоним ущерба и дискомфорта.


            Так как вопрос у вас с подвохом, ведь вы прекрасно знаете что зло — абстрактное понятие, в которое разные люди вкладывают разный смысл, не лишним будет напомнить: я прекрасно понимаю, что всё относительно. И что то, что в одном случае — зло, в другом случае может быть благом. И что ситуации бывают разные. В частности, иногда для получения большей выгоды(к примеру спасения большого количества людей) приходится идти на определённые жертвы. И причинять кому-то ущерб и дискомфорт. Поэтому не зная контекста, сложно определить, что является благом или злом в той, или иной, ситуации. К примеру убивать зло, но если для спасения миллионов нужно было бы отбомбить городок с 10k жителей — я не задумываясь нажал бы на кнопку. Ведь не нажать — ещё хуже, погибнет больше людей. Лучше спасти большинство, пусть и ценой меньшей жертвы, чем оставить всё на самотёк, и потерять много людей. В выборе между плохо и очень плохо наименьшее зло — уже благо. Понятно, что лучше в ситуации выбора между двумя сортами г… не оказываться, но если не повезло, нужно мыслить рационально.

              0
              все что мне «неприятно» то зло… да существует такая эгоцентричная тока зрения… и бомбить городок с 10к жителей как раз из этой серии.

              собственно про «бомбить городок» — где-то в самых началах этики, из неэтичной(безнравственной) ситуации нет этичного выхода, а мы как бы рассматриваем зло с точки зрения нравственности… смотри название статьи.

              зло — это то малое, что не дает добру быть добром, (на самом деле не дает норме быть нормой). Черная прядь среди белой пряжи, ложка дегтя в бочке меда, реклама посреди фильма, болезнь вызванная инфекцией, терроризм.

              собственно говоря «терроризм» хорошенький пример, потому что в терактах погибает сильно меньше чем «под колесами машин», но это делает жизнь невыносимой начиная от страха, кончая тотальной слежкой и ограничениями свобод.

                0
                зло — это то малое, что не дает добру быть добром
                А вы молодец, хорошо сформулировали ваше понимание такого сложного понятия, как зло. Жаль определение добра не дали вдогонку. У меня и с ним большие проблемы.
                  0
                  это не моя формулировка, а что-то из мудрецов со средневекового востока, по памяти… так что без ссылок :)

                  ну и сделал поправку: (на самом деле не дает норме быть нормой) ну и норма уже социозависима.
            +2

            Аморальность чего либо зависит от текущих установок общества. Что явлчется аморальгым в одном обществе, не обязательно является таковым в другом. А учитывпя, что единого общества по факту у нас нет, то даже в пределах одного населенного пункта будет некоторое количество трактовок моральности/аморальности того или иного явления.

          +3
          а теперь подсуньте этому анализатору текста ну например… Достоевского и покажите нам результат
            +2
            Мораль, нравственность — это вообще что?
            Я серьезно спрашиваю, потому что от нюансов трактовки этих понятий смысл может поменяться радикально.

            Приведу пример, возможно утрированный, но как минимум исторически верный. С точки зрения морали определенной группы людей считалось правильным пытать и затем максимально жестоко умерщвлять людей, которые подозревались (и которые под пытками это вполне естественно признавали) в связях с «потусторонними силами» — т.н. «колдуны», «ведьмы» и т.п.

            Я особо акцентирую внимание на том, что с точки зрения морали, как минимум определенной, существенной по численности и занимаемой территории группы людей, считается (хорошо, считалось ранее) правильным пытать и жестоко умерщвлять людей. Потому что под словами «мораль» и «нравственность» часто пытаются подать что-то «хорошее» — действительно, для описываемой группы людей пытки и уничтожение «колдунов» было делом хорошим, потому что именно «колдуны» были «виноваты» во всех бедах.

            Возможно, мое определение далеко от истинного, но мораль и нравственность — это не то, что хорошо и правильно (хотя теоретически может и быть таковым), а когда это либо более, либо менее четкие рамки каких-то писанных или чаще неписанных правил, принятых в определенном конкретном обществе. Другое общество или эволюционировавшее это же, может счесть действующую мораль отвратительной и чудовищной.

            несколько ключевых категорий морали, включая заботу, справедливость, верность, авторитет и чистоту

            Вот-вот. Красивые слова, под которые можно подогнать самые ужасные и отвратительные вещи, которые делают люди. По моему примеру выше:
            Забота = избавление от «колдунов».
            Справедливость = подставить любой религиозный лозунг за все хорошее и против всего плохого, «объясняющий» необходимость нечеловеческих издевательств и убийств.
            Верность = верность религиозному догмату (т.е. скорее отсутствие критического мышления).
            Авторитет = авторитет церковнослужителя или религиозного фанатика, «подкрепляемый» отсылками к религиозной литературе и мифам.
            Чистота = очищение себя путем убийства тех, кто объявлен нечистым.

            Друзья, вы серьезно хотите мораль и нравственность? Наверное, лучше все же этика, чтобы не создавать собою ненужные неудобства другим, критическое мышление, чтобы следовать собственным желаниям, а не чьим-то, ну и совсем чуть-чуть законов, чтобы маргиналы не злоупотребляли собственной свободой в ущерб свободе других.
              0

              А далее мы заменяем все антиматюкальники на крупных ресурсах (вслед за, например, https://m.habr.com/ru/news/t/531334/) и вуаля, мы входим в новое (дивное дивное дивное дивное) светлое будущее! /s

              Only users with full accounts can post comments. Log in, please.