Как стать автором
Обновить

Президент Microsoft рассказал, как компания будет бороться с «оскорбительным контентом, созданным ИИ»

Время на прочтение1 мин
Количество просмотров2.9K
Всего голосов 3: ↑3 и ↓0+3
Комментарии29

Комментарии 29

В моё время меня учили, что смотреть надо не на форму высказывания, а на смысл, вкладываемый говорящим. Если Петя говорит Васе, что тот козёл — всё понятно: Вася хочет обидеть Петю. Если Лучкин говорит Максимке, что тот негр — он никого не хочет обидеть, а тупо констатирует факт, и обижаться на это имеет примерно столько же смысла, как обижаться на дождик.

Так что надо не менять не выдачу поисковика, а прекращать обижаться на факты.

вы же понимаете, что современные снежинки не обижаются (впрочем, обижаются тоже) на неправду, а вот на правду очень обижаются.

собственно, так и приходим к тому, что любое высказывание кого-то да обидит. и вот современная тенденция такова, что все всем хотят заткнуть рот: как о покойниках либо хорошее, либо ничего - но даже в хорошем могут найти плохое

В том-то и прблема, что современные снежинки обижаются на всё.

проблема не в том, что они обижаются, а в том, что непременно обижающих затыкают, да ещё так превентивно: никто и не обиделся, а твоё сообщение уже потерли и тебе сделали ай-яй-яй, вплоть до разыменования в ноль.

и потому доходит до смешного: народ учит эзопов язык и матерится похвалами - лишь бы сообщения проходили, а не были потерты автоматикой как оскорбительные.

Эльфизм изобрели на заре инета и он был лишь выражением сарказма существовавшего с древнейших времён

Его пока еще не научились полноценно автомодерировать.

Просто жертвы эльфизма слишком часто принимают его за чистую монету.

А что делать если Вася козел? Это же факт, но Вася чего-то обижается..

Ну, если официальная комиссия выдаст справку с подписью и печатью — то да, а до тех пор это как минимум — мнение, а как максимум — теория.

А почему нельзя иметь и высказывать мнение?

Имхо, все эти обиды должны рассматриваться частным порядком в суде. Если какой-то Вася обиделся на песню Аквариума Козлы, он может пойти в суд и добиться компенсации и личных извинений от Гребенщикова, если обоснует и докажет, что была цель оскорбить его. А вот запрещать песню, потому что кто-то может обидеться, точно не стоит. И никакие справки не нужны при этом.

И никакие справки не нужны при этом.

Это вообще-то сарказм был, как ответ господину, задавшему вопрос.

Сарказм был и в вопросе, так что ответка понятна. А причина в манипулировании словами "смысл" и "факт". Т.е. сперва потрудитесь установить общепринятый, т.е. всеми принятый, факт. "Возможно" как раз то что "Петя говорит Васе, что тот козёл" это и есть факт а не "Вася хочет обидеть Петю". Этот, уже второй, факт, который надо сперва установить так же как и первый. Обычная практика оскорбить человека, напасть на человека прикрываясь фактами и, еще хуже, подтасовывая их. И еще насмехаться над ним: чего ты, милый, обижаешься? - ты же козел и есть, я просто говорю по правде, а на правду грех обижаться. Вот потому-то и пошли ниже игры с этими "а если". Вот сами и постарайтесь теперь, господин, не обижаться. Хотя, отдельно говоря, обижаться вообще-то личное право, личный мир, куда залезать с чужими хоть с уставом, хоть с верой, минимум некультурно а максимум ..

Проблема в том, что (в данном конкретном случае) факты ещё установить надо. Например, "Петя говорит Васе, что тот козёл" — это точно факт, все видели. А то что Вася Пете камешек в бутсы подложил (и тот из-за этого споткнулся и физию расквасил), что только Коля видел (и потом Пете рассказал, из-за чего Петя и пошёл разборки устраивать) — это истина (которая объективная), но не правда (с точки зрения наблюдателей — они ж этого лично не видели). Вот я про то и говорю, что то, что видно окружающим — не всегда истина.

А если кто-то сказала что Вася - гей?

Меняет ли что-то если сказать что он - боевой п..с?

А меняет ли что-то если Вася реально гей (и не пропускает всех гей-прайдов и так далее)? А если говорящий скажет что он так думал?

А назвать Васю - Василисой?

А если Васю назвать настоящим коммунистом?

...в США?

Что из этого будет оскорблением?

Не надо исключать такого контекста, что Вася - жвачное млекопитающее существо, относящееся к семейству полорогих...

Факты можно излагать по-разному. Можно сказать что "Вася допустил ошибку по невнимательности", а можно сказать "Вася - еб****й м****** с руками из ж***". Факты в основе могут лежать одни и те же, а форма разная, и реакция на нее будет тоже разная.

Некоторые слова в некоторых сообществах однозначно считаются оскорбительными. Их используют когда хотят обидеть или задеть человека. Поэтому использование нейросетью этих слов будет звучать оскорбительно. Пусть даже сама постановка несколько странная, и нейросеть вообще не может иметь каких-то намерений и мотивации кого-то обижать. Причем перечень обидных слов может меняться от страны к стране и от культуры к культуре, и какие-то слова безобидные в одном обществе будут страшным оскорблением в другом.

С неграми очень показательно как раз, как в разных сообществах оно меняется на противоположное. В США, как я понимаю, "негр" оскорбительно, а "черный" - нормально. А в РФ наоборот, у нас слово "черный" имеет негативные коннотации (впрочем обычно не в сторону именно негров, у нас их мало слишком, а в сторону всяких южных народов), а "негр" - нейтральное, просто название расы.

И это все учитывать придется.

Можно сказать что "Вася допустил ошибку по невнимательности", а можно сказать "Вася - еб****й м****** с руками из ж***".

«А я ему и говорю — „Рядовой Петров, держите паяльник аккуратнее, пожалуйcта! Неужели не видно, что капли расплавленного припоя падают вашему боевому товарищу прямо за шиворот?“»

А что на счет оскорбляющихся говорит психология?

Кмк, зачастую оскорбляющий даже не ставит перед собой цели кого-то оскорбить.

Контент созданный ИИ? Контент созданный клавиатурой, ручкой, карандашом... Т.е. опять борьба, грубо говоря, с надписями на заборе?!

Что-то мне при всех этих разговорах о цензурировании ИИ, чтоб вдруг никто не оскорбился, вспоминается повесть Тэда Чана "Жизненный цикл программных объектов". Читается тяжеловато (товарищ вообще довольно нестандартно мыслит, рекомендую), но по-своему она визионерская, написана до хайпа по ИИ и нейросетям. Я имею в виду, что кто бы и что ни цензурировал, а все равно все сведется к одному - запросу и проекции человеческих желаний и инстинктов на виртуальный мир.

Спойлер, кому лень читать

Повесть о программистах, которые создают детскую игру с забавными питомцами в неком подобии виртуальной метавселенной, которые некоторое время самообучаются, чтобы потом становиться компаньонами с искусственным интеллектом для юзеров. Очень много внимания в повести уделяется как проблемам в разработке (вечно ИИ то подхватит чей-то мат в процессе обучения, то начинает играть в непристойные игры), так и личным отношениям героев, их психологии, выгоранию и т.д. В процессе разрабы уже не просто привыкают к виртуальным петам, но и относятся к ним как к живым и мыслящим существам. Ближе к финалу (не помню, то ли конкретные питомцы героев не идут в прод, то ли выходит новая версия игры с миграцией на новые серверы) разрабы метавселенной уже практически не могут развивать ее дальше и зарабатывать. И тут им приходит предложение от студии для взрослых, которая, намекая на финансовые трудности героев, предлагает сделать из их виртуальных петов что-то типа аватаров для порно-игр и прочей теледильдоники. Идет много разговоров и мыслей об этике такого использования и свободе личностей виртуальных ИИ-персонажей исследовать свою интимность. В конце героиня зовет своего питомца разучивать новое "домашнее задание".

Меня оскорбляет предустановленный "ИИ" в Вин12. Как глава Микрософт намерен с этим бороться?

А вы, простите, афронегр или, может, гей?

Может он себя ощущает афронеграгеем? Этого что - теперь недостаточно? Вы еще скажите что пол самостоятельно выбирать нельзя?

Меня оскорбляет такое обилие вопросов с вашей стороны, это токсично и абьюзивно.

Это аппроприация чужой идентичности. Это даже страшнее, чем небинарную персону назвать пидарасом.

Ну и перепись оскорбившихся в комментах. Я точно на Хабре?

Борьба с "оскорбительным" контентом обязательно будет порождать свой эзопов язык. Будет вечная борьба. Впрочем, и вечный хлеб для борцов за чистоту помыслов. :D

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости

Истории