Comments 39
2. Борьба с дискриминацией
В одной из статей, возможно гугла, был мексиканский ресторанчик. И у него были низкие оценки. Но не потому, что он был мексиканский, а потому что просто плохой. Так вот ему выставили повышенные веса, чтобы он ранжировался так же как хорошие. Такое исправление дискриминации меня не устраивает.
Ей ещё попытались объяснить в чём проблема с умозрительным назначением былым «уравнивающего» штрафа, но девушка крепко держалась в комментариях за руководящие столпы, и ничего понимать не хотела.
Свет правильного ответа светился в глазах.
Модели машинного обучения не умеют сочинять или быть предвзятыми, они являются отражениями статистических закономерностей во входных данных. Так что увы.
Проректор-патриот: — Надо взять 10 русских.
Проректор-коммунист: — Надо взять 9 русских и одного еврея.
Проректор-демократ: — Надо взять 5 евреев и 5 русских.
Проректор-сионист: — Надо взять 9 евреев и одного русского.
Ректор: — А вы все, оказывается, националисты.
Все: — Ни фига себе! А кого же, по-твоему, надо брать?
Ректор: — Тех, кто лучше играет на скрипке.
Так ведущий политобозреватель Коммерсанта совершенно искренне мне объяснял, что я просто ничего не понимаю. Что на самом деле, по природе и воспитанию так устроено, что талантливым журналистом может быть только еврей, и вот у них в отдел берут только талантливых журналистов, а если вы все хотите, чтобы среди журналистов был кто-то ещё кто-то, вы должны через госдуму квоту проводить, для всяких русских и оленеводов.
Анекдоты не работают когда в жюри, определяющем кто лучше играет на скрипке оказывается 9 талантливых скрипачей, 10-ым к ним тоже только талантливого возьмут.
Как вы тут захарраситься умудрились?
Забавный факт №1: я вас не минусил.
Забавный факт №2: если вы в ветке про дискриминацию оставляете односложный комментарий, выглядещий как "The MeToo movement is an international movement against sexual harassment and assault.", не ожидайте что кто-то использует менее очевидную интерпретацию ваших слов.
Если Google не следует концепциям Material Design, неужели этим принципам будет следовать?
п.4… Человек сохранит над ними контроль.
А какой именно человек? Явно не любой.
Про автомат Калашникова тоже можно сказать, что человек хранит над ним контроль.
А с остальными пунктами — чистая абстракция и благие пожелания. ИИ — инструмент для выполнения определенных функций. Если «принципы» будут мешать — их отключат.
Скорее всего имеется ввиду, что ИИ не будет позволено жить самостоятельно без контроля над ним человека. Постулат вполне осмысленный и не затрагивает вопроса, кто именно этот человек. Разве что из другого принципа следует, что этот человек должен разделять изложенные принципы.
Впрочем, тоже не более, чем благое пожелание, ибо скорее всего забьют до серьезного инцидента, напоягутся, потом расслабятся и опять забьют. И так по кругу.
Тут идея точно та же. Покажи нам все свои разработки, мы их оценим по нашим размытым и математически неверным принципам, по кторым обвенить можно любого, а если вздумаешь выделываться запретим использовать TensorFlow, который мы хотим протащить в индустриальные стандарты.
Cистемы ИИ обеспечат соответствующие возможности для обратной связи, соответствующих объяснений своих действий и возможных апелляций. Человек сохранит над ними контроль.
Они уже выснили на каком основании альфаго делала «нелогичные» ходы?
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Вот это принципы, а то что Google предлагает это замыливание глаз.
Google опубликовал 7 принципов этики ИИ