Сотрудники Amazon, Google и Microsoft протестуют против сотрудничества с военными и полицией

    Работники Amazon, Google, Microsoft взбунтовались. Их возмутил факт сотрудничества с Петагоном, антииммиграционными службами и органами правопорядка, поэтому руководству техногигантов пришлось пойти на поводу у этических соображений. Это лишило компании жирных государственных контрактов.

    Хабр — не место для политики, но место для обсуждения этичности тех или иных вопросов. Давайте разбираться, что во взглядах работодателей не понравилось сотрудником корпораций.



    Microsoft, Saleforce и разлучение нелегальных мигрантов с детьми


    В США полыхает скандал: общественность и СМИ критикует жёсткую политику администрации президента страны Дональда Трампа по отношению к мигрантам. Стратегия «нулевой толерантности» предусматривает назначение максимально возможных по закону ограничений и санкций, на которые не влияют какие-либо смягчающие обстоятельства. Власти США используют такую политику по отношению к незаконно попавшим в страну мигрантам и разлучают их с собственными детьми. Пока взрослые находятся в изоляторах, детей помещают в специальные детские лагеря. 20 июня под давлением правозащитников и журналистов Трамп всё-таки подписал указ о прекращении практики разлучения семей нелегальных иммигрантов.

    Тем не менее до подписания указа, когда у родителей ещё отбирали детей, правозащитники действовали. На фоне скандала под раздачу попали несколько корпораций. Microsoft критиковализа сотрудничество с Иммиграционной и таможенной полицией США (ICE). Против компании выступили собственные же сотрудники.

    Поводом послужило то, что компания в январе 2018 года сообщила о совместной работе с властями в области внедрения технологий распознавания лиц. Тогдк в пресс-релизе Microsoft утверждала, что “новая технология позволит применять сервисы облачной идентификации и доступа, обслуживая как сотрудников Иммиграционной и таможенной полиции США, так и граждан. Это поможет сотрудникам быстрее принимать решения. Azure Government поможет им использовать возможности глубинного обучения для улучшения технологии распознавания и идентификации лиц”.

    В знак протеста более 300 сотрудников подписали открытое письмо, отказавшись быть соучастниками в разделении детей и их родителей. Позже глава Microsoft Сатья Наделла заявил, что сотрудничество касается только поддержки электронной почты, календаря и документооборота.

    26 июня стало известно, что против своего работодателя по той же причине выступили сотрудники Salesforce.com, компании-разработчика одноимённой CRM-системы. 650 человек подписались под обращением к главе компании Марку Бениоффу с критикой контрактов с погранично-таможенной службой: «Учитывая бесчеловечное разлучение детей с родителями, которое сейчас происходят на границе, мы считаем, что наша основная ценность равенства находится под угрозой, и что Salesforce должна пересмотреть контракты со службой и высказаться против работы с ней». Служба использует продукт от Salesforce.com для найма сотрудников и другой работы, которая не обязательно прямо касается этой темы.

    Из-за существующей проблемы активист по имени Sam Lavigne собрал на основе открытых в LinkedIn данных список информации о людях, работающих в ICE, и опубликовал его на Github, сообщив об этом на Medium. Оба ресурса удалили эти данные.

    Amazon и полиция


    Американский союз защиты гражданских свобод (ACLU) потребовал от Amazon прекращения работы над системами распознавания лиц. ACLU начал расследование после появления информации о том, что компания предлагает свою разработку Rekognition полиции и любым частным компаниям.

    Технология позволяет определять, отслеживать и анализировать лица, а также определять, чем человек занят — ведёт ли автомобиль или играет в футбол. Всё происходит в реальном времени. В организации уверены, что эта технология повлияет на множество людей и позволит следить за ними, нарушая их права. С её помощью можно будет узнать, когда и к какому врачу пошёл человек, был ли он в церкви, участвовал ли в митинге.

    Одна из причин, по которойнекоторые организации считают неприемлемым использовать для постоянной слежки за людьми ИИ, — это результаты испытаний, показывающих, что существующие системы чаще относят к преступникам людей с отличного от белого цветом кожи. По мнению ACLU, “люди должны иметь возможность просто гулять по улице, пока власти не следят за ними”.


    Активность правозащитных организаций оказала влияние. Как и в случае Microsoft, против передачи технологии полиции высказались сотрудники Amazon. В открытом письме главе Amazon Джеффу Бозосу более они также припомнили, что в облаке Amazon Web Services арендует серверы компания Palantir, которая помогает Иммиграционной и таможенной полиции США. В дополнение к заморозке сотрудничества сотрудники призвали создать меры открытости, чтобы в будущем было понятно, какие правоохранительные органы пользуются сервисами Amazon.

    Совместная работа Amazon и полиции действительно сворачивается. В Орландо одно из нескольких полицейских управлений, тестирующих систему Rekognition, не будет продлевать пилотный проект.

    Основатель компании Kairos, занимающейся технологиями распознавания лиц, уверен, что в США такую систему нельзя вводить повсеместно. По его мнению, технология серьёзно повлияет на жизнь людей отдельных рас, а кроме этого, сам факт её работы будет вторжением в частную жизнь граждан. Он напоминает о складывающейся в Китае системе социального кредита. Такой же «рейтинг» в США может быть предвзятым, что приведёт к арестам невиновных и, возможно, к их убийствам сотрудниками правоохранительных органов: «В социальном климате, охваченном протестами и беспокойством по поводу непропорционального содержания в тюрьмах и неправомерных действий полиции, привлечение программного обеспечения, которое явно не готово к гражданскому использованию в правоохранительной деятельности, не сможет служить гражданам и лишь вызовет новые волнения».

    7 принципов этики ИИ от Google


    Google заключила контракт с Министерством обороны США по разработке алгоритмов компьютерного зрения в рамках Project Maven. Технология концентрируется на разработке машинного зрения с применением нейросетей, что позволит распознавать изображения с военных дронов для повышения эффективности аналитиков американской армии. Собственные сотрудники начали собирать подписи против разработки военных технологий и увольняться из компании.

    Другая группа инженеров Google удивила своих менеджеров и просто отказалась работать над системой обеспечения безопасности с помощью «воздушного зазора». Разработка подобной системы позволила бы Google побороться за интересные государственные контракты: для получения сертификации для работы с чувствительной информацией спецслужб компании нужны физически изолированные системы. В облаках Amazon и Microsoft Azure подобные технологии уже есть. Хотя подобное важно в том числе и для финансовых организаций, программисты не были уверены, что разработка не предназначена для ведения войны, и бойкотировали проект.

    Уступки руководства Google заключались в оглашении набора принципов в области разработки искусственного интеллекта, которые компания обещала придерживаться, а также списка технологий, которые неприемлемы для искусственного интеллекта Google:

    • Технологии, которые причиняют или могут причинить общий вред;
    • Оружие или другие технологии, основная цель или осуществление которых состоит в причинении или непосредственном облегчении вреда людям;
    • Технологии, которые собирают или используют информацию для наблюдения, нарушают международно признанные нормы;
    • Технологий, цель которых противоречит общепризнанным принципам международного права и прав человека.

    Кроме того, Google покинет Project Maven после 2019 года, когда завершится контракт.

    Технологии двойного назначения


    Многие технологии XX века, доступные потребителям, были изначально разработаны в военных целях. Встречающийся на кухне сегодня тефлон в прошлом использовался в космических кораблях, сублимация продуктов развивалась благодаря необходимости кормить солдат, а спутниковую навигацию создавали для военных.

    Понятие «технологии двойного назначения» появилось в 1980-х, и сейчас их экспорт регламентируется особым законодательством во многих странах. К такой продукции относят то, что применяется в гражданских целях, но может быть использована в военных. Робототехника, биотехнологии, материалы и способы их обработки, электроника, лазеры, навигация – разработки в этих и многих других направлениях ведутся в рамках государственных заказов, подстёгивая научно-технический прогресс. Как показывает история, иногда корпорации подвергаются критике со стороны общественности и собственных сотрудников, что заставляет их пересматривать позиции на тему работы с властями.

    Позиция Amazon была озвучена в заявлении компании: «Качество жизни сильно ухудшится, если мы поставим новые технологии вне закона просто потому, что некоторые люди захотят их запрета. Представьте, что люди не смогут купить компьютер, потому что его можно использовать в незаконных целях?»

    Главы некоторых компаний выступают с критикой политики «нулевой толерантности». Против неё высказался Тим Кук: «В Apple работают множество иммигрантов. В рамках программы DACA (Deferred Action for Childhood Arrivals, программа, защищающая от высылки из страны иммигрантов, попавших в США в детском возрасте) у нас работают 300 человек. Я выступаю за них».

    Последние конфликты и даже забастовки сотрудников лишь отражают всё более сильную социальную тревогу от сотрудничества компаний-техногигантов и государственных организаций. Не только энтузиасты технологий, но и обычные люди в ужасе наблюдают, насколько хорошо развита инфраструктура наблюдения в Китае. Отличия в культуре Западной цивилизации заставляют вырабатывать нормы общественного контроля за распространением технологий слежки.

    Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.

    Этично ли работать на правительство, полицию и армию?

    • 35,0%Да, не надо останавливать прогресс134
    • 33,2%Да, кроме разработки технологий, предназначенных для убийства людей127
    • 31,8%Нет122

    Средняя зарплата в IT

    111 111 ₽/мес.
    Средняя зарплата по всем IT-специализациям на основании 6 844 анкет, за 2-ое пол. 2020 года Узнать свою зарплату
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 145

      0
      Извините: борьба жабы с гадюкой.
        0

        Вы имеете ввиду, что полиция — это жаба, а сотрудники корпораций — гадюка? Или жаба — это сами корпорации? Не ясно.

          –1
          Корпорации vs Государства.
            +1

            А разве речь о борьбе корпораций с государством? Речь о протесте сотрудников, что корпорации с государством сотрудничают. В областях, в которых сотрудники считают это неприемлемым.

              0
              Это ни о чем. Показательным было бы, если б они оттуда ВСЕ уволились.
                0

                Показательным для вас? Так они не вам хотят что-то показать, а руководство убедить. Судя по статье, в некоторых случаях сработало.

          0
          Чужой против хищника.
          +3
          В США полыхает скандал: общественность и СМИ критикует жёсткую политику администрации президента страны Дональда Трампа по отношению к мигрантам. Стратегия «нулевой толерантности» предусматривает назначение максимально возможных по закону ограничений и санкций, на которые не влияют какие-либо смягчающие обстоятельства. Власти США используют такую политику по отношению к незаконно попавшим в страну мигрантам и разлучают их с собственными детьми. Пока взрослые находятся в изоляторах, детей помещают в специальные детские лагеря. 20 июня под давлением правозащитников и журналистов Трамп всё-таки подписал указ о прекращении практики разлучения семей нелегальных иммигрантов

          Опять Трамп виноват. Правда фотки-доказательства были сделаны в 2014 году, при Обаме, но Трамп виноват. Условия там не очень, но забирают не просто детей от родителей, а если есть подозрение, что дети не родные. И были отчеты в 2014 году, но это кидало тень на Нобелевского лауреата по предвыборным обещаниям, потому ее замяли и ведущие не рассказывали о детях со слезами на глазах (что уже пропаганда, а не новости).

          Исходя из вступления мне данная проблема (описанная далее в статье) кажется сильно надуманной. Ну или других тем больше нет, а деньги пилить гранты получать охота и в новости попадать. Вроде последнего поступка Гринпис, которые перекресток в Берлине желтой краской покрасили.
            –3
            Не этично в одном вопросе объединять полицию и армию, да еще вдобавок правительство. К тому же не уточняя, к какой стране это относится.
              +6
              А есть разница силовикам какой страны помогать?
                –1
                Есть!
                  0
                  Для оппонентов:
                  1- мир не делится на черное и белое, как нет абсолютно плохого и хорошего.
                  2- «Народ, не желающий кормить свою армию, вскоре будет вынужден кормить чужую.» Н. Бонапарт
                    +4
                    Я смотрю японцы очень страдают, кормя американскую армию :).
                      –2
                      Ну, будем честными, немало японцев протестует против присутствия американских частей, или вот недавно хотели полеты запретить. Про изнасилования военными местных жительниц тоже проскакивала статистика…
                        +4
                        Процент больше, нежели у местных насильников?
                          0
                          При чем здесь больше или меньше? Не было б американцев, этих преступлений тоже бы не было.
                          Для Mabusius: японцы не заметно, что испытывают удовольствие от содержания армии гайдзинов.
                            +1
                            Это не так: я тоже думал, что на Окинаве их с большим трудом терпят, но оказалось, что ситуация куда более сложная. Американская армия — один из основных работодателей региона, который даёт существенный процент и рабочих мест, и ВВП префектуры. Нельзя сказать, что их «содержат», там улица с двусторонним движением, и если они в теории уйдут, непонятно, чем освободившуюся массу людей будут занимать.

                            А процент преступлений там и вправду крайне низкий, потому что по сути там базируется в основном офицерский состав, причём не стройбат какой-нибудь, а в основном авиация, т.е. ребята в целом куда лучше среднего по больнице, и преступления единичны (но резонансны, да).
                      +2
                      >«Народ, не желающий кормить свою армию, вскоре будет вынужден кормить чужую.» Н. Бонапарт
                      А может дешевле выйдет? Вы пробовали или просто пытаетесь выглядеть умно?
                        0
                        А может дешевле выйдет? Вы пробовали или просто пытаетесь выглядеть умно?
                        Никогда такого не было и вот опять
                          0
                          Видимо шило на мыло: www.kommersant.ru/doc/794495
                          Но интереснее всего то, что заметного влияния колониализма обнаружено не было: ни обладание колониями, ни попадание под власть колонизаторов практически никак не сказывались на экономическом росте. Получается, что если европейцы и угнетали другие страны, то не больше, чем это делали до них местные правители. Не было выявлено и отличий между влиянием различных колониальных империй (Британской и Французской).
                            +2
                            Конечно, конечно. И опиумные войны, и геноцид индейцев, и торговля рабами — это ничем не примечательные события, которые незаметно прошли для народов…
                              +2
                              Если быть честным, то рабов, которых везли в США, обычно не ловили в пампасах, их чаще всего продавали свои же вожди.
                                0
                                Согласен, это полностью оправдывает тех, кто их покупал и увозил к себе на плантации. Что же делать, если индейцы в неволе дохли и плохо работали?
                                  0
                                  Да нет, конечно. Я просто к тому, что всё было добровольно и с песней, возможно даже для продаваемых, кто знает, может, на месте они под нож предназначались. И я уверен, что и сейчас в Африке можно купить судно рабов, только подороже и нелегально: ножи не котируются, придётся стрелковку отдавать. Кстати, с индейками ещё веселее: ввоз чернокожих рабов — это такой своеобразный акт гуманизма, по крайней мере, так подавалось. Но, в конце же концов, на самим белым людям работать?! Как я люблю эту традицию доброты за чужой счёт…
                          0
                          Насколько знаю историю, наемные войска зачастую не так уж и хорошо воевали, да и сторону конфликта иногда меняли.
                          И насколько я понимаю эту фразу, речь идет не о наемниках, а об подчинении др. гос-ву после военного захвата.

                          Может хоть кто-то объяснить в чем проблема работы на (в) силовые структуры?
                      0

                      Есть разница. Обычно силовикам чужой страны в своей стране — ты помогать не обязан, а вот помощь своим — некоторые страны регулируют законом, в том числе и уголовным.

                        0
                        Ну для меня есть. Полиции России или США я бы помогать не стал. Полиции Швейцарии вполне.

                        Хотя опять же зависит и от того, в чём конкретно должна заключаться помощь. Сиcтему распознавания лиц я бы никому делать не стал, а вот скажем улучшить какую-нибудь систему вызова неотложной помощи наверное бы взялся.
                          0
                          А вот фигушки, есть такая система АДИС для скорой помощи (учет вызовов, данные пациента).
                          Одно время замещал админа в отпуске, так вот люди жаловались, что их персональные данные (номер телефона, адрес) фиксировались в системе (причину, правда не знаю, возможно алкоголики, боящиеся что про них узнает работодатель), требуя удалить и грозя судом прокуратурой и прочим.
                          Был бы человек, а статья найдется.
                            0

                            Ну тут уже надо смотреть на конкретные требования к системе и их обоснованность.

                              0
                              Там достаточно просто, звонок пациента, сотрудница скорой слушая пациента, параллельно вводит в систему адрес и симптомы. Как только получены данные, хотя бы в общих чертах, она по громкой связи вызывает нужную бригаду. Уж после чего уточняет остальное. Грубо говоря система учета, по которой можно узнать, что произошло.
                                0

                                Ну например вопрос в том зачем конкретно хотят хранить в системе адрес и телефон. И нельзя ли обойтись как-то без этого. Но как я уже писал выше это детали.

                                  0
                                  Вызов скорой помощи, адрес (точно знать куда ехать) и телефон (звонить в случае с определением адреса). Это грубый подход, т.к. тут еще и контроль идет
                                    0
                                    Ну смотрите, если по хорошему, то именно для оказания скорой помощи адрес и телефон надо держать ровно до того момента как скорая помощь прибыла на место. Потом они уже в общем-то не нужны и их можно стереть.
                                    Если же мы говорим о контроле, отчётности, вопросах оплаты и прочих подобных вещах, то тут надо решить действительно ли это всё так необходимо и нельзя ли это сделать без хранения ПД. Я бы сказал что это возможно, но тут нужно смотреть конкретные требования.
                      +9
                      зато в стране скреп никто не протестует, ни сотрудники каспера против сотрудничества с ФСБ, ни сотрудники роскомпозора, ни сотрудники яндекс и прочих майл-ру спам сервисов.
                      Духовность еп-те однако
                      а вокруг красота — не видать ни черта
                      а вокруг — благодать — ничерт ане видать
                      • НЛО прилетело и опубликовало эту надпись здесь
                        +1
                        Имхо, лицемерно вот так вот выступать. Все против сотрудничества, пока проблема не коснулась лично их. Как только мигрант нанесет вред «митингующему», он сразу поменяет свою точку зрения. И технологический процесс не остановить, если не амазон сделает и внедрит глобальное распознавание, так другая компания. Глупо отказываться от контракта. Джина назад в бутылку не вернешь. Да и в следствии военных разработок появится масса нового, в том числе и для коммерческого сектора. Эо больше походит на пиар акцию, желание утвердится — «ая вот голосовал, а я вот против». Глупо все это. Спецслужбы все равно получат свое.

                        Но вот что действительно интересно и непривычно — люди чуть что раз — и подняли бунт. В российских компаниях да и обществе такое не прокатило бы
                          0
                          Имхо, лицемерно вот так вот выступать. Все против сотрудничества, пока проблема не коснулась лично их. Как только мигрант нанесет вред «митингующему», он сразу поменяет свою точку зрения.

                          Это не лицемерие, а адекватная общественная позиция. В США и Европе морально-этические проблемы принято анализировать и учитывать, так как они «предохранителем» в долгосрочной перспективе.
                          Вот мы сейчас и наблюдаем, как этот предохранитель действует.
                            0
                            Но технологии все равно тормозить глупо. Не одна компания, так другая. А «предохранитель» должен быть не постфактум, а устранить проблему в «первоисточнике», что бы «первоисточник» не генерировал периодически ассортимент проблем
                              0
                              Ну так технологии никто и не тормозит)) «Первоисточнику» проблем очень чётко очертили границы. И периодически в них тыкают носом.
                              Я и не спорю, что силовики так или иначе эти технологии получат, но будут их использовать гораздо аккуратнее и осторожнее.
                                0
                                Тут еще есть нюанс — так люди знают, что это делают, и кто делает, и что это есть. И эти технологии не теряются в спецаппарате, и доступны обществу. А если силовики у себя запилят — это будет в тихую, и никому не доступно. Что гораздо хуже.

                                Нужно устранять источник болезни, а не бороться с ее внешним проявлением
                              +1
                              Да честно говоря, с анализом тут так себе. Ситуация откровенно неоднозначная, но выступают только те сотрудники, которые против. Ну потому что если за — молчи, целее будешь, а на зарплате всё равно никак не отразится. Это в целом печальная тенденция, ни к чему хорошему оно не приведёт.
                                0
                                Это не совсем морально-этические конфликты
                                Есть потребность в дешевой рабочей силе, с одной стороны, и проблемы, которые эта дешевая рабочая сила с собой несет, с другой. США до сих пор расхлебывает последствия рабства и расовой сегрегации.
                                Еще, беженцы несут свою культуру и очень тяжело ассимилируются. В тех же Штатах и так хватает национальных банд — мексиканцев, итальянцев и т.п. Заселять свою территорию еще и более дикими племенами — неразумно.
                                • НЛО прилетело и опубликовало эту надпись здесь
                                  +1
                                  Не думаю, что военные тут что либо принесут, эти технологии уже в коммерции. В ИТ бюджеты разработок, риски и оборачиваемость доступна бизнесу, не вижу чем тут военные могут помочь. А вот вопрос об этике очень важен, amazon делает деньги на масс-маркете, а потом собирается расходовать их на технологии, которые по этому масс-маркету вполне себе ударят. Это вполне себе повод подумать, имеет ли право такая коммерческая компания ввязываться в игры на два фронта. И способно ли общество сохранить деверсифицированное мировосприятие, здоровую критику и давление низов. Повсеместная доступность СМИ и интернета уже позволила поляризовать мнения больших групп людей и обособить их в рамках узких концепций, даже без каких-то внешних ограничений. Когда до массовых решений «в одну кнопку» дойдут исполнительные органы может стать совсем грустно.
                                    0
                                    Как не печально, имхо, никто так поступать не помешает. Просто не афишировать, а работать и получать свои плюшки. Добавить там NDA, закрытые подразделение с разделением задач и т.д. И общественность будет не сном не духом. Даже рядовой сотрудник может доконца не понимать, что будет в итоге. Как не печально, но колесо не остановить. Это как нож — можно приготовить еду, а можно и убийство. А самосознание и порядочность людей — я в это не верю
                                  +1
                                  Хабр — не место для политики, но место для обсуждения этичности тех или иных вопросов.

                                  Только мне кажется, что такая фраза — уже политика?
                                    0
                                    Этично ли работать на правительство, полицию и армию?

                                    Я бы добавил пункт ответа «зависит от характера работы, а также конкретных правительства, полиции и/или армии, их действий и моральности». Впрочем, тогда есть риск, что этот ответ будет слишком очевидно-доминирующим.
                                    В первом пункте, про прогресс, комментарий про прогресс никак на мой взгляд не связан с задаваемым вопросом.
                                    Второй пункт какой-то недостаточно широкий. А если это не для убийства людей, а для создания государства-тюрьмы, например? Да и мало ли чего ещё неэтичного можно найти/придумать…
                                    Третий пункт, ну, для человека анархичных взглядов, наверное, будет актуален… Но не для любого.
                                      0
                                      Это лишило компании жирных государственных контрактов.

                                      За такие деньги этим займутся другие малоизвестные компании и корпорации что создаст для отказавшихся компаний новых конкурентов. Леваки сами себе же вредят.
                                        +1

                                        Леваки — это сотрудники корпораций? А в чем вред? Ну будет ещё один работодатель с конкурентоспособными зарплатами — чем это плохо для наших сотрудников Гугла?

                                          +2

                                          Слово "наших" — лишнее. Гугл-клавиатура считает себя самой умной :(

                                        +1
                                        … это результаты испытаний, показывающих, что существующие системы чаще относят к преступникам людей с отличного от белого цветом кожи
                                        Результаты испытаний не коррелируют со статистикой преступлений по цвету кожи?

                                          0
                                          Даже если корреляция есть, то во первых где гарантия что она не ложная? А во вторых даже если у нас есть нормальная корреляция, то какой нам от неё толк в данном конкретном случае? Тут чтобы система нормально работала нужна не просто корреляция, а причинно-следственная связь.
                                            +1
                                            Тут чтобы система нормально работала нужна не просто корреляция, а причинно-следственная связь.
                                            А ее никто не признает, ибо «расизм».
                                            Более того, по факту подобная система в США, которая анализировала данные и выдавала заключения о возможных рецидивах и не знала «цвет кожи», а исходила из прочих данных.
                                            Однако ее тоже обвинили в расизме.
                                              0
                                              А ее никто не признает, ибо «расизм».

                                              То есть вы считаете что существует причинно-следственная связь между цветом кожи и количеством совершаемых преступлений? И что скажем чернокожие при прочих равных всегда будут совершать больше преступлений чем белые? Серъёзно?

                                              Более того, по факту подобная система в США, которая анализировала данные и выдавала заключения о возможных рецидивах и не знала «цвет кожи», а исходила из прочих данных.

                                              А можно об этом поподробнее?
                                                0
                                                Вообще да, так и будет из за культурных особенностей. Взять ту же итальянскую мафию куда они стараются брать только итальянцев. Да и вообще любые этнические группировки.
                                                  0

                                                  del

                                                    0
                                                    Так это как раз типичный пример неправильного мышления. У вас есть корреляция с кожей и причинно-следственная связь с участием в этнической группировке. И если вы будете рассматривать именно цвет кожи, то у вас будет ложноположительное срабатывание на негров не состоящих в этнических группировках. И ложнонегативное на белых неонацистов и куклуксклановцев.
                                                      +1
                                                      Ну скажем так. Видя чувака с итальянским лицом и в спортивном костюме я бы трижды подумал нужно ли мне с ним спорить если он «бузит». Потому что в случае с ним вероятность того что он входит в какую то семью больше. А вот если бы такой на работу пришел устраиваться — проблем бы не было, мафия работу программистом, например, не ищет. То же и с чернокожими, вероятность того что он вырос в гетто — выше, и ну его с ним связываться. Или в России, видя человека с признаками гопника или лицо кавказской национальности я тоже предпочту не связываться если есть такая возможность.
                                                        0
                                                        Ок, я наверное не совсем корректно выразился и «неправильное мышление» это не совсем подходящий термин. И да, это всё зависит от ситуации и когда «цена» за неправильный прогноз всего лишь пара лишних метров ходьбы, то тут можно забить на «рациональное мышление» и просто перестраховаться.
                                                          +1
                                                          Тут вопрос какие у нас есть данные. Например этническая принадлежность очевидно будет иметь меньший вес чем место получения образования, или круг знакомств, но тем не менее если данных мало то для статистической оценки вполне логично использовать.
                                                    0
                                                    То есть вы считаете что существует причинно-следственная связь между цветом кожи и количеством совершаемых преступлений?

                                                    В общем-то есть, но связь непрямая, а через «посредников». Дело в положительной дискриминации других рас — им идут во многом навстречу в ущерб реальным данным, например, квотами или социальной помощью. Как результат человек просто не желает или даже не умеет справляться с проблемами и скатывается вниз по социальной лестнице. Многие активисты из самих афроамериканцев говорят о вреде данного подхода, когда всё приносят на блюдце, и отмечают качественное ухудшение социального статуса афроамериканцев. И это не исключительно их проблема, такое было бы с любой расой в подобной ситуации. И потому ответ на второй вопрос:
                                                    И что скажем чернокожие при прочих равных всегда будут совершать больше преступлений чем белые?

                                                    нет, не будут. Но тут те самые благие намерения, которыми выстраивается дорога в ад.
                                                      +1
                                                      То есть вы считаете что существует причинно-следственная связь между цветом кожи и количеством совершаемых преступлений?
                                                      Нет, вы совершаете ту же ошибку, которую совершают те, кто обвиняют программу в расизме.
                                                      Я считаю, что статистика преступлений может коррелировать с цветом кожи. Но так как корреляция != следствием, то это не означает, что я дискриминирую кого-то по цвету кожи, вероисповеданию или еще чему.
                                                      Скорей всего это означает, что у людей с цветом кожи, отличном от белого, в данной стране существует куча проблем, что отражается в статистике преступлений.
                                                      И если программа анализируя соц.данные и не зная цвета кожи выдает подобные предсказания, то это не расизм, это, блин, явное указание на проблемы.
                                                      А общество вместо решения проблем начинает погребать ее еще глубже под предлогом борьбы с расизмом.
                                                        0
                                                        Если программа делает свои прогнозы опираясь на корреляцию между цветом кожи и частотой совершения преступлений без существования доказательств причинно-следственной связи между этими параметрами, то это и есть самая настоящая дискриминация и расизм.
                                                        Если программа не зная цвета кожи чаще указывает на негров, то никакого расизма здесь естественно нет. И мне всё ещё интересно узнать кто её иогда в расизме обвиняет.
                                                          0
                                                          Сами прогнозы были так себе при этом, однако пример тут
                                                            0
                                                            Ну там сама фирма утверждает что цвет кожи программой не учитывается. Но не факт что это так и поскольку алгоритм неизвестен, то и проверить мы это точно не можем.
                                                            И если бы программа выдавала более менее корректные прогнозы, то лично для меня тема была бы закрыта. Но поскольку она часто ошибается и, что самое главное, в два раза чаще получает ложнопозитивные прогнозы для негров по сравнению с белыми, то там явно что-то не так.
                                                            Но лично мне не хватает исходных данных чтобы назвать это дискриминацией. Но и исключить я её не могу.
                                                              0
                                                              Но поскольку она часто ошибается и, что самое главное, в два раза чаще получает ложнопозитивные прогнозы для негров по сравнению с белыми, то там явно что-то не так.
                                                              Программа не предсказывает преступников, программа должна по максимуму оградить общество от рецидивов УЖЕ совершивших преступления и этим противопоставивших себя обществу. Так что по факту нужно проверять статистику о количестве рецидивов среди тех, кому назначили меньшее наказание — насколько промахивается она там.
                                                              После чего подумать, а может более жесткое наказание будет являться большим стопором — так как при рецидиве человек получит ещё больше.
                                                              Так вот только после этого можно судить — ошибается ли программа, либо мы,, возможно, наблюдаем корреляцию между получением строгих наказаний и уменьшением рецидивов.
                                                              Но для этого нужно понимать задачи программы и думать логически.
                                                                0

                                                                При всём при этом в США как минимум првозглашается презупция невиновности и что лучше отпустить 100 преступников чем наказать одного невиновного.
                                                                Поэтому надо сначала определиться что важнее: максимальная защита общества или минимальное наличие "наказанных" невиновных. Если первое то никаких претензий к программе нет. А вот если второе…

                                                                  0
                                                                  О, а вот и демагогия подошла…
                                                                  Программа не определяла виновность. Вы — выдумываете аргументы и подменяете факты.
                                                                  Виновность определял суд. Точка.
                                                                    0
                                                                    Как ьудто вы не поняли что я имел ввиду. Определял то суд, но он то вроде бы хотя бы частично опирался на прогноз программы и следовательно её прогноз тоже играл роль.
                                                                    А если суд на программу не обращал абсолютно никакого внимания, то тогда действительно обсуждать всё это можно только гипотетически.
                                                                      0
                                                                      Определял то суд, но он то вроде бы хотя бы частично опирался на прогноз программы и следовательно её прогноз тоже играл роль.
                                                                      Правда? Что ж, вы тогда легко пойдете в ту статью и приведете пруф своим словам. Не правда ли?
                                                                      Еще раз, подчеркну ваши слова:
                                                                      Суд определял вину подсудимого опираясь, в том числе, на прогноз программы, что недопустимо с точки зрения презумпции невиновности

                                                                      Я жду вашего возвращения и признания в том, что вы не умеете правильно анализировать текст и с памятью у вас не очень.
                                                                        0

                                                                        Извините, но давайте вы сами сначала научитесь правильно анализировать текст и перестанете додумывать за меня вещи, которые я не писал.

                                                                          +1
                                                                          Определял то суд, но он то вроде бы хотя бы частично опирался на прогноз программы и следовательно её прогноз тоже играл роль.
                                                                          Вы этого не говорили? Нет? Правда?
                                                                          И вот этого до?
                                                                          При всём при этом в США как минимум првозглашается презупция невиновности и что лучше отпустить 100 преступников чем наказать одного невиновного.

                                                                          Итак, я жду от вас ответа, что именно делала программа и как ее использовали.
                                                                            0
                                                                            Извините, но эти два высказывания вместе абсолютно не обязательно означают что «Суд определял вину подсудимого опираясь, в том числе, на прогноз программы, что недопустимо с точки зрения презумпции невиновности». Конечно при желании это можно так интерепретировать, но тут уж претензии не ко мне.

                                                                            П.С. И даже если я неправильно указал какую-то деталь, то мне кажется что общая идея, которую я пытался донести, большинству людей понятна. Но если вам прям так хочется пообсуждать детали и формулировки, то можно это сделать в привате. Думаю что остальным это не особо интересно.
                                                                              0
                                                                              И даже если я неправильно указал какую-то деталь, то мне кажется что общая идея, которую я пытался донести, большинству людей понятна.
                                                                              И я в очередной раз прошу вас ясно и четко для всех (практически произнести вслух), что именно делала та программа и для чего ее использовали.
                                                                              Это же простое действие. Вы его не можете уже какой коммент сделать? Почему?
                                                            0
                                                            Самое смешное, что вы и там то же страдали демагогией и отсутствием логики, а сейчас даже не помните, какую же программу обвиняли в расизме…
                                                              0
                                                              Когда вы ссылку кинули я понял что имелось ввиду. Но мнение моё с тех пор не поменялось и не знаю где вы там демагогию нашли.
                                                            +1
                                                            Именно, цвет кожи может служить индикатором риска совершения преступления тем или иным человеком. А связаны они не как причина и следствие, а фактом рождения и жизни в определенном районе. К примеру.
                                                            0
                                                            А кто чаще совершает преступления, мужчины или женщины? Кого больше в тюрьмах? Сексизм ли использовать пол как входную фичу алгоритма?
                                                              0
                                                              Дело даже не в том сексизм там где-то или расизм. Дело в том что использовать для подобных прогнозов корреляцию это не самая хорошая идея.
                                                                0
                                                                Вы в очередной раз пишите, что решение основано на корреляции, когда наоборот, корреляция является лишь проявлением закономерностей, приводящим к появлению решений. То есть совершаете классическую логическую ошибку: «После» не значит «вследствие»
                                                                  0

                                                                  Хм, где я заявлял что решение базируется на корреляции? Такого я вроде бы нигде не писал.
                                                                  Я писал что в принципе использовать корреляцию это плохая идея и что никто из нас не знает на чём точно базируется алгоритм программы.

                                                                    0
                                                                    Нет, вы не писали «в принципе использовать», вы пост за постом пишите одно и тоже разными буковками:
                                                                    Дело в том что использовать для подобных прогнозов корреляцию это не самая хорошая идея.
                                                                    Или вот классическое заявление любителей теории заговоров:
                                                                    Но не факт что это так и поскольку алгоритм неизвестен, то и проверить мы это точно не можем.

                                                                    что никто из нас не знает на чём точно базируется алгоритм программы.

                                                                    Сравните:
                                                                    «но не факт, что земля круглая, так как проверить ученых мы не можем»
                                                                    «но не факт, что бога не существует, так как проверить этого мы не можем»
                                                                    Но вы выводы делаете не зная ничего о механизме, а его задачах и пр. И постоянно их обороняете и продавливаете
                                                                    Программа работает не особо корректно и проблема либо в собранной статистике, либо в самом алгоритме. Но что-то там работает не особо хорошо.

                                                                    Но получается что программа в любом случае местами делает странные прогнозы и не факт что эти странности ограничиваются исключительно «дискриминацией» негров.
                                                                    Но когда при прочих равных чернокожий получает худший прогноз чем белый это говорит что либо что-то не так со статистикой, либо что-то не так с программой.
                                                                    ) То есть если эта система действительно ориентируется на цвет кожи таким образом что не может отличить чернокожего жителя Гарлема от чернокожего выпускника Гарварда, то что-то там пошло не так.

                                                                    Вы постоянно пишите одно и тоже просто. У вас нет ни одного доказательства того, что это так. Вы не можете доказать, что прочие были равные, что программа будет одинаково относиться к любому черному, вы просто верите «потому так написано в статье». И заявляете, что использовать корреляции недопустимо, хотя при этом так же нет ни одного факта, доказывающего использование корреляции, кроме того, что те, кто анализировал это — верили в это и вполне возможно корректировали свои исследования под свою верю.
                                                                    Так даже ученые делают, а вы просто написанному журналистами верите.
                                                                      0
                                                                      Нет, вы не писали

                                                                      Ну раз не писал, то тогда пожалуйста не надо мне подобные заявления приписывать.
                                                                      Сравните

                                                                      И кто теперь занимается демагогией?
                                                                      Но вы выводы делаете не зная ничего о механизме

                                                                      Покажите мне пожалуйста где я делаю какие-то конкретные выводы в отношении этой программы.
                                                                      И заявляете, что использовать корреляции недопустимо

                                                                      Заявляю. И буду и дальше это заявлять. Это недопустимо вне зависимости от того использовали её в данной конкретной программе или нет. Вы с этим не согласны?
                                                                        0
                                                                        Ну раз не писал, то тогда пожалуйста не надо мне подобные заявления приписывать.
                                                                        Вы не писали в своих заявлениях « в принципе использовать корреляцию это плохая идея», вы постоянно писали наезды на программу без вот этого «в принципе».
                                                                        И кто теперь занимается демагогией?
                                                                        До сих пор — вы. Ибо использовали недопустимый в рац.мире аргумент.
                                                                        Покажите мне пожалуйста где я делаю какие-то конкретные выводы в отношении этой программы.
                                                                        Цитаты ваши были указаны.
                                                                        Это недопустимо вне зависимости от того использовали её в данной конкретной программе или нет.
                                                                        Да-да, недопустимо использовать корреляцию в этой программе независимо от того, использовали ли ей в ней. Это ваша позиция, я так и понял.
                                                                          0
                                                                          Вы не писали в своих заявлениях « в принципе использовать корреляцию это плохая идея», вы постоянно писали наезды на программу без вот этого «в принципе».

                                                                          Окститесь, о том что использовать корреляцию это неправильно я начал ещё до того как вы упомянули здесь эту программу…

                                                                          Цитаты ваши были указаны.

                                                                          Конкретных выводов я в них не вижу, только предположения.

                                                                          Это ваша позиция, я так и понял.

                                                                          И вэтом похоже и заключается проблема. в том что вы «понимаете» какие-то вещи, которых я не писал.

                                                                          П.С. И ещё раз предлагаю перейти с подобными обсуждениями и переходами на личности в приват. В любом случае здесь я это с вами обсуждать больше не буду. Вот если есть что сказать по делу, то пожалуйста, а устаривать тут ругань мне не интересно.

                                                                            0
                                                                            И ещё раз предлагаю перейти с подобными обсуждениями и переходами на личности в приват. В любом случае здесь я это с вами обсуждать больше не буду.
                                                                            А с вами вообще не реально что либо обсуждать. Вы даже на простой вопрос, что делает программа ответить не можете, а юлите и хотите уйти в приват.
                                                                            Особенно когда к вам подобные же методы начинают применять.
                                                                            Неприятно в ответочку такую же демагогию получать?
                                                                              0
                                                                              В последний раз: демагогию легко разоблачить и это элементарно делается. Если вы считаете что я занимаюсь демагогией, то без проблем: аргументируйтe и показывайте где я неправ. Против этого я ничего не имею и готов признать свои ошибки если они есть. Но пожалуйста без оскорблений и переходов на личности.
                                                                                0
                                                                                Если вы считаете что я занимаюсь демагогией, то без проблем: аргументируйтe и показывайте где я неправ.
                                                                                Вы мне когда ответите, что делает та программа и для чего ее используют? Как вы это поняли. Вашими словами. Вы уже кучу комментариев отказываетесь это делать. Почему? Это же элементарное действие?
                                                                                  0
                                                                                  Что и требовалось доказать. Не будет.
                                                                                  И после того, как вы отказываетесь признавать свои ошибки и получается, что вы обычный демагог.
                                                                                  Что ж, я это сделаю за вас:
                                                                                  Судья должен определить, наказать преступника по минимальной или максимальной строгости, предусмотренной законом для конкретного преступления. В этом случае программа на основе имеющихся данных вычисляет так называемый «показатель оценки риска» (risk assessment score). Этот показатель определяет вероятность повторения преступления и, соответственно, влияет на тяжесть приговора.
                                                                                  Итого, ваше утверждение:
                                                                                  При всём при этом в США как минимум првозглашается презупция невиновности и что лучше отпустить 100 преступников чем наказать одного невиновного.
                                                                                  Это демагогия с попыткой увести обсуждение в сторону. Программа не решает, кто виновен. Решает — судья. Программа не нарушает презумпцию невиновности, потому что не оценивает чью-
                                                                                  нибудь виновность. Далее:
                                                                                  Виновность определял суд.
                                                                                  Определял то суд, но он то вроде бы хотя бы частично опирался на прогноз программы и следовательно её прогноз тоже играл роль.
                                                                                  Смотрим на первую цитату. Итак, нет, вы — солгали, суд не ориентируется в решении виновности на программу. В задачи программы это не входит.
                                                                                  И даже если я неправильно указал какую-то деталь, то мне кажется что общая идея, которую я пытался донести, большинству людей понятна.
                                                                                  Нет, вы переврали детали. Полностью.

                                                                                  С учетом, что вы используете содержимое журналистской статьи как непреложный факт («в статье было написано что эта программа ошибалась»), плюс используете аргументы о том, что ой мало ли кто что заявляет, мы ж проверить не можем, характерных демагогических приемов любителей всяких теорий заговоров о вреде ГМО, угрозах вакцинации и плоской земли, то на этом я считаю доказательство законченным, а ссылку на этот пост буду выкладываться сразу в комментах к очередным вашим попыткам начинать применять подобные способы рассуждений.
                                                                    0
                                                                    К сожалению, использовать для прогнозов корреляцию — это, наверно, единственная рабочая модель предсказания чего бы то ни было от покупательского спроса до преступлений и вероятности заболеть той или иной болезнью. Понятно, что в случае преступников зависимость между цветом и антисоциальным поведением непрямая, а вызванная кучей третьих факторов, но ведь речь идёт только об определении группы риска, если угодно, а не о прямой дороге «чёрный — в тюрьму».
                                                                      0
                                                                      Отвечу сразу вам и 0xd34df00d
                                                                      Единственный пока доступный вариант для машинного обучения и создания подобных программ это использовать статистику, тут вы правы. От этого никуда не денешься.
                                                                      Но просто использовать статистику может каждый дурак и если совем упростить, то это будет выглядеть так: 10% негров совершают преступления и поэтому давайте каждого десятого негра посадим в тюрьму.
                                                                      И как раз таки вся сложность в создании подобных программ и прогнозов это определить какую статистику мы используем и на какие параметры мы смотрим. То есть сделать всё возможное чтобы использовать причинно-следственные связи, а не корреляцию. Это сложно, но это необходимо. И когда речь идёт о прогнозах где цена ложных предсказаний очень высока, то надо быть особо осторожным и лучше не использовать прогнозы вообще, чем использовать ошибочные.

                                                                      И даже если речь идёт «всего лишь» об определении группы риска, то всё равно на основе этих групп риска принимаются решения, которые достаточно сильно влияют на судьбы людей. И поэтому на мой взгляд в таких ситуациях надо быть особенно осторожным.
                                                                        0

                                                                        Если есть причинно-следственная связь, то корреляция тоже будет (обратное неверно, конечно). Поэтому требование использовать причинно-следственную связь, но не использовать корреляцию — очень странное и невыполнимое.


                                                                        Требование не использовать ложную корреляцию более разумно, но без предложения, как алгоритмически отличить ложную от реальной — бесполезное.

                                                                          0
                                                                          Требование не использовать ложную корреляцию более разумно, но без предложения, как алгоритмически отличить ложную от реальной — бесполезное.

                                                                          Ну ок, для меня «реальная корреляция» == «причинно-следственная связь». Но можно использовать и вашу терминологию, она ничем не хуже.

                                                                          Требование не использовать ложную корреляцию более разумно, но без предложения, как алгоритмически отличить ложную от реальной — бесполезное.

                                                                          Ну во первых нам не обязательно нужно это делать алгоритмически. В конце-концов это теоретически может делать и человек. Как минимум он может постфактум проверять насколько прогнозы совпадают или не совпадают с действительностью.
                                                                          А во вторых надо смотреть где мы хотим применять подобные прогнозы, какие мы ставим цели и какова цена ошибки. В некоторых случаях можно вообще просто «кидать монетку» и от этого никому плохо не будет, а в некоторых надо настаивать на практически абсолютно корректных прогнозах или не использовать никакие.
                                                                            0

                                                                            Теоретически в будущем — сможет человек. Сейчас нет. Интерпретируемость результатов — реальная проблема нейронок на данный момент. Проверить, хорошо ли она предсказывает на рабочих примерах можно. Доказать как теорему — нельзя. Даже просто понять, почему она считает так-то — можно только примерно, анализируя карту активации.


                                                                            Ваше опасение понятно — нейронка будет ошибаться и кто-то из-за этого будет сидеть. У меня такое же. Но человеческая нейронка тоже ошибается. И доказательством своих решений мало кто занимается. Показалось судье, что морда криминальная — под залог не выпустят.

                                                                              0
                                                                              Но человеческая нейронка тоже ошибается.

                                                                              Тут согласен. И я даже согласен что правильно будет просто использовать нейронку, которая ошибается реже чем человек. Но пока мы не уверены что у нас такая нейронка есть, то лучше не использовать никакую.

                                                                              То есть тестировать на реальных примерах можно и нужно. Использовать для принятия реальных решений нет.
                                                                          0
                                                                          Штука в том, что вы именно упрощаете картину до «давайте сажать 10% негров в тюрьму». Вся эта ветка про racial bias началась со ссылки на статью, в которой приводится простой факт: если у вас в картотеке вдвое больше негров, чем белых, то потенциальный чернокожий подозреваемый имеет вдвое выше шансов оказаться похожим на кого-то из картотеки.

                                                                          Эта проблема принципиально неразрешима: люди-полицейские будут совершать ту же самую ошибку, и racial bias тут совершенно не при чём. Соответственно, с тем, что «в таких ситуациях надо быть осторожным» согласиться можно, но в целом надо рассматривать отдельно каждый конкретный случай. Если мы имеем картотеку и человека, чья работа состоит в том, чтобы мысленно сравнивать людей из картотеки с прохожими, то замена такого человека нейросетью принципиально ничего не изменит и хуже тоже не сделает. Вот как потом поступать с теми, кого нейросеть отметила как преступника — это вопрос второй, но опять же, с полицейским-человеком ситуация обстоит ровно так же.
                                                                            0
                                                                            Штука в том, что вы именно упрощаете картину до «давайте сажать 10% негров в тюрьму».

                                                                            Да я даже и не спорю что это упрощение, причём доведённое до абсурда. Но при этом мой пример тоже базируется на статистике и корреляции. И приведён он для того чтобы показать что одного факта использования статистики мало.

                                                                            Эта проблема принципиально неразрешима: люди-полицейские будут совершать ту же самую ошибку, и racial bias тут совершенно не при чём. Если мы имеем картотеку и человека, чья работа состоит в том, чтобы мысленно сравнивать людей из картотеки с прохожими, то замена такого человека нейросетью принципиально ничего не изменит и хуже тоже не сделает.

                                                                            И вот тут начинаются ньюнасы. Например кто ошибается чаще программа или человек? Или скажем кому судьи больше доверяют программе или человеку? Кто и какую ответственность несёт за совершённые ошибки. И так далее и тому подобное.
                                                                            И так же надо учесть нашу любовь к спихиванию проблем на кого-то другого, а в идеальном случае на кого-то, кто не задумывается и просто выполняет инструкции.

                                                                            П.С. И да, я понимаю что моё заявление " либо используем причинно-следственную связь/реальную корреляцию, либо не используем программу" достаточно максималистское. Но лично мне кажется что пока какая-то технология не этаблировалась и не доказала свою «полезность» относиться к ней нужно именно так.
                                                                              0
                                                                              Я думаю, что в целом понятие ответственности хорошо формализуется и разграничивается. Если полицейский имеет право задерживать «подозрительного» человека, значит, это его ответственность, но он вправе. Если судья имеет право посадить — опять же, его ответственность и его право, ну и так далее.

                                                                              А по поводу корреляции и причинно-следственных связей… мне кажется, что эта тематика в целом крайне скользкая, т.к. доказать существование любой причинно-следственной связи на практике очень трудно, и мы как человечество активно пользуемся корреляциями.

                                                                              Я понимаю, что это несправедливо, но это всегда было так, и мне странно видеть, откуда негодование. Скажем, когда вы подаёте на визовую анкету, вас профилируют по гражданству, возрасту и даже семейному статусу: от этого меняется как количество требуемых документов, так и придирчивость их изучения. Но ведь эта логика базируется исключительно на корреляциях. И таких примеров можно много накидать.
                                                                                +1
                                                                                Я понимаю, что это несправедливо, но это всегда было так, и мне странно видеть, откуда негодование.

                                                                                Возможно во мне просто ещё не до конца умер юношеский максимализм и вера в светлое будущее :)
                                                                                  0
                                                                                  Да, вполне понимаю и вполне сочувствую :)
                                                                            0
                                                                            Алгоритм, который классифицирует по принципу probability race = case race of Black -> 0.1, будет очень плохо вести себя на контроле, и в продакшен его не выкатят. Ну, по крайней мере, я надеюсь, что у дэйта сайентистов MS и Гугла есть образование, соответствующее хотя бы лекциям Эндрю Ына на Курсере.

                                                                            Вы делаете забавную логическую ошибку, говоря, что если существует очевидно некорректный алгоритм, типа как основанный на статистике, то любой алгоритм, основанный на статистике, некорректен.
                                                                              0
                                                                              Вы делаете забавную логическую ошибку, говоря, что если существует очевидно некорректный алгоритм, типа как основанный на статистике, то любой алгоритм, основанный на статистике, некорректен.

                                                                              Стоп-стоп-стоп. Такого я нигде не утверждал и естественно такой подход не является правильным.
                                                                              Тут скорее наоборот: даже если алгоритм основанный на статистике/корреляции выдаёт в течении какого-то времени верный результат, то мы всё равно не можем ни его считать правильным, ни корреляцию причинно-следственной связью. Ведь может бытъ так, что нам пока просто везло.
                                                                          0
                                                                          Машинное обучение так работает, увы. Да и вообще вся статистика.

                                                                          Если хотите что-то доказывать, то вам, собственно, в методы формального доказательства. Но я тут на досуге подоказывал, что сортировка слиянием производит отсортированный список, и по результату не готов сказать, что доказывать чего-то там про преступников имеет смысл или вообще реально.
                                                                            0

                                                                            Хорошая. Нейронки не умеют строить доказательства. Они только и всегда используют корреляции, не зная, есть ли там причинно-следственная связь или нет.


                                                                            Алгоритмов, которые могут искать именно причины (и доказывать их) пока не написали, только человек может.

                                                                              0
                                                                              Они только и всегда используют корреляции, не зная, есть ли там причинно-следственная связь или нет.

                                                                              Если вы не знаете имеется у вас в наличии корреляция или причинно-следствення связь, то это не означает что вы используете именно корреляцию. И если вы сами кормите ваши нейронки данными для обучения, то это уже ваша задача проследить чтобы они получали правильные данные.

                                                                              P.S. На эту тему есть достаточно известная байка о том как американские военные учили нейронки распознавать военную технику на фотографиях сателлитов. И в тестах всё работало великолепно, но когда программу запустили на реальных данных, то внезапно она стала выдавать какyю-то фигню. Долго искали в чём причина и наконец-то выяснили что в тех данных, на которых её учили и тестировали, на большинстве фотографий с техникой были тени от облаков, а на большинстве фотографий без техники их не было.
                                                                                0

                                                                                Вы утверждаете, что результат обучения нужно кросс-валидировать? Что бы не было этого ненужного эффекта облаков? Это утверждение очевидно любому, кто занимается обучением. Вы конечно правы, кросс-валидировать нужно.


                                                                                Но формально доказать, что нейронка использует только истинные причинно-следственные связи не получится. Увы.

                                                                                  0
                                                                                  Вот только, если нейронке не скармливали цвет кожи, национальность и расу, то можно формально доказать, что дискриминации по этим параметрам нет)
                                                                                    0
                                                                                    Проблема в том что это значимые факторы, если у нас мало данных. Статистически некоторые национальности любят образовывать «земства», собираться в гетто. Статистически некоторые национальности получают худшее образование (причина неважна, допустим денег мало, или еще что), статистически некоторые национальности более агрессивны из за культурных особенностей места где человек вырос. И если у нас нет информации о том где человек живет, с кем общается, где вырос, кто были родители, где получал образование и т.п. все что нам остается — брать национальность.
                                                                                      0
                                                                                      При условии отсутствия некоторой коллинеарности, а доказывать её отсуствие — замучаешься пыль глотать. Окажутся в списке фич имена, например, и всё. Стивен, Шариса, Ынь — вполне говорящие имена.
                                                                                        0
                                                                                        Окажутся в списке фич имена, например, и всё.
                                                                                        А еще по именам можно исключения вводить (бить нейросеть электротоком каждый раз, когда она выдает большие проценты людям, у которых пересеклись имя дональд и фамилия трамп). И по месту жительства (в элитных районах), учебе в определённых уч.заведениях (студенческие братства они такие) и неизвестного параметра nepodsuden, который непонятно что значит и зачем вводится.
                                                                                        Еще более говорящие имена — Айвоны всякие, кстати. Самые страшные преступления ими совершаются)))
                                                                                      0
                                                                                      Вот. И если мы возьмём конкретный пример с конкретой программой, то как минимум в статье было написано что эта программа ошибалась. Причём в отношении негров она чаще ошибалась в негативную сторону чем в отношении белых.И лично для меня это означает что с программой что-то не так и её надо исправлять и использоватъ её в таком виде нельзя.
                                                                                        0
                                                                                        Вот, классный пример демагогии:
                                                                                        «в статье было написано что эта программа ошибалась.».
                                                                                        Нет, это автор статьи так интерпретировал данные.
                                                                                        А вы преподносите это как ФАКТ. Из которого делается однозначный вывод
                                                                                        что с программой что-то не так и её надо исправлять и использоватъ её в таком виде нельзя.
                                                                                        Еще примеры нужны в том, что конкретно одна биологическая нейронка содержит огрехи в рац.подходе к суждениям?
                                                                      0
                                                                      Я же правильно помню, что первые сети при помощи DARPA разрабатывались?
                                                                      • НЛО прилетело и опубликовало эту надпись здесь
                                                                          +1
                                                                          Опять борьба с технологией. Не за общественный контроль госорганов, не за отсутствие монополии на использование — именно против технологии. Ничего, что куча продуктов изначально были на деньги военных министерств, двойного назначения, или откровенно военные, а теперь мы без них жизни не представляем? Ничего, что абсолютно безопасных технологий в принципе не бывает, их легко приспособить для нанесения ущерба?
                                                                            0
                                                                            С одной стороны вы абсолютно правы и ваш подход гораздо лучше. С другой стороны как бы поступили лично вы если вы видите что разрабатывается потенциально опасная технология и она скорее всего попадает к «плохим парням» и они с большой вероятностью используют её против вас или близких для вас людей? И лично вы не видите никаких шансов ни предотвратитъ это попадание, ни обезвредить самих плохих парней?
                                                                            Но вот замедлить или прекратить разработку лично вы можете. Вы бы всё равно не стали этого делать?

                                                                            И понятно что это слишком банальный и «детский» пример. И что всё это очень субъективно. И что мир у нас не чёрно-белый. И что американское правительство это не сосуд абсолютного зла. Но всё таки неужели вы полностью отрицаете такой подход к проблеме?

                                                                              +2
                                                                              Я бы попросил повысить зарплату. Но я по жизни штрейкбрехер.
                                                                              Я в принципе не понимаю, как изобретение может быть изначально плохим: даже яды можно использовать в с/х, а взрывчатку в горном деле. Точно так же оно не может быть однозначно хорошим: например, многие бытовые чистящие вещества неслабые яды, те же средства для мыться посуды, если плохо отмыть (т.е. пока чувствуется запах), офигенно бьют по печени. Запомните способ на случай, когда овдоветь будет проще, чем развестись :)
                                                                                0
                                                                                в принципе не понимаю, как изобретение может быть изначально плохим:

                                                                                Это другой вопрос и в этом плане я с вами абсолютно солидарен: инструмент не имеет разума и не может быть добрым или злым сам по себе.
                                                                                Но если мы 100% знаем кто и с какой целью будет его использовать, то мы можем оценить насколько «добрыми» или «злыми» являются цели.
                                                                                  0
                                                                                  Инженеры крайне редко знают, кто и как будет использовать изделие. Собственно, не всегда известно, что за изделие — ты работаешь только над отдельным узлом. Ну да ладно. В описанных в статье случаях я не считаю заявленные методы использования «злыми». Требующими контроля, чтобы не использовали в иных целях, но не злыми.
                                                                                    0
                                                                                    В описанных в статье случаях я не считаю заявленные методы использования «злыми». Требующими контроля, чтобы не использовали в иных целях, но не злыми.

                                                                                    А вот это всё уже очень субъективно и кто-то другой может мыслить по другому.
                                                                                      0
                                                                                      Дык никому не запрещаю, но способ «борьбы» все равно не разделяю.
                                                                                        0
                                                                                        Тогда я вас неправильно понял и приношу свои извинения:)
                                                                                0
                                                                                Понял, что недостаточно ясно выразил мысль. Подавляющее большинство систем безопасности опираются на то, что люди в массе своей не убийцы и не вандалы (xkcd про это, Self-driving issues). Так и сделав инструмент или технологию широко доступной, можно сделать её менее опасной — в процентном соотношении ею будет пользоваться меньше «плохишей».

                                                                                Возьмём в качестве примера сцену из фильма про тоталитаризм: все общественные места увешаны камерами. Если дать доступ к системе только государству, то, скорее всего, будет плохо. А если продавать доступ за символические деньги, то на основе этой системы можно построить кучу коммерческих и общественно-полезных продуктов, и при этом не будет ситуации «записи с камеры потеряны/подменены», как у нас любят говорить в случае с ДТП по вине чиновника — всегда будет ряд независимых копий.
                                                                                  0
                                                                                  Так я не спорю что любой инструмент теоретически можно использовать по разному. Просто сначала нужна «правильная система», а потом уже создаём инструмент. А вот пока правильной системы нет, то и инструмент возможно(не обязательно, но возможно) делать не стоит.
                                                                                    0
                                                                                    Хм. А что такое «правильная система»? И как её построить не зная, чем обернется использование инструмента? Решение — итог кризиса, проблемы, а всего предусмотреть нельзя.
                                                                                      0

                                                                                      Ну в данном контексте я имел ввиду политическую и организационную систему государства. Причём такую которая с большой вероятностью позволяет дать доступ к инструменту не только государственным органам.
                                                                                      Наверное надо было другое слово взять, а то путаница получается.

                                                                                        0
                                                                                        А какая-нибудь из имеющихся — правильная? У вас, похоже, получается «научитесь плавать — нальём воду».
                                                                                          0
                                                                                          Ну скажем есть набор стран которым лично я в этом плане доверяю. Например та же Швейцария или скандинавы. И, возвращаясь к теме данного поста, лично я США в этом плане не особо доверяю.
                                                                                            0
                                                                                            Ну это ж всё очень субъективно. Вот вы не доверяете, но вы и не работаете над такими проектами. А куча народа доверяет и работает, и ночью спят спокойно (как вы бы спали, работая на Швейцарию).
                                                                                              0
                                                                                              Абсолютно с вами согласен. Это каждый должен решать для себя. Просто во время обсуждения этой статьи промелькнули заявления что тормозить развитие технологий и создание новых инструментов нельзя и что это в принципе неверный подход. И моей веры в людей не хватает для того, чтобы поддержать настолько категоричные заявления.
                                                                            • НЛО прилетело и опубликовало эту надпись здесь
                                                                                0
                                                                                Тогда уже так:
                                                                                Летом 1939 г. Сциллард посетил Эйнштейна, чтобы, получив его поддержку, убедить правительство создать атомную бомбу как предупредительную меру. Теперь, более чем пять лет спустя, он снова обратился к Эйнштейну, на этот раз для того, чтобы объяснить ему совершенно другую обстановку в мире и предупредить его в общих чертах (поскольку приводить детали было нельзя без нарушения требований секретности), что Соединенные Штаты могут оказаться инициатором гонки атомных вооружений. Снова Эйнштейн принялся за письмо, предназначенное вместе с обстоятельным меморандумом Сцилларда президенту Рузвельту. Сциллард предупреждал, что любое кратковременное и преходящее военное преимущество, которое бомба могла бы дать Соединенным Штатам, будет сведено на нет последующим серьезным политическим и стратегическим ущербом. Но ни последнее письмо Эйнштейна, ни красноречивое предупреждение Сцилларда так и не дошли до президента. Оба документа еще лежали непрочтенными на его письменном столе, когда 12 апреля 1945 г. он внезапно умер.

                                                                                И вообще тут вся глава полностью
                                                                                –1
                                                                                Ни вверх ни глядя, ни вперед,
                                                                                сижу с друзьями-разгильдяями
                                                                                и наплевать нам, чья берет
                                                                                в борьбе мерзавцев с негодяями.
                                                                                Игорь Губерман
                                                                                  0
                                                                                  В знак протеста более 300 сотрудников подписали открытое письмо, отказавшись быть соучастниками

                                                                                  А сколько всего человек работает в компании Microsoft?
                                                                                    0
                                                                                    Военные с полиция могут обратиться в Яндекс — там будут рады.
                                                                                      +1
                                                                                      А можно добавить вариант «Да, если технологии предназначены для убийства людей»? Я бы проголосовал. Не потому, что считаю убийства отличным занятием, а потому, что считаю, что нет положительной корреляции между развитием высокотехнологичного оружия и количеством смертей от него.
                                                                                      В случае же с нелетальными технологиями для полиции, спецслужб и т.п. нет никаких сдержек и противовесов и они используются против обычных людей без каких-либо колебаний. Если условную термоядерную боеголовку государство не применит практически ни при каких условиях из опасения получить ответку, то чего бояться, например, условной спецслужбе при использовании технологий для слежки за гражданами? Общественного возмущения? Петиций? Слабовато как-то.
                                                                                        0
                                                                                        Главы некоторых компаний выступают с критикой политики «нулевой толерантности». Против неё высказался Тим Кук: «В Apple работают множество иммигрантов. В рамках программы DACA (Deferred Action for Childhood Arrivals, программа, защищающая от высылки из страны иммигрантов, попавших в США в детском возрасте) у нас работают 300 человек. Я выступаю за них».

                                                                                        Тим Кук не различает иммигрантов и незаконных иммигрантов или это я чего то не понимаю?
                                                                                          0

                                                                                          Не понимаете. Там все хитро. Есть огромное количество иммигрантов, которые попали в США вместе с родителями-нелегалами до совершеннолетия. Прошло N лет. Они взрослые люди, которые получили образование, устроились на работу. Но гражданства у них нет (а кто им просто так гражданство даст). И они находятся, по сути, на полу-нелегальном положении. DACA предоставляет некоторым возобновляемую рабочую визу, но всегда есть шанс при следующем продлении пролететь. И в дополнение, DACA не закон, а программа в рамках иммиграционной политики, определяемая указами президента. Соответственно президент может отменить эту программу в любой момент и это не требует согласования. Администрация Трампа объявила о планах отказаться от данной программы.

                                                                                            0
                                                                                            А как они образование то получили не имея гражданства?! С работой то понятно, но у них что, в школу кого угодно берут без документов?
                                                                                              0

                                                                                              Про США не скажу, но в Европе (почти везде) так. Право ребёнка на образовние стоит выше, чем законодательные ограничения миграции. Когда во Франции полиция пыталась у школ выявлять нелегальных мигрантов, и эти мигранты из-за страха задержания перестали водить детей в школу, то прошли протесты, и полиции запретили этим заниматься. В деталях могу ошибаться, но общая канва событий примерно ткая.

                                                                                                0
                                                                                                По моему так оно везде где соблюдают всеобщую декларацию прав человека.
                                                                                                  0
                                                                                                  Так у ребенка нет никаких документов, я об этом. Там в школу пришел, имя сказал и учись?
                                                                                                    0

                                                                                                    А какие документы нужны ребенку? Есть подтверждение проживания в районе для школы, и ладно. Я помню, я ребенка в РФ в садик устраивал, там та ещё канитель была. А в Швеции для устройства ребёнка в садик, если я правильно помню, достаточно было email написать и прийти познакомиться.

                                                                                                0
                                                                                                Вообще выглядит, что народ там в целом несколько безалаберно относится к формальностям. Хотя когда я немного имел дело с работой в США, работодатели довольно быстро выруливали на визовый вопрос и уточняли, какой статус и так далее. Брать на работу человека на нелегальном положении — сомнительная практика, как мне кажется, особенно если речь идёт о крупной компании.
                                                                                              0
                                                                                              Результаты опроса наводит на мысль, что большинству россиян чужды сентименты и рефлексия на тему прав человека…

                                                                                              Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                              Самое читаемое