Алгоритмизация правосудия

Количество информации, доступной для обработки и анализа с помощью компьютеров, растёт, как снежный ком. Данные с камер видеонаблюдения, GPS-трекеров, сенсоров мобильных телефонов, записи финансовых транзакций, история посещений страниц в интернете оказывают всё большее влияние на принятие решений. И чем больше этих данных, тем больше приходится полагаться на их автоматическую интерпретацию. Неизбежное следствие этого — появление систем «компьютерного правосудия», которые без участия человека выявляют нарушения законов и правил. Штрафы за превышение скорости, выписываемые автоматически на основании данных с видеокамер и радаров или система анализа контента на Youtube, которая ищет нарушения копирайта — это уже повседневная реальность.

Группа американских учёных, объединяющая юристов, лингвистов и программистов, провела интересный эксперимент в этой сфере. В ходе эксперимента 52 студента-программиста должны были составить программу, которая анализировала бы данные с GPS-трекера, установленного в автомобиле и выписывала штрафы за нарушение скоростного режима в соответствии с правилами дорожного движения штата Нью-Йорк. Это оказалось очень непростой задачей — даже в самых законопослушных государствах законы никогда не выполняются буквально и на все 100%. Часть нарушений остаются незамеченными, часть слишком незначительна, чтобы правоохранители обратили на них внимание. Компьютеры же ничего не забывают и ничего не упускают. Бездумное применение правил и алгоритмов приводит к излишне жестким наказаниям и нелепым ошибкам вроде блокирования видео с шумом ветра за нарушение копирайта.

Экспериментальные данные состояли из GPS-трека, полученного во время реальной поездки на автомобиле, информации о скоростном режиме разных участков трассы и собственно свода правил дорожного движения. Участники эксперимента были разбиты на три группы. Первая группа писала программу, жестко и буквально следуя тексту правил. Вторая группа должна была следовать духу, а не букве закона, и её участники самостоятельно решали, в каких случаях превышение скорости заслуживало штрафа. Программистам из третей группы была дана составленная экспериментаторами спецификация, где были подробно расписаны допустимые пределы нарушений и погрешности датчиков.



По графику скорости автомобиля видно, что водитель в целом соблюдал правила — незначительные пики, выходящие за рамки официальных ограничений скорее всего были связаны с обгонами на трассе или изменением рельефа. При этом программы, следовавшие букве закона, за время поездки в среднем выписывали абсурдные 498 штрафов. В группе, следовавшей духу закона, в среднем нарушение регистрировалось 1,5 раза. Группа, писавшая код по составленной экспертами спецификации вообще не нашла нарушений.

В ходе написания программ выявилось множество факторов, о которых в законе не сказано ни слова, но которые оказывают огромное воздействие на принятие решений. Какова погрешность датчика? Считается ли нарушением превышение скорости на 5 миль в час? А на 10? Если оно длилось всего несколько секунд? Или минут? Или повторялось несколько раз в течение часа? Эти и другие вопросы законодатель оставляет на усмотрение исполнителей. Живой полицейский вряд ли будет штрафовать водителя, превысившего скорость на несколько секунд во время обгона (по крайней мере, если он заинтересован реальном соблюдении правил, а не в выполнении плана по штрафам). У программы же нет здравого смысла, так что программисту необходимо учесть все нюансы и особые случаи.

Интересно, что студенты из разных групп очень по-разному отнеслись к возможности того, что их программа будет анализировать их собственную езду. В группе, следовавшей букве закона, лишь один студент согласился с этим, но лишь при условии, что в системе будет «бэкдор», который позволит ему избежать наказания. Такими же низкими были результаты тех, кто писал программу по жестко заданной спецификации, и это несмотря на полное отсутствие штрафов в их версии программы. Лишь среди тех, кто сам решал, как должна работать программа, набралось 37,5% готовых подчиниться её решению.

Авторы эксперимента считают, что у алгоритмизации правосудия большое будущее, а практика применения компьютеров может оказать сильное влияние на сами законы. На стыке юриспруденции и программирования может возникнуть новая весьма востребованная профессия. Компьютеры и интернет необратимо изменили многие сферы человеческой деятельности. Революция в образовании уже идёт полным ходом, суперкомпьютер Watson ставит диагнозы не хуже профессиональных врачей, возможно и в юриспруденцию ждут большие перемены.

Нордавинд
Company
AdBlock has stolen the banner, but banners are not teeth — they will be back

More
Ads

Comments 14

    +1
    Несколько не то что ожидал от фразы 'Алгоритмизация правосудия', тут скорее роботизация исполнительной власти.
    Вот что интересно было бы видеть, допустим тот же гугл, если бы проиндексировал законы всех стран и опубликовал «взаимоизключающие параграфы» — вот это был бы интересный проект. А то на сегодня уголовные и административные кодексы, акты и тд это тома и тома книг.
    Как обвинение, так и защита выдергивают единичные параграфы и все сроится вокруг этого. Вот если бы заканодательство было проверено на противроречия, и в конституции была фраза «законы не должны быть противоречивыми», тогда бы можно было назвать что правосудие алгоритзизировано.
      0
      и в конституции была фраза «законы не должны быть противоречивыми»
      In dubio pro reo?
      • UFO just landed and posted this here
          –1
          Для этого нормальные страны принимают понятие «родитель», а не мама/папа и т.п.
            0
            Ваше утверждение о «нормальности» таких стран может быть оспорено. К тому же замена «мам-пап» на «родителей» не исключает наличия других противоречий в законах этих стран. )
              0
              Вы правда считаете нормальным замену мама/папа на родитель№1/родитель№2?
                0
                так ведь выше писали, что в конституции равенство. А какое равенство если сразу сегрегация по половому признаку родителей
          0
          Считается ли нарушением превышение скорости на 5 миль в час? А на 10?
          Нужно учитывать погрешность изменения и толерантность.
          Т.е. 5% зафиксированной скорости отнимать сразу же — на погрешность измерений. А штрафы выписывать начиная с превышения на 10%.
          Вот и считайте: в «зоне 30» штраф получите за 30 + 10% + 5% = 35 км/ч, в «зоне 50» — 50 + 10% + 5% = 58 км/ч, при ограничении в 120 штраф будет за езду от 138 км/ч.
          В США могут быть иные правила толератности.

          Только причём тут алгоритмизация правосудия? Здесь речь идёт об обычной программе для фиксирования нарушений скорости на основе датчиков (трекера или видеокамер) и выписывания штрафов — разве они не используются повсеместно?
            0
            По российским законам, насколько я слышал, нарушением считается превышение больше чем на 10 километров в час…
              0
              А будет проще добавить индикатор в машину «Притормози приятель»
              Да и рамки будут более жесткими.
              а в купе с видеокамерами фиксировать обгон тоже не проблема.
                0
                Тут ещё погрешности измерения скорости автомобильным спидометром — он строго подстроен под точно определённую длину окружности колеса, ибо считает не пробег, а обороты колеса. У вас был велосипедный спидометр? У меня есть опыт — систематически показывает на 1/15 больший пробег, чем путь по карте, приходится потом в нём длину окружности колеса подстраивать.
                  0
                  Нормально, это известный факт что показания спидометра плавают от банального изменения давления в баллоне.
                  Конечно нужно подстраивать.
                  Но опираться можно например на GPS он дает куда большую точность.
          • UFO just landed and posted this here
              0
              Собственно, это те самые пресловутые буква и дух закона. Первое вполне алгоритмизируемо, второе — останется на откуп людей как минимум до изобретения настоящего ИИ.

            Only users with full accounts can post comments. Log in, please.