LegalTech — это наше все. 

«Наше» здесь не обобщающий лозунг, а указание на нас, как на компанию, которая разрабатывает и внедряет онлайн-услуги, связанные с автоматизацией процесса получения патентов, регистрации товарных знаков, консультаций со специалистами и многое другое.

Стоит признать, что процесс автоматизации делопроизводства в целом запущен уже давно. Люди уже привыкли к тому, что множество процессов, связанных с так называемой «бюрократией», съедающих время и ресурсы предпринимателей, сегодня можно решить онлайн, автоматизировать и освободить для себя драгоценное время. Не исключением, а, может быть, и самым ярким примером (простите нас за скромность) является и платформа «Онлайн Патент». 

Но сейчас будет не самореклама. А немного самокритики. 

А точнее — попытка осветить вопрос автоматизации, и, в перспективе, роботизации некоторых процессов, связанных с юриспруденцией. Потому как даже в нашем частном случае вопросы патентов, товарных знаков, все нюансы, связанные с интеллектуальной собственностью, упираются в примеры и прецеденты юридической практики.

Между тем, специфика судопроизводства в области интеллектуального права, а также постоянное расширение трансграничной торговли делают классическую систему территориальной защиты промышленной собственности все менее удобной для бизнеса, и требует появления новых сервисных решений в этой области.

LegalTech все чаще привлекает крупных инвесторов. Например, ВТБ Капитал в 2020 году приобрел долю в 33% в Европейской юридической службе, одном из крупнейших поставщиков дистанционных юридических услуг. Аналитики оценивают эту сделку в 3-4 млрд рублей. 2020 год стал рекордным по суммам вложений в компании, разрабатывающие LegalTech-решения — более $ 2 млрд по всему миру.   

Если развивать эту идею дальше, то мы упираемся в вопрос: сможет ли искусственный интеллект применяться для автоматизации и оптимизации процессов судопроизводства? Стоит ли ожидать в ближайшее время автономного робота-судью?

В начале было слово

Указ Президента РФ от 10.10.2019 г. №490 «О развитии искусственного интеллекта в РФ» утверждает Национальную стратегию развития ИИ на период до 2030 года, в которой закреплен ряд основных понятий. Приоритетные направления развития и использования технологий ИИ определены в пункте 20 этой стратегии, и система судопроизводства в число этих направлений не входит.

Тем не менее, наиболее сильные споры вызывает внедрение ИИ именно в систему российского судопроизводства. У данной идеи есть как свои поборники, так и ярые противники. В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли автоматизировать весь процесс отправления правосудия — заменить судью компьютерной программой (нейросетью), способной анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение.

Опасения о непрогнозируемости работы искусственного интеллекта отнюдь не беспочвенны. Их, конечно, можно устранить на первичном этапе программирования, но потребуется очень долгая и скрупулезная работа инженеров-программистов. Да, и что им визуализировать как пример? Мозг человека? Homo sapiens еще толком не разобрался в строении и принципе работы нейронных сетей в собственном мозгу. 

Однако, исходя из понимания искусственного человека как моделируемой (искусственно воспроизводимой) интеллектуальной деятельности мышления человека (п. 3.17 ГОСТ Р 43.0.5-2009), можно предположить, что в судопроизводстве он будет внедряться в несколько этапов, включающих краткосрочную перспективу, когда программируемые алгоритмы работают ассистентом судьи-человека по ряду вопросов делопроизводства и рассмотрении дела по существу. Затем среднесрочная перспектива: искусственный интеллект становится компаньоном судьи человека, в том числе и по вопросам оценки доказательств. Долгосрочная перспектива подразумевает замену судьи-человека искусственным интеллектом по отдельным функциям.

Возможно ли это? 

Немного «за» 

По идее, многие правовые институты, как и некоторые другие сферы человеческой деятельности, имеют потенциал к алгоритмизации — использовании четкого последовательного дерева условий и решений, приводящих к определенным правовым выводам. 

Сам текст многих нормативно-правовых актов основан на подобных логических конструкциях: если субъект сделал определенное действие, то будет определенное последствие, если субъект соответствует определенным признакам — он имеет право на определенный статус и так далее. В связи с этим было изучено, что можно автоматизировать, например, «бесспорную» категорию судебных дел, когда суд, издавая судебный акт, идет по заданному процессуальными кодексами алгоритму, оценивая исключительно формальные обстоятельства. 

Именно дела такой категории автоматизировались в качестве пилота в судах Белгородской области. Один мобильный оператор создал ПО, которое, анализируя входящие от Федеральной налоговой службы заявления о выдаче судебных приказов, готовил проекты судебных актов на основании заложенных алгоритмов. Приложение установили на трех мировых участках в области. Авторы считают, что проект показал свою эффективность — время, затрачиваемое на подготовку судебного акта, уменьшилось на 84%, а время на заполнение карточки дела на 96%. 

Затем этот же оператор представил пилотную версию юридического чат-бота LegalApe 2.8, который показал высокий уровень готовности даже к юридическому спору. Конечно, он проиграл живому юристу — на ПМЮФ-2018 состоялся показательный «батл» между человеком и ботом (впечатления юриста о споре с алгоритмом можно почитать здесь). Он строился по принципам арбитражного спора и длился полтора часа. В результате судьи решили, что человек в своих ответах точнее раскрывал суть дела, а робот зациклился на формализмах. Кроме того, последний допускал фактические ошибки и высказывания, которые привели бы к предупреждениям со стороны судьи в ходе реального разбирательства.   

Заместитель председателя Арбитражного суда Московской области Андрей Соловьев, заинтересовавшийся экспериментом в Белгородской области, в ходе панели на ПМЮФ-18 высказал предположение, что после массового внедрения подобных технологий некоторые споры смогут уйти из компетенции судов. Речь именно про те дела, где неважно судебное усмотрение. 

Существуют и другие примеры. Среди прочих — юридический бот на онлайн-платформе Pravoved.ru. Он создан на базе глубокой нейронной сети (DNN), которую обучали на практике по сотням тысячам реальных обращений. Робот-консультант дает консультации от имени Федора Нейронова из Санкт-Петербурга.

Если обобщить восторг сторонников концепции автоматизации судопроизводства, то можно сказать, что их энтузиазм строится на примерах зарубежного опыта. Это, прежде всего, примеры американской судебной системы (машины?), где алгоритмы принимают досудебные решения в отношении обвиняемых: об оставлении под арестом или безопасном освобождении до даты суда, в том числе под залог (например, алгоритмы recidivism models). Примером являются также Франция, Сингапур, Китай и другие страны, где ИИ используется в основном как вспомогательный инструмент для анализа судебных документов.

Много «против»

Впрочем, эксперты, выступающие против подобной автоматизации приводят примеры из того же зарубежного опыта, которые показывают, что перспективы для этого феномена не такие уж и радужные. Элина Сидоренко, генеральный директор платформы «ЗаБизнес.рф», выступая на ПМЮФ-22 в июле этого года отмечала, что даже в такой технологично подкованной стране, как Китай, в цифровых судах встает вопрос верификации собеседника на другом конце видеосвязи. Не одно решение было отменено в силу сомнения в том, что по видео связи выступает лицо, которое можно идентифицировать как человека, а не дипфейк. 

Также она отметила наличие проблемы цифровой дискриминации: не все возрастные категории смогут безопасно чувствовать в цифровой системе правосудия, а адвокаты, готовые работать в такой системе, начинают завышать ценник на свои услуги. В США цифровая система, призванная ускорить и облегчить выпуск задержанных под залог, настойчиво отказывала в этом афроамериканцам и латиноамериканцам. 

Антон Пронин, директор по корпоративным инновациям, глава практики юридических технологий (LegalTech) фонда «Сколково» считает, что судебная система не сможет быстро адаптироваться к цифровизации. «Думаю, мы будем говорить об этом еще несколько лет до того момента, когда перейдем к цифровизации», — высказался эксперт. Конечное решение должен принимать человек, потому что это ответственность, на машину это нельзя переложить, заметил Пронин.

Стоит отметить, что на недопустимость замены судьи искусственным интеллектом высказывался и Верховный Суд РФ — в лице судьи Виктора Момотова, который заметил, что у ИИ, например, может быть своя автономия и независимость от человека. Он назвал мифом нейтральность ИИ по отношению к Homo sapiens. Кажется, ситуация с американскими алгоритмами подтверждает эту идею.  

Эксперты напоминают, что процессуальное законодательство РФ (п.1 ст.17 УПК РФ,п.1 ст.67 ГПК РФ, п.1 ст.71 АПК РФ) требует от судьи при оценке доказательств руководствоваться своими внутренними убеждениями. А они представляют собой более сложные процессы, чем программные алгоритмы. В зависимости от конкретных обстоятельств дела одни и те же доказательства могут быть как отвергнуты, так и приняты судом. 

Проблемы кода или людей?

Хочется напомнить, что суд при вынесении решения руководствуется целым рядом оценочных и ценностных критериев: принципами справедливости и гуманизма при назначении наказания, требованиями разумности и добросовестности в гражданском праве. Такие общие категории, как сформированные у человека в процессе воспитания и социализации, невозможно воспроизвести в алгоритме. Практикующий юрист почти каждый день сталкивается с новой уникальной задачей, которая требует творческого подхода. 

Невозможность замены судьи искусственным интеллектом особенно ярко проявляется в кассационном судопроизводстве, где основаниями для отмены судебного постановления в кассационном порядке выступает не любое формальное нарушение, а только существенное нарушение правовых норм, которое повлияло на исход дела и без устранения которого невозможны восстановление и защита нарушенных прав, свобод и законных интересов. Эти критерии вытекают из принципа правовой определенности, в силу которого отмена судебного решения по формальным основаниям недопустима.

Дать оценку тому, соответствует ли допущенное нарушение критерию существенности и способно ли оно повлиять на исход дела, может только человек с высоким уровнем правовой культуры, а компьютерный алгоритм будет фиксировать любое нарушение и приходить к выводу об отмене судебного акта, даже в том случае, если формальная отмена приведет к такому же исходу дела.

Другой стороной вопроса является тот факт, что искусственный интеллект «воспитывается» человеком, и действовать он будет так: какие данные, какого характера и даже какого тона предоставляются ему на обработку. Если натренировать алгоритм машинного обучения на российских судебных решениях по уголовным делам, то количество оправдательных приговоров в стране не изменится. Машина в лучшем случае будет копировать поведение людей, учиться принимать решения так же, как человек-судья.

Первая волна оптимизма, связанная с новостями 2016 года о том, что ИИ научился предсказывать решения Европейского суда по правам человека с точностью в 79% (под руководством программистов Университетского колледжа Лондона), повлекла за собой кредит доверия общественности к роботам-судьям. Однако дальнейшие исследования, например, 2019 года, показали, что 79% точности в этих 79% завышены, поскольку авторы исходной работы использовали будущие решения судей для предсказания прошлых. 

Это представляет собой классический пример «утечка данных» (data leakage) из будущего в прошлое при машинном обучении, которая приводит к излишне оптимистичным результатам. При исправлении ошибки точность предсказания оказалась 58–68%. Более того, модель, которая предсказывала решение по делу, используя только фамилии судей, добилась точности в 65% — и это еще без использования модели обстоятельств дела: робот-судья принимал решения, опираясь на личность судей, поведение которых он повторяет. 

А был ли мальчик?

Элина Сидоренко на упомянутом ПМЮФ-22, высказала мысль, которую забывают многие сторонники автоматизации судопроизводства в розовых очках (и вообще внедрения ИИ где только можно): то, что мы называем сегодня искусственным интеллектом, на самом деле является даже не зачатком «интеллекта». Это просто алгоритмы (пусть и хорошие, качественные) работы с большими данными. Не более.  

Один из разработчиков Сири, Люк Джулия, в своей книге «Нет такой вещи, как искусственный интеллект» так перефразирует Декарта: «ИИ не мыслит, следовательно, он не существует». По его словам, люди неправильно представляют, что такое искусственный интеллект. Даже автоматизация процессов — тех, что люди десятилетиями выполняли вручную, сегодня переводя их в коды, чтобы их могли обрабатывать «машины» — это мечта для многих компаний. Есть история в Scientific American, которая рассказывает, как журналист издания участвовал в запуске стартапа States Title, ставивший своей целью автоматизацию страховой индустрии. Он обнаружил в недрах компании чуть ли не армию сотрудников, которые вручную вводили данные.  

Что можно доверить младенцу?

В свете сказанного выше представляется, что на данном этапе развития технологий — которая делает свои первые даже не шаги, а движения ползком — можно возложить на автоматизацию некоторые рутинные процессы, способные высвободить время юристов для более качественного решения их творческих задач. 

Это, например: 

- распознавание и перевод на русский язык в читаемый цифровой формат документов; 

- ведение цифрового протоколирования хода судебных заседаний; 

- автоопределение специализации судей по категориям дел и распределение дел между судьями соответствующих судебных составов;

- администрирование выдачи цифровых исполнительных листов и последующее отслеживание их юридической судьбы.

Отдельные функции могут выполнять голосовые помощники вроде тех, на которых мы постоянно наталкиваемся в смартфоне — Сбер Онлайн, Алиса, Сири. Что касается законодательного регулирования работы этих товарищей, то можно определить, что за все рекомендации и действия ассистентов и чат-ботов полную ответственность несут их разработчики. Вероятно, это сможет снизить процент желающих заработать на хайпе.  

Далее можно будет доверить участие ИИ в правовой оценке доказательств:

- определение категории и юридических свойств сделки (форма, дата, подлинность электронной подписи); 

- проверка расчета исковых требований (размера договорной неустойки, реального ущерба или упущенной выгоды); 

- определение пропуска срока исковой давности и срока на обращение в суд; 

- предложение о примирении сторон (варианты мировых соглашений или перспективы использования медиативных процедур); 

- вычисление «глубинных подделок» с использованием ИИ (deepfake) и иных фальсификаций.

Передав алгоритмам эти функции отдела делопроизводства суда и судьи, можно сократить массу времени судье-человеку на выполнения алгоритмической работы. Потребуется лишь проверить выводы ИИ и методику их вычисления (получения «машинного решения»).

Вывод: программные алгоритмы в судопроизводстве пока (а это очень длинное «пока», до тех пор, пожалуй, пока не будет создан этакий «движок личности» для искусственного интеллекта, работа над которым, впрочем, уже ведется) ограничиваются вспомогательной ролью, призванной освободить время судьи от рутинных процессов. Основная же работа над делом, вынесение приговора и решение всех спорных вопросов остается за человеком.