Как стать автором
Обновить

Комментарии 16

Юриспруденция уже достигла сингулярности, когда только и остаётся уповать на ИИ, который может понять смысл написанного восьмидесятилетними дряблыми кожаными мешками с угасающими когнитивными способностями?

"Мы работаем над этим" =)


А если серьезно, то очень сложно прогнозировать тот момент, когда произойдет произойдет массовая трансформация (процессов, сознания людей, IT-систем). Тем не менее, по нашей оценке, профессии юриста в ее каноническом понимании осталось жить не более 5-10 лет, после чего:


  • количество людей в профессии станет существенно меньше;
  • те, кто смогут и захотят в ней остаться, будут заниматься новым классом задач.

Глупость какая-то несусветная, заменить человека машиной в области, которая только для людей и нужна, да ещё базируется вовсе не на логике.
Максимум, что получится — избавить юристов и чиновников от каких-нибудь монотонных типовых действий.

Это как бы не 10 лет назад писали уже… Но вот профессия живее всех живых. Автоматизируются рутинные операции, типа формирования типовых документов, контроль процедур (чтобы юрист сроки не просохатил) и прочие «тупые» вещи. А вот шаг вправо — шаг влево, и опять нужен живой юрист с опытом в данной области.

Я сам занимался автоматизацией деятельности достаточно крупной юридической фирмы по узкому направлению — конкурсное управление банками, лишенными лицензии, по контракту с АСВ. Так построить полный граф действий в принципе получилось, с сопровождением дела от анализа кредитного портфеля банка и подачи искового заявления (или выдачи судебного приказа) до закрытия исполнительного производства или завершения банкротства должника.

Но это был огромный граф, реально. Я, пара программистов и человек 6 юристов работали больше месяца над ТЗ, а потом еще допиливали в продакшене больше полугода. Очень много условий, вариантов действий, и т.д. И это только один, сравнительно небольшой и достаточно хорошо формализуемый раздел деятельности.

А юристы к тому же бывают разные, специализирующиеся на гражданском/публичном/уголовном/международном праве, плюс внутри куча специализаций — если вы обратитесь к специалисту по семейному праву с вопросом по договору подряда — он, если специалист — отправит вас к другому.

Поэтому если кто-то заявляет, что готов выкатить AI, который заменит юриста в общем случае — я нервно хихикаю и борюсь с подергиванием век ;) Возможно, когда-то это и будет, но точно не через 5-10 лет, судя по текущему прогрессу в AI.
Но это был огромный граф, реально. Я, пара программистов и человек 6 юристов работали больше месяца над ТЗ, а потом еще допиливали в продакшене больше полугода. Очень много условий, вариантов действий, и т.д. И это только один, сравнительно небольшой и достаточно хорошо формализуемый раздел деятельности.

Банкротство банков — это довольно перспективная, на первый взгляд, отрасль для автоматизации: сравнительно высокая степень формализации процедур, наличие большого количества судебной практики (датасета), постоянная рутина (подготовка исковых заявлений по оспариванию сделок должника в преддверии отзыва лицензии)...


С другой стороны, тема банкротства волей-неволей затрагивает довольно широкий пласт отношений из сферы корпоративного, трудового, деликтного права и др.: сделки с аффилированными лицами, недобросовестные действия менеджмента, ущерб интересам кредиторов… Поэтому 6-7 месяцев на написание хорошего ТЗ/полного графа знаний для данной сферы — это очень даже скромный, оптимисичный срок.


Поэтому если кто-то заявляет, что готов выкатить AI, который заменит юриста в общем случае — я нервно хихикаю и борюсь с подергиванием век ;) Возможно, когда-то это и будет, но точно не через 5-10 лет, судя по текущему прогрессу в AI.

Я не говорю о том, что именно мы сделаем такого универсального юриста через 5-10 лет, речь немного о другом. Мои коллеги и я занимаемся оцифровкой экспертных знаний в сфере нашей компетенции, при этом мы видим, что мы далеко не одиноки в этой работе. Соответственно, прогноз о коренной трансформации профессии через 5-10 лет:


  • основан не на том, что кому-то удастся сделать универсального AI-юриста (здесь, соглашусь, шансы невелики);
  • базируется на предположении, что в рамках данного горизонта планирования совместными усилиями нескольких команд (включая нас) большинство процессов в юридической деятельности коренным образом трансформируется.

Как говорится:
«Если идея пришла к тебе в голову, значит, она пришла не только к тебе».

широкий пласт отношений из сферы корпоративного, трудового, деликтного права и др.: сделки с аффилированными лицами, недобросовестные действия менеджмента, ущерб интересам кредиторов…


О, субсидиарную ответственность, сделки по выводу активов, уголовные дела мы даже не трогали — их количественно менее 0,1% и работа с ними велась отдельной командой, поэтому сосредоточились на пополнении конкурсной массы банков путем просуживания просрочки по кредитным договорам — таких дел были десятки тысяч и юристы просто захлебывались текучкой.

Вовремя увидеть появившуюся просрочку или банкротство заемщика (найдя его нечетким поиском в базе банкротов РФ), не пропустить СИД по старым долгам перед банком, сроки обжалования и сроки в ходе исполнительного производства, сгенерить несколько тысяч бумажных писем с уведомлением должников свежеполученного банка — тут автоматизация хорошо помогала, выдавая практически план действий на день и тонны документов из принтеров. Но AI, к сожалению, там и не пахло — тупая алгоритмизация работы. :)

Не выкладывали ли Вы где-то результаты проделанной работы для обсуждения, например, подготовленную онтологию, граф знаний? Или, возможно, была где-то статья о методологии применения графа знаний? Было бы очень интересно ознакомиться.

Нет, в открытый доступ не выкладывалось, естественно. Это был сугубо внутрифирменный проект.

Не могу согласиться с позицией, что право и юриспруденция не основаны на логике. Традиционный предмет на первых курсах юридических ВУЗов — именно логика, в ее классическом, аристотелевском понимании. Это, естественно, не исключает тех случаев, когда применители (суды, чиновники) действуют вопреки логике, но это уже другая история.


Максимум, что получится — избавить юристов и чиновников от каких-нибудь монотонных типовых действий.

Текущий день юриста как раз и состоит на 60-90% из таких операций.

Не могу согласиться с позицией, что право и юриспруденция не основаны на логике

Такое ощущение что Вы не разговаривали с автоответчиком. Там никогда нет нужного варианта. И хочется поговорить с живым оператором…
Нельзя алгоритмизировать суд. Нужны живые люди. А в важных случаях и присяжные. Любая аксиоматическая система или неполна, или противоречива. Компьютер конечно может помочь, но всегда нужен живой человек в цепочке
Такое ощущение что Вы не разговаривали с автоответчиком. Там никогда нет нужного варианта. И хочется поговорить с живым оператором…

Безусловно, сегодняшние голосовые ассистенты, чат-боты, цифровые операторы и т.п. не дотягивают до уровня даже рядового специалиста. Однако такие технологии не имеют ничего общего с Legal AI, они скорее результат классической логики программиста, который пытается оцифровать диалог пользователя с экспертом/юристом. Те AI-решения, которые разрабатываем мы, основаны принципиально на иных подходах и заточены на извлечение и интерпретацию смыслов из текста.


Нельзя алгоритмизировать суд. Нужны живые люди. А в важных случаях и присяжные. Любая аксиоматическая система или неполна, или противоречива. Компьютер конечно может помочь, но всегда нужен живой человек в цепочке

Ответ на этот вопрос ("допустим ли AI в судебной системе?") — это, наверное, тема отдельной статьи/диссертации. Если совсем кратко, то могу привести несколько аргументов в обоснование обратной позиции:


  1. есть большое количество судебных споров (в первую очередь, это споры между юридическими лицами), где достаточно "холодных фактов": кто, кому, когда поставил товар, был ли он оплачен, нарушил ли кто-то договорные обязательства...; в таких спорах AI чувствует себя предельно уверенно;


  2. в теории, конечно, каждый судебный спор должен рассматриваться взвешенно, всесторонне, с учетом всех обстоятельств и нюансов; на практике мы имеем ситуацию, когда судьи колоссально перегружены (на рассмотрение спора может уходить буквально несколько минут); поэтому если мы имеем "цифрового" судью или помощника судьи, который действительно внимательно прочитает все представленные в суд материалы и проанализирует их, то качество принимаемых судебных решений улучшится на порядок;


  3. большинство ошибок в судебной системе обусловлено именно человеческим фактором и невнимательностью; в итоге то, что мы потеряем при замене теплого лампового правосудия на холодное цифровое, мы с лихвой наверстаем в тот момент, когда решения станут гораздо более предсказуемым и единообразными;


  4. вне зависимости от того, насколько это приемлемо с точки зрения морали и этики, процесс цифровизации судебной системы уже не остановить, для примера раз и два.



Повторюсь: тема применимости и этичности AI в судебной системе — это большой и сложный вопрос, дискуссии по которому не утихнут еще долго.

Я понимаю Вашу точку зрения, но не согласен судиться у «цифрового судьи» хотя бы потому что он сам неподсуден и не несет никакой отвественности за решения.

Этот вопрос легко решается апелляцией, которую будет уже гарантированно рассматривать живой человек. Типа как перевестись на оператора, когда бот автоответчик не справился. Если вы уверены в своей правоте — это можно будет доказать. Просто судей нужно будет меньше, и они будут более тщательно разбираться в тех делах, что до них дошли.


Вопрос топикстартеру — а можно ли АИ ещё натравить на существующие и принимаемые законы? Ведь у нас есть куча случаев, когда принятый закон или вообще не логичен и не исполним, или там муть какая-то (например новый закон о просветительской деятельности) или вообще может даже противоречить прошлым законам — получится ли сделать систему проверки? Так, чтобы новый закон принимался, а автотесты и юниттесты сразу при компиляции нового УК говорили "билд еррор"? А то у нас все только рантайм ерроры (((

Я понимаю Вашу точку зрения, но не согласен судиться у «цифрового судьи» хотя бы потому что он сам неподсуден и не несет никакой отвественности за решения.

Этот вопрос легко решается апелляцией, которую будет уже гарантированно рассматривать живой человек. Типа как перевестись на оператора, когда бот автоответчик не справился. Если вы уверены в своей правоте — это можно будет доказать. Просто судей нужно будет меньше, и они будут более тщательно разбираться в тех делах, что до них дошли.

Да, согласен: апелляция — это хороший способ отлавливать ошибки AI (собственно так же, как и человеческие).


Я бы еще добавил, что имеет перспективы появиться некий fast track:


  • при начале рассмотрения спора стороны выбирают, каким образом будет рассматриваться их спор;
  • если стороны согласны с тем, чтобы решение по существу принимал AI, готовое решение и исполнительный лист по нему выдаются в течение нескольких минут/часов;
  • если стороны хотят судью-человека — то спор по-старинке рассматривается несколько месяцев, лет.

Также логичным выглядит уменьшенный размер государственной пошлины при рассмотрении дела при помощи AI, поскольку расходы суда в таком случае, очевидно, сокращаются.


Вопрос топикстартеру — а можно ли АИ ещё натравить на существующие и принимаемые законы? Ведь у нас есть куча случаев, когда принятый закон или вообще не логичен и не исполним, или там муть какая-то (например новый закон о просветительской деятельности) или вообще может даже противоречить прошлым законам — получится ли сделать систему проверки? Так, чтобы новый закон принимался, а автотесты и юниттесты сразу при компиляции нового УК говорили "билд еррор"? А то у нас все только рантайм ерроры (((

Я бы разделил ответ на несколько частей:


  • с точки зрения текущего уровня развития технологий, да, такую задачу вполне можно решить, технологии позволяют анализировать текст, выявлять смысл и находить противоречия;
  • для решения этой задачи нужны колоссальные ресурсы, так как, очевидно, при выявлении противоречий нужно переписывать законы, а это очень ресурсозатратная задача;
  • с практическо-бюрократической точки зрения, решить такую задачу невероятно трудно: для примера, сейчас продолжает действовать законодательство, принятое еще во времена СССР, и даже сам Минюст не знает, какие из таких законов являются актуальными; более того, текущая правовая система РФ содержит в себе большое количество противоречий, поэтому, если запустить компиляцию уже действующих законов, то build error гарантирован с вероятностью 99,99%.
Меня в этом вопросе интересует не столько полезность AI в судопроизводстве (она наверняка есть), сколько вопросы защиты данных. Хакнув базу AI, одна из сторон получает огромные преимущества в процессе, например.

Исходники и так есть в открытом доступе, можно спокойно ознакомиться:



Хотя, если говорить серьезно, то я не уверен, что есть или когда-то появится в принципе смысл "хакнуть судебный AI":


  • в большинстве коммерческих споров (>95%) исход дела можно с высокой степенью вероятности предугадать заранее (если на входе известны все значимые обстоятельства);
  • в частности, в большинстве случаев стороны не спорят о наличии или отсутствии каких-либо фактических обстоятельств (например, вопрос "а был ли платеж по договору или нет?" однозначно разрешается при предъявлении в суд выписки из банка или отсутствии таковой); суд, скорее, выполняет функцию принудительного исполнения условий, о которых стороны изначально договорились в договоре;
  • иными словами, для опытного юриста не составляет проблем заранее предугадать исход судебного разбирательства и оценить (с высокой степенью вероятности) не только шансы на победу, но и сопутствующие затраты.

Поэтому экономическая целесообразность такого взлома — это стоимость разовой консультации юриста с 2-3 годами судебной практики за плечами.


В любом случае система достаточно устойчива в ее текущей конфигурации:


  • при наличии какой-то аномальной ситуации при разрешении спора всегда есть возможность обжаловать решение в вышестоящей инстанции;
  • в рамках этой процедуры любая внештатная ситуация, включая потенциальную уязвимость / эксплоит системы Legal AI, будет довольно быстра выявлена и устранена.

Иные типы споров, где по-настоящему заранее не известен исход дела, — действительно существуют, но это в основном прецедентые знаковые дела, которые и так находятся "на особом контроле".


Гораздо большую ценность для недобросовестных товарищей представляют сведения, которые стороны непосредственно направляют в суд: договоры, акты, счета, письма… Это по-настоящему ценная информация, за которой, уверен, и так постоянно охотятся. Однако обеспечение сохранности этих данных — это задача классической IT-безопасности, которая имеет мало общего с темой Legal AI; на уровне архитектуры Legal AI не хранит такие данные (за ненадобностью).

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.