Хотя, если говорить серьезно, то я не уверен, что есть или когда-то появится в принципе смысл "хакнуть судебный AI":
в большинстве коммерческих споров (>95%) исход дела можно с высокой степенью вероятности предугадать заранее (если на входе известны все значимые обстоятельства);
в частности, в большинстве случаев стороны не спорят о наличии или отсутствии каких-либо фактических обстоятельств (например, вопрос "а был ли платеж по договору или нет?" однозначно разрешается при предъявлении в суд выписки из банка или отсутствии таковой); суд, скорее, выполняет функцию принудительного исполнения условий, о которых стороны изначально договорились в договоре;
иными словами, для опытного юриста не составляет проблем заранее предугадать исход судебного разбирательства и оценить (с высокой степенью вероятности) не только шансы на победу, но и сопутствующие затраты.
Поэтому экономическая целесообразность такого взлома — это стоимость разовой консультации юриста с 2-3 годами судебной практики за плечами.
В любом случае система достаточно устойчива в ее текущей конфигурации:
при наличии какой-то аномальной ситуации при разрешении спора всегда есть возможность обжаловать решение в вышестоящей инстанции;
в рамках этой процедуры любая внештатная ситуация, включая потенциальную уязвимость / эксплоит системы Legal AI, будет довольно быстра выявлена и устранена.
Иные типы споров, где по-настоящему заранее не известен исход дела, — действительно существуют, но это в основном прецедентые знаковые дела, которые и так находятся "на особом контроле".
Гораздо большую ценность для недобросовестных товарищей представляют сведения, которые стороны непосредственно направляют в суд: договоры, акты, счета, письма… Это по-настоящему ценная информация, за которой, уверен, и так постоянно охотятся. Однако обеспечение сохранности этих данных — это задача классической IT-безопасности, которая имеет мало общего с темой Legal AI; на уровне архитектуры Legal AI не хранит такие данные (за ненадобностью).
Не выкладывали ли Вы где-то результаты проделанной работы для обсуждения, например, подготовленную онтологию, граф знаний? Или, возможно, была где-то статья о методологии применения графа знаний? Было бы очень интересно ознакомиться.
Но это был огромный граф, реально. Я, пара программистов и человек 6 юристов работали больше месяца над ТЗ, а потом еще допиливали в продакшене больше полугода. Очень много условий, вариантов действий, и т.д. И это только один, сравнительно небольшой и достаточно хорошо формализуемый раздел деятельности.
Банкротство банков — это довольно перспективная, на первый взгляд, отрасль для автоматизации: сравнительно высокая степень формализации процедур, наличие большого количества судебной практики (датасета), постоянная рутина (подготовка исковых заявлений по оспариванию сделок должника в преддверии отзыва лицензии)...
С другой стороны, тема банкротства волей-неволей затрагивает довольно широкий пласт отношений из сферы корпоративного, трудового, деликтного права и др.: сделки с аффилированными лицами, недобросовестные действия менеджмента, ущерб интересам кредиторов… Поэтому 6-7 месяцев на написание хорошего ТЗ/полного графа знаний для данной сферы — это очень даже скромный, оптимисичный срок.
Поэтому если кто-то заявляет, что готов выкатить AI, который заменит юриста в общем случае — я нервно хихикаю и борюсь с подергиванием век ;) Возможно, когда-то это и будет, но точно не через 5-10 лет, судя по текущему прогрессу в AI.
Я не говорю о том, что именно мы сделаем такого универсального юриста через 5-10 лет, речь немного о другом. Мои коллеги и я занимаемся оцифровкой экспертных знаний в сфере нашей компетенции, при этом мы видим, что мы далеко не одиноки в этой работе. Соответственно, прогноз о коренной трансформации профессии через 5-10 лет:
основан не на том, что кому-то удастся сделать универсального AI-юриста (здесь, соглашусь, шансы невелики);
базируется на предположении, что в рамках данного горизонта планирования совместными усилиями нескольких команд (включая нас) большинство процессов в юридической деятельности коренным образом трансформируется.
Как говорится:
«Если идея пришла к тебе в голову, значит, она пришла не только к тебе».
Я понимаю Вашу точку зрения, но не согласен судиться у «цифрового судьи» хотя бы потому что он сам неподсуден и не несет никакой отвественности за решения.
Этот вопрос легко решается апелляцией, которую будет уже гарантированно рассматривать живой человек. Типа как перевестись на оператора, когда бот автоответчик не справился. Если вы уверены в своей правоте — это можно будет доказать. Просто судей нужно будет меньше, и они будут более тщательно разбираться в тех делах, что до них дошли.
Да, согласен: апелляция — это хороший способ отлавливать ошибки AI (собственно так же, как и человеческие).
Я бы еще добавил, что имеет перспективы появиться некий fast track:
при начале рассмотрения спора стороны выбирают, каким образом будет рассматриваться их спор;
если стороны согласны с тем, чтобы решение по существу принимал AI, готовое решение и исполнительный лист по нему выдаются в течение нескольких минут/часов;
если стороны хотят судью-человека — то спор по-старинке рассматривается несколько месяцев, лет.
Также логичным выглядит уменьшенный размер государственной пошлины при рассмотрении дела при помощи AI, поскольку расходы суда в таком случае, очевидно, сокращаются.
Вопрос топикстартеру — а можно ли АИ ещё натравить на существующие и принимаемые законы? Ведь у нас есть куча случаев, когда принятый закон или вообще не логичен и не исполним, или там муть какая-то (например новый закон о просветительской деятельности) или вообще может даже противоречить прошлым законам — получится ли сделать систему проверки? Так, чтобы новый закон принимался, а автотесты и юниттесты сразу при компиляции нового УК говорили "билд еррор"? А то у нас все только рантайм ерроры (((
Я бы разделил ответ на несколько частей:
с точки зрения текущего уровня развития технологий, да, такую задачу вполне можно решить, технологии позволяют анализировать текст, выявлять смысл и находить противоречия;
для решения этой задачи нужны колоссальные ресурсы, так как, очевидно, при выявлении противоречий нужно переписывать законы, а это очень ресурсозатратная задача;
с практическо-бюрократической точки зрения, решить такую задачу невероятно трудно: для примера, сейчас продолжает действовать законодательство, принятое еще во времена СССР, и даже сам Минюст не знает, какие из таких законов являются актуальными; более того, текущая правовая система РФ содержит в себе большое количество противоречий, поэтому, если запустить компиляцию уже действующих законов, то build error гарантирован с вероятностью 99,99%.
Такое ощущение что Вы не разговаривали с автоответчиком. Там никогда нет нужного варианта. И хочется поговорить с живым оператором…
Безусловно, сегодняшние голосовые ассистенты, чат-боты, цифровые операторы и т.п. не дотягивают до уровня даже рядового специалиста. Однако такие технологии не имеют ничего общего с Legal AI, они скорее результат классической логики программиста, который пытается оцифровать диалог пользователя с экспертом/юристом. Те AI-решения, которые разрабатываем мы, основаны принципиально на иных подходах и заточены на извлечение и интерпретацию смыслов из текста.
Нельзя алгоритмизировать суд. Нужны живые люди. А в важных случаях и присяжные. Любая аксиоматическая система или неполна, или противоречива. Компьютер конечно может помочь, но всегда нужен живой человек в цепочке
Ответ на этот вопрос ("допустим ли AI в судебной системе?") — это, наверное, тема отдельной статьи/диссертации. Если совсем кратко, то могу привести несколько аргументов в обоснование обратной позиции:
есть большое количество судебных споров (в первую очередь, это споры между юридическими лицами), где достаточно "холодных фактов": кто, кому, когда поставил товар, был ли он оплачен, нарушил ли кто-то договорные обязательства...; в таких спорах AI чувствует себя предельно уверенно;
в теории, конечно, каждый судебный спор должен рассматриваться взвешенно, всесторонне, с учетом всех обстоятельств и нюансов; на практике мы имеем ситуацию, когда судьи колоссально перегружены (на рассмотрение спора может уходить буквально несколько минут); поэтому если мы имеем "цифрового" судью или помощника судьи, который действительно внимательно прочитает все представленные в суд материалы и проанализирует их, то качество принимаемых судебных решений улучшится на порядок;
большинство ошибок в судебной системе обусловлено именно человеческим фактором и невнимательностью; в итоге то, что мы потеряем при замене теплого лампового правосудия на холодное цифровое, мы с лихвой наверстаем в тот момент, когда решения станут гораздо более предсказуемым и единообразными;
вне зависимости от того, насколько это приемлемо с точки зрения морали и этики, процесс цифровизации судебной системы уже не остановить, для примера раз и два.
Повторюсь: тема применимости и этичности AI в судебной системе — это большой и сложный вопрос, дискуссии по которому не утихнут еще долго.
Не могу согласиться с позицией, что право и юриспруденция не основаны на логике. Традиционный предмет на первых курсах юридических ВУЗов — именно логика, в ее классическом, аристотелевском понимании. Это, естественно, не исключает тех случаев, когда применители (суды, чиновники) действуют вопреки логике, но это уже другая история.
Максимум, что получится — избавить юристов и чиновников от каких-нибудь монотонных типовых действий.
Текущий день юриста как раз и состоит на 60-90% из таких операций.
А если серьезно, то очень сложно прогнозировать тот момент, когда произойдет произойдет массовая трансформация (процессов, сознания людей, IT-систем). Тем не менее, по нашей оценке, профессии юриста в ее каноническом понимании осталось жить не более 5-10 лет, после чего:
количество людей в профессии станет существенно меньше;
те, кто смогут и захотят в ней остаться, будут заниматься новым классом задач.
Добрый день!
Про наши текущие проекты по условиям NDA мы пока, к сожалению, рассказывать не можем. Тем временем полагаю Вам может быть интересен цикл видео об AI в юриспруденции, который мы недавно записали. Первое видео уже доступно здесь: https://habr.com/ru/post/552362/
верно ли я понимаю, что пока удалось автоматизировать только ввод стандартизированных документов (приложение OCR) и извлекать нейросеткой простые сущности?
Не совсем так. Задачи по работе с шаблонными документами (платежные поручения, выписки из ЕГРЮЛ) вполне успешно решают хорошо известные продукты: Compreno/FlexiCapture, Google/Yandex OCR и др. А извлечение именованных сущностей — сейчас уже скорее тривиальная задача, которая упирается только в наличие датасета (см. например deeppavlov).
Мы делаем основной упор на извлечение смыслов в контексте заданной предметной области из нестркутурированных / слабоструктурированных документов на естественном языке.
Классический пример такой задачи — извлечь из произвольного устава юридического лица полный перечень полномочий органов управления; например, возьмем такой фрагмент из устава:
Совет директоров Общества вправе принять решение о приостановлении полномочий
управляющей организации или управляющего. Одновременно с указанным решением Совет
директоров Общества обязан принять решение о назначении исполняющего обязанности
Генерального директора Общества и о проведении внеочередного Общего собрания
акционеров для решения вопроса о досрочном прекращении полномочий управляющей
организации (управляющего) и, если иное решение не будет принято Советом директоров, о
передаче полномочий единоличного исполнительного органа общества управляющей
организации (управляющему).
Из приведенного абзаца устава надо извлечь все полномочия Совета директоров.
то есть до мечты еще ммм… и вся основная работа еще впереди?
Как говорится, следите за новостями…
Лайк и подписка ускоряют выход новых статей =)
Вы смотрели в работе на Сутяжник? Там как раз на входе документ, на выходе релевантная выборка. Можете прокомментировать?
Сутяжник нам знаком, и в работе мы достаточно давно пользуемся продуктами Гаранта. Сервис довольно неплохо справляется с подбором релевантной практики, но показался мне и моим коллегам-юристам сверхзаточенным на эту достаточно узкую задачу. При этом Сутяжник по сути одновременно конкурирует с основным продуктом Гаранта. Однако отмечу, что сервис мы изучали примерно год назад и не исключаю, что он существенно поменялся с того момента.
Благодарю за комментарии! По обозначенным вопросам:
часть сложных задач нам действительно удалось решить, в последнем видео как раз была описана архитектура наших решений:
в самом общем виде наше решение — это сервис, который интегрируется в IT-системы заказчика: на вход подаются материалы "as is" (pdf, doc, jpeg, tiff...), а на выходе сервис выдает верифицируемые логические суждения по заданным параметрам с учетом логики предметной области;
по технологической и методологической части все, что мы готовы (пока) без ущерба для текущих проектов выложить в открытый доступ, — мы постарались максимально подробно описать в статьях; часть наших наработок осталась за кадром, но не исключено, что мы также поделимся ими в будущем;
планы на будущее предельно простые — выпустить "на волю" юридический ИИ =)
найти общедоступные API госорганов для работы с документами — это крайне непростая задача, так как здесь возникает вопрос защиты персональных данных; для первых экспериментов могу порекомендовать Почту России, DaData, также не стоит забывать про первоисточник ЕГРЮЛ/ЕГРИП;
из обучающих программ могу порекомендовать обучающую программу LegalTech-директор — хорошие спикеры подобраны;
также есть большое количество курсов в свободном доступе на Coursera по теме обработки естественного языка, например, вот этот.
P.S. В качестве лайфхака: неплохо работает вариант сходить на собеседование / посмотреть требования к вакансии по специальности и на базе этого составить себе план обучения.
Благодарю за комментарий!
В целом с утверждением я бы согласился, однако стоит уточнить, что такому "любознательному и целеустремленному исследователю" для начала надо будет затратить очень существенное количество ресурсов для погружения в тему. И первой строчкой в статье расходов станет оплата труда привлеченных экспертов-профессионалов, которые должны будут растолковать нашему исследователю все тонкости и нюансы правовой системы.
Вы затронули цель перспективы практического применения на отечественном рынке, но не раскрыли вопрос.
Какова цель и практическое применение юридического искусственного интеллекта?
Если вкратце, то целью Legal AI является автоматизация юридической функции: на первых этапах — это рекомендации / проекты готовых решений для должностных лиц.
Если более подробно, то, как говорится, "в следующей серии"...
Можно ли с помощью ИИ упростить казуистический юридический язык до уровня читабельности не юристом?
Да, безусловно. Смысловая выжимка из юридических документов — это одна из ключевых (core) функций.
Можно ли разбить юридические документы до параграфов с дальнейшим созданием цифровых правил и автоматической проверкой на соответствие?
Исходя из нашей практики решения подобных задач, только исходного текста недостаточно. Значительный пласт необходимых знаний находится в головах специалистов-исполнителей.
Спасибо за комментарий!
Идея достаточно интересная — если бы не было противоречий в законах, юридическая жизнь была бы на порядок проще...
Другой вопрос, что написать такой валидатор даже для самого "простого" закона (ПДД, ФЗ об ООО и др.) — титанически сложная задача. Казалось бы, тривиальный пример из ПДД:
"11.7. В случае если встречный разъезд затруднен, водитель, на стороне которого имеется препятствие, должен уступить дорогу."
Для того, чтобы валидатор мог работать с этим условием, ему как минимум нужна пространственно-временная модель дороги, а также инструментарий для описания состояния "разъезд затруднен" / "разъезд не затруднен".
Поэтому нам представляется более перспективным подход "снизу-вверх": мы идем от актуальных практических задач, постепенно наращивая сложность и масштаб графа знаний.
Добрый день!
Отличная статья, интересный подход. Могли бы Вы, пожалуйста, показать пример препроцессинга новости?
Исходники и так есть в открытом доступе, можно спокойно ознакомиться:
Хотя, если говорить серьезно, то я не уверен, что есть или когда-то появится в принципе смысл "хакнуть судебный AI":
Поэтому экономическая целесообразность такого взлома — это стоимость разовой консультации юриста с 2-3 годами судебной практики за плечами.
В любом случае система достаточно устойчива в ее текущей конфигурации:
Иные типы споров, где по-настоящему заранее не известен исход дела, — действительно существуют, но это в основном прецедентые знаковые дела, которые и так находятся "на особом контроле".
Гораздо большую ценность для недобросовестных товарищей представляют сведения, которые стороны непосредственно направляют в суд: договоры, акты, счета, письма… Это по-настоящему ценная информация, за которой, уверен, и так постоянно охотятся. Однако обеспечение сохранности этих данных — это задача классической IT-безопасности, которая имеет мало общего с темой Legal AI; на уровне архитектуры Legal AI не хранит такие данные (за ненадобностью).
Не выкладывали ли Вы где-то результаты проделанной работы для обсуждения, например, подготовленную онтологию, граф знаний? Или, возможно, была где-то статья о методологии применения графа знаний? Было бы очень интересно ознакомиться.
Банкротство банков — это довольно перспективная, на первый взгляд, отрасль для автоматизации: сравнительно высокая степень формализации процедур, наличие большого количества судебной практики (датасета), постоянная рутина (подготовка исковых заявлений по оспариванию сделок должника в преддверии отзыва лицензии)...
С другой стороны, тема банкротства волей-неволей затрагивает довольно широкий пласт отношений из сферы корпоративного, трудового, деликтного права и др.: сделки с аффилированными лицами, недобросовестные действия менеджмента, ущерб интересам кредиторов… Поэтому 6-7 месяцев на написание хорошего ТЗ/полного графа знаний для данной сферы — это очень даже скромный, оптимисичный срок.
Я не говорю о том, что именно мы сделаем такого универсального юриста через 5-10 лет, речь немного о другом. Мои коллеги и я занимаемся оцифровкой экспертных знаний в сфере нашей компетенции, при этом мы видим, что мы далеко не одиноки в этой работе. Соответственно, прогноз о коренной трансформации профессии через 5-10 лет:
Как говорится:
«Если идея пришла к тебе в голову, значит, она пришла не только к тебе».
Да, согласен: апелляция — это хороший способ отлавливать ошибки AI (собственно так же, как и человеческие).
Я бы еще добавил, что имеет перспективы появиться некий fast track:
Также логичным выглядит уменьшенный размер государственной пошлины при рассмотрении дела при помощи AI, поскольку расходы суда в таком случае, очевидно, сокращаются.
Я бы разделил ответ на несколько частей:
Безусловно, сегодняшние голосовые ассистенты, чат-боты, цифровые операторы и т.п. не дотягивают до уровня даже рядового специалиста. Однако такие технологии не имеют ничего общего с Legal AI, они скорее результат классической логики программиста, который пытается оцифровать диалог пользователя с экспертом/юристом. Те AI-решения, которые разрабатываем мы, основаны принципиально на иных подходах и заточены на извлечение и интерпретацию смыслов из текста.
Ответ на этот вопрос ("допустим ли AI в судебной системе?") — это, наверное, тема отдельной статьи/диссертации. Если совсем кратко, то могу привести несколько аргументов в обоснование обратной позиции:
есть большое количество судебных споров (в первую очередь, это споры между юридическими лицами), где достаточно "холодных фактов": кто, кому, когда поставил товар, был ли он оплачен, нарушил ли кто-то договорные обязательства...; в таких спорах AI чувствует себя предельно уверенно;
в теории, конечно, каждый судебный спор должен рассматриваться взвешенно, всесторонне, с учетом всех обстоятельств и нюансов; на практике мы имеем ситуацию, когда судьи колоссально перегружены (на рассмотрение спора может уходить буквально несколько минут); поэтому если мы имеем "цифрового" судью или помощника судьи, который действительно внимательно прочитает все представленные в суд материалы и проанализирует их, то качество принимаемых судебных решений улучшится на порядок;
большинство ошибок в судебной системе обусловлено именно человеческим фактором и невнимательностью; в итоге то, что мы потеряем при замене теплого лампового правосудия на холодное цифровое, мы с лихвой наверстаем в тот момент, когда решения станут гораздо более предсказуемым и единообразными;
вне зависимости от того, насколько это приемлемо с точки зрения морали и этики, процесс цифровизации судебной системы уже не остановить, для примера раз и два.
Повторюсь: тема применимости и этичности AI в судебной системе — это большой и сложный вопрос, дискуссии по которому не утихнут еще долго.
Не могу согласиться с позицией, что право и юриспруденция не основаны на логике. Традиционный предмет на первых курсах юридических ВУЗов — именно логика, в ее классическом, аристотелевском понимании. Это, естественно, не исключает тех случаев, когда применители (суды, чиновники) действуют вопреки логике, но это уже другая история.
Текущий день юриста как раз и состоит на 60-90% из таких операций.
"Мы работаем над этим" =)
А если серьезно, то очень сложно прогнозировать тот момент, когда произойдет произойдет массовая трансформация (процессов, сознания людей, IT-систем). Тем не менее, по нашей оценке, профессии юриста в ее каноническом понимании осталось жить не более 5-10 лет, после чего:
Добрый день!
Про наши текущие проекты по условиям NDA мы пока, к сожалению, рассказывать не можем. Тем временем полагаю Вам может быть интересен цикл видео об AI в юриспруденции, который мы недавно записали. Первое видео уже доступно здесь: https://habr.com/ru/post/552362/
Полезная статья, спасибо!
Спасибо за вопросы!
Не совсем так. Задачи по работе с шаблонными документами (платежные поручения, выписки из ЕГРЮЛ) вполне успешно решают хорошо известные продукты: Compreno/FlexiCapture, Google/Yandex OCR и др. А извлечение именованных сущностей — сейчас уже скорее тривиальная задача, которая упирается только в наличие датасета (см. например deeppavlov).
Мы делаем основной упор на извлечение смыслов в контексте заданной предметной области из нестркутурированных / слабоструктурированных документов на естественном языке.
Классический пример такой задачи — извлечь из произвольного устава юридического лица полный перечень полномочий органов управления; например, возьмем такой фрагмент из устава:
Из приведенного абзаца устава надо извлечь все полномочия Совета директоров.
Как говорится, следите за новостями…
Лайк и подписка ускоряют выход новых статей =)
Сутяжник нам знаком, и в работе мы достаточно давно пользуемся продуктами Гаранта. Сервис довольно неплохо справляется с подбором релевантной практики, но показался мне и моим коллегам-юристам сверхзаточенным на эту достаточно узкую задачу. При этом Сутяжник по сути одновременно конкурирует с основным продуктом Гаранта. Однако отмечу, что сервис мы изучали примерно год назад и не исключаю, что он существенно поменялся с того момента.
Добрый день!
Благодарю за комментарии! По обозначенным вопросам:
Спасибо за интерес!
По обозначенным вопросам:
— хорошие спикеры подобраны;
P.S. В качестве лайфхака: неплохо работает вариант сходить на собеседование / посмотреть требования к вакансии по специальности и на базе этого составить себе план обучения.
Спасибо, будем продолжать!)
Благодарю за материалы!
Благодарю за комментарий!
В целом с утверждением я бы согласился, однако стоит уточнить, что такому "любознательному и целеустремленному исследователю" для начала надо будет затратить очень существенное количество ресурсов для погружения в тему. И первой строчкой в статье расходов станет оплата труда привлеченных экспертов-профессионалов, которые должны будут растолковать нашему исследователю все тонкости и нюансы правовой системы.
Спасибо за вопросы!
Если вкратце, то целью Legal AI является автоматизация юридической функции: на первых этапах — это рекомендации / проекты готовых решений для должностных лиц.
Если более подробно, то, как говорится, "в следующей серии"...
Да, безусловно. Смысловая выжимка из юридических документов — это одна из ключевых (core) функций.
Исходя из нашей практики решения подобных задач, только исходного текста недостаточно. Значительный пласт необходимых знаний находится в головах специалистов-исполнителей.
Спасибо за комментарий!
Идея достаточно интересная — если бы не было противоречий в законах, юридическая жизнь была бы на порядок проще...
Другой вопрос, что написать такой валидатор даже для самого "простого" закона (ПДД, ФЗ об ООО и др.) — титанически сложная задача. Казалось бы, тривиальный пример из ПДД:
"11.7. В случае если встречный разъезд затруднен, водитель, на стороне которого имеется препятствие, должен уступить дорогу."
Для того, чтобы валидатор мог работать с этим условием, ему как минимум нужна пространственно-временная модель дороги, а также инструментарий для описания состояния "разъезд затруднен" / "разъезд не затруднен".
Поэтому нам представляется более перспективным подход "снизу-вверх": мы идем от актуальных практических задач, постепенно наращивая сложность и масштаб графа знаний.
Действительно впечатляет! Интересно сможет ли такая нейросеть найти ответ на factoid questions? Найти ответ в исходном корпусе текстов?
Спасибо, было бы интересно посмотреть! Будем следить за Вашими публикациями.