Тема этики в искусственном интеллекте (ИИ) существовала задолго до того, как была сформулирована сама концепция ИИ, но в последние годы приобрела решающее значение в связи с бурным развитием этой технологии. В последние несколько десятилетий активно разрабатываются концепции, формализующие различные этические понятия и нормы в ИИ. В данной статье рассматривается потенциал современных методов, используемых в рамках этой концептуальной схемы.

Для начала рассмотрим, что включает в себя проблема формализации понятия этики. Первая из них – создание различных стандартов следования этическим нормам и выбор подходящего математического аппарата для работы с этими стандартами. На современном этапе существует несколько достаточно продвинутых направлений, которые получили практическое развитие. К ним относятся нечеткая логика, многозначная логика и вероятностная логика. Однако определение уровня качественного описания этических норм для систем ИИ является для нас сегодня гораздо более приоритетной задачей.

Как уже было сказано выше, эта концепция активно разрабатывается в последние несколько десятилетий. Основополагающим для решения этой задачи можно и даже нужно считать использование булевой алгебры, широко применяемой в электронике и информатике. Эта отрасль математики занимается изучением операций с «истинными» и «ложными» значениями, обычно обозначаемыми 1 и 0 соответственно. С этим связан главный недостаток данного метода, в этических проблемах не все можно четко разделить на «хорошо» и «плохо», «правильно» и «неправильно», «тьма» и «свет». Именно такой подход в большинстве случаев предлагает математический аппарат булевой алгебры. Исключение составляют случаи, когда можно четко сформулировать некоторое условие: например, «Когда происходит событие A, выполняется действие B».

Для решения проблемы неоднозначности в булевой алгебре в работе Д.А. Поспелова было введено понятие «круговой (кольцевой) шкалы»: по горизонтальному диаметру круговой шкалы располагаются две противоположные сущности (рис. 1). Их противоположные полюса связаны с нижней частью кольца, которая сопоставима с «серой» шкалой. Верхняя часть кольца, напротив, делится на две части. Степень приближения сущности к свойству А (например, «хорошо») и противоположному ему свойству не-А («плохо») образует ряд точек на разных частях шкалы, и в этом случае отрицание не работает. Например, для удобства предположим, что (1;0) относится к самой левой точке шкалы, а (0;1) – к самой правой. В этом случае оценка для центральной точки будет (0,5;0,5). Остальные точки определяются как (x;y), где 0<x<1, 0<y<1 и x,y≠0,5. В качестве примера рассмотрим меру добра и зла. Здесь сущность, которая является абсолютно доброй, находится в крайней левой точке, а сущность, расположенная в точке (0,8; 0,2), характеризуется как добрая в степени 0,8 и злая в степени 0,2. Смысл этой оценки можно трактовать по-разному. Например, она может означать, что объект на 80% добрый и на 20% злой, или может означать, что объект добрый с доверительной оценкой 0,8 и злой с доверительной оценкой 0,2.

В отличие от традиционных шкал, где каждая точка соответствует только одному объекту, в обобщенных шкалах любая точка может соответствовать множеству объектов разной степени. Это решает проблему неоднозначности булевой алгебры в этических задачах, и поэтому метод «кольцевых» шкал является очень перспективным и интересным подходом к решению проблемы формализации этических норм в искусственном интеллекте.

Метод также наглядно демонстрирует, что применение многозначной логики, которая играет важную роль в развитии различных неклассических парадигм в ИИ, подходит для решения поставленной задачи.

Многозначная логика – это формальная логика, в которой логические формулы принимают значения из множеств, содержащих более двух элементов. Применение многозначной логики для формализации этических норм в ИИ также сталкивается с рядом проблем. Во многом исследованиям в области многозначной логики мешает наличие очевидных дисциплинарных барьеров, поскольку она написана на языке, сложном для понимания большинством специалистов в области информационных технологий. Серьезной проблемой в современной логике является понимание связей и отношений между различными теориями логики, иногда даже сформулированными на разных языках, и между собой. Это один из факторов, препятствующих широкому распространению многозначной логики. Другая проблема, в частности, заключается в том, что переход, например, от трехзначной логики к четырехзначной может потребовать полного «переосмысления» соответствующих математических структур. Использование многозначной логики для формализации понятия этики в ИИ также затрудняет получение противоречивых результатов в некоторых случаях: поскольку используются два или более истинностных значения, правила вывода могут быть применены для генерации некоторых данных, которые необязательно соответствуют истине. Например, в троичной логике может быть два значения, описывающие разные степени истинности, и в этом случае правила вывода направлены на сохранение этих значений.

Интересным подходом к преодолению трудностей многозначной логики при решении задачи формализации этических понятий в ИИ является применение вероятностных аппаратов и нечеткой логики. Основным понятием нечеткой логики является понятие нечеткого множества, которое отличается от классического тем, что каждый элемент наделяется степенью принадлежности. Для их определения используются функции принадлежности. Степень принадлежности атрибута обозначается начальным значением в диапазоне от 0 до 1, которое задается функцией. В зависимости от того, как построена функция, получаются разные результаты, что обусловлено основными характеристиками нечеткой логики и свидетельствует о гибкости этого подхода при обработке неточных и неопределенных данных. Недостатком нечеткой логики является отсутствие прочного математического фундамента и четких правил. Отсутствие формальной структуры затрудняет доказательство различных теорем и установление четких границ использования этого подхода.

Другим очень перспективным и интересным математическим инструментом для формализации этических норм в ИИ является применение теории решеток, в частности этических решеток. В рамках этой теории объектом исследования является решетка (ранее называемая структурой), то есть частично упорядоченное множество. Этические решетки – это инструменты для оценки и анализа моральных принципов и решений в различных ситуациях. Для наглядности рассмотрим их практическое применение. Предположим, что оружие, например пистолет, случайно находит на улице совершенно случайный прохожий. С помощью этической решетки (рис.2) можно проанализировать различные сценарии поведения. В первом сценарии рассматривается возможность извлечения некоторой прибыли из нарушения закона, например, продажа найденного пистолета на черном рынке преступникам за «круглую» сумму. Второй сценарий предполагает законные, но невыгодные последствия. Например, добровольная сдача найденного оружия в полицию без материального вознаграждения. Третий сценарий предполагает негативные и незаконные последствия, например, прохожий находит пистолет и убирает его. Таким образом, этот подход может быть полезен для формулирования концепции этики в ИИ. С его помощью можно оценить возможные последствия различных решений и определить нормы и ценности, которые следует учитывать при создании систем ИИ. Однако необходимо учитывать, что этическая решетка не отражает всех характеристик и контекстов действий, совершаемых в той или иной ситуации, поэтому для формализации этики в ИИ целесообразно дополнить этот подход другими методами, такими как оценка рисков и анализ решений.

Я считаю, что следующий подход к формализации этических норм является наиболее интересным и заключается в применении методов вербального анализа решений (ВАР). Большинство методов ВАР основаны на информатике (взаимодействие человека и компьютера), прикладной математике (описания точных правил, способы поиска информации и анализ противоречивости), организационной теории (приобретение описаний) и когнитивной психологии (измерение, как информация извлекается при обобщении точных правил, как точные правила обобщаются шаг за шагом) и результатах исследований из других научных дисциплин. Методы принятия решений в рамках этого подхода помогают объединить качественную и количественную информацию о вариациях, экспертных точках зрения и приоритетах лиц, принимающих решения, а также объективные и субъективные аспекты, соответствующие данной ситуации, высокоэффективным и естественным способом при исследовании сложных вариаций принятия решений.

Вернёмся к применимости ВАР для устранения обсуждаемой проблемы. В качестве примера можно привести следующую постановку задачи: предположим, что в рамках этики ИИ разработан набор норм, уровни принадлежности которых к той или иной норме можно рассматривать как многокритериальную задачу порядковой классификации. Соответственно, на основе анализа этих норм решается, соблюдается ли норма в полной мере, нарушается ли она незначительно, существенно ли отклоняется от принятой нормы и т.д. Преимущества использования методов ВAP заключаются, прежде всего, в том, что он не предполагает преобразования исходных данных в числовую форму. Это связано с тем, что такие преобразования обычно носят субъективный характер и не имеют четких доказательств. Также такой подход позволяет интерпретировать полученные результаты в терминах конкретной предметной области. Кроме того, создавая такую классификацию, можно быть уверенным в ее логичности и последовательности. Однако недостатком данного подхода является то, что при работе с большими пространствами признаков он потребляет большое количество трудовых ресурсов экспертов и лиц, принимающих решения. В таких случаях имеет смысл использовать методы, снижающие размерность пространства признаков (например, методы главных компонент, ядерные методы главных компонент, разложение неотрицательных матриц).

Почему же использование методов ВAP считается наиболее интересным подходом к формализации концепций? Есть несколько причин, некоторые из которых уже упоминались ранее. Первая – точность и последовательность получаемых результатов. Вторая – гибкость и адаптируемость к различным ситуациям. Третья – универсальность в этических вопросах. Четвертая – возможность соотнести различные решения друг с другом, что снижает риск ошибки.

В рамках данной статьи я рассмотрела некоторые методы и пришёл к выводу, что в данный момент существует обширный список подходов, применяющих разные математические аппараты, которые, с некоторыми улучшениями и в разнообразных комбинациях, являются весьма эффективными инструментами для решения задачи формализации этических норм и понятий в ИИ.

Дополнительно следует отметить, что дальнейшее развитие данной области требует не только совершенствования математических моделей, но и их интеграции с реальными практиками разработки систем искусственного интеллекта. Важно учитывать междисциплинарный характер задачи: успешная формализация этических норм возможна только при взаимодействии специалистов в области информатики, философии, права и когнитивных наук.

Перспективным направлением дальнейших исследований является разработка гибридных моделей, сочетающих преимущества различных подходов, таких как нечеткая логика, вероятностные методы и вербальный анализ решений. Это позволит повысить точность, интерпретируемость и применимость этических моделей в реальных системах ИИ, а также снизить риски принятия некорректных или социально неприемлемых решений.

Методы формализации этических норм в ИИ