Я бы поставил вопрос шире — какая информация будет (может, должна) учитываться при выборе решения, которое ведет к смерти водителя?
Представим, что автомобили имеют достаточно полную информацию о пассажирах и могут обмениваться информацией друг с другом в реальном времени.
Представим себе дорожную ситуацию, в которой из двух автономных автомобилей с ИИ только один водитель может выжить. Причем один выживет только при согласованном маневре обоих машин. Если автомобили (ИИ) не договорятся о правильном совместном маневре, то погибнут оба (можно для сложности допустить что подобные исходы не абсолютны, а оцениваются ИИ с некоторыми вероятностями, например вероятность гибели обоих 90%).
Начнем с ситуации, когда ни один из этих автомобилей не нарушил ПДД — причиной возникающей аварии является, например, третий участник, большой грузовик, управляемый человеком смерть которому и так не грозит.
Итак, два (казалось-бы) равноправных автомобиля, и только согласованный выбор ИИ позволит одному из водителей выжить. Какие есть варианты?
1) ИИ не договариваются по ряду причин, например потому что производители ИИ не хотят делать такой выбор, и погибает оба человека. Правильно ли это? Наверное нет. Если одного человека можно спасти, то его надо спасти. Но кого именно?
2) Сделать случайный выбор. Вариант, но вряд ли он устроит как водителей, так и другие стороны (страховые компании). Захочет ли водитель покупать автомобиль, который в критической ситуации не попытается его спасти, а отдаст его на волю случая (а тут можно и обсудить какие генераторы случайных чисел будут применяться, на каком из автомобилей и т.д.).
3) Третий вариант — самый наверное правильный, но и самый сложный с этической точки зрения. Принять решения на базе имеющейся у ИИ информации о водителях (пассажирах). Тут сразу же встает огромный пласт вопросов берущих свое начало с проблемы вагонетки (см. Википедию).
Если один водитель белый а другой афроамериканец? Если один мужчина, а другой — женщина, Если две женщины, но одна беременна? Если один добропорядочный гражданин, а другой убийца-рецедивист? Что если в одном автомобиле один человек, а в другом два? Три? Если беременная женщина серьезно нарушила правила, а вор рецедивист — нет? И т.д. — комбинаций может быть превеликое множество.
Теперь следующий очень интересный вопрос — условия страховки обоих автомобилей и водителей. Могут (должны ли) эти условия повлиять на решение.
Ну и главное. Должны ли все эти правила быть едиными для всех беспилотных автомобилей? В мире, стране, штате, городе? Или каждый производитель сможет устанавливать свой набор правил? И насколько подробно покупатель автомобиля (или пассажир автономного такси) будут извещены обо всех этих правилах и ситуациях, в которых их правом на жизнь пренебрегут.
Представим, что автомобили имеют достаточно полную информацию о пассажирах и могут обмениваться информацией друг с другом в реальном времени.
Представим себе дорожную ситуацию, в которой из двух автономных автомобилей с ИИ только один водитель может выжить. Причем один выживет только при согласованном маневре обоих машин. Если автомобили (ИИ) не договорятся о правильном совместном маневре, то погибнут оба (можно для сложности допустить что подобные исходы не абсолютны, а оцениваются ИИ с некоторыми вероятностями, например вероятность гибели обоих 90%).
Начнем с ситуации, когда ни один из этих автомобилей не нарушил ПДД — причиной возникающей аварии является, например, третий участник, большой грузовик, управляемый человеком смерть которому и так не грозит.
Итак, два (казалось-бы) равноправных автомобиля, и только согласованный выбор ИИ позволит одному из водителей выжить. Какие есть варианты?
1) ИИ не договариваются по ряду причин, например потому что производители ИИ не хотят делать такой выбор, и погибает оба человека. Правильно ли это? Наверное нет. Если одного человека можно спасти, то его надо спасти. Но кого именно?
2) Сделать случайный выбор. Вариант, но вряд ли он устроит как водителей, так и другие стороны (страховые компании). Захочет ли водитель покупать автомобиль, который в критической ситуации не попытается его спасти, а отдаст его на волю случая (а тут можно и обсудить какие генераторы случайных чисел будут применяться, на каком из автомобилей и т.д.).
3) Третий вариант — самый наверное правильный, но и самый сложный с этической точки зрения. Принять решения на базе имеющейся у ИИ информации о водителях (пассажирах). Тут сразу же встает огромный пласт вопросов берущих свое начало с проблемы вагонетки (см. Википедию).
Если один водитель белый а другой афроамериканец? Если один мужчина, а другой — женщина, Если две женщины, но одна беременна? Если один добропорядочный гражданин, а другой убийца-рецедивист? Что если в одном автомобиле один человек, а в другом два? Три? Если беременная женщина серьезно нарушила правила, а вор рецедивист — нет? И т.д. — комбинаций может быть превеликое множество.
Теперь следующий очень интересный вопрос — условия страховки обоих автомобилей и водителей. Могут (должны ли) эти условия повлиять на решение.
Ну и главное. Должны ли все эти правила быть едиными для всех беспилотных автомобилей? В мире, стране, штате, городе? Или каждый производитель сможет устанавливать свой набор правил? И насколько подробно покупатель автомобиля (или пассажир автономного такси) будут извещены обо всех этих правилах и ситуациях, в которых их правом на жизнь пренебрегут.