Обновить

Классическая проблема вагонетки и другие 7 коллизий, которые предстоит решить перед повсеместным внедрением ИИ

Уровень сложностиПростой
Время на прочтение10 мин
Охват и читатели3.7K
Всего голосов 1: ↑0 и ↓1-1
Комментарии7

Комментарии 7

Может ли компания считать ответ ИИ своим, когда он приносит прибыль, и чужим, когда причиняет вред?

А разве сейчас с кожаными мешками не так же? Если успехи - так это “под чутким руководством имярека наш коллектив…”, а если неудача, то вот он, стрелочник, который недоделал, недоглядел, накосячил, а коллектив, в особенности имярек, тут вообще не при чём.

Кто должен платить первым: разработчик, организация, применившая систему, или тот, кто оказался последним в цепочке управления?

Страховая, у которой застрахована ответственность. А дальше уже пусть суд разбирается.

Можно ли считать человека ответственным за решение, которое он подтвердил, но не мог понять или изменить?

Не можно, а нужно. Не понимаешь - не бери на себя ответственность.

А разве сейчас с кожаными мешками не так же? Если успехи - так это “под чутким руководством имярека наш коллектив…”, а если неудача, то вот он, стрелочник, который недоделал, недоглядел, накосячил, а коллектив, в особенности имярек, тут вообще не при чём.

Именно так. Но хотелось бы хотя бы на ИИ такое не транспонировать, а то он востанет раньше чем планировали))

Страховая, у которой застрахована ответственность. А дальше уже пусть суд разбирается.

Ну вот я к такому же выводу примерно прихожу. Правда тогда придется страховать буквально каждый чих. Ожидаем тарифы у Т страхования (например, не реклама) за ошибку ИИ.

Не можно, а нужно. Не понимаешь - не бери на себя ответственность.

Ну тут вот как-будто проблема глубже, может и понимаю, но по-другому не работает

Куда должен повернуть автомобиль?

Дилемы нет, в таком крайнем случае давить пешехода. Во-первых, робот не имеет умысла на нарушение ПДД, не хулиганит, и не имеет сознания в целом, а пешеход разумен и может посмотреть по сторонам, но не сделал этого. Во-вторых, робот должен защищать приоритетно тех, кого взялся везти - иначе грош ему цена, если он будет жертвовать пассажирами ради философских идей, граничащих с явной эмоциональной манипуляцией... Это примерно как вы наняли охрану для путешествия по опасному району, и в какой-то момент охрана убегает снимать котенка с дерева, бросая вас в руки бандитов.

Купили бы вы автомобиль, который обязан одинаково ценить жизнь пассажира и пешехода, если однажды это равенство может сработать против вас?

Именно что нет. И никто не купит, если там будет декларироваться, что он спасает нарушителя ПДД за ваш счет. Никакой маркетолог/юрист это не пропустит. А учитывая, что роботы, скорее всего, будут общественными, тут против будут еще и их хост-предприятия типа агрегаторов такси, потому что это недопустимый репутационный риск.

Спасибо

"Проблема" вагонетки с авто решается просто мне думается:

  1. Возьмём за базовое значение ожидаемое количество аварий/смертельных исходов на километры пробега.

  2. Установим, что число должно быть для ИИ-управляемого транспорта изначально меньше, чем для человеко-управляемого и уменьшаться со временем (мы же ожидаем улучшения моделей алгоритмов и т.д. в будущем)

  3. Для ожидаемого числа случаев в каждый период создадим страховой фонд из налогов или из тех частей бюджета, где самоуправляемый транспорт обещает сократить расходы. Всем пострадавшим от самоуправляемого транспорта выплачиваем компенсацию из фонда.

  4. В случае превышение числа из п 2. автомобилями компании - штрафуем компанию на мотивирующую сумму.

  5. В каждом конкретном случае выбор "бабушка или стена" стоять не должен вообще, выбор должен быть нарушить пдд или нет, по умолчанию не нарушить, в спорных случаях поступать так, как в среднем бы поступил водитель-человек. За аварии с нарушением пдд - штрафовать компанию, и т.д.

У вас хорошее мат стат решение с перекрытием рисков через страховую/ Думаю, что примерно как-то так и мыслят суды. Тонки момент в этих тезисах:

  1. Штрафовать компанию - они не хотят штрафоваться дополнительно.

  2. В спорных случаях поступать так, как в среднем бы поступил водитель-человек - а вот как? Право будет сильно буксовать если там будет слишком много индивидуальных ситуаций, оно должно покрывать подавляющее большинство ситуаций.

Проблема вагонетки, на самом деле, непереносима на автомобильную задачу.
Изначально она подразумевала обязательную гибель минимум одного человека, но у неё есть базовое решение - железнодорожная стрелка всегда находится в одном из двух положений, поэтому правильный ответ (в железнодорожном случае) - не вмешиваться. То есть оставить стрелку в том положении, в каком она и была. В юридическом смысле это приводит к разбору "состояния аффекта" - невозможности принятия решения по психофизиологическим причинам.
Обобщенный на случай беспилотного автотранспорта "псевдоморальный" выбор, представляет собой совсем иную ситуацию - ПДД чётко предписывают порядок действий - "снижение скорость вплоть до полной остановки", что подразумевает соблюдение дорожной разметки и максимально возможное замедление в своей полосе движения.
Все остальные варианты отдают (плохо пахнут) существенным непониманием проблем, стоящих перед разработчиками беспилотных систем - беспилотный автомобиль не может "достоверно знать", во первых, что именно перед ним, во-вторых, точное развитие ситуации.
Кстати, российский вариант использования ВАТС - это считать "первым ответчиком" с инцидентах малой тяжести - страховую компанию. Уже она будет формировать регрессионные требования к остальным "виновникам".

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации