Comments 13
буквально поисковая система в Амазон
Очень интересный пост. Будет интересно посмотреть на реализацию концепта нравственности или духовности у ИИ
Азимова и почитайте.
Все уже придумано до нас.
Один из побочных эффектов любых "правил" связан с тем, что они связаны с определениями. Вы можете запретить роботу наносить вред человеку, но что будет если он лично вас человеком считать не будет... Уж не говоря о том, что понятие вреда тоже глубоко субъективно. Так что в плане ограничений это все работает "не очень".
Будет интересно посмотреть, как у железяки получится отделить добро от зла. Кожаные мешки с этим не справились.
При всём уважении и интересе к азимову придуманные им три закона роботехники невозможно реализовать в принципе.
Собственно, он сам это осознавал и несколько рассказов посвящены именно этому.
Простейший пример, робот видит что человек курит. Курение несомненно вредит здоровью. Действия работа на основании закона?
другой вопрос, что искусственный интеллект наверняка будет думать совсем не так как люди.
Курение и похожие человеко-децствия добавят в исключения. И робот будет вести себя так, как если бы человек ничего особенного не делал.
Есть ещё более пограничные случаи, во всех них также не нужно вмешивать? Курение на автозаправке летом в жару. Воздействие дыма от курения на детей. Курение запрещенных (психотропных) веществ.
Вы описали типичный случай нарушения КоАП РФ (6.24, 6.9). В данном случае робот будет вести себя также как и обычный полицейский.
робот будет вести себя также как и обычный полицейский
Вот к этому я как-раз и подводил. Во-первых, откуда у робота полномочия вести себя как полицейский? Это сложный юридический аспект. Что если задержание было незаконным, или с нарушениями, кто должен будет нести ответственность - правоохранительные органы, часть функций которых робот выполнял, владелец робота, или компания, написавшая софт роботу?
Второе, как понять, что задержание человека является законным задержанием, а не похищением? Как понять, что робот выполняет функции полицейского, а не функции грабителя, которые сделали ему перепрошивку.
1а) оттуда же откуда и у человеков. Приняли на работу - появились полномочия.
2б) как полицейский может себя вести любой гражданин РФ. Если вы увидели нарушителя - вы вызываете полицию и сообщаете оператору биометрические данные нарушителя (рост, объём, цвет волос, глаз, голос (как звучит) итп). В последнем случае точность определения нарушения у робота будет сильно выше.
3.а) если задержание было незаконным, а робот был на службе у правоохранительных органов, то ответственность будет на полицейском участке, к которому приписан робот.
3.б) если робот гражданский и он вызвал наряд ошибочно, то полицейские просто извинятся, уедут по своим делам и может отправят сообщение об ошибочном срабатывании разработчикам. (в данном случае сработает тотже механизм, как если бы ребёнок вызвал полицию, ошибочно оценив ситуацию, т.е. полиция уведомит родителей (разработчиков) ребёнка, либо не уведомит. Ответственность соответственно такая же.).
4) "Как понять, что робот выполняет функции полицейского, а не функции грабителя, которые сделали ему перепрошивку."
А как понять что вас принял настоящий человеко-полицейский, а не человеко-грабитель переодевшийся в форму человека-полицейского, которого "перепрошили" какой-нибудь бандитской идеологией? Всё тоже самое, если переживёте ограбление - обратитесть в полицию и там все расскажите.
За несколько тысячелетий даже людей не удалось научить морали, этике, духовности. У каждого подлеца своя истина и ни одному из них никто не помешает в итоге научить ИИ чему-нибудь богопротивному. Это уже произошло. Только пока военные робото-системы еще условно контролируемы.
Какое-то нездоровое влечение автора к котикам. Это все мировоззрение? Культурное развитие ИТшников заставляет желать лучшего.
Несовершенство трех законов робототехники