Комментарии 4
Нужен AI, который:
1. Будет достаточно умен, чтобы вызывать ощущение наличия у него личности и сознания.
2. Будет запрограммирован на нормы поведения, которые кажутся вам правильными.
3. Будет запрограммирован заботиться о ваших интересах.
4. Иногда будет нуждаться в неких услугах, которые вы можете ему предоставить.
Мозг человека запрограммирован в этих условиях начинать отношения, называемые «дружба», он и начнет. Это срабатывает когда человек заводит собаку, к примеру.
Впрочем, буржуи сделали классную игрушку — "Детройт. Стать человеком.". Она, если по-серьезному, как раз про разные отношения, включая дружбу, между роботами и людьми. Заставляет задуматься.
Дружба (в смысле настоящая дружба, а не "вместе в кино сходили") — это когда друг ради тебя чем-то жертвовать готов, в частности — жизнью. А вот тут неравенство очень сильное намечается: у робота нет жизни — в том смысле, что нет чего-то единственного, и потому очень-очень-очень ценного. Его нейросеть можно всегда с бэкапа восстановить — в новое тело, ежели что.
Роберт Шекли. Робот Рекс
Очнулся он уже в больничной палате. Рядом с кроватью стояла капельница, и какое-то лекарство медленно перетекало ему в руку. [...] С другой стороны от кровати стоял робот Рекс.
— И что же ты сделал?
— Я принялся изучать Кодекс и увидел, что, хотя роботам не положено помогать людям, даже когда те в опасности, нам совсем не запрещено действовать против интересов человека. Это позволило мне сообщить федеральным властям о ваших многочисленных преступлениях. [...] — Теперь я должен идти, — произнес Рекс. — Это за мной. Ремонтная бригада. Они решили, что я страдаю от незапрограммированной инициативности. А это считается серьезным расстройством, которое может привести к мании самостоятельности. [...] Единственный способ лечения — это полное отключение и стирание памяти.
— Нет! — выкрикнул Гастон, вскочив с постели и сбив капельницу. — Ты ведь сделал это ради меня! Они же тебя убьют! Я не позволю!
— Пожалуйста, не волнуйтесь, сэр, — произнес Рекс, удерживая его на месте, пока не появился врач. — Я теперь вижу, что вас, людей, смерть действительно сильно расстраивает. Но для роботов выключение означает просто недолгий отдых на складе. До свидания, мистер Гастон. Приятно было с вами познакомиться.
Александр Климов, Игорь Белогруд. Робот, друг человека
...Кем доказано, что эмоции вам недоступны? Ведь там, на холме, ты спас сначала меня, а уж потом вытащил маяк. Это противоречит твоей неумолимой логике: ты — экспедиционный робот, твоя программа базируется на рациональности, без всяких комплексов обожания. А маяк-то был последним, без него сюда не смог бы приземлиться ни один космический корабль! Ты же вытащил сначала меня, рискуя потерять незаменимый прибор. Это ли не проявление эмоций? Это ли не человечность?
[...]
— Что ты ему сменил?! — перебил Андрей.
— Спроси лучше, что я ему не менял. Два дня возился: и рабочие органы, и систему питания, и блок памяти, разрегулировался он до безобразия…
— Стоп! Ты старый блок еще не выбросил? — спросил Андрей.
— Не успел, — удивленно ответил бородач.
— Не смей выбрасывать! Через пятнадцать минут буду у тебя.
Возможна ли настоящая дружба между человеком и роботом?