Pull to refresh

Может ли страдать тетрадка в клеточку,
или моральные проблемы создания искусственного интеллекта

Artificial Intelligence
Когда я рассказываю о нашей работе над искусственным интеллектом, меня иногда спрашивают, что я думаю о моральных проблемах создания искусственного интеллекта и переноса человеческого разума на электронный носитель.

Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесенного на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?

Так вот, я считаю, что страдания искусственного разума — полная чушь.

Машина ТьюрингаИскусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.

Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Все! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.

Возможно, кого-то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеется как человек, «ударишь по голове» — заплачет и т.д.

Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как любую программу, его прекрасно можно выполнить в тетрадке.

Еще раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант [1].

Страдающая тетрадкаЛаборант по инструкции (т.е., по тексту программы ИИ) тупо считывает нужные клеточки в тетрадке, проводит какие-то манипуляции, и заштриховывает клеточки, опять считывает и заштриховывает… Искусственный интеллект начинает «жить».

Затем мы даем лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его поджаривают на сковородке, подвешивают за ребро, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5… можете продолжить в меру собственной извращенности :-).

Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.

Теперь вопрос: кто же при этом испытывает мучения?

Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие-то 3 000 рублей в месяц.

Тетрадка? Ну, как говорится, бумага все стерпит…

Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрено…

Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?

Человеческий мозгНо ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определенные действия и передает другим нейронам.

Но я не соглашусь с тем, что я не испытываю чувства!

Люди, которые верят в религию, душу и т.д., сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.

Неверующие сказали бы, что мы просто недостаточно еще знаем о работе мозга.

Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может.

Примечания

  1. Это немного похоже на предложенный Джоном Сёрлем мысленный эксперимент «Chinese room»;



UPD. Спасибо хабранароду за интересное обсуждения проблемы. Поставил плюсики в профиль всем, кто высказал свое мнение по вопросу, в т.ч. и тем, с кем я не согласен :-)

 
Tags:
Hubs:
Total votes 50: ↑39 and ↓11 +28
Views 4.9K
Comments 198
Comments Comments 198

Posts