Когда я рассказываю о нашей работе над искусственным интеллектом, меня иногда спрашивают, что я думаю о моральных проблемах создания искусственного интеллекта и переноса человеческого разума на электронный носитель.
Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесенного на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?
Так вот, я считаю, что страдания искусственного разума — полная чушь.
Искусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.
Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Все! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.
Возможно, кого-то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеется как человек, «ударишь по голове» — заплачет и т.д.
Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как любую программу, его прекрасно можно выполнить в тетрадке.
Еще раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант [1].
Лаборант по инструкции (т.е., по тексту программы ИИ) тупо считывает нужные клеточки в тетрадке, проводит какие-то манипуляции, и заштриховывает клеточки, опять считывает и заштриховывает… Искусственный интеллект начинает «жить».
Затем мы даем лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его поджаривают на сковородке, подвешивают за ребро, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5… можете продолжить в меру собственной извращенности :-).
Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.
Теперь вопрос: кто же при этом испытывает мучения?
Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие-то 3 000 рублей в месяц.
Тетрадка? Ну, как говорится, бумага все стерпит…
Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрено…
Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?
Но ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определенные действия и передает другим нейронам.
Но я не соглашусь с тем, что я не испытываю чувства!
Люди, которые верят в религию, душу и т.д., сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.
Неверующие сказали бы, что мы просто недостаточно еще знаем о работе мозга.
Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может.
UPD. Спасибо хабранароду за интересное обсуждения проблемы. Поставил плюсики в профиль всем, кто высказал свое мнение по вопросу, в т.ч. и тем, с кем я не согласен :-)
Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесенного на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?
Так вот, я считаю, что страдания искусственного разума — полная чушь.
![Машина Тьюринга](https://habrastorage.org/getpro/geektimes/post_images/952/cbd/f7f/952cbdf7f01dae4fd2b7cd9524200b5b.png)
Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Все! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.
Возможно, кого-то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеется как человек, «ударишь по голове» — заплачет и т.д.
Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как любую программу, его прекрасно можно выполнить в тетрадке.
Еще раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант [1].
![Страдающая тетрадка](https://habrastorage.org/getpro/geektimes/post_images/8cb/664/3f5/8cb6643f5a74a07de92439c92d087a97.png)
Затем мы даем лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его поджаривают на сковородке, подвешивают за ребро, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5… можете продолжить в меру собственной извращенности :-).
Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.
Теперь вопрос: кто же при этом испытывает мучения?
Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие-то 3 000 рублей в месяц.
Тетрадка? Ну, как говорится, бумага все стерпит…
Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрено…
Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?
![Человеческий мозг](https://habrastorage.org/getpro/geektimes/post_images/e1f/232/99b/e1f23299b169a39b47414231bf21e8d4.png)
Но я не соглашусь с тем, что я не испытываю чувства!
Люди, которые верят в религию, душу и т.д., сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.
Неверующие сказали бы, что мы просто недостаточно еще знаем о работе мозга.
Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может.
Примечания
- ↑Это немного похоже на предложенный Джоном Сёрлем мысленный эксперимент «Chinese room»;
UPD. Спасибо хабранароду за интересное обсуждения проблемы. Поставил плюсики в профиль всем, кто высказал свое мнение по вопросу, в т.ч. и тем, с кем я не согласен :-)