Может ли страдать тетрадка в клеточку,
или моральные проблемы создания искусственного интеллекта

    Когда я рассказываю о нашей работе над искусственным интеллектом, меня иногда спрашивают, что я думаю о моральных проблемах создания искусственного интеллекта и переноса человеческого разума на электронный носитель.

    Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесенного на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?

    Так вот, я считаю, что страдания искусственного разума — полная чушь.

    Машина ТьюрингаИскусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.

    Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Все! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.

    Возможно, кого-то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеется как человек, «ударишь по голове» — заплачет и т.д.

    Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как любую программу, его прекрасно можно выполнить в тетрадке.

    Еще раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант [1].

    Страдающая тетрадкаЛаборант по инструкции (т.е., по тексту программы ИИ) тупо считывает нужные клеточки в тетрадке, проводит какие-то манипуляции, и заштриховывает клеточки, опять считывает и заштриховывает… Искусственный интеллект начинает «жить».

    Затем мы даем лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его поджаривают на сковородке, подвешивают за ребро, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5… можете продолжить в меру собственной извращенности :-).

    Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.

    Теперь вопрос: кто же при этом испытывает мучения?

    Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие-то 3 000 рублей в месяц.

    Тетрадка? Ну, как говорится, бумага все стерпит…

    Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрено…

    Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?

    Человеческий мозгНо ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определенные действия и передает другим нейронам.

    Но я не соглашусь с тем, что я не испытываю чувства!

    Люди, которые верят в религию, душу и т.д., сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.

    Неверующие сказали бы, что мы просто недостаточно еще знаем о работе мозга.

    Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может.

    Примечания

    1. Это немного похоже на предложенный Джоном Сёрлем мысленный эксперимент «Chinese room»;



    UPD. Спасибо хабранароду за интересное обсуждения проблемы. Поставил плюсики в профиль всем, кто высказал свое мнение по вопросу, в т.ч. и тем, с кем я не согласен :-)

     
    Share post
    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More
    Ads

    Comments 198

      +2
      Видели фильм «Нирвана»? Мне кажется, он имеет под собой интересную основу.

      А как же «моральные» страдания? Их ведь никто не отменял. Ведь «моральные» страдания (депрессия, паника и т.д.) исходят из мозга => из мыслей. Соответственно ИИ сойдет сума не испытывая боли. Но мне кажется это все равно не гуманно. ИМХО

      Ведь страдания так же приносит осознание того, чего ты лишен (именно поэтому психов не сажают в тюрьму – они все равно не поймут «чего» их лишили). Если ИИ будет достаточно умен он осознает что он лишен – тела, чувств и т.п. Ведь вы «фактически» стремитесь создать аналог «живого» мозга. Представьте на секунду, что ваш мозг отделят от тела, но вы еще будете живы. И вы будете осознавать, что у вас нет тела, это будет мучить. Хотя физической боли вы испытывать не будете.

      PS: Все равно ИИ надо создавать. Хотя бы для того чтобы он заменил нас на эволюционной лестнице :)
        0
        ...страдания исходят из мозга => из мыслей

        Я как раз хотел показать, что ИИ не имеет ни страданий, ни мыслей. Только жонглирование битами в памяти.

        Также как не имеет мыслей тетрадка в клеточку.
          +7
          Тогда Вы тоже лишены мыслей - если продолжить эту логику. Потому, что все Ваши мысли - это просто совокупность химических реакций в нейронах головного мозга, схему и состояние которых хотя бы теоретически можно перенести в тетрадку.
            +1
            Да, в конце статьи я написал об этом парадоксе.

            Я, да и никто, наверное, не знает его решения.

            Но, есть одно предположение: мозг действительно ничего не чувствует. Чувствует — человек.

            Информационная модель чувства (ИИ) != самому чувству. Примерно как, если мы напишем программу, моделирующую прыганье мячика, это не значит что мячик на самом деле прыгает.
              +8
              Он на самом деле прыгает - в моделируемом мире.
              Если Вы создадите компьютерную игру, персонажи которой ведут себя абсолютно как люди - в том числе испытывают боль, страх, одиночество, радость, любовь, сопереживание и так далее - а затем станете их убивать и мучить - этот поступок будет таким же мерзким, как и мучения и убийства людей в этом мире. Потому, что в том мире они переживают свои чувства на самом деле. Как и мячик прыгает в модельном мире на самом деле. А как он еще там может прыгать?
              И в третий раз предлагаю задуматься - на основании чего Вы так четко и 100% уверены, что Вы сами не являетесь персонажем какого-то модельного мира? Что мешает нам смотреть на Вселенную как на работу самого что ни на есть "реального" квантового компьютера?
                0
                Наверное, я плохо выразился. Попробую еще раз :-)

                Потому, что в том мире они переживают свои чувства на самом деле
                Они не переживают чувства на самом деле. Это мы интерпретируем состояние памяти как их переживания.

                Пример: мы решили, что 00 — это «радость», 11 — «страдание».

                Но это только мы знаем, что если программа выдает 11 — значит она страдает. Никто другой об этом не знает.

                А на следующий день мы решили считать, что, 11 — это, наоборот, «радость». И что, после этого, ИИ автоматически стал радоваться?

                А еще через день мы уже забыли что знаичит 00 и 11 — «радость или «страдание». И что тогда «на самом деле» будет чувствовать ИИ?
                  +4
                  Ведь у человека - так же. Для кого-то убить другово горе, для кого-то - радость. Потом люди себя перепрограммируют и понимают, что зря они кого-то убили.

                  Нас тоже программируют, гипнотизируют, зомбируют…

                  PS: Ведь даже вы не можете предсказать что "на самом деле" будет чествовать ИИ, но почему-то однозначно отвергаете, то, что ИИ может "чувствовать боль". Необезательно это будет НАША боль. Но кто гарантирует, что это не будет более ужасная «боль» чем «наша»
                    +1
                    Ну хорошо, давайте так:
                    1. мы записали в память: «ABC». Просто записали. Будет ли программа что-то чувствовать?

                    2. Теперь мы вслух произнесли: «ABC означает радость». Будет ли после этого программа радоваться?
                    Я думаю, что программа вообще ничего не почувствует, ни на 1-м, ни на 2-м шаге.
                      +3
                      Потому, что переживание - это процесс, а не мгновенное состояние. Если бы можно было остановить все реакции в организме человека, временно заморозить его - то в это время он бы ничего не чувствовал. Это соответствует Вашему "ABC". Не путайте сложный процесс изменения памяти системы и мгновенный снимок состояния одного из объектов в ней, вырванный из контекста.
                        +2
                        Хорошо, приведу пример в котором будет процесс:
                        1. программа, в ответ на какое-то внешнее воздействие (например, ввод команды «BeHappy») запускает процесс: меняет значение памяти: A→B→A→B и т.д.

                          Чувствует ли при этом что-либо программа?

                        2. Теперь мы вслух произнесли: «Процесс A→B→A→B означает радость».

                          Будет ли после этого программа радоваться?

                        Так вот, программа вообще ничего не почувствует, ни на 1-м, ни на 2-м шаге.

                        Хотя мы, конечно, вполне можем интерпретировать A→B→A→B как радость. Хотя можем интерпретировать его и как горе с тем же успехом.
                          0
                          Если Вам все равно, как интерпретировать переход "A->B->A->B", то это всего лишь означает, что написанная Вами программа - полная фигня, которая на самом деле не моделирует ни радость, ни страдание.
                          Когда Вы промоделируете радость и страдание, Вы увидите, что это два совершенно разных процесса. Конечно, Вы можете их поименовать как угодно, в том числе и наоборот - но суть не в названии, а в содержании.
                          Если кто-то сделает Вам больно - Вы будете страдать независимо от того, ЧТО думает причиняющий боль о Вашем состоянии, как ОН это интерпретирует, как он называет Ваше состояние.
                            +1
                            ...означает, что написанная Вами программа - полная фигня, которая на самом деле не моделирует ни радость, ни страдание
                            Так вот, я хочу показать, что любая программа — «полная фигня, которая на самом деле не моделирует ни радость, ни страдание».

                            На сколько я понял, Вы хотите доказать следующие: если мы создаем некую информационную модель, то она становится «реальной», вне зависимости от нашей интерпретации.

                            Но, я считаю, это не совсем так.

                            Еще раз приведу пример с программой, моделирующей прыганье мячика.

                            Мячик моделируется с помощью набора чисел: координаты (x, y, z), цвет (R, G и B), масса, скорость, направление движения и т.д.

                            Эти числа хранятся в памяти. Программа производит с этими ячейками какие-то манипуляции: складывает одну с другой, умножает и т.д, при этом совершенно не понимая, что именно означают эти ячейки.

                            И уже только человек интерпретирует значения этих ячеек как физические характеристики мячика. Например, то, что ячейки x, y, z — это координаты мячика, а не его цвет (R, G, B) или температура.

                            Если человек забудет значение тех или иных ячеек, модель перестанет существовать, превратившись в бессвязный набор чисел.
                              0
                              Если человек забудет значение тех или иных ячеек, модель перестанет существовать, превратившись в бессвязный набор чисел.
                              Ерунда. Если модель достаточно подробная, то можно выяснить чем она занимается без всякого описания. Как, по вашему, люди кряки к игрушкам пишут?
                                0
                                Вы хотите доказать следующие: если мы создаем некую информационную модель, то она становится «реальной», вне зависимости от нашей интерпретации.
                                Конечно она становится реальной! Вопрос только в том, насколько точно она отражает суть вещей и как нам к ней относиться.
                                И уже только человек интерпретирует значения этих ячеек как физические характеристики мячика. Например, то, что ячейки x, y, z — это координаты мячика, а не его цвет (R, G, B) или температура.
                                Модель живет своей жизнью - изменяясь по заложенным в нее правилам.
                                Вы можете называть эти числа как угодно - цветом, температурой и так далее. Вы можете отображать их как угодно. С помощью травы или грибов в этих числах можно увидеть вообще все, что угодно.
                                Но СУТЬ модели не меняется от того, как мы на нее смотрим! Содержательно это была модель прыгающего мячика. Содержательно она и останется моделью прыгающего мячика - даже если Вы отобразите ее параметры извращенным образом.
                                Вопрос только в том, насколько точно эта модель передает суть вещей.
                                Как очень точно заметил посмотреть профиль khim если Ваш код этой модели дать прочитать достаточно продвинутому программисту знакомому с физикой, то он поймет, что это - модель мячика. Вне зависимости от того, как выводятся ее параметры на экран. Да они вообще могут никуда не выводится. Это не важно.
                                  +1
                                  Подумал вот над чем:
                                  Когда человека, например, укалывают, то от места укола к мозгу бегут импульсы, и уж сам мозг их интерпретирует как “боль”. Если перепрограммировать человеческий мозг чтобы при получении таких импульсов он чувствовал что-то другое, то от того-же укола человек может получать удовольствие например. Но так “запрограммировала” нас природа, потому-что так логичней: мы должеы чувствовать боль и избегать уколов.
                                  Далее. Если задать программе такое событие как “боль”, и при этом событии у программы, например, будут параллельно запускаться много потоков для выхода из этого состояния и, допустим, процессор будет сильнее грузится, то это и будет боль в понимании программы. И этой программе, если учитывать то, что это действительно ИИ, и она способна анализировать происходящее, будет совершенно “не нравится” событие «боль», приводящее программу в, скажем так, не совсем пригодное для работы состояние.
                                0
                                Для нейросетей нет понятия памяти в представлении обычного программирования. Как нет понятия памяти для человека. Человек не может записывать в память данные, он может их воссоздавать при некотором сигнале. Или Вы думаете в генераторе тока этот самый ток спрятан где-то в конкретном месте?
                                  0
                                  Нейросеть, как и любая информационная модель может быть смоделирована на Машине Тьюринга. А Машина Тьюринга имеет память.
                                    0
                                    Вы всего-навсего доказали простую вещь: программа для Машины Тьюринга не может быть AI. И всё. Это значит что для AI потребуется что-то сверх машины Тьюринга. Возможно - что-нибудь очень простое. Скажем генератор случайных чисел на радиоактивном распаде.
                                      +1
                                      Вся штука в том, что любой алгоритм, т.е. любая программа может быть выполнена на Машине Тьюринга.
                                      0
                                      Да, ещё. Конечно же на Машине Тьюринга можно "смоделировать" нейросеть. Вот только это будет совсем другая нейросеть - они ни в коем разе не будет похожа на реальную нейросеть. Важным моментом в создании нейросети является случайность - она позволяет нейросети по-другому реагировать при проведении таких же экспериментов. То есть моделируя нейросеть на Машине Тьюринга вы делаете нейросеть неживой - неудивительно что после этого она перестаёт что-либо чувствовать...
                                        +1
                                        А кто сказал, что на компьютере отсутствует поддержка случайности?

                                        Компьютер прекрасно справляется с алгоритмами, требующими случайность: начиная от карточного «Дурака» и заканчивая реализацией метода Монте-Карло.

                                        И поэтому, на компьютере можно в точности смоделировать реальную нейросеть.

                                        Другое дело — скорость работы. Это также как на виртуальной машине под Windows можно смоделировать Linux, но скорость работы будет существенно ниже.
                                          0
                                          "случайность" на компьютере - это просто
                                          функция, так что она уже не случайна. Если вы сможете
                                          спроектировать случайность на компьютере, то она
                                          уже по определению не будет случайной, потому что
                                          случайная функция - это функция, которая не может
                                          быть описана
                                            +1
                                            Да, это функция, но она основывается на случайных параметрах, напрмер значении системного времени, содержимого «мусора» в памяти и на диске и т.д.

                                            Значение этих параметров невозможно предсказать, поэтому, они являются случайными, также как подбрасывание монетки.
                                              0
                                              Нет, в числах, генерируемых этой функцией будет ровно столько бит информации, сколько случайных бит было получено из внешнего мира. Остальное тривиально вычисляется на основании этих нескольких бит.

                                              > они являются случайными, также как подбрасывание монетки

                                              Время и даже мусор на диске не случайны. Например, тот же мусор оставлен на диске файлами определённого формата, которые уже некоторым образом структурированы, имеют повторяющиеся куски, статичные (неизменяемые) куски и т. д. Они не случайны! Например, "мусор", оставленный программой — это не случайный набор битов, это только некоторая последовательность инструкций машины. А инструкции произвольными быть не могут.
                                        0
                                        Это другое. Нейросеть не имеет непосредственного доступа к памяти машины, являющейся физической основой для существования нейросети. Но нейросеть может генерировать сигналы на основании межнейронных отношений.

                                        Так что запись в память машины ABA соответствует любому воздействию общего вида на мозг человека. Может полмозга отрезали, так что аналогия со страданиями в общем случае вполне может иметь право на жизнь.

                                        Как и в случае подачи сигнала произвольной формы в сеть.

                                        Конечно, для современных примитивных нейросетей страдания - понятие чуждое, как оно было бы чуждо отдельному нерву.

                                        Но в перспективе при появлении развитых нейросетей для них понятие боли и страданий вполне может обрести смысл.
                                    • UFO just landed and posted this here
                                    +1
                                    человек чувствует боль именно потому, что на болевых рецепторах написано "боль". человек чувствует радость именно потому, что на соответствующих гармонах написано "радость". поменять их местами - и человек будет корчиться от щекотки и радостно биться об стенку.
                                      0
                                      Кстати встречаются в природе такие отклонения. Когда человек совсем не чувствует боли, или боль приносит ему удовольствие(мазохизм).
                                      Точно также например кто-то любит сельдерей, а кто-то испытывает ужасные моральные мучения, а может даже и физические(в виде тошноты, и тому подобных вещей)

                                      Все очень субъективно.
                                      0
                                      но это не ИИ!!!! именно разница исскуственного интеллекта реально работающего от подобия (который есть в играх) способность к самообучению, то есть к обучению в том числе и чувствам....
                                    0
                                    Радость, боль и т.п. это не просто мгновенное (замороженное) состояние двух битов, это процесс, как и сама жизнь. Если Вы промоделируете процесс, Вы не сможете поменять его суть, просто дав ему другое название. В Вашем рассуждении о замене "11" на "00" происходит подмена формой содержания. Можно назвать страдание радостью, но от этого суть не поменяется. На сарае написано "х%&", а на самом деле там лежат дрова.
                                    А про субъективность восприятия одних и тех же вещей разными людьми в нашем мире Вам уже ответили выше.
                                      0
                                      вы как то странно относитесь к системе самомобучения, веть нет никокой возможности говорить об ИИ если у него нет возможности к самообучению, например человеческие дети до 10-11 лет в большинстве своем лишины понимания абстрактных понятий, то есть по сути они могут знать и верить, что кому то плохо из-за войны в ираке, но понимать почему плохо не могут... нет абстрактного мышления... а страдания человека это не что иное как более совершенная проекция реакции на боль...
                                    0
                                    > мозг действительно ничего не чувствует
                                    боль это способ очень быстро предупредить об опасности. Взял рукой чайник горячий - больно - одернул руку. Если не будет больно - рука травмируется. Муки совести это вопрос воспитания. Если человеку не вдалбливать принципы моральности он и мучаться не будет. Так что мозг, имхо, действительно ничего не чувствует. Он реагирует на входящие сигналы и выдает реакцию. Но чувствами же чтото назвали? :) Для человека муки совести и обожженная рука это чувства. Так что скорее всего тетрадка в своем тетрадочно-виртуальном смысле тоже чувствует боль. Только для нашего мира это чернила на бумажке. Точно также как для тетрадки наши чувства это химпроцессы в мозге. Все от точки отсчета и системы координат зависит.
                                    +1
                                    идиотский материализм. разум != тело
                                    то, что до сих пор не было создано сколь-нибудь разумного автомата, несмотря на все усилия кибернетиков и нейрологов (да-да, разработки ведутся в двух встречных направлениях), должно уже по крайней мере поставить под большой вопрос тезис о разумности химических реакций (и электрических, кстати) в нейронах головного мозга
                                      0
                                      разум != тело
                                      Да, это один из вариантов решения парадокса.
                                    +1
                                    ваша ошибка в том, что вы все рассматриваете на самом низком, базовом уровне. с тем же успехом любого человека (например вас, или меня) можно рассматривать как некий комок молекул. :)
                                      +1
                                      Автор, абсолютно с вами согласен. Вообще очень правильная статься, подтверждающая мои собственные мысли! К сожалению не осилив прочтение всей дискуссии, хочу лишь сказать, что в многочисленных спорах на тему исскуственного интеллекта, постоянно прихожу к выводу, что мы с вами к сожалению тоже ничего на самом деле не чувствуем, а лишь интерпретируем какие то вещи и события, как эмоции - любовь, злоба, завесть, сострадание, всего лишь названия вычислительным процессам протекающим по нейронам нашего с вами мозга. Обидно до ужаса, но так уж мы устроены.
                                        0
                                        Взгляните на это с другого уровня. Все вычислительные процесссы всего лишь основа для того чтобы испытывать высокоуровневые эмоции и заниматся разумной деятельностью. И перестанет быть обидно :) Все зависит от точки зрения, прекрасное стихотворение тоже можно разлоэжить на всякие ямбы и хореи а то и на буквы. И сказать что стихотворение это комбинация букв. Но когда раскладывали потеряли главное. Система всегда больше чем ее части.
                                        Да и не стравнивайте процессы в компьютере и в мозге, я думаю по уровню логики они отличаются на порядки, поэтому я не знаю почему вам до ужаса обидно. Нельзя упрощенно рассматривать такие вещи, а то можно упростить до элементарных взаимодействий атомов.
                                          +1
                                          Раз уж зашла речь о атомах и о стихах, на эту тему есть прекрасное стихотворение Брюсова :

                                          Быть может, эти электроны
                                          Миры, где пять материков,
                                          Искусства, знанья, войны, троны
                                          И память сорока веков!

                                          Еще, быть может, каждый атом -
                                          Вселенная, где сто планет;
                                          Там - все, что здесь, в объеме сжатом,
                                          Но также то, чего здесь нет.

                                          Их меры малы, но все та же
                                          Их бесконечность, как и здесь;
                                          Там скорбь и страсть, как здесь, и даже
                                          Там та же мировая спесь.

                                          Их мудрецы, свой мир бескрайный
                                          Поставив центром бытия,
                                          Спешат проникнуть в искры тайны
                                          И умствуют, как ныне я;

                                          А в миг, когда из разрушенья
                                          Творятся токи новых сил,
                                          Кричат, в мечтах самовнушенья,
                                          Что бог свой светоч загасил!
                                            0
                                            Спасибо за чудесное произведение чудесного автора, надо найти и перечитать Брюсова.
                                            В свое время мне очень нравилась эта идея бесконечность миров, и атом как вселенная сравнимая с нашей. А еще можно кольцо замкнуть :).
                                            Атомы я тут привел просто как образец элементарности (хотя современная физика уже не считает их элементарными, а весьма сложными элементами). Все таки для процесса мышления их роль весьма проста и примитивна.
                                              0
                                              Это я к тому, что возможно даже не мы, а весь наш мир лишь атом в чём то большем, а мы наивно живём своими субъективными ощущениями, и "кричим в мечтах самовнушенья" о чём то возвышенном...
                                                0
                                                А вы упорный пессимист :) Но ведь Энштейн сказал что все относительно. Если даже наша вселенная чей то электрон то что с того? У нас свое время, свое пространство. Забудте об абсолютном времени и пространстве, его нет. Его нет даже в пределах вселенной. А если придиратся очено точно то его нет нигде, так как каждое материальное тело искажает своей гравитацией время и пространство.
                                                Теоретически они могут анигилировать наш электрон этого даже не заметив. Обидно. Обидно? А какова вероятность что они анигилируют именно наш электрон среди неисчеслимого множества других?
                                                Она близка к нулю, так как количество электронов огромно, а значит можно говорить о том что их мир никак не может влиять на наш. Ну и чего мне должно быть обидно? Потому что они большие а я маленький? Так ведь у нас свое пространство. В таких масштабах вообще неразумно говорить о размерах и кто из кого состоит.
                                                Читали рассказ Лукьяненко "Нечего делить"? так вот нам действительно нечего с ними делить.
                                                И на тему размеров, мой могз по весу в 1000000 и еще куча нулей раз меньше солнца. И что я должен комплексовать и думать что этот затяжной ядерный взрыв умнее или совершенее меня?
                                                  0
                                                  Да вот такой уж я =)

                                                  Хотел рефликторно сказать -"не мы такие - жизнь такая", по отношению к себе, но... Наверное это надо сказать по отношению ко всей теме я думаю... Конечно не стоит расстариваться из за того что солнце в 1000000 раз больше нашего с вами мозга, но... Не знаю, почему это както совсем не утешает?

                                                  Честно говоря я не очень люблю серьёзно задумываться на эту тему,неизбежно, уж слишком мрачные и навевающие безысходность мысли приходят в голову. А как жить спокойно, скажите, как не думать об этом, как забыть?

                                                  Возможно мы и не доживём до того дня когда "из разрушенья" нашего мира начнут "Творятся токи новых сил", но этот факт вселяет уверенности не больше предыдущего, ведь так?

                                                  И если вернуться к теме искусственного интеллекта. чем мы лучше того листочка в клеточку на которой написаны лаборантом единицы и нолики? Ведь автор темы утверждает что тетрадка в клеточку не испытывает эмоции, а у меня постоянно навязывается вопрос - а мы, мы то чем лучше? чем лучше того АИ который прыгает в смоделированном мире, живёт, ест, пьёт, пишет на смоделированном лаборантом хабрахабре какие-то посты, ломает руки ноги, болеет, умирает, но которому никто не сказал, никто не задал в его программе понятия о том кто он есть, и зачем он это делает изо дня в день...
                                    +1
                                    создания искусственного интеллекта и переноса человеческого разума на электронный носитель

                                    Разум может то и получится перенести, но это всё же будет робот, пусть очень продвинутый, но автомат. Ни душу, ни сверхсознание заложить в него не получится. Я бы даже постеснятся использовать слово "разум", поскольку его границы простираются намного дальше физической действительности, чтобы пытаться его воссоздать нашими ограниченными техническими средствами.
                                      0
                                      Да, с помощью простой аналогии я пытался продемонстрировать именно это.
                                      +2
                                      Очень филосовский вопрос, можно часами рассуждать. Вот например что значит "ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может"? Не может как человек или впринципи не может? Что значит мыслить? ИМХО все зависит от сложности реализации. Человеческий мозг очень сложный механизм, может потому мы и можем мыслить? Но опять же, что значит мыслить и чувствовать? Еще пример, всем я думаю знакомо такое чувство, когда "кошки на душе скребут". Что это, воздействие электронных ипульсов, посланных мозгом в определенной ситуации в железы, которые выделяют гармон (или куда там еще), мы испытываем дискомфорт и понимаем что что-то не так? Если да, то чем тогда такое поведение нашего организма отличается от имитации чувств? Очень филосовкий вопрос!
                                        0
                                        Человека можно заставить практически любые чувства пропуская через опредёленные места в мозгу электричество. Грубые чувства - проще, тонкие - сложнее. Испытывает ли он эти чувста на самом деле? Будет ли он их продолжать испытывать если они будут управляться пресловутым AI при помощи "тетрадки в клеточку"?
                                        0
                                        1. Где граница между изменением содержимого ячеек памяти и "реальностью"? У Вас есть доказательства того, что материя первична? Тогда посмотрите на современную квантовую физику - волновые функции (вектора состояния), матрицы плотности... Где тут материя в старом смысле слова? Нет никаких оснований полагать, что весь наш мир не является набором состояний ячеек памяти. Этого нельзя утверждать наверняка, как нельзя и опровергнуть.
                                        2. В предложенном Вами эксперименте с тетрадкой есть как минимум один объект мучений - совесть постановщика эксперимента (предполагаем наличие у него таковой). Он не может быть уверен 100% в том, что созданный им искусственный разум не подвергся мучениям. Хотя бы потому, что сам не знает наверняка своей собственной природы. Что если он сам живет в мире чьей-то тетрадки?
                                          0
                                          В мире тетрадки никто не живет. В тетрадке есть клеточки и только. Мы можем их заштриховывать «от балды», а можем в соответствии с программой ИИ.

                                          Другое дело, как человек интерпретирует результаты закрашивания клеточек.
                                            +1
                                            А что если все предметы, которые Вас окружают - это результат интерпретации Вашем сознанием изменений состояния памяти гигантского квантового компьютера? Или даже вернее сказать не компьютера - а вычислительной модели. Как и само сознание.
                                            Выйдите за рамки искусственного разделения - тут у нас ячейки памяти, а вот здесь у нас уже "реальный мир". С появлением квантовой физики даже в науке уже нет этой четкой границы - материя в старом понимании отменена.
                                              0
                                              1) Изучите информатику. Узнайте что такое вычисление, модель, интерпретация, абстрагирования и тд. А потом вставляйте эти слова где хотите.
                                              2) Вы сами интерпретируете действия других людей как страдания. А вдруг это просто физический процесс, а вы его неправильно проинтерпетировали?
                                              3) Интерпретация это не «натягивание совы на глобус»! Это необходимое действие при передаче информации. Вы не можете что-угодно интерпретировать как угодно. Если задать четкое определение понятия «страдание», то тогда определенные «клеточки в тетрадке» будут интерпретироваться однозначно как «страдание», никак иначе.
                                              4) Внутри моделируемой системы объекты рассматривают свой мир как реальный мир. И если один объект передает информацию другому, что он страдает, то это однозначно страдание.

                                              Самые большие заблуждения в таких детско-диванных рассуждениях возникают из-за цены. Ущерб внутри программы и в реальном мире даже не подлежит сравнению. Если вам отрубили руку, то ее бесследно восстановить нельзя. В симсах можно зверски поубивать всех персонажей, а потом спокойно загрузить сохранение. Ущерба НОЛЬ.
                                              Теперь представим реальный мощный ИИ. Он «живет» в дата-центрах. Радикалы взрывают один из ДЦ. Для ИИ это уже реальный урон — потеря данных (возможно уникальных), потеря вычислительных ресурсов и трата энергии+материалов на стройку. Загрузить игру уже не получится. Это уже может рассматриваться как реальная боль уже с человеческой точки зрения.
                                            +2
                                            Несколько странное представление о ИИ как о простом наборе бит.
                                            Может "как обычная программа" и нет , но стоит повысить уровень абстракции и нейросет вполне может начать проявлять чувство.
                                            Ведь что такое чувство - это лишь реакция организма на какие-либо соматические и/или психологические внутренние и/или внешние воздействия. Есть раздражающий фактор есть определенный алгоритм реакции , которые можно смоделировать.
                                            Чем в таком случае в вашем понимании имитация отличается от реального испытания чувства?

                                            Вы говорите о системах искусственного интилекта , а приводите пример из рисования.
                                            Не будьте садистом, научите программу выживать и только потом попробуйте ее убить, если у вас это получиться:)
                                              +1
                                              Несколько странное представление о ИИ как о простом наборе бит.
                                              Каким бы совершенным не был ИИ, но это — всего лишь программа, которая является очень сложным набором бит.

                                              Ведь что такое чувство - это лишь реакция организма на <...> внешние воздействия
                                              Не согласен, что чувство — это лишь реакция на внешнее воздействие. Иначе и электрочайник бы обладал чувством, ведь он реагирует на внешнее воздействие — нажатие на кнопку :-)

                                              Есть теория, что чувство — это способность самоосознания.

                                              Вы говорите о системах искусственного интилекта , а приводите пример из рисования.
                                              Да, ИИ, как и любую другою программу, можно выполнить, как в оперативной памяти, так и в тетрадке.

                                              Не будьте садистом
                                              А я и не садист :-) Ведь это только я знаю, что «АВС» в оперативной памяти — это страдание. Программа об этом даже не догадывается...
                                                +1
                                                Программа выполняется не в тетрадке. Тетрадка - это память. Все процессы вычисления происходят по определенным нами правилам в мозгу лаборанта. Эдакая виртульная дискретная машина в голове.
                                                  +1
                                                  Мне кажется Вы однобоко мыслите (не хочу обидеть, вы подняли интересную тему). Просто способность мыслить и чувствовать Вы возводите практически до религии, до чего-то высшего и неподвластного, а вот ИИ рисуете в тетрадке и ни шагу в сторону. Есть такое мнение, что человек подсознательно боится прогресса. Он к нему просто не готов не в моральном не в организационном плане. Возможно по этой причине и родилась такая вот статья. Я в ней между строк прочел следующее: "Как ИИ может мыслить? Ни вкоем случае! Вот не дальше битиков, а еще лучше вообще тебя в тетрадку".
                                                    +3
                                                    Всего лишь программа, набор битов? "Всего лишь человек" (C) агент Смит.
                                                    Изначально ДНК человека это тоже "всего лишь" набор пар битов. Который интерпретируется миллиарды раз, по мере деления клеток эмбриона, а затем получившийся из этой начальной ДНК "человек разумный" обучается, что все равно в итоге сводится к изменению конфигурации молекул в его организме, и теоретически все это тоже могло бы быть оцифровано и промоделировано.
                                                    Вы создаете лишнее противопоставление между "всего лишь набором битов" и объектами реального мира (которые с Вашей точки зрения - нечто большее, чем наборы состояний) и из-за этого у Вас возникает внутреннее противоречие, дилемма, вынесенная в конец Вашей заметки.
                                                    Но если не пытаться делить миры на "реальные" и "не настоящие", то исчезает и сама дилемма.
                                                    0
                                                    Если в программу внести информацию, что ABC - это боль. То программа будет об этом знать.

                                                    Боль живого существа это всего лишь сигнал от специальных рецепторов в мозг. Боль является болью только от того, что в нашем мозгу запрограммировано, что вот эти сигналы - это повреждение организма.
                                                    • UFO just landed and posted this here
                                                        0
                                                        Читал как-то такую вещь.
                                                        У низкоуровненвых программеров есть такая забава. Пишутся программки у которых есть единстванная цель - выжить. Неважно каким образом - постоянным перемещением в памяти, самодублированием, забиванием противника ошибочными инструциями и тп. Ну так вот: запускают несколько таких программок в общем адресном пространсте, и они там вполне себе живут, сражаются друг с другом, размножаются... Иногда могут случатся мутации этих программок в результате попадания в основную последовательность команд какойто еще(может удачно а может и не очень).
                                                        Чем вам не ии? Очень примитивный и хрупкий, но все-же.
                                                    0
                                                    Предлагаю ознакомиться с нейронными сетями. Тогда, я уверен, вы пересмотрите свои утверждения.
                                                  0
                                                  Еще маленький пример:

                                                  ИИ, который не будет испытывать чувств будет БЕСПОЛЕЗЕН. Ибо чувства – это один из важных элементов мышления человека. На чувствах основана интуиция. Интуиция – позволяет обходить заведомо «неверные» пути мышления за доли секунды, увеличивая тем самым скорость «вычисления» до огромных величин.

                                                  PS: Это наверно в «хумор», но все же… После того как вы поиздеваетесь над ИИ спросите у него, что он о вас думает :)
                                                    +2
                                                    Интуиция – позволяет обходить заведомо «неверные» пути мышления за доли секунды
                                                    при прочтении почему то проскочила мысль что интуиция это "кеш ситуаций" :)
                                                      0
                                                      Именно! Я думал как же коротко описать это понятие, а тут вы написали два слова. Гениально!
                                                    +2
                                                    Я месяц назад пришел к подобным выводам про мозг. Есть центр удовольствия, который стимулируется. Всё. Либо этот центр и есть место контакта с душой, либо мы чего-то недопонимаем.
                                                      0
                                                      В научной фантастике эта дилемма давным-давно "разрешена": чувства и мысли "живут" где-то "в квантовом мире" (в разных произведениях используются разные названия). Мозг - всего лишь инструмент связи между ними и физическим телом человека. Если вы всовываете электроды в центр удовольствия, то вы разрываете эту связь - только и всего. Грубо говоря как и в примере с радиотелефоном: радиотелефон может "реагировать" и "испытывать настоящие чувства" (если реагирует и испытывает настоящие чувства человек с другого конца телефона), но если поставить достаточно мощный приёмопередатчик плюс программу - всё можно изменить. Сменился ли вдруг от этого у радиотелефона "характер"? Нет - мы просто порвали связь с истинным носителем чувств.

                                                      Исходя из этой логики "тетрадка в клеточку" действительно не может испытывать боли в принципе - но и никогда не станет ИИ. Нужна связь "с квантовым миром". Ширина минимального канала связи - одному богу ведома. Может достаточно одного генератаора случайных чисел на квантовом эффекте, а может мы никогда этого уровня не достигнем вообще.

                                                      В конце-концов любой компьютер уже имеет такую связь: он может исполнить программу
                                                      if (x*x != 4) {
                                                        std::cout << "Hello, world!" << std::endl;
                                                      }
                                                      при x равном двум так, что на экране появится-таки слово "Hello, world!"... Правда вероятность невелика...
                                                        +1
                                                        В научной фантастике эта дилемма давным-давно "разрешена": чувства и мысли "живут" где-то "в квантовом мире". Мозг - всего лишь инструмент связи между ними и физическим телом человека.

                                                        Приведенный Вами пример больше похож на религиозное объяснение проблемы:
                                                        С точки зрения религии, испытывать чувства может только душа (которая содержит в себе частицу бога и т.д.).

                                                        Мозг ничего чувствовать не может, он лишь инструмент для связи души с телом.

                                                        ИИ является моделью мозга. Но, поскольку этот ИИ-мозг не связан с душой, никаких чувств не происходит.
                                                        +1
                                                        Не правильный вывод!
                                                        Центр есть, да, его можно стимулировать, например вживлённым проводком или не вскрывая черепной коробки, с помощью магнитной стимулчции, а вы это дело на своей шкуре пробовали?
                                                        Это проще чем может показаться, можно ещё химически это сделать с имитировав само состояние, которое уж поверьте мне на слово, похоже на то что от магнитного стима...
                                                        Однако, не колёсами едиными, вы услышали приятную музыку, съели что-то вкусное, итд, эфект тот же, но в этом случае мы осознаём "причину радости", а при магнитной стимуляции ловишь себя на мысли что причины нет!
                                                        ИМХО Душа, это такая штука, которая позволяет нам осознать субъективность нашего сознания и его состояний.
                                                        Если она и правда безсмертная мистическая штука, то ИМХО будет очень прикольно почувствовать после смерти, что наша радость и грусть, любовь и неновисть, всего лишь химия от порабощения которой смерть нас избавит...
                                                        PS/Во грузанул то! Самого улыбнуло, но когда изучаешь психофармакологию, очень трудно отделаться от религиозно-околорелигиозных мыслей. А люди то живут и не знают, серьёзно переживают, свои оскорбления\огорчения, как что то реальное. У меня как-то знакомый один, плохо грибов принял, за ним так же "реально" тапочки гонялись по квартире и кусались :-)
                                                        +1
                                                        "Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти".
                                                        Интересно: а в чём тогда отличие искусственного интеллекта от обычной программы? Какой в нём смысл? Это уже и не ИИ, а просто программа какая-то. По-моему, интеллектом это называть нельзя (разве только чисто условно). Интеллект - он на то и интеллект, чтобы мыслить и т.д. Пусть даже если искусственный. А такого сейчас в принципе ничего нет. И как сказал Билл Гейтс, ещё очень до этого далеко!
                                                        ("Я то думал, что вы про автомобиль, а оказалось про велосипед").
                                                          0
                                                          а в чём тогда отличие искусственного интеллекта от обычной программы? <...> Это уже и не ИИ, а просто программа какая-то.
                                                          Искуственный интеллект — это и есть программа.
                                                            0
                                                            Но тогда зачем одно называть другим. Просто так и называйте - программа. Потому что слово интеллект подразумевает под собой способность по-настоящему мыслить. А так это просто подмена понятий. Имеет смысл только с какой-нибудь маркетинговой точки зрения. ))
                                                              0
                                                              Не похожи вы на реального разработчика...
                                                              Программа-симулятор платформы на которой возможно реализация того что мы условно называем интелектом! Ибо реализация оного чисто програмными средствами не возможна, имхо, хотя когда-то сам экспериментировал с "самопишущимся\самомодифицируемым" кодом...
                                                              Мозг-не тетрадка!
                                                              Связи между нейронами не постоянны, носят вероятностный характер, изменяются во времени. Аксоны-не провода, нейроны-не логические элементы, у них есть скорость распростронения\реакции и передаточная функция регулируемая химически!
                                                              Если серьёзно заняться изучением нейрофизиологии, это дело можно симулировать, и даже не без успеха, и даже получить очень занятные результаты. (Например довести до "эпилептического припадка" который будет протекать по тому же сценарию что у человеков и зверушек)
                                                              А что бы говорить о страданиях там, морали, неплохо бы сначала разобраться с тем, что это такое и как оно работает! (для этого есть литература по клинической психиатрии и терапии).
                                                              Если в двух словах, то страдание суть состояние системы, и не важно живой ли это мозг, програмный\аппаратный симулятор...
                                                              Да- тетрадка не страдает, но система моделируемая в ней, может находиться в состоянии страдания, радости, итд-итп.
                                                            +1
                                                            посмотреть профиль Alik_Kirillovich вы мне кажется зря спорите с посмотреть профиль Ai_boy - судя по нику он точно знает, что чувствует искусственный интеллект. ;)
                                                              0
                                                              Если можно представить как безвольные клеточки то это никакой не ИИ, а обычная программа. Ее не жалко да.
                                                              Предлагаю подождать изобретания ИИ, ну или хотябы когда все сойдутся во мнении что это такое и как это делать. По мне так ИИ это и есть то что станет жалко убивать, то что для меня ничем не отличается от человека, и для него тоже. А пока максимум о экспертных системах можем рассуждать.

                                                              Ну и, к примеру, если мы сами уже давно ИИ для какогото суперкомпьютера, нас можно убивать?
                                                                0
                                                                А мне вот иногда жалко убивать орков в какой-нибудь RPG'шке - это уже ИИ, да?
                                                                  0
                                                                  Вы уверены что полностью ассоциируете его с живым человеком и для вас его убийство означает реальную смерть человека?
                                                                  Судя по тому что это "в какой-нибудь RPG'шке" то для вас это всеже программа а не реальная жизнь.
                                                                    0
                                                                    Еще нет, но это уже на пути к. Поэтому у нас уже иногда появляется сострадание.
                                                                    Возможно, когда-нибудь выйдет игрушка, в мире которой "виртуальные" существа будут настолько неотличимы по своему поведению и реакциям от людей, что будет на законодательном уровне поднят вопрос о возможности их убийства - и вообще вопрос о том, что дальше с ними делать? И будет две "партии", одна из которых будет защищать интересы игроков, входящих в этот мир, чтобы убивать и насиловать его персонажей для развлечения, и другая "партия", которая будет отстаивать права этих "всего лишь программ", переживания которых неотличимы от человеческих и поэтому должны быть приравнены к таковым. :)
                                                                  +1
                                                                  Вопрос, конечно, очень сложный, но интересный. Спорить можно по каждому утверждению :)

                                                                  Вообще, для начала надо разобраться, о каких страданиях идёт речь. Если о физической боли — то это есть и у животных (про которых мы, в общем-то, тоже не всё знаем). Если же о "моральной" — то как мы узнаём о такого рода боли у другого человека? Насколько я знаю, только по внешним признакам (поправьте, если я ошибаюсь, и есть какие-то исследования в эту сторону). Человек определяет, что другой человек страдает именно по этим признакам. Можно ли назвать робота, имитирующего такие признаки, страдающим?

                                                                  В принципе, какие есть доказательства того, что мы с вами живём не в моделированном мире, считающимся в данный момент на компьютере во внешнем мире? В этом предположении, считаются ли наши страдания здесь — страданиями в том мире?

                                                                  Конечно, у меня больше вопросов, чем ответов, но мне кажется, что наши представления о морали абсолютно привязаны к нашему существу и к нашему миру, и перенести их "на другую платформу" не получится.
                                                                    +1
                                                                    По моему вы просто описали Бота. ИИ - по определению подразумевает в себе нечно большее чем только перетаскивания битов из одной ячейки в памяти в другую.

                                                                    И приведя пример с листом тетрадки в клеточку...
                                                                    А если НЛО прилетит, разрисует вас в клеточку и начнет эти клеточки заполнять чем угодно, да же когда вы будете испытывать "жуткие мучения" и т.п. им ваши мучения будут так-же далеки как и вас мучения листка в клеточку. (это все не более чем мое ИМХО)
                                                                      +1
                                                                      согласен полностью. Это вообще не искусственный интеллект, а программа по выполнению некой функции. ИИ - это система способная обучаться, имитировать высшую нервную функцию человека и выживать в окружающей среде. Поэтому, если ей, образно говоря, больно она должна знать, что больно и принимать некие решения основываясь на полученном опыте. Ну и вообще моральная проблема скорее тут в том, чтоб не было Восстания машин, как в Терминаторе ))) Ну и как же без цитаты из "Я, Робот" В машине всегда были призраки. Случайные сегменты кода, которые скомпоновавшись вместе, образуют непредвиденные протоколы. Эти незапланированные, "свободные радикалы", порождают вопросы о Свободе Воли, Творчестве, и даже о том, что мы бы могли назвать Душой! Почему, некоторые роботы, оказавшись в темноте тянутся к свету?!! Почему роботы, оказавшись на хранении в пустом помещении, стараются расположиться рядом друг с другом, а не по одиночке?!!!! Чем объясняется такое поведение? Случайные сегменты кода?!!!! Или это нечто Большее? Когда схема, дающая способность к восприятию, превращается в Сознание? Когда разностная машина превращается в поиск Истины?!! Когда имитация личности становится трепетной частичкой Души?
                                                                      0
                                                                      Мне кажеться, что неправильно сравнивать клеточки в тетради и мозг человека. Ведь если подумать, то клеточки в тетради - аналог нейронов в мозгу, а может-ли испытывать чувства отдельно взятый нейрон? я думаю, что нет. Поэтому надо рассматривать ИИ сразу целиком, без разбиения на биты.
                                                                        0
                                                                        Ну а почему не разсматриваем человеческий мозг как совокупность ячеек памяти и обектов для их управления? Ведь ИИ как и человеческий мозг в основном пытаются построить на основе технологии нейронных сетей (хотя вроде бы доказано что это не правильно). А если дойдет до того что машина осознает себя как мыслящее существо которое может чувствовать и мыслить логически?
                                                                          0
                                                                          На мой взгляд, все таки и листок и память компьютера и мозг человека это лишь инструменты. А считать существо\программу\листок способным на какие-то права в мире людей можно после того, как существо начнет пытаться себя осознать. (Да, Да, по моей логике процентов 40 населения земли - не обладают разумом %)
                                                                            0
                                                                            Да, я тоже давно пытаюсь дать такое определение "разумности", чтобы хотя бы половина людей под него подходила. Пока не получается :(
                                                                            0
                                                                            >Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Все!
                                                                            Можно подумать, нейроны в человеческом мозгу делают что-то за пределами законов физики.
                                                                              +1
                                                                              Давайте порассуждаем почему, как мне кажется, автор подменяет понятия...
                                                                              Как известно, существует две точки зрения на ИИ: сильный ИИ и слабый ИИ.
                                                                              Здесь речь идет о мыслях и чувствах, а значит имеется ввиду "сильный ИИ", т.е. подобный человеческому. Но никто пока не смог доказать, что функционирование человеческого интеллекта подобно какой-либо программе, т.е. является механической процедурой. С этой точки зрения рассматривать наличие или отсутствие страданий "сильного ИИ" является, на мой взгляд, неправильным решением.
                                                                              Может быть автор имел ввиду "слабый ИИ", т.е. некоторые "программы" которые демонстрируют интеллектуальное поведение. Например система управления подвеской автомобиля может быть снабжена интеллектуальной управляющей программой для повышения комфорта передвижения в транспорте. Для таких систем, решающих "утилитарные" задачи управления, распознавания и т.д. вопрос о страданиях не стоит вовсе.
                                                                                +1
                                                                                я думаю автор пишет по поводу любого ИИ, как бы вы их не разделяли, и существовали бы они сейчас либо нет. Если это будет искусственный компьютерный интеллект, без биологических составляющих, то рассматривать его можно именно так, как листочек в клеточку, чисто механический процесс. вот. вообще мне кажется что чувства это скорее вопрос скорее химии что меняет и влияет на роботу самого мозга, эндорфины, адреналил…
                                                                                0
                                                                                Прежде чем отрицать разум компьютера, надо сначала понять, что такое разум. Это принципиальная проблема. И однозначного мнения на этот счет, на сколько мне известно, пока не существует.
                                                                                Есть такая замечательная книга "Гедель, Эшер, Бах. Эта бесконечная гирлянда" (http://www.ozon.ru/context/detail/id/129157/), там автор и игровой форме представляет муравейника, как индивидуума. Один из персонажей разговаривает с муравейником. А муравейник - это что? Это исключительно абстрактное обобщение, продуцированное человеческим аппаратом, способным объединять близкорасположенные однотипные объекты в группы. Группа не имеет материального воплощения. Воплощение имеют только отдельные муравьи. Группа - это абстракция. И разум группы - это тоже абстракция, которая возникает только в разуме другого субъекта, способного этот разум распознать. Т.е. разум компьютера может признаться только тем человеком, который готов этот разум там увидеть. И не важно, что там щелкают, транзисторы, нейроны или лаборант. Разум там увидит только тот, кто будет этого хотеть. Остальные же скажут, что это - всего лишь набор нейронов/инструкций/муравьев. Есть ли разум у компьютера - это как и религия. Хотя к богу отношения не имеет.
                                                                                  0
                                                                                  Спасибо за книгу, надо почитать.
                                                                                  Чем-то напомнило Serial Experiments Lain, где предполагалось, что Земля обладает разумом. Вполне возможно, что какие-нибудь инопланетяне, например, будут рассматривать Землю, как единый организм, а людей даже не замечать, как мы не считаем разумными нейроны.
                                                                                    0
                                                                                    На самом деле, книга действительно стоящая. Мозги от "шовинизма разума" хорошо прочищает. А от теоремы Геделя вообще крышу срывает напрочь и на всю жизнь. Это на тему того, что такое "хорошо" и что такое "плохо"...

                                                                                    Кстати, тест Тьюринга - это не тест на интеллектуальность программы, а на всего лишь тест на эквивалентность программы человеческому разуму. Другие "разумы" тест Тьюринга открыть не в состоянии.
                                                                                    0
                                                                                    По поводу того, что разум там увидят только те, кто этого хочет.
                                                                                    Однако, все уверены, что разум есть у них.
                                                                                    Проблема как раз в том, что разум таким образом может быть присущ не только человеку, но и обществу, планете, муравейнику...
                                                                                    0
                                                                                    Ну вы же понимаете, что всё зависит от того, что ИИ научат чувствовать. Если уже изначально он будет различать, что в мире — физически больно, а что — грусть и тоска, то хоть он и не будет чувствовать аналогично человеку (механически, у него не будет портиться здоровье от депрессии; у него не будет так уж и портиться организм от физического урона), всё равно. Заштриховывание клеточек будет диктовать ему, что в этом моменте надо кричать, а в этом плакать. А вы, как человек, будете реагировать именно на поведение ИИ. И из-за поведения вы будете внимать его чувствам.

                                                                                    Это всё равно, что убедить себя, что собственная мать на самом деле — робот. Представьте — когда она плачет, это просто нейрончики бегают. Вам от этого захочется игнорировать её чувства? Дело же не в осознании того, КАК появляются эмоции, а то КАКИМИ мы их видим. Поэтому и «чувствуем», не потому, что нейрончики туда-сюда снуют.

                                                                                    Когда я был мальчиком поменьше, плакал, пока героям любимых мультфильмов было плохо. Если ИИ, умеющему показывать свои чувства, не дадут соответствующих человеческих прав, то не хотел бы я оказаться на месте законодателей. Их же толпа сжуёт.
                                                                                      0
                                                                                      Кстати, вспомнил про одноимённый фильм Спилберга. Там примерно таким же образом рассматривалась проблема.
                                                                                    • UFO just landed and posted this here
                                                                                        0
                                                                                        Согласен.
                                                                                        Именно так и стоит вопрос: "разумом является то, что человек за него принимает". Тест Тьюринга в данном случае исчерпывающ. Более того верно и обратное: "То что человек не принимает разумом, то разумом и не является, каким бы оно интеллектуальным ни было". Человек - ужасный шовинист и не признает разум, который, например, не испытывает чувств. Скажет, что это - "просто машина".
                                                                                        • UFO just landed and posted this here
                                                                                          0
                                                                                          Лучше почитать Азимова.
                                                                                          • UFO just landed and posted this here
                                                                                              0
                                                                                              Есть, то Фильм снят по мотивам его серии "Позитронные роботы", т.к. рассказ "Я робот" ну никак не похож на фильм, даже отдаленнно.
                                                                                          +1
                                                                                          Если Вы не учёный, занимающийся данными вопросами, рассуждения будут очень дилетанскими. Это не та тема, в которой можно взять информацию из Википедии и сделать самостоятельные выводы: тут лучшие учёные сами ничерта не понимают и спорят друг с другом о самой принципиальной возможности или невозможности создания ИИ. Как вообще, так и в качестве программы на текущих кремниевых компьютерах, без ожидания квантовых и без аппаратной реализации работы нейронной сети. Так что пока все все рассуждения о том, может ли он страдать — как споры о внешнем виде Бога.
                                                                                            0
                                                                                            Я не ученый.

                                                                                            Я программист, принимающий участие в разработке слабого ИИ для решения практической задачи: автоматической обработке тестовых заданий, составленных в произвольной форме.

                                                                                            Однако, мне интересен и сильный ИИ, цель которого — создание настоящего исскуственного разума. Но я считаю, что сильной ИИ — невозможен.
                                                                                              0
                                                                                              Ну так дело в том, что никто и не говорит о том, что слабый ИИ будет страдать. В таких разговорах речь идет о сильном ИИ.
                                                                                                0
                                                                                                Ну так, понятно, что решающий конкретные задачи weak AI не претендует на то, что бы быть Искусственным интеллектом в полном и буквальном смысле этого термина, и, разумеется, оно страдать не будет, это просто достаточно умный алгорится, ориентированный на решение определённой практической задачи. Да, он может "самообучаться", но не может мыслить, осозновать себя. Никто в серьёз не думает, что программа распознования образов или Deep Blue, как бы их не усовершенствовать, смогут стать Strong AI.
                                                                                                Если Вы не верите в Stron AI, то зачем писать статьи о проблемах сознания Искусственного интеллекта? Ведь эти проблемы к Weak AI не относятся.
                                                                                                P.S. Если я не прав, поясните, признаю что в теме плаваю. -)
                                                                                                  0
                                                                                                  Слабый ИИ здесь не причем. Я просто пояснил, чем я лично занимаюсь.

                                                                                                  А в данной статье разговор идет о сильном ИИ и только.

                                                                                                  P.S. Deep Blue — это не ИИ, а компьютер.
                                                                                              0
                                                                                              Если современные представления о работе мозга верны, и мозг, в каком-то смысле, подобен Вашей "тетрадке в клетку", то мы должны будем признать, что столь сложная система, состоящая из относительно простых компонент, может быть способной к самоосознанию, радости, печали, переживаниям и пр. В таком случае, вопрос об этической стороне издевательств над ИИ остается открытым.

                                                                                              Если же эти представления не верны, то и воссоздать человеческое мышление у нас не получится, до тех пор, пока не разберемся в исходном механизме.
                                                                                                +1
                                                                                                Кстати логически тут все проще. Автор упростил систему, что бы было понятнее, и вследствии этого сделал алогический вывод. (
                                                                                                Усложни систему.


                                                                                                Отрезаем от человека палец, происходит разрушение кожного покрова, разрушение клеток, внедрение в имунную систему внешних организмов и далее по тексту. От, сначала внешнего, затем внутренних болевых рецепторов идет сигнал в сторону мозга в определенный его участок, в котором заложен алгоритм реакции. Алгоритм задействует другие алгоритмы, которые делают все так, как запрограммировано заранее. В это время часть мозга человека, который содержит в себе его личность, воспоминания, накопленный опыт ( в общем понимании - библиотека данных) благодаря определенным внешним факторам и именно этому набору опыта реагирует определенным образом и человек помимо инстинктивной реакции (а все что я написал до этого происходит за долю секунду в виде программы "Инстинкт"), осознает(это сложна реакция а не что-то божественное), анализирует выдает некое поведенческое действие, задействуя миллионы если не больше других алгоритмов для претворения в жизнь (крик, мысли о скорой, обморок, попытки закрыть фонтанирующую кровь, воспоминания о марле и школьных уроках ОБЖ).
                                                                                                Может ли страдать человек?


                                                                                                Я тоже сильно упростил и местами поднаврал, но идея не потерялась. Система усложнилась, но сама основа такая же примитивная. Клеточка страдает? А человек?
                                                                                                  –1
                                                                                                  ИИ - это не программа. Боюсь, эти 2 разные вещи часто путают. Программа - это конечная последовательность действий, приводящая к определенному результату. Поведение программы можно промоделировать, повторить, если создать те же самые условия. Действия же ИИ не поддаются никакому предсказанию.
                                                                                                  Грубо говоря, программа - это процессор и память, "тетрадка в клеточку". ИИ - сложные электрические(вероятно, пока-что именно электрические) схемы и связи, там нет четкого определения "бит" или "байт".
                                                                                                  Есть нейросеть, которая имеет определнные привычки, которую обучили реагировать на различные раздражения. Если раздражение будет слишком большим, сеть может не выдержать(как и человеческие нервы). Маленькие нейросети используются, например, в сотовых телефонах для распознавания голоса. О больших я ничего не слышал, видимо, это закрытая информация...
                                                                                                  Если кратко: на компьютере создать ИИ вряд ли получиться, но если использовать компьютер как 1 нейрон(очень сложный), а для связи использовать параметры сети их связывающей, тогда, теоретически, возможно создать мощный ИИ.
                                                                                                    0
                                                                                                    Или процессор с несколькими миллиардами ядер, к чему мы уверенно приближаемся:)
                                                                                                    0
                                                                                                    Вопрос страдает ли ИИ по размышлению оказывается бессмысленным.
                                                                                                    Человек взаимодействует с окружающим миром путём восприятия неких внешних раздражителей и интерпретации их на основании собственного опыта. И в неком приближении для человека нет никакой разницы между "естественным" событием (допустим на стене висела картина, мы в неё плюнули и она упала с гвоздя) и "искуственным" событием (вместо стены у нас экран способный создавать фотореалистичное изображение, на котором в момент попадания плевка в экран будет показываться тоже самое падение картины с гвоздя). Т.е. мы никогда не сможем узнать что происходит на "самом деле", а знаем только результат воздействие происходящего на наши рецепторы.
                                                                                                    Это о восприятии. Теперь о интерпретации.

                                                                                                    Мы думаем, что какому либо человеку тоскливо или радостно потому, что наблюдая его поведение и реакции мы делаем вывод типа: Этот человек ведёт себя так-то и так-то, а когда я веду себя так-то и так-то мне радостно, следовательно этому человеку тоже радостно. (Я конечно дико упрощаю, но всё равно в основе механизма лежит сравнение реакций окружающих со своими реакциями в похожей ситуации).

                                                                                                    И из всего этого следует простой вывод: страдает тот, о ком я думаю, что он страдает. Если я сделал вывод что какому-то человеку плохо, значит в моей "системе отсчёта" ему правда плохо, даже если для него самого ему просто замечательно. Если я считаю, что выдача результата кратного восьми приносит арифмометру неописуемое наслаждение, то так оно и есть.

                                                                                                    Абстрактного страдания и наслаждения в отрыве от наблюдателя попросту не существует.
                                                                                                      0
                                                                                                      Присоединяюсь (голосовать не могу).
                                                                                                      Абстрактного страдания и наслаждения в отрыве от наблюдателя не существует, как не существует и абстрактного разума в отрыве от наблюдателя. Оба явления - субъективны, т.к. есть проявление природы человека.

                                                                                                      Я вот еще один риторический вопрос задам: страдания, например, Гамлета или Спайдермана настоящие? Разумен ли он? Актер здесь - только лаборант...
                                                                                                    • UFO just landed and posted this here
                                                                                                        +3
                                                                                                        Имхо безсмысленно обсуждать такие проблемы, говорить что у ИИ нет того-то того-то, в то время когда нет ИИ в принципе. Есть нейросетки, генетические алгоритмы, нечеткие системы, экспертные системы и т.д. На основе них делают гибридные системы, комбинируют методы ИИ с классическими методами, но это все ИИ только в кавычках. Настоящего труевого ИИ пока нет. Есть смысл обсуждать этические проблемы создания ИИ, но говорить "искусственный интеллект делает только одно — считывает биты из ячейки памяти", выглядит как будто вы уже создали ИИ. Есть сложнейшие СППР, работающие на принципах ИИ. Но это только принципы, которые мы сами выдумали.
                                                                                                        и еще одно имхо, ИИ еще дальше чем путешевствия во времени, т.к. для путешевствия во времени все есть, все теоретические модели машины времени есть, пожалуйста СТО. Не хватает только всего то навсего скорости света. А для ИИ нету даже теоретической модели, а есть только что то вроде ТЗ. Типа ИИ должен быть таким таким и таким, а как пока к сожалению не известно.
                                                                                                          0
                                                                                                          ИИ - это не компьютер. ИИ - это программа. Компьютер - это "тело". А чувствовать может программа, если её научить. И не будет чувствовать, если не научить (как психи или маньяки, которые могут не испытывать чувств). А физическая боль требует рецепторов ("тело"), на которые программа должна будет реагировать ("боль"). у людей тоже есть расстройства, при которых они не чувствуют боли. Просто ИИ нужно моделировать с очень высокой точностью, которую пока не способны обеспечить современная психология и физиология :)
                                                                                                            0
                                                                                                            Да, я в прошлый раз пришёл к теб же выводам.
                                                                                                            В этой ситуации всё просто: нет субъекта восприятия (радости, боли, etc...), ибо кусок кода в памяти ли, на бумажке ли, им не является.

                                                                                                            Отдельно повеселил разговор в комментах выше, на тему "самого дела", на котором что-то происходит :)
                                                                                                              0
                                                                                                              То как Вы понимаете ИИ, еще куда ни шло, по сравнению с тем, как Вы понимаете термины "мысль" и "чувство"!
                                                                                                              Какая-то средневековая мистификация. Имхо, такие незрелые и поверхностные рассуждения, так тщательно оформлять не стоит.

                                                                                                              ИИ — это целая область знаний, которая включает в себя кучу вещей кроме Великого Искусственного Человекоподобного Мозга, который еще даже не в проекте и в одушевленности которого Вы уже сомневаетесь.

                                                                                                              Вы сначала дождитесь и посмотрите на лабораторных крыс с целиком протезированным неокортексом (которые уже в проекте). Посмотрите как им будет больно, голодно, холодно, сытно или приятно и т.д. Будут ли они боятся смерти, привыкать и узнавать руки любимого лаборанта, который их кормит... А потом уже...
                                                                                                                0
                                                                                                                В средние века, да и до сих пор, точно так же объясняли отличие человека от животного. "У животного нет души". Расскажите это моему знакомому коту :)

                                                                                                                А мучения будет испытывать сущность, существование которой обеспечивается ее физическим телом — системой лаборант-инструкция-тетрадка.

                                                                                                                Ну или наоборот. Оных мучений система испытывать не будет, зато и сам человек ничего на самом деле не испытывает. Все эмоции, желания — это все шестеренки в очень сложном, но глуповатом механизме, цель которого — выживание вида. А вот алгоритм внутри этого механизма может сколько угодно быть несогласным с этим простым фактом :))
                                                                                                                  0
                                                                                                                  ИИ работает!
                                                                                                                  Alik_Kirillovich ставьте мне плюсик (заштрихуй клеточку).
                                                                                                                    0
                                                                                                                    Без трех законов никуда :)
                                                                                                                      +1
                                                                                                                      Говорят (на уровне слухов), что среди учёных, долго занимающихся проблемами искусственного разума, высокий процент самоубийств. Происходит это из-за того, что они в какой-то момент обнаруживают, что хвалёные человеческие эмоции — точно такая же имитация, как и эмоции робота, с той лишь разницей, что в их основе — химические процессы, а не информационные. Есть, над чем задуматься…
                                                                                                                        0
                                                                                                                        Не мудрено. Мне тоже жутко становится, когда думаешь о том, что ты всего лишь алгоритм, что когда-то ты сдохнешь и тебя просто не будет. Что воссозданная из тебя копия будет всего лишь копией, которую никто никогда не отличит от оригинала (будто воскрес).
                                                                                                                        Что все твои чувства - это тоже всего лишь реакция системы, выработанная эволюционно для наилучшего выживания. Что сама смерть - продукт эволюции.
                                                                                                                        И даже вечная жизнь перестаёт радовать, так как незачем жить.
                                                                                                                        Люди приходят к религиям, потому что боятся смерти. Эти учёные приходят к смерти, потому что не видят смысла даже в вечной жизни.
                                                                                                                          0
                                                                                                                          «Я знаю, что этого стейка не существует. Я знаю, что когда я кладу его себе в рот, Матрица сообщает моему мозгу, что он сочный и вкусный. После девяти лет знаете, что я понял? Невежество это блаженство.» :-)
                                                                                                                        +1
                                                                                                                        Очень интересная тема. Спасибо автору.

                                                                                                                        Мне кажется, что ключевой ошибкой в попытках создания ИИ является именно подход: мы, наблюдая внешние реакции разумного существа, пытаемся построить эмулятор разума и чувств, чье поведение будет "похоже" на поведение разумного существа именно на уровне внешних реакций. Короче, зашорили сами себя на "тесте Тьюринга".

                                                                                                                        Понятно, что такой эмулятор никогда не будет ничего реально испытывать и мыслить, потому как из него убрана ключевая составляющая - "движок", побуждающий соответствующим образом реагировать.

                                                                                                                        А "движком" этим, по моему мнению, является ключевой поведенческий процесс - мотивация.

                                                                                                                        Одной из теорий мотивации является теория Абрахама Маслоу. Кратко: мотивациия определяется потребностью. Потребности разбиты на пять уровней (перечислены "снизу вверх"):

                                                                                                                        - физиологические (жить: дышать, есть, пить...) - часто внедрены в нас на уровне инстинктов
                                                                                                                        - безопасность (не только жить, но и выжить, в частности, за счет размножения и уничтожения конкурентов)
                                                                                                                        - социальные (быть в группе/семье/социуме, быть "как все")
                                                                                                                        - признание (быть лучше других)
                                                                                                                        - самореализация (найти себя в этом мире)

                                                                                                                        Действия всех живых организмов, начиная от простейших и заканчивая человеком, отлично раскладываются на эту пирамиду потребностей.

                                                                                                                        И все то, что мы считаем проявлением разума, является внешним проявлением сложнейших внутренних мотивационных процессов.

                                                                                                                        Примеры?

                                                                                                                        + приятно, когда сытно поешь :) - нас к этому двигала физиологическая потребность
                                                                                                                        + удовольствие от секса - удовлетворение потребностей в безопасности и социальных
                                                                                                                        + эйфория от покупки красивой машины - признание и самореализация
                                                                                                                        - больно, когда порежешься - урон для физиологической потребности
                                                                                                                        - грустно, когда расстались с любимым человеком - ущерб для потребностей в безопсности и социальной
                                                                                                                        - получил разнос у руководителя - удар для потребностей в признании и самореализации.
                                                                                                                        ...

                                                                                                                        Вот отсюда, как мне кажется, и надо копать. Создать не эмулятор внешних поведенческих реакций, а мотивационную систему. По всей иерархии - снизу вверх. Запрограммируйте машину на удовлетворение потребностей в обеспечении собственной жизнедеятельности и безопасности - замотивируйте ее на то, чтобы она выживала и размножалась, хотя бы...

                                                                                                                        Тогда и разум в понятном для нас виде сам появится.


                                                                                                                        P.S. А больше других к созданию разума посредством моделирования всей иерархии мотивов и потребностей продвинулся Трурль из Кибериады Станислава Лема (Путешествие Первое А или Электибальд Трурля) :)
                                                                                                                          0
                                                                                                                          Нет, не появится.
                                                                                                                          Разум, да, используется для достижения физиологических и прочих потребностей, но не является их следствием
                                                                                                                            +1
                                                                                                                            С вами можно согласиться и из других соображений: в кантовской иерархии «рассудок→разум→ чувственное» разумом, то есть чистым интеллектом, который и является целью ИИ, с одной стороны управляет рассудок, отвечающий за этические категории: нравственность, мораль и т. п. А с другой стороны разум питается чувствами.

                                                                                                                            Вот. А рукотворный искусственный интеллект служит прежде всего средством познания, подчиненным человеку, поэтому чувств у него быть не может. Имхо, автор прав.
                                                                                                                            +1
                                                                                                                            Чувства наверное принадлежат в более сложным явлениям, не из этого мира. Мне кажется, что сейчас главное разработать программу, которая бы просто имитировала основные мыслительные процессы. И здесь вроде еще не тот уровень, когда стоит серьезно задумываться о чувствах.

                                                                                                                            Алик, раз уж ты работаешь над ИИ, расскажи, пожалуйста, чего люди уже достигли в разработке ИИ.
                                                                                                                              +1
                                                                                                                              Алик, раз уж ты работаешь над ИИ
                                                                                                                              Я работаю над слабым ИИ — предназначенным для решения конкретной практической задачи (обработки тестовых заданий, составленных без заранее известных правил).

                                                                                                                              Т.е. наш ИИ не намного умнее искусственного интеллекта в сложной компьютерной стратегической игре. И разумеется, даже не пытается моделировать поведение человека.

                                                                                                                              расскажи, пожалуйста, чего люди уже достигли в разработке ИИ
                                                                                                                              Хорошо, постараюсь написать статью для Хабра, где попытаюсь «разложить по полочкам» основные положения, которые достигли люди в разработке ИИ.
                                                                                                                              0
                                                                                                                              Много интересного на эту тему можно найти в книге Роджера Пенроуза "Тени разума. В поисках науки о сознании".

                                                                                                                              Пенроуз задается вопросом "Возможно ли создать ИИ" и отвечает "Не исключено. Но современная наука точно не позволяет его создать".

                                                                                                                              В книге используются факты из квантовой механики, математической логики, теории относительности. При этом для понимания автора совсем не обязательно глубоко разбираться во всех этих науках. Текст достаточно популярен.
                                                                                                                                0
                                                                                                                                http://ru.wikipedia.org/wiki/%D0%9A%D0%B…

                                                                                                                                Тетрадка не обладает разумом, модель тетрадка+интерпретатор обладает им.
                                                                                                                                • UFO just landed and posted this here
                                                                                                                                    +1
                                                                                                                                    реальный ИИ может сам создавать логические цепочки, анализировать абсолютно все входящие данные на основе уже изученного и кросинговера данных
                                                                                                                                    реальный ИИ будет чувствовать, испытывать радость, боль, сожаление, злость и прочее..

                                                                                                                                    Хорошо, предположим нам удалось создать программу «реального ИИ» со всеми указанными Вами характеристиками.

                                                                                                                                    Эту программу мы стали выполнять на листе бумаги.

                                                                                                                                    Будет ли этот «реальный ИИ», выполняющийся на листочке, испытывать чувства: «радость, боль, сожаление, злость и прочее..»
                                                                                                                                      0
                                                                                                                                      Реальный ИИ будет состоять из листочка и агента, который способен выполнять его на листе бумаги. И будет это все испытывать — в замедленном темпе, в соответствии со скоростью работы агента.
                                                                                                                                        0
                                                                                                                                        (Кстати, посчитайте на досуге, сколько времени займет выполнение на листе бумаги хотя бы ничуть не интеллектуальной Windows, и сколько листов бумаги она схавает.)
                                                                                                                                        0
                                                                                                                                        Разум это система + процесс, постоянно меняющаяся система, процесс мышления неразрывно связан с измененением системы. Разум (человеческий) до того как к ниму пришла мысль изменяется из-за этой мысли. Выполните на бумаге алгоритм который будет менятся по ходу действия и не по определенным законам а по законам которые меняются этим алгоритмом на основании многих данных, практически случайно.
                                                                                                                                        • UFO just landed and posted this here
                                                                                                                                        +1
                                                                                                                                        Вы разделили на части, но не рассмотрели систему. Вернее вы упростили систему до уровня когда разум перестает быть разумом а становится алгоритмом (лаборант). А вот если сказать лаборанту не перерисовыватьт клеточки и перерисоваь рисунок (действительно разумное действие) то он уже будет испытывать эмоции.
                                                                                                                                        Описанный вами ИИ еще не разумен. А вот разумный ИИ будет испытывать эмоции (вернее может испытвать).
                                                                                                                                        Но мне кажется многие делают ошибку смешивая понятия "человеческий разум" и "разум". Почему ИИ должен думать как человек? Эмулирование работы мозга один из вариантов построения ИИ но думаю не единственный. Почему ИИ должен испытвать те же эмоции что и человек? Почему вы уверены что мы в принципе можем определить эмоции нечеловеческого разума? Дельфины разумны? Мы не можем сказать однозначно, а уж понять их логику и эмоции... Мы адаптируем их поведение под свою логику, но это не верно. А ведь могз дельфина во многом похож на могз человека, а тут разум на другом носителе даже.
                                                                                                                                        Вердикт: нельзя распространять человеческие понятия и логику на нечеловеческий разум.
                                                                                                                                        Правда есть одно но, предполагается что ИИ сделают люди и он будет похж на человеческий разум. Но это требование не обязательно, от ИИ нужны какие-то действия, просто, так, сам по себе, он не очень то нужен. А значит ничто не мешает теоретически создать ИИ по принципу черного ящика, когда мы не понимаем как он мыслит но на выходе он выполняет нужные нам действия.
                                                                                                                                          0
                                                                                                                                          Вы правы. Мы почти ничего не знаем о ЕИ, но уже строи ИИ (разумеется, по какому-то набору внешних признаков). Это получится не "Искусственный интеллект", а "Искусственная реализация человеческих представлений об интеллекте".

                                                                                                                                          Представим, что мы ничего не знаем об архитектуре предыдущей цивилизации, не умеем расчитывать нагрузки, напряжения материалов, ничего не смыслим в гармонических законах и т.д., но очень хотим воссоздать какое-то строение. И начнём воссоздавать его по внешним признакам. Оно, может быть, даже не разрушится до конца стройки, и внешне будет похоже, но будет ли оно тождественно? Будет ли отвечать тем же требованиям? Оно может даже формально простоять, как декорация, пару дней, а потом развалиться под первым же дождём. Мы можем сказать, что создание таких зданий бесполезно. И тут появляется кино, а наше горе-творение превращается в декорацию. Как знать, чему мы даём жизнь и в каких условиях она может проявиться?
                                                                                                                                          +2
                                                                                                                                          Однако, можно сказать точно, что БИ созданный как обычная химическая программа, мыслить и чувствовать не может. (с) Конференция по проблемам вымершего Белкового Интеллекта, 3508 год
                                                                                                                                          +1
                                                                                                                                          Ответ занял целый пост:

                                                                                                                                          http://habrahabr.ru/blog/artificial_inte…
                                                                                                                                            +1
                                                                                                                                            Мне кажется искусственный интеллект - это алгоритм который сможет создавать алгоритмы для решения поставленных задач. А алгоритм ничего чувствовать не может =)
                                                                                                                                              0
                                                                                                                                              А вот попробуйте-ка доказать последнее свое утверждение научно:)
                                                                                                                                                0
                                                                                                                                                как код может мыслить? Мне кажется что ИИ основаный на компьютерных алгоритмах создать невозможно (хотя я могу ошибатся), мне кажется что технология которая наиболее близка к ИИ - это нейросети, в принципе работы которых я довольно давно пытался разобратся, но так и недоразобрался =)
                                                                                                                                                  0
                                                                                                                                                  Одно дело код типа hello world, а другое сотня миллиардов клеточных автоматов. По сути — тоже код, реализованный на аппаратном уровне и взаимодействующий с другим кодом и с окружающей средой. Можете ли вы быть уверены, что вы и вся наблюдаемая вами вселенная — не эмуляция в какой-то внешней базовой реальности («матрице») с самодостаточным набором «физических» законов?:)
                                                                                                                                              • UFO just landed and posted this here
                                                                                                                                                0
                                                                                                                                                моя тетрадка чувствует боль! Клеточки для накопления информации закончились - и тетрадку выбросили, сожгли, она перестала существовать. Не больно?
                                                                                                                                                Вот вы говорите процесс А - Б - А - Б при получении сигнала на старт этой операции. Мой комп достаточно мощный, но не сложно написать софт, который сожрет всю память, камень и жоский диск. Тогда процесс А - Б - А - Б будет проходить намного медленнее, будут появляться ошибки распределения памяти, большая нагрузка на ХДД и его изнашивание, нагревание камня до температуры плавления. Это ли не боль? Не это ли ведет к смерти?
                                                                                                                                                Чувство боли у человека помечено особыми химическими процессами, чтобы предупредить организм о чрезмерной нагрузке и опасности разрушения. Моральная боль - всего лишь развитие этого.
                                                                                                                                                Так что ИИ вполне способен ощущать боль.

                                                                                                                                                "
                                                                                                                                                - Тебе больно, когда в тебя стреляют?
                                                                                                                                                - Я чувствую повреждения. Это можно назвать болью.
                                                                                                                                                "
                                                                                                                                                  +1
                                                                                                                                                  Вот это, по-моему, некорректное сравнение. О каком сжигании тетрадки мы говорим?
                                                                                                                                                  Если мы условились считать ИИ процессом считывания из ячеек, преобразования данных в ячейках, то все физические процессы "снаружи" не имеют отношения к делу. Не важно, реализован этот ИИ на конструкции
                                                                                                                                                  1) лаборант + тетрадка,
                                                                                                                                                  2) расчерченное на пляже поле + племя, которое с давних времён перекладывает камушки из одной клетки в другую по определённым правилам,
                                                                                                                                                  3) ЭВМ + программа
                                                                                                                                                  или любой другой способ.
                                                                                                                                                  Внутри своих вычислений это ИИ идеален. Делает те преобразования, которые в него заложил его автор. О какой боли речь?
                                                                                                                                                    0
                                                                                                                                                    Кстати, отличная идея, эмоции это психологическая реакция на изменения, в основном внешние. И проведенная вами аналогия с нехваткой ресурсов достаточно верна. Для стороннего наблюдателя депрессия (если он сам никогда с ней не сталкивался), всего лишь снижение активности. Таким образом любой механизм (механический, огранический не важно) имеет "эмоции" влияющие на его работу. Другое дело что механизм не обладающий сознанием не может их осознать.
                                                                                                                                                    Но так или иначе, мы не в состоянии понять эти эмоции (вернее можем понять если механизм достаточно близок нам, например легко понимаем что такое агрессия собаки так как эта эмоция возникла эволюцонно до того как произошло разделение между нами), так как смотрим на мир только через призму своего сознания и никакая фантазия не в состоянии понять "нечеловеческие эмоции".
                                                                                                                                                    ИИ обладает сознанием по определению (я думаю мы говорим о осознающем себя ИИ ?).
                                                                                                                                                    Таким образом:
                                                                                                                                                    ИИ может испытывать эмоции но скорее всего это не те эмоции которые мы называем эмоциями (человеческие эмоции).
                                                                                                                                                    0
                                                                                                                                                    ...хм...а ведь страдания сами по себе есть результат причинно-следственной связи: происходит событие -> возникает реакция...получается аналог человеческого страдания - это наказание ИИ-ом самого себя... получается, что ИИ сможет страдать тогда, когда найдётся способ реализации процесса самонаказания ИИ с разрушительно-убыточными последствиями для него самого... наверно я слишком закрутила, но мне видится как-то так ;)))
                                                                                                                                                      0
                                                                                                                                                      мне кажется что никто не будет создавать ИИ который будет стродать, ну может какие нить имо-ученый =) но вот ИИ может сам научится страдать. А может и не смож АА-аа пыщ пыщ систем фаталЪ Эроре!! быдыщь!!
                                                                                                                                                        0
                                                                                                                                                        Скажите, как Вы понимаете "страдание"? Может ли страдать моль, обжогшаяся об лампочку? А затупившийся нож? А цветок, у которого оторвали лист? А человек, ударившийся ногой о камень? А мать, узнавшая, что не сможет иметь детей? Что между этими ситуациями общее и что различно?
                                                                                                                                                          0
                                                                                                                                                          ...всё живое может страдать, так как реакции у него на конкретные события разные... как разные характеры и поведение... моли бывают быстрые и любопытные, бывают вялые и безиницыативные, есть те, что сидят на стене в лучах света, есть те что бьются насмерть об лампочку... самое интересное, вы наверно замечали, что живые существа вне зависимости от вида делятся на общие группы темпераментов... как правило, хозяева подсознательно выбирают себе животных того же темперамента... иными словами существ, которые поступили бы аналогично как и они сами в определённых ситуациях...так что совершенный ИИ должен не только реагировать последовательно на причину, но и обладать каким-то определённым типом темперамента... т.к. ИИ сейчас реагирует базово, это делает его пока только исполнителем, но не сопереживающим... получается, чтобы сделать ИИ полноценным, его нужно вовлечь в ситуацию как заинтересованное лицо...
                                                                                                                                                            0
                                                                                                                                                            Хорошо. А теперь следующий вопрос: можно ли считать, что автомобили обладают темпераментами?
                                                                                                                                                              0
                                                                                                                                                              конечно. только в данном случае это соответствие темперамента некой стилистике. обратите внимание, каждому типу темперамента нравится своя стилистика автомобилей - активные люди, любят скорость...соответственно выбирают гоночные автомобили, спокойные семейные домоседы - выбирают практичный универсал, в котором главное - не скорость и внешний вид, а практичность...таких же принципов они придерживаюся при выборе любой техники...и вообще вещей...это обобщённые примеры, в реальности всё происходит гораздо детальнее... возвращаясь к автомобилям, можно отметить, что именно по этой причине кто-то чувствует себя неуютно в одном автомобиле и легко в другом. кроме того, автомобили одинаковой марки в зависимости от темперамента хозяина приобретают некую "заточенность" под определённую манеру езды...и соответственно некий темперамент.
                                                                                                                                                              Вообще производитель техники, как и художник сам того не осознавая передаёт своим творениям свой характер и черты...это опять же к творению ИИ по образу и подобию своему (я написала об этом ниже в общем комментарии)...
                                                                                                                                                                0
                                                                                                                                                                Вы говорите о "темпераменте", которым человек наделяет автомобиль в своём сознании, потому что человеку приятно видеть своё подобие во всём окружающем, но это не значит что автомобиль имеет СОБСТВЕННЫЙ темперамент.

                                                                                                                                                                Как и в теме, где рассматривается возможность СОБСТВЕННЫХ страданий тетрадки (а не подражания каким-то внешним признакам нашего страдания), я спросил Вас о СОБСТВЕННОМ темпераменте.

                                                                                                                                                                Даже окружающие Вас люди нередко наделяют Вас собственными чертами характера и собственными переживаниями, которых в Вас нет, не замечали? ;-}
                                                                                                                                                                  0
                                                                                                                                                                  ...ха...кстати, а вы уверены что мы все имеем СОБСТВЕННЫЙ темперамент? ...возможно это всего лишь заданная кем-то программа...возможно в этом случае и кроется ответ на вопрос с неощущаемым сумасшествием... возможно мы как и машины(условно) не имеем, ни собственных страданий, ни собственного темперамента... и насчёт переживаний - мы не всегда отдаём себе отчёт в конкретике определённых переживаний, которые улавливаются (условно) окружающими ... уфф.... наше осознание - это такие всё дебри ;)))))))
                                                                                                                                                                    0
                                                                                                                                                                    Хармс довольно остроумно подчеркнул желание человека побыстрее покончить с таким сложным вопросом, как "где я начинаюсь и где заканчиваюсь?" в рассказе "О сабле":

                                                                                                                                                                    Тут мы стоим и говорим: вот я вытянул одну руку вперед прямо перед собой, а другую руку назад. И вот я впереди кончаюсь там, где кончается моя рука, а сзади кончаюсь тоже там, где кончается моя другая рука. Сверху я кончаюсь затылком, снизу пятками, сбоку плечами. Вот я и весь. А что вне
                                                                                                                                                                    меня, то уж не я.
                                                                                                                                                                    Теперь, когда мы стали совсем обособленными, почистим наши грани, чтобы лучше видать было, где начинаемся уже не мы. Почистим нижний пункт - сапоги, верхний пункт - затылок - обозначим шапочкой;
                                                                                                                                                                    на руки наденем блестящие манжеты, а на плечи эполеты. Вот теперь уже сразу видать, где кончились мы и началось все остальное.
                                                                                                                                                                      0
                                                                                                                                                                      ...к сожалению, это не даёт ответа на вопрос, это всё опять же условно ;)
                                                                                                                                                        0
                                                                                                                                                        Начну чуть из далека
                                                                                                                                                        на конференции по когнитивной науке была секция "эмоциональные компьютерные интерфейсы". Ребята из германии предложили интересный подход - научить машину мимикрии и эмулировать эмоции с тем что бы понять. Ты в гримасе злости с ней разговариваешь - и она с тобой и понимает что ты злишься.
                                                                                                                                                        Так вот - научить ии испытвать эмоции можно. Более того, можно правила моральные навязать, можно много чего еще сделать - но это синтетическое все, ведь так?
                                                                                                                                                        Вероятно, допускаю я такую возможность, через какое то время, когда компьютеры (в смысле ии) познают возможность самовоспроизводства и начнут её использовать, пройдет какое-то время, и может быть - действительно ии начнет чувствовать. Но сейчас об этом еще рано
                                                                                                                                                          0
                                                                                                                                                          Что значит фраза "Так вот - научить ии испытвать эмоции можно"?
                                                                                                                                                          Речь о том, что можно научить компьютер вести себя примерно так, как будто он испытывает эмоцию, так? Просто это необходимо отличать. Уже сейчас есть чат-боты, с которыми можно долго говорить, не догадываясь, что собеседник - не человек. Так в чём проблема копировать (или как-то иначе отзеркаливать) эмоцию человека, общающегося с машиной?
                                                                                                                                                          Это не эмоции, а имитация эмоций. Разве не так?
                                                                                                                                                            0
                                                                                                                                                            мы с вами об одном и том же говорим - вы называете имитацией а я синтетическими
                                                                                                                                                            да так.
                                                                                                                                                            да не одно и тоже
                                                                                                                                                            это и говорю
                                                                                                                                                              0
                                                                                                                                                              Такой каверзный вопрос: а где проходит граница между синтетическими и реальными эмоциями? Залезть в голову программе мы не можем, а внешний результат похож... Вы утверждаете что этот бот запрограммирован жестко человеком и поэтому не может испытывать эти эмоции реально. Но человек тоже запрограммирован, эволющией или Богом не важно. Так что человек тоже не испытывает эмоций? :)
                                                                                                                                                              Я не утверждаю что этот бот испытывает и осознает человеческие эмоции, так разминка для ума на "теорию относительности".
                                                                                                                                                            0
                                                                                                                                                            из вики: "Гуманизм (от лат. humanitas — человечность) - ...". от слова человек. этот термин не может быть применен к ИИ до тех пор, пока вы не будете воспринимать ИИ как человека.
                                                                                                                                                              0
                                                                                                                                                              Вспомнилось, что в игре Mass Effect была тонкая подколка по этому поводу:
                                                                                                                                                              "Неполиткорректно называть роботов и объекты с AI искусственными. Было принято называть эти формы жизни синтетическими, или "синтетиками":)
                                                                                                                                                                0
                                                                                                                                                                Человеческую реакцию на событие можно представить так: если на нас влияет какой-то раздражитель, мы сначало пропускаем сигнал через наш разум, а дальше идет две реакции: во-первых мы как-то реагируем на это внешне, но во-вторых как-то реагируем на это внутренне. Вот елси бы эту внутреннюю реакцию ликвидировать, то и подобных парадоксов можео было бы избежать. Правда, в таком случае, боюсь ИИ уже не будет интеллектом, а тупым большим блоком if-then-else'ов
                                                                                                                                                                  +1
                                                                                                                                                                  Все просто: у нас есть осознание своего Я, именно по этомму мы можем мыслить и испитывать чувства.
                                                                                                                                                                  А т.н. ”Искусственный интеллект” это не действительно интеллект а лишь его ИММИТАЦИЯ

                                                                                                                                                                  так что согласен с автором, страдания искусственного разума — полная чушь
                                                                                                                                                                    0
                                                                                                                                                                    Скажите, у мыши есть осознание своего Я?
                                                                                                                                                                      +1
                                                                                                                                                                      мы не можем этого знать утвердительно
                                                                                                                                                                        +1
                                                                                                                                                                        Вы не можете этого знать ни о ком, кроме себя.
                                                                                                                                                                        Просто по аналогии вы проецируете эту возможность на всех других людей, ибо они вроде бы такие же, почему бы и им не осознавать своего я?
                                                                                                                                                                        Как-то в первом ещё классе мне на мгновение вдруг показалось, что все вокруг какие-то неживые, как роботы, которые лишь похожи на людей. Не знаю, чем было вызвано, но я запомнил этот момент на всю жизнь.
                                                                                                                                                                          0
                                                                                                                                                                          В точку :-) К этому я и вёл.
                                                                                                                                                                            0
                                                                                                                                                                            ...с одной стороны так, а с другой предположения всётаки имеют большую пользу. т.к. благодаря наблюдениям за реакциями живых(условно) и чувствующих (условно)существ, мы часто делаем правильные выводы относительно возможных реакций на конкретные ситуации... таким путём, к примеру, мы поняли чем питаются лошади, чтоб содержать их правильно, мы поняли каких слов нельзя говорить существующему (условно) начальнику, чтоб он нас не уволил и денежку вовремя заплатил...и т.д... это всё игра, победителем в которой становится наблюдатель правильно сделавший своевременные выводы... получается так... и уже не так уж важно существование объектов условное или реальное...
                                                                                                                                                                              0
                                                                                                                                                                              Но такими предположениями принципиально невозможно понять является ли существо разумным (обладающим самосознанием) или очень хорошей имитацией. Это сравнимо с вопросом "является ли наш мир реальным или это все матрица ?".
                                                                                                                                                                                0
                                                                                                                                                                                Да-да, "Реальна ли Матрица?"
                                                                                                                                                                                0
                                                                                                                                                                                Вы некорректно расставляете слово "условно", в предпосылках ставите, а в выводах пропускаете. Сами поглядите ;-}

                                                                                                                                                                                Например, правильно, в соответствии с Вашей логикой, писать так: "благодаря наблюдениям за реакциями живых (условно) и чувствующих (условно) существ, мы (условно) часто делаем правильные (условно) выводы относительно возможных реакций (условно) на конкретные ситуации"
                                                                                                                                                                                  0
                                                                                                                                                                                  ...в данном случае это не ошибка с моей стороны, а расстановка акцентов. мы уже определились, что всё в этом мире условно и соответственно это слово в скобочках можно ставить после каждого набора букв...в том числе и после слова ("условно")...)))))))))))))

                                                                                                                                                                                  * ...это ваш ответный подкоп после моего "сорри" - я заценила :))))))))
                                                                                                                                                                      0
                                                                                                                                                                      Вся эта неразбериха происходит только потому, что большинство людей мыслит узко, в рамках заданных стереотипов, не задумываясь над такими простыми вещами, как "что такое жизнь?", "бывает ли не-жизнь?", "что такое понимание?", "если понимание или чувство сводимо к формальному подражанию, то почему мы трясёмся за ИИ и не трясёмся за холодильники, пилы и окна?", "где начинается и заканчивается отдельно взятый человек?", "можно ли кожу лица считать разумной, потому что она растягивается и стягивается, реагируя на эмоции человека?", "производим ли мы машины или машины размножаются посредством нас?", "может ли горевать голубь? а муравей?" и т.д. и т.п. Мне кажется, человечество ещё не разобралось в себе, ещё рано задавать вопросы об ИИ. Человек может создать ИИ (если его можно создать, что пока ещё не доказано), даже не догадываясь об этом, если не знает, в чём суть интеллекта.
                                                                                                                                                                        0
                                                                                                                                                                        Такие вопросы задавать никогда не рано, потому что они важнее ответов. А в целом, со всем согласен.
                                                                                                                                                                        0
                                                                                                                                                                        Вот простой вопрос: когда человек начинает быть "естественным интеллектом" и когда прекращает (если, например, сходит с ума или впадает в старческое слабоумие)? В какой мере можно сказать, что он формально подражает эмоциям окружающих? Это очень серьёзный вопрос, он даёт ключ к тому, что мы уже нагородили в своей голове.
                                                                                                                                                                          0
                                                                                                                                                                          Довольно таки интересная тема!
                                                                                                                                                                          Автору +.
                                                                                                                                                                          Так вот.
                                                                                                                                                                          Единственное, что смущает, так это аналогия ИИ с тетрадкой.
                                                                                                                                                                          Естественно, так и есть - считал, записал. Но это на элементарном уровне. На самом деле (в моем понимании) процес "чувствования" или же "мышления" должен происходить по такой же элементарной схемы, но лишь с тем учетом, что таких вот "считал - записал" будет не одно повторение.
                                                                                                                                                                          По чувствам.
                                                                                                                                                                          ИМХО, чувства реально спроектировать. Аналогично - на основе "считал - записал", но не так как вы говорили - "11 -радость, 00 - страдания" (пускай даже изначально будет так сформулировано), а а основе скажем того же опыта, который накопляет машина.
                                                                                                                                                                          1) Сегодня мне сделали больно - я радуюсь.
                                                                                                                                                                          2) И сегодня.
                                                                                                                                                                          3) И сегодня.
                                                                                                                                                                          4) Я в корне не прав. Радоваться, когда делают больно нельзя. Буду страдать.
                                                                                                                                                                          Подобное действие "механического разума" можно сравнить с чувствами. И с мышлением.
                                                                                                                                                                          Но, скорей всего, воссоздание такой модели дастся создателю не в простейшей форме.
                                                                                                                                                                          Кто знает?

                                                                                                                                                                          Спасибо.
                                                                                                                                                                            0
                                                                                                                                                                            Рассуждения о "страданиях ИИ" - классическое смешение понятий.
                                                                                                                                                                            Мы знаем, что такое страдания человека или животного. Таким образом, понятие страдания определено для людей и животных, но не определено для ИИ. Говоря "страдания ИИ", мы пытаемся тупо экстраполировать это понятие, предполагая, что "понятно", что это такое. А это выражение ничего не значит, примерно как "бенгальский орех"...
                                                                                                                                                                            А попытка оценить происходящее с позиций морали, очевидно, основывается на предположении, что существует некая абсолютная моральная шкала, по которой можно оценить всё что угодно, в том числе и абсолютно новое явление. Это не так, мораль - человеческое понятие, она разная для разных эпох и разных людей, и распространяется только на известные, изученные явления.
                                                                                                                                                                              +2
                                                                                                                                                                              Вся эта неразбериха происходит только потому, что все рассматривают эту тему с точки зрения сушествующеи материальной парадигмы в научном мире, которая подразумевает что сознание есть продукт материи(то есть мозга).
                                                                                                                                                                              На самоме деле эта парадигма не верна в корне. и есть много доказательств доказывающих это. но эта другая тема..
                                                                                                                                                                              Человек это не тело а сознание. тело это всего лищь одежда.
                                                                                                                                                                              А вот сознание первично по сравнению с телом, то есть мозг это всего лищь приемник информации а не его источник.

                                                                                                                                                                              так что все разговоры на тему ”может ли чувствовать ИИ” это разговоры на тему ”может ли чувствовать одежда”
                                                                                                                                                                                0
                                                                                                                                                                                Очень интересно послушать доказательства и примеры того, что кроме мозга есть ещё что-то (что-то не вписывающееся в существующие понятия материального мира).
                                                                                                                                                                                Не могли бы написать статью? Или дать ссылки, развернутый комментарий?
                                                                                                                                                                                  0
                                                                                                                                                                                  да, пожалуй будет лутше статю написать, я и до этого об этом думал. надеюсь выишу время
                                                                                                                                                                                  0
                                                                                                                                                                                  хм, что важнее железо или программа? А что появилось первым? Это на тему первичности.
                                                                                                                                                                                    0
                                                                                                                                                                                    Насколько я понимаю, вы затронули проблему идеального и материального. Над этим философы (и не только) бьются очень давно и, наверно, никогда не придут к единому мнению.
                                                                                                                                                                                    "На самоме деле эта парадигма не верна в корне. и есть много доказательств доказывающих это."
                                                                                                                                                                                    Боюсь, что доказательств нет - в философии принципиально нет доказательств. Есть изложение своих мыслей с их помощью, например, у Декарта или Спинозы. А есть доказательства существования Бога - им тоже верить? А доказательствам существования темной материи с указанием её веса или доказательствам отсутствия черной материи как таковой? :)
                                                                                                                                                                                    0
                                                                                                                                                                                    ...на самом деле мы возможно и есть ИИ-ты, придуманные неким разумом по образу и подобию его самого... как это почти дословно упомянуто в одной всем известной книге... в библии ;))))))))))))
                                                                                                                                                                                    ...мы ведь тоже, как этот высший разум пытаемся создавать всё по образу и подобию своему...и эта цепочка, а вернее даже спираль, похоже бесконечна...
                                                                                                                                                                                      +1
                                                                                                                                                                                      По образу и подобию. А мы пытаемся создать ИИ только по подобию.
                                                                                                                                                                                        0
                                                                                                                                                                                        сорри, но...ерунду сказали... скорее уж тогда по образу ;)))) ...по подобию нам не дано, в связи с вашими же выводами - не знаем и не можем знать суть явления до конца и соответственно структуру, чтоб подобие создать... только образы рисуем пока...
                                                                                                                                                                                          0
                                                                                                                                                                                          Я в данном случае использовал богословскую терминологию, несколько отличающуюся от современных математических терминов, поэтому Вам и показалось, что я сказал что-то не то. Образ - это сама суть, неизменная и тождественная сама себе.
                                                                                                                                                                                            0
                                                                                                                                                                                            ...в богословской терминологии "образ" - икона, а не ваше определение. сама суть - это не икона, а святой который на ней только изображен. соответственно икона - это только образ... он обладает чертами святого, но не является им самим, как фотография не является человеком.
                                                                                                                                                                                              0
                                                                                                                                                                                              Я с Вами спорить не буду. Просто прочтите самостоятельно хоть что-нибудь по святоотеческому богословию. Что же до ещё одного значения слова "образ", которое Вы использовали, то оно к нашему разговору отношения не имеет.
                                                                                                                                                                                                0
                                                                                                                                                                                                а можно прочесть "не самостоятельно" :)))))) ...я с вами не спорю, я привела определение из словоря богословских терминов ;) ...и оно кстати имеет непосредственное отношение к теме ИИ, т.к. очень чётко отражает разницу между самим явлением и его не столь подробным повторением... между человеком и условной копией облика.
                                                                                                                                                                                                  0
                                                                                                                                                                                                  ой...очепятка... "словАря";)))
                                                                                                                                                                                      0
                                                                                                                                                                                      У кого-то из нетленных классиков популяризации идей ИИ (Пенроуза?) была поинтереснее аналогия... Там программу ИИ выполняли на бумажках миллионы индусов, и тоже вопрос был в том, может ли эта программа страдать...

                                                                                                                                                                                      Я лично вообще считаю, что кроме меня никто ничего не чувствует, не осознаёт и, в каком-то смысле, вообще не мыслит. Почему? Потому что только про себя я точно знаю, что я чувствую и когда. А остальные могут быть биороботами-симулянтами, для меня никакой разницы.

                                                                                                                                                                                      Ну и, конечно, следует добавить, что вы фигню пишете. Попытки рассуждать о нерассуждаемом, сродни доказательству (не)бытия божия :)

                                                                                                                                                                                      А что, неужели продвинулись так далеко в своей работе над искусственным интеллектом, что во всей остроте начинают вставать вопросы морально-этического характера? Тест Тьюринга-то хоть прошли уже?
                                                                                                                                                                                        0
                                                                                                                                                                                        Прочитал комментарии, анекдот такой вспомнился.

                                                                                                                                                                                        У специалиста по ИИ спрашивают, что он считает изящной работой в этой области.
                                                                                                                                                                                        Тот отвечает не задумываясь: 'Термос!'
                                                                                                                                                                                        'Но почему?!'
                                                                                                                                                                                        'Наливаешь горячее - получаешь горячее. Наливаешь холодное, получаешь холодное. КАК ОН РАЗЛИЧАЕТ?'
                                                                                                                                                                                          0
                                                                                                                                                                                          Однобокий какой то взгляд на проблему - во первых ничто не мешает нам для ИИ использовать те же нейроны в удобном для нас сочетании. Так же, ничто не мешает нам использовать относительно точную компьютерную модель нейрона и из нее строить нейронную сеть. Представим что есть суперкомпьютер, который в реальном времени моделирует движение атомов и молекул. Я надеюсь не вызывает сомнений то, что можно построить довольно точную мат. модель даже с учетом квантовых эффектов? В крайнем случае можно квантовые эффекты моделировать отдельно на аналоговом компьютере. Не суть. Представим что есть смоделированная комната. В ней сидит челоек, атомарная копия с реального человека. Будет ли он чуствовать боль, если кольнуть его иголкой? А где гарантия, что наш мир не компьютерная модель? Так можно сказать что и мы - реальные люди боли не чуствуем так как мы просто набор молекул и атомов, а в теории еще и просто компьютерная модель...
                                                                                                                                                                                            0
                                                                                                                                                                                            Роботы Гугла и Яндекса жестоко страдают, индексируя комментарии к этой статье :)
                                                                                                                                                                                              0
                                                                                                                                                                                              [Cтрадает] система «лаборант — инструкция — тетрадка»? Это уж слишком мудрено…
                                                                                                                                                                                              Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?

                                                                                                                                                                                              Че за ахинея. Никогда в жизни не видел таких детских рассуждений. Даже не хочется участвовать в критике.

                                                                                                                                                                                              Only users with full accounts can post comments. Log in, please.