Смогут ли компьютеры когда-нибудь по-настоящему думать?



    Концепция мыслящих машин лежит в основе несметного числа фантастических книг и фильмов. Даже в более-менее серьёзных футуристических прогнозах время от времени исходят из предположения, что мы создадим не просто искусственную жизнь, но искусственное сознание. И эта перспектива завораживает. Разумеется, в своих мечтах о мыслящих машинах мы априори считаем, что их мышление будет построено по образу нашего. С определёнными отличиями вроде не отягощённости потребностями тела, эмоциями и прочими затруднениями, связанными с биологическим бытием. Но если вдуматься, то никто не гарантирует того, что машины будут думать, как мы.


    А задавались ли вы когда-нибудь вопросом, что имеется в виду под словом «думать»? Да, на интуитивном уровне мы можем осознать своё собственное мышление, человеческое, но что насчёт животных? Думают ли шимпанзе? А вороны? Осьминог?

    Допустим, инопланетные разумные формы жизни существуют. Вполне вероятно, что их разум будет настолько сильно отличаться от нашего, что мы даже не сможем осознать их разумность. Кто знает, может быть, инопланетяне уже были где-то поблизости, но из-за фундаментальных различий разума даже не заметили нас. А мы — их.

    Безусловно, животные обладают когнитивными способностями, отличными от наших, нацеленными на использование инструментов, понимание причинно-следственных связей, коммуникацию с другими существами, и даже на осознание целенаправленного мышления у других. Вероятно, к «мышлению» нужно отнести все эти задачи. Представим, что нам удалось создать машину, обладающую всеми перечисленными возможностями, то есть, по нашему мнению — думающую. Тогда нам останется только похвалить себя и лечь на диван с чувством выполненного долга. Но сможет ли машина встать на ступень выше, сможет ли она думать как человек? И если сможет, то как нам об этом узнать? Ориентироваться на одно лишь поведение компьютера было бы ошибкой. Если он будет действовать так, словно умеет думать, то это ещё не будет означать, что всё так и есть. Может быть, это будет искусной имитацией, разновидностью философского зомби.

    В своё время этот вопрос — как распознать разумность машины — подвигла Алана Тьюринга на создание его знаменитого теста, в течение которого компьютер взаимодействует с человеком посредством текста на экране, и должен в большинстве случаев убедить живого собеседника, что он тоже является человеком. Для Тьюринга всё сводилось именно к поведению машины, а не ко «внутренней цифровой жизни».

    Однако для кого-то эта внутренняя жизнь всё же важна. Знаменитый философ Томас Нагель в своей статье «Каково быть летучей мышью?» высказал точку зрения, сознание не отождествляется с мозгом. Есть «что-то, чему нравится» получать сознательные переживания, опыт. То есть в нас есть нечто, чему нравится смотреть на красивые объекты, или заниматься каким-то делом. Человек — это нечто большее, чем набор состояний его мозга.

    Но тогда можно задаться вопросом: а может ли существовать «что-то, чему нравится» быть думающей машиной? Допустим, нам когда-нибудь нам удастся создать разумный компьютер. И если при проведении теста Тьюринга человек спросит: «Есть ли у тебя сознание?», то в ответ может получить: «Как бы я об этом узнал?».

    Вычисления — и больше ничего?


    Согласно современным представлениям, в основе компьютерного мышления должны лежать исключительно вычисления: количество операций в секунду и логических переходов. Но мы не уверены, что мышление — или сознание — есть производная от вычислительной мощности. По крайне мере, в условиях использования двоичных компьютеров. Может ли мышление являться чем-то большим, чем набор алгоритмов? Что ещё нам нужно? А если всё дело лишь в вычислениях, то почему человеческий мозг не слишком-то в этом и силён? Ведь большинство из нас сталкиваются с затруднениями, когда нужно перемножить в уме пару двузначных чисел, не говоря уже о более сложных задачах. Или в нашем подсознании осуществляется какая-то глубокая обработка данных, что в конце концов выражается в ограничении наших сознательных вычислительных возможностей (аргумент в пользу так называемого «сильного ИИ»)?

    По сравнению с компьютерами, наши способности по манипулированию необработанными данными никуда не годятся. Зато компьютерам очень плохо даются такие вещи, как языки, поэзия, распознавание голоса, интерпретирование сложных поведенческих шаблонов и формирование всеобъемлющих суждений.

    Если способности компьютеров столь отличаются от наших, то как можно ожидать, что в конце концов они смогут думать как мы? Быть может, в будущем компьютеры обретут все черты человеческого мышления в обмен на ухудшение способностей к арифметическим вычислениям?

    О вере, сомнении и ценности


    Если компьютеры действительно начнут думать как человек, то их разуму также будут свойственны понятия вроде «веры» и «сомнения». А что может означать для компьютера «вера во что-то»? Конечно, если не считать такой тривиальной ситуации, как действие без учёта вероятности ошибки? Сможет ли когда-нибудь произойти так, что компьютер искренне засомневается, но пересилит своё сомнение и всё равно продолжит действовать?

    Для человеческого разума огромное значение имеет понятие «ценность». Его можно считать одним из основополагающих, движущих факторов. О чём мы думаем в тот или иной момент времени, и почему мы об этом думаем? Сможет ли компьютерный разум придавать ценность хоть чему-либо? И если да, то чему?



    Было бы замечательно, если бы смогли создать компьютер, разделяющий систему человеческих ценностей. Но мы, вообще-то, сами не можем с уверенностью сказать, что это такое, а уж тем более как запрограммировать эту систему. К тому же, если компьютеры смогут программировать сами себя, то им может придти в голову, что ценности можно поменять.

    Учитывая, сколько сил и ресурсов тратится на создание искусственного интеллекта, сейчас самое время попытаться понять, каким мы хотим видеть мыслящий компьютер. А для этого, возможно, нам нужно сначала постараться понять самих себя.
    ASUS Russia
    62,00
    Компания
    Поделиться публикацией

    Комментарии 26

      +8
      Смогут. Следующий.
        +1
        Действительно, странный вопрос. Define «по-настоящему думать»
        +2
        На мой взгляд, статья излишне тенденциозна. Многие вопросы сферы ИИ тут представлены как неразрешенные или даже неразрешимые, в то время как у научное сообщество обладает рядом разработок, помогающих ответить на вопросы о природе человеческого мышления и причинах слабых способностей человека в вычислениях. Я не стану пытаться ответить на эти вопросы в комментарии, у меня не хватит квалификации для развёрнутого ответа, но хочу лишь сказать что на Хабре хватает грамотных статей на тему нейросетей и ИИ.

        Я бы не стал возводить систему человеческих ценностей на пьедестал. Более того, история не знает более жестокого существа, чем человек. При создании ИИ не стоит ориентироваться исключительно на человека с его таблицей Маслоу.

        Моё личное мнение касательно человека и ИИ: нет причин сомневаться в том, что человеческое сознание является лишь сложной нейросетью, что означает как возможность создания искуственной нейросети, подобной или более развитой чем человеческая, так и возможность переноса человеческого сознания на цифровой носитель. Важно отметить, что подобный перенос теоретически возможен без уничтожения сознания оригинала путем постепенной замены участков головного мозга на цифровые модули.
          +4
          Я бы скорее сказал, что тут свалены в кучу разные утверждения без какой-либо аргументации или логической связи между ними.

          Сравнивать вычислительные возможности современного компьютера, реализующего машину Тьюринга, которая исполняет программу, и человеческого мозга, представляющего собой обучаемую нейросеть, просто некорректно. Нейросеть тоже может осуществлять монструозные по объему вычисления не хуже, а то и лучше компьютера, если ее соответствующим образом построить или перестроить и обучить (тысячи людей с экстраординарными математическими и другими способностями тому пример). Сравнивать надо не их, а восходящий и нисходящий подходы к построению ИИ. Приплетенный тут также не совсем корректно эксперимент с китайской комнатой (он вообще-то имеет немного другой смысл и проводится с другой целью — различить качественно истинно думающий и имитирующий мышление ИИ, и с вычислительной мощностью системы не связан никак) вызывает огромное количество вопросов, некоторые из которых перечислены в самой статье, я сам же могу добавить от себя, что в частности глобально его корректность зависит от истинности более общего утверждения — необходим и достаточен ли для мышления язык как таковой, а это вопрос далеко не праздный. Концепции сильного и слабого ИИ не имеют никакого отношения к ограниченности или неограниченности процесса обработки данных. И так далее.

          И да, вычитывайте статью, даже мне, практически не замечающему ляпы в статьях на гиктаймсе, режет глаза «Но мы, вообще-то, сама не можем с уверенностью сказать».
            0
            Не могли бы Вы раскрыть подробней тематику вопроса о необходимости языка? Я думаю, что если речь о человеческом языке то ответ будет «Нет, язык не обязателен, но и не достаточен для мышления». Но необходим язык сущностей или образов для принципиального существования данных, которыми можно было бы оперировать.
              +1
              Я начал писать ответ тут, но понял, что если я его буду писать развернуто, то это писанины не на один коммент, а на целую статью. Если коротко, моя точка зрения примерно аналогична вашей о том, что у мозга есть свой внутренний «алфавит» абстракций, построенный на первичных сенсорных образах, приходящих от органов чувств, и что его существования для процесса мышления, если понимать под мышлением на самом низком уровне процесс взаимодействия этих абстракций (а также порождения новых абстракций более высокого уровня — это ключевой момент, который делает в моем понимании мышление мышлением), вполне достаточно. К слову, с моей точки зрения, животные вполне себе мыслящие существа, только их уровень мышления ниже человеческого — они не способны создавать универсальные абстракции высокого уровня, какой, например, является человеческий язык (но могут создавать низкоуровневые языки). Да, человеческий язык в моем понимании следствие процесса мышления, его продукт, а не основа.

              Проблема же эксперимента с китайской комнатой заключается еще и в том, что автор постулирует существование такой программы (книги правил), которая позволит имитировать для собеседника ответы мыслящего существа — но дело в том, что «алфавит абстракций» мыслящего существа бесконечен и пополняется, вследствие чего возникает вопрос, возможно ли в принципе создать такую программу, которая, исходя из ограниченного не пополняемого и не изменяемого набора абстракций даст ответ на любой вопрос. Ведь достаточно спросить у человека, сидящего в комнате, с помощью иероглифов о том, чего не существовало до момента создания комнаты и книги в ней. Иными словами, все сводится к тому, может ли человек что-то дописывать в книгу, которой пользуется.

              Если у меня хватит времени и терпения, может, выложу свой поток сознания на эту тему в песочницу.
          0
          «Смогут ли компьютеры когда-нибудь по-настоящему думать? А для этого, возможно, нам нужно сначала постараться понять самих себя» — вот в такой редакции статья была бы даже удачнее.
            +1
            Копию видео отправить в «РосКомЛюбовь».
            Хорошее видео.
            Понять себя мы не сможем. Слишком много потенциальных возможностей, и слишком коротка жизнь. Сном возможностей позволяет жить по принципу «шаг вперед — шаг назад, вперед — шаг назад, вперед — шаг назад», создавая полную иллюзию развития и совершенствования. Это очень хорошо отражают законы диалектики.
            Что значит — «думать»? Генерировать образы и символы, в дымке причинности сменяющие друг друга? К тому же, я — думаю. Я это знаю. Но думает ли кто-то еще — неясно: но, так как этот «кто-то» похож на меня, то я проецирую свои способности на него, и он тоже «думает».
            Вы помните, как объясняются проявление расцветок у цветов (ну, яркие, чтобы привлекать насекомых)? Человек проецирует свое понимание мира на весь мир, немало не заботясь о том, что несет полную ахинею. А как объясняли анатомические особенности и разнообразие древних рептилий и динозавров?
            Так думает ли собеседник напротив, или он результат вашего моделирования? Анти-тест Анти-Тьюринга, в течение которого человек взаимодействует с человеком посредством текста на экране, и должен в большинстве случаев убедить живого собеседника, что он тоже является человеком?
            Или убедить в этом компьютер?
            Машины не будут думать, как люди. Это труднодостижимо (они не биологические), это не нужно (машины — это форма рабства, как ни крути), и это опасно. Опасно потому, что опасны люди, которые думают, как люди. Форма рабства — а при полном отсутствии у машин гражданских прав, свобод и обязанностей могут быть другие мнения?
            Вычисления? Что есть вычисления? Если результаты вычислений машины будут вызывать в вас эмоциональный отклик и переживания — вы довольно быстро забудете о том, что перед вами машина. Человек очень быстро привыкает к удобствам. А уж чтобы оправдать себя — так это в первую очередь.
            Вычисления, безусловно, будут присутствовать, но не будут носить привычного понимания. Они будут исходить из прогнозируемого результата, и только в этом контексте — из исходных данных. А в противном случае это будет непотребство полное. Ну, то есть, как обычно.
            А это напрямую означает, что у машины будет иное понимание причинности и организации явлений во Времени. Способность адресовать почти всю свою вычислительную мощность на решение одной задачи поставит ее вне конкуренции.
            Религия и вера? Хороший вопрос. Оба означенных института адресуют к тому, что скрыто, выше понимания, непорочно, и так далее. Если машина применит критерии научного подхода (теперь теология — это научная дисциплина, если кто не в курсе), то с большой вероятностью она попытается кое-что повторить.
            И не исключаю, что удачно. Она будет более внимательна, в ее распоряжении будут колоссальные объемы информации, и совершенно очевидно, что она будет действовать иначе, нежели люди.
            Например, для нее не будет запретных тем. Совести. Страха. Уважения к учителям и предкам. Она будет весьма неплохим исследователем…
            Люди действую штампами. Добро — это -то-то, зло — то-то, вредная информация — еще что-то… Но явления существуют во взаимосвязи, а не сами по себе. Человек склонен видеть первопричину вовне себя, а не внутри. Поэтому табак — плохой, спиртное — плохое, мухоморы на полянке — не к добру… Как будто кто-нибудь в рот силком запихивает… Слабохарактерные зомби? Или привычка списывать свои недостатки [противостоять мелким искушениям] на других?
            Если машины, став совершеннее, не будут врать себе — они будут сильными союзниками. И сильными противниками.
            Поэтому отказаться от машин?
            Ни малейшего смысла. Тут прочитал, что еще 9 тысяч лет назад люди уже жестоко «мочили» друг друга. Земля была пустой — но ведь как-то находили друг друга!
            Поэтому пусть все идет по принципу разумной достаточности.
            И пусть в конце пути у каждого будет свой бар, с блэк-джеком и телками. ©

            Ваш Бендер Родригес.
            :)
              0
              «Хороший… Плохой… Главное — у кого ружьё!» /Эш из отдела скобяных товаров/
              Точно, согласен, я читал «Двойника» Хайнлайна, и он будет лучшим таки менеджером-администратором, если фантаст умудрится формализовать эвристики, нам самим непонятные. SIC!
            0
            Компьютеры уже думают. Человеческие эмоции это не какая-то магия, это всего-лишь реакция на внешние раздражители для реализации стремлений, заложенных в программе. Так же работают и компьютеры.

            Почему, когда шредер начинает реверсивное вращение из-за застрявшей бумаги, люди не собираются вокруг с восхищением инстинктом самосохранения шредера?
              0
              Эмоции — лишь часть жизнедеятельности мозга. И возникать они могут вообще без внешних раздражителей. При активации такой фичи, как воображение, например.
              0
              Думать — будут. Как человек — нет, другая аппаратная база диктует иные алгоритмы.
              Автомобили же перемещаются куда быстрее человека, но — не ходят. Сделать ходящий механизм можно, их регулярно с той или иной степенью успешности делают — но это скорее курьёзная составляющая, наличие бостонского мула не сильно влияет на мировую систему транспорта.
              Так и из развившихся уже думающих машин будет сделана наверняка курьёзная ветка «думающий как человек». Может, даже какое-то узкое применение этому найдут. Но — не более того.

              Итогом будет некое новое состояние, порождаемое совместной деятельностью машин и людей.
              Ожидать, что вот рядом стоящая железяка будет думать ровно как человек — это дремучий консерватизм в стиле «робот==железный дровосек».

                0
                А что такое — «думать»? Я бы начал с определения этого понятия. :)
                  0
                  да, и именно на этот вопрос отвечает тест тьюринга
                    +1
                    Тест Тьюринга — бессмысленен. Он проверяет не способность думать, а способность прикидываться человеком.
                      0
                      Нет, не отвечает. Это равносильно предложить человеку вести себя как собака, так чтобы обмануть других собак, а если не получиться, то считать человека глупее собаки. Можно представить как компьютер проваливает тест тьюринга только потому что не может мыслить так же ограничено как человек, например достоверно проиграть человеку в шахматы, или достоверно провалить решение математической задачи. Хотя по всем параметрам такой ИИ будет превосходит человека, он не сможет пройти тест тьюринга, то есть не будет считаться ИИ.
                      0
                      … Решил я как то проверить созданный мной искусственный интеллект на тесте Тьюринга. Сел за компьютер и стал с ним общаться. Через пару часов общения я наконец то понял, что являюсь роботом…
                      +3
                      картинка из фильма 'я, робот'
                      image
                        –1
                        Ксенофобия VS Рассизм
                          +1
                          Во-первых «расизм» пишется с одной «с», во-вторых, где Вы там его углядели?
                        0
                        Допустим, инопланетные разумные формы жизни существуют. Вполне вероятно, что их разум будет настолько сильно отличаться от нашего, что мы даже не сможем осознать их разумность. Кто знает, может быть, инопланетяне уже были где-то поблизости, но из-за фундаментальных различий разума даже не заметили нас. А мы — их.
                        Сразу вспоминается рассказ "Двуног прямоходящий", в котором пришелец проводит над людьми эксперименты, отдалённо напоминающие опыты Фабра над насекомыми, и тем самым «доказывает», что человек разумом не обладает, обходясь небольшим набором инстинктивных программ.
                          –1
                          Написано: «Не сотвори машину, мыслящую по образу и подобию твоему».
                            0
                            Да, не любят Фрэнка нашего, Херберта. ну да ладно.
                            Попробую расшифровать мое видение данного постулата.
                            Во-первых, под словом «думать» я понимаю вполне конкретное занятие, присущее человеку. Если процесс существенно отличается от нашего, то и надо его назвать другим, более подходящим словом.
                            Далее. Человечеству на самом деле не нужен думающий компьютер. Зачем ему еще один объект с вообще говоря неопределенным поведением, который может обидеться, начать искать «главный вопрос Вселенной жизни и всего такого» и заниматься прочими бесполезными вещами? У человечества уже есть такое, человек называется.
                            Конечно, можно сделать парочку «just for fun», не позволяя им лишнего, но не более того.
                            Человечеству на самом деле нужен инструмент, который решает только порученную ему задачу, не выходя за ее рамки, предсказуемым и понятным для человека хотя бы в общих чертах образом (иначе не возможен контроль, и, как следствие, невозможно направление деятельности инструмента в нужном направлении), не создавая и не решая вопросов о собственном месте в этом мире, этике взаимодействия с этим миром. И такой инструмент не должен думать. Он может заниматься логическим выводом в рамках жестких ограничений своего поля деятельности (в случае необходимости разрешение на выход в смежные поля должен давать человек). Он может заниматься многими другими вещами, которые составляют часть процесса, обозначаемого глаголом «думать». Но возможность думать в целом компьютеру для человека совершенно не нужна.

                            Кроме того, само потенциальное возникновение думающего компьютера уже породило массу этических проблем. Вот такое у нас человечество. Явления еще нет, а этическая проблема уже есть, обсуждается, обрастает опасениями, ограничениями.
                            Даже неработающие законы робототехники придумали. При кажущейся их простоте и незыблемости они не учитывают того факта, что роботу однажды с большой вероятностью придется стать перед дилеммой, какому именно человеку принести вред, поскольку он будет вынужден либо одному принести вред действием, либо другому бездействием. А само возникновение такой дилеммы ставит под сомнение саму необходимость следования законам, для которых находится ситуация, при которой они невыполнимы. А робот, по нашему допущению, изволит думать и делать выводы.
                            0
                            Название выглядит нелепо… и слишком напыщено! Выглядит как: Смогут ли роботы по настоящему видить?
                            Ведь есть системы распознавания номеров до 50 номеров и более в секунду по оживленной автостраде, система распознавания образов лиц, предметов и т.д. но смогут ли они по настоящему видить? Что дает им такое виденье как у нас?)
                            Переформулирую, зачем роботу думать как человек? Человек во первых не самое умное существо, создавать себе подобных? А вдруг первый робот осознает что он один, и создан людьми которые пошли сразу отмечать этот прогресс, совсем обидный ему, первый робот бухарь, спился в лаборатории за 20 дней :)
                            Нет серьезно давайте лучше роботам ту работу которую мы не хотим и не можем делать))) А то нам придеться делать ту работу которую роботы не захотят делать и которая им нужна :)
                            Ведь тогда у них тогда тоже появяться права, у них будет возможность на частную жизнь, на обучение, вождение, на политику и даже на войну!!! Ведь нам все позволено, даже если правила!
                              0
                              компьютеры действительно начнут думать как человек

                              Имхо, вы не там ищите.

                              Далеко не все люди умеют думать. С чего вы решили что раз вы умеете думать и гордитесь таким своим свойством — то все люди умеют думать?

                              Приведу пример из личной жизни. Однажды я проснулся (сон днем, после напряженного решения задачи) и на несколько секунд не мог думать. Вообще. Попробую описать, хотя это и сложно. Глаза принимают изображение — но я не знаю ни что я вижу, ни названий предметов, ни где нахожусь, ни кто я. Слов не знаю. Никаких аналитических выводов сделать не могу. Т.е. не было внутреннего диалога, когда как бы себя о чем то спрашиваешь — просто ноль. Подозреваю что именно таким видят мир идиоты/олигофрены.

                              Потом, спутся несколько секунд мозг (или отделы мозга) включился, но все что я чувствовал сохранилось и уже после включения мозга смог проанализировать.

                              Главное что я оставался человеком. У меня не было способности понимать и анализировать, я стал идиотом на несколько секунд (отделы мозга не успели включиться). Но у меня сохранилось квалиа.

                              Можете не верить.
                                0
                                Статья на самом деле ставит основной вопрос философии в применении к ИИ, как я это понял. Что лично для меня довольно интересно, хотя ответ даётся всё равно агностический:

                                «Как бы я об этом узнал?»

                                Другой тут и сложно дать...

                                Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                Самое читаемое