Да, эти сомнения вполне понятны. Но дело в том, что теорема Гёделя — это математическая теорема (извините за банальность). Когда она применяется нестрого в методологических рассуждениях, есть шанс сильно ошибиться. А именно так она и применяется к «вычислительным процессам». Здесь уже начинается не строго научный, а философский спор. Умеет ли человек решать алгоритмически неразрешимые задачи? Покажите человека, способного для абсолютно любого алгоритма абсолютно достоверно установить, при любых ли данных он остановится, и Вам поверят, что люди такие задачи решать умеют. Но таких людей пока не было. Да, люди могут создавать разные формальные системы. Но никто не сказал, что они это делают «неалгоритмически» (точнее, путем применения невычислимого процесса). Человек может насочинять много формальных систем, но выбор, какие ему из них нравятся, он делает на основе опыта, то есть входных данных. Тьюринг-полная система тоже может порождать произвольные формальные системы (и в этом, кстати, и заключается необходимость того, чтобы сильный ИИ строился как алгоритмически-универсальная система) и выбирать из них на основе своего опыта. Написать программу, генерирующую разную аксиоматику, не так сложно.
Таким образом, если теорему Гёделя не признавать за математически строгое обоснование ограниченных возможностей вычислительных процессов, то видно, что разница между человеческим мышлением и программами может быть очень размытой.
С этим никто не спорит, но главный вывод из этого заключается просто в том, что ИИ не может создаваться как замкнутая система, от которой требуется совершить останов за конечное время. То есть не надо городить огород о неформализуемых физических процессах, достаточно сказать, что из теоремы Гёделя следует, что ИИ должен создаваться как открытая (воплощенная) система. Только и всего!
Вроде, в «Новом уме короля» он говорит о том, что квантовые вычисления в мозгу решают NP-полные задачи за полиномиальное время, а в «Тенях разума» он признает, что ошибался и уже говорит о невычислимости квантовомеханических процессов. Если он ошибался в одной книге, почему не может ошибаться и в другой? Чего здесь бестактного? Бестактно, по-моему, вводить в заблуждение читателя путем словесной эквилибристики и на основе своего авторитета, приписывая реальным системам ИИ свойство формальности, чтобы доказать свою гипотезу. Нельзя сказать, что его гипотеза однозначно неверна, но она вовсе не столь обоснованна, как он пытается показать.
Замечательно! Модель процесса может быть формальной. Модель ИИ может быть формальной. Но сам воплощенный ИИ не может быть формальным. Это следует из Ваших слов, и это именно то, с чем Вы пытаетесь спорить.
Так под этим и подразумевалось, что для формализации процесса выполнения программы, взаимодействующей с миром, требуется весь этот мир формализовать. Пост фактум и о действиях любого человека можно сказать, что они такие уже такие, какие были. И если мы в точности воспроизведем все условия, мы получим такой же результат, а любые отклонения будут описываться случайными отличиями. При желании и внутрь программ можно ввести истинную случайность (трактуя ее не как внешнюю, а как внутреннюю), и программа будет недетерминированной. В чем же будет принципиальная разница по сравнению с человеком?
Интересно, и кто Вам сказал, что процесс не может быть формальным?
Ну, хорошо, пусть даже так. Тогда ИИ как процесс не может быть формальным, и к нему, значит, неприменима теорема Гёделя.
Почему же не дает?! У него на входе задача, на выходе — ответ! Но по теореме Гёделя мы точно знаем, что такого быть не может! Это же чистейший парадокс.
То есть вы уже пошли на уступки и ввели понятие случайности, отсутствующее в формализме машины Тьюринга. Осталось признать, что тупо формализовать внешний мир как случайный процесс — плохая идея, и Вы с нами!
То есть Вы всю неформализуемость списали на случайность. Очень «сильный» ход… То есть Вы просто взяли, и описали весь внешний мир как источник случайных данных. Вы, похоже, реально не понимаете своей ошибки. Жаль, что и не хотите понимать.
Насчет 1 — здесь Ваше главное заблуждение. Входные данные получаются в процессе взаимодействия робота с внешним миром. Вам не могут быть известны входные данные априорно.
Вы явно преувеличиваете свои способности к телепатии.
Ну, хорошо, является ли вычислительный процесс формальным? Может ли вычислительный процесс быть реализован на компьютере? Может ли искусственный интеллект быть реализован как вычислительный процесс? К чему из всего этого применима теорема Гёделя?
Это как раз Вы неверно интерпретируете понятие машины Тьюринга, представляя ее чем-то реально существующим, потому что отождествляете ее с реально функционирующей программой.
Структура программы может меняться в ходе взаимодействия с внешним миром. Неучет этого и является Вашей критической ошибкой.
Реально выполняемая программа не является «просто алгоритмом». Вы проигнорировали все просьбы дать точное определение реально исполняемой программы…
Спасибо, определение машины Тьюринга мы знаем. «По-вашему» было добавлено для того, чтобы Вы сами согласны со своим утверждением.
Вы продолжаете апеллировать к тому, что «программа носит формальный характер», без обоснования этого тезиса и игнорируя просьбу дать формализацию программы, выполняемой на реальном компьютере. Можно ли это понимать так, что, Вы ее дать не можете?
Давайте возьмем совсем простой пример. Пусть программа запускается на двух одинаковых процессорах. Эта программа выставляет семафор, и если ее копия не успела этого сделать, то печатая ноль, иначе — единицу. Когда обе копии программы выставили семафоры, они сбрасываются, выполняются фиксированные вычисления и процедура выставления семафоров повторяется. В итоге программа напечатает последовательность нулей и единиц. А теперь вопрос — какую последовательность она напечатает? На основе какого формализма Вы пришли к своему заключению? Как «алгоритм» может напечатать строку, алгоритмическая сложность которой больше сложности самого алгоритма?
Ну, или другой пример: анти-гёделевский парадокс. Пусть человек неалгоритмичен и умеет решать алгоритмически неразрешимые проблемы. Такой человек сидит привязанным в подвале, а анти-геделевский робот сидит в офисе, и ему дают алгоритмически неразрешимые задачи. Робот идет в подвал и пинает человека до тех пор, пока человек не согласится дать ответ на поставленную роботу задачу. Робот несет решение и предоставляет его в офисе. Очевидно, алгоритмический робот в итоге будет выдавать решения алгоритмически неразрешимым задачам. То, что робот это делает «не сам», не имеет значения. Ведь робот же формален, и он этого не может делать в принципе. Значит, пришли к противоречию. Значит, либо человек не может решать алгоритмически неразрешимые задачи, либо робот, действующий в реальном мире неформален (а тогда уже не так важно, получает ли он нужное решение от человека или каким-то другим образом, главное, что он может это делать).
Вы можете предсказать движение робота, управляемого программой, получаемой информацию с видеокамеры? А Вы можете предсказать, какую программу создаст компилятор, входными данными к которому формирует программист? А Вы можете предсказать работу программы, выполняемой на компьютере, который может случайно вырубить уборщица, зацепив шваброй за шнур питания? Машина Тьюринга, по определению, имеет входную ленту со статическими данными. Для программы, взаимодействующей с внешним миром, такая формализация просто неверна. Приведите формальную систему, описывающую действия такой программы так, чтобы относительно ее работы можно было делать формальные заключения, я с Вами соглашусь. Но еще раз: называть реальную программу формальной системой столь же бессмысленно, сколь и отождествлять, скажем, реальный автомобиль с его чертежом.
Да возьмите просто определение из вики: «Формальная система — это совокупность абстрактных объектов, не связанных с внешним миром, в котором представлены правила оперирования множеством символов в строго синтаксической трактовке без учета смыслового содержания, то есть семантики.» и попробуйте его применить к программе управления роботом. Робот «учитывает» то, что данные поступают именно с камеры? «Учитывает» ли он то, что управляет движением в физическом пространстве? Если нет, то почему он не врезается в препятствия? Обычная процедурная семантика. Но, главное, еще раз повторюсь, программа, в реальном времени взаимодействующая с внешним миром, не укладывается в формальные определения алгоритма. И чтобы формализовать работу такой программы, Вам придется формализовать ее вместе с миром. Нравится Вам это или нет.
Углубляться в спор об определениях, действительно, не хочется, но все же криминала в том, чтобы называть алгоритм формальной системой нет. Здесь вопрос лишь в том, отделять ли алгоритм от интерпретирующей его машины или нет. Поскольку машина Тьюринга (по-вашему являющаяся ФС) является формализацией понятия алгоритма, то и алгоритм (например, в форме МТ, является ФС).
Теперь ближе к существу.
Cybersoph, в таком случае просьба к Вам более точно задавать вопросы, а то их смысл остается неясным. На вопрос об определении термина «смысл» на удивление точный общий ответ дает википедия. Если Вы просите дать определение этого понятия в каком-то более узком контексте, сформулируйте этот контекст.
Касательно вопроса: Вы считаете, что в словах скрывается смысл? — смысл скрывается в отображении слов на элементы внеязыковой реальности. Это отображение обычно выполняется концептуальной системой человеческого разума (не всегда удачно). Но ничто не мешает ее также выполнять и когнитивным архитектурам воплощенных интеллектуальных агентов.
Смысл — многозначное и многоплановое понятие. Но, коротко говоря, смысл символов (элементов мышления верхнего уровня) — это их соотнесенность с внешним миром, а смысл данных (элементарной сенсорики и моторики) — включенность их описаний в общую модель мира.
Таким образом, если теорему Гёделя не признавать за математически строгое обоснование ограниченных возможностей вычислительных процессов, то видно, что разница между человеческим мышлением и программами может быть очень размытой.
Ну, хорошо, пусть даже так. Тогда ИИ как процесс не может быть формальным, и к нему, значит, неприменима теорема Гёделя.
Ну, хорошо, является ли вычислительный процесс формальным? Может ли вычислительный процесс быть реализован на компьютере? Может ли искусственный интеллект быть реализован как вычислительный процесс? К чему из всего этого применима теорема Гёделя?
Структура программы может меняться в ходе взаимодействия с внешним миром. Неучет этого и является Вашей критической ошибкой.
Реально выполняемая программа не является «просто алгоритмом». Вы проигнорировали все просьбы дать точное определение реально исполняемой программы…
Вы продолжаете апеллировать к тому, что «программа носит формальный характер», без обоснования этого тезиса и игнорируя просьбу дать формализацию программы, выполняемой на реальном компьютере. Можно ли это понимать так, что, Вы ее дать не можете?
Давайте возьмем совсем простой пример. Пусть программа запускается на двух одинаковых процессорах. Эта программа выставляет семафор, и если ее копия не успела этого сделать, то печатая ноль, иначе — единицу. Когда обе копии программы выставили семафоры, они сбрасываются, выполняются фиксированные вычисления и процедура выставления семафоров повторяется. В итоге программа напечатает последовательность нулей и единиц. А теперь вопрос — какую последовательность она напечатает? На основе какого формализма Вы пришли к своему заключению? Как «алгоритм» может напечатать строку, алгоритмическая сложность которой больше сложности самого алгоритма?
Ну, или другой пример: анти-гёделевский парадокс. Пусть человек неалгоритмичен и умеет решать алгоритмически неразрешимые проблемы. Такой человек сидит привязанным в подвале, а анти-геделевский робот сидит в офисе, и ему дают алгоритмически неразрешимые задачи. Робот идет в подвал и пинает человека до тех пор, пока человек не согласится дать ответ на поставленную роботу задачу. Робот несет решение и предоставляет его в офисе. Очевидно, алгоритмический робот в итоге будет выдавать решения алгоритмически неразрешимым задачам. То, что робот это делает «не сам», не имеет значения. Ведь робот же формален, и он этого не может делать в принципе. Значит, пришли к противоречию. Значит, либо человек не может решать алгоритмически неразрешимые задачи, либо робот, действующий в реальном мире неформален (а тогда уже не так важно, получает ли он нужное решение от человека или каким-то другим образом, главное, что он может это делать).
Да возьмите просто определение из вики: «Формальная система — это совокупность абстрактных объектов, не связанных с внешним миром, в котором представлены правила оперирования множеством символов в строго синтаксической трактовке без учета смыслового содержания, то есть семантики.» и попробуйте его применить к программе управления роботом. Робот «учитывает» то, что данные поступают именно с камеры? «Учитывает» ли он то, что управляет движением в физическом пространстве? Если нет, то почему он не врезается в препятствия? Обычная процедурная семантика. Но, главное, еще раз повторюсь, программа, в реальном времени взаимодействующая с внешним миром, не укладывается в формальные определения алгоритма. И чтобы формализовать работу такой программы, Вам придется формализовать ее вместе с миром. Нравится Вам это или нет.
Теперь ближе к существу.
habrahabr.ru/post/145309/#comment_4885120
начиная с «во-вторых»
Касательно вопроса:
Вы считаете, что в словах скрывается смысл? — смысл скрывается в отображении слов на элементы внеязыковой реальности. Это отображение обычно выполняется концептуальной системой человеческого разума (не всегда удачно). Но ничто не мешает ее также выполнять и когнитивным архитектурам воплощенных интеллектуальных агентов.