Что такое интеллект?

    Этот вопрос волнует многих. Строятся теории с привлечением разных сложных понятий, от магии до квантовой физики. Что если всё проще? В статье размышления о некоторых аспектах естественного и искусственного интеллекта, а также определение того, что такое интеллект.

    Модель — это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции.
    Вики

    Модель имитирует моделируемую систему с некоторой точностью. Чем больше точность, тем больше в модели будет составляющих ее объектов. Информационная модель имеет информационные объекты. При максимальной точности на каждый моделируемый объект системы будет соответствующий ему информационный. То есть будет однозначное отображение (mapping). В дальнейшем под словом «модель» я буду подразумевать именно отображение одних объектов в другие, заданное соответствие реального и информационного.

    Информационная система — это система для обработки информации. Информация некоторым образом поступает на вход информационной системы. Чтобы правильно ее обрабатывать, система имеет информационную модель.

    Откуда поступает информация? Из какого-то внешнего источника. Я называю его «реальность».

    Реальность — это всё, что находится вне информационной системы.

    Итак, чтобы взаимодействовать с реальностью, информационная система должна иметь некоторую модель этой реальности. На каждый реальный объект должен быть соответствующий ему информационный, то есть модель этого объекта. Другая информационная система — это тоже реальный объект. Соответственно, если мы хотим с ней как-то взаимодействовать, для нее тоже нужна модель.

    Необходимость такой модели хорошо заметна при разработке API. На сервере некая структура на выходе, на клиенте такая же структура на входе. В PHP и в JS одинаковые классы. Это не избыточность, это моделирование одной системы в другой.


    Интеллект


    Естественный интеллект — это тоже информационная система. У него есть датчики, которые дают входящую информацию. На основе этой информации он строит модель того, что происходит вне этой информационной системы, и на основе модели принимает решения о действиях. Таким образом, мы можем дать определение того, что такое интеллект.

    Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.

    Компьютерная программа это тоже информационная система. Обладает ли она интеллектом? Нет, потому что модель в программу закладывает программист. Рассмотрим например программу для разметки жесткого диска. Информация о возможных форматах, порядок выполнения команд, коды ответов — это все заложено в исходном коде. В программе есть модель жесткого диска, она обновляется при получении ответов на команды, но программа ее не строит, не может ее изменить.

    Искусственный интеллект должен строить правильную модель реальности. В том числе, он должен правильно на нее реагировать. Как минимум так же, как человек. Во-первых, это обратная связь для нас, по которой мы можем прийти к выводу, что интеллект у системы есть. Это можно проверить в отладчике, но надо знать, что там должно быть. Во-вторых, потому что одна из целей это выполнение деятельности человека в некоторых задачах.

    Все животные так или иначе реагируют на реальность. Поэтому в отношении них нельзя говорить о том, есть интеллект или нет интеллекта. Можно говорить о том, больше его или меньше, достаточно ли его для определенного вида задач, для построения определенных моделей.

    У одноклеточных практически нет интеллекта, потому что нет элементов, которые хранят и обрабатывают информацию об окружающей среде. Есть только химические взаимодействия, которые позволяют им функционировать. Их тоже можно считать моделью, но не информационной, а аппаратной. Из-за небольших размеров и химических законов она не может быть сложной.

    Также стоит отметить, что интеллект тесно связан с понятиями объекта и памяти. Объект — это нечто, что обладает состоянием и поведением, что мы определяем как одно и то же в разные моменты времени. Память нужна, чтобы хранить признаки объектов между этими моментами, здесь и начинается модель. Но объекты это тема отдельного разговора.


    Ощущения


    Люди испытывают приятные и неприятные ощущения. Рассмотрим ощущение боли. Как ее можно описать? Боль это неприятное ощущение, если она присутствует, то мозг постоянно обращает на нее внимание. Обычно человек не может по желанию ощущать или не ощущать боль. При этом у людей неприятных ощущений несколько, например, есть еще страх.

    Для произвольной информационной системы можно дать такое определение.

    Ощущения — это процесс восприятия данных, которые поступают в информационную систему постоянно, требуют своей обработки, при этом система устроена так, что не может на них не реагировать. Восприятие — это то, как данные влияют на модель. Их наличие система может воспринимать как положительную или отрицательную обратную связь. Положительную связь она стремится увеличить, отрицательную уменьшить.

    Любые сигналы с датчиков это ощущения.

    Может ли искусственный интеллект испытывать боль?

    Сначала заметим, что естественный интеллект испытывает несколько разных для него ощущений. Боль это просто название одного из них. Она сигнализирует о повреждениях. Таким образом, если некая информационная система с интеллектом получает ощущение с информацией о повреждениях, которое она определяет как неприятное для нее, стремится минимизировать его влияние и не может это сделать путем отключения, то это аналог боли. Именно аналог, мы можем лишь определять сходство, что «Ощущение 1» похоже на человеческую боль, а «Ощущение 2» на удовольствие от чего-либо. Главное здесь то, как реагирует сама система на эти данные. Как определить, что ИИ не врет? Проверить в отладчике.

    Чем больше признаков, тем больше сходство, включая химические и электрические процессы. С большой вероятностью животные чувствуют ощущения, схожие с человеческими, так как реагируют аналогично человеку, тоже имеют нервные клетки, которые тоже состоят из органических соединений.

    То есть, если мы сделаем информационную модель человека с точностью до атомов и электрических полей, а также окружающую его реальность, с которой он будет взаимодействовать, и смоделируем порез на пальце, то да, в этой реальности он будет испытывать боль. Если с помощью датчиков он будет взаимодействовать с нашей реальностью, то в нашей. Так как в плане обработки информации он ничем не будет отличаться от других людей.

    Этично ли заставлять его чувствовать боль против его желания в какой-либо реальности? Думаю, нет. Это относится к любому другому существу и любому неприятному ощущению. Но так как это информационная модель, можно смоделировать другую реакцию или иной способ восприятия, и тогда уровень этичности будет другой.

    Рассмотрим систему управления базами данных с мониторингом. Если происходит сбой, подсистема мониторинга начинает с некоторой периодичностью отправлять администратору уведомление с уровнем тревоги. Можно ли сказать, что такая система испытывает боль? Нет. Во-первых, у нее нет интеллекта, модель заложена в нее программистом, и там нет понятия, аналогичного боли. Во-вторых, хотя сигнал и оценивается как неприятный, у нее нет стремления его минимизировать. В общем-то даже наоборот, она сделана для того, чтобы предоставлять максимально точную модель того, что происходит с системой. Ее можно назвать аналогом нервных клеток, а не существа, которое их имеет.

    Рассмотрим бота с ИИ в компьютерной игре. Игра для него это реальность, хоть и очень ограниченная. Для правильных действий необходима информация о повреждениях. Если бот получает ее по желанию — выполнял некоторые действия, обратил внимание на рану, начали поступать сигналы о повреждении, запомнил их параметры, отвлекся, перестали поступать — то это не аналог боли. Если бот воспринимает ее как дополнительную информацию, а не как негативное ощущение, уровень которого надо минимизировать, если она не влияет на действия, предпринимаемые для других целей (например, нет стремления отдернуть руку, если он получил удар по ране на руке), то тоже нет.


    Другие понятия


    Что такое сознание? Его можно определить как процесс функционирования интеллекта, процесс получения информации и обновления модели реальности. Оно тесно связано с понятием «Я». «Я» это элемент в модели, представляющий саму информационную систему. Есть ли понятие «Я» у собак? Да, это тот объект, с которым они связывают команды «Сидеть-Лежать». Это означает, что у собак есть сознание и интеллект. Но умножать например собаки не умеют. Возможно, это связано с тем, что для более высоких уровней абстракции нужны дополнительные информационные элементы, которые будут наблюдать более низкие уровни и строить их модель.

    Сознание связано с самонаблюдением. То есть имеет место не просто получение информации о мире и обновление модели, а также и регистрация самих фактов получения, отражение их в модели, связь с объектом «Я». «Если мне тыкают под ребра, мне щекотно». «Вчера я не знал этого, сегодня знаю». То самое «Я мыслю — следовательно, я существую». Получается замкнутая система, часть элементов с выхода анализирующего блока передается на его вход. Можно предположить, что сознанием могут обладать только сложные существа, у которых достаточно информационных элементов для организации такой связи.

    Что такое понимание? Что означает, когда мы говорим, что человек понял что-то? Это означает, что у него появилась правильная модель того, что он анализировал. Информационные элементы модели соответствуют элементам реальной системы. Понимание это построение правильной модели. Почему так важен опыт? Это модель. Она позволяет моделировать процессы в информационном виде, а потому планировать и выбирать нужный вариант.

    Есть нейросети, они сами строят модель по входящей информации. Строят ли они правильную модель? Результаты показывают, что как-то не очень. Для них обычно требуется специальная выборка, это тоже подготовленная модель. Но какую-то модель они могут построить, поэтому некоторый уровень интеллекта у них есть.



    Update

    Решил добавить анализ китайской комнаты, чтобы показать применимость этого подхода в разрешении непонятных вопросов.

    Итак, есть комната, в ней сидит человек, у него есть инструкция, руководствуясь которой он перекладывает иероглифы. Комната отвечает на китайские вопросы, но человек не знает китайского. Ответ прост и уже дан ранее — китайский язык знает вся система в целом. Но есть и аргументы против. Рассмотрим некоторые моменты.

    «Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа.»

    Строго говоря, это невозможно, так как для ответа нужны дополнительные данные, которых нет в вопросе. Если система действительно отвечает правильно, они где-то хранятся. Это ее модель реальности.

    «Формально аргументацию можно представить так:
    1. Если гипотеза «сильного» ИИ верна, тогда существует такая программа для китайской письменности, при запуске которой в вычислительной системе эта система будет понимать китайскую письменность.
    2. Я могу исполнить программу для китайской письменности без понимания этой письменности.
    3. Следовательно, гипотеза «сильного» ИИ неверна.»


    Пункт 1 должен выглядеть так: «существует такая программа для китайской письменности, при запуске которой в вычислительной системе эта программа будет понимать китайскую письменность». Система передает данные в программу, программа их обрабатывает.
    Поэтому, из 2 не следует 3. Понимать китайскую письменность будет исполняемая программа, а не тот, кто ее исполняет.

    Чтобы человек стал понимать китайский язык, надо расширить имеющуюся у него модель моделью из программы. А когда эти данные внутри виртуальной машины, они недоступны.

    «Более общий вывод Сёрла говорит о том, что любые манипуляции с синтаксическими конструкциями не могут приводить к пониманию»

    Верно. Понимание это построение правильной модели. Синтаксические конструкции лишь обозначают элементы модели.

    «Система из книги правил, человека и комнаты, по их мнению, является разумной и понимает китайский язык. В качестве контраргумента Сёрл предлагает заставить человека запомнить формальные правила ответов для системы.»

    И когда он будет исполнять программу, она будет понимать китайский язык.
    Поделиться публикацией

    Похожие публикации

    Комментарии 157
      0
      Что если всё проще? В статье размышления о некоторых аспектах естественного и искусственного интеллекта, а также определение того, что такое интеллект.

      По мере роста сложности систем их определение не может быть «все проще». Выход из системы координат и размышление о мышлении как минимум добавляют еще одно измерение к сложности концепции.
        0
        Я имел в виду, проще по сравнению с другими теориями.
          0
          Все рассуждения в посте абсолютно верны, потому что налицо очередная некорректная импликация.
            0
            Ну раз налицо, тогда вам не составит труда показать ее на примерах)
              –2
              Некорректная импликация — по определению — производство выводов из ложных посылок. Рассуждения считаются верными вне зависимости от истинности выводов. Неверными рассуждения могут быть только при истинных посылок.
              Это не абстрактное положение, высосанное из пальца, а проверенное тысячелетиями правило риторики, логики (и матлогики — тоже).
              __________
              Определение интеллекта не дано, а то, что есть — неправильно. С чего бы это вдруг интеллект означает наличие модели? Взятое за аксиому, подобное исходное утверждение превращает пост — да, в некорректную импликацию.
              Обычная ловушка для досужих размышлений, достаточно не уделить внимания стартовым посылкам — и потом можно наслаждаться правильностью рассуждений.
                0
                а то, что есть — неправильно. С чего бы это вдруг интеллект означает наличие модели?

                А с чего бы оно неправильно? Можно сказать, что неизвестно, правильно оно или нет. Сами совершаете ту же логическую ошибку.


                И это не аксиома. Цепочка такая: в информационной системе есть модель данных, естественный интеллект это информационная система, следовательно, у него есть модель данных. В пользу этого факта говорит способность интеллекта структурировать информацию. Что говорит против этого факта, мне неизвестно, я не встречал информационных систем без моделей, и у меня нет предположений, как они в принципе могут обрабатывать информацию, не структурируя ее каким-либо образом.


                В любой теории есть аксиомы, и в теории того, что такое интеллект они тоже будут. А ваше утверждение можно применить к любой аксиоме, и потому оно ничего не доказывает.

                  –2
                  А с чего бы оно неправильно? Можно сказать, что неизвестно, правильно оно или нет. Сами совершаете ту же логическую ошибку.
                  Отлично. Мы, выходит, сошлись на том, что за стартовую точку рассуждений взято нечто случайное, для чего не формулируется истинность. В таком случае всё вообще превращается в бессмысленный набор слов.

                  Для аксиом всё же берётся нечто, хотя и недоказумое строго, но выведенное из длительного и/или широкого опыта.

                  И, отвечая на Вашу претензию уже лично ко мне — отвечу, что интеллектом считается способность к ясновидению предсказанию событий, наступление которых невозможно предсказать, используя известные алгоритмы. Потому, собственно, понятие это и сжимается aka шагренева кожа, по мере накопления этих алгоритмов.
                    0
                    Мы, выходит, сошлись на том, что за стартовую точку рассуждений взято нечто случайное, для чего не формулируется истинность.

                    Это верно для любой теории о некотором неизученном явлении.


                    Для аксиом всё же берётся нечто, хотя и недоказумое строго, но выведенное из длительного и/или широкого опыта.

                    Я же привел цепочку рассуждений. В ней 2 аксиомы, там где про информационные системы. Что из этого, по-вашему, не выведено из широкого опыта?


                    интеллектом считается способность к предсказанию событий

                    Что считается интеллектом, можно посмотреть в определениях этого слова:


                    Интеллект — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.

                    Это вполне соотносится с понятием модели.

                      0
                      С определение понятия «интеллект» все действительно непросто. Конкретно здесь, если оставить за скобками довольно расплывчатую фразу про понимание и применение абстрактных концепций (понимание — по сути и есть суть «интеллекта в достаточно сильном смысле», поэтому определять его через его свойство не вполне конструктивно), то все остальное вполне применимо, например, к процессу обучения крыс получать корм с помощью кнопки. Но нас же не такой интеллект интересует?
                        0
                        Я думаю, не совсем корректно выбрасывать из определения участки, даже если они не очень понятные. Можно ведь еще что-нибудь убрать, и тогда под него попадет еще больше явлений. Но определение можно уточнить.

                        Крысы пользуются интеллектом при обучении этому действию, там работают те же принципы анализа окружающей среды. Нас интересует интеллект, умеющий оперировать более сложными моделями.
                          0
                          Фактически да, получается, что я выбросил именно ту сложноинтерптетируемую часть определения, вокруг которого у вас и разворачивается основная дискуссия с оппонентами. А все остальное как раз таки понятно, но несет больше поясняющую, нежели определяющую функцию.
                      +1
                      А можно пример события, которое может предсказать человек, используя интеллект и на предсказание которого нельзя написать алгоритм?
                        0
                        Для аксиом всё же берётся нечто, хотя и недоказумое строго, но выведенное из длительного и/или широкого опыта.

                        Для аксиом можно взять всё, что угодно. Например, что через точку на плоскости можно провести две прямые, не пересекающие данную. Это, думаете, из опыта выведено?

                          +1
                          интеллектом считается способность к предсказанию событий, наступление которых невозможно предсказать, используя известные алгоритмы
                          У этого определения пропущены кванторы, что делает его неприменимым.

                          Как его понимать, как способность один раз предсказать (тогда генератор случайных текстов когда-нибудь напечатает верное предсказание), или постоянно предсказывать без ошибок (с этим и у людей проблемы)?
                        +1

                        Определение не может быть неверным. Он просил вводит во такое понятие. Оно может не относиться к реальности, это да (в быту именно это и называют "неверным"). То есть то, что мы наблюдаем как интеллект и то, что в посте называется этим словом — могут быть разные вещи (и скорее всего и есть).


                        Так что нет. Определение не делает импликацию некорректной, а рассуждения в посте — автоматически верными.

                0
                Очень простое замечание — согласно вашему определению, интеллект должен иметь модель реальности. Так как он сам в нее включен, то он должен иметь сам свою модель — верно? Ну и вот — получается дурная бесконечность вложенности моделей… И да — все, какие-бы ни были определения интеллекта рано или поздно можно довести до такого противоречия — философию надо изучать, это все известно очень давно…
                  +2
                  Нет. В том смысле что нет никакой бесконечности. Модель — это не полная копия физического устройства до уровня атомов, это информационный объект, который обозначает реальный объект. Часть наблюдаемой информации, которая относится к собственным ощущениям, относится к одной группе, просто потому что интеллект замечает сходство некоторых признаков. Этот набор признаков и начинает обозначать объект «Я».

                  На компьютере с Windows есть кнопка «Пуск», там есть информационный объект «Компьютер». Это же не значит, что там появилась бесконечность.
                  0
                  Судя по
                  Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.
                  у вируса тоже есть интеллект. Вирус получает информацию извне и строит новые способы захвата клеток и противодействию иммунной системы, хотя и долго.
                    0
                    строит новые способы захвата клеток и противодействию иммунной системы
                    Пруф бы, что конкретный экземпляр вируса способен к этому
                      0
                      Я имею ввиду эволюцию вируса. С некоторых взглядов это можно назвать действием интеллекта, типа коллективный разум.
                        0

                        Выходит, интеллект есть у популяции вирусов. А процесс мышления идёт поколениями.


                        Или что-то не так с этим определением.

                          0
                          Сомневаюсь, что тупой перебор можно назвать интеллектуальным процессом.
                            0

                            Так о том и речь, что определение интеллекта из статьи — так себе.

                              0
                              По определению из статьи это нельзя назвать интеллектуальным процессом. Объяснение я приводил ниже.
                                0

                                Этим определениям, похоже толкователь нужен. Нужно у вас спрашивать, а подходит ли Х под определение? Это скорее что-то религиозное входит, чем логическое.


                                Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.

                                Информацией обмениваются? Да, некоторые вирусы обмениваются генами. Информационная система? Да. Строит модель реальности? Да. На основе входящей информации? Да.


                                Но апостол говорит — нет. Ну значит нет, вы правы, не подходит. Ведь, оказывается, нужен особый вид обратной связи.

                                  0

                                  Так не надо спрашивать, надо приводить аргументы, примеры, которые опровергают утверждения, противоречат им. "Определение так себе" ничего не опровергает. По определению из статьи "тупой перебор" интеллектуальным процессом не является.


                                  Информацией обмениваются? Да, некоторые вирусы обмениваются генами. Информационная система? Да.

                                  Гены это разве информация о внешнем мире? Это информация о внутреннем устройстве вируса. Как бы да, молекула и ее интерпретатор это информационная система, обработка информации идет поколениями. Тут нет ничего нового.


                                  "Выходит, интеллект есть у популяции вирусов."
                                  Вы рассматриваете всю систему. Обмен информации между элементами внутри системы не является входящей информацией о внешнем мире.


                                  Строит модель реальности? Да.

                                  "Да" это не аргумент. Какие объекты внутри вируса соответствуют объектам снаружи вируса? А для популяции? Состояние этих объектов меняется, если окружающая среда меняется?


                                  Ведь, оказывается, нужен особый вид обратной связи.

                                  А где я говорил про особый вид? Я сказал, что случайное изменение обратной связью вообще не является. Обратная связь предполагает, что то, что произошло, является причиной следующих изменений. А исчезновение части молекул не является причиной изменения других молекул.


                                  Но дело не в этом. Я в этом сомневаюсь, но допустим вы это докажете. Значит интеллект есть, у всей системы (популяция + перебор + естественный отбор + смена поколений). Как и у китайской комнаты. Что вас тут смущает? Просто его очень мало, хватает только на ограниченную модель. Об этом я тоже писал.

                                    0
                                    надо приводить аргументы, примеры

                                    Да, хочу сказать, что определения в статье не являются истиной в последней инстанции. Если будет пример, который покажет противоречие, можно будет подумать, что в них не учтено, и скорректировать. Особенно это касается ощущений. Но мне кажется, это правильное направление. Определения дают простой проверяемый критерий для определения интеллекта, который можно применить хотя бы к ИИ.

                                      0

                                      Пример с вирусами и лампочками и показывает противоречие. Уточняю

                                        0
                                        • уточнять ли определение после этого — решайте сами. Оно ваше, так что и решение ваше. Я со своей стороны не настаиваю (тем более, если вы не видите проблемы в примерах).
                                          0
                                          Так я же написал, почему противоречия нет. У лампочки нет интеллекта, потому что она не строит модель окружающего мира. Это датчик, но никто не дает ему оценку, не ищет взаимосвязи в его сигналах.
                                          0

                                          Думаю, стоит добавить про сознание. Оно связано с самонаблюдением. То есть имеет место не просто получение информации о мире и обновление модели, а также и регистрация самих фактов получения, отражение их в модели, связь с объектом "Я". "Если мне тыкают под ребра, мне щекотно". "Вчера я не знал этого, сегодня знаю". То самое "Я мыслю — следовательно, я существую".

                                          0
                                          Гены это разве информация о внешнем мире?

                                          Это модель.


                                          Какие объекты внутри вируса соответствуют объектам снаружи вируса?

                                          Мы обсуждаем популяцию. Но перед моим ответом задам вопрос. Какие объекты внутри человека соответствуют объектам снаружи человека? Возможно по примеру я смогу понять, о каком соответствии вы вообще спрашиваете.


                                          Состояние этих объектов меняется, если окружающая среда меняется?

                                          Состояние популяции (и её части) конечно меняется. Вы это и сами знаете.


                                          Я сказал, что случайное изменение обратной связью вообще не является.

                                          Размножение — это не "случайное изменение", а вполне конкретное.


                                          Значит интеллект есть, у всей системы

                                          Либо у совокупности вирусов есть интеллект, либо определения не отражают реальность. Что из этого верно, я не знаю, но что-то одно — точно.

                                            0
                                            Это модель.

                                            Модель внешнего мира? Какие объекты этой модели каким объектам мира соответствуют? Эти объекты изменяются при изменении объектов мира?


                                            Какие объекты внутри человека соответствуют объектам снаружи человека?

                                            Есть нейроны, их состояние отражает то, что происходит снаружи. Снаружи стол, внутри образ стола. Снаружи кошка шуршит за шкафом, внутри представление о примерном расположении кошки.


                                            Состояние популяции (и её части) конечно меняется

                                            Так вы не перескакивайте, сначала определите соответствие объектов модели и реальности. Вы утверждаете, что популяция это система, которая обладает интеллектом. Значит внутри нее должна быть модель, которая отражает то, что происходит снаружи. Допустим, это состояние ее частей. Как измеряется состояние. Какая часть какому объекту/процессу реальности соответствует. У какой части и как должно измениться состояние при изменении характеристик реальных объектов/процессов. Может ли оно измениться по другим причинам.


                                            Размножение — это не "случайное изменение"

                                            А размножение не обеспечивает "новые способы захвата клеток".


                                            Либо у совокупности вирусов есть интеллект, либо

                                            Есть еще и третий вариант — по определениям у нее интеллекта нет. Вы же не доказали еще. Но с другой стороны, вас же не смущает, что у совокупности клеток лягушки есть интеллект. Почему вы считаете, что у совокупности более мелких органических соединений его не должно быть?
                                            Да, мы не считаем, что у популяции вирусов есть интеллект. И я привожу объяснение, почему.

                              0

                              Конкретная молекула вируса не получает. Разные молекулы не обмениваются информацией. Это всё объясняется большим количеством немного отличающихся молекул. Вряд ли естественный отбор можно считать обратной связью, она предполагает коррекцию действий, направленную на ее уменьшение. А случайное изменение не направлено именно на уменьшение.


                              Если сгенерировать миллион случайных чисел, а потом оставить только нули, это не значит, что генератор приспособился генерировать только нули.

                                0
                                случайное изменение
                                Я не уверен что эволюционирование это случайное изменение.
                                  0
                                  Ну с этой точки зрения можно считать, что у системы из всех таких молекул тоже есть интеллект, просто его очень мало. Но мне она не кажется правильной.
                                    0

                                    Если мы оперируем терминами вроде "кажется", подобные рассуждения о сложных вопросах становятся пустыми и бесполезными.

                                      0
                                      Ну аргументы, почему не кажется, я привел выше.
                                    0
                                    Если не сильно вдаваться в подробности, то случайное изменение это не эволюция. Эволюция это случайные изменения + вымирание особей у которых эти изменения не помогают выжить в том мире, где они находятся.
                                    Если округлить, то, например, у бобров появились большие зубы не потому что они что-то едят, а потому что в конкретный момент времени у бобров у которых была мутация с большими зубами — имели преимущество над теми, у кого была другая мутация.
                                      0
                                      Знаю что есть такое предположение, но информация о зубах передается генами и хотя наука больше склоняется к тому что полученый опыт не передается через гены, лично у меня есть пример который дает возможность сомневаться в этом утверждении.
                                0
                                Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.

                                Построение модели — это часть задачи. Для решения этой задачи нужно нечто вроде кодировщиков. Дальше нужно научиться строить оптимальную стратегию поведения для достижения неких запрограммированных целей. Т.е. у AI есть модель и он должен накладывать ее на реальную ситуацию, а затем забегать вперед, выбирая наилучший исход и соответственно корректировать текущие выдаваемые команды. Та еще задача.
                                Люди испытывают приятные и неприятные ощущения. Рассмотрим понятие боли. Боль — это неприятное ощущение, если она присутствует, то мозг постоянно обращает на нее внимание.

                                Боль — некий древний экстренный способ переобучения нейронной сети, не более того. Есть люди, вообще не способные испытывать боль, но это не мешает им обладать интеллектом.
                                Достаточно того, что в мозге есть некая хардкодная машинка, оценивающая хороша текущая ситуация или плоха при обучении нейронной сети мозга. Мозг подчиняется этой машинке всю жизнь, в ней заложено все к чему человек будет стремиться в жизни и она почти не поддается сознательному воздействию изнутри (иначе равновесие психики было бы невозможным).
                                Можно ли сказать, что такая система испытывает боль?

                                Есть пример проще: унитаз. Если слить воду, он стремиться заполниться снова. Значит унитаз испытывает боль, когда он пуст и счастлив, когда полон.
                                Что такое сознание?
                                Ничего, просто слово из философии. Оно может иметь отношение к непостижимым основам бытия, но если мы хотим создавать AI, он этого слова никакой пользы как и от всяких квалиа типа боли, счастья.
                                  0
                                  Построение модели — это часть задачи. Для решения этой задачи нужно нечто вроде кодировщиков.

                                  Нет. При чтении текста у переводчика в воображении возникает модель того, о чем написано в тексте. Вряд ли кодировщики такое могут. Потом он ее описывает на другом языке. Если модель недостаточная или неправильная, то и перевод будет неправильный.
                                  Как я понимаю, вы говорит о построении модели входных данных, например, выделения фич на изображении. Я говорю о более глобальной модели, о способности из этих фич получить представление об их источнике. Скажем, если у человека дома живет кошка, и он слышит за шкафом шорохи, он может догадаться, что кошка туда забралась. У него в воображении возникнет некий образ этого участка комнаты и примерное расположение кошки. Это модель реальной комнаты и объектов в ней.


                                  Есть люди, вообще не способные испытывать боль, но это не мешает им обладать интеллектом.

                                  Я не говорил, что боль это признак интеллекта. Я показал, как этот подход позволяет определить понятие ощущения, и привел пример, как определить, что существо испытывает боль.


                                  Достаточно того, что в мозге есть некая хардкодная машинка, оценивающая хороша текущая ситуация или плоха при обучении нейронной сети мозга.

                                  Да, я про это и писал. "Их наличие система может воспринимать как положительную или отрицательную обратную связь".


                                  Значит унитаз испытывает боль, когда он пуст и счастлив, когда полон.

                                  Это система не строит модели, модель в ней заложена конструктором, а потому ее нельзя назвать интеллектом. Даже если приделать электронное управление.
                                  И даже если считать это ощущением, это все равно не аналог боли. Аналогом бы было, если бы у человека сам факт болевых ощущений устранял их причину.


                                  Оно может иметь отношение к непостижимым основам бытия, но если мы хотим создавать AI, от этого слова никакой пользы

                                  Я привел этот пример, чтобы показать, что этот подход позволяет дать простое проверяемое определение без привлечения непостижимых сущностей.

                                  +1
                                  по содержанию статья должна быть помечена тегом — песочница.
                                  перед выдвижением своей теории не лишним было бы упомянуть уже известные теории интеллекта и вкратце показать чем предлагаемая теория лучше.
                                  перед употреблением понятий не мешало бы им дать определения — информация, модель, задача, цель, интеллект, причем определения должны увязывать эти понятия в систему, именуемую теорией.

                                  К сожалению, после публикации работы Шеннона понятие “информация” было вытеснено понятием “количество информации”, под которым понимали логарифм величины, обратной вероятности осуществления какого-либо события. Такую подмену понятий стали использовать очень широко. Такой подход привел к отрыву понятия “информация” от семантики, или содержания сообщений, искони ему присущего.

                                    0
                                    В статьях, которые были на Хабре в последнее время с рассуждениями про искусственный интеллект, нет того, что вы назвали. Не вижу причин, почему я не могу порассуждать так же)

                                    Определение интеллекта я привел, в этом была цель статьи. Те, которые не приведены, предполагается имеют общепринятое значение в контексте темы. Статья не для новичков, а для тех, кто интересуется темой, это не учебник, а повод для обсуждения.
                                    0
                                    Всё верно и логично.
                                    Но
                                    Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.

                                    Очень близко. Построение модели обязательная часть интеллекта. Но я даю другое определение интеллекту — способность находить заранее неизвестное решение. Для этого, естественно, нужно строить модели.
                                      0
                                      Перевод это замена одних известных слов на другие, но для решения этой задачи требуется интеллект.
                                        0
                                        нет, перевод осуществляется по формальным правилам. Для составления правил нужен интеллект, а выполнять эти правила сможет и машина.
                                          0
                                          Это не так, иначе задача качественного перевода была бы давно решена. Люди же переводят тексты каким-то образом, могли бы составить правила и заложить в компьютер.
                                            0

                                            Почему именно "давно"? Процесс составления правил трудоёмок, никто им полноценно не занимается. Настолько трудоёмок, что проще нейронку сделать, чем все правила записать. Но это не значит, что правил нет, а есть какая-то мистика в процессе перевода.

                                              0
                                              Подождите, о каких правилах идет речь? Люди не пользуются сложной системой правил. Правило одно — представить то, что описано на одном языке и описать это на другом.
                                                +1

                                                Вы меня удивляете. Слово "house" переводится как "дом". Это и есть правило. Как можно утверждать, что люди ими не пользуются? Грамматикой тоже не пользуются? Будете утверждать, что правила грамматики — не считаются правилами?

                                                  0

                                                  Если вы будете руководствоваться такими правилами, вы не получите правильный перевод для произвольного текста.
                                                  multitran — house
                                                  Сколько правил понадобится, чтобы определить, какое значение выбрать в конкретном тексте? Сложность именно в этом выборе.


                                                  Будете утверждать, что правила грамматики — не считаются правилами?

                                                  Буду утверждать, что для процесса перевода они не нужны. Люди могут разговаривать на 2 языках, не умея писать. Грамматика нужна, чтобы правильно понять письменный вход и правильно записать выход. Кстати, ключевое слово "понять".

                                                    +1

                                                    Если вы будете руководствоваться только такими правилами, то конечно. Но если вы будете их нарушать (например переводить "house" как "лошадь") — перевода не получится.


                                                    Буду утверждать, что для процесса перевода они не нужны.

                                                    Вы имеете ввиду, сознательная их обработка не нужна. Конечно не нужна, они на автомате обрабатываются. А вот у кого не обрабатываются, у тех перевод заметно хуже, чем у машинного переводчика.

                                                      0
                                                      например переводить "house" как "лошадь"

                                                      "A house can run very fast". Переведете как "дом" или предположите опечатку? А почему?

                                                        0

                                                        По ответу модифицированого (для работы со словами) расстояния Ливенштейна, конечно. Расстояния до фразы, которая не противоречит известным фактам. А как ещё-то? Благодаря божественному откровению?


                                                        То, что переводчик не знает таких терминов, не существенно. Каждого ребенка учат исправлять возможные ошибки. И никакой магией там не пахнет.

                                                          0
                                                          Так в том и дело. Я привожу объяснение без всякой магии. «Известные факты» это и есть модель, представление о мире. Как видите, одними правилами обойтись не получилось.

                                                          Просто если она есть, никаких других правил и не надо. Расстояние будет определяться для моделей, а не для слов. А по-вашему получается, что для определения ошибки в аналогичной фразе на китайском нужно учить другой набор правил для пары «русский — китайский» с другим расстоянием между словами. Нет, нужно связать иероглифы для дома и лошади с уже имеющимся представлением.
                                                          А также это без проблем позволяет нарисовать описанное в тексте. Это просто описание той же модели другим способом.
                                                            0
                                                            Как видите, одними правилами обойтись не получилось.

                                                            Вы имеете ввиду, одними правилами без знания фактов? Ну конечно, факты нужны. Что конкретно вы хотели этим сказать? У машины не может быть записей о фактах или что?


                                                            Нет, нужно связать иероглифы для дома и лошади с уже имеющимся представлением.

                                                            Таким образом вы не найдете ошибку в китайском аналоге приведенной фразы.

                                                              0

                                                              Я хотел сказать, главное это модель знаний о мире, а не правила сопоставления слов. Дело ведь не только в фактах, нужна динамика, отслеживание. Что если эта фраза из какого-то фантастического рассказа, и там бегающие дома нормальное явление?


                                                              Таким образом вы не найдете ошибку в китайском аналоге приведенной фразы.

                                                              Почему не найду? У меня есть представление, что дом не бегает, а в фразе написано что бегает. Ну или не дом, а другой иероглиф, похожий на иероглиф для лошади.

                                              0
                                              Интеллект не может найти решение мгновенно. Проблема не в переводе, а в формализации правил. Компьютер работает не так, как мозг. Иначе всё решалось бы простым обучением его в школе.
                                                0
                                                Разговор о том, как смоделировать интеллект на компьютере. То есть, чтобы он работал так, как мозг. О том, как сделать специализированную программу перевода без использования интеллекта, разговора нет. Я считаю, что это невозможно, так как для качественного перевода необходимо представлять то, что написано. В пределе такая программа будет обладать свойствами интеллекта.
                                                  +1
                                                  смоделировать интеллект на компьютере. То есть, чтобы он работал так, как мозг
                                                  Создать 100% точную копию мозга не так сложно, как понять принцип работы. Например, советские инженеры клонировали американские процессоры, но сами толком ничего нового не могли придумать.
                                                  Грамматические правила создаются и выполняются неосознанно. Вспомните, в школе вам не составляло труда общаться. Запомнить эти правила языка было трудно. Но выудить и формально определить эти правила еще в сотни раз сложнее, этим занимаются лингвисты.
                                                    0
                                                    > Вспомните, в школе вам не составляло труда общаться. Запомнить эти правила языка было трудно.

                                                    Ну так я об этом и говорю. Зачем их формально определять, если естественный интеллект так не делает? Кроме того, даже есть это удастся, это будет программа с заложенной извне моделью, которая кроме перевода ничего не умеет. Но почему это не удастся сделать, я уже писал. Нужны представления о мире, анализом синтаксиса здесь не обойтись.
                                                      +1
                                                      Зачем их формально определять, если естественный интеллект так не делает?

                                                      У вас каждый день новые слова и склоняются они уже не так? Нет! Вы придерживаетесь правил, которые вам заложили в детстве. То что правила не выглядят как бинарный код или object.method(str), не значит, что этих правил не существует. Всё обучение проходило на естественном языке. А теперь попробуйте запрограммировать этому железку. Не выйдет, железке надо конкретно addX(y), move(there), store(addr) и тд. И когда прописать все возможные ситуации, то железка сможет переводить текст без интеллекта.
                                                        0

                                                        А зачем ее программировать-то?) Разговор о том, как это сделать без программирования. Естественный интеллект же как-то это делает.


                                                        Если мы пропишем все возможные ситуации (а также запишем факты, известные людям, сделаем учет динамики, то есть контекста предыдущих предложений, итд итп...), то мы заложим в железку модель, такую же как у интеллекта.

                                                          0
                                                          Вот именно, заложим модель такую же как у интеллекта. Соответственно, железка сможет правильно переводить без интеллекта.
                                                            0

                                                            Ну как же это без, если он у нее будет?) Как вы отличите ее от существа с интеллектом?

                                                              0
                                                              Дадим на вход другой язык. Уже заложенные правила к другому языку не подойдут и перевод мы не получим.
                                                              А вот если железка сможет самостоятельно обнаружить закономерности и переконфигурировать свою логику, тогда можно говорить об интеллекте
                                                                0
                                                                Если человеку дать текст на незнакомом языке, он тоже перевести не сможет.
                                                                  0
                                                                  Потому что в мозге нет заранее прописанных правил. Но человек может составить их самостоятельно
                                                                    0
                                                                    Так и в железке их нет для этого языка. Не каждый человек может вывести правила самостоятельно, рассматривая тексты на другом языке.
                                                                    0
                                                                    Лингвист сможет.
                                                                    Все языки так или иначе похожи. Похожи до безумия)) И даже по сравнению языков, причём вообще не вдаваясь в подробности, а исключительно кампутером — определяют время расхождения языков на другие языки.
                                                                    Вообще, языков не так уж и много, и в общем и целом их поделили на языковые группы, а языки одной и той же языковой группы сильно родственны, причем всем чем только можно родственны, например словообразованием очень сильно родственны. И вообще, лингвист изучивший основы обобщенных языков языковых групп достаточно точно переведет с незнакомого языка, причем даже достаточно быстро.
                                              0
                                              Перевод это замена одних известных слов на другие

                                              Это не перевод, это гуглотранслейт. А перевод это выделение смысла из текста на языке А, и подбор наиболее точных слов, выражений, оборотов и фраз для выражения этого смысла на языке В. Вот на выделении смысла машины и фейлятся пока.
                                                0
                                                Ну так это же не означает, что переводчик ищет неизвестное решение) Я отвечал в контексте того комментария.
                                            0
                                            Ощущения — это процесс восприятия данных

                                            Ага. И что такое восприятие? Просто получение данных на вход? Лампочка испытывает боль, когда через неё ток пускают, а когда загорается — уже не больно?


                                            Конечно, можно предположить про лампочку или унитаз, как выше предложили. Но, учитывая полную странность таких предположений, разумнее сделать вывод, что определение ощущений (и боли в частности), данное в статье — неверное.

                                              0
                                              Восприятие — это то, как данные влияют на модель. В лампочке нет модели реальности и нет интеллекта, поэтому боль она не испытывает.

                                              Как я писал выше, если даже предположить наличие у нее ощущений, это будет некое «негативное ощущение номер 1», которое в силу ограниченности модели нельзя соотнести с болью человека. Кстати, по каким признакам можно определить, что оно для лампочки именно негативное, а не позитивное? Таких признаков нет. Значит более вероятен вариант, что она не испытывает негативное ощущение.
                                                0
                                                Кстати, по каким признакам можно определить, что оно для лампочки именно негативное, а не позитивное?

                                                По вашему определению боли, конечно. Лампочка не может игнорировать сигнал, значит боль. Абсурд? Да, абсурд, значит проблема в вашем определении боли.


                                                А модель реальности в лампочке есть. Она обрабатывает сигнал и меняет свою температуру, цвет, сопротивление. Странно? Конечно странно, но это потому, что у вас такие определения.

                                                  0

                                                  У меня нет определения боли. Есть определение ощущений и пример рассуждений, которые можно применить, чтобы определить, имеется ли у системы аналог боли.


                                                  Ощущения — это процесс восприятия данных, которые поступают в информационную систему постоянно, требуют своей обработки, при этом система устроена так, что не может на них не реагировать. Восприятие — это то, как данные влияют на модель.
                                                  Таким образом, если некая информационная система с интеллектом получает ощущение с информацией о повреждениях, которое она определяет как неприятное для нее, стремится минимизировать его влияние и не может это сделать путем отключения, то это аналог боли.

                                                  Лампочка это информационная система с интеллектом? У нее есть модель реальных объектов? У нее изменяется температура, изменение какого параметра вне лампочки это моделирует? Сначала надо ответить на эти вопросы. Если мы придем к выводу, что у лампочки нет модели реальности, то применять критерии наличия ощущений бессмысленно.

                                                    0

                                                    Ну как же нет? Вы свою статью чат внимательно перечитайте.


                                                    Боль — это неприятное ощущение, если она присутствует, то мозг постоянно обращает на нее внимание.

                                                    Так себе точность, но это не существенно.


                                                    Лампочка это информационная система с интеллектом?

                                                    Если пользоваться вашими определениями — то да. На самом деле нет, так что ваши определения плохи и не отражают реальность.


                                                    У нее изменяется температура, изменение какого параметра вне лампочки это моделирует?

                                                    Изменение тока, конечно. Зачем вы задаёте очевидные вопросы, ответы на которые сами знаете?

                                                      0

                                                      Это описание характеристик, а не определение. "Лист — зеленый" это не определение листа. Пожалуй поправлю, а то правда можно так подумать.


                                                      Если пользоваться вашими определениями — то да.

                                                      Ну возьмите определение и покажите по пунктам.


                                                      Изменение тока, конечно.

                                                      Ну вообще-то ток внутри лампочки тоже. Более того, температура лампочки определяется только током внутри нее.

                                                        0

                                                        Информационная система — это система для обработки информации.


                                                        Информация — это наличие тока. Лампочка это наличие обрабатывает.


                                                        У него есть датчики, которые дают входящую информацию.

                                                        С датчиками разобрались. У любой лампочки есть два датчика.


                                                        На основе этой информации он строит модель того, что происходит вне этой информационной системы

                                                        Все так и есть. Что там происходит снаружи? Появился ток или ещё нет?


                                                        Вы, конечно, с вашим примером про жёсткий диск очень тонко намекаете на самообучение, но уж очень-очень тонко. Как-то более явно бы написали, тогда у меня пример был бы другой. Потому что явного самообучения у лампочки, конечно, нет.


                                                        Например, любой самообучающийся бот из игры по-вашему, обладает интеллектом.

                                                          0
                                                          «Интеллект — это способность информационной системы строить модель реальности на основе входящей информации». Никаких намеков, все есть в определении)
                                                          Бота с ИИ я тоже рассматривал.
                                                            +1
                                                            Информация — это наличие тока.

                                                            С чего бы это? Информация — то, что уменьшает неопределенность. Какую неопределенность уменьшает наличие/отсутствие тока? Спираль лампочки не находится в неопределенном состоянии, пока не "узнает" что пошёл ток. Модель лампочки может находиться в состоянии "пока нет данных, идёт ли в реальной лампочке ток или нет". В этом случае измерение тока и обновление модели будет получением информации.

                                                0
                                                Модель — это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции.
                                                Когда применяем понятие «модель» к игрушечным машинкам и самолётикам, к болванке в аэродинамической трубе, к имитации работы системы массового обслуживания, или чему-то подобному, всё у нас получается, всё у нас красиво. Но как только пытаемся использование моделей применить к мозгам, возникает куча косяков. Просто потому, что сама идея того, что внутри черепной коробки создаются какие-то объекты, исследуемые вместо реальных, изрядно абсурдна.

                                                Сам процесс использования моделей для исследования явлений подразумевает существование следующих вещей:
                                                1. Субъект, выполняющий исследование.
                                                2. Исследуемое явление.
                                                3. Модель.
                                                Всё — отдельно. Когда мы пытаемся запихнуть в мозги п.3, у нас получается каша: информация о явлении есть и у исследователя, и в модели, и всё это вместе свалено в кучу.

                                                Мы склонны всю информацию об изучаемом явлении объявлять моделью, а это в корне противоречит самому понятию «модель». Даже если посмотреть на продувку болванки в аэродинамической трубе (типичный случай моделирования), в самой модели нет ни мотивации исследователя этим заниматься, ни постановки задачи, ни методов моделирования, ни методов обработки результатов, ни много чего ещё. По сути, моделирование — это всего лишь один из методов решения задач определённого рода. Зачем всё на свете объявляют моделями, для меня загадка. Дань моде или признак идейного тупика?
                                                  0
                                                  Сам процесс использования моделей для исследования явлений подразумевает существование следующих вещей

                                                  Докажите.


                                                  Мы склонны всю информацию об изучаемом явлении объявлять моделью, а это в корне противоречит самому понятию «модель»

                                                  Понятие "модель" приведено в начале статьи, и далее я уточнил, что именно подразумеваю под ним. Возможно, вы подразумеваете под ним что-то другое, но это касается только вашей предметной области.

                                                    0
                                                    Докажите.
                                                    Да по определению же. Читаем первую часть определения:
                                                    Модель — это система (п.3), исследование (неявно подразумевается существование п.1, т.к. исследование — это действие, а действий без субъекта не бывает) которой служит средством для получения информации о другой системе (п.2);
                                                    Две составляющие процесса обозначены явно, а третья, субъект, введена косвенно. А поскольку также говорится о средстве, то это нам как-бы намекает, что у субъекта кроме всего прочего есть какая-то цель. То есть это должен быть не просто какой-то бесцельный болван.

                                                    Вторая часть определения:
                                                    представление (???) некоторого реального (п.2) процесса, устройства или концепции.
                                                    Тут, конечно, понеслась душа по кочкам. Является ли слово «халва» представлением халвы? Или просто обозначением? Хотя вполне можно сказать, что халва в русском языке представлена словом «халва». Или обозначена? И как быть с представительской функцией Президента РФ? Является ли Владимир Владимирович моделью Российской Федерации?

                                                    В общем, вторая часть определения вызывает больше вопросов, чем даёт ответов. Мне кажется, разумно пользоваться первой и не запутывать самих себя.

                                                    Мне кажется, вопросы о разуме, сознании и интеллекте не имеют удовлетворительных ответов в рамках стандартной схемы «познающий субъект / познаваемый объект». Пока мы сюда не добавили вынесенные за скобки и как-бы само собой подразумевающиеся цели, нам неоткуда взять семантику. Мозги превращаются в какое-то странное зеркало, задача которого — максимально точно отражать реальность. Называем это «иметь модель». Зачем модель? Куда отражать? Неизвестно. Все смыслы вынесены за скобки и исключены из рассмотрения. Информация становится какой-то магической тонкой субстанцией, и задача субъекта — затащить вовнутрь себя побольше этой субстанции.

                                                    Надо научиться говорить об интеллекте не как о способе строить всё более и более точные отражения, а как о способности принимать решения, наиболее результативные в плане достижения целей. Впрочем, это претензия совсем даже не к Вам. Почти вся мировая философская мысль плотно застряла в отражательстве реальности.
                                                      0

                                                      Ну ок. Субъект — интеллект, конкретно блок анализа и принятия решений. Исследуемое явление — окружающая среда. Модель — модель, блок памяти интеллекта.


                                                      Зачем модель?

                                                      В контексте эволюции это повышает выживаемость вида. Остальное это следствия.

                                                        0

                                                        Хотите сказать, что у нас блок анализа и принятия решений совсем без памяти? Фон-Неймановская архитектура, доведённая до такого абсолюта, что в процессоре даже кеша и регистров не оставляем? И это про мозги?

                                                          0
                                                          Как это без памяти, я же написал, что блок памяти есть? Блок принятия решений с ним логически соединен. Я говорю о логических блоках, а не о физических.
                                                            0

                                                            То есть мы рисуем схему: один квадратик называем "блок принятия решений", второй квадратик называем "память", и между ними рисуем линию. Ага?

                                                              0
                                                              В мозге есть элементы для обработки информации, которые логически можно объединить в группы, которые соответствуют понятиям субъект и модель.
                                                                0

                                                                Какие элементы? Что конкретно имеете в виду? Я ни о чём таком не слышал.

                                                                  0
                                                                  Нейроны называются)
                                                                    0

                                                                    Какие из нейронов у нас будут субъект, а какие модель?

                                                                      0
                                                                      Те, которые отвечают за анализ и принятие решений, это субъект, те, которые хранят представление о реальных объектах и процессах, это модель.
                                                                        0
                                                                        Увы, не получится локализовать конкретный нейрон, «принявший решение», поведение является результатом работы всей нейросети и, более того, всего организма (со всеми его гормонами и содержимым кишечника). Редукционистский подход к локализации сознания (субъекта) в каком-то нейроне — совсем недалеко отстоит от идеи гомункула, это ровно то же самое заблуждение. Ну затолкаете вы субъекта в нейрон, а потом в белок внутри этого нейрона или в ген, а потом в углерод внутри, или в протон внутри этого углерода. И толку-то? Спрятали душу в ядро?
                                                                          0
                                                                          Я потому и сказал, что говорю о логических блоках. Группа нейронов анализирует модель, никаких гомункулов.
                                                                            0
                                                                            И никаких прибитых моделей к функциям нейрона, нет никаких логических блоков (проведение границ между ними — следование одной из моделей нашего понимания мозга, а не объективное свойство нашего мозга). Нейронный субстрат — что-то типа тумана, а модели — это лишь временные миражи на его поверхности :). Группы нейронов анализаторов или ещё каких бабушкиных нейронов не существует в реальности, это лишь фокус наблюдателя, игнорирование остальных трилиардов нейронов, тоже чем-то занимающимся во время измерений «логического блока». Интеллект не прячется в нейроне, он «расплёскан» по всему телу гормонами, и вокруг тела материальной и нематериальной культурой :). Это совокупность социальных механизмов и соглашений о том, как о них говорить.
                                                                              0
                                                                              Мы можем иметь знания об объектах, не принимая решений, связанных с ними, и принимать решения, не имея знаний об объектах. Значит это логически независимые вещи, неважно, находятся ли они в одних физических нейронах или в разных. Бабушкиного нейрона может и нет, зато есть информационный объект «бабушка». А материальную культуру можно и вокруг ИИ расплескать)
                                                                                0
                                                                                Группы нейронов анализаторов или ещё каких бабушкиных нейронов не существует в реальности, это лишь фокус наблюдателя

                                                                                В реальности много чего не существует, и бабушка как объект, выделяемый законами физики как что-то особенное, тоже не существует. Если отвлечься от квантовой механики и рассматривать атомы как шарики, атомы углерода в углекислом газе в легких бабушки — это бабушка или нет?


                                                                                Так что нейроны в этом плане ничего особого не представляют. Если мозг как целое, интерпретирует активность нейрона (группы нейронов) как мысль о бабушке, то это и есть бабушкин нейрон.


                                                                                Какой смысл выбирать интерпретацию, которая утверждает несуществование непосредственно наблюдаемых нами явлений? Мысль "А как там бабушка?" непосредственно наблюдаема, как бы мы это не называли (иллюзия, мираж) и какие бы теории мы не разводили вокруг.


                                                                                Интеллект не прячется в нейроне, он «расплёскан» по всему телу гормонами, и вокруг тела материальной и нематериальной культурой

                                                                                Интеллект локализован в мозге (у человека мозг большой, а не желудок и органы внутренней секреции), гормоны выполняют регуляторную функцию, а вокруг расплёсканы культурные артефакты. Так тумана поменьше.


                                                                                Это совокупность социальных механизмов и соглашений о том, как о них говорить.

                                                                                Да, и эти социальные соглашения становятся частью реальности, когда реализуются в структуре нейросети и начинают влиять на поведение, продуцируя вполне наблюдаемые и измеримые явления.

                                                    0
                                                    интеллект — самоизменяющийся, самонастраивающийся алгоритм выбора, преобразования информации, в результате действия которого возникают информационные модули, ранее данному субъекту не известные и в готовом виде в него извне не поступавшие.

                                                    это лучшее определение «интеллекта», которое мне когда-либо попадалось по жизни. прочитал его в «достаточно общей теории управления»
                                                      0
                                                      Под это определение подходит хеш-функция с состоянием, типа
                                                      (out, seed) = sha1(in xor seed), in xor seed
                                                      Самоизменяющийся? Да. seed меняется в зависимости от всего входа.
                                                      Самонастраивающийся? Тут определение плавает в критериях. Настраивающийся на что?
                                                      Возникает ранее неизвестная и не поступавшая информация? Да.
                                                        0
                                                        Теория управления (кибернетика) заранее накладывает ограничения на модели, описываемые внутри себя. Обычно особенности кибернетических моделей не озвучивают, они подразумеваются дефолтными (как, например, в физических задачах обычно не пересказывают термодинамику). В вашем случае вы описали функцию (забавно, кибернетическая функция может описываться математической!), но это лишь один аспект модели, и чтобы говорить в терминах кибернетической модели вам придётся определить интерпретатора информации с его фазовым пространством, перемещением по которому информация и управляет. И, соответсвенно, источник информации (сигналов управления), с его задачей управление. А пока вы просто сравнили кузнечика со скрипичным ключом.
                                                          0
                                                          В комментарии выше написано: «Интеллект — это алгоритм...»
                                                          Что сразу приводит к математическому формализму, без всяких интерпретаторов и т.п.
                                                            0
                                                            Интеллект — это алгоритм, почему бы и нет? Цифровая физика, например, алгоритму приравнивает всю нашу вселенную. Главное, чтобы было удобно делать из подобных тезисов дальнейшие выводы, а так хоть алгоритм, хоть божий замысел — не важно.
                                                              0
                                                              Интеллект пусть будет алгоритмом, я не против. Я лишь показал, что определение выше неверно, под него подходят очень простые алгоритмы.
                                                                0
                                                                А почему вам кажется неверным то, что под него подходят очень простые алгоритмы? Кажется, наоборот, это очень хорошее свойство определения, позволяющее перейти от качественных оценок к количественным (насколько человек интеллектуальные бактерии? а насколько бактерия умнее пары транзисторов?)
                                                                  0
                                                                  Да тут животным отказывают в интеллекте, а вы о паре транзисторов.
                                                          0
                                                          в хэш-функции результат однозначно предопределяется входными данными
                                                          но вцелом да, определение расплывчатое, тут я согласен. в любом случае когда идёт дискуссия с использованием этого термина, нужно заранее договариваться, что будет подразумеваться обеими сторонами. в философии много таких «религиозных» категорий
                                                            0
                                                            У меня не чистая хеш-функция, а с состоянием, с памятью.
                                                              0
                                                              ну значит вас можно поздравить. у вас интеллектуальная функция, согласно определению, предложенному мной. и почему вы решили, что ваш пример лишает определение смысла? правда, не совсем ясно, как использовать результат работы данной функции. хэш — это как бы «сводка» или «штамп» на входные данные. и я не понимаю, какая от данной функции польза, если на одинаковый вход получаем разные хеши. я без наезда если что
                                                        0
                                                        Добавил в статью анализ китайской комнаты, как более серьезный пример.
                                                          0
                                                          Строго говоря, это невозможно, так как для ответа нужны дополнительные данные, которых нет в вопросе. Если система действительно отвечает правильно, они где-то хранятся. Это ее модель реальности.

                                                          Думаю, всё ещё немного веселее: «комната» моделирует личность, которая обладает моделью реальности ))
                                                            0

                                                            Комната — это и есть личность. Она обладает моделью реальности. Модель представлена в виде коробок с иероглифами.
                                                            Комната моделирует личность в той же мере, в какой моделирует любой человек. Если мы говорим, что человек является личностью, то и комната является личностью.

                                                          0
                                                          А я бы сказал, что интеллект, это способность давать оценку. Предмету, явлению — неважно.
                                                          (Разумеется, первично эта оценка идёт относительно себя.)
                                                            0
                                                            Любую оценку? Генератор случайных чисел подойдёт.
                                                              0
                                                              Оценку, в смысле определения чего-либо: «теплый», «влажный», «съедобный», «опасный» и т.п.
                                                              Критерии для этих заключений берутся относительно тела. Ведь интеллект, по сути, и нужен для обслуживания потребностей тела.

                                                              Вообще, интересно то, что некоторые понятия, похоже, в нас встроены на уровне «харда». В книге «Человек, который принял жену за шляпу», есть пример того как человек, при повреждении мозга, потерял само понятие левого. Значит, можно предположить, что роль интеллекта, на этом уровне, заключается в том, чтобы сопоставить внутренние понятия и внешние воздействия. Точнее, наверное, даже сортировать внешние сигналы по полочкам уже заложенных понятий…
                                                                0
                                                                Это все имеет обычный термин — «чувство». Они и встроены на уровне «харда». Они же являются базовыми абстракциями. Чувств не так уж и мало) Вовсе не 5 или 6 как журналистов или психологов. Например где-то здесь приводится пример чувства «периодичности». Это именно чувство) Т.е. базовая абстракция. На этом чувстве образуется например абстракция «периодичный процесс». Суммарно выделяют от 50 до чуть более 100 чувств у чилавека. Разброс большой не потому что логики разные. Люди разные. Мозги у людей разные. У кого-то некоторые чувства есть, а у кого-то нет. Рождаются же слепые)) Вот у них и нет зрительного чувства. А отсутствие зрительного чувства тащщит за собой отсутствие огромного количества производных абстракций. А у кого-то нет чувства «периодичности», и такому чилавеку вообще не объяснить как играть на барабанах, да и абстракция «времени» у него будет строиться на других абстракциях.
                                                                Человек сложен тем, что мозг человека имеет качественные отличия. И вариантов отличий получается огромное кол-во. 100 в степени 2 дают бешеную вариативность, вы же понимаете… Например музыканту нужны включенными 17 чувств, а 36 должны быть непременно отключены) Какова вероятность того, что вы сходу найдете музыканта именно «захардкорженного», т.е. как это говорят — от природы музыканта? Правильно, почти околонулевая. Именно по этому их и мало. Вообще, узкозаточенных людей мало. Теперь вы понимаете почему так) Математиков мало, программистов мало. Всмысле их много, только это вовсе не значит, что они программисты на самом деле) И т.д.

                                                                Лютая проблема в том, что девочка пиликающая «нараяле» вообще не имеет необходимые 17 чувств для этого)))) Но «добрая» момаша заставляет девочку пиликать) Ровно так же и с другими вещами. Понятно что из девочки ничего не будет совершенно. Она же банально не может мозгом понять абстракции игры на клавишных инструментах. Все ровно потому же, теория типов которую в нее забрасывают основывается на 17 чувствах, а половины необходимых базовых чувств у девочки нет) Тут хоть закопируйся абстракциями в девочку — толку не будет…

                                                                Есть еще эмоции. Это абсолютно такие же чувства. Только они копируются, и используются для передачи информации. Т.е. это штука исключительно общественная.

                                                                Чувства и эмоции делить не нужно и нужно. На самом деле это одно и то же, только проявляется по-разному. Чувство радости или боли человек чувствует самостоятельно. Но для передачи этих чувств используются эмоции, ну что бы все вокруг знали что как) Это тоже «захардкорженная» штука, за исключением того, что эмоции можно изменить.
                                                                Чувства изменить нельзя, эмоции можно.
                                                                  0
                                                                  100 в степени 2
                                                                  Ошибка. 2 в степени 100, естественно.
                                                                    0
                                                                    Вот за это огромное спасибо — есть над чем поразмыслить.
                                                                    В принципе, нечто подобное про «поля» в мозге говорил Савельев.
                                                                    А у Вас информация откуда? Собственные размышления, или можно где-то почитать подробнее? Тема сверхинтересная.
                                                                      0
                                                                      Размышления исключительно собственные. У Савельева все плохо. Не в том плане что он выводы сделал не те. Выводы в общем-то те же. Только они основываются на физическом мозге. Но проверить это пока нельзя. Он на том и горит. У меня же все проще и сложнее. Абстракция постулируется и этого достаточно. Причем тут получается так, что мозг вовсе и не нужен, т.е. физической привязки нет как у Савельева, да и нужен ли физический носитель в итоге? Собственно я к этому и иду, и это может быть самый главной вопрос… И тогда все упрощается. Это с одной стороны. Но с другой — все усложняется. Потому что привязка к чему-то же должна быть? Достаточное условие есть. Должно быть и необходимое. А как иначе? Вот у меня привязка к теории типов. Выходит так, что у Савельева формализации нет, но она ему и не нужна, опять же. Впрочем, теория типов как логика тоже не очень) Потому что там много чего нет. Допиливается по-маленьку, но конца и края этому нет и похоже не будет. Из последнего что допилилось — это «апскейлинг». Вот у вас например есть абстракция А, от нее наследуются абстракции Б и Ц. Абстракция Б имеет интерфейс iД, но Ц не имеет [и не может, иначе проще перекинуть iД в А]. Вопрос: что будет, если все же перекинуть iД в А?
                                                                      Проще: было A, A: Б:iД, A: Ц, стало: A:iД, A: Б, A: Ц — это и есть апскейлинг.
                                                                      Но к чему это приводит?) К каким логическим траблам? Как это работает в реальности? Т.е. существует ли физический механизм апскейлинга в мозге? И что из себя представляют люди, использующие апскейлинг повсеместно? И еще много и много вопросов) И вопросов больше чем ответов… И как это исправить? А нужно ли исправлять, если оно не приводит к критическим ошибкам? Вот апскейлинг — это одна из нескольких десятков логических операций, всего лишь. А сколько их вообще? А можно ли их упростить и формализовать проще? И т.д.
                                                                      Все очень и очень сложно… Так и живем)
                                                                      Читайте здесь, вопросы если есть — спрашивайте. Литературу найти почти нельзя, но вы ничего и не поймете совершенно, я и сам иногда не понимаю многого. Базовый аппарат формализации до сих пор у всех свой и это нормально, т.к. люди в теме оперируют достаточно сильно различающимися логиками.

                                                                      Совсем на пальцах, если про Савельева. Его теория реализовала интерфейсы, но родительских объектов у него нет. По-этому это и есть логический бред) Но это вовсе не означает, что он не прав в выводах. Ровно так же Ньютон реализовал интерфейсы в своей теории гравитации. И это ровно такой же логический бред, один в один, т.к. родительских объектов и у него не было.
                                                                      Время покажет что и как))

                                                                      И да, тема плохая. Не лезьте в это дерьмо. С этим тяжело жить.
                                                              0
                                                              Тема как всегда интересная, а комментарии как всегда полезнее самой статьи.
                                                              Про импликацию автору сделали замечание, но что то он очень агрессивно на все реагирует и абсолютно не воспринимает критику, это плохо…

                                                              По делу.
                                                              Судя по профилю автора, по тематике хабра, автор пришел к проблеме интеллекта не из философии, а из компьютерных наук (читай ии). Дело в том, что термин ии пришел не из России, был не верно переведён на русский, а теперь у не подготовленных пользователей вызывает проблемы типа той что в статье.
                                                              В английском есть слово «intellect» и есть «intelligence». Первое указывает на то, что есть у любого человека от рождения и делает его человеком. Второе означает умение решать сложные задачи (воспринимать мир с прагматической точки зрения, строить более сложные и более абстрактные модели и прочее).
                                                              Мы же спорим, что наитупейший из людей лишён «intellect», но не умеет читать, писать, не играет в шахматы, т.о. у него нет или слабее «intelligence».
                                                              Искусственный интеллект — это как раз artificial intelligence. И автор пытается говорить об «intelligence», но не об интеллекте вообще.
                                                              Я уже 20 лет как ученый и практик занимаюсь задачами из области ии. Читая разных авторов, общаясь по всему миру с современными исследователями, я давно пришел к выводу (для себя, можете не разделять мою точку зрения), что рассуждения об интеллекте (intellect) не научны. Как рассуждения о том, что было до большого взрыва. У нас способов воспринять и осознать. Более того, пока что все указывает что таких способов и не появится. За то говорить, изучать, копировать и использовать на практике intelligence очень даже можно. Более того, в области ии можно создавать модели отличные от тех, что есть у человека.
                                                                0
                                                                но что то он очень агрессивно на все реагирует и абсолютно не воспринимает критику, это плохо

                                                                Не знаю, почему вы так решили) Я привожу контраргументы, чтобы пояснить свою позицию. Если кому-то так показалось, извините, ничего такого я не имел в виду.


                                                                Я думаю, неважно как это называть. У нас есть пример в виде способностей людей, можно его изучать и предполагать принципы работы.

                                                                0
                                                                Господа, есть такая штука — называется «абстракция». Абстракция может быть вполне конкретной, например «квадратная тарелка». Изначально в системе не было этой «абстракции», но были другие абстракции, т.е. «тарелка» и «квадратный». Как только в системе появляется то, чего не было, например «квадратная тарелка» — интеллект и появляется.
                                                                В общем смысле интеллект — это любые манипуляции теорией типов и логиками высших порядков, которые не создают логических противоречий.

                                                                пс: И да, ии к интеллекту не имеет никакого отношения от слова совсем.
                                                                  0
                                                                  Вы сначала определите количественную меру информации, а уж потом за интеллект беритесь.
                                                                    0
                                                                    А это и есть «абстракция». Причем эта мера информации неделима, а значит минимальна, а значит меньше чего бы то ни было, чем абстракция — быть не может.

                                                                    И чего браться за интеллект?)) Он на каждом шагу и его море.

                                                                    У тарелки есть интерфейс формы, и у дивана есть интерфейс формы. Какая разница?)
                                                                    Но для вас привычно, что диван прямоугольный, а тарелка круглая. А интеллекту абсолютно пофигу. По этому в теории типов легко и просто появляются квадратные тарелки и круглые диваны) Это ж просто тупой перебор частичной реализации интерфейсов в данном случае. Ну не хотите квадратных или круглых — прифигачьте треугольную форму к дивану и тарелке) Чо бы нет?
                                                                    И форм превеликое разнообразие, и интерфейсов в принципе у дивана и тарелки тоже много. Квазиромбокубооктаэдрическая форма подойдет?))))

                                                                    Дальше продолжить или сами проявите столько интеллекта, сколько в жизни не проявляли?)))
                                                                    И да, кампутер ровно так же, только чрезвычайно гораздо быстрее нафигачит вам новых абстракций, от них еще новее и кучерявей и т.д.) Их бесконечное кол-во.
                                                                    0
                                                                    Обыватели продолжают изучать ИИ как Тёмную материю, как нечто такое, что объективно заранее существует (измеримо), что мы вот-вот обнаружим, выловим из окружающего хаоса сигналов, а не является нашими собственными определениями, зависящими от конкретной задачи и удобного для её решения терминологического пространства.

                                                                    P.S.: мило, что уже добрались до «доказательств» через лингвистические парадоксы, скоро философская мысль античность догонит, начнёт различать название, называемое, идею, воплощение и прочие штуки, полезные для формулирования непротиворечивых тезисов. :)
                                                                      0
                                                                      Господа, задайтесь таким вопросом. Вот вы хотите сделать что-то подобное чилавеку. Т.е. с набором таких же плюшек, скилов и прочего, включая интеллект.
                                                                      А ЗАЧЕМ ОНО?))) Есть уже чилавек, и у него есть интеллект, впрочем далеко не у всех — тут надо искать, но при желании найти можно.
                                                                      Так зачем вы делаете что-то, что повторяет то, что уже было? Ну ускорите вы в некоей гипотетической пагримушьке в которой реализован человеческий интеллект, и в этом интеллект будет работать быстрее. И что это даст-то?) Ничего.
                                                                      Более интересным тут будет что-то принципиально иное, т.е. не более быстрая пагримушька, а качественно иная. Т.е. имеющая принципиально иной уровень интеллекта. Впрочем это уже и интеллектом не назовешь) Т.к. любое качественное отличие и отличает абстракции как минимум.
                                                                        0

                                                                        Чтобы работать вместо человека. Там где он не может или не хочет. Есть много причин.

                                                                          0

                                                                          Вы не поняли. Человек очень плохо заточен на работу. Любую. Интеллектуальную в том числе. Зачем вы копируете или собираетесь это делать или подражаете тому, что в общем-то является полнейшим убожеством?)

                                                                            0
                                                                            Потому что компьютер некоторые задачи выполняет хуже, а некоторые вообще не выполняет.
                                                                              0

                                                                              А причем здесь компьютер?
                                                                              Давайте иначе, человек в общем-то всегда хотел летать, и на заре "строили" аппараты похожие на птиц. Но пара братанов разломала все шаблоны банальным пузырем с немножко другим воздухом, и оно взлетело) Ну а современный дримлайнер совсем на птицу не похож.
                                                                              Это я про то, что вы стремитесь подражать. Но зачем? Практика показывает, что в подражании смысла нет, потому что подражая — вы сделаете как максимум то же самое, а более вероятно, конечно же сделаете хуже чем было.
                                                                              Теперь смотрите на интеллект. Кто сказал, что это серебряная пуля?) Вы не изучаете интеллект к сожалению, и я вам абсолютно точно могу сказать, что в интеллекте почти ничего хорошего нет. Да, штука не плохая, но это не панацея никак.
                                                                              Смотрите дальше. Вы делаете так, что бы кампутер понимал или начал понимать людей) НО ЗАЧЕМ??? Гораздо проще сделать так, что бы люди понимали кампутер, разве нет?) Кто вам сказал, что человеческое мышление — единственное, да еще и крутое? А в таком случае, зачем вы ставите целью привести все что есть как общий знаменатель — в мышление человеческое?

                                                                                0
                                                                                А почему вы решили, что это цель? Людям нужно средство, которое будет выполнять их работу. Всё. Есть пример, который точно работает. Люди его изучают.

                                                                                А птицы летают под действием тех же аэродинамических законов, что и самолеты.
                                                                                  0

                                                                                  Какая разница цель это или средство? Не разводите словоблудие. На самом деле у вас типичная хотелка. И не более того.
                                                                                  И выглядит оно на самом деле так: есть экскаватор, он большой и жылезный, вот и пусть копает землю. Вы же рассуждаете или точнее неумело пытаетесь рассуждать об умственном экскаваторе. Что-то типа — да не хачю я думать, пусть умственный экскаватор абстракции разгребает ага? Только этого не будет никогда) И знаете почему? Люди создающие или создавшие реальный интеллект — никогда и ни при каких условиях с вами этим интеллектом не поделятся) Так что копать вам интеллектуальную землю до гробовой доски. Чюдес не бывает и не будет.

                                                                                    0
                                                                                    А в таком случае, зачем вы ставите целью привести все что есть как общий знаменатель
                                                                                    Какая разница цель это или средство?

                                                                                    Вы спросили "зачем". Я ответил, что низачем, нет такой цели. Вообще, в принципе, ни как цель, ни как средство.


                                                                                    Что-то типа — да не хачю я думать, пусть умственный экскаватор абстракции разгребает ага?

                                                                                    Нет. Причины, которые движут человечеством в изучении этого вопроса, я писал выше. И не надо подменять понятия, я говорю о глобальных целях людей, а не о своих личных.


                                                                                    Чюдес не бывает и не будет.

                                                                                    В подобном тоне я с вами общаться не намерен.

                                                                                      0
                                                                                      Нет у людей глобальных целей) Вы или фантастики обсмотрелись на первом анале, или таблеток не доели. Впрочем что то, что другое — приводит к одинаковому эффекту. Коллизия!
                                                                                      Шучу конечно. Со временем у вас это пройдет) Причем достаточно быстро пройдет… Другое дело что попытка у вас вышла не очень) Бывало и получше… Позабористей бывало…
                                                                        0
                                                                        В точку (вернее, в одну из самых важных точек). Много открытых вопросов, но в общем в точку. Немного поправлю и напишу список открытых вопросов. Минимальный ИИ это машина, которая имеет (в своем внутреннем представлении) модель поставленой задачи, может строить операционную модель решаемого вопроса, имеет в памяти достаточное количество моделей рассматриваемых областей, умеет сопоставлять имеющиеся модели с действительностью (и достраивать при необходимости имеющиеся модели из источников знаний) и умеет модифицировать операционную модель в сторону решения задачи. А в конце концов сможет сопоставить модель задания и операционную модель чтобы сделать вывод о решении задачи или о не возможности решения задачи.
                                                                        Что такое понимание? Что означает, когда мы говорим, что человек понял что-то? Это означает, что у него появилась правильная модель того, что он анализировал.
                                                                        Немного не так. Появилась не «правильная» модель, а модель уровень которой удовлетворяет некоторым требованиям. Любую модель во множестве областей зания можно рассматривать как неправильную, т.к. она всегда будет содержать ошибки.
                                                                        Может ли искусственный интеллект испытывать боль?
                                                                        Боль никак не относится к категории интеллекта. Это ощущение, которое испытывают существа не наделенные интеллектом. Боль это особый сверх сильный сигнал избегания (этот сигнал генерирует само тело и нервы по причинам естественного отбора), который даже в состоянии убить организм. Это делается для максимальной активизации процесса запоминания. При чем вплоть до необратимых повреждений психики.
                                                                        Все животные так или иначе реагируют на реальность. Поэтому в отношении них нельзя говорить о том, есть интеллект или нет интеллекта. Можно говорить о том, больше его или меньше, достаточно ли его для определенного вида задач, для построения определенных моделей.
                                                                        Неверно. Во первых на реальность реагируют даже вирусы и бактерии. Сигналы, правда, там немного другие, но реакция есть однозначная иначе бы они все исчезли. А во-вторых интеллект человеческого типа существенно отличается от машин обработки моделей даже высших животных. Подумайте чем именно… Это самая сердцевина темы настоящего ИИ, ответ на который многое проясняет.
                                                                        Есть нейросети, они сами строят модель по входящей информации. Строят ли они правильную модель? Результаты показывают, что как-то не очень. Для них обычно требуется специальная выборка, это тоже подготовленная модель. Но какую-то модель они могут построить, поэтому некоторый уровень интеллекта у них есть.
                                                                        У современных нейросетей уровень интеллекта явно ниже многих насекомых. Поэтому бы я никак не называл современные нейросети каким либо «интеллектом». И нельзя называть модель «правильной» или «неправильной».
                                                                        И последнее замечение. Модели внешнего мира активно используют все живые организмы. Начиная от простейших бактерий. Далее по мере роста дерева естественного отбора и прявления новых видов к старым способам работы с моделями добавляются новые методы никак не вытесняя старые. И тут вообще появляется тема для футуристов…
                                                                          0
                                                                          Это ощущение, которое испытывают существа не наделенные интеллектом.

                                                                          Естественный интеллект наделен интеллектом. Он испытывает боль. Отсюда вывод, что искусственный интеллект тоже может испытывать боль. И возникает вопрос, как определить, есть она или нет.


                                                                          Во первых на реальность реагируют даже вирусы и бактерии.

                                                                          Да, я писал про одноклеточные организмы. У них крайне мало интеллекта и нет сознания, там модель практически сливается со химической структурой, а обработка информации с законами физики.


                                                                          А во-вторых интеллект человеческого типа существенно отличается от машин обработки моделей даже высших животных.

                                                                          Отличается, но не настолько существенно. Собака учится понимать команды на любом языке, выделяет те же объекты в окружающем мире, что и человек, проявляет сходные эмоции. У человека больше способностей к выделению абстракций, но принципы работы информационных элементов такие же, просто их больше, следующий уровень анализирует предыдущий.


                                                                          И нельзя называть модель «правильной» или «неправильной».

                                                                          Можно. Если она не отражает моделируемое. Если программа будет создавать папку на диске командой format, то в нее заложена неправильная модель, потому что на реальном диске папка так не создается.


                                                                          С остальным соглашусь.

                                                                          0
                                                                          Да, я писал про одноклеточные организмы. У них крайне мало интеллекта и нет сознания, там модель практически сливается со химической структурой, а обработка информации с законами физики.
                                                                          Хорошо бы дать определение интеллекта. А то вот можно быстро дойти до того, что и у бактерий есть интеллект. Я бы разделил все природные машины (организмы) использующие модели на места где хранятся и используются эти модели. У бактерий модели хранятся строго в ДНК (у части вирусов в РНК). У многоклеточных без нервной системы добаляются межклеточные гуморальные модели (гормоны). У существ с нервной системой добавляются нервные сигналы и модели зашитые в ансамбли нейронов. Также появляется минимальное обучение. У существ с дифференцированной нервной системой добавляются модели с обработкой образов. Появляется зрение и слух. У высших животных добавляются модели с обработкой абстрактных образов, с планированием действий, с самосознанием. Но это все еще не полноценный интеллект, который все ищут. У человека добавляются механизмы создания моделей обстановок с которыми он ранее никогда не сталкивался. Такие модели могут создаваться и на основе знания полученного ранее из текста или общения. Человек понимает, чего он не понимает и приблизительно знает что с этим делать. Человек умеет воспринимать модели, которые создал кто-то другой ранее и передал ему с помощью речи или еще каким либо образом. Вот такой интеллект умеющий работать с моделями с которыми интеллект ранее не сталкивался (и строить новые модели) собственно говоря все и ищут. Также этот интеллект должен уметь передавать свои новые выработанные модели вовне по запросу. И я бы именно это назвал интеллектом и ни что другое. Также интересно какой следующий (после человека) механизм работы с моделями выработает эволюция. А это конечно произойдет. Можно даже невероятный SciFi фильм на эту тему снять.
                                                                            0
                                                                            Хорошо бы дать определение интеллекта.

                                                                            Так в статье есть.


                                                                            А то вот можно быстро дойти до того, что и у бактерий есть интеллект.

                                                                            Можно говорить об уровне интеллекта. Нет конкретной границы, тут есть а тут нет. Также стоит различать интеллект и сознание, сознания у бактерий нет. Думаю, для практических целей можно говорить об интеллекте, если у системы есть именно информационные элементы, то есть такие, которые существуют постоянно и предназначены для записи информации путем изменения состояния. Нейрон и паттерн его реакции, ячейки памяти ИИ с числами в компьютере. У бактерий таких элементов нет. А даже если и есть, то для задач человека их недостаточно.


                                                                            Человек умеет воспринимать модели, которые создал кто-то другой ранее и передал ему с помощью речи или еще каким либо образом.

                                                                            Обезьяны понимают язык жестов.

                                                                              0

                                                                              Обучение с интеллектом не путайте. Обучение — это копирование того что уже существует, причем всегда с ошибками. Даже этот ваш самый ии обучаясь ничего нового не производит абсолютно.
                                                                              И скажите уже конкретно, причем не мне, а себе — что нового вы придумали? Ну есть у вас некая композиция терминов вам непонятных, и дальше-то что?) Что в этом принципиально нового?

                                                                                0
                                                                                (Само)обучение — аспект интеллекта. Человеческий интеллект создаёт объективные знания, расшариваемые (через обучение новым понятиям в том числе) другим интеллектам, именно расшариваемость и следующая из неё объективизируемость передаваемой информации отличает информацию в транзисторе от информации в идее или тезисе.
                                                                                  –1
                                                                                  Вовсе нет. Обучение к интеллекту не имеет отношения. Обучение — это копирование и только. И да, обучение может происходить хитро, по типу ии, т.е. обучение может производиться достаточно специализированным и нетривиальным алгоритмом, но разве это что-то меняет? Вот тот кто придумал этот алгоритм — вот это интеллект) Но систему обучения чилавека разве кто-то придумывал? Это врожденная способность и не более того. Вы когда обучаетесь цветам в трехлетнем возрасте — вы что прежде чем обучиться сами себе еще и алгоритм обучения придумали?)
                                                                                  И да, человек ничего не придумывает вовсе. Все что есть в вас — это не ваше. Все что есть в вас — вы это накопировали, причем плохонько и убого, потому что даже алгоритм копирования ужасающе плох. Тут надо добавить — катастрофически плох. УЖАСЕН!!!
                                                                                  Вот смотрите в чем он плох. Совсем на пальцах. Есть абстракция времени. Ну вам кто-то там объяснял что такое время. Вы разве что-то поняли?) Что-то вы поняли, это бесспорно. А я понял по-другому. Еще кто-то понял по третьему. В результате имя абстракции одинаковое, а абстракции у нас разные) Имя абстракции — это слово. Ужас же. И это считается обучением? Да еще и интеллектуальным? Да не смешите))) Как можно обучиться якобы одному и тому же, если оно у всех в итоге разное на 95%? Ахаха!!! Такое может быть в принципе? Оказывается да. Более того, это повсеместно. Везде. Всегда. И да, это реальность)

                                                                                  А теперь про время. Время — это разве сколько то там движений атома?) Да полная ерунда. Для физиков сойдет, но это уже реализованные интерфейсы. Причем без указания родительских объектов вообще. Как такое может быть-то?)) Это же бред. Это ужасный логический бред. Безобразие. А ноги то на самом деле откуда растут?

                                                                                  Все на самом деле вот так:
                                                                                  Рассматриваем какую-нить логику высших порядков, например теорию типов. Вам это частично знакомо, т.к. тт реализована в общем-то неплохо в ооп. В ООП «объект» является базовой абстракцией всего. А у живого как?) У живого базовых абстракций много, но не сильно много. У живого базовые абстракции — это чувства. Именно чувства не поддаются объяснению с точки зрения теории типов и каждое чувство — есть базовая абстракция, т.е. не имеющая родителя.

                                                                                  С точки зрения теории типов что есть «время»? Т.е. что родитель абстракции «время»? Естественно это «процесс». Но какой? Процессы бывают периодическими, а бывают не периодическими. Не периодические процессы «времени» не зададут. Время можно задать только на периодических процессах. Идем далее. Что есть процесс? Это способность восприятия «бифуркации», т.е. именно чувственная способность видеть качественные изменения. Значит это базовая абстракция) «Периодичность» — ровно такая же базовая абстракция. Вот вы и словили уже что «бифуркация» и «периодичность» — это базовые абстракции, т.к. родителей у них нет. Но как быть с ООП? А все и тут просто. Наследуйте от «объекта» — «абстракцию», у вас это будет база. И навешайте в виде интерфейсов на «абстракцию» «бифуркация-able» и «периодичность-able» и у вас появится «время».

                                                                                  Раскидайте время на абстракции так, что бы не было логических противоречий. И вот тогда уже реализуйте интерфейсы в виде колеблющихся атомов. Только это вообще не важно. Понимаете?) Никому не нужна реализация. Вообще никому. Важна суть. Или смысл. Называйте как хотите. Суть или смысл — это полная иерархия абстракций. Вот когда вы выстроили эту иерархию абстракций — значит вы поняли смысл. Все остальное не существенно.

                                                                                  Но у всех иерархии абстракций разные) А значит и смыслы разные. И все их копируют абсолютно по-разному. Если бы все было как в кампутере, то и проблем бы не было. Но у человека нет механизмов глубокого копирования объектов. Абсолютно никаких. Отсюда все беды.
                                                                                    0
                                                                                    Обучение к интеллекту не имеет отношения
                                                                                    Слишьком громко сказано) Даже немного погуглив находишь такие вещи как:
                                                                                    Во многих исследованиях интеллект рассматривается как способность, что является основой обучаемости
                                                                                    или
                                                                                    В настоящее время существует, как минимум, три трактовки понятия интеллекта:

                                                                                    Биологическая трактовка: «способность сознательно приспосабливаться к новой ситуации».
                                                                                    Педагогическая трактовка: «способность к обучению, обучаемость».
                                                                                    Структурный подход, сформулированный А. Бине: интеллект как «способность адаптации средств к цели». С точки зрения структурного подхода, интеллект — это совокупность тех или иных способностей.
                                                                                      0
                                                                                      Гуглить можете сколько хотите.
                                                                                      Вам же ясно вроде написано, что копирование да еще и безумное ничего не дает))) Собственно ваш пример и подтверждает.

                                                                                      Громкий пример. Громче некуда.
                                                                                      И чему вы научились безумно скопировав эту хрень в себя?)
                                                                                        0
                                                                                        Я не понимаю, что означает «Безумно скопировал».
                                                                                          0
                                                                                          С биологической точки зрения это означает, что ваша нейросеть не изменилась вообще.
                                                                                          С информационной точки зрения это означает что в вас попал кусок данных, и он бесполезен, потому что ничего не поменялось.
                                                                                          С точки зрения логик высших порядков это означает, что никакой работы над иерархией абстракций произведено не было, все как было так и осталось неизменным.

                                                                                          Сколько вам еще нужно трактовок безумного копирования?

                                                                                          Вы напоминаете неких так называемых эрудитов, у которых в башке очень много данных, но эти данные вообще никак не связаны. Это информационный бессвязный мусор, который вообще ничего не дает. Потому что ничего нового не производится.

                                                                                          Вы выше привели три определения, и это полное гавно. Потому что это типичное словоблудие.
                                                                                          Расскажите что такое «сознательно» в фразе «способность сознательно приспосабливаться к новой ситуации». Вы что не понимаете, что тут один термин подменен другим и лучше от этого никак не стало?)) А здесь как быть «способность к обучению, обучаемость»? Обучение — это что? И здесь такой же навоз: «способность адаптации средств к цели». Что такое адаптация средства к цели? Адаптация — это что?

                                                                                          Вы поймите, у меня формализм есть. У этих всех людей его нет. Все строится на каких-то бредовых словах, которые ничего не значат совершенно. Более того, ЭТИ ОПРЕДЕЛЕНИЯ СТРОЯТСЯ НА СЛОВАХ, КОТОРЫЕ РОВНО ТАК ЖЕ ЧЕТКО НЕ ИМЕЮТ ОПРЕДЕЛЕНИЙ, И ТРАКТУЮТСЯ ПО-РАЗНОМУ))) Т.е. они дают какое-то определение, но оно строится на еще более туманных определениях.
                                                                                          Более того, эти люди плодят сущности, а зачем? Вот есть термин «обучение». Зачем он? Когда есть термин «копирование абстракций». И это одно и то же)) Только в термине «обучение» ничего не понятно. И зачем он нужен тогда?

                                                                                          Совсем на пальцах: Есть А, оно определяется из Б и Ц. Так вы дайте определение и Б и Ц) Сможете? Но Б и Ц тоже строятся на чем-то. И вы в итоге погрязните в словоблудии. А нафиг тогда кому нужно такое гавенное определение А?
                                                                                          А как вам такое? Дают определение термину А из Б и Ц. Но Б определяют после, исходя из А) Нормально?)))
                                                                                          Таким дерьмом кишат эти все ваши определения. Потому что логическую взаимосвязь абстракций никто не отслеживает вообще. Что из под чего идет? Вы можете сказать? А эти ваши некие даватели определений могут?

                                                                                          Все эти ваши определения строятся на крайне туманных вещах. Вы меня извините, но это полная хрень, абсолютно ничего не значащая.
                                                                                            0
                                                                                            С биологической точки зрения это означает, что ваша нейросеть не изменилась вообще. и тд
                                                                                            я с этим более чем не согласен. Потому что уверен что что процесс обучения происходит постоянно, даже когда мы спим. И даже если мы не можем этот процесс выделить, то это совсем не означает что он не происходит. Хотя в основном обучение происходит в виде закрепления знаний и навыков.
                                                                                            типичное словоблудие.
                                                                                            Типичная попытка манипуляции мнением (но это так… отвлеченно от темы)
                                                                                            один термин подменен другим
                                                                                            мы же не будем обсуждать особенности человеческой речи/языка и способы подачи информации? Мне больше понравилось объяснение в посте habr.com/post/423247/#comment_19113211
                                                                                            они дают какое-то определение, но оно строится на еще более туманных определениях.
                                                                                            Не вижу тут ничего удивительного и странного, это очень распространено и существенно экономит размер излагаемой информации. Обычно это очень удобно.
                                                                                            А нафиг тогда кому нужно такое гавенное определение А?
                                                                                            Это называется «обобщение», если я правильно понял о чем Вы. Зачем оно? Опять же для сокращения излагаемой информации.
                                                                                            Все эти ваши определения строятся на крайне туманных вещах. Вы меня извините, но это полная хрень, абсолютно ничего не значащая.

                                                                                            Это мне очень напомнило мнение Жака Фреско о нашем языке и предложение по его исправлению. Но я с ним не могу полностью согласиться.
                                                                                      0
                                                                                      У вас авторская система терминов и понятий.
                                                                                    0
                                                                                    композиция терминов вам непонятных, и дальше-то что?

                                                                                    Если хотите получать ответы на вопросы, сначала научитесь обосновывать свои утверждения и не оскорблять других. А как научитесь, возможно и вопросы задавать не придется, сами все поймете.

                                                                                    +1
                                                                                    Обезьяны понимают язык жестов.
                                                                                    Очень хорошо, что вы про это вспомнили. Я изучал эту тему. Я удивлен почему все забросили работать с обезьянами в этом направлении. Обезъяны НЕ понимают язык жестов в своей обезьяней культуре. Обезьяны НЕ способны передать этот навык своим детям. Удается же путем очень тяжелого труда человека очень некоторых талантливых обезьян (из высших видов) обучить минимальному количеству слов из языка жестов. Именно после такого обучения обезьяны фактически становятся немного людьми и получают малую часть интеллекта человеческого типа. Но более 300-700 слов-жестов обучить не удавалось не смотря на тяжелый многолетний труд. Кстати, если человек не обучается речи к 14-15 годам его уже никогда нельзя будет обучить речи и он никогда не получит интеллекта. А вот обезьян можно учить и в более старшем возрасте. Выяснились фантастические вещи. Оказывается обезьяны очень чистолюбивые существа. Некоторые обученные обезьяны стали презирать своих диких сородичей и подбирали из скудного словарного запаса слова для оскорбления их. Они придумывали новые слова, когда не хватало имеющихся. Они могут даже шутить и смеятся над шутками. Им нравилось жить среди людей человеческой жизнью. Но в конце это приводило к трагедиям, когда обезьян приходилось возвращать в зоопарки. И много чего необычного…
                                                                                      0
                                                                                      Вроде уже довольно стара гипотеза, что человеческий интеллект в сегодняшнем понимании появился благодаря сплетням. Это немного желтушное описание, но в целом гипотеза гласит, что резкий интеллектуальный и культурный скачок начался с освоения речи, которая использовалась не столько для согласования действий при трудовой деятельности (охоте, например), сколько при социальном взаимодействии внутри групп (ну т.е. самых настоящих сплетнях, судачествах и т.д.).
                                                                                      0
                                                                                      А то вот можно быстро дойти до того, что и у бактерий есть интеллект.
                                                                                      Можно говорить об уровне интеллекта. Думаю, для практических целей можно говорить об интеллекте, если у системы есть именно информационные элементы.

                                                                                      Обдумал еще раз примеры про бактерии и вирусы. Способность простых организмов к изменениям внутреннего состояния в ответ на внешние изменения примерно такая же, как и у программ с заранее заложенной моделью. В программе могут изменяться значения переменных, но характеристики, которым соответствуют переменные, всегда одни и те же. Даже если считать у бактерий количество молекул какого-нибудь внутреннего соединения информационным элементом, то он тоже всегда соответствует одной и той же внешней характеристике. Конструкция бактерии заложена генетически и не меняется, бактерия сразу появляется с готовой моделью и не может чему-то обучиться. Так что можно с уверенностью сказать, что в соответствии с определением интеллекта у бактерий нет.

                                                                                        0
                                                                                        Точно. Приводить множественные несущественные поправки (например, бактерии существенно меняют свое внутреннее состояние в зависимости от текущей точки жизненного цикла и истории питания/обмена веществами) не буду. Таким образом у нас естественно получается, что понятие модели больше и фундаментальней понятия интеллекта, хотя задача нынешних поколений это создание сильного ИИ. И у нас появляется лазейка для понимания каким вообще может быть сильный интеллект и каковы на самом деле его задачи. С каждым новым возникшим в ходе эволюции видом живых существ после людей, работа с моделями будет все усложняться и становиться все изощреннее. Можно сказать, что модели это то, что создало саму жизнь вместе с неживой материей. И модели это то, что определяет само существование всей известной нам жизни сегодня. Это также относится и к культурам животных и человека. Это тоже некоторые модели. Скорее всего это также относится и к другой жизни где-то далеко в космосе, если она есть. И да, правильная работа с моделями (на каждом вовлеченном в жизнь вида человек уровне) это та самая настоящая задача (смысл) и настоящий смысл человеческой жизни. И да, все это проясняет что такое религия и что она хотела нам сказать, но так пока и не смогла.
                                                                                    +1
                                                                                    Основной вопрос — что подобные «статьи» делают на хабре? Может, создать несколько постоянных тем для пустопорожней болтовни подобного рода на темы: «Что такое ИИ», «Как ИИ погубит человечество», «Мошенник ли Элон Маск», «Были ли американцы на Луне», «Вредно ли ГМО», «Круче ли работать программистом в России, нежели чем в задрипанной Silicon Valley», «Почему нельзя запустить российскую секцию IIS на Марс, показав пиндосам дулю» и «прилепить» их на «постоянку», для малограмотных «юношев» и иже с ними?
                                                                                      +1
                                                                                      Это одна из лучших и содержательных статей об интеллекте и об ИИ, которая когда либо была на Хабре. В отличии от сотни других статей об ИИ которыми часто пестрит Хабр. Автор провел много времени исследуя тему, сделал очень важный вывод, который далеко не в каждой статье об ИИ найдешь и набрался смелости (хоть сумбурно и отрывочно) изложить найденное.
                                                                                      В вашем же перечне неудачных статей для Хабра вы смешали в кучу коней, людей, мух и котлеты. Также понятно что статью вы не читали, а если читали, то по диагонали и ничего не поняли. Если статья вас не развлекает и вы ее не понимаете, то вы ее просто не читаете. Это же просто. Это как с любымым телевизором. Запомните это. Судя же по статистике у статьи уверенно есть своя аудитория, в отличии от множества других статей, которые также бывают на Хабре.
                                                                                        0
                                                                                        Подобные «статьи» нужны затем же, зачем нужны любые определения. Цель ее примерно такая же, как у теста Тьюринга, только он эмпирический, а я предлагаю способ более конкретный и технический, а также даю объяснения, почему так а не иначе. Чтобы можно было взять произвольного чат-бота или AlphaGo, и определить, можно ли его считать интеллектом уровня человека. Вот если бы вы изложили критику, можно было говорить более предметно, а так получается именно болтовня с оскорблениями.
                                                                                        0
                                                                                        надо бы список литературы по теме прикрутить. Сходу вспомнил только два имени: Томас Метцингер и Даглас Хофштадтер, но наверняка есть и другие серьёзные исследователи.

                                                                                        Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                        Самое читаемое