О барьерах использования знаковых систем в искусственном интеллекте

Зачем нам знаковые системы


Знаковая система выступает в роли переносчика мыслей, идей, эмоций, переживаний, ощущений, организации памяти – продуктов психических процессов, протекающий, по представлениям современной науки, в головном мозге человека и высших животных. Знаковая система – это средство указания на такие продукты. Похоже, что в настоящий момент единственный способ передать информацию о результатах работы мышления, памяти, эмоций, ощущений, воображении – закодировать эту информацию с помощью знаковой системы. Мы не можем (пока?) напрямую обмениваться мыслями, эмоциями, ощущениями, не прибегая к той или иной знаковой системе. Нам нужны знаковые системы, чтобы обмениваться результатами таких процессов. Знаковые системы являются спутником обозначенных процессов, а, возможно, существует обратная связь, при которой психические процессы эволюционируют под влиянием знаковых систем, развиваются совместно друг с другом.

По всей видимости, мысль никогда невозможно точно и однозначно выразить только средствами знаковой системы, т.е. кодирование – это аппроксимация, некая модель. Всегда есть возможность уточнить что-то, обозначенное знаком. Не зря существует выражение «подбирать слова» – попытка выразить мысль с помощью знаков. Абсолютно точного и однозначного выражения мысли посредством слов, скорее всего, не существует. Ученый для выражения научных мыслей, идей пишет не одно слово или предложение, а целый ряд статьей, каждая из которых всё ближе и точнее описывает то, что он хотел описать, выразить в своей работе. Ответ на вопрос, тождественен ли знак мысли, эмоции, скорее отрицательный.

Для примера рассмотрим ощущение красного цвета. Если агенты коммуникации знают, что такое красный цвет, имеют соответствующий чувственный опыт, они могут использовать любую подходящую знаковую систему для передачи информации об этом чувственном опыте: произнести слово «красный» или на листе бумаги нарисовать красный круг и показать этот знак друг другу. Если же такого опыта нет, то передать информацию о «красности» невозможно – невозможно рассказать о красном цвете тому, кто не знает, что такое красный цвет. Можно попытаться объяснить, что красный цвет – это электромагнитные колебания с длиной волны около 700 нанометров, но ощущение «красности» от такой информации не появится, знание о том, что такое красный цвет, по-прежнему будет недоступно, т.к. мы не обмениваемся чувственным опытом напрямую – мы обмениваемся знаками, указывающими, включающими, запускающими схожий чувственный опыт у других агентов коммуникации. Т.е. знак – это «обёртка» продукта психического процесса, но не сам продукт.

Барьер понимания


Отсюда вытекает проблема барьера понимания. Современные технологии ИИ довольно успешно решают вопросы, связанные с изучением знаковых систем. Очевидны успехи ИИ в распознавании образов (знаков): письменная речь (OCR), устная речь (Алиса, Siri), музыка (Shazam), изображения; в моделировании естественных языков: выделение частей речи, членов предложения и имен собственных, машинный перевод. Вместе с тем, всё это – примеры изучения и работы со знаковыми системами, не более. Вообще, в изучении знаковых систем человечество постоянно развивается. Возникновение и развитие письменности, науки, культуры, искусства, спорта – всё это тесно связано с изобретением, использованием, изучением и развитием знаковых систем.

Вычислительные возможности, использующие операции со знаками, также растут – начиная с вавилонского абака, изобретённого 3000 лет до н.э., и Паскалины Блеза Паскаля с Арифмометром Лейбница в XVII веке до современной вычислительной техники. И если в вопросах изучения и работы со знаковыми системами прогресс очевиден, то с моделированием психических процессов по-прежнему наблюдаются непреодолимые трудности.

У человека (животных?) знак автоматически увязывается с продуктом мышления, эмоцией и т.п., т.к. он эволюционно и предназначен для кодирования последних. У ИИ нет подобных продуктов, поэтому распознанные знаки ни с чем не увязываются, ничто не кодируют, а остаются как бы сами по себе, остаются просто «голыми» знаками без указания на что-либо вообще, т.е. не несут какой-либо осмысленной или прочувствованной нагрузки, отсутствует понимание распознанного знака. Так, человек, испытавший страх, знает, что это такое, и может об этом попробовать сообщить, т.е. передать и сохранить информацию о своем опыте чувственного переживания, используя владение какой-либо знаковой системой. Например, он может:

  • нарисовать изображение на стене пещеры;
  • написать сочинение на естественном языке;
  • сочинить стихотворение;
  • создать музыкальное произведение;
  • поставить знак смайлика в чате;
  • наконец, вообще ничего не сделать (пустой знак).

ИИ не знает, что такое страх, соответственно, он не может сопоставить страху какой-либо знак вообще. И ощутить какой-либо распознанный знак как страх он тоже не в состоянии. Автопилот под управлением ИИ, наезжая на препятствие на дороге, ничего не поймет, ничего не почувствует, не задумается, не расстроится, не обрадуется, не испугается, не будет никакой рефлексии. Таким образом, для ИИ любой знак ссылается на несуществующий продукт несуществующих у него психических процессов.

Барьер распознавания


Отсюда вытекает еще один барьер – барьер качества распознавания знаков. Под качеством понимается верность, правильность, точность распознавания знака по отношению к эталону. Качество ограничено барьером понимания. ИИ не может оценить качество распознанного образа, т.к. нет обратной связи со стороны мышления и других психических процессов с целью исправления ошибок распознавания. В предложении «ама ыла аму» человек, владеющий русским языком, скорее всего сможет восстановить искажённые знаки-слова.

Например, возможно такое восстановление смысла: «мама мыла раму», т.к. последовательность этих знаков кодируют знакомую шуточную поговорку, которая кодируется набором именно таких слов: «мама мыла раму». Человек смог восстановить неверно распознанные знаки-слова: «ама» -> «мама», «ыла» -> «мыла», «аму» -> «раму». Для ИИ же все три слова в предложении отсутствуют в словаре русского языка. Домысливания, «подгонки» под какой-либо понятный, известный смысл нет, т.к. в памяти ИИ собственно вообще нет никаких сохраненных смыслов. Вместе с тем, если у человека нет знакомых мыслей, кодирующихся похожими словами, слова «ама ыла аму» не увяжутся с какими-либо мыслями, просто потому что их нет, т.е. процессы мышления и кодирования взаимоувязаны и постоянно работают в связке. Видится, что это обусловлено эволюционно – любой встреченный знак должен быть декодирован, «докручен до», «подогнан под» какой-либо известный смысл, т.е. существует автоматическая потребность понять знак, узнать его, увязать с чем-то знакомым и понятным. Существует потребность понять, какую пользу и какой вред несет то, что было закодировано этим знаком. Человек мне улыбается – хорошо, собака на меня лает – плохо. Если не знать, что хорошо, а что плохо, ни улыбка, ни лай не несут никакого смысла. ИИ не знает, что хорошо, а что плохо для него.

При неудачной попытке сопоставить знак смыслу у человека могут возникнуть другие мысли на счёт этого предложения, которые он может выразить, например, такими словами: «я не понимаю, что это, пойду-ка я лучше отсюда», «что бы это могло значить, интересно?», «что за белиберда тут написана?», «возможно, имелось в виду «мама мыла раму», я не уверен, но лучше отвечу так на этот вопрос теста» и т.п. Т.е. в любом случае какой-то по поводу воспринятых знаков вывод будет сделан. Также возможен вариант ложного следа. Например, если источником текста служит электронное средство, где зачастую пренебрегают правилами орфографии, слова «ама» и «аму» могли бы в оригинале быть написаны с прописной буквы – «Ама» и «Аму», т.е. быть именами собственными. Осмысление такого набора знаков уже совсем не было бы связано с поговоркой «мама мыла раму». Можно пофантазировать и предложить такой вариант осмысления – «Ама была Аму» – некто Ама, женского пола, была представителем некоего племени Аму. Отсюда может возникнуть следующая мысль: Ама – это имя из иностранного языка, т.к. мои знания подсказывают мне, что в русском языке нет имени собственного Ама, да и о племени Аму я не слышал. Таким образом, мыслительный процесс раскручивается дальше и дальше, пока не будет сделан какой-либо вывод. Сама по себе правильность или ложность вывода неважна, главное – чтобы вывод был сделан. Вывод может быть верными и неверным, человек может быть прав или ошибаться в своих предположениях. Т.е. неверные, неточные, ошибочные, ложные знаки могут приводить к ложным умозаключениям. На этом основаны развлекательные и интеллектуальные игры, когда по неполной или противоречивой информации предлагается восстановить изначальный смысл. В такую игру мы только что сыграли выше – что было загадано в сообщении «ама ыла аму»: «мама мыла раму» или «Ама была Аму»?

См. также игру в испорченный телефон. Сюда же распознавание изображений – эффект «показалось, померещилось». Сюда же распознавание звуков – эффект «послышалось». Хорошим примером слуховых артефактов служит распознавание слов в тональных языках, например, в китайском. Слово «shi», будучи произнесённым восходящим тоном (обозначим shi2), означает число «десять», а нисходящим тоном (обозначим shi4) – глагол-связку «быть». Местоимение «я» по-китайски произносится как «wo» с нисходяще-восходящим тоном (обозначим wo3). Тогда фраза «wo3 shi4…» для человека, владеющего китайским языком, могла бы обозначать начало предложения «я есть…», «я являюсь…» или просто «я…». В то же время фраза «wo3 shi2…» звучит бессмысленно, т.к. ведёт по ложному следу – слушающий выстраивает мысль «я десять…», что бессмысленно согласно грамматике китайского языка. Но так как мышление пытается придать знакам смысл, оно будет пытаться сопоставить наиболее возможные варианты интерпретации «wo3 shi2…» – «я десять…» с целью получить ожидаемый результат. Например, собеседник может либо додуматься сам, либо переспросить: «ты, наверное, хотел сказать wo3 shi4 вместо wo3 shi2?»

Т.е. будет предпринята попытка восстановить искажённые знаки с целью получения в итоге какого-то адекватного смысла с точки зрения слушающего. ИИ на такое неспособен, т.к. у него нет точки зрения. Продукты работы других органов чувств имеют подобные артефакты распознавания.

Еще раз, у ИИ знаки ни с чем не могут быть увязаны, отсюда барьеры понимания и качества распознавания знаков. Для ИИ слон в обычной городской квартире, оказавшийся там по какой-то причине, обусловленной работой алгоритма распознавания изображений, – нормальная ситуация. Для человека – абсурд, т.к. здравый смысл подсказывает, что даже если слон, пускай это будет слонёнок, смог поместиться в квартире, то совсем непонятно, как он туда попал – дверь квартиры слишком узкая, чтобы он смог войти, грузоподъёмность лифта не соответствует массе слона и прочие ограничения реального мира. Следовательно, слон в комнате на картинке – это либо иллюстрация к сказке, либо фотомонтаж, либо вообще ошибка распознавания образов, т.е. мне показалось, что на картинке изображен слон – вывод сделан. У ИИ нет такого критического мышления, он не может понять смысл, переданный теми знаками, которые он смог распознать, не может исправить ошибку распознавания, не может делать выводы.

Изучение знаковых систем – тупик?


Изучение знаковых систем не позволяет изучать мышление и иные психические процессы, протекающие в головном мозге, непосредственно. Означает ли это, что изучение знаковых систем бессмысленно? Нет, не означает. Знаковые системы – это средство кодирования и передачи наших мыслей, поэтому нам фактически ничего не остается, как изучать первые. Других способов в гуманитарных науках – лингвистике, психологии, социологии и смежных с ними – попросту нет.

Единственную работу, какую мы можем проделывать, чтобы учиться лучше понимать наши мысли, – это изучать знаковые системы. Изучение знаковых систем не отвечает на вопросы структуры и свойств мышления – эти вопросы пока остаются открытыми. Знаки – это указатели на мысли, возможно, даже триггеры мыслей, но не сами мысли, а значит, и изучаем мы только указатели на сущности, но не сами сущности. Изучая знаковые системы, мы изучаем свойства знаковых систем, но не свойства тех сущностей, для кодирования которых данные знаковые системы используются.

Например, изучая лексику и синтаксис русского языка, мы изучаем знаковую систему русского языка, но не сами мысли, которые выражаются с помощью русского языка. Признаемся, сейчас даже непонятно, какова структура, каковы свойства именно у мыслей, а не знаков. Очевидно лишь то, что мысль может быть выражена с определённой степенью точности, приближения с помощью предположительно любой знаковой системы. Например, мысль, которая по-русски выражается словами «грусть», «грустно» может быть выражена с помощью таких знаковых систем:

  • русский язык: предложения «мне грустно», «им грустно» и т.п.;
  • английский язык: предложение «I feel sad», «they look sad» и т.п.;
  • художественное произведение, где будут преобладать холодные тона;
  • музыкальное произведение, где будут преобладать минорные тональности;
  • «грустным» танцем с плавными «печальными» движениями;
  • фотографией грустного лица какого-либо человека или животного;
  • смайлик :-( в современной культуре электронной коммуникации.

Точность передачи этой мысли вышеперечисленными знаковыми системами разная. Способность знаковых систем передавать мысли соответствует потребностям передачи мыслей настолько хорошо, насколько это вообще возможно с учетом возможностей живого организма: органы чувств, окраска, средства передачи танцев, феромоны и т.п. Именно поэтому в естественных языках так много неоднозначностей, неопределённостей и избыточности – всё это служит лишь одной цели – как можно точнее закодировать и передать мысли, эмоции и т.п., даже если для этого требуется введение избыточности и иных неоптимальных с точки зрения объёма передаваемой информации и времени передачи. Люди постоянно уточняют полученную информацию, стараются убедиться, что правильно поняли распознанные знаки, найти в них смысл: переспрашивают фразы, перечитывают тексты, переслушивают музыку, ищут новые смыслы в ранее распознанных знаках.

Парень прочитал в интернете, что девушка поправляет волосы – значит, он ей понравился. Глупо? Возможно, но такова наша природа – сопоставлять знаки со смыслами. Думать, искать решения, чувствовать, распознавать знаки и сопоставлять их смыслам, ставить цели – жить – психические процессы не останавливаются в течение всей жизни. ИИ же дела нет до входной и выходной информации, т.к. её не с чем сопоставить, не к чему привязать.

Знаковые системы несовершенны, но они – единственное, что дала нам эволюция для обмена продуктами психических процессов. Как знать, возможно, природа уже пробовала другие способы передачи, но они оказались неуспешными, и в итоге прижились именно знаковые системы.
Поделиться публикацией

Комментарии 358

    +5
    Если вы будете разбивать большие абзацы на более короткие, это значительно облегчит при прочтении восприятие заложенной в тексте мысли. Добавление пары подходящих по смыслу иллюстраций также будет очень полезной диверсификацией идеи автора в различные знаковые системы.

    Длинные монотонные абзацы символьной информации является барьером при передаче продуктов вашей психической деятельности читателям.
      0
      Надеюсь вы сейчас про белковых читателей… Или нет..?
        0
        О других мне неизвестно :)
        0
        Спасибо за критику! Дебют всё-таки :).
        +6
        Как я понимаю, автор имел ввиду то, что ИИ не является человеком, то есть не умеет интерпретировать знаки, порожденные одним человеком как результат внутренних переживаний, обратно в те ощущения, которые свойственны человеку. Проще говоря, у ИИ нет эмоций и ощущений, а множество текстов и прочих знаков порождены именно для этого. Однако непонятно, в чем собственно проблема. Как известно, ИИ благополучно учится у человека порождению взаимосвязанных знаков, которые вызывают у людей необходимые эмоции. Более того, в отличие от людей, которые могут генерировать только частные знаковые системы, не всегда эффективные для передачи эмоций другим людям, ИИ может, обучаясь множеству знаковых систем от разных людей, порождать наиболее универсальные конструкции, которые максимально эффективно воспринимается множеством людей. В частности, ИИ неплохо конструирует хитовую музыку. Собственно, весь смысл ИИ состоит в том, что, не повторяя психическую деятельность людей, он порождает знаки, воспринимаемые людьми именно за счет того, что люди во многом одинаковы (за счет того, что физически похоже устроены и учатся друг у друга) и одинаково воспринимают определенные знаки.

        Я также не уверен, что приведенные автором примеры восполнения недостающей инфрмации являются нерешаемой задачей для ИИ.
          +4
          ИИ нет подобных продуктов, поэтому распознанные знаки ни с чем не увязываются, ничто не кодируют

          Это как бы неправда. ИИ, очевидно, увязывает распознанные знаки с чем-то, иначе это нельзя было бы называть распознаванием.


          Автопилот под управлением ИИ, наезжая на препятствие на дороге, ничего не поймет, ничего не почувствует, не задумается, не расстроится, не обрадуется, не испугается, не будет никакой рефлексии.

          Почему же? Обратная связь в ИИ вполне существует.


          ИИ не может оценить качество распознанного образа, т.к. нет обратной связи со стороны мышления и других психических процессов с целью исправления ошибок распознавания.

          Может. Для банальной задачи классификации система машинного обучения способна отдавать вероятность принадлежности к конкретному классу — вот вам и оценка качества.


          Для ИИ же все три слова в предложении отсутствуют в словаре русского языка. Домысливания, «подгонки» под какой-либо понятный, известный смысл нет

          Вы хотя бы в Яндекс пробовали вбить ваше предложение? Есть системы, которые восстанавливают искаженную информацию.


          ИИ на такое неспособен, т.к. у него нет точки зрения.

          И это неправда. В частности, это хорошо видно на системах автоматического субтитрования, которые поправляют предыдущее предложение по ходу поступления новых слов.


          у ИИ знаки ни с чем не могут быть увязаны

          Что значит "не могут"? Вы говорите о принципиальной невозможности? Но на чем вы это основываете?

            +1
            Я думаю, что здесь имелась ввиду дискретность знаковых систем и их обработки. В мозгу человека происходят процессы, описываемые действительными числами, но люди при общении используют дискретные языки. Для людей это нормально, ведь они похожи и могут правильно связать знаки с соответствующими непрерывными процессами в мозгу. А для машин нельзя использовать только знаковые системы, обязательно нужно дополнять (нейронками наверное, в которых действительные числа).
              0

              Ну то есть людям можно использовать "процессы, описываемые действительными числами", а потом выражать их в знаковой системе, а потом обратно запускать "процесс, описываемый", а компьютерам — нельзя? Почему?

                0
                Та тоже можно. Но для этого там должен происходить такой процесс. Он и происходит, если есть нейронки, или что-то такое. Я сам до конца не понимаю автора, но по-моему он о том, что одних только знаковых систем недостаточно.
                  0

                  Ну так и происходит. Среди алгоритмов машинного обучения не работающих с действительными числами — меньшинство.

                    0
                    он о том, что одних только знаковых систем недостаточно.
                    Именно. Они хороши. Я не представляю, как бы вёл эту дискуссию без такой сложной знаковой системы как «русский письменный язык», но эта переписка, использование этой знаковой системы не отвечает на вопрос, как я мыслю, и как повторить подобное мышление.
                –2
                ИИ, очевидно, увязывает распознанные знаки с чем-то, иначе это нельзя было бы называть распознаванием.

                А с чем именно увязывает? Вот простой пример: может ли ИИ отличить живого кота от изображения кота, в том смысле, чтобы сказать, что этот кот — настоящий, а этот — нарисованный? Вот пример: В Китае система по распознаванию лиц приняла фото девушки на автобусе за реального человека и оштрафовала её за нарушение ПДД.
                Распознавание для ИИ (сейчас во всяком случае) — это отличить букву «А» от буквы «Б», не более того. Что стоит за буквами «А» и «Б» — ИИ недоступно для понимания.

                это хорошо видно на системах автоматического субтитрования

                я лично работаю с такой системой на youtube, мой опыт в двух словах — слабо и непредсказуемо. Почему? Потому что упираемся в обозначенные в статье барьеры.

                о принципиальной невозможности?

                Не думаю, что это принципиально невозможно, но пока, да, невозможно. Думаю, прорыв возможен не через анализ знаковых систем, а через изучение анатомии и физиологии, и то не факт.
                  +4
                  А с чем именно увязывает?

                  С тем, что необходимо в задаче.


                  Вот простой пример: может ли ИИ отличить живого кота от изображения кота, в том смысле, чтобы сказать, что этот кот — настоящий, а этот — нарисованный?

                  Соответствующим образом обученный ИИ — может.


                  Распознавание для ИИ (сейчас во всяком случае) — это отличить букву «А» от буквы «Б», не более того. Что стоит за буквами «А» и «Б» — ИИ недоступно для понимания.

                  Знаете, музыканты тоже отличают ноту "соль" от ноты "ля", но никто не может сказать, "что стоит за нотами".


                  Собственно, дело в том, что вы не можете дать такое определение "понимания", которое бы с одной стороны не выполнялось той или иной системой ИИ, а с другой — не было бы изначально человекоцентрично.


                  я лично работаю с такой системой на youtube, мой опыт в двух словах — слабо и непредсказуемо.

                  Ну так дети тоже "слабо и непредсказуемо" пишут. Будем делать вывод, что люди неспособны писать?


                  Думаю, прорыв возможен не через анализ знаковых систем, а через изучение анатомии и физиологии

                  А прорыв в строительстве автомобилей возможен через изучение физиологии лошадей, вероятно.

                    –1
                    Знаете, музыканты тоже отличают ноту «соль» от ноты «ля», но никто не может сказать, «что стоит за нотами».
                    За нотами стоит музыка — сложная знаковая система, с помощью которой люди передают свои эмоции, переживания и иные продукты психической деятельности. Разным людям нравится разная музыка, состоящая из разных нот и законов, их связывающих. А какая музыка нравится компьютеру? Что он чувствует, когда «сочиняет» и исполняет музыку? Я могу описать свои ощущения. В статье приведено два примера возможного описания ощущений «красности» и «грусти».

                    вы не можете дать такое определение «понимания», которое бы с одной стороны не выполнялось той или иной системой ИИ, а с другой — не было бы изначально человекоцентрично.
                    Это как раз объяснимо и не противоречит тезисам в статье. Всё, что делает человек, — «антропоцентрично». Мы не может действовать за рамками возможностей нашего вида. По-моему, это банально и не требует объяснений. Впрочем, если Вам интересен более развёрнутый ответ, я могу объяснить, почему это банально.

                    Ну так дети тоже «слабо и непредсказуемо» пишут. Будем делать вывод, что люди неспособны писать?
                    Вы искренне считаете, что дети и компьютеры делают одни и те же ошибки по своей природе вещей, по тому, что это за ошибки, по, если так можно выразиться, качеству этих ошибок? И ещё момент, не знаю откуда взявшийся: почему-то часто прибегают к сравнению ИИ с интеллектом детей. С какой целью это делается? При этом при разработке приложений ставятся амбициозные задачи превзойти возможности взрослого профессионального человека, имеющего образование и опыт, например, переводчика или водителя, но при этом, чуть что, сразу: «Ну так дети тоже „слабо и непредсказуемо“ пишут». А еще и машины плохо водят, да?

                    А прорыв в строительстве автомобилей возможен через изучение физиологии лошадей, вероятно.
                    Зачем же передёргивать? Впрочем, отчасти да :), если принять, что автомобиль и лошадь — это инструменты для совершения работы. Не зря до сих пор существует термин «лошадиная сила». Ну и главное — изобретённым автомобилем управляет человек. До сих пор человек разрабатывал системы, работающие под его управлением. Начиная с середины XX века у человечества почему-то возникло ощущение, что он способен создать систему, как минимум равную ему или превосходящую его по скорости и качеству в анализе информации и принятии решений. При этом сам человек не знает, как он анализирует информацию и принимает решение. Более того, если я правильно уловил Вашу основную мысль, нам и не надо знать, как устроены и функционируем мы сами. Если серьёзно, текущий подход к решению задач ИИ — распознавание образом на базе анализа миллионов изображений, поиск смысла текстов на базе word2vec — я бы осмелился назвать наивным подходом, романтикой чистой воды. Еще чуть-чуть, подсоберём статистики и переводчиков можно увольнять.
                      +3
                      За нотами стоит музыка — сложная знаковая система, с помощью которой люди передают свои эмоции, переживания и иные продукты психической деятельности.

                      Неа. Музыка — это музыка, а ноты — это ноты. Говорить, что за нотами стоит музыка — это то же самое, что говорить, что за буквами стоит литература (очевидно, нет). Между нотами и музыкой нет взаимной зависимости, можно иметь ноты без музыки, можно иметь музыку без нот.


                      И это как раз подтверждает, что нет понимания "что стоит за нотами". Нота — символ, в который каждый вкладывает то, что ему хочется.


                      Всё, что делает человек, — «антропоцентрично».

                      Антропоцентрично (да и то не всегда), но не антропоморфно. Проблема антропоцентричного определения мышления в том, что оно делает невозможным нечеловеческое мышление.


                      Вы искренне считаете, что дети и компьютеры делают одни и те же ошибки по своей природе вещей

                      Я искренне считаю, что делать по наличию ошибок вывод о невозможности — необснованно.


                      При этом при разработке приложений ставятся амбициозные задачи превзойти возможности взрослого профессионального человека, имеющего образование и опыт

                      Ну да. В конкретной узкой области. То, что взрослые профессиональные музыканты пользуются тюнерами, показывает, что это возможно.


                      При этом сам человек не знает, как он анализирует информацию и принимает решение.

                      Люди много веков успешно пишут музыку, но до сих пор никто не может объективно объяснить, почему музыка воздействует на человека так или иначе. Это никому не мешает.


                      Более того, если я правильно уловил Вашу основную мысль, нам и не надо знать, как устроены и функционируем мы сами.

                      Я просто отделяю физиологию от методов анализа и принятия решений.

                        0
                        Неа. Музыка — это музыка, а ноты — это ноты.
                        Музыка — это сложная знаковая система для передачи продуктов психических процессов. Передавать можно, что угодно, хоть цифры клавиатуры телефона. Но обычно музыка используется для передачи настроения, чувств, эмоций. Нота — это знак этой знаковой системы. Знаки увязаны синтаксисом, иначе это была бы не музыка, а какофония. Есть консонантные и диссонансные интервалы. Есть размер и еще много вещей, которым люди профессионально учатся. Но всё это — всего лишь инструмент для передачи чего-го, что важно какому-то конкретному человеку. И если найдется хотя бы ещё один человек, который сможет знаки-ноты декодировать и связать со своим чем-то важным, то такая музыка ему понравится. А что важно для компьютера? Что с помощью нот он сможет закодировать?

                        Проблема антропоцентричного определения мышления в том, что оно делает невозможным нечеловеческое мышление.
                        Не вижу здесь проблемы. Или мы хотим научится думать, как собака или инопланетянин? Пока обмена знаками хватало. Если собака лает, я не знаю, что у неё в голове, но знака «лай» мне достаточно для принятия решения. Если инопланетяне стреляют в меня из лазера, надо: 1) уклониться, спастись, а потом 2) думать, что делать дальше, как их победить, как перехитрить и выжить самому.

                        Я искренне считаю, что делать по наличию ошибок вывод о невозможности — необснованно.
                        В статье используется слово «пока». Я не утверждаю, что это никогда не будет возможно. Я лишь выразил своё отношение к текущему положению дел.

                        тюнерами, показывает, что это возможно
                        В тюнерах не используются технологии ИИ. Там всё проще, возможно, именно поэтому они и работают :)

                        Люди много веков успешно пишут музыку, но до сих пор никто не может объективно объяснить, почему музыка воздействует на человека так или иначе. Это никому не мешает.
                        Но люди знают, что они чувствуют, когда сочиняют и слушают музыку. И могут выразить свои знания, ощущения, возможно, даже какие-то мысли с помощью музыки. А что чувствует программа?

                        Я просто отделяю физиологию от методов анализа и принятия решений.
                        Вы голодны. Какой приоритет принятия решений: сначала поесть или посмотреть телевизор?
                          +2
                          Музыка — это сложная знаковая система для передачи продуктов психических процессов.

                          Йеп. Но это не отвечает на вопрос "что стоит за нотой "соль"".


                          Не вижу здесь проблемы. Или мы хотим научится думать, как собака или инопланетянин?

                          Я не знаю, чего хотите вы. Я знаю, что до тех пор, пока мы говорим, что мышление принципиально присуще человеку, компьютерное мышление невозможно по определению.


                          В тюнерах не используются технологии ИИ.

                          Ну то есть давайте заменим термин "ИИ" на термин "логистическая регрессия" — и вы сразу допустите, что система на основе этого алгоритма может делать классификацию счетов не хуже человека?


                          Но люди знают, что они чувствуют, когда сочиняют и слушают музыку

                          Не обязательно. И еще более не обязательно они знают, что почувствуют другие. И уж точно никто не знает, почему они это чувствуют. Это, однако, не мешает сочинять музыку. Но почему-то незнание того, как человек принимает решения, должно мешать другим системам принимать решения.


                          Какой приоритет принятия решений: сначала поесть или посмотреть телевизор?

                          Вот я голоден, но переписываюсь с вами.


                          Ну и да, вы путаете метод принятия решения с входными данными для принятия решения.

                            –1
                            Ну то есть давайте заменим термин «ИИ» на термин «логистическая регрессия»
                            Приведите марку/модель такого тюнера, почитаю, интересно. Пока таких не встречал.

                            Не обязательно.
                            Если кто-то (человек) или что-то (компьютер) не знает, что он делает, результат получается соответствующий. И как подтверждение — неадекватные действия неадекватных людей и примеры работы текущих систем ИИ.

                            Вот я голоден, но переписываюсь с вами.
                            А программа так умеет? Т.е. принимать нерациональные или непредсказуемые решения? Я Вам подскажу: нет, потому что программы создают люди с целью как можно рациональнее решать задачи, в них фантазии и иррациональность изначально не закладываются.

                            Ну и да, вы путаете метод принятия решения с входными данными для принятия решения.
                            А можно поконкретнее.
                              +2
                              Приведите марку/модель такого тюнера, почитаю, интересно. Пока таких не встречал.

                              Я не об этом. Вы говорите, что тюнеры работают, потому что они простые. Я не понимаю, как наличие или отсутствие шильдика "ИИ" меняет суть: есть система, превосходящая человека в решении конкретной задачи.


                              Если кто-то (человек) или что-то (компьютер) не знает, что он делает, результат получается соответствующий.

                              Эм. Что такое "знать, что делать" применительно к сочинению музыки?


                              Т.е. принимать нерациональные или непредсказуемые решения?

                              Во-первых, мое решение рационально. Во-вторых, да, программы умеют принимать непредсказуемые решения.


                              А можно поконкретнее.

                              То, надо мне поесть или нет, можно определить алгоритмически, вообще не привязываясь к физиологии моего мозга. Входные данные — моя физиология, но метод принятия решения — формальный алгоритм, который может быть выражен в любой решающей системе.

                                0
                                То, надо мне поесть или нет, можно определить алгоритмически, вообще не привязываясь к физиологии моего мозга. Входные данные — моя физиология, но метод принятия решения — формальный алгоритм, который может быть выражен в любой решающей системе.
                                Пока примером интеллектуального решателя является только головной мозг, а он на 150 % привязан к работе всего организма его хозяина. Я правильно понял, что Вы искренне верите, что формальный алгоритм сможет быть решателем? Почему до сих этого не произошло?
                                  0
                                  Я правильно понял, что Вы искренне верите, что формальный алгоритм сможет быть решателем?

                                  Ну да.


                                  Почему до сих этого не произошло?

                                  Чего не произошло? Решатели уже есть.

                                    0
                                    Ну да.
                                    Точка зрения понятна, спасибо.

                                    Решатели уже есть.
                                    Приведите пример хороших решателей. Я тоже могу «решать» уравнения квантовой механики или «сочинять» музыку. Только, думаю, людям в этом разбирающимся это будет, мягко говоря, неинтересно.
                                      0
                                      Приведите пример хороших решателей.

                                      SVM.

                                        +1
                                        Решатели сверхвысокого уровня — SHRDLU (1970 г!), AlphaZero, современные автопилоты и тд.
                                        Программы (даже без багов) всё же поступают нерационально. Пример — 99.9% программ в мире. Как это проявляется? Неверный путь в автопилоте, зевки в шахматах и тд. Проблема человеческой точки зрения на машины в том, что чаще всего мы можем посмотреть «под капот» и указать откуда происходит данное поведение. Но без такой возможности всё превращается в магию. И это на самом деле наблюдается сегодня. Непосвященные гуманитарии приписывают машинам чудесные и сверхъестественные свойства.
                                        Прикол в том, что как только мозг человека будет разобран до нейрона, вся магия тут же пропадет. Так что не нужно преждевременно хоронить ИИ
                                          0
                                          А тут товарищ утверждает, но физиология нам не нужна. Он правда сам скорее всего пользуется нейросетями, которые подсмотрели у людей. Парадокс однако.
                              0
                              А что чувствует программа?

                              А, да, еще важный момент. Одно из качеств, отделяющих профессионального композитора от любителя — умение писать музыку о тех эмоциях, которых она сама не ощущает. Нам заказали написать музыку на коронацию — мы пишем пафосно и радостно. Мы знает, что вот такой-то набор средств вызывает ощущение пафоса и радости — мы его и применяем. Мы знаем, что вот такой-то набор средств приемлем (например, такая-то доля и такие-то положения диссонансов) — мы придерживаемся этой практики.


                              По большому счету, это все опять сводится к китайской комнате и ее критике.

                                0
                                К сожалению, Вы опять запутались. Здесь другое. Профессиональное создание музыки на заказ — это не только эмоциональное состояние, но и мышление. Я естественно не могу сказать за человека, но сомневаюсь, что человек, пишущий музыку, совсем ничего не чувствует. Он же не робот :) Научите компьютер мыслить, чувствовать, и таки-да, я доверю ему написание музыки. Тут выше был комментарий про то, как «ИИ неплохо конструирует хитовую музыку», я просто ещё не успел на него ответить. Что-то где-то уловили, да, запрограммировали, тут нужная гамма, там нужная тональность, но слушать это больше минуты невозможно, несерьёзно это, игрушки. И вообще, Вы можете мне сказать, почему ИИ до сих только в игры играет? Правда интересно. Ну там шахматы, го, арканоид. Где серьёзные жизненные приложения?

                                опять сводится к китайской комнате
                                Почему тогда нет реально ощутимых успехов?
                                  +1
                                  Я естественно не могу сказать за человека, но сомневаюсь, что человек, пишущий музыку, совсем ничего не чувствует. Он же не робот

                                  У вас опять циклическое определение. "Я сомневаюсь, что человек, пишущий музыку, совсем ничего не чувствует, потому что он не робот", и при этом "робот не может писать музыку, потому что он ничего не чувствует". Так вот, я вам скажу честно: я сильно больше одного раза писал музыку, когда единственным ощущением от этого процесса было удовлетворение от решения задачи.


                                  Где серьёзные жизненные приложения?

                                  А что такое "серьезное жизненное приложение"? Возможность глухому англоговорящему говорить с китайцем, когда приложение на телефоне понимает английскую речь глухого (поверьте, человеку это очень сложно), потом озвучивает ее по-китайски, потом воспринимает китайский и воспроизводит его в тексте на экране — это достаточно серьезное жизненное приложение? Автоматическое субтитрование конференции в реальном времени на пять, что ли, языков — это серьезное жизненное приложение?


                                  Почему тогда нет реально ощутимых успехов?

                                  Вопрос ваших критериев "реально ощутимых успехов".

                                    0
                                    я сильно больше одного раза писал музыку, когда единственным ощущением от этого процесса было удовлетворение от решения задачи.
                                    Так Вы этим только подтверждаете тезисы статьи. У Вас есть эмоции, мотивация — психические процессы, которые сподвигли Вас на интеллектуальную деятельность. Да, написание музыки, получение удовольствия, эмоции — это естественно тоже интеллектуальная деятельность. Или Вы под интеллектом понимаете исключительно решателя задач? Тогда тем более почему он до сих пор не создан, если ему не нужна всякая чепуха вроде эмоций и удовольствия?

                                    Вопрос ваших критериев «реально ощутимых успехов».
                                    Мне кажется это очевидным. Надёжные практические приложения для пользы людей, которые можно продавать и зарабатывать (в капитализме всё-таки живём). Пример: письменный перевод текстов с одного языка на другой. Результат работы человека-переводчика можно продать. Результат работы гугл-переводчика? Машина-автопилот может, перемещаясь по улицам любого реального города, доставить пассажиров и груз? А машина с человеком-водителем может. Вот и ответы. Элементарно, Ватсон. Как только люди получат безопасные, надежные, экономически-эффективные решения, удовлетворяющие их потребностям, я первым сниму шляпу. Я сам жду этого с нетерпением, и даже готов бы заниматься, но увиденные мною барьеры не позволяют мне потратить время на мой взгляд тупиковую деятельность. Вроде всё, что создаёт человек, направлено на удовлетворение этих критериев, нет? Но почему-то именно сфера ИИ окутана ореолом романтики, чаяний и т.п. моментов, так свойственных людям. Люди, особенно учёные, любят мечтать, фантазировать, искать жизнь на Марсе, ну Вы поняли :). Конкретные задачи неплохо бы решать: как выхлопные газы от автомобилей уменьшить. Может ИИ такую задачу решить?
                                      +2
                                      Так Вы этим только подтверждаете тезисы статьи.

                                      Не, не подтверждаю. Удовлетворение от решения задач — это обычное обратное подкрепление, котрое используется в машинном обучении.


                                      Тогда тем более почему он до сих пор не создан, если ему не нужна всякая чепуха вроде эмоций и удовольствия?

                                      А почему универсальная теория вселенной еще не создана? Ей тоже не нужна всякая чепуха вроде эмоций и удовольствия.


                                      Надёжные практические приложения для пользы людей, которые можно продавать и зарабатывать

                                      А, так этого добра навалом. Анализ аномалий, категоризация, кластеризация, распознавание образов, распознавание речи — уже здесь.


                                      Результат работы человека-переводчика можно продать. Результат работы гугл-переводчика?

                                      Ну да. В Евросоюзе давно используется для перевода законов. Да ладно, Евросоюз: я ежедневно вижу, как коллеги им пользуются для разных задач.

                                        –1
                                        Удовлетворение от решения задач — это обычное обратное подкрепление
                                        Я всегда хотел спросить у специалистов в области ML: вы правда в это верите? Вот прям искренне, в глубине души, верите в то, что «Удовлетворение от решения задач — это обычное обратное подкрепление»?

                                        А почему универсальная теория вселенной еще не создана?
                                        Так там никто хайпа в виде чемпионатов по го и не разводит. Тихо себе работают, что-то пытаются там на коллайдере воссоздать. Ну бывают журналистские сенсации, не более. Так где ж их нет. А тут ведь прям «впаривают». Разработали голосового помощника. Да этой программе до голосового помощника как мне до луны пешком.

                                        А, так этого добра навалом. Анализ аномалий, категоризация, кластеризация, распознавание образов, распознавание речи — уже здесь.
                                        Именно поэтому в Китае робот выставил штраф фотографии. Я тут ссылку приводил, Вы смотрели? Это, по-вашему, — хороший пример практического использования? Я тут на днях тестировал как раз распознавание образов от очень и очень известной компании. Ввожу фотку с людьми, пересекающими (!) улицу. Читаю описание распознанного: люди идут вдоль улицы. Это — катастрофическая ошибка. Вдоль и поперёк — такая ошибка может стоить жизни.

                                        как коллеги им пользуются для разных задач
                                        Я им тоже пользуюсь. Но когда мне понадобится перевод, я обращусь в бюро переводов.
                                        Вы так и не привели ни одного примера, соответствующего критериям надёжности, безопасности и коммерческой пригодности.
                                          +2
                                          Вот прям искренне, в глубине души, верите в то, что «Удовлетворение от решения задач — это обычное обратное подкрепление»?

                                          Я верю в то, что это достаточная модель.


                                          Это, по-вашему, — хороший пример практического использования?

                                          Это хороший пример ошибки. Люди тоже ошибаются.


                                          Вы так и не привели ни одного примера, соответствующего критериям надёжности, безопасности и коммерческой пригодности.

                                          А, вот и аргумент истинного шотландца. Я не собираюсь подбирать примеры так, чтобы они соответствовали вашим (постоянно повышающимся) критериям.

                                            0
                                            Я верю в то, что это достаточная модель.
                                            Ок, понятно.

                                            Это хороший пример ошибки. Люди тоже ошибаются.
                                            Люди несут ответственность за свои ошибки. ИИ или его разработчики несут ответственность за ошибки ИИ?

                                            вашим
                                            У Вас другие критерии надёжности, безопасности, экономической эффективности? Какие же они? И да, если не хотите приводить примеров, не приводите, но и не требуйте примеров на свои вопросы от меня, так будет хотя бы честно ;)
                                              +1
                                              Люди несут ответственность за свои ошибки.

                                              Или не несут, а несут совершенно другие люди. Или вовсе организации.


                                              ИИ или его разработчики несут ответственность за ошибки ИИ?

                                              Определите, что значит "нести ответственность".


                                              У Вас другие критерии надёжности, безопасности, экономической эффективности? Какие же они?

                                              Ну так я написал рядом: для конкретной задачи надежным считается такой алгоритм, который ошибается не более одного раза из двадцати (а экономически эффективным — такой, который делает не менее половины предсказаний). Ну а требования к безопасности такие же, как к обычному ПО.

                                                0
                                                Определите, что значит «нести ответственность».
                                                Машина-автопилот сбила человека по вине водителя, кого привлекут к ответственности? В случае с водителем-человеком привлекут человека.

                                                ошибается не более одного раза из двадцати (а экономически эффективным — такой, который делает не менее половины предсказаний
                                                Неубедительно, откуда такие цифры? Т.е. если система ошибается макс в половине случаев, она уже эффективна? Я бы не купил такую систему :/. Я бы бесплатно монетку подбрасывал, чтобы получать хотя бы 50/50.
                                                  0
                                                  Машина-автопилот сбила человека по вине водителя, кого привлекут к ответственности?

                                                  Сейчас — компанию-производитель (насколько мне известно). У закона просто нет способов воздействия на автопилот.


                                                  Неубедительно, откуда такие цифры?

                                                  Из расчета потраченного времени.


                                                  Т.е. если система ошибается макс в половине случаев, она уже эффективна?

                                                  Нет, система эффективна, если для 100 проходящих объектов она делает суждение о 50 (об остальных она не делает суждения, оставляя их оператору-человеку), и из этих 50 — 48 правильные. В нашем, повторюсь, конкретном случае.

                                            +1
                                            Вы так и не привели ни одного примера, соответствующего критериям надёжности, безопасности и коммерческой пригодности.

                                            Мы вот тут для себя делали прототип системы классификации, так вот, там критерий успешности был очень простой: одна ошибка на двадцать предсказаний. Ну и что, вполне достижимое значение, даже на "традиционных" алгоритмах.


                                            Stay tuned for GA announcement, что называется.

                                              0
                                              Stay tuned for GA announcement, что называется.
                                              Дык в процессе. Всё пугаете :)
                          +1
                          Вот простой пример: может ли ИИ отличить живого кота от изображения кота, в том смысле, чтобы сказать, что этот кот — настоящий, а этот — нарисованный?


                          Думается, у человека с этим тоже проблемы могут быть. Вы отличите, например, профессиональный 3d рендер интерьера комнаты от натурной съемки?
                            0
                            Можно пример, ссылку? Я не знаю, что такое
                            профессиональный 3d рендер интерьера комнаты
                            . И потом, пример искусственен. Я про обычные фото и изображение обычного кота.
                              0
                              KKKKKKKKKKKKКKKKKK
                              Где тут кириллица, а где латиницa?
                                0
                                Без понятия. А в чём суть вопроса?
                                  +1
                                  Вы говорите, что ИИ спутал фотку с реальностью. И что? Вы лучше? Вы даже в простейшем примере не найдете где К а где К
                                    0
                                    Так соль в том, что мне это и не надо :) У человека нет кодировок. Будучи написанными на стене, для меня все эти буквы русский, а для француза — французские, а для китайца — китайские. Когда я говорил, что без понятия, я имел в виду, что не знаю, какая из них какому алфавиту принадлежит. Давайте я приму решение: здесь изображены несколько (лень считать) латинских букв «ка».
                                      0
                                      Суть в изображении. Пиксели в этих символах отличаются, а вы их не заметили. В более сложных задачах ошибки намного проще допустить. Где отличие человека от сложной машины?
                                        0
                                        От этого кто-то «умер»? В чём практическая польза распознавания букв «ка»?
                                          0
                                            0
                                            Перечитал ещё раз.
                                            Пиксели в этих символах отличаются, а вы их не заметили.
                                            Значит, эти пиксели несущественны, т.е. не мешают мне распознать эти символы как буквы «ка». Вот если бы среди них была буква «А», а я этого не заметил, вот это было бы странно.
                                              0
                                              Так же пиксели в фотографии несущественно отличаются от пикселей реального человека
                                                0
                                                А как ИИ отличает живого человека от его фотографии? Надо или не надо отличать фото человека на баннере от живого человека на дороге? Любой человек делает это на раз.
                                +1
                                image

                                это фотография реальных объектов, как вы считаете?

                                а насчет искусственности примера: я думаю, неплохой художник вполне может нарисовать муху на стене, которую кому-нибудь захочется прихлопнуть. Помню, аватарки такие были в моде, когда кажется что по экрану мошка ползает и рука тянется смахнуть, а это гифка нарисованная.

                                Разве человеку не присуще то, что мы обычно называем «обманом зрения»?
                                  0
                                  Подумал-подумал и принял решение: картинка нарисованная. А с мухой, да, было прикольно :)
                          0
                          Собственно, весь смысл ИИ состоит в том, что, не повторяя психическую деятельность людей, он порождает знаки, воспринимаемые людьми именно за счет того, что люди во многом одинаковы (за счет того, что физически похоже устроены и учатся друг у друга) и одинаково воспринимают определенные знаки.

                          Не уверен, что это возможно. Как может что-то, не способное на психическую деятельность, порождать знаки, как раз и существующие, чтобы указывать на результаты такой деятельности? Это похоже на неупорядоченную стрельбу с закрытыми глазами в лесу в надежде попасть хоть во что-то или в кого-то, вместо того, чтобы осмысленно выискивать добычу и целиться в неё.
                          Как раз сейчас в такой фазе развития ИИ мы и находимся: компьютерная программа по заложенному человеком-программистом алгоритму выдает знаки, не несущие для самой программы никакого смысла, в надежде, что для нас эти знаки обретут смысл. Результаты такого подхода мы наблюдаем каждый день: translate.google.com/?source=gtx_c#view=home&op=translate&sl=ru&tl=en&text=%D0%9A%D0%BE%D0%BB%D1%8F%20%D0%BF%D1%80%D0%B8%D0%B1%D1%83%D1%85%D0%BD%D1%83%D0%BB.
                            +1
                            Как может что-то, не способное на психическую деятельность, порождать знаки, как раз и существующие, чтобы указывать на результаты такой деятельности?

                            Ну давайте разберемся. Математика и логические системы — это знаковые системы? Зачем существуют составляющие их знаки?

                              0
                              Несомненно. Как зачем? Фразу «я найду площадь пола этой комнаты, представив пол математической моделью прямоугольника и перемножив длину на ширину» я заменяю короткой и, что называется, crystal clear формулой S=ab. Четыре знака и работает для любого прямоугольника на плоскости, красота! Математика — это одна из самых крутых знаковых систем, которую мы только изобрели. Но т.к. математика — знаковая система, она позволяет работать только с моделями реального мира, но не с самими объектами. Выразить мысль (т.е. уже результат мышления) о наблюдении за реальными объектами с помощью математики можно, выразить сами объекты — нельзя. Запишите формулу мыслительного процесса. Пускай это будут сложнейшие системы дифференциальных уравнений или какие-то численные методы. Но их нет, во всяком случае, я о такой математике не слышал. Есть попытка — логика, но уже у Аристотеля видны противоречия. Проще говоря, не используем мы ту математическую логику, которую изобрели, в реальной жизни.
                                0
                                Фразу «я найду площадь пола этой комнаты, представив пол математической моделью прямоугольника и перемножив длину на ширину» я заменяю короткой и, что называется, crystal clear формулой S=ab.

                                Является ли это "результатом психической деятельности"?

                                  0
                                  Конечно :) Давайте разберёмся в терминологии. Постановка и решение задачи — это мышление. А мышление — это один из психических процессов.
                                    +1

                                    При этом компьютеры — неспособные, по вашему утверждению, к психической деятельности — способны решать математические задачи. Порождать те самые "знаки" — в данном случае, цифры. Или вы хотите мне сказать, когда компьютер отвечает на вопрос "какова средняя сумма сделки за прошедший месяц" — это не решение математической задачи?

                                      –1
                                      Здесь принципиальная разница, разве Вы не видите? Компьютер «решает» задачу согласно заложенной в него человеком (!) программе. Сам бы он до этого додумался? А мы сами изобрели математику, сами. Компьютер сам ничего не изобретает, не решает и не порождает по своему усмотрению какие-либо знаки, он действует строго по заложенному в него алгоритму. Сам он начнёт подавать какие-то знаки, когда у него появятся мысли, мотивация и т.п. вещи, как у человека, да хотя бы как у дождевого червя — ждём результатов эксперимента OpenWorm. Компьютер — это инструмент, а мыслит человек. Лучшее, что мы придумали для вычислителей, — алгоритмы. Но у меня нет уверенности, что наше мышление только алгоритмично. Точнее, может показаться, что какие-то действия мы выполняем по алгоритму, а какие-то описать трудно или даже невозможно. Простейший пример. Перечислите все слова, которые вы знаете. Каков алгоритм решения этой задачи? То-то. А компьютер изначально создавался для решения алгоритмических задач, и эту задачу он решит за секунды, показав на экране весь свой словарь из файлика или памяти. Между интеллектом человека и тем, что сейчас называется ИИ, не то, что пропасть, там сингулярность.
                                        +1
                                        Здесь принципиальная разница, разве Вы не видите? Компьютер «решает» задачу согласно заложенной в него человеком (!) программе.

                                        Школьник тоже решает задачу согласно заложенной в него учителем программе.


                                        Сам бы он до этого додумался?

                                        Додумался бы школьник (да и взрослый, чего уж) до метода решения квадратных уравнений?


                                        Компьютер сам ничего не изобретает, не решает и не порождает по своему усмотрению какие-либо знаки, он действует строго по заложенному в него алгоритму.

                                        Докажите, что это утверждение неверно для человека.


                                        Простейший пример. Перечислите все слова, которые вы знаете. Каков алгоритм решения этой задачи? То-то. А компьютер изначально создавался для решения алгоритмических задач, и эту задачу он решит за секунды, показав на экране весь свой словарь из файлика или памяти.

                                        Это, простите, пример чего? Пример того, что человек справляется с рядом задач хуже компьютера?


                                        Но мы удалились от темы. Изначально вы утверждали, что "что-то, не способное на психическую деятельность, [неспособно] порождать знаки, как раз и существующие, чтобы указывать на результаты такой деятельности". На примере решения математических задач видно, что это утверждение неверно: компьютер получил знаки на входе, выдал другие знаки на выходе.


                                        Ну либо у вас другое определение "порождения знаков", но вы им с нами пока не поделились.

                                          0
                                          Додумался бы школьник (да и взрослый, чего уж) до метода решения квадратных уравнений?
                                          Интересный вопрос, кстати. Я думаю, что да, если есть соответствующая база (арифметика и методы решения уравнений первой степени), много времени и мотивация (например, перевезти школьника на необитаемый остров и заявить, что обратно он не вернётся, пока не найдёт решение).
                                            +1

                                            А я думаю, что не каждый.

                                              0
                                              Но и нельзя сказать, что никто.
                                              Тут вопрос в проценте. А именно, типично ли для человека решить такую задачу. Если больше половины испытуемых осилит, можно считать, что типично. (я ставлю на то, что больше половины осилит).
                                              0
                                              Думаю, нет, не додумался бы. Как говорится, хоть убей, но не полетит. Тут главное — не передёргивать во всех смыслах :) Путь развития науки — это долгий, сложный и тернистый путь. Квадратные уравнения пробовали решать ещё в Древнем Египте и Греции, формулу вывели в средние века. Может, помните такие фамилии как Виет, Кардано, Декарт и прочие средневековые зачинатели матанализа. Хотя матанализ зачинал ещё Евклид. Многие математики во всём мире решали эту задачу и в итоге решили. Аминь.
                                                +2
                                                Думаю, нет, не додумался бы. Как говорится, хоть убей, но не полетит
                                                Тогда в рассматриваемом смысле школьник не отличается от «тупого ИИ». Ведь
                                                мы сами изобрели математику, сами. Компьютер сам ничего не изобретает, не решает и не порождает по своему усмотрению какие-либо знаки
                                              0
                                              до метода решения квадратных уравнений
                                              Почитайте историю вопроса. Да, математики прошлого, гениальные люди нашли способ решать квадратные уравнения. Они именно что в ходе процесса мышления, мысля, делая умозаключения, смогли решить эту задачу.

                                              Это, простите, пример чего? Пример того, что человек справляется с рядом задач хуже компьютера?
                                              Нет, человек перестал считать в уме после изобретения абака, если не раньше, и тем самым превзошёл свои же невооружённые арифметические способности. Это пример того, что на существующих алгоритмических вычислительных системах невозможно решить все или даже часть задач, которые решает мышление, но при этом делаются попытки именно на таких системах воссоздать ИИ. Или переводчики и чат-боты работают на каких-то новых компьютерах? Расскажите, если знаете.
                                                0
                                                Почитайте историю вопроса. Да, математики прошлого, гениальные люди нашли способ решать квадратные уравнения.

                                                Это не отвечает на вопрос про любого человека.


                                                Это пример того, что на существующих алгоритмических вычислительных системах невозможно решить все или даже часть задач, которые решает мышление

                                                Не вижу, каким образом ваш пример это показывает.

                                                  0
                                                  Напишите программу, которая, зная все слова, какие есть в словаре, не может их перечислить в цикле, также, как не можете Вы. При этом при предъявлении слова Вы однозначно можете дать ответ, знаете ли вы это слово или видите в первый раз. Вот пример работы человеческого мышления. Напишите программу, моделирующую такую работу.
                                                    +1

                                                    Вашей задаче удовлетворяет любой лексический фильтр со стеммером. В частности, он узнает слово "окна", хотя в его словаре есть только слово "окно".


                                                    (Да зачем так усложнять, даже хэш-таблица удовлетворяет этому условию. И, кстати, человек тоже будет давать ложные срабатывания, как и хэш-таблица, поэтому в тестах на знание слов есть специальные проверки.)

                                                      +1
                                                      Честно говоря, вообще Вас не понял. Хэш-таблица, ложные срабатывания у человека. О чём Вы? Вот пример такого сеанса.
                                                      — semipro, назови все слова, какие знаешь.
                                                      — Эм… чайник, лыжи, ноут. Больше нет мыслей. Могу назвать слов двадцать, все — не могу, потому что сам не знаю, что знаю.
                                                      — А почему именно эти слова?
                                                      — Понятия не имею, просто пришли в голову.
                                                        +1
                                                        Вот пример такого сеанса.

                                                        Этот пример не соответствует задаче выше. Но не суть. Написать программу, которая имитирует ваш сеанс — еще легче.

                                                          0
                                                          Почему не соответствует? Задача: назвать все слова, которые Вы знаете. Я начал называть. Мог бы продолжить. Я не знаю, сколько мне нужно времени, чтобы назвать все слова, которые я знаю. И у меня нет алгоритма, который за конечное время извлечёт из моей памяти все эти слова.
                                                            0
                                                            Почему не соответствует? Задача: назвать все слова, которые Вы знаете.

                                                            Потому что задача была озвучена вот так:


                                                            "Напишите программу, которая, зная все слова, какие есть в словаре, не может их перечислить в цикле [...]
                                                            При этом при предъявлении слова Вы однозначно можете дать ответ, знаете ли вы это слово или видите в первый раз. [...] Напишите программу, моделирующую такую работу."


                                                            Ну то есть надо написать программу, которая может ответить, знает ли она конкретное слово, но при этом не может перечислить все слова, которые она знает. Тривиально.

                                                              0
                                                              Тривиально.
                                                              Код?
                                                                0
                                                                def get_definition(word):
                                                                  return definitions.get(stemmer.stem(word))
                                                                  0
                                                                  Нет, не засчитывается. С чего Вы взяли, что я буду перечислять основы слов вместо самих слов? Более того мне нужно применять усилия, вспоминать грамматику русского языка, чтобы выделять основы. Не годится. Я ведь могу просто так и парадигмы (о наличии которых неподготовленный человек не подозревает) перечислять. Как в анекдоте, где человек не знал, что всю жизнь разговаривает прозой.
                                                                  Кстати сюда же ещё одно не понятно на чём основанное наивное упрощение ИИ в отношении анализа естественных языков — почему-то считается, что слова, даже если у них одна основа/корень, несут одинаковый смысл. Это далеко не всегда так.
                                                                    +1
                                                                    С чего Вы взяли, что я буду перечислять основы слов вместо самих слов

                                                                    Ни с чего. Я, собственно, вообще не делал никаких допущений о том, что будете делать вы. В моем коде нет никакого перечисления.


                                                                    почему-то считается, что слова, даже если у них одна основа/корень, несут одинаковый смысл

                                                                    Я не знаю, кем так считается, лично я в своих разработках учитываю полисемию.

                                                                      0
                                                                      Ни с чего. Я, собственно, вообще не делал никаких допущений о том, что будете делать вы. В моем коде нет никакого перечисления.
                                                                      Я попросил создать программу, которая бы эмулировала поведение человека (в данном случае — называние слов). Не думаю, что обычный человек знает/помнит из школы, что такое основа слова.

                                                                      Я не знаю, кем так считается, лично я в своих разработках учитываю полисемию.
                                                                      А лично я не использую, и не знаю, кому бы она помогла. Может, не везёт просто :) Как думаете? И опыт коллег из других отделов, стран и континентов почему-то тоже отрицательный. В частности, LSA не работает.
                                                                      И что, Вы доказали, что методики, основанные на полисемии, это — пример интеллекта. Я дам Вам пример интеллекта: человек, в зависимости от задачи может либо учитывать, либо не учитывать полисемию и самое главное — решать поставленную задачу. Специалисты ИИ почему-то считают правильным подходом использовать полисемию. Откуда эти упрощения? Кто решил, что «is going» и «is gone» говорят об одном и том же. Это очень грубое упрощение. Если бы это было так, в английском языке не было бы активного и пассивного залогов.
                                                                        0
                                                                        Я попросил создать программу, которая бы эмулировала поведение человека (в данном случае — называние слов).

                                                                        Подождите. Вы просили программу, которая может ответить на вопрос, знает она слово, или нет. Эта программа отвечает ровно на этот вопрос. При этом она не способна перечислить все слова, для которых она ответит на этот вопрос положительно — это было второе условие вашей задачи. Всё.


                                                                        И что, Вы доказали, что методики, основанные на полисемии, это — пример интеллекта.

                                                                        А, что? Расшифруйте ваше утверждение, пожалуйста, я его не понимаю.


                                                                        Специалисты ИИ почему-то считают правильным подходом использовать полисемию.

                                                                        Какие "специалисты ИИ считают правильным использовать полисемию", и что такое "использовать полисемию"?


                                                                        Кто решил, что «is going» и «is gone» говорят об одном и том же.

                                                                        А кто-то решил? Для меня это новость.

                                                                          0
                                                                          Подождите. Вы просили программу
                                                                          Стоп. Вот мой пост:
                                                                          Напишите программу, которая, зная все слова, какие есть в словаре, не может их перечислить в цикле, также, как не можете Вы. При этом при предъявлении слова Вы однозначно можете дать ответ, знаете ли вы это слово или видите в первый раз.
                                                                          Единственно, на счёт цикла я неправильно выразился — не в цикле, а за конечное время. На пальцах: у меня/Вас/нас в голове хранятся слова русского языка (словарь в голове человека), и я/Вы/мы несомненно их знаем, т.к. пользуемся ими либо когда говорим, либо когда читаем, назовите/перечислите все эти слова, время пошло. То, что сегодняшний компьютер может распечатать любой файл, — тривиально, это и так понятно, его для этого и создавали. Можно ли создать программу для компьютера, которая бы моделировала такое поведение, как описано выше?

                                                                          Какие «специалисты ИИ считают правильным использовать полисемию», и что такое «использовать полисемию»?
                                                                          Так Ваше же:
                                                                          лично я в своих разработках учитываю полисемию

                                                                          А кто-то решил? Для меня это новость.
                                                                          Мне это тоже кажется странным, но вот в вики в статье про Lemmatisation чёрным по белому написано: «Lemmatisation (or lemmatization) in linguistics is the process of grouping together the inflected forms of a word so they can be analysed as a single item, identified by the word's lemma, or dictionary form… For example, in English, the verb 'to walk' may appear as 'walk', 'walked', 'walks', 'walking'… Lemmatisation is closely related to stemming… The word „walk“ is the base form for word „walking“, and hence this is matched in both stemming and lemmatisation.»
                                                                          Я не против этих процессов, но почему они являются частью анализа в компьютерной лингвистике? Почему компьютерная лингвистика, тоже разрекламированная как ИИ, допускает отбрасывание морфем, допускает такую потерю информации?
                                                                            0
                                                                            Можно ли создать программу для компьютера, которая бы моделировала такое поведение, как описано выше?

                                                                            Да, она выше. Могу вот, специально для вас, сделать маленькую доработку:


                                                                            def get_definition(word):
                                                                              return definitions.get(word)
                                                                                or definitions.get(stemmer.stem(word))

                                                                            Так Ваше же:

                                                                            (а) я не называю себя "специалистом ИИ"
                                                                            (б) я не говорю, что "использовать полисемию правильно"
                                                                            (ц) я написал, что я учитываю полисемию


                                                                            Я не против этих процессов, но почему они являются частью анализа в компьютерной лингвистике?

                                                                            Я так понимаю, вас не смущает, что в статье, которую вы же упоминаете, написано, что лемматизация используется в лингвистике (без слова "компьютерная"), и указано, зачем? Ну так вот, в компьютерной для того же: чтобы сгруппировать слова вместе.


                                                                            Почему компьютерная лингвистика, тоже разрекламированная как ИИ, допускает отбрасывание морфем, допускает такую потерю информации?

                                                                            Эмм. А кто вам сказал, что информация теряется? Никто же не мешает использовать результат лемматизации как дополнительный признак, а не замещающий.


                                                                            Более того, в NLP есть и более смешные решения, навроде того, когда результатом разбора предложения является функциональная структура (которая как раз частично и содержится в флексиях во флективных языках), нормализованные слова и то, как получить конкретную форму из нормальной. Иными словами, "went" из "I went" превращается в "V: go (active, past simple)".

                                                                              0
                                                                              stemmer.stem(word)
                                                                              Почему опять основы слов вместо самих слов?

                                                                              я написал, что я учитываю полисемию
                                                                              Вы опять цепляетесь за слова. Давайте по делу.

                                                                              используется в лингвистике (без слова «компьютерная»)
                                                                              А пример Вашего кода со стеммером — это лингвистика или компьютерная лингвистика? ;)

                                                                              Иными словами, «went» из «I went» превращается в «V: go (active, past simple)».
                                                                              Я ж не против, думаю, никто не против того, что это здорово, что мы а) развиваем лингвистику, б) выделили части речи и в) что-то там пытаемся на этот счёт придумать. Но это — изучение знаковой системы английского языка и возвращает нас к тезису статьи о том, что (цитирую):
                                                                              Знаковые системы – это средство кодирования и передачи наших мыслей, поэтому нам фактически ничего не остается, как изучать первые. Других способов в гуманитарных науках – лингвистике, психологии, социологии и смежных с ними – попросту нет.

                                                                              Временам глагола Perfect английского языка не соответствует ни одно время глагола в русском языке. Чтобы научиться правильно переводить Perfect, требуется основательная теоретическая подготовка, опыт переводов, понимание контекста, жизненный опыт в конце концов, и только после этого возможен хороший качественный перевод с одного языка на другой. Но при этом NLP, называя себя технологией ИИ, считает, что достаточно сопоставить корпусы, посчитать какие-то вероятности, векторы, и, вуаля, перевод готов. Это слишком наивный подход. И результаты такого подхода мы наблюдаем. Технологии традиционного машинного перевода также не справились с задачей пока.
                                                                                +2
                                                                                Почему опять основы слов вместо самих слов?

                                                                                Патамучта. Это решение не нарушает ни одного условия вашей задачи.


                                                                                Вы опять цепляетесь за слова. Давайте по делу.

                                                                                А это как раз по делу. Одно дело учитывать наличие явление, другое — всегда его (явление) использовать.


                                                                                А пример Вашего кода со стеммером — это лингвистика или компьютерная лингвистика?

                                                                                Ни то, ни другое. Просто весьма наивная программа.


                                                                                Чтобы научиться правильно переводить Perfect, требуется основательная теоретическая подготовка, опыт переводов, понимание контекста, жизненный опыт в конце концов, и только после этого возможен хороший качественный перевод с одного языка на другой.

                                                                                А откуда внезапно взялся перевод?.. Я каким-то образом говорил, что эта разметка используется для перевода?


                                                                                Но при этом NLP, называя себя технологией ИИ, считает, что достаточно сопоставить корпусы, посчитать какие-то вероятности, векторы, и, вуаля, перевод готов.

                                                                                Опять-таки: кто именно это утверждает, и почему его мнение меня должно как-то волновать? NLP — это вообще технология, она не может ничего считать.

                                                                                  –1
                                                                                  Это решение не нарушает ни одного условия вашей задачи.
                                                                                  Нарушает. Моя тёща не знает, что такое основа слов, но начать перечислять слова она может хоть сейчас.
                                                                                    +2

                                                                                    Ну и прекрасно. Моя программа никак не требует, чтобы ваша теща знала что-то про основы слов.


                                                                                    Покажите мне, какой пункт из изначального условия эта программа нарушает. Причем сразу, чтобы было понятно, с конкретным входом и выходом программы.

                                                                                      –1
                                                                                      Я просил слова, например, русского языка. Основа слова — это не слово.
                                                                                        0

                                                                                        Вы просили "дать ответ, знаете ли вы это слово или видите в первый раз". Я слегка это модифицировал, чтобы возвращалось определение слова (потому что так обычно делают в тестах на словарный запас), но сделать из этого ответ "да/нет", понятное дело, тривиально.

                                                      0
                                                      semipro Ха попались! Метод Кантора.
                                                      Гуглите Теорему Геделя или Машину Тьюринга.
                                                      А если серьезно, то это я сказал о задаче в общем.
                                                      А ваша задача намного проще. Ведь на самом деле никакая программа не может выписать свой алгоритм. Только print(File.nextString()), совершенно так же как и человек может прочитать словарь.
                                                      Как видно, поведение на 100% совпадает в вашей конкретной задаче и в пределе
                                                        0
                                                        Нет, перечитайте постановку задачи ещё раз. Не прочитать словарь, а назвать все слова «из головы». Напишите программу, которая бы это делала.
                                                          0
                                                          Так и для машины невозможно составить такую программу.
                                                          Если же вопрос про словарь, то человек и человек и машина спокойно могут прочитать сам словарь.
                                                          Хотя я и так знаю, что вы не поймете это, сразу видно вы и строчки кода не написали.
                                                            +1
                                                            Так и для машины невозможно составить такую программу.
                                                            Так об этом и толкуем, что алгоритмические системы вроде компьютера не способны решать такие задачи.

                                                            человек… спокойно могут прочитать сам словарь.
                                                            какой именно словарь человек может прочитать: бумажный или который у него в голове хранится?

                                                            сразу видно вы и строчки кода не написали.
                                                            Да что там кода, я и латинский алфавит-то не знаю, ага. Спасибо за переход на личности.
                                                              +2
                                                              С вами невозможно конструктивно рассуждать. Каждый раз меняете условия и правила.
                                                              Ваши слова:
                                                              Вот пример работы человеческого мышления. Напишите программу, моделирующую такую работу.

                                                              на существующих алгоритмических вычислительных системах невозможно решить все или даже часть задач, которые решает мышление

                                                              Я аргументирую, что ни человек ни машина не могут решить вашу задачу. А прочитать словарь может и человек и машина. Совпадение способностей на 100%.
                                                              Также 100% совпадение есть в отношении нерациональности поведения, ошибок в распознавании, формальности/неформальности, эвристики и тд. Я не вижу ни одного отличия человека от сложной машины
                                                                0
                                                                Вижу свои слова. В чём противоречие? Давайте задачу попроще. Сколько слов русского языка Вы знаете?

                                                                Я не вижу ни одного отличия человека от сложной машины
                                                                Это очень сильное и смелое утверждение. Главный вопрос: когда (если вообще) будет создана такая сложная машина?
                                                                  0
                                                                  Давайте не бросаться задачками, а говорить конкретно о различии между человеком и машиной.
                                                                    0
                                                                    Хорошо. Но давайте оставаться в рамках статьи. Статья о барьерах знаковых систем, с помощью которых сейчас пытаются создать ИИ, в частности с помощью такой знаковой системы как математика.
                                                                    А вот Вам кстати и пример различия между человеком и машиной. Компьютер может вести такую многочасовую дискуссию с человеком? Мне интересно, и не хочется останавливаться. Я благодарен всем оппонентам. С ботами я больше минуты не выдерживаю. Один раз общался минут 15 и то по концовке выявил паттерн в ответах: как только с моей стороны было вопросительное местоимение, сразу шла заглушка-огрызание в стиле «какая разница кто/какой/сколько...?» Ну типа бе-бе-бе сам дурак :)
                                                                      0
                                                                      Вы сказали, что вам интересно, и не хочется останавливаться. Я с вами согласен. Что вы думаете об искусственном интеллекте?
                                                                        0
                                                                        Моё мнение такое. Сегодня ИИ — это набор технологий, алгоритмов, методов и т.п. по обработке информации, имеющий ряд достоинств и недостатков, как и любая технология. Изобретателем и конечным пользователем этих технологий является человек. Это мнение я озвучил в статье.
                                                                        Повторю тезисы ещё раз. Несмотря на все достижения ИИ, существуют, на мной взгляд, объективные барьеры, два из которых я привёл в статье, не позволяющие эти технологии назвать интеллектом. Калькулятор — это устройство по обработке информации, но это устройство не пример интеллекта. Человек, знающий что он делает, и нажимающий кнопки на калькуляторе, — пример интеллекта. Обезьяна, хаотично нажимающая на кнопки, — не пример интеллекта. Все помнят «мартышку и очки»? Так это когда ещё классик уловил суть разумной деятельности.
                                                                        У устройств, на которых эти технологии применяются, нет психических процессов, схожих с человеческими. По этой причине результат работы таких систем весьма далёк от ожидаемых человеком результатов.
                                                                        Мне тут пишут, что ИИ возможен на чистом формализме и изучать физиологию человека нет нужды. При этом сам этот товарищ используется свой живой биологический головной мозг, а приложения, которые он создаёт, предназначены для опять же живых людей. Но почему-то эти факты во внимание не берутся. Если бы Вы разрабатывали системы взаимодействия между камнями, я бы не ставил таких требований на наличие психики, потому что камень — это неживая природа, и насколько нам известно, у него нет психики как у человека и животных. Я здесь хочу подчеркнуть, что не вся живая природа обладает психикой. У амёбы тоже нет психики. Психика — это процессы и продукты так называемой высшей нервной деятельности, присущей человеку и высшим животным вроде собаки или слона.
                                                                        Коль скоро мы разрабатываем технологию для взаимодействия с человеком, а именно его сознанием, его разумом, нам это нужно брать во внимание. Возможно, протокол взаимодействия между амёбами или камнями и можно описать с помощью логистической регрессии. Для моделирования интеллекта людей нужна, мягко говоря, не табличка синусов, а что-то гораздо более сложное. Как моделировать интеллект человека — вопрос открытый. Но уверен, что текущие технологии под собирательным названием ИИ — не есть модель интеллекта человека. Иначе они бы работали, как работает интеллект человека. Были бы правы и ошибались там, где прав и ошибается человек. Психический здоровый человек не может увидеть в небе слона, а ИИ может. Это не просто ошибка, это — концептуальная ошибка. Человек-пользователь, взаимодействующий с такой системой, делает вывод что система «не в уме», что она не понимает, не работает, в итоге разочаровывается в такой системе: товарищи, расходимся, ИИ нет, нас обманули.
                                                                        Поэтому либо признайте, что это — ещё не интеллект, либо уберите слово «интеллект» из названия этих технологий, и всё встанет на свои места. Скажите просто: мы разработали алгоритм предсказания выхода Y от входа X, плюсы такие, минусы такие, тут работает, а тут не работает. Синоптики всю жизнь предсказывают погоду, но они не называют это интеллектом. К чему этот хайп, что теперь ИИ готов заменить бухгалтера?
                                                                          +1
                                                                          Вы смотрите на калькулятор и переносите его свойства на все машины. Калькулятор это низкий уровень. Он не ищет незапрограммированные пути. Уже давно есть системы которые ищут. Вы очень зациклены на «нервной деятельности», но это только железо. А главное — выхлоп системы. Проводить сигналы может и железка и шестеренка и кирпич. А дальше ваша фантазия, собирай что угодно.
                                                                          А что с того, что систему собрали люди? То что вас родила мама не значит, что она автор этой статьи. Как иначе, по вашему, можно создать разумное существо без участия человека? Вы всегда покажете пальцем и скажете «это не работа ИИ это работа его автора», но это полнейший анропоцентризм.
                                                                            0
                                                                            Калькулятор это низкий уровень
                                                                            А с какого устройства начинается интеллект? Мне тут человек писал, что
                                                                            Компьютер вот прям своей материнской платой чувствует, что питание кончается?
                                                                            Ну да. Там есть датчик, датчик шлет сигнал.
                                                                            Т.е. если есть датчик, то этого уже достаточно, чтобы чувствовать? А мне кажется, тут интеллектом и не пахнет, а есть простой алгоритм, запрограммированный человеком: если уровень питания меньше n %, то показать надпись на экране. Это — порядок действий, заложенный инженером, направленный на то, чтобы — внимание (!) — человек, работающий с этим компьютер, увидев такую надпись, понял, о чём она, и предпринял соответствующие действия. Здесь — интеллект автора алгоритма и интеллект пользователя. Об интеллекте машины тут говорить не приходится.
                                                                            Теперь о чувствах. Мне показалось, что специалисты ИИ очень упрощённо и механистически понимают жизнедеятельность человека. Датчик принял сигнал, значит это — уже чувство? Да, нет. Чувство — это продукт осмысления информации, полученной от датчиков. Вашу кожу ежесекундно ударяют миллиарды молекул воздуха, но Вы этого не чувствуете. Датчики вроде на месте, а чувства осязания нет. Почему? А потому что мозг эту информацию отфильтровывает и не пропускает в кору — туда, где происходит осмысление взаимодействия со средой.

                                                                            А что с того, что систему собрали люди?
                                                                            Никто и не против. Но люди создают далёкие от совершенства вещи. Объясните, почему неустойчиво работающие вещи претензионно называют интеллектом?
                                                                              0
                                                                              У вас столько ошибок в методологии, что нет смысла что-либо объяснять
                                                                                0
                                                                                А Вы владеете какой-то методологией? Поделитесь, пожалуйста.
                                                            0
                                                            Не прочитать словарь, а назвать все слова «из головы». Напишите программу, которая бы это делала.
                                                            Несложно сделать имитацию, если заранее задаться такой целью. Мы снова приходим к вопросу, а ваш сосед, если его попросить назвать «слова из головы», действительно назовёт их из головы, или сымитирует это, воспользовавшись неизвестным вам алгоритмом? На основании чего вы дадите ответ на предыдущий вопрос?
                                                              0
                                                              Мы играем без подсказок, заглянуть ему некуда. Всё, что он скажет, будет результатом именно его мыслительных процессов. Даже если он будет хитрить, это будет результат его «хитрения». Ну если конечно, он не обладает телепатией, и кто-то не надиктовывает ему слова. Давайте без паранормальных явлений. Просто обычный диалог двух людей. Какое, например, у Вас слово будет первым? Я, например, пытаюсь играть по словарю. Пускай будет «абажур».
                                                                +1
                                                                То есть, можно бота натаскать на эту игру, бот будет отвечать невпопад разными словами, и вас это устроит?
                                                                  0
                                                                  Думаю, да. Но есть момент. Бота будет программировать человек, а он не знает, каким образом человек извлекает слова из памяти, поэтому смею предположить, решение будет основано на генераторе случайных чисел. А мы точно слова случайно из памяти извлекаем, когда играем в эту игру?
                                                                    0
                                                                    Можно проанализировать 100.000 партий живых людей, играющих в эту игру, и составить статистические закономерности, какой следующее слово обычно идёт за предыдущим, какие слова чаще используют те или иные социальные группы, и генератор случайных чисел запрограммировать не на равномерное распределение, а ровно на такое, которое показывали люди в исследованных играх.
                                                                      0
                                                                      Давайте. А потом придёт 100.001-й человек и сломает систему, назвав слово не по статистике.
                                                                        0
                                                                        Но вы не сможете определить, что новый игрок играет по другой модели, не построив у себя в голове модель на 100.000 сеансов. Такого расколоть может только машина с большей памятью, чем машина, против которой она играет.
                                                                  0
                                                                  В чем проблема ИИ сделать то же?
                                                                    0
                                                                    Давайте сделаем, я не против. Сделаете? Пришлёте работающую программу? Позволите ещё раз поменять правила игры? Теперь после каждого слова я хочу, чтобы участник придумывал объяснение, почему было названо то или иное слово. Пускай это даже будет враньём. Например: я сказал слово «абажур», потому что так зовут моего кота (хотя кота у меня на самом деле нет, или так зовут не моего кота).
                                                                      0
                                                                      Чтобы сделать, нет никаких принципиальных сложностей. Это просто дорого. Месяцы работы команды специалистов. Если бы гугл заинтересовался, и это по каким-то причинам дало ему сильный пиар, он бы без проблем потратил на это ресурсы.
                                                                        0
                                                                        сильный пиар
                                                                        Похоже, это ключевые слова в отрасли ИИ, спасибо, что Вы их сами озвучили.
                                                                        0
                                                                        сделайте адронный коллайдер у себя в подвале, тогда и поговорим.
                                                                          0
                                                                          Они не пиарщики, к ним вопросов нет. Ограничения и ошибки признают. А судя по комментариям здесь, ИИшники не признают ни ограничений, ни ошибок.
                                                                            0
                                                                            По вашему, у человека нет ограничений и ошибок
                                                                              0
                                                                              Есть. Какое это имеет отношение к озвученным мною барьерам?
                                                                                0
                                                                                У человека такие же барьеры. С помощью дискретных символов невозможно передать внутреннее состояние мозга. Понимание возникает только благодаря изоморфизму мозгов, а символы только запускают процесс. Читайте книгу «Гедель Эшер Бах», там этот вопрос как раз поднимался
                                                                                  0
                                                                                  Об этом и статья :). Знаковые системы не позволяют изучать мысли — только слова, которыми делается попытка их выразить. Я рад, что поднял вопрос на уровне Гёделя. Возьму с полки пирожок.
                                                                                    0
                                                                                    Тогда чем человек отличается от сложной машины? Витализмом?
                                                                                      0
                                                                                      Понятия не имею. На данном этапе человек != машина. Вы спросите, почему я так считаю. Исключительно из личного опыта. Ничего голословного, только факты моей работы с технологиями ИИ. У меня абсолютно нет никаких намерений в чём-то уличить или как-то опорочить ИИ, кто я такой для этого? У меня просто свой опыт на этот счёт, не более.
                                                                                      Пускай это прозвучит наивно, но человек мне представляется настолько сложной системой, что о доскональном его изучении даже говорить не приходится. Я немного знаком с работой нейробиолога, д.м.н К.Анохина. Он как раз пытается понять процессы в мозгу, изучая непосредственно мозг. Но те задачи, какие он ставит, кажутся фантастически-амбициозными. Всё впереди и очень нескоро. Впрочем, прогнозы — вещь неблагодарная.
                                                                                        0
                                                                                        Какие законы физики нарушает человек?
                                                                                          0
                                                                                          Никакие. Невозможно нарушить законы физики. Единственным условно известным случаем нарушения законов физики является Большой взрыв, когда не выполнялись такие законы физики как закон сохранения энергии. После «переходных процессов» законы не нарушались, всё более-менее стабильно. Ну там частицы всё время превращаются в друг друга, но речь же не об этом?
                                                                                            0
                                                                                            Следовательно человек есть сложная машина
                                                                                              0
                                                                                              Невозможно нарушить законы физики
                                                                                              Следовательно человек есть сложная машина
                                                                                              Я не берусь комментировать эту логическую цепочку, это к Аристотелю :).
                                                                                                0
                                                                                                Это к Декарту
                                                                                                  0
                                                                                                  Ок, и коньяку захватим ;)
                                          +2
                                          ИИ не знает, что такое страх

                                          не способное на психическую деятельность

                                          Условности без ясных определений. Вам кажется, что ИИ не способен, а ваш сосед — способен. Но посмотрите на него внимательно — вы уверены? Все его действия и слова — это результат мистической "психической деятельности" или конкретные "распознавание образов", "сопоставление с образцом", "подбор по контексту", "категоризация" и прочие, вполне объяснимые вещи?


                                          С одной стороны конечно интересен ещё один разговор о квалиа, но не с нуля же. Вы в статье не обозначили (или я пропустил), материально ли сознание на ваш взгляд. Если да, то утверждение "не способно на психическую деятельность" становится крайне шатким.

                                            0
                                            Где я писал, что мне кажется, что мой сосед способен? Я не уверен конечно. Я могу попробовать понять, о чём думает человек, что чувствует, если 1) он с помощью знаков передаст мне информацию об этом, и 2) мой декодер сможет эти знаки перевести в какой-то схожий мой опыт. Человек может меня обмануть, подав ложный знак, или я сам могу сплоховать и неверно его интерпретировать. А о каком собственном опыте мне сможет сообщить программа?

                                            результат мистической «психической деятельности»
                                            Это не мистика, это — то, что происходит у нас в голове, это — суть нашего существования, а у вычислительной системы пока даже близко ничего похоже нет, чтобы позволяло действовать, как мы.

                                            материально ли сознание на ваш взгляд. Если да, то утверждение «не способно на психическую деятельность» становится крайне шатким.
                                            Материально конечно. Сложные реакции, сложные физические процессы, которые нам только предстоит изучить и понять. Почему шатким? От того, что я не знаю, как устроено моё мышление, не означает, что моделирование его не требуется для создания сильного ИИ.
                                              +1
                                              Где я писал, что мне кажется, что мой сосед способен?

                                              Хм. То есть вы сомневаетесь? Тогда что вы вообще имеете ввиду под "психической деятельностью"?


                                              это — суть нашего существования

                                              Это — суть, но при этом вы не уверены, есть ли эта суть у вашего соседа?


                                              Если вы не понимаете тезис, попробую более четко.


                                              Утверждение "неспособен на психическую деятельность" ничем не обосновано, потому что сам термин не конкретный.


                                              Проверяется это, например, простым вопросом.
                                              У вашего соседа есть психическая деятельность?


                                              Если да, то почему вы уверены? Если нет, то почему? Если не знаете — скажите.

                                                –1
                                                То есть вы сомневаетесь? Тогда что вы вообще имеете ввиду под «психической деятельностью»?
                                                Конечно. Это недоказуемо однозначно. Теорему Пифагора я могу доказать, но (не предположить), а именно доказать, что мой сосед думает именно о чём-то конкретном, я не могу. Во всяком случае на данном этапе развития науки. Человек может подать истинный или ложный знак — сказать слово, принять позу («невербалка»), который я попробую интерпретировать. Не более того. Телепатией я не обладаю. Кто-то может доказать, что другой человек видит тот же самый красный цвет? Мы считаем, что воспринимаем среду примерно одинаково. Можно измерить кол-во там всяких палочек-колбочек и сделать вывод о том, что у кого их больше, тот и более насыщенный цвет видит. Но это — скользкая дорожка. Зрение — сложный когнитивный процесс, не ограничивающийся только сигналом на сетчатке. Может, мозг человека, у которого палочек-колбочек меньше, «домысливает» и получает картинку не хуже, чем у того, у кого их больше. И оба, если начнут друг другу объяснять, поймут, что видят одинаковый красный. Серьёзных работ по измерению параметров мышления или чувственного опыта я не видел. Тут просто люди в комментариях мне говорят, что раз наука не знает, что такое мышление и как его моделировать, то оно нам и не нужно для создания ИИ. Я с этим тезисом не согласен.
                                                Ошибаемся в анализе знаков конечно. Кто-то неверно истолковал намёк начальника, не получил повышение — его проблемы, естественный отбор. А другой правильно, и ему повысили зарплату. Т.е. знак от начальника был один, а интерпретация разная. Нормальная ситуация. Я говорю о том, что у компьютера вообще нет никакой интерпретации. Мы ошибку пытаемся исправить, чтобы не снижать степень адаптации к среде. А у ИИ какая мотивация по адаптации к среде. Кто-нибудь среду «жизни» ИИ анализировал? Всё, что я вижу, — это технологии обработки информации, которые стараются разрекламировать и продать под соусом «интеллекта». Компьютер научился понимать смысл текста! Компьютер скоро заменит всех переводчиков! Really? Зато особо не вижу деятельности по глубокому и предметному изучению сути вопроса. Видимо, потому что это не приносит быстрого возврата инвестиций. Встретил статью, от которой веет скепсисом в отношении текущих, уже ставших традиционными, подходов к ML. Ну правдой веет на самом деле.
                                                Термин «психическая деятельность», а точнее "психический процесс" — очень даже конкретен.
                                                  0
                                                  Термин «психическая деятельность», а точнее "психический процесс" — очень даже конкретен.

                                                  Да? Я вот пошел по вашей ссылке, а там никакой конкретики нет. Во-первых, само определение завязано на определение психики, а там написано "сложное явление", и большая часть определений вообще не допускает возможности небиологической психики. А во-вторых, "деление сознания на психические процессы условно, оно не имеет теоретического обоснования".

                                                    0
                                                    Да, это — сложное явление. Нам ещё изучать и изучать. Даже не брезжит.
                                                    не допускает возможности небиологической психики
                                                    Разработайте гипотезу небиологической психики, подискутируем.
                                                    деление сознания на психические процессы условно, оно не имеет теоретического обоснования
                                                    Если бы была теория, платы бы уже были спаяны, сигнал на осциллографах проверен, а этой статьи бы не было, т.к. был бы сильный ИИ у нас.
                                                      +1
                                                      Разработайте гипотезу небиологической психики, подискутируем.

                                                      Без определения психики это невозможно.


                                                      Если бы была теория, платы бы уже были спаяны, сигнал на осциллографах проверен, а этой статьи бы не было, т.к. был бы сильный ИИ у нас.

                                                      Неа, не было бы. Потому что согласно вашей ссылки небиологической психики не существует, а согласно вам, ИИ без психики невозможен — следовательно, ИИ невозможен.

                                                        0
                                                        Вы серьёзно считаете, что у психики нет определения? Ну это как минимум антинаучно, не находите? :) А моя ссылка — это истина в последней инстанции? Разработайте теорию, создайте действующую небиологическую психику, в чём проблема-то? И Ваша теория затрёт строчку в моей ссылке.
                                                          +2
                                                          Разработайте теорию, создайте действующую небиологическую психику, в чём проблема-то?
                                                          Проблема в том, чтобы проверить, подходит ли эта теория под ваше определение психики. Мысленный эксперимент: берём книгу по аналитической геометрии и приклеиваем к ней шильдик «теория небиологической психики». Как проверить, что это «психика» в том смысле, о которой вы говорите, если вы не даёте ваше определение психики.
                                                            –1
                                                            Я стараюсь оперировать общедоступными, общепринятыми, широко известными понятиями. Повторюсь, мы тут не научную статью разбираем. Надеюсь, под психикой я и Вы понимаем примерно одно и то же, а именно: совокупность сложных, откровенно говоря, пока малоизученных процессов, протекающих в центральной нервной системе людей и высших животных. Какое отношение процессы в центральной нервной системе имеют к книге по аналитической геометрии? Только если опосредованно: используя когнитивные способности — память, мышление, речь — т.е. элементы психики, и знаковые системы как их переносчики, мы можем попытаться прочесть и понять, о чём хотел сказать автор этой книги.
                                                              +2
                                                              Что с вас и вытягивал весь день ваш оппонент: совокупность сложных процессов, протекающих в центральной нервной системе людей и высших животных.

                                                              На этом можно заканчивать обсуждение, потому что согласно этому определению, не бывает никакой небиологической психики. И даже у пришельцев её нет, если они не животные.
                                                                –1
                                                                Это определение как-то запрещает создание новой психики? Когда и этой психики не было, амёбы плавали и всё. Кто знает, какие варианты психик нас ждут впереди? Может, всё-таки создадут компьютер, обладающий психикой, схожей по свойствам с человеческой. Почему бы нет? Но сейчас такого компьютера нет, ну я не слышал про такие машины.
                                                                  +2
                                                                  Это определение как-то запрещает создание новой психики?

                                                                  Конечно. Они не будут психиками, потому что не будут попадать под определение.

                                                                    0
                                                                    Это определение как-то запрещает создание новой психики?
                                                                    Ну вот мы создали новую психику, наклеив шильдик на книгу по аналитической геометрии. Так эта психика вам не подошла )))
                                                                      0
                                                                      Не вопрос, у этой новой психики есть мышление, память, эмоции?
                                                                        +1
                                                                        Определение этих терминов дадите? Поищем.
                                                                          0
                                                                          Гугл в помощь. Ну и научные труды можно почитать. Если по-быстрому — вики.
                                                              +2
                                                              Вы серьёзно считаете, что у психики нет определения

                                                              Я считаю, что вы не можете дать определения, которое могло бы позволить отличить проявления психики от проявлений не-психики. Иными словами, невозможно сделать формальный тест, который говорил бы, есть ли у агента психика.


                                                              Разработайте теорию, создайте действующую небиологическую психику, в чём проблема-то?

                                                              Проблема в том, что определение не сойдется.

                                                        +2
                                                        доказать, что мой сосед думает именно о чём-то конкретном, я не могу.

                                                        Вы подменяете мой вопрос (способен ли ваш сосед на психическую деятельность) каким-то своим (можно ли узнать, о чем конкретно думает ваш сосед) и отвечаете на ваш собственный вопрос. Вы так сделали уже дважды. Это нехорошо. Вы не видите разницы?


                                                        Я повторю вопрос. Способен ли ваш сосед на психическую деятельность? Просьба ответить именно на этот вопрос, а не на какой-то свой.

                                                          0
                                                          Отвечу коротко и ясно: да, способен.
                                                            0

                                                            Хорошо. Почему вы в этом уверены? Как вы отличили, что он способен, а нейросеть, играющая в доту — не способна?


                                                            Это важный вопрос. Нельзя просто сказать "я не наблюдаю мыслей в нейросети". У соседа вы мыслей тоже не наблюдаете, но уверены, что они есть. А у нейросети — нет. И более того, она к психической деятельности не способна. Если это ваше мнение — ваше право. Если больше чем мнение, то как вы определяете?

                                                              0
                                                              а нейросеть, играющая в доту — не способна?
                                                              Она не способна, потому что у неё нет мышления, эмоций, речи и т.п. Это — алгоритм, играющий в доту и больше ничего. Я повторю: я сильно не уверен, что процессы, отвечающие за наш интеллект, алгоритмичны.

                                                              Нельзя просто сказать «я не наблюдаю мыслей в нейросети»
                                                              Напрямую мы мысли не наблюдаем — только через проявления-знаки. И судя по этим знакам от ИИ, мысли там неадекватные. Может быть, дело во мне и я неправильно интерпретирую ответы ИИ. Может, я не прав и «Коля бухнул» действительно равно «Nick arrived»?
                                                0
                                                Знаковые системы несовершенны, но они – единственное, что дала нам эволюция для обмена продуктами психических процессов.
                                                ИМХО как-то очень неоднозначно определено. Нпр., прохожий на улице спросит: который час? Я взгляну на часы и отвечу: два. Кто породил знак «2» и знак (знаки?) «два»? А если ОС спросит: который час? И я введу с «клавы» 2?
                                                  0
                                                  Что имеется в виду под словом «породил»? Произнёс слова вслух? Человек. Придумал эти слова? Тоже человек. Поясняю свою мысль. Природа наделила нас возможностью изобретать знаковые системы и использовать их для целей взаимодействия со средой. Все цели нам неизвестны. Одна из очевидных — обмен информацией. Представим, Вы знаете, что сейчас время «два часа». Как рассказать об этом прохожему? Используя знаковую систему под названием «русский язык», в которой есть слова «два» и «часа». Мы не можем мысленного передать ему эту информацию без использования вполне конкретных слов. Сами слова неважны, поэтому так много языков на Земле. Можно использовать знаковую систему английского языка: «it's two p.m.» — смысл тот же. Я кстати часто вообще молча показываю свои часы :) Человек кивает головой, говорит спасибо и идёт дальше. Мне даже язык не приходится использовать.
                                                    0
                                                    Я посмотрел на часы, часы показали 2. Источник знака часы?
                                                      0
                                                      Да, конечно. Красный свет на светофоре — знак. Источник — светофор, устройство изобретённое человеком.
                                                        +1
                                                        Первая фраза Вашей статьи:
                                                        Знаковая система выступает в роли переносчика мыслей, идей, эмоций, переживаний, ощущений, организации памяти – продуктов психических процессов, протекающий, по представлениям современной науки, в головном мозге человека и высших животных.

                                                        Часы мыслят? Светофор переживает?
                                                        устройство изобретённое человеком.
                                                        Посмотрел на небо: солнце еще не встало, значит было раннее утро.
                                                          0
                                                          PS BTW с символом и знаком в философских и псих. науках большая и перманентная путаница — см., нпр., Лосев А. Ф., Проблема символа и реалистическое искусство: М.: Искусство, 1976, и еще, нпр., врач Гельмгольц придумал теорию иероглифов.
                                                            –1
                                                            Часы мыслят? Светофор переживает?
                                                            Нет конечно, не мыслят. Об этом и статья.

                                                            Посмотрел на небо: солнце еще не встало, значит было раннее утро.
                                                            Отличный пример протокола. Реакция на свет — процесс поглощения фотонов видимого диапазона электромагнитных колебаний в сетчатке, — которая со временем осмыслилась, до мысли «солнце встало — раннее утро — пора идти в поле на работу». У растений так и осталась реакцией, т.к. у них нет психики, т.к. у них нет центральной нервной системы.
                                                              +1
                                                              Получается что знаки не только «перенносят мысли», но и просто информацию, источником которой могут быть устройства (без ИИ) или явления природы. М.б. проще сказать, что знаки содержат разную инфу (в том числе и о мыслях)?
                                                                0
                                                                Нет конечно. Знаки — это продукт нашей разума. Они нам нужны для кодирования наших же внутренних процессов. У природы нет никаких знаков, они ей не нужны. Солнце не знает, что оно «встаёт», это человек сказал, потому что для него это важно. Нет «просто информации», поймите. Любые знаки, знакомые, незнакомые, мы интерпретируем. ИИ может быть источником каких-либо знаков, но они станут информацией, когда я на них посмотрю и осмыслю, т.е. переведу знаки в мысли, эмоции и т.п. вещи.
                                                                  0
                                                                  На часах нет знаков, пока я на них не смотрю, и светофор не горит, пока его никто не видит? Может и часы и светофор, и солнце, и всё остальное есть только в моем воображении? В философии это называют солипсизмом.
                                                                    0
                                                                    Почему нет? Есть конечно, и солнце есть и светофор горит. В этот вопросе я материалист. Но смысл этим знакам придаём мы. Собака видит часы, но не понимает, что на них. На них знаки, не имеющие для неё значения. А вот взгляд вожака стаи ещё как имеет.
                                                                    +3
                                                                    Наш разум абсолютно ни при чем. Разум вообще не обязателен для порождения знаков. Пчелы используют сложную знаковую систему для передачи весьма сложного объема информации — но мы не допускаем наличия у пчел разума.
                                                                    Можем ли мы считать генетический код порождением разума? Мы его просто открыли, но изобрели его не мы. Знаковая ли это система? Вопрос риторический.
                                                                    Разум способен создавать и использовать знаковые системы, но это не уникальная характеристика разума.
                                                                      0
                                                                      Разум вообще не обязателен для порождения знаков.
                                                                      Разум обязателен для порождения знаков, понятных других агентам коммуникации. Вы ИИ разрабатываете для людей или как вещь в себе? Мы же не говорим о двух генераторах псевдослучайных чисел, которые порождают какие-то знаки, которые не способен интерпретировать ни первый, ни второй из генераторов. Ну все помнят новость, как у Фейсбука боты друг с другом «общались». Хотя мне кажется, это было запрограммировано, чтобы шумиху в прессе создать. Они порождали знаки. Этот был пример интеллектуальной деятельности?
                                                                      мы не допускаем наличия у пчел разума
                                                                      А нам это важно? Мы разрабатываем ИИ для пчёл? И потом, может, у них есть пчелиный разум, который по нашим представлениям и не разум, но для них хватает, что общаться и выживать в среде.
                                                                        +1
                                                                        Разум обязателен для порождения знаков, понятных других агентам коммуникации

                                                                        Люди поняли танец пчел. Разум при этом у кого, у пчел?
                                                                        Люди поняли код ДНК. Это разум чей, ДНК?
                                                                        Для создания знаков разум не обязателен.
                                                                        Интересней вопрос, обязателен ли разум для интерпретации знаков.
                                                                        Пчелы вот прекрасно и без разума справляются.
                                                                        Я бы сформулировал разум, как способность к интерпретации любой произвольно взятой системы знаков.

                                                                        Мы разрабатываем ИИ для пчёл?
                                                                        И для них тоже. Вот только была статья про пчелиный стартап.
                                                                        А для чего вы разрабатываете ИИ?

                                                                          0
                                                                          Люди поняли танец пчел.
                                                                          Наверное, Вы хотели сказать, что люди попробовали изучать коммуникацию у пчёл и кажется, что теперь они понимают, о чём «говорят» пчёлы. Я не думаю, что люди поняли пчёл, люди друг друга-то часто не понимают.

                                                                          Пчелы вот прекрасно и без разума справляются.
                                                                          И снова. Откуда Вы знаете, что у пчёл нет пчелиного разума? А пчёлы думают, что у людей нет разума :)

                                                                          Я бы сформулировал разум, как способность к интерпретации любой произвольно взятой системы знаков.
                                                                          И люди, и пчёлы интерпретируют подаваемые между собой знаки, внутри вида естественно. Мне непонятны знаки пчелы, пчеле непонятны мои знаки.

                                                                          А для чего вы разрабатываете ИИ?
                                                                          Для людей. Например, стоит конкретная задача: даны 10 или 100 стр. текста, в нескольких предложениях объяснить, о чём этот текст, ну т.е. как школьники сочинение пишут, так и сделать, на «пятёрку», мне не нужно сочинение «троечника» или психически больного человека.
                                                                          Мне плевать на пчёл, меня интересуют прикладные задачи. В контексте выше описанной задачи пчёлы меня могут заинтересовать только в случае, если вдруг выясниться, что они могут помочь написать сочинение. Пока же помогает мне готовить подобные рефераты только моё собственное мышление, других вариантов я не знаю.
                                                                            0
                                                                            А с чего вы взяли, что ИИ будет для вас заниматься этой ерундой? Зачем ему это, если он психически нормален? И чтоб два раза не ходить, это пример именно олигофренного ИИ, если предположить, что вам это удалось. Немного клинически нетипичный, конечно, ну так на он и искусственный :).
                                                                              0
                                                                              А если я его найму на работу и буду платить тем, что для него ценно?
                                                                                0
                                                                                Так об этом и речь. Вам сначала нужно разработать его мотивацию и способ ее поддержания, а прикладных задач можно накидать сколько угодно будет.
                                                                                Я не знаю, но вдруг вы не читали Точку зрения

                                                                                Кстати, в слове Мультивак последние ак — это аналоговый компьютер ;).
                                                                                  0
                                                                                  Вам сначала нужно разработать его мотивацию и способ ее поддержания, а прикладных задач можно накидать сколько угодно будет.
                                                                                  А вот здесь вопрос интересный. С одной стороны, как я предположил в статье, нам нужно промоделировать наши же особенности, чтобы научить компьютер решать задачи с понятным для нас результатом, а с другой, я не хочу, чтобы компьютер был умнее меня :) и что-то там соображал помимо поставленной ему задачи.
                                                                                  Умение решать задачи и иметь разум — это увязанные вещи. Непонятно, можно ли создать такой ИИ, чтобы он решал для нас задачи на уровне наших требований к результатам решения, но при этом не обладал разумом, позволяющим ему, осознав себя, перестать хотеть решать задачи. Но не будем здесь скатываться в фантастику.

                                                                                  вдруг вы не читали Точку зрения
                                                                                  Не читал, сейчас прочитал, понравилось, спасибо.
                                                                                    0
                                                                                    я не хочу, чтобы компьютер был умнее меня :)

                                                                                    А я вас понимаю. Просто мне кажется, это несколько разные устройства — решатель и ИИ.
                                                                                    ИИ потенциально может быть именно что умнее нас — скорость прохождения сигнала и количество связей будут решать (хотя большой мозг != умный субъект, но все же при прочих равных).
                                                                                    Если мы сами формализуем требования к результату — то сможем создать и решателя. Беда в том, что вы хотите получать результат, который превзойдет ваши ожидания, условно говоря. Такой, чтоб вы могли воскликнуть, «Но черт побери, как, Холмс?»
                                                                                    И кто тут окажется умнее, вопрос…
                                                          0
                                                          дала нам эволюция

                                                          Вы уверены, что числа дала нам именно эволюция?

                                                        +1

                                                        Давайте так: варенье отдельно, мухи отдельно. Вы определите, что такое мышление, и что такое с смысл. И рамках этих определений будете утверждать: это возможно, а это нет. Если говорить о мышлении, как о корковых процессах, то рано или поздно их удастся симулировать. Если говорить о смысле, как о нечеткой категоризации, то это уже реализовано. А вот если мы подключаем эмоции — это уже другой разговор. Эмоции это основа смыслообразования, движок мышления. И чтобы их повторить, нужно что-то типа биоробота, а это уже совсем другая песня. Знаки- это вторичная система, и описывать ими первичную (я про эмоции) нелогично.

                                                          0
                                                          Вы определите, что такое мышление, и что такое с смысл
                                                          Мышление — психический процесс, в результате которого порождаются мысли, идеи, смыслы. Мысль — это продукт мышления. Если бы я знал, как устроено и как работает мышление, был бы миллиардером, изобретшим сильный ИИ :). Пока понятны только банальные вещи: психически здоровый человек порождает мысли, которые позволяют ему принимать более-менее успешные решения, направленные на улучшение его адаптации к среде. Каким образом это происходит, и как научить этому современные искусственные вычислительные системы, непонятно.

                                                          Если говорить о смысле, как о нечеткой категоризации, то это уже реализовано
                                                          можно примеры?

                                                          Эмоции это основа смыслообразования, движок мышления
                                                          думаю, что эмоции и мышление — это два психических процесса, протекающих совместно и несомненно оказывающих влияние друг на друга, но не не думаю, что эмоции — это движок мышления.
                                                            0
                                                            Мышление — психический процесс, в результате которого порождаются мысли, идеи, смыслы.

                                                            Here we go again. Что такое "психический процесс"? Что такое "мысли", "идеи" и "смыслы"?

                                                              0
                                                              Мы не знаем. Если бы знали, мир уже был бы другим. Мы могли бы их моделировать, создавать. Ну и СИИ бы уже был создан. Это тоже самое, что пока мы не узнали, что такое аэродинамическая сила, мы не смогли изобрести самолёт. И при этом считали бы, что самолёт может летать и без такой силы. Я искренне убеждён, что без наличия сэмулированных психических процессов и соответствующих им продуктов, СИИ невозможен. Я искренне не понимаю, как можно создать думающую машину, у которой нет мотивации, инстинктов и более сложных вещей. Психические процессы не обязательно должны быть точной копией человеческих, но они должны быть, хотя бы какие-то. Сейчас же никаких нет. Да много чего еще. Личность, характер, даже пол, без намёка на сексизм. Я как-то спросил у друзей: а ИИ, он мужик или баба? Ну посмеялись, чо :) Вот ИИ может посмеяться такой шутке?
                                                                +1
                                                                Мы не знаем.

                                                                А раз "мы не знаем", значит и определения вы дать не можете. О чем, собственно, и речь.


                                                                Психические процессы не обязательно должны быть точной копией человеческих, но они должны быть, хотя бы какие-то. Сейчас же никаких нет.

                                                                Для того, чтобы утверждать, что "что-то должно быть, но его нет", надо определить это "что-то". А сейчас вы говорите "у ИИ нет чего-то, что я не могу определить, но убежден, что у ИИ этого нет".

                                                                  0
                                                                  Именно так, учёные пока не знают, как устроена наша высшая нервная деятельность. Если специалисты в области ИИ знают, что им не нужно моделировать высшую нервную деятельность человека, где же тогда ИИ? Впрочем я знаю их любимый аргумент: дети тоже плохо говорят и не умеют водить машины, поэтому и ИИ пока такой детский. Мне тут на Хабре попадалась статья человека, который, как мантру, повторял фразу о том, что ему удалось создать ИИ с интеллектом 7-летнего ребёнка. Я же осмелюсь утверждать, что без моделирования высшей нервной деятельности, на статистиках и прочих «логистических регрессиях» ИИ не создать. Экспертные системы, SHRDLU, Prolog, сейчас вот нейросети и прочие deep learning-и с внимание… барабанная дробь… чат-ботами, ведущими «диалог», после которого возникает стойкое желание нажать 0 (переключить на оператора) и поговорить с человеком. Что дальше? Хочется спросить: результат где, ребят?
                                                                    0
                                                                    Если специалисты в области ИИ знают, что им не нужно моделировать высшую нервную деятельность человека, где же тогда ИИ?

                                                                    В разработке, очевидно же.

                                                                      0
                                                                      Отлично. Ждём-с. Без иронии. Но это не отменяет моих тезисов. Я Вам больше скажу. Если это произойдёт, у меня случится когнитивный диссонанс :) от того, что смогли создать ИИ, который не способен мыслить.
                                                                        0

                                                                        … а вы считаете, что мышление невозможно без моделирования высшей нервной деятельности человека?


                                                                        Впрочем, это риторический вопрос: формального определения мышления тоже нет, поэтому и сказать, возможно оно или нет в заданных условиях, нельзя.

                                                                          0
                                                                          Да, верно понимаете меня. Если мы хотим построить интеллект, который будет жить и трудиться в нашей среде, он должен обладать свойствами, присущими нам, нашей жизни, нашему разуму. Мы от него ждём этого. Если чат-бот не умеет шутить и действительно помогать, он не нужен. Если решатель не может помочь второкласснику решать задачки из учебника, он не нужен. Если машина-лингвист не может объяснить мне в паре предложений, о чём этот многостраничный текст, он бесполезен. Если автопилот не сможет безопасно ездить, он бесполезен. Что остаётся? Игра в шахматы? Ну хорошо, давайте играть в шахматы.
                                                                          Кстати почему авиакомпании до сих пор не внедрили автопилоты на взлёте-посадке? Там и светофоров нет, и другие участники дорожного движения не мешают. Вместо этого платят огромные зарплаты людям-пилотам.