Comments 6
Тут напрашивается цитата из статьи "Биология познания" У. Матурана:
Чтобы понять, как естественные языки возникли в процессе эволюции, надо выявить такую их фундаментальную биологическую функцию, которая в ходе естественного отбора могла бы их породить. До сих пор такое понимание было невозможно, потому что язык считали денотативной символической системой, предназначенной для передачи информации. Однако если бы биологическая функция языка состояла в передаче информации, то для того, чтобы он мог возникнуть в процессе эволюции, необходимо было бы предварительное существование функции денотации, из которой и могла бы развиться символическая система передачи информации. Но именно функцию денотации и требуется объяснить в первую очередь с точки зрения ее происхождения в процессе эволюции. Напротив, если признать, что язык коннотативен, а не денотативен, и что функция его состоит в том, чтобы ориентировать ориентируемого в его собственной когнитивной области, а не в том, чтобы указывать ему на независимые от него сущности, то очевидно, что усвоенные ориентирующие взаимодействия воплощают в себе функцию неязыкового происхождения, которая в условиях естественного отбора взаимодействий, способных применяться рекурсивно, может порождать в процессе эволюции систему ко-оперативных консенсуальных взаимодействий между организмами, то есть естественнный язык.
Вот эта статья действительно про ИИ. А не описание нейросетей под заголовком ИИ.
На мой взгляд самая главная мысль в статье это:
Суть проблемы, на мой взгляд, в том, что для понимания языка требуется
понимание мира. Машина же ограничена рамками языка и не может достичь
такого понимания. Подумайте, что нужно для понимания предложения
«Спорткар обогнал почтовый грузовик, потому что он ехал медленнее».
Нужно знать, что такое спорткары и почтовые грузовики, что автомобили
могут обгонять друг друга и что (на ещё более обобщённом уровне)
транспортные средства — это объекты, которые существуют и
взаимодействуют, что ими управляют люди со своими собственными целями.
Полностью согласен с автором. Большинство текущих сетей обучено на конкретные действия по ограниченной обучающей выборке.
Все истории про "обман" сетей нацеленных на распознование образов тому подтверждение. Ведь сеть обученная только на картинках, может только найти закономерность между цветами пикселей. А человек для понимания что расопложено на картинке как минимум строит у себя в голове трехмерное представление объекта и уже с учетом этого "понимает" что на изображении.
Получается если мы хотим получить ИИ соизмеримый с человеком, обязательно нужно пробовать сделать "общий" ИИ. И этот общий ИИ это не объединение узконаправленных сетей.
Нужно знать, что такое спорткары и почтовые грузовики, что автомобили могут обгонять друг друга
И при этом мы-то знаем, кто кого обгонит — но веди есть более сложные взаимозависимости: например, спорткар (это Porsche Cayenne, кстати), который тянет на прицепе лодку, и модифицированный (но не внешне) почтовый грузовик.
Нейронные сети, обученные языку - это на самом деле просто мозг по сложности меньше таракньего, пытающийся апроксимировать и имитировать осмысленную речь. На первый взгляд может показаться что он что-то понимает, но на самом деле понимает он не больше таракана.
Для того, чтобы получить понимание речи нам для начала нужен интеллектуальный агент, который сможет апроксимировать реальный мир (а не речь). Потом когда этот агент сможет принимать исходя из своей модели (апроксимации) эффективные решения в реальном мире не хуже высших животных, можно сделать следующий шаг - обучить его реагировать на символы, перенаправляя свое внимание на обозначаемые символами сущности. Потом это каким-то образом эта способность клисталлизуется в настоящую речь.
На этом пути есть две загадки.
Во-первых, это алгоритм обучения, способный сформировать подобного агента. В результате должна быть получена обученная сеть, способная по текущей ситуации предсказывать варианты будущего и выбирать оптимальную (по некой низменной заданной извне целевой функци) стартегию действий. Если для каждой текущей ситуации стратегия будет эффективной, можно сказать что сеть "понимает" что происходит. При этом в охватываемой моделированием области могут быть как неживые предметы, так и другие агенты, вклчюая людей. Преполагается, что именно пытаясь предсказывать поведение людей (и манипулировать им) агент может сравняться с ними по интеллекту.
Во-вторых, загадочным является возникновение такой тесно связанной с речью вещи как логика. Можно упрощенно представить, что агент расладывает весь мир в некое подобие ряда Фурье, дающее ему возможность предсказывать поведение мира в контексте целевой функции на любой момент в целом (низкие гармоники) и детально (высокие гармоники).
Это предсказание - вероятностное. Но в какой-то момент эта апроксимация может скатываться к выводам, которые агент знает совершенно точно. Хуже того, логика может быть абстрактной и вообще не относиться к объектам реального мира.
Здесь все гораздо интереснее чем в первом вопросе про алгоритм обучения. Здесь целый мир загадочных явлений в нейронной сети, который сформировался при эволюции мозга человека за какие-то пол миллиона лет или меньше. Но начинать с этого бессмысленно. Сначала нужно победить первую часть.
"Профессор в Институте Санта-Фе и автор работы «Искусственный интеллект: руководство для мыслящих людей» Мелани Митчелл делится соображениями о способности искусственного интеллекта к пониманию"
......
На мой взгляд - нет, какой бы изощренной ни была программа, Ватсон это или нашумевшая GPT-3, она НЕ ПОНИМАЕТ. Тут все, как с нейросетями: успех объясняется все более быстрой обработкой все большего количества данных - у такого подхода есть ограничения. Точно так же и с пониманием. Да, GPT-3 творит, на первый взгляд, чудеса, но если присмотреться - это все брутфорс и статистические выкладки по угадыванию последующих слов в словосочетаниях. Но связи слова, как "лингвистической модели Объекта" с самим Реальным Объектом и связей РО с прочими РО - нету. Так что все эти супер-пупер программы - это все та же "Китайская комната" на стероидах.
Мелани Митчелл: что для ИИ значит понимать?