Comments 18
Ошибочное мнение, что для создания ИИ нужно всего лишь желание, энтузиазм, время и инвестиции.
Прежде всего нужен гений (физический человек), как Эйнштейн или Бетховен.
У этих хипарей шансов нет на какой-то реальный КПД в этой области.
А игрушки ломать умеет любой киндер в детском саду.
Прежде всего нужен гений (физический человек), как Эйнштейн или Бетховен.
У этих хипарей шансов нет на какой-то реальный КПД в этой области.
А игрушки ломать умеет любой киндер в детском саду.
Вы знакомы с «этими хиппарями» лично или хотя бы читали их работы, чтобы делать категоричное заявление, что у них нет шансов? Или Ваше утверждение имеет преимущественно эмоциональную, а не информационную основу? Не берусь утверждать, что Гёрцель — гений, тем более уровня Эйнштейна, но он производит впечатление весьма умного и подкованного человека. Я встречал очень мало людей, которые бы, как он, с полуслова понимали и могли оценить новые идеи в этой области, требующие обширного или специфического бэкграунда. У него есть такой бэкграунд и в когнитивных науках (к примеру, один из его сотрудников, с которым мы общались, лингвист, который использовал одну из ранних книг Гёрцеля в своей диссертации еще в начале 1990-х), и в computer science. Так что у Гёрцеля есть как желание, время, энтузиазм и в какой-то мере инвестиции, так и собственные мозги и знания. Опять же, не берусь утверждать, что этого ему хватит для создания ИИ, но шансов у него всяко гораздо больше, чем у многих других людей, ставящих перед собой данную цель. Ну, и, не факт (хотя и весьма вероятно), что для создания ИИ нужен гений — может, эта проблема решается экстенсивно.
Хорошая статья, спасибо. Мало таких информативно объективных (чаще встречается повтор банальностей по поводу ИИ). Герцель уже гений, раз сумел доказать свою концепцию инвесторам и развить проект, о котором знают все, имеющие серьезное отношение к ИИ.
Теперь по делу. В большей степени успех зависит не от ресурсов корпораций. А от выбранной концепции, котрая может оказаться более продуктивной, чем остальные. Она в любом случае будет состоять из общеизвестных компонентов, которые перебираются комбинаторным способом всеми энтузиастами ИИ. Но перебор без ума — тупое занятие, надежда на случай. Вариантов перетасовки карт больше чем атомов на Земле как известно. Поэтому в большей степени это зависит от Гения в эпоху доступности информации, который догадается, какая комбинация нужна. Для этого не нужны корпорации, корпорации их покупают как Google купил DeepMind. И сам гугл с эппл, кстати, были созданы не в стенах больших корпораций. Вероятность одинакова как для корпораций, так и для «некорпораций», но последних просто больше…
Настоящий ИИ — это не обязательно воплощение в тело робота. Это как раз одна из реализаций. Сам ИИ может быть чисто лингвистическим например. Потому, что разум в том виде, которым обладаем мы, это именно «лингвистический ум», а точнее рекурсивная лингвистическая машина как система самопрограммирования действий. Только человека можно научить делать что-то новое для него, только рассказав ему это. Тело возможно необходимо для реализации концепции embodуing mind (телесного ума), развиваемый Лаккофф Дж. и Ко. в когнитивной психологии. Суть его кратко в том, что все наши репрезентации и ментальные концепции являются производными метафорами, базирующимися на простых пространственных и телесных представлениях. Но это не ограничение для ИИ, так как нам нужен не эволюционирующий ИИ, а конечный. А его можно создать на достигнутых концепциях, имея ввиду, конечно, их исходный «код».
Теперь по делу. В большей степени успех зависит не от ресурсов корпораций. А от выбранной концепции, котрая может оказаться более продуктивной, чем остальные. Она в любом случае будет состоять из общеизвестных компонентов, которые перебираются комбинаторным способом всеми энтузиастами ИИ. Но перебор без ума — тупое занятие, надежда на случай. Вариантов перетасовки карт больше чем атомов на Земле как известно. Поэтому в большей степени это зависит от Гения в эпоху доступности информации, который догадается, какая комбинация нужна. Для этого не нужны корпорации, корпорации их покупают как Google купил DeepMind. И сам гугл с эппл, кстати, были созданы не в стенах больших корпораций. Вероятность одинакова как для корпораций, так и для «некорпораций», но последних просто больше…
Настоящий ИИ — это не обязательно воплощение в тело робота. Это как раз одна из реализаций. Сам ИИ может быть чисто лингвистическим например. Потому, что разум в том виде, которым обладаем мы, это именно «лингвистический ум», а точнее рекурсивная лингвистическая машина как система самопрограммирования действий. Только человека можно научить делать что-то новое для него, только рассказав ему это. Тело возможно необходимо для реализации концепции embodуing mind (телесного ума), развиваемый Лаккофф Дж. и Ко. в когнитивной психологии. Суть его кратко в том, что все наши репрезентации и ментальные концепции являются производными метафорами, базирующимися на простых пространственных и телесных представлениях. Но это не ограничение для ИИ, так как нам нужен не эволюционирующий ИИ, а конечный. А его можно создать на достигнутых концепциях, имея ввиду, конечно, их исходный «код».
Спасибо за отзыв.
Однако утверждение, что «концепция в любом случае будет состоять из общеизвестных компонентов», все же дискуссионно. Может, на концептуальном уровне ничего принципиально нового уже не нужно (и то вопрос), но на уровне методов еще точно много чего не хватает.
Насчет лингвистики… В целом, да. Тело робота — это одна из реализаций. Чисто лингвистический — гипотетически возможно, но практически вряд ли реализуемо. Но это тема для отдельного большого разговора…
Насчет «конечного ИИ» не очень понятно. Не представляю себе необучающийся интеллект (а между обучением и эволюцией разница не очень большая).
Однако утверждение, что «концепция в любом случае будет состоять из общеизвестных компонентов», все же дискуссионно. Может, на концептуальном уровне ничего принципиально нового уже не нужно (и то вопрос), но на уровне методов еще точно много чего не хватает.
Насчет лингвистики… В целом, да. Тело робота — это одна из реализаций. Чисто лингвистический — гипотетически возможно, но практически вряд ли реализуемо. Но это тема для отдельного большого разговора…
Насчет «конечного ИИ» не очень понятно. Не представляю себе необучающийся интеллект (а между обучением и эволюцией разница не очень большая).
>Однако утверждение, что «концепция в любом случае будет состоять из общеизвестных компонентов», все же дискуссионно
Все мы говорим одними и теми же словами, но говорим совсем разные мысли. Я об этом. И как раз в том, что на концептуальном уровне ничего нового, и есть проблема. Методы создают возможности, но ни когда сами не создают решения. В остальном все как у Куна.
> Чисто лингвистический — гипотетически возможно, но практически вряд ли реализуемо.
Почему такие выводы? Как раз наоборот, если об интеллекте говорить как о рассуждении, а, скажем, не как о распознании образов, что умеют и животные, то это чисто «лингвистический ум», как собственно давно известно в когнитивной психологии. Мышление по Выготскому собственно и есть интериоризированная речь.
> а между обучением и эволюцией разница не очень большая
Вообще-то это совершенно разные вещи. Обучаемость, кстати, есть результат эволюции, Эволюционирующий мозг, даже в онтогенезе, еще ничего не может по сравнению с развитым мозгом. Его отличие именно в возможности обучаться через речь. Для этого нужны когнитивные структуры, которые и отличают разумный мозг от лягушачьего. И речь идет о повторе этих развитых когнитивных структур.
Все мы говорим одними и теми же словами, но говорим совсем разные мысли. Я об этом. И как раз в том, что на концептуальном уровне ничего нового, и есть проблема. Методы создают возможности, но ни когда сами не создают решения. В остальном все как у Куна.
> Чисто лингвистический — гипотетически возможно, но практически вряд ли реализуемо.
Почему такие выводы? Как раз наоборот, если об интеллекте говорить как о рассуждении, а, скажем, не как о распознании образов, что умеют и животные, то это чисто «лингвистический ум», как собственно давно известно в когнитивной психологии. Мышление по Выготскому собственно и есть интериоризированная речь.
> а между обучением и эволюцией разница не очень большая
Вообще-то это совершенно разные вещи. Обучаемость, кстати, есть результат эволюции, Эволюционирующий мозг, даже в онтогенезе, еще ничего не может по сравнению с развитым мозгом. Его отличие именно в возможности обучаться через речь. Для этого нужны когнитивные структуры, которые и отличают разумный мозг от лягушачьего. И речь идет о повторе этих развитых когнитивных структур.
> Почему такие выводы? Как раз наоборот, если об интеллекте говорить как о рассуждении, а, скажем, не как о распознании образов, что умеют и животные, то это чисто «лингвистический ум», как собственно давно известно в когнитивной психологии. Мышление по Выготскому собственно и есть интериоризированная речь.
Во-первых, рассуждения не обязательно вербальные. Шахматист находит лучший ход не за счет лингвистических способностей. Во-вторых, животные способны распознавать не любые (доступные человеку) образы. Многочисленные эксперименты с обобщением животными паттернов на кормушках с пищей показывает, какие классы образов принципиально не могут распознавать разные виды животных. В-третьих, существуют лингвистические саванты, языковые способности которых могут быть существенно выше средних, но аналитический интеллект которых сильно понижен. В-четвертых, ограниченные языковые способности есть и у животных. В пятых, даже если признать «лингвистический ум» основным, что отличает человека от животных (что в какой-то мере верно, но является сильным упрощением; имхо, различие более глубокое, а языковые способности — лишь одно из следствий этого различия), то никто не сказал, что «лингвистический ум» можно реализовать без значительной части того фундамента, который заложен еще в животных. Собственно, это последнее я исходно и имел в виду. Язык — это не только текст, синтаксис; это еще семантика и прагматика, скоординированность с внешним миром. Упрощенно говоря, мы можем вручную создать такую базу знаний, для которой эта скоординированность будет иметь место. Но, это и крайне трудоемко, и делает проблематичным для ИИ дальнейшее автономное обучение. Гораздо «проще», чтобы ИИ осваивал язык «естественным образом» (упрощенно говоря, как человеческий ребенок, хотя это не единственным путь). Работать только с текстом — это тупиковое направление…
> Вообще-то это совершенно разные вещи. Обучаемость, кстати, есть результат эволюции, Эволюционирующий мозг, даже в онтогенезе, еще ничего не может по сравнению с развитым мозгом. Его отличие именно в возможности обучаться через речь. Для этого нужны когнитивные структуры, которые и отличают разумный мозг от лягушачьего. И речь идет о повторе этих развитых когнитивных структур.
Вы говорите про конкретную реализацию. Я же говорю, что эволюция и обучение имеют одну и ту же (математическую) сущность. Да, реализация в природе у них разная (и то есть пересечения, скажем, на уровне иммунной системы; да и даже обучение естественных нейросетей иногда трактуется с нейроэволюционной перспективы). Но я имел в виду, что в рамках ИИ между эволюцией и обучением вообще почти нет какого-то барьера…
Во-первых, рассуждения не обязательно вербальные. Шахматист находит лучший ход не за счет лингвистических способностей. Во-вторых, животные способны распознавать не любые (доступные человеку) образы. Многочисленные эксперименты с обобщением животными паттернов на кормушках с пищей показывает, какие классы образов принципиально не могут распознавать разные виды животных. В-третьих, существуют лингвистические саванты, языковые способности которых могут быть существенно выше средних, но аналитический интеллект которых сильно понижен. В-четвертых, ограниченные языковые способности есть и у животных. В пятых, даже если признать «лингвистический ум» основным, что отличает человека от животных (что в какой-то мере верно, но является сильным упрощением; имхо, различие более глубокое, а языковые способности — лишь одно из следствий этого различия), то никто не сказал, что «лингвистический ум» можно реализовать без значительной части того фундамента, который заложен еще в животных. Собственно, это последнее я исходно и имел в виду. Язык — это не только текст, синтаксис; это еще семантика и прагматика, скоординированность с внешним миром. Упрощенно говоря, мы можем вручную создать такую базу знаний, для которой эта скоординированность будет иметь место. Но, это и крайне трудоемко, и делает проблематичным для ИИ дальнейшее автономное обучение. Гораздо «проще», чтобы ИИ осваивал язык «естественным образом» (упрощенно говоря, как человеческий ребенок, хотя это не единственным путь). Работать только с текстом — это тупиковое направление…
> Вообще-то это совершенно разные вещи. Обучаемость, кстати, есть результат эволюции, Эволюционирующий мозг, даже в онтогенезе, еще ничего не может по сравнению с развитым мозгом. Его отличие именно в возможности обучаться через речь. Для этого нужны когнитивные структуры, которые и отличают разумный мозг от лягушачьего. И речь идет о повторе этих развитых когнитивных структур.
Вы говорите про конкретную реализацию. Я же говорю, что эволюция и обучение имеют одну и ту же (математическую) сущность. Да, реализация в природе у них разная (и то есть пересечения, скажем, на уровне иммунной системы; да и даже обучение естественных нейросетей иногда трактуется с нейроэволюционной перспективы). Но я имел в виду, что в рамках ИИ между эволюцией и обучением вообще почти нет какого-то барьера…
> Но я имел в виду, что в рамках ИИ между эволюцией и обучением вообще почти нет какого-то барьера
Это не так. Развитие возможности обучаться и сама способность обучаться — совершенно разные вещи. Эволюция — это становление способности, появление возможности. Обучение — это использование этой возможности когда она уже есть.
> Многочисленные эксперименты с обобщением животными паттернов на кормушках с пищей показывает, какие классы образов принципиально не могут распознавать разные виды животных
А вы не задавались вопросом, каким образом человек научился различать больше чем какие-либо животные? Когнитивная наука отвечает, что как раз лингвистическим. Сначала человек научился их выделять за счет «второй сигнальной», потом обученная таким образом первичная зрительная система стала их различать. О чем я и писал выше — самопрограммирующийся ум через речь. Шахматисты — тоже самое. Они узнают паттерны ситуаций, которым сначала обучились по книжкам и рассказам тренера.
> существуют лингвистические саванты, языковые способности которых могут быть существенно выше средних, но аналитический интеллект которых сильно понижен/
Ну это клинический случай, ничего не подтверждает. Есть такие повреждения височной, что человека вообще трудно остановить, чтоб он не болтал. Причем тут то, что мы обсуждаем? Вербальная система естественно работает вместе со зрительной и прочими модулями (по Фодору). Но мы (разумные) отличается от тех, у кого такие же модули, только лингвитсическим. Причем не то чтоб самой способностью говорить, а именно рекурсивной речью — говорить об сказанном грубо говоря. Животные дальше холофраз не могут. Это про «в четвертых».
> никто не сказал, что «лингвистический ум» можно реализовать без значительной части того фундамента, который заложен еще в животных.
Но и обратного никто не доказал, что невозможен лингвистический ум без того фундамента, с которым он взаимодействует. Есть же слепо-глухонемая Скороходова, почитайте ее, очень поучительно. Хотя там есть опора на осязание все таки. Но такие программы как Ватсон показывают, что собственно зрения им или осязания не надо, чтобы ответить на вопросы. Чем не ответ на вопрос? И потом, уже достаточно хорошо известно, что зрительная и лингвистические зоны коры работают по одним и тем же принципам. И программируются по одним принципам — нейронными сетями. Это говорит о том, что концептуально, одна модальность вполне самодостаточно при притоке инфо из вне в ее же модальности.
> Язык — это не только текст, синтаксис; это еще семантика и прагматика, скоординированность с внешним миром
Семантика, это языковая же сущность, зависит от контекста, см. на тему дистрибутивной семантики. Прагматика — это семантика отношений говорящего и адресата, см. про модальную лексику, речевые акты и т.п. Тут нет ничего не языкового.
> Гораздо «проще», чтобы ИИ осваивал язык «естественным образом» (упрощенно говоря, как человеческий ребенок, хотя это не единственным путь).
В виду выше сказанного тут, это не обязательно так. И опять же, чтобы создать самолет, возвращаемся к рептилиям? Или птенцам самолетов? Нет, просто делаем самолет. Тут надо заметить известную вещь — чтобы создать замену лошади, не обязательно создавать копию лошади. Машина на нее не похожа, но возит быстрее. Так что вывод свой вы делаете рано…
И последнее замечание. Первичной средой искусственного интеллекта будет являться не материальная среда с горами и реками, а среда программная — информация на каком-то языке. МЫ сами усиленно оцифровываем мир, в сети все есть, так что ноги руки и глаза ему уже не нужны. И если вы посмотрите на то, как общаются люди, то даже тут мы с вами не по телефону, а текстом — это 90% общения! Наводит на мысли.
Это не так. Развитие возможности обучаться и сама способность обучаться — совершенно разные вещи. Эволюция — это становление способности, появление возможности. Обучение — это использование этой возможности когда она уже есть.
> Многочисленные эксперименты с обобщением животными паттернов на кормушках с пищей показывает, какие классы образов принципиально не могут распознавать разные виды животных
А вы не задавались вопросом, каким образом человек научился различать больше чем какие-либо животные? Когнитивная наука отвечает, что как раз лингвистическим. Сначала человек научился их выделять за счет «второй сигнальной», потом обученная таким образом первичная зрительная система стала их различать. О чем я и писал выше — самопрограммирующийся ум через речь. Шахматисты — тоже самое. Они узнают паттерны ситуаций, которым сначала обучились по книжкам и рассказам тренера.
> существуют лингвистические саванты, языковые способности которых могут быть существенно выше средних, но аналитический интеллект которых сильно понижен/
Ну это клинический случай, ничего не подтверждает. Есть такие повреждения височной, что человека вообще трудно остановить, чтоб он не болтал. Причем тут то, что мы обсуждаем? Вербальная система естественно работает вместе со зрительной и прочими модулями (по Фодору). Но мы (разумные) отличается от тех, у кого такие же модули, только лингвитсическим. Причем не то чтоб самой способностью говорить, а именно рекурсивной речью — говорить об сказанном грубо говоря. Животные дальше холофраз не могут. Это про «в четвертых».
> никто не сказал, что «лингвистический ум» можно реализовать без значительной части того фундамента, который заложен еще в животных.
Но и обратного никто не доказал, что невозможен лингвистический ум без того фундамента, с которым он взаимодействует. Есть же слепо-глухонемая Скороходова, почитайте ее, очень поучительно. Хотя там есть опора на осязание все таки. Но такие программы как Ватсон показывают, что собственно зрения им или осязания не надо, чтобы ответить на вопросы. Чем не ответ на вопрос? И потом, уже достаточно хорошо известно, что зрительная и лингвистические зоны коры работают по одним и тем же принципам. И программируются по одним принципам — нейронными сетями. Это говорит о том, что концептуально, одна модальность вполне самодостаточно при притоке инфо из вне в ее же модальности.
> Язык — это не только текст, синтаксис; это еще семантика и прагматика, скоординированность с внешним миром
Семантика, это языковая же сущность, зависит от контекста, см. на тему дистрибутивной семантики. Прагматика — это семантика отношений говорящего и адресата, см. про модальную лексику, речевые акты и т.п. Тут нет ничего не языкового.
> Гораздо «проще», чтобы ИИ осваивал язык «естественным образом» (упрощенно говоря, как человеческий ребенок, хотя это не единственным путь).
В виду выше сказанного тут, это не обязательно так. И опять же, чтобы создать самолет, возвращаемся к рептилиям? Или птенцам самолетов? Нет, просто делаем самолет. Тут надо заметить известную вещь — чтобы создать замену лошади, не обязательно создавать копию лошади. Машина на нее не похожа, но возит быстрее. Так что вывод свой вы делаете рано…
И последнее замечание. Первичной средой искусственного интеллекта будет являться не материальная среда с горами и реками, а среда программная — информация на каком-то языке. МЫ сами усиленно оцифровываем мир, в сети все есть, так что ноги руки и глаза ему уже не нужны. И если вы посмотрите на то, как общаются люди, то даже тут мы с вами не по телефону, а текстом — это 90% общения! Наводит на мысли.
Логический подход изъезжен вдоль и поперёк, всё сводится к исчислениям в формальных системах и экспоненциальному взрыву при попытке построить доказательство / вывести ответ из посылок.
Другой теории у нас, к сожалению, нет. Нужен прорыв, аналогичный работам начала 20-го века Геделя, Черча, Тьюринга. Поэтому исследователи пробуют, приходят в один и тот же тупик, бросают / переходят к другим подходам.
Другой теории у нас, к сожалению, нет. Нужен прорыв, аналогичный работам начала 20-го века Геделя, Черча, Тьюринга. Поэтому исследователи пробуют, приходят в один и тот же тупик, бросают / переходят к другим подходам.
Именно логический подход и порочен — в логике и проблема. Это выяснил еще Витгенштейн. И именно в сдвиге с парадигмы «логичного» и есть выход. Но это не нечеткое множество Заде или лямбда исчисление. Это все равно производные от логического подхода, попытка в его рамках вывернутся. Бесполезно. Нужна смена парадигмы. И уже есть основа для этого.
> Это не так. Развитие возможности обучаться и сама способность обучаться — совершенно разные вещи. Эволюция — это становление способности, появление возможности. Обучение — это использование этой возможности когда она уже есть.
Это просто слова. Речь слишком ограниченна, чтобы передавать более содержательные модели реальности. Вы строите одну словесную модель, в которой проводите жесткую границу между эволюцией и обучением. Я вижу общность этих процессов. Я же не отождествляю при этом биологическую эволюцию с человеческим обучением… В общем, спорить об этом — это спорить о словах, а не о сути.
> Шахматисты — тоже самое. Они узнают паттерны ситуаций, которым сначала обучились по книжкам и рассказам тренера.
Я вот как-то за год научился играть в го на уровне 1 дана, принципиально не читая никаких книжек, а только играя.
Да, язык — это эффективный способ накопления и передачи знаний через социум. Да, делать ИИ без доступа к языковому знанию — это равносильно тому, что пытаться воспроизвести интеллект всего человечества вместо одного человека. Но гипотеза о том, что «лингвистический интеллект» можно воспроизвести сам по себе и это даст полноценный интеллект, мне представляется очень сомнительной. У тех, кто занимается ИИ, есть слишком много оснований, чтобы увериться в ее методологической порочности…
> Но и обратного никто не доказал, что невозможен лингвистический ум без того фундамента, с которым он взаимодействует.
Согласен. Сейчас это вопрос выбора направления. Я знаю разработчиков AGI (того же Питера Восса), которые пытаются создать «лингвистический интеллект». Это их путь. Мой опыт и знания говорят о том, что он не слишком перспективный. Я могу ошибаться. Но сейчас дискутировать об этом бессмысленно. Такая дискуссия будет либо обменом мнений, где каждый останется при своем, либо должна быть очень длительной и более интерактивной, чем возможно тут.
> Но и обратного никто не доказал, что невозможен лингвистический ум без того фундамента, с которым он взаимодействует. Есть же слепо-глухонемая Скороходова, почитайте ее, очень поучительно. Хотя там есть опора на осязание все таки.
Конечно, знаю. Но вот именно, что этот пример показывает, что без семантической опоры освоение языка невозможно, и чем эта опора слабее, тем сложнее «запустить» «лингвистический интеллект». Вы же предлагаете лишить ИИ еще и осязания, которое с трудом, но помогло там.
> Но такие программы как Ватсон показывают, что собственно зрения им или осязания не надо, чтобы ответить на вопросы.
Как раз программы типа Ватсона — это полный тупик. Они могут выдавать не многим более, чем фактическое знание. Не представляет ни малейшего труда им задать такие элементарные вопросы, на которые они не смогут ответить.
> И программируются по одним принципам — нейронными сетями.
Ужас… Ну, на таком уровне, конечно, все просто…
> Это говорит о том, что концептуально, одна модальность вполне самодостаточно при притоке инфо из вне в ее же модальности.
В принципе — да. Если мы создаем универсальный интеллект, то, гипотетически, он сможет по текстовой информации восстановить модель окружающего мира и корректно ее использовать. Но на практике это крайне неэффективный путь. Без внесения нужных приоров процесс обучения такого интеллекта будет крайне трудоемкий. Ну, и проблема в том, что те, кто работает в рамках подхода по воспроизведению «языкового интеллекта» без опоры на другие модальности, зачастую даже не пытаются наделить свое детище такими способностями. Именно поэтому я говорю, что этот путь не неверен вообще, а методологически порочен.
В общем, прошу извинить, но подобные дискуссии мне были интересны уже достаточно давно, а последние годы они мне кажутся достаточно пустой тратой времени, так что на следующий Ваш комментарий могу не ответить…
Это просто слова. Речь слишком ограниченна, чтобы передавать более содержательные модели реальности. Вы строите одну словесную модель, в которой проводите жесткую границу между эволюцией и обучением. Я вижу общность этих процессов. Я же не отождествляю при этом биологическую эволюцию с человеческим обучением… В общем, спорить об этом — это спорить о словах, а не о сути.
> Шахматисты — тоже самое. Они узнают паттерны ситуаций, которым сначала обучились по книжкам и рассказам тренера.
Я вот как-то за год научился играть в го на уровне 1 дана, принципиально не читая никаких книжек, а только играя.
Да, язык — это эффективный способ накопления и передачи знаний через социум. Да, делать ИИ без доступа к языковому знанию — это равносильно тому, что пытаться воспроизвести интеллект всего человечества вместо одного человека. Но гипотеза о том, что «лингвистический интеллект» можно воспроизвести сам по себе и это даст полноценный интеллект, мне представляется очень сомнительной. У тех, кто занимается ИИ, есть слишком много оснований, чтобы увериться в ее методологической порочности…
> Но и обратного никто не доказал, что невозможен лингвистический ум без того фундамента, с которым он взаимодействует.
Согласен. Сейчас это вопрос выбора направления. Я знаю разработчиков AGI (того же Питера Восса), которые пытаются создать «лингвистический интеллект». Это их путь. Мой опыт и знания говорят о том, что он не слишком перспективный. Я могу ошибаться. Но сейчас дискутировать об этом бессмысленно. Такая дискуссия будет либо обменом мнений, где каждый останется при своем, либо должна быть очень длительной и более интерактивной, чем возможно тут.
> Но и обратного никто не доказал, что невозможен лингвистический ум без того фундамента, с которым он взаимодействует. Есть же слепо-глухонемая Скороходова, почитайте ее, очень поучительно. Хотя там есть опора на осязание все таки.
Конечно, знаю. Но вот именно, что этот пример показывает, что без семантической опоры освоение языка невозможно, и чем эта опора слабее, тем сложнее «запустить» «лингвистический интеллект». Вы же предлагаете лишить ИИ еще и осязания, которое с трудом, но помогло там.
> Но такие программы как Ватсон показывают, что собственно зрения им или осязания не надо, чтобы ответить на вопросы.
Как раз программы типа Ватсона — это полный тупик. Они могут выдавать не многим более, чем фактическое знание. Не представляет ни малейшего труда им задать такие элементарные вопросы, на которые они не смогут ответить.
> И программируются по одним принципам — нейронными сетями.
Ужас… Ну, на таком уровне, конечно, все просто…
> Это говорит о том, что концептуально, одна модальность вполне самодостаточно при притоке инфо из вне в ее же модальности.
В принципе — да. Если мы создаем универсальный интеллект, то, гипотетически, он сможет по текстовой информации восстановить модель окружающего мира и корректно ее использовать. Но на практике это крайне неэффективный путь. Без внесения нужных приоров процесс обучения такого интеллекта будет крайне трудоемкий. Ну, и проблема в том, что те, кто работает в рамках подхода по воспроизведению «языкового интеллекта» без опоры на другие модальности, зачастую даже не пытаются наделить свое детище такими способностями. Именно поэтому я говорю, что этот путь не неверен вообще, а методологически порочен.
В общем, прошу извинить, но подобные дискуссии мне были интересны уже достаточно давно, а последние годы они мне кажутся достаточно пустой тратой времени, так что на следующий Ваш комментарий могу не ответить…
Возьмём, к примеру, робота-шахтёра. Ему зрение не нужно, возможно какие-нибудь сонары, датчики с «мышц», датчики давления с корпуса. Вероятно, вы считаете (могу ошибаться), что с таким набором датчиков его нужно создавать и обучать.
В то же время, я понимаю вашего оппонента, которому не интересно возиться со специфической землеройкой. Хорошо бы так: сделал универсальное текстовое ядро, перевёл сигналы с датчиков в текст и всё готово (ну, ещё загрузил пару книг по геологии и шахтёрскому мастерству).
Или другой момент: интеллектуальный агент, выполняющий поиск в интернете. Дадим ему зрение, чтобы загружаемые страницы рендерились в картинки, а потом он своим зрением обратно переводил их текст. Ну, не эффективно же.
В то же время, я понимаю вашего оппонента, которому не интересно возиться со специфической землеройкой. Хорошо бы так: сделал универсальное текстовое ядро, перевёл сигналы с датчиков в текст и всё готово (ну, ещё загрузил пару книг по геологии и шахтёрскому мастерству).
Или другой момент: интеллектуальный агент, выполняющий поиск в интернете. Дадим ему зрение, чтобы загружаемые страницы рендерились в картинки, а потом он своим зрением обратно переводил их текст. Ну, не эффективно же.
Все же не об этом речь
Наделяя ИИ зрением и слухом, мы двигаемся к созданию искусственного организма. Может, цели у подходов разные — кто-то хочет «чистый интеллект», а кто-то и на организм согласен.
Модель чистого универсального интеллекта уже имеется. Это AIXI Хуттера или ее более продвинутые варианты (типа машины Гёделя у Шмидхубера). Правда, почти все те, кто идут путем лингвистического интеллекта, как раз с универсальностью и рядом не лежали. Но заполнять «чистый интеллект» — задача вычислительно крайне ресурсоемкая. Условно говоря, это все равно, что воспроизводить всю эволюцию. Без введения соответствующего индуктивного баэса и приоров это бесполезно. Можно ставить задачу на введение модально-независимых приоров. В этом случае универсальный интеллект будет способен сравнительно быстро (по сравнению с индуктивно несмещенным) осваиваться с любой новой модальностью. Хотя будет ли это «сравнительно быстро» практически применимо — тоже дискуссионный вопрос…
> Речь слишком ограниченна, чтобы передавать более содержательные модели реальности
Это заблуждение. Речь так же мощна в «изобразительном» смысле как и зрение. Просто одно более развито так как зародилось раньше. Но речь развивается быстрее. А принципиально, повторю еще раз, эти модальности реализуются при помощи одних и тех же методов. Только в зрительной коре линии и цвет служат первичными перцептивными паттернами, а в речи — фонемы. Возможности того и другого для передачи сложных конструкций одинаковые. Отличие только в том, что слова — это «вторая сигнальная», а зрение — первая. Но я уже писал о среде, в которой придется оперировать AI.
> Я вот как-то за год научился играть в го на уровне 1 дана, принципиально не читая никаких книжек, а только играя
Вы при этом хотите сказать даже не рассуждали внутри себя? ) Внутренняя речь все равно присутствует. Или вы даже не бормочите про себя? )
> У тех, кто занимается ИИ, есть слишком много оснований, чтобы увериться в ее методологической порочности…
Приведите парочку хотя бы. Я как раз этим занимаюсь непосредственно, будет любопытно узнать, но только от тех «кто занимается ИИ». Пока приведенные аргументы говорят об обратном.
> Как раз программы типа Ватсона — это полный тупик.
C этим согласен. Строго говоря там не рассуждения. Но это не важно для затрнутого вопроса «лингвистического ума». На вопрос можно ответить не имея представления другого кроме лингвистического. Это важно.
> Ужас… Ну, на таком уровне, конечно, все просто…
По этой фразе видно, что вы просто не в теме. А я как раз работаю с такими технологиями в зрительной (kuznech com) и лингвистической (LSA). И там и там ОДНИ И ТЕ ЖЕ сверточные и рекурсивные NN. Дальше объяснять про «ужас»?
> Но на практике это крайне неэффективный путь. Без внесения нужных приоров процесс обучения такого интеллекта будет крайне трудоемкий.
Это вывод из опыта? Тогда хотя бы намекнуть на статью или проект, где такой вывод очевиден не только вам. У меня совсем другие выводы. Другая модальность для мозга — это опора для разрешения неоднозначностей при действии в реальном мире. Одно не хватает, это точно. Но когда речь идет о чисто «лингвистической» среде другой модальности просто не надо. Такой «ум» действует только в одной.Понимает текст и отвечает текстом. Все.
>на следующий Ваш комментарий могу не ответить
Вы же не знаете даже на что придется отвечать… или просто иная точка зрения не приемлема? Ваше право.
Это заблуждение. Речь так же мощна в «изобразительном» смысле как и зрение. Просто одно более развито так как зародилось раньше. Но речь развивается быстрее. А принципиально, повторю еще раз, эти модальности реализуются при помощи одних и тех же методов. Только в зрительной коре линии и цвет служат первичными перцептивными паттернами, а в речи — фонемы. Возможности того и другого для передачи сложных конструкций одинаковые. Отличие только в том, что слова — это «вторая сигнальная», а зрение — первая. Но я уже писал о среде, в которой придется оперировать AI.
> Я вот как-то за год научился играть в го на уровне 1 дана, принципиально не читая никаких книжек, а только играя
Вы при этом хотите сказать даже не рассуждали внутри себя? ) Внутренняя речь все равно присутствует. Или вы даже не бормочите про себя? )
> У тех, кто занимается ИИ, есть слишком много оснований, чтобы увериться в ее методологической порочности…
Приведите парочку хотя бы. Я как раз этим занимаюсь непосредственно, будет любопытно узнать, но только от тех «кто занимается ИИ». Пока приведенные аргументы говорят об обратном.
> Как раз программы типа Ватсона — это полный тупик.
C этим согласен. Строго говоря там не рассуждения. Но это не важно для затрнутого вопроса «лингвистического ума». На вопрос можно ответить не имея представления другого кроме лингвистического. Это важно.
> Ужас… Ну, на таком уровне, конечно, все просто…
По этой фразе видно, что вы просто не в теме. А я как раз работаю с такими технологиями в зрительной (kuznech com) и лингвистической (LSA). И там и там ОДНИ И ТЕ ЖЕ сверточные и рекурсивные NN. Дальше объяснять про «ужас»?
> Но на практике это крайне неэффективный путь. Без внесения нужных приоров процесс обучения такого интеллекта будет крайне трудоемкий.
Это вывод из опыта? Тогда хотя бы намекнуть на статью или проект, где такой вывод очевиден не только вам. У меня совсем другие выводы. Другая модальность для мозга — это опора для разрешения неоднозначностей при действии в реальном мире. Одно не хватает, это точно. Но когда речь идет о чисто «лингвистической» среде другой модальности просто не надо. Такой «ум» действует только в одной.Понимает текст и отвечает текстом. Все.
>на следующий Ваш комментарий могу не ответить
Вы же не знаете даже на что придется отвечать… или просто иная точка зрения не приемлема? Ваше право.
Извините, но по Вашему тону создается впечатление, будто Вы как раз думаете, что все знаете :)
Ваш стиль беседы мне показался не вполне корректным, чтобы имело смысл тратить время на ее продолжение.
Ваш стиль беседы мне показался не вполне корректным, чтобы имело смысл тратить время на ее продолжение.
Как раз нет, мне то ваша точка зрения интересна, и я отвечаю, вполне конструктивно и обосновано. Без «ужасов». Любая дискуссия с человеком в теме для меня ценна. А вы бесспорно глубоко в теме. Но у нас разный уклон. Я больше из лингвистики и когнитивистики. От этого разность во взглядах. Ничего страшного.
На всякий случай, поясню. Нежелание продолжать обсуждение к Вашей личности отношения почти не имеет (за исключением неуместных менторского тона и некой склонности к переходу на личности, что, правда, компенсируется наличием сильного бэкграунда). Желания дискутировать не было исходно (и вообще все это оффтоп), поскольку дискуссия между представителями разных подходов в конечном счете сводится к холивару на тему базовых отправных посылок, а там никакие аргументы не имеют силы, иначе бы все давно придерживались одного подхода. Сам формат форумной дискуссии требует много времени, чтобы выяснять разного рода недоразумения (а они из-за мультидисциплинарности возникают постоянно в этой теме). Нередко люди, споря, говорят практически одно и то же, но выясняется это очень не сразу. Иногда такие обсуждения полезны, потому что удается услышать что-то новое, но чем дольше в теме, тем меньше на это шанс (а когда в дискуссии тебе «сообщают» известные вещи как откровения, то это тоже демотивирует). В общем, последние несколько лет я нахожу продуктивным общение только с единомышленниками на «технические» темы. Как только мы в своем подходе упремся в непроходимый тупик, придется искать новый подход, и методологические обсуждения будут снова актуальны, но пока тупика нет. Я вовсе не утверждаю, что все знаю, но меня интересует сейчас заполнение пробелов в рамках конкретного направления. И пусть разные люди следуют разным подходам; больше шансов, что кому-то «повезет». Поговорить на другие темы, наверное, можно, но я предпочту для этого другой формат (оптимально — личная «доверительная» беседа). С тем же Гёрцелем, например, у нас далеко не полностью совпадают взгляды, но никакого желания прекращать беседу с ним при общении в реале не возникало (хотя большой пользы она тоже не принесла).
Насчет «ужаса» могу пояснить, но, боюсь, это выльется в длинную непродуктивную дискуссию на очередную холиварную тему. Лучше, я просто извинюсь за некорректное высказывание :)
Насчет «ужаса» могу пояснить, но, боюсь, это выльется в длинную непродуктивную дискуссию на очередную холиварную тему. Лучше, я просто извинюсь за некорректное высказывание :)
Sign up to leave a comment.
В логове Франкенштейна