Да там и начало — инфантильные розовые мечты, без оглядки на суровую реальность. Китай, допустим, положил на все 6 пунктов и прекрасно себя чувствует. Просто в одной песочнице деткам разрешают резвиться и играть в убер, чтобы не надоедали, а в другой — принуждают к производительному труду. Какая связь между убером и выигрышем в цивилизационной гонке — одному автору известно.
Никто не говорит о каком-то принципиальном ограничении машин. Конечно может, речь лишь том, что это будет за машина. Оторванный от среды вычислитель или воплощенный в среде автономный агент. И сегодня есть машины обосновывающие символ, если считать распознавание простейшим случаем обоснования. Например системы распознавания номеров автомобилей. Только, встав на этот путь, нужно идти до конца, реализовать и остальные чувства помимо зрения. Другая половина — это собственная активность. Как сказал один советский ученый: мысль — это свернутое действие, сам речевой акт — тоже действие. Поистине проще построить ИИ по образу и подобию своему, чем заставить невоплощенную в среде систему понимать то же, что и мы.
Да существуют узкоспециалированные решения, способные конкурировать с человеком, типа, той же системы распознавания номеров. Но ей по сути и не нужен наш опыт, он и нам не нужен в этой задаче, ибо номера от него слабо зависят. А вот в автоматическом переводе обоснованные символы — это то, чего крайне не хватает гуглу.
Мысль изреченная есть ложь — сказал поэт. Наша речь — это океан подразумеваемого, на поверхности которого торчат верхушки айсбергов — говоримых слов. Чтобы понять почему две верхушки оказались рядом, нужно нырнуть и узнать подводную часть льдов и течения. Извините за излишнюю образность, но нырять проще и правильнее, чем составлять таблицы вершин. Я сейчас написал вам абзац слов меньше килобайта, а в вашем мозгу возникли мегабайтные картины Антарктики и видео HD, вы нашли в них связи и смыслы, которые я хотел передать. Так мы и понимаем друг-друга. В самих по себе словах ничего из этого нет.
Спорный уже вопрос. Про Салли и Энн вот в Википедии нашлась статья «Модель психического состояния человека» (theory of mind), в самом конце которой описан забавный эксперимент, который вроде как показывает, что обезьяна вполне в курсе, что у кого на уме. Опять же знаменитые «зеркальные нейроны» не уникально человеческая штука.
Не суть. Вообще, я вдруг понял, что меня, как сторонника т. н. восходящего подхода к ИИ, как-то не особо интересовали некоторые вещи. Ну как, человек ведь вот рождается и у него есть мозг, способный принять язык, культуру и знания. Кажется задача создателя ИИ — это именно воссоздать такой мозг в железе, не более, остальное сделает обучение. Да, точно так же, как у людей — это выглядит наименее затратным путем. Поэтому у меня свое, досимвольное и функциональное определение самосознания. Это как некий театр в воображении, где развивается некое действие, в котором носитель этого мозга — главный герой и действие совершается от его лица. Определение довольно скудное, можно предположить, что большую часть времени братья наши меньшие находятся вообще без сознания, но оно есть и допускает развитие. Иными словами, пойми и сделай базу, остальное сделает воспитание.
Но! Нам действительно нужен некий языковый ad-hoc. Язык делает человека человеком, он просто форматирует мозг, дает онтологию и дает мыслям стой. В эту сторону я никогда особо не думал)
Парадокс Китайской Комнаты ничего такого не исследует. Он является критикой формальных символьных систем, которые переживали буйный расцвет в те времена, когда Сёрль писал свою работу. Он очень ловко указал на то, что символ и смысл совершенно не взаимозаменяемы. Если брать примеры из настоящего, то все мы прекрасно понимаем, что Google Translate или IBMWatson не бельмеса не понимают в том, что они «говорят». Они просто шерстят по базе, используют статистику и тому подобное. Именно поэтому Google переводит так, как он переводит, и это неразрешимая проблема в рамках слабого ИИ.
Эта проблема называется «symbol grounding» — обоснование (или даже «заземление») символа. У человека символ, например «мама», заземлен в его чувственном опыте, который не символьный и не формальный. Какое бы определение одного символа через другие вы не дали, оно будет ничтожным по сравнению с пережитым опытом.
Именно поэтому одним из контраргументов Китайской Комнате был робототехнический аргумент — робот воплощен в среде, он не просто оперирует навязанными создателями символами по законам логики, но и в состоянии через чувственный опыт построить связь между словом и смыслом, использовать эти несимвольные и неформальные связи смыслов, что и означает «понимать».
Сёрль не принял этот аргумент, но, следует отметить, что философы и айтишники вообще слабо понимают друг-друга из-за несовпадения понятийного аппарата. Однако, сегодня многие согласны с тем, что наличие тела является необходимым условием для построения сильного ИИ. Не отстает и когнитивная наука — см. «воплощенное познание».
Пожалуйста не воспринимайте мой комментарий, как критику вашего. Это просто возможность высказать те жидкие мысли и знания, которые на статью не тянут. Однако, не могу не заметить, что вопрос самосознания понимаю несколько иначе. Мозг, очевидно, моделирует мир, чтобы предсказывать события и действовать соответственно, а также реакцию мира на свои действия. Здесь просто неизбежно он вынужден моделировать и себя, как часть мира. Свои способности, возможности, шансы. Без этого моделирование мира попросту не имеет смысла. Вот эта модель себя в себе заземленная в теле — и есть самосознание. Тут нет никакой особой тайны, хотя техническая реализация безусловно столкнется с огромными сложностями. Я уверен, что приматы таки обладают субъективным сознанием, хотя и не таким ясным, как мы. Ведь нам повезло, у нас есть символы, которые служат точкой кристализации, в которой все сходится, и есть буква «Я», и мы умеем ими оперировать.
Не думаю, что расскажут, раз уж ящик все еще открыт для исследования)) Однако, просто для интереса, иногда игра известна, но это не имеет никакого значения. Посмотрите например, что может выйти из обычного rock-paper-scissors: http://dan.egnor.name/iocaine.html — когда игра настолько тупа, что в ней нечему учиться, боты начинают играть друг в друга, а это уже совсем другой уровень.
Тут вот: www.a-i.com/show_tree.asp?id=76&level=2&root=75 одна израильская компания лет 15 назад проводила подобный конкурс. Посмотрите как реализован интерфейс агент-игра, он на многих языках писать позволяет, да и самому для своего языка коннектор написать нет проблемы.
«But there are dreams that cannot be
And there are storms we cannot weather...»
Сколько еще успешных мечтателей знает автор, кроме гения в коротких штанишках с КДПВ, чтобы давать такие универсальные советы?
Думаю, для подсчета хватит пальцев одной руки. Воистину, свидетели Илона Маска живут в параллельной реальности.
И Nils J. Nilsson подписал… Настоящих буйных мало, вот и…
«Я хотел бы создать полностью автономных мобильных агентов, которые сосуществовали бы в мире с людьми и являлись в глазах людей разумными существами со своими собственными правами. Я буду называть таких агентов Существа.
Это моя интеллектуальная мотивация. Меня не особо интересует объяснение того, как устроен человек, хотя люди, как и другие животные, являются интересными объектами исследования в моем стремлении к цели, поскольку они являются успешными автономными агентами.
Меня не особо интересуют способы применения Существ. Мне кажется ясным, что если моя цель будет достигнута, то диапазон их применения будет ограничен только нашим (или их) воображением.
Меня не особо интересует философское осмысление последствий создания Существ, хотя очевидно, что будут значительные последствия.»
Rodney A. Brooks INTELLIGENCE WITHOUT REPRESENTATION
ASIMO — это робот из разряда резиновых баб, «а еще я вот как могу...» Просто, если раньше студенты делали роботов в виде холодильников с лампочками и магнитофоном внутри для всяких выставок, то теперь, когда подросли технологии, эти же постаревшие студенты делают ASIMO. Суть абсолютно та же.
С другой стороны, я уверен, что развитие роботов подобных BigDog рано или поздно поставит перед их создателями вопрос о мозгах. И автономный робот, имеющий цель не только совершить работу, но и выжить — это правильная отправная точка для размышлений о них.
Роботы на острие прогресса — это Бостон Дайнэмикс. ASIMO, PetBot — это какое-то говно, должно быть (я даже не гуглил), там нечего воспроизводить. В контексте статьи, забавно, что космонавтика прекрасно знает какой импульс нужно придать телу, чтобы повернуть его на определенный угол. Понятию обратной связи тоже сто лет в обед. Проблема в эффекторах и их энергообеспечении. Думаю, для начала, свободно маневрирующий отечественный робот моноцикл мог бы произвести не меньший вау-эффект, чем роботы поля боя, типа BigDog.
Не нужно быть таким падким на похвалу, которую зарубежный журналист попросту ввернул для нагнетания пафоса. Это ваше слабое место, на самом деле. Когда вас хвалят, оглянитесь — возможно, вас имеют в это же время))
Dennett, Daniel C. (1995). Darwin's Dangerous Idea: Evolution and the Meanins of Life — Ch 13, p 374.
Лучше бы вам оставить оригинальные названия (дарвиновские/скиннеровские/попперовские/грегорианские существа). Вот, «Адаптирующиеся устройства», например, вообще не звучит. По смыслу следует уточнять, что адаптирующиеся в онтогенезе, но тогда другой вопрос — почему адаптирующиеся именно методом подкрепления (скиннеровское обуславливание)? Павловский условный рефлекс — тоже адаптация, но без всякого эмоционального блока (павловское обуславливание как-то опущено, что у вас, что у Деннета)
Должно быть, нас ждет еще немало открытий на стыке наук, где, как известно, и происходит вся «движуха». Поймите меня правильно, я, в отличие от Леонтьева, не говорю о какой либо субъектности вообще. Я лишь достаточно лихо и самонадеянно переношу его определение на эволюцию и на амебу. Возможна ли цель без средства? Возможно ли средство без цели? — Это вопросы, от которых философия ушла в частности, хотя это глубоко философский вопрос. Зачем мы живем? Зачем, или почему? Может потому, что попросту можем (имеем средства)? Поиски смысла жизни имеют лишь один выход — замыкание цели не средство — живем, чтобы жить. И это не ментальный прием самоуспокоения, это так и есть «на самом деле», на мой взгляд. Думаю, что-то такое в частности и хотел сказать автор статьи. Нет божественного замысла, но механизмы эволюции способны навести на кого угодно иллюзию его. Так может нам следует расширить понятие цели, целенаправленности на все, что своими средствами достигает чего-то просто потому, что может?
И вот, в свете всего вышесказанного, у эволюции нет ни нужды, ни целеполагания, ни, конечно же, субъектности. Однако у нее есть цель в моем сугубо узком понимании этого слова, так как механизмы наличествуют.
Да существуют узкоспециалированные решения, способные конкурировать с человеком, типа, той же системы распознавания номеров. Но ей по сути и не нужен наш опыт, он и нам не нужен в этой задаче, ибо номера от него слабо зависят. А вот в автоматическом переводе обоснованные символы — это то, чего крайне не хватает гуглу.
Не суть. Вообще, я вдруг понял, что меня, как сторонника т. н. восходящего подхода к ИИ, как-то не особо интересовали некоторые вещи. Ну как, человек ведь вот рождается и у него есть мозг, способный принять язык, культуру и знания. Кажется задача создателя ИИ — это именно воссоздать такой мозг в железе, не более, остальное сделает обучение. Да, точно так же, как у людей — это выглядит наименее затратным путем. Поэтому у меня свое, досимвольное и функциональное определение самосознания. Это как некий театр в воображении, где развивается некое действие, в котором носитель этого мозга — главный герой и действие совершается от его лица. Определение довольно скудное, можно предположить, что большую часть времени братья наши меньшие находятся вообще без сознания, но оно есть и допускает развитие. Иными словами, пойми и сделай базу, остальное сделает воспитание.
Но! Нам действительно нужен некий языковый ad-hoc. Язык делает человека человеком, он просто форматирует мозг, дает онтологию и дает мыслям стой. В эту сторону я никогда особо не думал)
Эта проблема называется «symbol grounding» — обоснование (или даже «заземление») символа. У человека символ, например «мама», заземлен в его чувственном опыте, который не символьный и не формальный. Какое бы определение одного символа через другие вы не дали, оно будет ничтожным по сравнению с пережитым опытом.
Именно поэтому одним из контраргументов Китайской Комнате был робототехнический аргумент — робот воплощен в среде, он не просто оперирует навязанными создателями символами по законам логики, но и в состоянии через чувственный опыт построить связь между словом и смыслом, использовать эти несимвольные и неформальные связи смыслов, что и означает «понимать».
Сёрль не принял этот аргумент, но, следует отметить, что философы и айтишники вообще слабо понимают друг-друга из-за несовпадения понятийного аппарата. Однако, сегодня многие согласны с тем, что наличие тела является необходимым условием для построения сильного ИИ. Не отстает и когнитивная наука — см. «воплощенное познание».
Пожалуйста не воспринимайте мой комментарий, как критику вашего. Это просто возможность высказать те жидкие мысли и знания, которые на статью не тянут. Однако, не могу не заметить, что вопрос самосознания понимаю несколько иначе. Мозг, очевидно, моделирует мир, чтобы предсказывать события и действовать соответственно, а также реакцию мира на свои действия. Здесь просто неизбежно он вынужден моделировать и себя, как часть мира. Свои способности, возможности, шансы. Без этого моделирование мира попросту не имеет смысла. Вот эта модель себя в себе заземленная в теле — и есть самосознание. Тут нет никакой особой тайны, хотя техническая реализация безусловно столкнется с огромными сложностями. Я уверен, что приматы таки обладают субъективным сознанием, хотя и не таким ясным, как мы. Ведь нам повезло, у нас есть символы, которые служат точкой кристализации, в которой все сходится, и есть буква «Я», и мы умеем ими оперировать.
And there are storms we cannot weather...»
Сколько еще успешных мечтателей знает автор, кроме гения в коротких штанишках с КДПВ, чтобы давать такие универсальные советы?
Думаю, для подсчета хватит пальцев одной руки. Воистину, свидетели Илона Маска живут в параллельной реальности.
«Я хотел бы создать полностью автономных мобильных агентов, которые сосуществовали бы в мире с людьми и являлись в глазах людей разумными существами со своими собственными правами. Я буду называть таких агентов Существа.
Это моя интеллектуальная мотивация. Меня не особо интересует объяснение того, как устроен человек, хотя люди, как и другие животные, являются интересными объектами исследования в моем стремлении к цели, поскольку они являются успешными автономными агентами.
Меня не особо интересуют способы применения Существ. Мне кажется ясным, что если моя цель будет достигнута, то диапазон их применения будет ограничен только нашим (или их) воображением.
Меня не особо интересует философское осмысление последствий создания Существ, хотя очевидно, что будут значительные последствия.»
Rodney A. Brooks INTELLIGENCE WITHOUT REPRESENTATION
С другой стороны, я уверен, что развитие роботов подобных BigDog рано или поздно поставит перед их создателями вопрос о мозгах. И автономный робот, имеющий цель не только совершить работу, но и выжить — это правильная отправная точка для размышлений о них.
Лучше бы вам оставить оригинальные названия (дарвиновские/скиннеровские/попперовские/грегорианские существа). Вот, «Адаптирующиеся устройства», например, вообще не звучит. По смыслу следует уточнять, что адаптирующиеся в онтогенезе, но тогда другой вопрос — почему адаптирующиеся именно методом подкрепления (скиннеровское обуславливание)? Павловский условный рефлекс — тоже адаптация, но без всякого эмоционального блока (павловское обуславливание как-то опущено, что у вас, что у Деннета)