В приведенной цитате речь идет не о решении механической задачи путем проб и ошибок, а об ответе на вопрос «почему?». Не загонять ящик в угол — важное частное правило. Почему так нельзя делать? Правильный ответ — стоящий в углу ящик невозможно толкнуть. Сможем ли мы его получить, или получим что-то вроде «когда ящик оказывался в углу, игра всякий раз была проиграна»?
Человеку для его исключительной гибкости, адаптивности понадобились рефлексия и самосознание. Лишенные же этих свойств животные такой приспособляемости не проявили — как и созданные до сих пор машины. Поэтому как раз сомнительно, что без них она возможна.
> Совершенно не обязательно понимать, что за пределами этого виртуального поля с ящиками есть что-то ещё
Пионеры ИИ создали программы, успешно манипулирующие кубиками в виртуальном и реальном пространстве, около полувека назад. Кубиками успех этих программ и ограничился.
> Прелесть опенсурса в том, что каждый занимается примерно тем, что ему интересно — и так, как ему интересно. В итоге получается выбор для пользователя.
Выбор у пользователя действительно есть. И пользователь выбирает Windows или Mac.
Потому что распыление ресурсов в опенсурсе достигло такой степени, что любой изначально ладный дистрибутив Линукс в течение нескольких лет либо превращается в нелепый разнородный набор ПО, либо меняется до неузнаваемости. Ну и качество, конечно, должно очень страдать от этого — не будь распыления, развитие и доработка шли бы намного быстрее.
Я пробовал использовать Линукс дома с 2007 года. Я до сих пор его использую, постоянно, мне нравится. Но я регулярно кручу пальцем у виска в недоумении. Каждый раз мне подкидывают какую-нибудь мелкую, но очень досадную свинью, причем без всякой на то необходимости. Просто так им было интересно.
А причина в том, что вот это вот «каждый занимается примерно тем, что ему интересно» — на самом деле, плохо совместимо с альтруистическими идеями и идеалами свободного ПО. Либо ты работаешь на человечество, и тогда надо немного держать себя в узде. Либо занимаешься тем, что интересно, но тогда при чем тут идеалы?
Нет, не значит. Смотрите: физики хорошо представляют себе в общих чертах, как протекают термоядерные реакции синтеза — на Солнце, например. И уже довольно давно. Тем не менее, эффективный термоядерный реактор до сих пор не создан, и видимо не будет создан еще несколько десятилетий. Не потому, что мы не знаем деталей, или наша схема плоха — просто мы не можем создать тут маленькое Солнце, нам приходится изобретать другие способы. Так и с разумом: общая схема ясна, детали загадочны, механизм воспроизведения — не изобретен.
> У нас есть хорошее подспорье — понимание трехмерного пространства. Это кажется даже более важным для первоначального обучения.
Я согласен с тем, что отношения между объектами в трехмерном пространстве — это, во-первых, одна из самых первых вещей, которые учится усваивать ребенок. И, во-вторых — это база для понимания отношений между абстрактными концепциями путем аналогии (абстрактные концепции «входят» друг в друга, ветвятся как дерево и т.д.). Это действительно очень важный момент.
Но тут, пожалуй, упор не на «распознавании трехмерной формы объектов», а на распознавании отношений между ними. Можно, конечно, по краю объекта, который видно лишь частично, понять, что это за объект. Но еще важнее понять, что он чем-то заслонен.
> Когда эти фразы будут компьютером обрабатываться не как word2vec, а как трехмерные сценки, где трехмерные капли дождя падают на трехмерную крышу, то из этих фраз можно будет извлечь намного больше информации
Похоже, что вы все же не поняли меня. Трехмерная сцена не даст новую информацию. Напротив, чтобы воспроизвести такую трехмерную сцену, которая будет сходна с появляющейся в воображении читателя, всё равно необходима уйма дополнительной информации о мире.
Человек знает, что крыша не в вакууме парит. Она предполагает дом. Или же, возможно, это крыша автомобиля. Ясно, что крыша металлическая, потому что другие материалы не дают такого шума. Дождь, скорей всего, предполагает осень или весну, может быть — летнюю ночь. Но точно не зиму. (Это с точки зрения человека, живущего на севере). Описание, наверняка, сделано по ощущениям человека под этой самой крышей, или же возле дома, а не где-то в стороне.
Всё это настолько естественно, что мы даже не замечаем, какую огромную работу проделывает мозг, чтобы понять лишь одну фразу. Но это потому, что человек всю жизнь проводит в физическом мире и всю жизнь читает.
> нейросети довольно успешно распознают те же контуры машин и пешеходов в задаче робомобилей. И это не какое-то раскрашивание одних пикселей на основе других пикселей по алгоритму, внутри нейросети образуется образы этих объектов
Это классификация трехмерных объектов. Чтобы эта классификация была полезной, нужна информация о каждом из классов: что дома неподвижны, что автомобили могут ездить быстро, но обладают инерцией, а пешеходы движутся медленнее, но иногда по произвольным траекториям, и т.д. Сможет ли нейросеть выделить это знание? Или же проще заложить его самим?
> переводчик Google, который смог сносно переводить между двумя языками, на которых он не обучался, но сформировал внутри себя смыслы этих слов
Он не сформировал смыслы. Смыслы — это разносторонние модели объектов. Переводчик не имеет их. Он, возможно, сформировал отношения между всеми словами языка, но не более. А поскольку язык тоже моделирует реальный мир, может показаться, что переводчик обладает неким «пониманием». Но это не так.
> Что значит осознает себя, свои потребности? Мы не можем ответить на этот вопрос
Это значит «имеет модель себя», «имеет модель своих потребностей». На вопросы эти и многие другие ответы давно даны, на разный вкус и цвет. Если хотите ответов, которые не сводятся к хождению кругами — не читайте психологов, читайте Марвина Минского: The Emotion Machine и The Society Of Mind. Удивитесь: там очень многое есть.
> за прошедшие десятилетия не было создано на основе книг ничего настолько похожего к человеческим способностям, что демонстрируют глубокие нейросети. Нет алгоритма, способного после обучения по книгам, отличить на фотографии кошку от собаки.
В действительности, информацию о многих вещах из повседневной жизни вы вряд ли сможете найти в книгах. Более того, даже то, что в книге описывается, часто находится между строк. Из простейшей фразы вроде «Друг шел к родителям на обед» или «По крыше забарабанил дождь» читатель-человек извлечет уйму информации и построит довольно сложную модель происходящего — при том, что в самой фразе практически ничего нет.
> что такое (само)сознание и возможен ли такой тип ИИ, или он автоматически приводит к зарождению (само)сознания?
Мышление, демонстрируемое обычным человеком в повседневной жизни (как говорил Марвин Минский, тот уровень интеллекта, который нужен для понимания, почему можно потянуть что-то за веревочку, но нельзя ей что-либо толкнуть) — уже предполагает рефлексию, самоконтроль, чтобы отследить, когда вы заходите в тупик и нужно сменить подход. И часто для этого приходится всерьез размышлять как над ошибками в своих действиях, так и над ошибками в своем мышлении. Что это, как не самосознание? Оно не зарождается автоматически благодаря высокому интеллектуальному потенциалу. Оно его реализует.
Именно на современном уровне развития технологий (точнее, даже на несколько более низком) человечество создало эту проблему. А могло и не создавать, если бы не необузданные алчность и страсть к максимальному комфорту большинства его, человечества, представителей.
Смотря что вы сводите к понятию этой процедуры. Выборы не ограничиваются тем, что люди приходят и ставят галочки в бюллетенях, и затем эти галочки считают. Это — лишь часть: процедура голосования, которая венчает выборы. Этому должна предшествовать длительная гонка, с полноценными дискуссиями, с более-менее равными условиями для кандидатов, иначе у избирателей просто нет возможности сделать осознанный выбор. Именно эта часть в России полностью сведена на нет.
Что касается зашкаливающих рейтингов, то тут вы повторяете ложь, выгодную этому всем известному кандидату, поскольку честно и грамотно измерить рейтинг сейчас невозможно и просто некому — последний независимый от государства социологический фонд, Левада, не так давно объявлен «иностранным агентом».
Дело вряд ли в беспорядках (их не было и по более чувствительным поводам).
Дело в том, что официально заблокированные в стране Гугл и Фейсбук — очень сильный аргумент в пользу позиции тех людей за рубежом, кто указывает на почти завершенную эволюцию режима РФ в сторону тоталитаризма, и заявляет о нелегитимности ее властей.
Но параноидальное мировоззрение примириться с тем, что Гугл и Фейсбук работают себе спокойно, никак не может, поэтому ищет тот или иной путь заблокировать их, не навредив слишком сильно своей репутации.
Власти РФ даже чересчур тут осторожны со своей репутацией: уж если разбрасывание полония в Лондоне и тысячи жертв в Украине практически сошли с рук, блокировки точно не повредят.
О том, что НАСА не слишком довольно скоростью работы SpaceX в отношении заключенного с агентством контракта, можно понять из следующей фразы опубликованного заявления: «Мы будем работать с SpaceX для того, чтобы убедиться в выполнении контрактных обязательств
О чем действительно можно понять из этого абзаца, так это о невнимательности автора статьи или его неважном знании английского. Ведь в оригинале вместо "убедиться" стоит "to ensure" — обеспечить. Обеспечить выполнение контракта по возвращению запусков астронавтов в США. Совершенно другой оттенок.
Насчет пиктограмм — непонятно как это может работать, например, для разных культур? Разве не может быть, что для кого-то веселый праздник = женщины и выпивка, а еще для кого-то — стрельба из автомата в воздух и т.д.
«Стандартный» рисунок для веселого праздника — это торт со свечками, так что если вы бы изобразили застолье с алкашкой и телочками, это первый маленький шажок к «патологичности» — если, конечно, доверять автору статьи :)))
Спасибо за статью! Много фактов, информации, это очень хорошо.
Но вот это — просто какой-то бред:
В этом рисунке патологично всё: начиная с отсутствия рисунка на слово «счастье», продолжая неверными подписями («противостояние» вместо «вражды», например) и заканчивая нестандартностью или, по крайней мере, субъективностью большей части образов. Даже расположение рисунков выполнено не по стандартной схеме «слева направо», а ко какой-то странной ломанной линии. На два понятия «весёлый праздник» и «тяжелая работа» дан один и тот же рисунок. Образы явно не соответствуют тем, которые обычно рисуют «нормальные» люди.
Дело в том, что существуют [13] стандартные пиктограммы, которые должен в норме рисовать здоровый человек. Откуда их взяли? Опять же, статистически: собрали большую группу здоровых (т.е. проверенных другими методами) людей, попросили нарисовать, а потом взяли самые часто встречающиеся образы.
Ведь фактически, тут сказано следующее:
— если рисунки испытуемого отличаются от часто используемых, то это «патологично»
— если испытуемый не счел нужным или не смог нарисовать сильно абстрактное понятие, то это «патологично»
— если испытуемый не счел нужным сохранять информацию о порядке слов («расположение рисунков выполнено не по стандартной схеме «слева направо»»), то это «патологично»
— если испытуемый, основываясь на рисунке, вместо точного слова написал его синоним, то это «патологично»
Но я так и не понял из статьи, как же движется, к примеру, часть ноги ниже колена в протезе целой ноги.
И обрывается статья на самом важном. Я совершенно не понимаю, почему не приделывают всем безногим и безруким искусственные конечности с электроприводами и подключением к нервам — это невозможно еще или дорого или что?
Мне вряд ли удастся замкнуть русский язык на самое себя — нет у меня возможности для этого :-)) Но иногда я призываю почаще вспоминать старое доброе, да. И не только слова, но и просто лучше помнить прошлое. И рассуждаю о пользе словотворчества.
Человеку для его исключительной гибкости, адаптивности понадобились рефлексия и самосознание. Лишенные же этих свойств животные такой приспособляемости не проявили — как и созданные до сих пор машины. Поэтому как раз сомнительно, что без них она возможна.
> Совершенно не обязательно понимать, что за пределами этого виртуального поля с ящиками есть что-то ещё
Пионеры ИИ создали программы, успешно манипулирующие кубиками в виртуальном и реальном пространстве, около полувека назад. Кубиками успех этих программ и ограничился.
Выбор у пользователя действительно есть. И пользователь выбирает Windows или Mac.
Потому что распыление ресурсов в опенсурсе достигло такой степени, что любой изначально ладный дистрибутив Линукс в течение нескольких лет либо превращается в нелепый разнородный набор ПО, либо меняется до неузнаваемости. Ну и качество, конечно, должно очень страдать от этого — не будь распыления, развитие и доработка шли бы намного быстрее.
Я пробовал использовать Линукс дома с 2007 года. Я до сих пор его использую, постоянно, мне нравится. Но я регулярно кручу пальцем у виска в недоумении. Каждый раз мне подкидывают какую-нибудь мелкую, но очень досадную свинью, причем без всякой на то необходимости. Просто так им было интересно.
А причина в том, что вот это вот «каждый занимается примерно тем, что ему интересно» — на самом деле, плохо совместимо с альтруистическими идеями и идеалами свободного ПО. Либо ты работаешь на человечество, и тогда надо немного держать себя в узде. Либо занимаешься тем, что интересно, но тогда при чем тут идеалы?
Я согласен с тем, что отношения между объектами в трехмерном пространстве — это, во-первых, одна из самых первых вещей, которые учится усваивать ребенок. И, во-вторых — это база для понимания отношений между абстрактными концепциями путем аналогии (абстрактные концепции «входят» друг в друга, ветвятся как дерево и т.д.). Это действительно очень важный момент.
Но тут, пожалуй, упор не на «распознавании трехмерной формы объектов», а на распознавании отношений между ними. Можно, конечно, по краю объекта, который видно лишь частично, понять, что это за объект. Но еще важнее понять, что он чем-то заслонен.
Похоже, что вы все же не поняли меня. Трехмерная сцена не даст новую информацию. Напротив, чтобы воспроизвести такую трехмерную сцену, которая будет сходна с появляющейся в воображении читателя, всё равно необходима уйма дополнительной информации о мире.
Человек знает, что крыша не в вакууме парит. Она предполагает дом. Или же, возможно, это крыша автомобиля. Ясно, что крыша металлическая, потому что другие материалы не дают такого шума. Дождь, скорей всего, предполагает осень или весну, может быть — летнюю ночь. Но точно не зиму. (Это с точки зрения человека, живущего на севере). Описание, наверняка, сделано по ощущениям человека под этой самой крышей, или же возле дома, а не где-то в стороне.
Всё это настолько естественно, что мы даже не замечаем, какую огромную работу проделывает мозг, чтобы понять лишь одну фразу. Но это потому, что человек всю жизнь проводит в физическом мире и всю жизнь читает.
> нейросети довольно успешно распознают те же контуры машин и пешеходов в задаче робомобилей. И это не какое-то раскрашивание одних пикселей на основе других пикселей по алгоритму, внутри нейросети образуется образы этих объектов
Это классификация трехмерных объектов. Чтобы эта классификация была полезной, нужна информация о каждом из классов: что дома неподвижны, что автомобили могут ездить быстро, но обладают инерцией, а пешеходы движутся медленнее, но иногда по произвольным траекториям, и т.д. Сможет ли нейросеть выделить это знание? Или же проще заложить его самим?
> переводчик Google, который смог сносно переводить между двумя языками, на которых он не обучался, но сформировал внутри себя смыслы этих слов
Он не сформировал смыслы. Смыслы — это разносторонние модели объектов. Переводчик не имеет их. Он, возможно, сформировал отношения между всеми словами языка, но не более. А поскольку язык тоже моделирует реальный мир, может показаться, что переводчик обладает неким «пониманием». Но это не так.
Это значит «имеет модель себя», «имеет модель своих потребностей». На вопросы эти и многие другие ответы давно даны, на разный вкус и цвет. Если хотите ответов, которые не сводятся к хождению кругами — не читайте психологов, читайте Марвина Минского: The Emotion Machine и The Society Of Mind. Удивитесь: там очень многое есть.
В действительности, информацию о многих вещах из повседневной жизни вы вряд ли сможете найти в книгах. Более того, даже то, что в книге описывается, часто находится между строк. Из простейшей фразы вроде «Друг шел к родителям на обед» или «По крыше забарабанил дождь» читатель-человек извлечет уйму информации и построит довольно сложную модель происходящего — при том, что в самой фразе практически ничего нет.
Мышление, демонстрируемое обычным человеком в повседневной жизни (как говорил Марвин Минский, тот уровень интеллекта, который нужен для понимания, почему можно потянуть что-то за веревочку, но нельзя ей что-либо толкнуть) — уже предполагает рефлексию, самоконтроль, чтобы отследить, когда вы заходите в тупик и нужно сменить подход. И часто для этого приходится всерьез размышлять как над ошибками в своих действиях, так и над ошибками в своем мышлении. Что это, как не самосознание? Оно не зарождается автоматически благодаря высокому интеллектуальному потенциалу. Оно его реализует.
Что касается зашкаливающих рейтингов, то тут вы повторяете ложь, выгодную этому всем известному кандидату, поскольку честно и грамотно измерить рейтинг сейчас невозможно и просто некому — последний независимый от государства социологический фонд, Левада, не так давно объявлен «иностранным агентом».
Дело в том, что официально заблокированные в стране Гугл и Фейсбук — очень сильный аргумент в пользу позиции тех людей за рубежом, кто указывает на почти завершенную эволюцию режима РФ в сторону тоталитаризма, и заявляет о нелегитимности ее властей.
Но параноидальное мировоззрение примириться с тем, что Гугл и Фейсбук работают себе спокойно, никак не может, поэтому ищет тот или иной путь заблокировать их, не навредив слишком сильно своей репутации.
Власти РФ даже чересчур тут осторожны со своей репутацией: уж если разбрасывание полония в Лондоне и тысячи жертв в Украине практически сошли с рук, блокировки точно не повредят.
О чем действительно можно понять из этого абзаца, так это о невнимательности автора статьи или его неважном знании английского. Ведь в оригинале вместо "убедиться" стоит "to ensure" — обеспечить. Обеспечить выполнение контракта по возвращению запусков астронавтов в США. Совершенно другой оттенок.
«Стандартный» рисунок для веселого праздника — это торт со свечками, так что если вы бы изобразили застолье с алкашкой и телочками, это первый маленький шажок к «патологичности» — если, конечно, доверять автору статьи :)))
Я остановился на этих пиктограммах в своем комментарии тут
Но вот это — просто какой-то бред:
Ведь фактически, тут сказано следующее:
— если рисунки испытуемого отличаются от часто используемых, то это «патологично»
— если испытуемый не счел нужным или не смог нарисовать сильно абстрактное понятие, то это «патологично»
— если испытуемый не счел нужным сохранять информацию о порядке слов («расположение рисунков выполнено не по стандартной схеме «слева направо»»), то это «патологично»
— если испытуемый, основываясь на рисунке, вместо точного слова написал его синоним, то это «патологично»
Чертовски смелые заявления, однако.
Но я так и не понял из статьи, как же движется, к примеру, часть ноги ниже колена в протезе целой ноги.
И обрывается статья на самом важном. Я совершенно не понимаю, почему не приделывают всем безногим и безруким искусственные конечности с электроприводами и подключением к нервам — это невозможно еще или дорого или что?