Comments 21
Искусство выдавать желаемое за действительное
Можно подробнее?
Интересная позиция: человек видит таблицу с конкретными техническими совпадениями между текстом 1939 года и современными разработками, и называет это «выдаванием желаемого за действительное». А что, собственно, здесь желаемое? Автор желает, чтобы роботы использовали камеры? Они их используют. Желает, чтобы был reinforcement learning? Он есть. Желает, чтобы роботы обучались через наблюдение? Они обучаются. Проведение параллелей между прогностической фантастикой и реализованными технологиями это нормальная исследовательская практика, которой занимаются футурологи и историки науки. Или вы полагаете, что анализировать точность научно-фантастических прогнозов нельзя?
Можно анализировать что угодно, но важно понимать зачем? Цель какая ?
Вот, например есть известная фича с финансовыми советниками. Некоторые в состоянии дать вам десять точных предсказаний подряд на бинарные события. Некоторые даже больше. Т.е. они бесплатно тебе делают десять верных предсказаний. Означает ли это, что они сделают верное одиннадцатое :)?
ЗЫ. Схема проста, аудитория делится пополам, первой половине предсказывают А, второй Б, и так в каждом цикле. При достаточном количестве потенциальных жертв хоть какая-нибудь получит верную цепочку прогнозов. И да, для конкретного человека это выглядит как чудо.
Хороший пример, но он не применим к данному случаю по нескольким причинам:
1- Это не бинарные события ваша аналогия работает для бинарных событий (А или Б, вверх или вниз), где вероятность угадать = 50%. Но Биндер описал не «будут роботы или нет», а конкретную архитектуру обучения с множеством независимых параметров. Вероятность случайно угадать все эти параметры одновременно стремится к нулю. Это не один прогноз, а системное описание технологической архитектуры.
2- Нет "аудитории предсказаний" - в схеме финансовых мошенников тысячи людей делают разные прогнозы, и мы выбираем того, кто угадал. Но Биндер написал один рассказ с одним набором предсказаний. Не было тысячи писателей, из которых мы выбрали того, кто случайно попал в цель. Был один автор, один текст, одна архитектура робота. И да, другие авторы тоже неплохо угадывают, но тут интересно было почитать про комплекс совпадений.
Три - мы анализируем не "случайное попадание", а методологию где цель анализа не доказать, что Биндер был пророком (чего автор статьи и не утверждает), а показать, что методология машинного обучения, к которой мы пришли эмпирически через 87 лет, интуитивно очевидна. Если описанный Биндером подход оказался правильным, значит, он логически вытекает из задачи "как обучить машину". Это делает его не "чудом", а подтверждением, что определённые решения естественны и неизбежны при решении конкретной проблемы.
4 - Финансовые мошенники не дают вам проверить все их прогнозы, только те, что сбылись. Здесь ситуация обратная: текст Биндера полностью доступен, любой может проверить, что именно он написал, и сопоставить с реальностью. Никакой фильтрации не происходит.
Ну и если бы совпадало 2-3 пункта из 12, ваша аналогия работала бы. Но когда совпадает 10-11 независимых технических деталей, это выходит за рамки случайности. Вероятность случайного совпадения = (0.5)^10 = 0.1%, если считать каждый параметр бинарным (а они не бинарные). Так в чём цель анализа? Не в том, чтобы возвеличить Биндера, а в том, чтобы показать: оптимальные решения в разработке AI/роботов не являются произвольными. Они вытекают из логики задачи. И писатель 1939 года, просто логически размышляя о том, как должен работать обучающийся робот, пришёл к тем же выводам, что и современные инженеры. Это важно, как мне кажется, для понимания природы технологического прогресса, для осознания что мы не блуждаем в темноте, а движемся по определённым логическим путям, которые можно предвидеть через рациональное мышление. И "золотой век" американской фантастики тому подтверждение.
Но Биндер описал не «будут роботы или нет», а конкретную архитектуру обучения с множеством независимых параметров. Вероятность случайно угадать все эти параметры одновременно стремится к нулю
Так Биндер и не угадал.
Вот, например, процесс обучения ходьбе:
Скрытый текст
Доктор Линк затаил дыхание, когда я впервые попытался встать. Я медленно поднялся и замер, покачиваясь на своих металлических ногах. У меня в голове был трехнаправленный ватерпас, проводами соединенный с мозгом. Он автоматически подсказывал мне, нахожусь ли я в горизонтальном, вертикальном или наклонном положении. Однако мой первый пробный шаг не был успешным. Коленные суставы выгнулись в обратном направлении. Я с грохотом упал на колени, которые, к счастью, были покрыты толстыми защитными пластинами, так что более хрупкие поворотные механизмы внутри не пострадали. Доктор Линк говорит, что тогда я посмотрел на него как испуганный ребенок. А затем я быстро пополз на коленях вперед, поскольку это было намного проще. Дети ползали бы дольше, если бы это не причиняло им боль. Я не знал, что такое боль.
После того как я целый день ползал в его лаборатории взад и вперед между мебелью, порядком ее попортив, перемещение на коленях стало для меня совершенно естественным. Доктор Линк задавался вопросом, как поднять меня на ноги. Он пытался подтянуть меня за руку, но мои триста фунтов[2] были слишком тяжелы для него. Решило проблему мое собственное быстро растущее любопытство. Когда я во второй раз попытался встать в полный рост, то обрадовался, как ребенок, поднявшийся с помощью ходунков. Я изо всех сил старался удержаться на ногах. В конце концов я освоил технику попеременного использования конечностей и переноса веса вперед.
То есть робот просто захотел и пошел. Так, за руку его пришлось потянуть, а так он сам научился. И близко не похоже на то, что делают с реальными роботами.
А вот так выглядит обучение говорить и распознавать изображения:
Скрытый текст
Три дня мне понадобилось, чтобы более или менее научиться говорить. В этом заслуга не только моя, но и доктора Линка. За эти три дня он назвал мне все предметы в лаборатории и вокруг. Эту пару сотен существительных он дополнил глаголами действия, которые мог продемонстрировать. Услышав и выучив слово, я больше никогда его не забывал и ни с чем не путал. Мгновенное восприятие, фотографическая память – вот что мне было дано. Это трудно объяснить. Машина всегда точна и неизменна. Я – такая машина. Электроны мгновенно передают импульсы. Электроны стимулируют мой металлический мозг.
Таким образом, к концу этих трех дней я достиг уровня развития пятилетнего ребенка, и доктор Линк начал учить меня читать. Когда мой наставник называл буквы, мои фотоэлектрические глаза мгновенно устанавливали связь между звуком и знаком. Ассоциативная память заполняла пробелы в понимании. Я сразу понял, что, к примеру, слово «лев» означает живое существо, схематично изображенное в книге. Я никогда не видел льва, но я тотчас узнал бы его.
Похоже это на техническое описание процесса обучения AI-роботов 2025 года? По мне - вот вообще ни разу.
Вот тут робот упомянул слово "обрадовался". Без такого "мотиватора" никакое самообучение не получится. Должна быть какая-то целевая функция внутри устройства (или организма), которую тот должен стремиться все время удовлетворить. В биологии это эволюционно выработанные механизмы, при прекращении удовлетворения которых организм перестает быть способным выживать и передавать свой генетический код потомству.
Если просто так соединить нейросеть с датчиками и исполнительными устройствами, то робот подергается, подергается и непонятно чему обучится. Нужна система поощрений. Если для робота начинать с простых (тепло, светло), то обучение будет слишком долгим - это надо на искусственном уровне проходить путь эволюции от простейшей клетки до организма со сложными органами. Но создавая сразу подобие сложного организма можно заложить паттерны поведения и их завести на внутреннее "счастье". Тогда дообучаясь другим сложным сценариям поведения робот будет стараться удовлетворять имеющиеся подкрепления.
Забавно будет, робот закидывает баскетбольный мяч в кольцо и произносит "оп-па", именно это у него было "по приколу" запрограммировано в модели обучения хождению, когда отрабатывал рефлекс "равновесие" в момент спотыкания, удовлетворена одна и та же моторная целевая функция.
Хороший пример, но он не применим к данному случаю по нескольким причинам
Если совсем грубо, то автор статьи взял вещи, которые совпали, и проигнорировал вещи, которые не совпали. Сова, глобус и всё такое.
0.1% - это условная единица для всего тысячи писателей :)? Просто тут жертвы с писателями местами переставлены и всё..
Если взять пару тысяч тарологов, кто-нибудь вполне может предложить очень адекватный расклад(собственно мы видим это в миниатюре регулярно, всегда можно найти кого-нибудь, кто предсказал любое конкретное событие). Означает ли это, что их надо изучать "на серьезных щах"?
Многие вещи не меняются с античности, ничего удивительного в этом нету...
таблицу с конкретными техническими совпадениями между текстом 1939 года и современными разработками
Удиаительно, как точно прорези в шкуре животного совпадают с его ртом, глазами, ушами и прочими отверстиями, правда? Вы серьезно считаете утверждения вида "робот будет слышать с помощью микрофона, а видеть с помощью камеры" предсказанием?
Раз уж мне пришлось специально зарегистрироваться на хабре ради комментария по моей любимой теме, то хочу написать слова поддержки автору - это интересная тема, я тоже регулярно в своем блоге пишу такие разборы, только для англоязычной аудитории. Юлия, позволю себе рекомендацию - не пишите в токсичной русскоязычной среде. Ваши разборы ждут в других местах (напишу в личных сообщениях).
Уже скоро, антропороморф в каждом доме как микроволновка будет.
А что вас удивляет?
Ведь искусственный интеллект (в принципе) должен быть (как минимум) равен естественному т.е. человеческому.
И автор просто описал процесс воспитания ребёнка, выделив наиболее важное, а в качестве технического обеспечения использовал уже известные технологии.
Т.е. всё это вполне ожидаемо и вроде не должно вызывать удивления.
Вот если бы он показал неявное, проблемы, о возможности существования которых ещё никто не задумывался тогда, те, которые присущи именно роботизации и созданию ИИ,
и которые бы проявились сейчас или видятся в ближайшем будущем, но никак не могли бы быть очевидными для того времени... Вот это было бы удивительно, интересно и практично...
Всякие Илоны Маски и изобретатели тоже читали фантастику 40-50-60 ых годов. И просто пытаются воплотить это в жизнь.
Биндер дал своему роботу «телевизионные глаза» и «микрофоны вместо ушей» для восприятия мира. В 1939 году телевидение только-только появлялось, а он уже описывал мультисенсорную систему восприятия.
Это и многое другое за уши слегка притянуто. Кинокамера изобретена в конце 19-го века, телевидение стало популярным в 1920-30-x годах. Естественно, в пик популярности ничего другого роботу засунуть и нельзя было. Кстати, при чём тут телевидение, транслировать сигнал же не требуется? Сами же автоматы-гуманоиды, играющие на музыкальных инструментах и прочие, появлялись задолго до этого.
Биндер дал своему роботу «телевизионные глаза» и «микрофоны вместо ушей» для восприятия мира. В 1939 году телевидение только-только появлялось, а он уже описывал мультисенсорную систему восприятия.
Где-нибудь в 1839 году это было бы действительно предсказание. А в 1939 году это просто констатация факта. Звук будут улавливать звукоулавливающим прибором, а изображение - прибором, улавливающим изображение. Гениально, правда? Кто бы мог подумать!
Все дальнейшие пункты, кроме этого:
Робот имеет совершенную память
Это тривиальные следствия гуманоидности. Автор просто описал процесс обучения и формирования личности человека, заменив слово "ребенок" на слово "робот".
А вот насчет совершенной памяти можно поспорить. Нейросеть как запоминающая система далека от идеала.
скромно порекомендую любителям "предсказательной" фантастики также небольшую юмореску «Логический компьютер по имени Джо» 1946 (!) года. В ней вполне достоверно описывается развитие компьютеров, интернета и AI, в том числе, и возникающие этические проблемы использования AI в жизни рядового пользователя.
Когда фантастика 1939 года становится реальностью 2025-го