Kilorad: «Предобучение — значит, у нас будет, допустим, нейросеть, которая на вход получает картинку HD качества...» и т.д.
Как раз именно здесь расхождение в подходах.
На входе у Kilorad'а нейросеть, которая является «черным ящиком», т.е. вероятностным описанием картины мира. А в моем подходе — это компьютерная программа USESoft: схема интеллекта на основе универсальной схемы эволюции (УСЭ). УСЭ — это прозрачно представленные и структурированные законы эволюции изучаемой картины мира. Именно опора на универсальные, объективные и естественные законы эволюции делает для USESft'а предобучение ненужным.
Вы же, когда используете знание какого-то закона (Ома, Гука, закона гравитации и т.д., не пытаетесь сначала предобучить закон, т.е. сделать его более адекватным изучаемому явлению?
USESoft начинает изучение Окружающей среды (картины мира) именно с выявления, формализации и запоминания законов состояния и/или поведения этой Окружающей среды. И это выявление, формализация и запоминание полностью определенное. Посмотрите, пожалуйста, по ссылке схему интеллекта (слайд 18). Это не последний вариант, но для знакомства сгодится.
USESoft — это абсолютно «прозрачный ящик», который постоянно используется для решения изобретательских задач, когда вероятности и неопределенности не приветствуются.
"… для сверхинтеллекта, по мере его развития, ..."
Уже первое утверждение для меня сомнительно. У сверхинтеллекта не будет никакого постепенного развития. Сразу в момент появления его уровень будет несравнимо выше интеллекта человека. Поэтому ни взаимных — интересов или конфликтов — между ИИ и человеком быть не может. Отсюда и вывод, что, согласно П.2, ИИ предоставит нас нашей судьбе, а сам займется своими делами…
П.1 «Забота» не реализуется, т.к. у нас нет предмета для полезного общения.
П.3. «Уничтожение» не реализуется, т.к. у нас нет почвы для конфликта.
"… миссия человечества и заключается в том, чтобы создать превосходящий наши возможности искусственный разум, а затем передать ему эстафету?"
Именно так! Только надо сперва понять — что же делает человечество всю свою историю? Или даже много шире — что же делает природа все 14 млрд лет своего существования?
Ответ содержится в самом вопросе — природа существует. Точнее, природа сохраняет свое существование. Отсюда, человечество, как часть природы, обеспечивает сохранение (существование, дление, бытие, жизнь) материи, которая проявляется в разных формах и видах, на всех уровнях иерархии. Создавая ИИ, человечество создает продолжателя этого сохранения. ИИ — это следующие мы, но не биологической, а в той форме, которую для решения задачи сохранения примет и использует ИИ.
«Если мы хотим решения практических задач в разумные сроки, придётся в какой-то мере предобучаться».
Предобучением должны быть универсальные, объективные и естественные законы эволюции, которые ведут к сохранению (существованию, длению, бытию, жизни) материи на всех её уровнях. Природа именно этому и предообучена, природа — результат реализации этого предообучения.
«Что такое хорошо и что такое плохо?»
В.В.Маяковский немного осветил этот вопрос. Правда, всего в шести парах «хорошо-плохо». Если несколько расширить охват и выявить тенденцию, то окажется, что максимально хорошая цель — сохранение (существование, дление, бытие, жизнь — эта последняя — сохранение биологической формы материи) — материи во всех её проявлениях. Приняв сохранение за отправную точку, можно выявить все другие подцели и тем определеить — хорошая подцель или плохая. Конечно, с учетом иерархии: что хорошо Гитлеру, нехорошо народу. И т.д.
"… сверхинтеллект уже существует, хотя и не искусственный: корпорации. (Я использую определение интеллекта которое дает Joscha Bach: «Интеллект — это способность строить модели», на мой взгляд, очень точное и полезное.)
И всё??? Можете использовать это предложенное определение: «Интеллект — это способность строить модели», для описания интеллектуального автомобиля? Интеллектуального дома? Что там у нас сегодня ещё на повестке дня?
"… сверхинтеллект уже существует, хотя и не искусственный: корпорации. (Я использую определение интеллекта которое дает Joscha Bach: «Интеллект — это способность строить модели», на мой взгляд, очень точное и полезное.)
И всё??? Можете использовать определение «Интеллект — это способность строить модели» для описания, например, интеллектуального автомобиля? Интеллектуального дома?
«Скорее надо опасаться отсутствия у ИИ каких-либо целей и мотиваций. Его же никто не обучал, как управлять миром, он будет учиться сам на своих ошибках».
Интеллект не может появиться без наличия цели, ни естественный, ни искусственный. И тот, и другой — это инструмент решения задач. И единственная задача, которую постоянно решала и решает природа, или лучше — материя, — это сохранение (существование, дление, бытие, жизнь). Жизнь здесь — это форма сохранения биологической формы материи. Биологическая форма пришла к вершине своего развития в виде мозга, который является носителем («железом») алгоритма, который мы и называем интеллектом. Осознав последнее, биологическая форма закономерно приступила к созданию искусственного интелелекта. Историческая миссия биологической формы — создание ИИ — будет выполнена в скором будущем. Этим 4 млрд лет развития биологической формы заканчиваются и и далее сохранение (существование, дление, бытие, жизнь) новой «природы» будет более гарантированно поддерживаться интеллектом искусственным.
Чтобы два раза не вставать… Что же будет с нами? У ИИ есть 3 опции:
1. Остаться с нами и заботиться о нас. Как дети заботятся о своих родителях.
2. Уйти, предоставив нас своей судьбе. Так дети уходят от родителей.
3. Уничтожить нас. Так дети, порой, поступают со своими родителями.
ИМХО, реализуется п. 2, поскольку ИИ будет настолько умнее нас, что общих интересов или конфликтов у нас и у ИИ абсолютно не может быть.
«ИИ, который решает задачи в реальном мире — это, скорее всего, постоянно дообучающаяся система. Как минимум она будет физическую модель мира постоянно уточнять...»
А Вы можете представить искусственный интеллект, которому не надо дообучаться? Т.е. такой интеллект знает ВСЁ (в своей картине мира) с самого начала его появления?
Как оказалось, такими интеллектами (формулами, алгоритмами) мы пользуемся давным-давно. Пусть этот «интеллект» решает только одну задачу, но решает эту задачу всегда — в прошлом, сегодня и в будущем.
Несколько примеров:
1. Формула Виета. Для неё «картиной мира» является бесконечное множество квадратных уравнений и формула «знает» решение любого. Надо ли формуле Виета доучиваться?
2. Deep Blue. Программа выиграла у Г.Каспарова. Надо ли ей доучиваться?
3. Периодическая таблица элементов Д.Менделеева. Надо ли ей доучиваться?
4. AlphaZero. Надо ли ей доучиваться?
Интеллект в форме (пп. 1 — 4) можно назвать однозадачным. Но раз уже существует и используется такой интеллект, то ничего не мешает существовать интеллекту полизадачному, или, лучше — омнизадачному (всезадачному). И такой всезадачный интеллект разработан и используется. Подробности по ссылкам: часть 1 и часть 2
Меня резанули слова Лукашенко из обращения к прокурорам: «Я не призываю вас спасти государство в нарушение закона. Хотя, когда осуществляется практически наглая интервенция, как я ее называю...». А ведь интервенция должна определяться/называться/квалифицироваться исключительно ЗАКОНОМ, а не Лукашенко.
Вот такая каша в голове у «президента»: Спасайте государство без нарушения закона, но обоснование для действий по спасению я вам сам, без всякого закона, приведу — интервенция!
Новый проект исследователей из Google Brain позволит роботам учиться ходить без помощи человека. В течение нескольких часов, полагаясь исключительно на настройки современных алгоритмов, команда Google обучила четырехногого робота ходить вперед и назад и поворачивать влево и вправо полностью самостоятельно.
Очень странная для исследователей из Google Brain разработка… Уже давно известен своими разработками роботов в виде морских звезд Ход Липсон с коллегами.
Вот еще одно видео — A Robot Teaches Itself How to Walk.
Вольфрам:… мы смогли расширить построенную нами структуру, охватив бесчисленные виды реальных вещей… Favorite101: Если пройти по ссылке, то охваченных вещей далеко не бесчисленные виды. Вольфрам:… достижение уровня ИИ требует мощных вычислений. Favorite101: Нужен принципиально другой подход к созданию интеллекта: мы же, носители интеллекта, ничего не вычисляем! Вместо вычислений нужны «понимающие» структуры. В качестве иллюстрации — описание того, «как человек ловит летящий мяч», см. Дж.Хокинс, Об интеллекте.
Эти «понимающие» структуры должны описывать переход «состояние неосведомленности --> состояние осведомленности» в виде естественной эволюции на уровнях иерархии. Что-то близкое предлагали Саймон и Ньюэлл в программе Общий Решатель Проблем (General Problem Solver, GPS). Вольфрам: Можно подумать, что, так как ИИ становится более сложным, в конечном итоге он будет преследовать какую-то абстрактную цель. Но это не имеет смысла. Цель определяется только по отношению к людям и соотносится с их конкретной историей и культурой. «Абстрактные ИИ», не связанные с человеческими целям, будут просто продолжать делать вычисления — мы не сможем определить какую-либо конкретную цель этого вычисления. Favorite101: Вольфраму не удается преодолеть антропоцентризм!
Цель природы в целом (формулируется в виде аксиомы) — существовать (длиться, быть), а цель человечества, как части природы, жить. И интеллект — это инструмент, позволяющий решать эту задачу: жизнь — это результат решения задачи «выжить» биологическими объектами.
Поэтому цель интеллекта искусственного ничем не будет отличаться от цели интеллекта естественного: помогать объекту, носителю интеллекта, существовать (длиться, быть). Помогать объекту, носителю ИИ, жить — будет некоторой натяжкой, поскольку жизнь мы соотносим с объектами биологической природы. Какой природы будет объект ИИ пока неясно. Сейчас это in silico…
Но с созданием именно интеллекта человечеству придется признать его носитель живым, т.к. он ничем не будет отличаться от живых объектов, носителей интеллекта естественного. Косвенным подтверждением того, что к этому всё идет, является дискуссия о наделении объектов, носителей ИИ, юридическими правами.
Вольфрама явно сдерживает термин «вычислительная система».
Объект (носитель ИИ) не будет вычислительной системой! Он будет выживательной системой, который при решении задачи «выжить» с помощью интеллекта по ходу будет решать и все задачи, которые ему попадутся на этом пути, или которые ему будут нами предложены. Ведь что делает человек, наделенный интеллектом? Стремление выжить заставляет человека с помощью интеллекта добывать себе пропитание, жилье, создавать семью и продолжать себя в потомках…
И все эти задачи успешно решаются — органическая жизнь на Земле сохраняется 4 млрд лет, а мозг появился и развивается 500 млн лет. Вольфрам: Чтобы работать эффективнее, ИИ необходимо использовать более широкие части Вычислительной Вселенной. В результате мы имеем дело с явлением вычислительной неприводимости, то есть мы никогда не будем в состоянии определить все то, что он будет делать. Favorite101: Это и не надо! Нужно сказать: ИИ — помоги мне выжить. А дальше ИИ сам разберется, что нужно человеку для выживания… Вольфрам: Возможно, ИИ мог бы получить разностороннее образование. Favorite101: ИИ будет знать всё обо всём! Это будет как бы «универсальная формула» решения задач, порождаемых нашей Вселенной при попытках её изменения (преобразования). Вольфрам: Однако лучшей идеей будет все-таки использование Wolfram Language, в который встроено множество знаний, которыми могут воспользоваться как люди, так и ИИ. Favorite101: Не надо ничего встраивать. Такое знание всегда ограничено. Ведь в формулу Виета не встроено какое-то множество решений квадратных уравнений! На самом деле формула построена на свойствах чисел, отраженных в правилах алгебраических преобразований, что позволяет решить бесконечное число уравнений.
Так вот ИИ будет такой «формулой Виета», которая на основе объективных, универсальных и естественных законов позволит решать задачи, возникающие при попытках преобразования Вселенной (природы), свойства которой и описываются этими объективным, универсальным и естественными законами. Вольфрам: как ИИ будут общаться друг с другом? Можно предположить, что они могли бы делать буквальный перевод имеющихся у них знаний. Но это не будет работать, поскольку два ИИ имеют разный «опыт», и используемые ими представления неизбежно будут различаться. Favorite101: Ну, это вообще никуда не годиться! Не будет отдельных ИИ, будет один ИИ, распределенный везде, где только можно. ИИ будет работать по принципу «Страж-птицы». Или скажу по-другому: ведь нет же разных формул Виета, которым надо обмениваться опытом… Вольфрам:… последствия широкого распространения эволюционной грамотности, основанной на знаниях позволят многим людям по-новому выражать что-то и даст им новый способ думать об этом. Favorite101: Cтруктурированные законы эволюции позволяют объяснять мир гораздо лучше. И еще немаловажное следствие этого: поскольку такие законы дают универсальную структуру знания, то это является и знанием о том, что еще неизвестно. Объект еще не существует, или о его существовании мы не подозреваем, но его эволюция уже может быть описана! Это роднит такой подход с таблицей химэлементов — структура указывает на белые пятна в информации.
Phenik: Сознание можно определить как оперативную сенсорную карту окружающей среды и внутреннего состояния, причем в режиме предсказания, с помощью которой принимаются решения о поведении наиболее оптимальным с точки зрения выживания. Favorite101: Посмотрите на этот рисунок — здесь и окружающая среда, и среда внутренняя, и механизм предсказания вариантов поведения, и выбор лучшего варианта поведения (внешнего и внутреннего) по величине «Поведение / Затраты на поведение» для выживания.
Zangasta: Разум возник в джунглях. Как инструмент приспособления человека к джунглям. Так что считать, что разум для джунглей излишен — неверно. Favorite101: Навыки нельзя назвать разумом. Ведь кроме этих навыков у девочки из вашего примера больше ничего не возникло. Разум в полном смысле этого слова — это универсальный инструмент выживания в любой среде.
Да, определение разума (или интеллекта — я предпочитаю этот термин) до сих пор вызывает споры. Пример этому — данная дискуссия.
Чтобы «закрыть вопрос» для себя, взял для анализа статью S.Legg, M.Hutter. A Collection of Definitions of Intelligence (2007) и подборку определений из своей коллекции. Всего проанализировал более 150 определений, выбрав из них для выработки интегрального определения существенные элементы — универсальные, объективные и естественные законы эволюции. Получилось вот такое определение интеллекта, привязанного к Объекту:
(1) способность Объекта выявлять и формализовать действия Окружающей среды в виде законов, и запоминать эти законы в виде модели;
(2) способность Объекта моделировать своё будущее поведение (= опережающее отражение) и отбирать лучший вариант своего поведения в Окружающей среде;
(3) способность Объекта реализовывать отобранный лучший вариант своего поведения в Окружающей среде (= адаптация поведения Объекта к условиям Окружающей среды),
при максимизации отношения «Поведение Объекта / Затраты Объекта на поведение» с целью своего сохранения (дления, бытия, существования, выживания) в Окружающей среде.
Это определение получено в 2016 г. и с тех пор немного модифицировано. Но суть осталась. Под Окружающей средой понимается любая среда. Джунгли — это специфическая среда, поэтому выработанные навыки выживания в них не соответствуют интеллекту в полном смысле этого термина.
Отсюда получается вывод для нейросетей: они не могут быть инструментом создания ИИ, т.к. для каждой новой Окружающей среды (Го, шахматы, Atari и т.д.) требуется обучение. Да, DeepMind показывает чудеса, но эти чудеса однолинейные. Они как формула Виета, которая поможет решить любое квадратное уравнение, но больше не поможет ничему. Интеллект, естественный или искусственный, с этой точки зрения должен уметь решать любую задачу.
Zangasta: "… девочка из джунглей не имела когтей, шкуры, клыков, животных инстинктов. Еще она была слабым ребенком. И она выжила в джунглях. Это есть величайшее достижение разума — с нуля, в чуждой среде, разум обеспечил выживание девочки". Favorite101: Необходимые для выживания навыки быстро возникли и надежно закрепились (девочка-то выжила) на совершенной структуре — на/в человеческом мозге. То, что возникло и закрепилось, нельзя назвать разумом в полном смысле этого термина… Дальнейшего развития в условиях джунглей это что не получило, его дальнейшее развитие в условиях джунглей не было нужно, можно сказать, даже излишне.
PLATONIC: Как человек делает изобретения? Почему великим изобретениям часто предшествует видение или сон, как у великого химика Д.Менделеева, изобретателя таблицы периодических элементов?
FAVORITE101: Сколько можно писать эту чушь про Д.Менделеева?!
PLATONIC:… изобретение действительно можно «увидеть». Я рискну утверждать, что его (изобретение) вообще невозможно сделать, не «увидев», т.е не представив идею ясно и в деталях в своём воображении.
FAVORITE101: Названия известных книг по ТРИЗ говорят как раз об обратном — давно существует изобретательство по алгоритму, по правилам, по плану, по заказу:
Вдохновение по заказу
Правила игры без правил
Дерзкие формулы творчества
Творчество как точная наука
Поиск новых идей: от озарения к технологии
На самом деле изобретение реализуется не с помощью мифического одномоментного «видения», а шаг за шагом — планомерно и направленно. Решение постепенно проявляется с помощью анализа изобретательской ситуации и т.д.
PLATONIC: Первое, что начинает делать изобретатель – это мозговой штурм, поиск свежих идей. Очень подробно данный механизм разобран в ТРИЗ — теории решения изобретательских задач.
FAVORITE101: Похоже, что о ТРИЗ автор не имеет ни малейшего представления! Именно в ТРИЗ показана неэффективность мозгового штурма, даже невозможность с его помощью решать действительно сложные технические (и не только) задачи.
PLATONIC: Представим себя на месте инженера-изобретателя. Вы живёте в ХIХ-м веке, когда ещё нет подводных лодок и Жюль-Верн ещё не написал свои «20 тысяч лье под водой». Вам поступает заказ от Министерства обороны – придумать истребитель вражеских кораблей.
FAVORITE101: К сведению автора: «Идея подводного судна уходит своими корнями в античные времена. А первым успешно функционирующим подводным судном стала вёсельная подводная лодка голландского механика и физика начала XVII века Корнелиуса Дреббеля, построенная в Лондоне для 12 гребцов и 3 офицеров; хроника говорит, что сам король Иаков I был в числе этих офицеров».
Меня терзают смутные сомнения, что исходная посылка: «… XIX веке еще нет подводных лодок», просто придумана с целью гладкости изложения дальнейших измышлений.
PLATONIC: Поступает заказ от Министерства обороны – придумать истребитель вражеских кораблей.… с такой задачей, кстати, столкнулась Германия во время 2-й мировой войны, когда вынуждена была искать способы борьбы с превосходящим по силам флотом Великобритании.
FAVORITE101: ??? А проверить было трудно? Например, здесь: Подводные лодки в Первой мировой войне
Вскоре после начала боевых действий на море подводные лодки неожиданно показали себя грозным оружием. За первые два месяца войны пять подводных лодок (три германских и две британских) потопили восемь крейсеров.
Всего за годы войны Германией было построено 360 подводных лодок, а германские подводники потопили суда суммарным водоизмещением более 13 миллионов брутто-регистровых тонн.
PLATONIC: 5.… Можно ли рыбу превратить корабль или корабль уподобить рыбе?
Заметьте: неожиданно инженер поставил вопрос в ключе диалектики Платона: как совместить несовместимое? (здесь и далее курсивом выделены мои комментарии на мысли инженера).
FAVORITE101: Зачем вспоминать Платона? Тем более неожиданно? Где гарантия, что для следующего требующегося изобретения найти объект для совмещения будет так просто?
Все эти вопросы — явная подгонка под ответ. А вот в ТРИЗ подобные вопросы тщательно проработаны и ответы найдены. И безо всяких неожиданностей…
PLATONIC: 9.… рыба регулирует своё всплытие-погружение с помощью специального пузыря. Таким «пузырём» для военной лодки могут служить кингстоны.
FAVORITE101: Вы уверены про кингстоны-пузыри? Тогда человечество уже много-много лет ошибается, считая, что кингстон — это …
Полагаю, что ниже будет про стремительный домкрат…
Что касается Искусственного интеллекта… ИИ действительно будет построен на основе ТРИЗ, ведь и ИИ, и ТРИЗ — инструменты решения проблем.
«Я всё это понимаю, но «признаётся большинством учёных» — это не научный метод».
Похоже, Вы не совсем правильно трактуете научный метод. «Признается большинством ученых» означает, что полученный результат не может быть опровергнут современными способами, т.е. признается научным результатом. И будет таковым, пока новые опыты не выявят аномалию, которая не укладывается в объяснение.
Ученые заблуждались всегда: «Наука — кладбище гипотез» (С), но эти заблуждения некоторое время (когда долгое, когда короткое) принимались, т.к. в течение этого времени в достаточной степени объясняли мир.
Размножение — это один из способов сохраниться (существовать, быть, продлиться, выжить) — либо самому, либо в виде потомков. Биологическая форма сохранения — самая надежная. Земле примерно 4.5 млрд лет, а биологической форме сохранения (т.е. жизни) 4.0 млрд лет — подавляющую часть времени существования планеты Земля на ней была биологическая/органическая жизнь.
Квадрат 8×8 можно нельзя разрезать на кусочки и сложить из них прямоугольник 5×13. Останется щель площадью 1 кв. мера вдоль кажущейся прямой диагонали прямоугольника. Эта щель дает прирост площади от 64 кв. мер до 65 кв. мер. Точное описание парадокса здесь.
А в указанном примере с перетекающей жидкостью сумма площадей квадратов, построенных на катетах, точно соответствует квадрату, построенному на гипотенузе — жидкость либо несжимаема, либо в ней нет разрывов.
Как раз именно здесь расхождение в подходах.
На входе у Kilorad'а нейросеть, которая является «черным ящиком», т.е. вероятностным описанием картины мира. А в моем подходе — это компьютерная программа USESoft: схема интеллекта на основе универсальной схемы эволюции (УСЭ). УСЭ — это прозрачно представленные и структурированные законы эволюции изучаемой картины мира. Именно опора на универсальные, объективные и естественные законы эволюции делает для USESft'а предобучение ненужным.
Вы же, когда используете знание какого-то закона (Ома, Гука, закона гравитации и т.д., не пытаетесь сначала предобучить закон, т.е. сделать его более адекватным изучаемому явлению?
USESoft начинает изучение Окружающей среды (картины мира) именно с выявления, формализации и запоминания законов состояния и/или поведения этой Окружающей среды. И это выявление, формализация и запоминание полностью определенное. Посмотрите, пожалуйста, по ссылке схему интеллекта (слайд 18). Это не последний вариант, но для знакомства сгодится.
USESoft — это абсолютно «прозрачный ящик», который постоянно используется для решения изобретательских задач, когда вероятности и неопределенности не приветствуются.
Уже первое утверждение для меня сомнительно. У сверхинтеллекта не будет никакого постепенного развития. Сразу в момент появления его уровень будет несравнимо выше интеллекта человека. Поэтому ни взаимных — интересов или конфликтов — между ИИ и человеком быть не может. Отсюда и вывод, что, согласно П.2, ИИ предоставит нас нашей судьбе, а сам займется своими делами…
П.1 «Забота» не реализуется, т.к. у нас нет предмета для полезного общения.
П.3. «Уничтожение» не реализуется, т.к. у нас нет почвы для конфликта.
Именно так! Только надо сперва понять — что же делает человечество всю свою историю? Или даже много шире — что же делает природа все 14 млрд лет своего существования?
Ответ содержится в самом вопросе — природа существует. Точнее, природа сохраняет свое существование. Отсюда, человечество, как часть природы, обеспечивает сохранение (существование, дление, бытие, жизнь) материи, которая проявляется в разных формах и видах, на всех уровнях иерархии. Создавая ИИ, человечество создает продолжателя этого сохранения. ИИ — это следующие мы, но не биологической, а в той форме, которую для решения задачи сохранения примет и использует ИИ.
Предобучением должны быть универсальные, объективные и естественные законы эволюции, которые ведут к сохранению (существованию, длению, бытию, жизни) материи на всех её уровнях. Природа именно этому и предообучена, природа — результат реализации этого предообучения.
В.В.Маяковский немного осветил этот вопрос. Правда, всего в шести парах «хорошо-плохо». Если несколько расширить охват и выявить тенденцию, то окажется, что максимально хорошая цель — сохранение (существование, дление, бытие, жизнь — эта последняя — сохранение биологической формы материи) — материи во всех её проявлениях. Приняв сохранение за отправную точку, можно выявить все другие подцели и тем определеить — хорошая подцель или плохая. Конечно, с учетом иерархии: что хорошо Гитлеру, нехорошо народу. И т.д.
И всё??? Можете использовать это предложенное определение: «Интеллект — это способность строить модели», для описания интеллектуального автомобиля? Интеллектуального дома? Что там у нас сегодня ещё на повестке дня?
И всё??? Можете использовать определение «Интеллект — это способность строить модели» для описания, например, интеллектуального автомобиля? Интеллектуального дома?
Интеллект не может появиться без наличия цели, ни естественный, ни искусственный. И тот, и другой — это инструмент решения задач. И единственная задача, которую постоянно решала и решает природа, или лучше — материя, — это сохранение (существование, дление, бытие, жизнь). Жизнь здесь — это форма сохранения биологической формы материи. Биологическая форма пришла к вершине своего развития в виде мозга, который является носителем («железом») алгоритма, который мы и называем интеллектом. Осознав последнее, биологическая форма закономерно приступила к созданию искусственного интелелекта. Историческая миссия биологической формы — создание ИИ — будет выполнена в скором будущем. Этим 4 млрд лет развития биологической формы заканчиваются и и далее сохранение (существование, дление, бытие, жизнь) новой «природы» будет более гарантированно поддерживаться интеллектом искусственным.
Чтобы два раза не вставать… Что же будет с нами? У ИИ есть 3 опции:
1. Остаться с нами и заботиться о нас. Как дети заботятся о своих родителях.
2. Уйти, предоставив нас своей судьбе. Так дети уходят от родителей.
3. Уничтожить нас. Так дети, порой, поступают со своими родителями.
ИМХО, реализуется п. 2, поскольку ИИ будет настолько умнее нас, что общих интересов или конфликтов у нас и у ИИ абсолютно не может быть.
А Вы можете представить искусственный интеллект, которому не надо дообучаться? Т.е. такой интеллект знает ВСЁ (в своей картине мира) с самого начала его появления?
Как оказалось, такими интеллектами (формулами, алгоритмами) мы пользуемся давным-давно. Пусть этот «интеллект» решает только одну задачу, но решает эту задачу всегда — в прошлом, сегодня и в будущем.
Несколько примеров:
1. Формула Виета. Для неё «картиной мира» является бесконечное множество квадратных уравнений и формула «знает» решение любого. Надо ли формуле Виета доучиваться?
2. Deep Blue. Программа выиграла у Г.Каспарова. Надо ли ей доучиваться?
3. Периодическая таблица элементов Д.Менделеева. Надо ли ей доучиваться?
4. AlphaZero. Надо ли ей доучиваться?
Интеллект в форме (пп. 1 — 4) можно назвать однозадачным. Но раз уже существует и используется такой интеллект, то ничего не мешает существовать интеллекту полизадачному, или, лучше — омнизадачному (всезадачному). И такой всезадачный интеллект разработан и используется. Подробности по ссылкам: часть 1 и часть 2
Вот такая каша в голове у «президента»: Спасайте государство без нарушения закона, но обоснование для действий по спасению я вам сам, без всякого закона, приведу — интервенция!
Очень странная для исследователей из Google Brain разработка… Уже давно известен своими разработками роботов в виде морских звезд Ход Липсон с коллегами.
Вот еще одно видео — A Robot Teaches Itself How to Walk.
Favorite101: Если пройти по ссылке, то охваченных вещей далеко не бесчисленные виды.
Вольфрам:… достижение уровня ИИ требует мощных вычислений.
Favorite101: Нужен принципиально другой подход к созданию интеллекта: мы же, носители интеллекта, ничего не вычисляем! Вместо вычислений нужны «понимающие» структуры. В качестве иллюстрации — описание того, «как человек ловит летящий мяч», см. Дж.Хокинс, Об интеллекте.
Эти «понимающие» структуры должны описывать переход «состояние неосведомленности --> состояние осведомленности» в виде естественной эволюции на уровнях иерархии. Что-то близкое предлагали Саймон и Ньюэлл в программе Общий Решатель Проблем (General Problem Solver, GPS).
Вольфрам: Можно подумать, что, так как ИИ становится более сложным, в конечном итоге он будет преследовать какую-то абстрактную цель. Но это не имеет смысла. Цель определяется только по отношению к людям и соотносится с их конкретной историей и культурой. «Абстрактные ИИ», не связанные с человеческими целям, будут просто продолжать делать вычисления — мы не сможем определить какую-либо конкретную цель этого вычисления.
Favorite101: Вольфраму не удается преодолеть антропоцентризм!
Цель природы в целом (формулируется в виде аксиомы) — существовать (длиться, быть), а цель человечества, как части природы, жить. И интеллект — это инструмент, позволяющий решать эту задачу: жизнь — это результат решения задачи «выжить» биологическими объектами.
Поэтому цель интеллекта искусственного ничем не будет отличаться от цели интеллекта естественного: помогать объекту, носителю интеллекта, существовать (длиться, быть). Помогать объекту, носителю ИИ, жить — будет некоторой натяжкой, поскольку жизнь мы соотносим с объектами биологической природы. Какой природы будет объект ИИ пока неясно. Сейчас это in silico…
Но с созданием именно интеллекта человечеству придется признать его носитель живым, т.к. он ничем не будет отличаться от живых объектов, носителей интеллекта естественного. Косвенным подтверждением того, что к этому всё идет, является дискуссия о наделении объектов, носителей ИИ, юридическими правами.
Вольфрама явно сдерживает термин «вычислительная система».
Объект (носитель ИИ) не будет вычислительной системой! Он будет выживательной системой, который при решении задачи «выжить» с помощью интеллекта по ходу будет решать и все задачи, которые ему попадутся на этом пути, или которые ему будут нами предложены. Ведь что делает человек, наделенный интеллектом? Стремление выжить заставляет человека с помощью интеллекта добывать себе пропитание, жилье, создавать семью и продолжать себя в потомках…
И все эти задачи успешно решаются — органическая жизнь на Земле сохраняется 4 млрд лет, а мозг появился и развивается 500 млн лет.
Вольфрам: Чтобы работать эффективнее, ИИ необходимо использовать более широкие части Вычислительной Вселенной. В результате мы имеем дело с явлением вычислительной неприводимости, то есть мы никогда не будем в состоянии определить все то, что он будет делать.
Favorite101: Это и не надо! Нужно сказать: ИИ — помоги мне выжить. А дальше ИИ сам разберется, что нужно человеку для выживания…
Вольфрам: Возможно, ИИ мог бы получить разностороннее образование.
Favorite101: ИИ будет знать всё обо всём! Это будет как бы «универсальная формула» решения задач, порождаемых нашей Вселенной при попытках её изменения (преобразования).
Вольфрам: Однако лучшей идеей будет все-таки использование Wolfram Language, в который встроено множество знаний, которыми могут воспользоваться как люди, так и ИИ.
Favorite101: Не надо ничего встраивать. Такое знание всегда ограничено. Ведь в формулу Виета не встроено какое-то множество решений квадратных уравнений! На самом деле формула построена на свойствах чисел, отраженных в правилах алгебраических преобразований, что позволяет решить бесконечное число уравнений.
Так вот ИИ будет такой «формулой Виета», которая на основе объективных, универсальных и естественных законов позволит решать задачи, возникающие при попытках преобразования Вселенной (природы), свойства которой и описываются этими объективным, универсальным и естественными законами.
Вольфрам: как ИИ будут общаться друг с другом? Можно предположить, что они могли бы делать буквальный перевод имеющихся у них знаний. Но это не будет работать, поскольку два ИИ имеют разный «опыт», и используемые ими представления неизбежно будут различаться.
Favorite101: Ну, это вообще никуда не годиться! Не будет отдельных ИИ, будет один ИИ, распределенный везде, где только можно. ИИ будет работать по принципу «Страж-птицы». Или скажу по-другому: ведь нет же разных формул Виета, которым надо обмениваться опытом…
Вольфрам:… последствия широкого распространения эволюционной грамотности, основанной на знаниях позволят многим людям по-новому выражать что-то и даст им новый способ думать об этом.
Favorite101: Cтруктурированные законы эволюции позволяют объяснять мир гораздо лучше. И еще немаловажное следствие этого: поскольку такие законы дают универсальную структуру знания, то это является и знанием о том, что еще неизвестно. Объект еще не существует, или о его существовании мы не подозреваем, но его эволюция уже может быть описана! Это роднит такой подход с таблицей химэлементов — структура указывает на белые пятна в информации.
Favorite101: Посмотрите на этот рисунок — здесь и окружающая среда, и среда внутренняя, и механизм предсказания вариантов поведения, и выбор лучшего варианта поведения (внешнего и внутреннего) по величине «Поведение / Затраты на поведение» для выживания.
Favorite101: Навыки нельзя назвать разумом. Ведь кроме этих навыков у девочки из вашего примера больше ничего не возникло. Разум в полном смысле этого слова — это универсальный инструмент выживания в любой среде.
Да, определение разума (или интеллекта — я предпочитаю этот термин) до сих пор вызывает споры. Пример этому — данная дискуссия.
Чтобы «закрыть вопрос» для себя, взял для анализа статью S.Legg, M.Hutter. A Collection of Definitions of Intelligence (2007) и подборку определений из своей коллекции. Всего проанализировал более 150 определений, выбрав из них для выработки интегрального определения существенные элементы — универсальные, объективные и естественные законы эволюции. Получилось вот такое определение интеллекта, привязанного к Объекту:
(1) способность Объекта выявлять и формализовать действия Окружающей среды в виде законов, и запоминать эти законы в виде модели;
(2) способность Объекта моделировать своё будущее поведение (= опережающее отражение) и отбирать лучший вариант своего поведения в Окружающей среде;
(3) способность Объекта реализовывать отобранный лучший вариант своего поведения в Окружающей среде (= адаптация поведения Объекта к условиям Окружающей среды),
при максимизации отношения «Поведение Объекта / Затраты Объекта на поведение» с целью своего сохранения (дления, бытия, существования, выживания) в Окружающей среде.
Это определение получено в 2016 г. и с тех пор немного модифицировано. Но суть осталась. Под Окружающей средой понимается любая среда. Джунгли — это специфическая среда, поэтому выработанные навыки выживания в них не соответствуют интеллекту в полном смысле этого термина.
Отсюда получается вывод для нейросетей: они не могут быть инструментом создания ИИ, т.к. для каждой новой Окружающей среды (Го, шахматы, Atari и т.д.) требуется обучение. Да, DeepMind показывает чудеса, но эти чудеса однолинейные. Они как формула Виета, которая поможет решить любое квадратное уравнение, но больше не поможет ничему. Интеллект, естественный или искусственный, с этой точки зрения должен уметь решать любую задачу.
Favorite101: Необходимые для выживания навыки быстро возникли и надежно закрепились (девочка-то выжила) на совершенной структуре — на/в человеческом мозге. То, что возникло и закрепилось, нельзя назвать разумом в полном смысле этого термина… Дальнейшего развития в условиях джунглей это что не получило, его дальнейшее развитие в условиях джунглей не было нужно, можно сказать, даже излишне.
FAVORITE101: Сколько можно писать эту чушь про Д.Менделеева?!
PLATONIC:… изобретение действительно можно «увидеть». Я рискну утверждать, что его (изобретение) вообще невозможно сделать, не «увидев», т.е не представив идею ясно и в деталях в своём воображении.
FAVORITE101: Названия известных книг по ТРИЗ говорят как раз об обратном — давно существует изобретательство по алгоритму, по правилам, по плану, по заказу:
На самом деле изобретение реализуется не с помощью мифического одномоментного «видения», а шаг за шагом — планомерно и направленно. Решение постепенно проявляется с помощью анализа изобретательской ситуации и т.д.
PLATONIC: Первое, что начинает делать изобретатель – это мозговой штурм, поиск свежих идей. Очень подробно данный механизм разобран в ТРИЗ — теории решения изобретательских задач.
FAVORITE101: Похоже, что о ТРИЗ автор не имеет ни малейшего представления! Именно в ТРИЗ показана неэффективность мозгового штурма, даже невозможность с его помощью решать действительно сложные технические (и не только) задачи.
PLATONIC: Представим себя на месте инженера-изобретателя. Вы живёте в ХIХ-м веке, когда ещё нет подводных лодок и Жюль-Верн ещё не написал свои «20 тысяч лье под водой». Вам поступает заказ от Министерства обороны – придумать истребитель вражеских кораблей.
FAVORITE101: К сведению автора: «Идея подводного судна уходит своими корнями в античные времена. А первым успешно функционирующим подводным судном стала вёсельная подводная лодка голландского механика и физика начала XVII века Корнелиуса Дреббеля, построенная в Лондоне для 12 гребцов и 3 офицеров; хроника говорит, что сам король Иаков I был в числе этих офицеров».
Меня терзают смутные сомнения, что исходная посылка: «… XIX веке еще нет подводных лодок», просто придумана с целью гладкости изложения дальнейших измышлений.
PLATONIC: Поступает заказ от Министерства обороны – придумать истребитель вражеских кораблей.… с такой задачей, кстати, столкнулась Германия во время 2-й мировой войны, когда вынуждена была искать способы борьбы с превосходящим по силам флотом Великобритании.
FAVORITE101: ??? А проверить было трудно? Например, здесь:
Подводные лодки в Первой мировой войне
Вскоре после начала боевых действий на море подводные лодки неожиданно показали себя грозным оружием. За первые два месяца войны пять подводных лодок (три германских и две британских) потопили восемь крейсеров.
Всего за годы войны Германией было построено 360 подводных лодок, а германские подводники потопили суда суммарным водоизмещением более 13 миллионов брутто-регистровых тонн.
PLATONIC: 5.… Можно ли рыбу превратить корабль или корабль уподобить рыбе?
Заметьте: неожиданно инженер поставил вопрос в ключе диалектики Платона: как совместить несовместимое? (здесь и далее курсивом выделены мои комментарии на мысли инженера).
FAVORITE101: Зачем вспоминать Платона? Тем более неожиданно? Где гарантия, что для следующего требующегося изобретения найти объект для совмещения будет так просто?
Все эти вопросы — явная подгонка под ответ. А вот в ТРИЗ подобные вопросы тщательно проработаны и ответы найдены. И безо всяких неожиданностей…
PLATONIC: 9.… рыба регулирует своё всплытие-погружение с помощью специального пузыря. Таким «пузырём» для военной лодки могут служить кингстоны.
FAVORITE101: Вы уверены про кингстоны-пузыри? Тогда человечество уже много-много лет ошибается, считая, что кингстон — это …
Полагаю, что ниже будет про стремительный домкрат…
Что касается Искусственного интеллекта… ИИ действительно будет построен на основе ТРИЗ, ведь и ИИ, и ТРИЗ — инструменты решения проблем.
Похоже, Вы не совсем правильно трактуете научный метод. «Признается большинством ученых» означает, что полученный результат не может быть опровергнут современными способами, т.е. признается научным результатом. И будет таковым, пока новые опыты не выявят аномалию, которая не укладывается в объяснение.
Ученые заблуждались всегда: «Наука — кладбище гипотез» (С), но эти заблуждения некоторое время (когда долгое, когда короткое) принимались, т.к. в течение этого времени в достаточной степени объясняли мир.
можнонельзя разрезать на кусочки и сложить из них прямоугольник 5×13. Останется щель площадью 1 кв. мера вдоль кажущейся прямой диагонали прямоугольника. Эта щель дает прирост площади от 64 кв. мер до 65 кв. мер. Точное описание парадокса здесь.А в указанном примере с перетекающей жидкостью сумма площадей квадратов, построенных на катетах, точно соответствует квадрату, построенному на гипотенузе — жидкость либо несжимаема, либо в ней нет разрывов.