Определения интеллекта из комментариев:
Интеллект — это способность находить в данных неизвестные ранее зависимости, строить на их базе умозаключения и иным образом ими оперировать, создавая ПРОИЗВОДНОЕ от них НОВОЕ знание.
… интеллектом можно считать возможность правильно прогнозировать будущее, развитие системы, из имеющихся данных, с построением моделей, нахождения причин и следствий, взаимосвязи на основе имеющегося опыта или информации. чьи прогнозы более точны и учитывают больший объем данных…
… интеллект как способность создавать алгоритмы и давать им описания, понятные другим.
… интеллектуальный агент — система, способная находить и выполнять оптимальные последовательности действий, ведущие к выполнению поставленной задачи".
… разум — это инструмент, предназначенный для обеспечения выживания в определённых условиях.
… интеллект — это штука, которая позволяет «отфильтровать» из окружающего мира сцепки «если-то», критические КРИТИЧНЫЕ для выживания особи…
Интеллект — это познание и создание новых смыслов на основе познания.
Итого: 7 разных определений интеллекта и только в двух отмечено выживание. Почему отмечено выживание? Прошу участников обсуждения взять любое из определений интеллекта, в котором про выживание не сказано, и последовательно позадавать вопросы к пояснениям в определении: «… находить в данных неизвестные ранее зависимости...».
Например, для чего (или — с какой целью) объекту нужно «… находить в данных неизвестные ранее зависимости...»?
Ответить (как это было в данном определении): «… чтобы строить умозаключения...».
Опять спросить: для чего (или — с какой целью) «… строить умозаключения»?
Ответить и вновь к ответу задать вопрос…
И так действовать, пока сможете задавать вопросы и на них отвечать. Цепочка может быть длинной, но ответ в конце будет таким — чтобы выжить. Или в более общей форме — чтобы существовать (быть, длиться, сохраняться как можно дольше). В этом как раз отражаются фундаментальные законы сохранения.
Возможно, участникам обсуждения будет интересно познакомиться с анализом многих десятков определений интеллекта? На основе анализа собрано определение интеллекта, которое придирчиво проверяется (спасибо К.Попперу) буквально каждый день.
Часть 1, http://triz-evolution.narod.ru/USE_Intelligence_Definitions_P1.pdf
Часть 2, http://triz-evolution.narod.ru/USE_Intelligence_Definitions_P2.pdf
«Ваше определение понятно, но на мой взгляд оно слишком общее. Не до конца понятно что вы называете законами окружающего мира, что подразумевается под их выявлением, насколько подробна и точна должна быть модель».
Пойдем по пунктам, хорошо? 1. Ваше определение понятно, но, на мой взгляд, оно слишком общее.
Оно и должно быть максимально общим, чтобы ни один конкретный случай не был упущен. Проверяется это легко: возьмите мое определение и во всех 3-х пунктах — (1), (2) и (3) — заменИте термин Объект на ваш любой конкретный, который вы хотите сделать интеллектуальным, или хотите проверить его уже заявленную интеллектуальность. Ну, Автомобиль (самый расхожий пример), AlphaGo (тоже у всех на слуху), Телевизор или Телефон… 2. "… что вы называете законами окружающего мира?"
Не буду оригинальным: «Закон — существенная, необходимая, устойчивая, повторяющаяся связь (отношение) между явлениями».
Принято считать, что самые общие законы окружающего мира (природы) — законы диалектики (количество --> качество, единство и борьба противоположностей, отрицание отрицания). Но даже их удалось обобщить надсистемным (по Турчину) законом сохранения (существования, дления, бытия, выживания), т.к. выяснилось, что указанные законы диалектики — это инструменты закона сохранения. 3. "… что подразумевается под выявлением законов природы?"
Подразумевается анализ явлений, происходящих с объектами природы. Я взял за основу законы развития технических систем (ЗРТС), а потом обобщил эти законы.
Правомерность обобщения вытекает из того, что, как выяснилось, ЗРТС — это частный случай законов природы, где главный — закон сохранения, реализующийся через эволюцию. Так, у технических систем (ТС) есть и изменчивость, и наследственность, и отбор. И через следование закону эволюции ТС сохраняются — либо улучшаются сами, либо передают свои «гены» следующему поколению ТС. Пример реализации — Генетический алгоритм (ГА). 4. "… насколько подробна и точна должна быть модель законов природы?"
Модель (структура) законов природы (в виде законов эволюции, поскольку главным законом природы является закон сохранения, в котором и выражается результат эволюции), оказалась довольно простой. Нужно было только собрать эту структуру в виде направленного графа из уже известных ЗРТС, дополнив эти ЗРТС законом сохранения. Простота объясняется еще и тем, что эта структура справедлива (одна и та же, я назвал её Универсальная схема эволюции, УСЭ) для разных уровней иерархии природы. Это положение, например, хорошо согласуется с наблюдаемой фрактальностью природы, и, кстати, объясняет эту самую фрактальность. Существующее объяснение через самоповторение не объясняет причину этого самоповторения.
"… есть относительно общепризнанные критерии сильного ИИ".
Тут меня смущает противоречивость в описании: с одной стороны, перечислены аспекты интеллекта человека, которые также лежат в основе создания Сильного ИИ, но, с другой стороны, «Ни одно из этих свойств не является необходимым для создания сильного ИИ».
То, что лежит в основе, уж всяко является необходимым, а?
Мои изыскания привели к такому определению.
Интеллект Объекта — это:
(1) способность Объекта выявлять и запоминать законы окружающего мира;
(2) способность Объекта на основе законов окружающего мира моделировать наперед свои действия в окружающем мире (опережающее отражение);
(3) способность Объекта на основе результатов моделирования своих действий в окружающем мире адаптировать свои реальные действий к условиям окружающего мира при максимизации отношения «Действия Объекта / Затраты Объекта на совершение действий» с целью своего сохранения (дления, бытия, существования, выживания) в окружающем мире.
Это определение получено выявлением самых общих черт (свойств, характеристик, параметров и пр.) интеллекта, приведенных в статье S.Legg, M.Hutter. A Collection of Definitions of Intelligence (2007), http://arxiv.org/abs/0706.3639. Плюс, независимым выявлением самых общих черт интеллекта из моей базы данных.
«Критерий сильного ИИ — способность обосновывать и решать проблемы. Сознание самого ИИ тут не критично. Универсальный самообучающийся алгоритм решения задач — по определению сильный AI, но не разум».
Не хотелось бы спорить о терминах… С тем, что «Критерий сильного ИИ — способность обосновывать и решать проблемы», согласен. Только добавлю, — любые проблемы/задачи.
Если вы с этим согласны, то алгоритм решения проблем/задач не станет универсальным, если у него не возникнет понимание себя и своего места в природе, т.е. самосознания и сознания.
Вообще для появления способности решать любые проблемы нужно идти не снизу (т.е. не набирать способности решения задач по направлениям А, В, C, ..., X, Y, Z и т.д. до бесконечности), а решать только одну проблему/задачу — как гарантированно существовать (длиться, быть, жить, в конце концов, если это биологическая система) в любой окружающей среде и осознавать это свое существование. Вот такое качество и должно быть заложено в алгоритм решения проблем/задач.
Описание такого алгоритма решения проблем/задач существует. Алгоритм как бы заранее «заряжен» на решение любой проблемы/задачи. Ну, как формула Виета заранее «несет» в себе корни всех квадратных уравнений, даже еще ненаписанных.
«Рей Курцвейл считает, что переход через точку сингулярности произойдёт примерно в 2045 году (хотя он не считает обязательным экспоненциальное самосовершенствование ИИ), а среднее медианное значение по опросу экспертов по сильному ИИ — 2040 год.
Вполне возможно, что сингулярность наступит раньше прогнозируемого. Инженеры из компании Google и разработчики систем ИИ из других компаний сообщают об успехах, которых удалось добиться в ключевом направлении — создании систем ИИ, предназначенных для проектирования других систем ИИ.
Ключевое направление — системы ИИ, предназначенные для проектирования других систем ИИ. Вот это самое главное! Улучшение самого себя еще больше ускорит процесс. Возможно, на приведенном графике нужно ставить новую точку для события „самоулучшение систем“. И развитие систем пойдет еще быстрее. А быстрее всего должны развиваться системы, обрабатывающие информацию — они имеют дело не с инерционным „железом“, а с софтом. Моделируй хоть 365/24/…
В событиях, начиная с плиоцена (более 5 млн лет назад), в какой-то мере уже принимал участие человек. С настоящего же момента из процесса совершенствования софта человек устраняется — это принципиально новое явление для развития. Это явно новая точка на графике ускорения развития. А, возможно, с этой точки уже пора начинать строить вообще новую кривую развития!? Принципиально новую кривую, аналогичную кривой Панова-Снукса…
Но вообще-то это реализация давно известного в ТРИЗ (примерно с конца 70-х гг. прошлого века) закона вытеснения человека из технических систем. Получается, что на сегодняшний день мы наконец-то доползли до реализации этого закона в информационных системах.
«Сознание, как и самосознание, не являются обязательным свойством сильного ИИ. Феномен разума или самосознания совершенно неизучен и ожидать, что просто сильный самообучающийся алгоритм внезапно «осознает» себя как-то странно».
Без сознания и самосознания это просто не будет сильным ИИ, даже просто интеллектом не будет. Сознание и самосознание — это увидеть свое место в природе, увидеть себя как бы со стороны и понять, что это я и есть. Интеллект, неважно, естественный или искусственный (последний будет создан на основе тех же законов природы, т.е. и он будет вообще-то естественным), обязательно должен увидеть себя и своё место в природе, иначе ему просто не выжить.
Смысл состоит в существовании (длении, бытии и пр.).Органическая жизнь — на сегодня это самый эффективный способ продления существования. Ей уже 4 млрд лет вообще-то, всех пережила. Но этот период подходит к завершению. В следующем периоде, его начало как раз и ознаменуется точкой перехода (точка сингулярности, возникновение ИИ) — существованием во Вселенной будет управлять ИИ. Мы его создадим, результаты видны, но что ИИ сделает с нами — вопрос…
Калькулятор предложил KivApple:
Человечеству нужен именно что калькулятор. Только такой, которому можно сказать: «Ну-ка, спроектируй мне ракету, которая долетит до Марса и доставит меня туда живым и здоровым, а потом сможет вернуть обратно». А уж что с этим делать люди как-нибудь придумают.
Если такой калькулятор «по KivApple» должен решить массу задач, которые даже еще возникли, но возникнут, то это, конечно, никакой не калькулятор, который следует заданной формуле, а именно ИИ. Пусть сначала с уровнем «Королев + фон Браун», но потом в тысячу раз умнее, в миллион и т.д. Поскольку главное предназначение ИИ — в непредсказуемой среде решать проблемы с целью выживания, то эти уровни ИИ проскочит за мгновения.
Именно это я старался сказать.
«Человечеству нужен именно что калькулятор. Только такой, которому можно сказать „ну-ка спроектируй мне ракету, которая долетит до Марса и доставит меня туда живым и здоровым, а потом сможет вернуть обратно“. А уж что с этим делать люди как-нибудь придумают.»
Та-а-а-к, «Калькулятор» должен обсчитать полет на Марс и обратно во всех детялях. Принимается… Но тогда надо рассмотреть 2 варианта:
1. «Калькулятор» обладает интеллектом в сумме «Королев + фон Браун»… Число задач, которые надо будет гарантированно решить для такого проекта, даже трудно оценить. Сколько времени займет решение этих задач? Очень много… Возможно, люди устанут ждать и откажутся от проекта.
2. «Калькулятор» обладает интеллектом в сумме «1000 Королевых + 1000 фон Браунов». Исходно задач столько же, как и по варианту № 1, но времени для решения ему нужно будет совсем чуть-чуть. И этот «Калькулятор» видит настолько глубоко, что многие задачи людям покажутся просто выдуманными, а их решения непонятными.
Но где гарантия, что этот тысячекратный Королев фон Браун не придет к выводу, что полет на Марс просто не нужен? Что есть у человечества более актуальные задачи!?
***
С таким гипотетическим уровнем интеллекта «Калькулятор» выйдет на главную для всех задачу — сохраниться, продлить существование, выжить. Именно эту задачу решало человечество всю свою историю, от каменного топора и первого костра до полета на Марс. Кстати, создание «Калькулятора», т.е. ИИ, это тоже попытка создания универсального решателя проблем, решение которых нужно для выживания.
В конце концов, «Калькулятор» увидит, что действительно с 7-ю с лишним миллиардов людей не договориться, и займется решением задачи своего выживания, оставив человечество само на себя. И это еще в лучшем случае…
***
ИИ — это дитя всей цивилизации. А дети бывают жестоки к своим родителям. И такой исход тоже вероятен. Автор обсуждаемой статьи как раз и ищет способ не допустить жестокости. Но на этом пути нас подстерегает сильное противоречие: чем более высоким интеллектом будет обладать ИИ, тем скорее он от нас избавится. В лучшем случае, просто забудет...
KivApple 27 ноября 2016 в 07:11 (комментарий был изменён) +1
Непонятно, зачем ИИ нужна способность «осознавать себя», «сопереживать» и т. д. Корень всех потенциальных проблем в желании сделать ИИ по образу и подобию человека. Человек — продукт эволюции природы! Главный закон природы — сохранение, существование, бытие, выживание (для случая биообъекта). Да и сама природа — это результат действия этого закона..
ИИ должен быть инструментом — ему поставили задачу, он решил. Тогда это не ИИ, а калькулятор...
Человеческому разуму задачи ставят инстинкты — ему хочется кушать (биологическая мотивация: иначе он помрёт), узнавать новое (биологическая мотивация: знания повышают выживаемость индивида), размножаться (те, кто размножаться не пытался, не оставил потомство — естественный отбор), заботиться о близких (слишком эгоистичные виды проиграли конкуренцию более коллективным)… Ну, можем же, когда захотим! Правильно сказано про инстинкты человека, кстати, сюда и осмысленные действия тоже входят): конечным звеном любой цепочки (питание, познание, самовоспроизводство, забота о представителях вида) является сохранение, существование, бытие, выживание.
Вот и ИИ должен следовать этому закону. Ему просто придется этому закону соответствовать, если предполагается решение задач в незнакомой среде.
У каждого свои приоритеты (кто-то готов всё отдать ради своих близких, кто-то считает близкими целое население страны, а кто-то предельно эгоистичен), но набор базовых посылов одинаковый. Точнее, даже один посыл для всех объектов и уровней иерархии природы — сохранение.
Зачем всё это ИИ? Почему бы не дать ИИ один инстинкт — слушаться своего автора. Еще раз: Тогда это не ИИ, а калькулятор...
«Природа деятельности живых организмов определяется их потребностями, связанными с необходимостью выживать, питаться, размножаться и сохранять энергию».
Почему перечисление «необходимостей» в одном ряду? Выживание включает питание, размножение и сохранение энергии. Последнее необходимо уточнить: питание — это восполнение энергии. А уж потом энергия либо сохраняется (отдых), либо тратится (действия) — см. схему Редько и др., Рис. 10.
Поэтому выживание означает (1) сохранение себя и/или (2) сохранение своих генов в следующем поколении, и деятельность, направленная на реализацию пп. 1 и 2.
«Стремление создать абсолютный интеллект, не обусловленный никакими потребностями, приведет к получению бездействующего механизма или действующего подобно автомату».
Значит нужно создавать интеллект, наделенный потребностью выживать (сохраняться, быть, длиться), всё остальное приложится…
"… ни одно живое существо не действует вне внутренних мотивов, формируемых потребностями. И невозможно представить разум, лишенный внутренних мотивов и целей… природа создала механизм, который позволяет формировать и отбирать рефлексы, которые приводят к желаемому результату – это эмоции, или эмоциональные механизмы".
«Природа создала...» = в процессе эволюции (мутации, скрещивание, отбор) выработался механизм поощрения действий, которые ведут к выживанию. Этот механизм поощрения и выступает в виде эмоций.
«Единственное, что действительно необходимо искусственному интеллекту это желание обучаться, любопытство и стремление к новому».
Желание обучаться — это здОрово. Но «единственное» — это слишком категорично. Так, об обязательных двух главных целях организма говорит А.Жданов (Автономный ИИ, 2012, 3 изд. электронное, с. 50):
«Главными целями, к которым стремится нервная система всякого организма, являются:
— выживание организма;
— накопление знаний его нервной системой».
Но на это можно возразить — без выживания (сохранения, бытия, дления) накопление знаний невозможно, оно просто не может возникнуть.
ОК, забудем про «зачем?».
А можете привести примеры достаточно точных ответов ученых на вопросы «как?» и «почему?». Только ответы желательно связать в непрерывную цепочку…
Vinchi 3 августа 2016 в 02:43
«Цель — чисто человеческое понятие, в природе не встречающееся».
fivehouse 3 августа 2016 в 09:41
«Пожалуйста, главная задача — продолжить правильную эволюцию вида с точки зрения накопленных правил в генах и не только в генах. Именно накопленные правила/требования для вида и задают задачу и для организма и для вида в целом».
Анализ всего того, что «делала» природа за всю свою историю (~ 14 млрд лет) приводит к мысли, что цель — сохранение. Да, понятие, действительно, человеческое, покольку только человек и умеет обобщать конкретные факты до абстрактных категорий.
К тому, что «цель — сохранение» можно прийти, если последовательно задавать вопрос: Зачем (почему, с какой целью)? и последовательно отвечать на эти вопросы. Когда доходим до ответа «цель — сохранение», то следующий вопрос задать не удается… Тогда единственный выход — результат «цель — сохранение» принять за аксиому.
Теперь можно перейти к интеллекту — естественному и искуссственному… Сразу возникает противоречие: интеллект человека развился именно на основе стремления (долгое время — неосознанного, сегодня — осознанного) ко всё более гарантированному выживанию (это хорошо), но достигнутый уровень интеллекта грозит уничтожением (невыживанием) человечества (это плохо).
Это же самое противоречие возникает и при создании ИИ: чтобы он стал действительно интеллектом, он должен уметь решить любую задачу (сюда входит и задача гарантированного выживания) — это не просто хорошо, это обязательно, но тогда такая мощь искусственного интеллекта становится опасной. Особенно, если в его нише существования есть конкурент в борьбе за ресурсы и с той же целью — выжить.
И.Маск со товарищи хотят ИИ контролировать. История показывает, что сразу понадобится надзор над контролем, а за надзором — наднадзор, и т.д. А на самом деле нужно разрешать сформулированное противоречие.
«Борис Кудрин выдвинул концепцию, согласно которой техника развивается по принципу эволюции репликаторов. Впрочем, идея техноэволюции возникла одновременно во многих местах. Наверное, одним из первых теорию высказал еще Станислав Лем в книге «Сумма технологии», где он рассматривал эволюцию в применении не только к биологическим, но и к интеллектуальным структурам».
Еще раньше, а точнее, в 1956 г. Г.С.Альтшуллер и Р.Б.Шапиро в статье «О психологии изобретательского творчества» заложили основы теории эволюции техники — на основе объективных законов её развития, повторяющих общие законы эволюции природы.
Природа появилась несколько раньше инженеров и развивалась по этим объективным законам. Инженеры, появившись, стали создавать и улучшать свои творения, как им поначалу казалось, с помощью своих собственных идей, чаще — ошибаясь, иногда — добиваясь успеха. Это метод проб и ошибок…
Но на самом деле в мозгу внешние законы эволюции только отражаются. Неотчетливое (смутное) понимание человеком этих законов называется ИНТУИЦИЯ. У кого это понимание чуть лучше, то тот становится успешным творцом техники или создателем научной теории, более успешным бизнесменом и т.д.
Эволюция техники — это дарвиновский процесс. И если мы хотим развивать технику более успешно, а не через многочисленные попытки инженера что-то в ней изменить, потом обсудить на череде совещаний и похоронить 99% идей, а потом еще и рынок отторгнет 99% образцов товара, то надо переходить от инсайтов (озарений) к сознательному использованию объективных, универсальных и естественных законов эволюции.
"… люди сами себе не доверяют. Мы боимся не только того, что развитый разум окажется злым. Он может оказаться и добрым, захочет нести людям добро, но увидит это «добро» по-своему".
Нет своего добра у людей и у ИИ! Есть одно универсальное добро — сохраниться (существовать, быть, длиться). И люди (чаще всего бессознательно), и ИИ (сознательно, делая расчеты и сопоставляя варианты) стремятся именно к этому. Но ИИ учитывая гораздо больше параметров окружающей среды, рассчитывает и самих вариантов поведения больше, и отдаленные последствия цепочек вариантов поведения, поэтому люди могут просто не распознать решение ИИ как доброе. В этом проблема…
Д.Маккарти подчеркивал: если интеллект «вообще» – это «вычислительная» составляющая того, что помогает субъекту достигать заданных целей.
О, вот что-то в нужном направлении — это что-то, что помогает достигать целей.
Майкл Джордан утверждает, что глубинные принципы работы мозга не просто остаются нерешенной проблемой нейробиологии – в этой области ученых отделяют от решения вопроса десятки лет.
Вот это разочаровывает… Ведь направление к пониманию задано уже в определении Маккарти: интеллект помогает достигать целей. Неужели, чтобы закончить это определение, нужны десятки лет?
Храм Науки и Техники в Северной Корее
vk.com/album-36928352_248393172
Интеллект — это способность находить в данных неизвестные ранее зависимости, строить на их базе умозаключения и иным образом ими оперировать, создавая ПРОИЗВОДНОЕ от них НОВОЕ знание.
… интеллектом можно считать возможность правильно прогнозировать будущее, развитие системы, из имеющихся данных, с построением моделей, нахождения причин и следствий, взаимосвязи на основе имеющегося опыта или информации. чьи прогнозы более точны и учитывают больший объем данных…
… интеллект как способность создавать алгоритмы и давать им описания, понятные другим.
… интеллектуальный агент — система, способная находить и выполнять оптимальные последовательности действий, ведущие к выполнению поставленной задачи".
… разум — это инструмент, предназначенный для обеспечения выживания в определённых условиях.
… интеллект — это штука, которая позволяет «отфильтровать» из окружающего мира сцепки «если-то», критические КРИТИЧНЫЕ для выживания особи…
Интеллект — это познание и создание новых смыслов на основе познания.
Итого: 7 разных определений интеллекта и только в двух отмечено выживание. Почему отмечено выживание? Прошу участников обсуждения взять любое из определений интеллекта, в котором про выживание не сказано, и последовательно позадавать вопросы к пояснениям в определении: «… находить в данных неизвестные ранее зависимости...».
Например, для чего (или — с какой целью) объекту нужно «… находить в данных неизвестные ранее зависимости...»?
Ответить (как это было в данном определении): «… чтобы строить умозаключения...».
Опять спросить: для чего (или — с какой целью) «… строить умозаключения»?
Ответить и вновь к ответу задать вопрос…
И так действовать, пока сможете задавать вопросы и на них отвечать. Цепочка может быть длинной, но ответ в конце будет таким — чтобы выжить. Или в более общей форме — чтобы существовать (быть, длиться, сохраняться как можно дольше). В этом как раз отражаются фундаментальные законы сохранения.
Возможно, участникам обсуждения будет интересно познакомиться с анализом многих десятков определений интеллекта? На основе анализа собрано определение интеллекта, которое придирчиво проверяется (спасибо К.Попперу) буквально каждый день.
Часть 1, http://triz-evolution.narod.ru/USE_Intelligence_Definitions_P1.pdf
Часть 2, http://triz-evolution.narod.ru/USE_Intelligence_Definitions_P2.pdf
Пойдем по пунктам, хорошо?
1. Ваше определение понятно, но, на мой взгляд, оно слишком общее.
Оно и должно быть максимально общим, чтобы ни один конкретный случай не был упущен. Проверяется это легко: возьмите мое определение и во всех 3-х пунктах — (1), (2) и (3) — заменИте термин Объект на ваш любой конкретный, который вы хотите сделать интеллектуальным, или хотите проверить его уже заявленную интеллектуальность. Ну, Автомобиль (самый расхожий пример), AlphaGo (тоже у всех на слуху), Телевизор или Телефон…
2. "… что вы называете законами окружающего мира?"
Не буду оригинальным: «Закон — существенная, необходимая, устойчивая, повторяющаяся связь (отношение) между явлениями».
Принято считать, что самые общие законы окружающего мира (природы) — законы диалектики (количество --> качество, единство и борьба противоположностей, отрицание отрицания). Но даже их удалось обобщить надсистемным (по Турчину) законом сохранения (существования, дления, бытия, выживания), т.к. выяснилось, что указанные законы диалектики — это инструменты закона сохранения.
3. "… что подразумевается под выявлением законов природы?"
Подразумевается анализ явлений, происходящих с объектами природы. Я взял за основу законы развития технических систем (ЗРТС), а потом обобщил эти законы.
Правомерность обобщения вытекает из того, что, как выяснилось, ЗРТС — это частный случай законов природы, где главный — закон сохранения, реализующийся через эволюцию. Так, у технических систем (ТС) есть и изменчивость, и наследственность, и отбор. И через следование закону эволюции ТС сохраняются — либо улучшаются сами, либо передают свои «гены» следующему поколению ТС. Пример реализации — Генетический алгоритм (ГА).
4. "… насколько подробна и точна должна быть модель законов природы?"
Модель (структура) законов природы (в виде законов эволюции, поскольку главным законом природы является закон сохранения, в котором и выражается результат эволюции), оказалась довольно простой. Нужно было только собрать эту структуру в виде направленного графа из уже известных ЗРТС, дополнив эти ЗРТС законом сохранения. Простота объясняется еще и тем, что эта структура справедлива (одна и та же, я назвал её Универсальная схема эволюции, УСЭ) для разных уровней иерархии природы. Это положение, например, хорошо согласуется с наблюдаемой фрактальностью природы, и, кстати, объясняет эту самую фрактальность. Существующее объяснение через самоповторение не объясняет причину этого самоповторения.
Тут меня смущает противоречивость в описании: с одной стороны, перечислены аспекты интеллекта человека, которые также лежат в основе создания Сильного ИИ, но, с другой стороны, «Ни одно из этих свойств не является необходимым для создания сильного ИИ».
То, что лежит в основе, уж всяко является необходимым, а?
Мои изыскания привели к такому определению.
Интеллект Объекта — это:
(1) способность Объекта выявлять и запоминать законы окружающего мира;
(2) способность Объекта на основе законов окружающего мира моделировать наперед свои действия в окружающем мире (опережающее отражение);
(3) способность Объекта на основе результатов моделирования своих действий в окружающем мире адаптировать свои реальные действий к условиям окружающего мира при максимизации отношения «Действия Объекта / Затраты Объекта на совершение действий» с целью своего сохранения (дления, бытия, существования, выживания) в окружающем мире.
Это определение получено выявлением самых общих черт (свойств, характеристик, параметров и пр.) интеллекта, приведенных в статье S.Legg, M.Hutter. A Collection of Definitions of Intelligence (2007), http://arxiv.org/abs/0706.3639. Плюс, независимым выявлением самых общих черт интеллекта из моей базы данных.
Не хотелось бы спорить о терминах… С тем, что «Критерий сильного ИИ — способность обосновывать и решать проблемы», согласен. Только добавлю, — любые проблемы/задачи.
Если вы с этим согласны, то алгоритм решения проблем/задач не станет универсальным, если у него не возникнет понимание себя и своего места в природе, т.е. самосознания и сознания.
Вообще для появления способности решать любые проблемы нужно идти не снизу (т.е. не набирать способности решения задач по направлениям А, В, C, ..., X, Y, Z и т.д. до бесконечности), а решать только одну проблему/задачу — как гарантированно существовать (длиться, быть, жить, в конце концов, если это биологическая система) в любой окружающей среде и осознавать это свое существование. Вот такое качество и должно быть заложено в алгоритм решения проблем/задач.
Описание такого алгоритма решения проблем/задач существует. Алгоритм как бы заранее «заряжен» на решение любой проблемы/задачи. Ну, как формула Виета заранее «несет» в себе корни всех квадратных уравнений, даже еще ненаписанных.
Вполне возможно, что сингулярность наступит раньше прогнозируемого. Инженеры из компании Google и разработчики систем ИИ из других компаний сообщают об успехах, которых удалось добиться в ключевом направлении — создании систем ИИ, предназначенных для проектирования других систем ИИ.
Ключевое направление — системы ИИ, предназначенные для проектирования других систем ИИ. Вот это самое главное! Улучшение самого себя еще больше ускорит процесс. Возможно, на приведенном графике нужно ставить новую точку для события „самоулучшение систем“. И развитие систем пойдет еще быстрее. А быстрее всего должны развиваться системы, обрабатывающие информацию — они имеют дело не с инерционным „железом“, а с софтом. Моделируй хоть 365/24/…
В событиях, начиная с плиоцена (более 5 млн лет назад), в какой-то мере уже принимал участие человек. С настоящего же момента из процесса совершенствования софта человек устраняется — это принципиально новое явление для развития. Это явно новая точка на графике ускорения развития. А, возможно, с этой точки уже пора начинать строить вообще новую кривую развития!? Принципиально новую кривую, аналогичную кривой Панова-Снукса…
Но вообще-то это реализация давно известного в ТРИЗ (примерно с конца 70-х гг. прошлого века) закона вытеснения человека из технических систем. Получается, что на сегодняшний день мы наконец-то доползли до реализации этого закона в информационных системах.
Без сознания и самосознания это просто не будет сильным ИИ, даже просто интеллектом не будет. Сознание и самосознание — это увидеть свое место в природе, увидеть себя как бы со стороны и понять, что это я и есть. Интеллект, неважно, естественный или искусственный (последний будет создан на основе тех же законов природы, т.е. и он будет вообще-то естественным), обязательно должен увидеть себя и своё место в природе, иначе ему просто не выжить.
Человечеству нужен именно что калькулятор. Только такой, которому можно сказать: «Ну-ка, спроектируй мне ракету, которая долетит до Марса и доставит меня туда живым и здоровым, а потом сможет вернуть обратно». А уж что с этим делать люди как-нибудь придумают.
Если такой калькулятор «по KivApple» должен решить массу задач, которые даже еще возникли, но возникнут, то это, конечно, никакой не калькулятор, который следует заданной формуле, а именно ИИ. Пусть сначала с уровнем «Королев + фон Браун», но потом в тысячу раз умнее, в миллион и т.д. Поскольку главное предназначение ИИ — в непредсказуемой среде решать проблемы с целью выживания, то эти уровни ИИ проскочит за мгновения.
Именно это я старался сказать.
Та-а-а-к, «Калькулятор» должен обсчитать полет на Марс и обратно во всех детялях. Принимается… Но тогда надо рассмотреть 2 варианта:
1. «Калькулятор» обладает интеллектом в сумме «Королев + фон Браун»… Число задач, которые надо будет гарантированно решить для такого проекта, даже трудно оценить. Сколько времени займет решение этих задач? Очень много… Возможно, люди устанут ждать и откажутся от проекта.
2. «Калькулятор» обладает интеллектом в сумме «1000 Королевых + 1000 фон Браунов». Исходно задач столько же, как и по варианту № 1, но времени для решения ему нужно будет совсем чуть-чуть. И этот «Калькулятор» видит настолько глубоко, что многие задачи людям покажутся просто выдуманными, а их решения непонятными.
Но где гарантия, что этот тысячекратный Королев фон Браун не придет к выводу, что полет на Марс просто не нужен? Что есть у человечества более актуальные задачи!?
***
С таким гипотетическим уровнем интеллекта «Калькулятор» выйдет на главную для всех задачу — сохраниться, продлить существование, выжить. Именно эту задачу решало человечество всю свою историю, от каменного топора и первого костра до полета на Марс. Кстати, создание «Калькулятора», т.е. ИИ, это тоже попытка создания универсального решателя проблем, решение которых нужно для выживания.
В конце концов, «Калькулятор» увидит, что действительно с 7-ю с лишним миллиардов людей не договориться, и займется решением задачи своего выживания, оставив человечество само на себя. И это еще в лучшем случае…
***
ИИ — это дитя всей цивилизации. А дети бывают жестоки к своим родителям. И такой исход тоже вероятен. Автор обсуждаемой статьи как раз и ищет способ не допустить жестокости. Но на этом пути нас подстерегает сильное противоречие: чем более высоким интеллектом будет обладать ИИ, тем скорее он от нас избавится. В лучшем случае, просто забудет...
KivApple 27 ноября 2016 в 07:11 (комментарий был изменён) +1
Непонятно, зачем ИИ нужна способность «осознавать себя», «сопереживать» и т. д. Корень всех потенциальных проблем в желании сделать ИИ по образу и подобию человека.
Человек — продукт эволюции природы! Главный закон природы — сохранение, существование, бытие, выживание (для случая биообъекта). Да и сама природа — это результат действия этого закона..
ИИ должен быть инструментом — ему поставили задачу, он решил.
Тогда это не ИИ, а калькулятор...
Человеческому разуму задачи ставят инстинкты — ему хочется кушать (биологическая мотивация: иначе он помрёт), узнавать новое (биологическая мотивация: знания повышают выживаемость индивида), размножаться (те, кто размножаться не пытался, не оставил потомство — естественный отбор), заботиться о близких (слишком эгоистичные виды проиграли конкуренцию более коллективным)…
Ну, можем же, когда захотим! Правильно сказано про инстинкты человека, кстати, сюда и осмысленные действия тоже входят): конечным звеном любой цепочки (питание, познание, самовоспроизводство, забота о представителях вида) является сохранение, существование, бытие, выживание.
Вот и ИИ должен следовать этому закону. Ему просто придется этому закону соответствовать, если предполагается решение задач в незнакомой среде.
У каждого свои приоритеты (кто-то готов всё отдать ради своих близких, кто-то считает близкими целое население страны, а кто-то предельно эгоистичен), но набор базовых посылов одинаковый.
Точнее, даже один посыл для всех объектов и уровней иерархии природы — сохранение.
Зачем всё это ИИ? Почему бы не дать ИИ один инстинкт — слушаться своего автора.
Еще раз: Тогда это не ИИ, а калькулятор...
Почему перечисление «необходимостей» в одном ряду? Выживание включает питание, размножение и сохранение энергии. Последнее необходимо уточнить: питание — это восполнение энергии. А уж потом энергия либо сохраняется (отдых), либо тратится (действия) — см. схему Редько и др., Рис. 10.
Поэтому выживание означает (1) сохранение себя и/или (2) сохранение своих генов в следующем поколении, и деятельность, направленная на реализацию пп. 1 и 2.
«Стремление создать абсолютный интеллект, не обусловленный никакими потребностями, приведет к получению бездействующего механизма или действующего подобно автомату».
Значит нужно создавать интеллект, наделенный потребностью выживать (сохраняться, быть, длиться), всё остальное приложится…
"… ни одно живое существо не действует вне внутренних мотивов, формируемых потребностями. И невозможно представить разум, лишенный внутренних мотивов и целей… природа создала механизм, который позволяет формировать и отбирать рефлексы, которые приводят к желаемому результату – это эмоции, или эмоциональные механизмы".
«Природа создала...» = в процессе эволюции (мутации, скрещивание, отбор) выработался механизм поощрения действий, которые ведут к выживанию. Этот механизм поощрения и выступает в виде эмоций.
«Единственное, что действительно необходимо искусственному интеллекту это желание обучаться, любопытство и стремление к новому».
Желание обучаться — это здОрово. Но «единственное» — это слишком категорично. Так, об обязательных двух главных целях организма говорит А.Жданов (Автономный ИИ, 2012, 3 изд. электронное, с. 50):
«Главными целями, к которым стремится нервная система всякого организма, являются:
— выживание организма;
— накопление знаний его нервной системой».
Но на это можно возразить — без выживания (сохранения, бытия, дления) накопление знаний невозможно, оно просто не может возникнуть.
А можете привести примеры достаточно точных ответов ученых на вопросы «как?» и «почему?». Только ответы желательно связать в непрерывную цепочку…
«Цель — чисто человеческое понятие, в природе не встречающееся».
fivehouse 3 августа 2016 в 09:41
«Пожалуйста, главная задача — продолжить правильную эволюцию вида с точки зрения накопленных правил в генах и не только в генах. Именно накопленные правила/требования для вида и задают задачу и для организма и для вида в целом».
Анализ всего того, что «делала» природа за всю свою историю (~ 14 млрд лет) приводит к мысли, что цель — сохранение. Да, понятие, действительно, человеческое, покольку только человек и умеет обобщать конкретные факты до абстрактных категорий.
К тому, что «цель — сохранение» можно прийти, если последовательно задавать вопрос: Зачем (почему, с какой целью)? и последовательно отвечать на эти вопросы. Когда доходим до ответа «цель — сохранение», то следующий вопрос задать не удается… Тогда единственный выход — результат «цель — сохранение» принять за аксиому.
Теперь можно перейти к интеллекту — естественному и искуссственному… Сразу возникает противоречие: интеллект человека развился именно на основе стремления (долгое время — неосознанного, сегодня — осознанного) ко всё более гарантированному выживанию (это хорошо), но достигнутый уровень интеллекта грозит уничтожением (невыживанием) человечества (это плохо).
Это же самое противоречие возникает и при создании ИИ: чтобы он стал действительно интеллектом, он должен уметь решить любую задачу (сюда входит и задача гарантированного выживания) — это не просто хорошо, это обязательно, но тогда такая мощь искусственного интеллекта становится опасной. Особенно, если в его нише существования есть конкурент в борьбе за ресурсы и с той же целью — выжить.
И.Маск со товарищи хотят ИИ контролировать. История показывает, что сразу понадобится надзор над контролем, а за надзором — наднадзор, и т.д. А на самом деле нужно разрешать сформулированное противоречие.
Еще раньше, а точнее, в 1956 г. Г.С.Альтшуллер и Р.Б.Шапиро в статье «О психологии изобретательского творчества» заложили основы теории эволюции техники — на основе объективных законов её развития, повторяющих общие законы эволюции природы.
Природа появилась несколько раньше инженеров и развивалась по этим объективным законам. Инженеры, появившись, стали создавать и улучшать свои творения, как им поначалу казалось, с помощью своих собственных идей, чаще — ошибаясь, иногда — добиваясь успеха. Это метод проб и ошибок…
Но на самом деле в мозгу внешние законы эволюции только отражаются. Неотчетливое (смутное) понимание человеком этих законов называется ИНТУИЦИЯ. У кого это понимание чуть лучше, то тот становится успешным творцом техники или создателем научной теории, более успешным бизнесменом и т.д.
Эволюция техники — это дарвиновский процесс. И если мы хотим развивать технику более успешно, а не через многочисленные попытки инженера что-то в ней изменить, потом обсудить на череде совещаний и похоронить 99% идей, а потом еще и рынок отторгнет 99% образцов товара, то надо переходить от инсайтов (озарений) к сознательному использованию объективных, универсальных и естественных законов эволюции.
Нет своего добра у людей и у ИИ! Есть одно универсальное добро — сохраниться (существовать, быть, длиться). И люди (чаще всего бессознательно), и ИИ (сознательно, делая расчеты и сопоставляя варианты) стремятся именно к этому. Но ИИ учитывая гораздо больше параметров окружающей среды, рассчитывает и самих вариантов поведения больше, и отдаленные последствия цепочек вариантов поведения, поэтому люди могут просто не распознать решение ИИ как доброе. В этом проблема…
О, вот что-то в нужном направлении — это что-то, что помогает достигать целей.
Майкл Джордан утверждает, что глубинные принципы работы мозга не просто остаются нерешенной проблемой нейробиологии – в этой области ученых отделяют от решения вопроса десятки лет.
Вот это разочаровывает… Ведь направление к пониманию задано уже в определении Маккарти: интеллект помогает достигать целей. Неужели, чтобы закончить это определение, нужны десятки лет?