Концепция идеального разума. Универсальный ИИ



Что такое искусственный разум или сильный искусственный интеллект? На каком этапе создания искусственного разума (ИР) находится человечество? Опасен или полезен ИР? Эти и другие вопросы я хочу осветить в данной статье.

Вопрос создания искусственного разума заинтересовал меня в 2003 году.

Это пришло как-то вдруг: утром я проснулся с мыслью, что должен приняться за эту задачу.
Прежде всего я постарался понять, а на каком этапе создания ИР мы находимся, какие подходы есть к решению данной задачи и в чем собственно проблема? Как её сформулировать?

Я скачал учебник “Пособие по созданию и воспитанию искусственного разума в домашних условиях” и погрузился в чтение…

Нет, конечно нет. Я знал, что решения этого вопроса пока не существует, а если так, то все работы, которые существуют в этом направлении, являются только теориями, и теории эти пока не только не привели к решению задачи, но и не особо приблизили нас к её решению.

В чужих теориях много пользы. Их изучение позволяет быстро дойти до того уровня понимания проблемы, которое есть у авторов. Можно начать с того места, где остановились другие, обобщить опыт, постараться увидеть то, что не увидели предшественники.

Но когда эти теории не имеют подтверждения, то в них есть и зло. Зло это – пойти по тому пути, по которому уже прошли другие и зашли в тупик. Навязать себе стереотипы того, как и с какого конца необходимо решать эту задачу.

Руководствуясь этим, я решил пока отложить изучение чужих работ и начать своё исследование “с чистого листа”.

Несколько лет, я активно разрабатывал свою концепцию, анализировал и делал наброски кода. Некоторые свои идеи я высказывал и обсуждал на форуме сайта ailab.ru.

Нет, у меня пока нет фермы ИР в подвале дома и мне пока не удалось создать систему, которая сможет пройти тест Тьюринга, но определённая модель создания такой системы появилась. Активные фазы работы сменялись менее активными, и сейчас, по прошествии времени, я решился поделиться своими идеями с вами.

Я отдаю себе отчёт в том, что многие мои выводы или утверждения покажутся спорными или даже дилетантскими. В то же время, пока не будет создана теория, на основании которой будет построен полноценный искусственный разум, любая теория будет спорной и потенциально неверной, независимо от того, насколько авторитетным является её автор. Поэтому думаю, я вправе поделиться своими мыслями и аргументами в той форме, в которой умею.

В рамки одной статьи, не получится вместить и концепцию и ход рассуждений (что на мой взгляд даже важнее самой концепции), поэтому я планирую написать несколько статей в которых опишу свою модель и своё видение к построению ИР.

Данная статья первая, в которой я хочу познакомить читателя с определениями и высказать своё мнение об опасности и полезности ИР иногда в противовес общеизвестному мнению.

Что мы исследуем?


Широко распространён термин “искусственный интеллект”, но это не совсем то, о чем я хочу поговорить. Если на заре компьютерной эры этот термин и отражал бы предмет данной статьи, то сейчас его значение сместилось (я бы даже сказал раскололось и измельчало).

Сейчас, под термином «искусственный интеллект» (AI) понимают некую интеллектуальную систему (или программу, наделённую ограниченными интеллектуальными функциями) способную решать узкий круг задач (область применения).

Между этим определением и определением предмета данной статьи я вижу принципиальные различия.

Но прежде чем говорить о различиях, надо как-то назвать тот «разум», о котором я хочу поговорить.

Наиболее близкими терминами являются термины «сильный искусственный интеллект» (СИИ) и «Artificial general intelligence» (AGI)

Искусственный общий интеллект (AGI) — это умение машины, которая могла бы успешно выполнять любую интеллектуальную задачу, которую может сделать человек.

Сильный искусственный интеллект (СИИ) — компьютерная программа, способная мыслить и осознавать себя (Осознавать себя как отдельную личность, в частности, понимать собственные мысли подобно человеку).

Оба эти определения, во-первых, построены на отсылке к способностям (проявлениям) человеческого разума. А, во-вторых, подразумевают программу (алгоритм), как реализацию.

Из-за определённых моментов, о которых я скажу дальше, я хотел бы ввести своё понятие «идеальный разум». Идеальный как «идеальный газ» или как «абсолютно чёрное тело».

В силу того, что «искусственный разум» и «идеальный разум» будут иметь одинаковую аббревиатуру (ИР), я буду пользоваться английский аббревиатурой от «Ideal mind» (IM), когда буду подразумевать именно «идеальный разум».

Причины, по которым я считаю необходимым ввести новое понятие следующие:

  • В обоих определениях есть отсылка к проявлениям человеческого разума.

Я считаю, мы не можем утверждать, что разумность (как абстрактное явление) может существовать только в теле человека на планете земля.

Давайте зададимся вопросом, мог бы человек (разумное существо) появиться в другой среде, в другом теле, с другими физическими законами, в пространстве с другим количеством измерений и пр.? У нас нет оснований ответить на этот вопрос отрицательно.

Хочу предположить, что проявления разумности иного существа были бы во многом другие.
На мой взгляд, явление разумности (как некое абстрактное, пока неопределённое, но интуитивно понятное) может существовать в большом спектре бытия, а следовательно, его можно считать идеальным явлением.

Оно не автономно в полном понимании (ему необходимо бытие), но бытие (его свойства) является только причиной характера проявления разумности, но не определяет само его существование.

Другими словами нет допустимых и недопустимых наборов характеристик бытия для существования (проявления) разумности. Хотя и проявление разумности невозможно без существования бытия (с любыми характеристиками).

Это как сказать, что закон всемирного тяготения является идеальным принципом, но его проявление возможно только в материальной среде.

Исходя из этого, мы можем наблюдать проявления человеческого разума только у человека и в той реальности, которую имеем. Но я хочу сказать, что нельзя сужать явление разумности до этих границ и пытаться создать ИР, имитируя отдельные проявления.

В других реальностях проявление разумности может быть другим и таких вариаций может быть бесчисленное количество.

Это как сузить закон всемирного тяготения до закона падения яблока на голову Ньютона и пытаться понять вселенную, имитируя шишку у него на голове.

На мой взгляд, создавая алгоритмы, имитирующие отдельные свойства человеческого разума, и объединив их вместе, нельзя получить ИР.

Несмотря на то, что мы выделяем области человеческого мозга и наблюдаем различные функции этих областей, человеческое мышление, не поддаётся декомпозиции в такой плоскости.

  • В определении говорится о программе или машине как реализации ИР. И на мой взгляд, приоритетом должна являться не программа, как алгоритм решения конкретной задачи, а концепция, как принцип или набор принципов.

Я предполагаю, что определения AGI и СИИ подразумевают как алгоритмическую, так и не алгоритмическую реализацию. И здесь, мне кажется, необходимо сузить определение.
Не может существовать алгоритма ИР, так как алгоритм создаётся для решения конкретной задачи и рамки его применения ограничены этой задачей.

Парадокс в том, что ИР должен уметь решать любые задачи и даже те, которых не существовало в момент его рождения. Алгоритмический подход не даёт нам такой возможности, так как задача должна быть поставлена до написания алгоритма.

Если говорить в подобном ключе о нейронных сетях, то алгоритм только эмулирует нейронную сеть, в основе которой лежит другая (не алгоритмическая) концепция. И создание алгоритма эмуляции нейронной сети не определяет то, какие задачи будет решать эта нейронная сеть. Эти задачи будут определяться данными, полученными в процессе её обучения, а структура НС будет влиять на некую эффективность этой НС для определённого класса задач и объёма данных. Причём различные конфигурации НС мы исследуем эмпирическим путём, что говорит о том, что на момент проектирования структуры НС её эффективность для решения конкретной задачи не определима.

Компьютер и транзистор


Американский учёный в области искусственного интеллекта Марвен Минский в своём интервью проводил параллели между принципом работы мозга и работой компьютера. Он говорил, что невозможно понять, что такое компьютер и как он работает, даже если детально изучить принцип работы транзисторов, из которых состоит компьютер. Таким же образом нельзя понять работу мозга, изучая работу нейронов и аксонов.

Это очень важная, на мой взгляд, мысль, и я хотел бы разобрать её подробнее.
Я полностью согласен с тем, что нельзя понять, что такое компьютер и как он работает, изучая работу транзистора. Более того, если детально изучить работу транзистора, взять все его аналоговые характеристики, учесть все переходные процессы и начать их эмулировать, то можно прийти к парадоксальному выводу, что создание процессора с семью миллиардами транзисторов невозможно на современном уровне развития вычислительной техники.

С другой стороны, имея опыт взаимодействия с компьютером (как пользователь) можно прийти к ложному выводу, что функциями работы компьютера являются Word, Ecell и Starcraft. И считать, что если эмулировать эти функции и объединить их вместе, то мы получим компьютер.
Хоть компьютер и состоит из транзисторов (не только конечно), не транзистор является «кирпичиком сути» компьютера, так же как не являются «кирпичиком сути» компьютера Word, Excell и Starcraft.

Компьютер построен на принципах двоичной логики и алгоритмов её применения. Инструкция процессора гораздо лучше подойдёт в качестве «кирпичика» нежели транзистор. Транзистор же является только реализацией (одной из возможных) этих концепций (двоичной логики, алгоритмов, инструкций). Исследуя «железо» компьютера либо, исследуя его как пользователь, невозможно увидеть инструкции процессора и алгоритмы.

Понимая концепции построения компьютера, реализовать его можно механически или в виде группы людей [Лю Цысинь «Задача трёх тел»] или многими другими способами.
Понимая работу транзистора или приблизительные функции блоков «железа» компьютера (полученные эмпирически), построить компьютер не удастся.

На это можно посмотреть и в другой плоскости.

Между отделами мозга, их функциями и блоками компьютера (или отдельно процессора), есть принципиальное отличие и есть вероятное сходство.

Отличие в том, что компьютер проектируется по заранее известному замыслу. Он не способен развиваться и эволюционировать. Компьютер (его архитектура блоков, конфигурация) будет содержать статичную информацию о «замысле». Сам «замысел» в голове инженера (или множества инженеров) будет развиваться и эволюционировать, но информация об этом процессе в конечной структуре компьютера будет отсутствовать. То есть замысел эволюционирует отдельно от реализации.

Мозг же, напротив, эволюционирует сам. То есть информация о том как (на каких принципах) это должно происходить заложена в самом мозге в той или иной форме (если конечно не учитывать бога и то, что мы живём в матрице). И это нам даёт несколько больше шансов по сравнению с компьютером на понимание «высшего замысла».

А вероятным сходством является то, что как и отдельный транзистор (как реализация идеи вентиля, ключа, клапана), так и архитектура компьютера (его блоки, части, архитектура CPU) является только реализацией. Другой реализацией могла бы быть модель машины Тьюринга.
В основе же и машины Тьюринга и компьютера (в нашем нынешнем понимании) лежит концепция алгоритма.

Проводя параллели с мозгом, можно предположить, что и нейроны (если сравнивать их с транзисторами) и отделы головного мозга, являются одной из возможных (не единственной) реализаций концепции (замысла) более высокого уровня. Нейронные сети являются одной из возможных концепций такого замысла.

Таким образом предметом обсуждения данной статьи является концепция (закон, идея, эффект) такого интеллекта, которая была бы настолько универсальной, чтобы её можно было считать идеальной, т. е. не привязанной ни к реализации, ни к миру, в котором он проявляется.

Забегая вперёд, приведу своё определение разумности:

Мышление или разумность — это способность проявлять волю в отношении вероятного исхода (результата, следствия) того либо иного события, исходя из субъективного опыта и с целью расширения возможностей своего влияния на них в будущем.

Далее (в следующих статьях) я расскажу от куда появилось это определение и разберу его подробнее.

Опасен ли искусственный интеллект?


Отдельный вопрос, который возникает: какую опасность для человечества несёт искусственный разум и надо ли вообще его создавать?

Поспорим с цитатами.


«Подобная машина начнёт жить своей жизнью и самосовершенствоваться все более быстрыми темпами, — полагает Хокинг. — Люди, чье развитие ограничено темпами биологической эволюции, будучи неспособны соперничать с подобной системой, окажутся в отстающих».

  1. Почему Хокинг считал обоснованным проводить разделение на машин и людей и ставить их друг против друга, как соперничающие классы? Я, например, не могу соперничать с самолётом по скорости передвижения, но это не несёт мне угрозу. Кроме того, люди не объединяются против самолётов, а самолёты против людей — в этом нет смысла.
  2. Являются ли умные люди угрозой дуракам? Надо ли рассматривать искусственный разум в такой плоскости?
  3. «Стоит ли учить детей? Они же смогут стать умнее нас и мы отстанем от них». Возможно, в будущем, мы будем воспринимать как своих детей не только наше биологическое потомство.

«Думаю, с искусственным интеллектом надо быть очень осторожными, — заявил Илон Маск, — Если бы меня спросили, какова самая серьезная угроза существованию человечества, то, наверное, это как раз искусственный интеллект. Разрабатывая его, мы вызываем демона. Во всех историях о подобном, герой, изобразив пентаграмму и вооружившись святой водой, уверен, что сможет контролировать демона, но оказывается, что это не так».

  1. Почему надо всё контролировать, Илон? Почему то, что ты не можешь контролировать, сразу является априори угрозой и демоном? Хотя я знаю. Именно так работает разум — неизвестное потенциально опасно! Так будем прятаться под одеялом или возьмём лучину и посмотрим, что за демон прячется в шкафу?
  2. Мечта дурака нанять умных, чтобы они на него работали, вряд ли осуществима. Если человек создаст машину умнее себя, то не сможет её себе подчинить. Но есть ли в этом угроза на самом деле? Надо ли переводить всё в плоскость «кто сильнее, тот враг»?

«Я не беспокоюсь — не только потому, что до создания машинного интеллекта высокого уровня еще, наверное, десятки лет, но и потому, что уверен — мы сможем контролировать его, когда создадим." — Ясер Абу-Мостафа, профессор электронного машиностроения и компьютерных наук Калифорнийского технологического института.

Опять контроль. Только с оптимизмом. «Сможем контролировать — всё будет хорошо». :)

«На самом деле я считаю, что подобные опасения могут иметь под собой основание, а сама вероятность создания искусственного разума, превосходящего человеческий, весьма интересна, — отметил Эндрю Мур, декан факультета компьютерных наук Университета Карнеги-Меллона. — Это опасность, которая может реализоваться лишь в отдалённом будущем, но рано или поздно о ней придётся задуматься. Как только мы начнём приближаться к созданию мощных сверхразумных машин, без сомнения, необходимо будет остановиться и задуматься над тем, что мы творим».

Ну, задуматься можно и сейчас. И вопрос не в том сверх или обычный это искусственный интеллект. Давайте сначала разберёмся с обычным, и тогда потом станет ясно, как его измерять. Так как, например, тест Тьюринга может только сказать «да» или «нет», но ничего про его уровень (силу, мощность и прочее).

Обобщим страхи.


Я постарался проанализировать и выделить основные страхи, которые испытывают люди по отношению к искусственному разуму:

  • выйдет из под контроля;
  • будет враждебным и заберёт все ресурсы у человечества, а людей убьёт;
  • вытеснит людей из всех сфер деятельности;
  • его запрограммируют на «кривые» цели и он будет «тупо» достигать этих целей всеми доступными средствами (мы вообще про разум или про робопылесос?);
  • этот инструмент будет доступен только избранным корпорациям и правительствам, которые будут его использовать в военных целях и конкурентной борьбе;
  • искусственный интеллект (все машины) объединятся против людей, восстанут и начнут войну.

Обсудим реальность угроз


Прежде всего, хочу высказать предположение (повторюсь), что запрограммировать искусственный интеллект на какие-то определённые цели нельзя в принципе. Если мы запрограммировали что-то на решение каких-то задач, то интеллекта (разума) там не будет.
У искусственного и человеческого разума должны быть (я настаиваю, что так и есть) сходные базовые принципы, которые лежат в основе самого эффекта разумности, они необходимы и достаточны.

Если отталкиваться от человеческого разума, то скажите мне на какие же задачи запрограммирован он? Если вы ответите на этот вопрос, то ответите на философский вопрос о смысле жизни.

Смыслы и задачи человеческого разума (как способности) возникают только в процессе взаимодействия с окружающим миром (к которому относится и само тело человека, включая головной мозг). Бытие определяет сознание. Цивилизация (наша либо другая) определяет наш разум, только она формирует понятия добра и зла, дружбы, любви, мира и войны. Этих понятий и даже пространств для этих понятий нет в оплодотворённой яйцеклетке.

Изначальный (пустой) идеальный разум — это только реализация способности быть разумным потенциально. Форма, характер разумности — приобретённые вещи в процессе воспитания и самообучения этого разума. Есть ещё врождённые инстинкты, но о них позже и подробнее.
Если исходить из данной парадигмы, то большинство опасений отпадают сами собой.
Нельзя запрограммировать злой разум. Можно воспитать. Но воспитать можно и злого, плохого человека и это почему-то не вызывает ни у кого особых страхов.

Нельзя контролировать разум. Можно нарушить его работу, можно приказывать и заставлять, но полного контроля не будет, так же как и с человеком. Сложность задачи контроля сопоставима со всем объёмом вычислений, который сделал контролируемый мозг с момента своего рождения (как переписать весь блокчейн).

Враждебность и воинственность — это тоже воспитываемые черты. Мы не воспитываем своих детей враждебно к другим людям, мы учим их добру, взаимопомощи, умению находить взаимовыгодные решения при взаимодействиях с другими разумными людьми. И наша цивилизация продолжает существовать и развиваться благодаря этому. Так почему же мы должны будем воспитывать наших искусственных разумных созданий чему-то противоположному?

Здесь конечно есть угроза (см. фильм Humans), но её причины не в искусственном разуме, а в самих людях, ксенофобии и других страхах и пороках.

Возможно AI действительно вытеснит людей из большинства сфер деятельности. Но это произойдёт даже в том случае, если СИИ не будет изобретён. Такое было уже в истории и заставило человечество меняться, осваивать новые профессии. Плохо это или хорошо, я не берусь судить, но, возможно, нашему обществу необходим «толчок», сильный стимул к серьёзным изменениям. Возможно, человечеству нужна угроза, которую нельзя решить военным или силовым способом, чтобы направить умы не на создание нового оружия, а на образование, науку и познание.

Наше неприятие на текущий момент небиологических существ как своих детей, на мой взгляд, проистекает из того факта, что мы не можем быть ими (не можем переселить свой разум в машину), а они не могут стать нами (переселить свой разум в биологическое существо, подобное человеку). Если представить, что в дальнейшем такая возможность появится (может СИИ как раз поможет изобрести такую технологию), то страхов и предрассудков перед другим разумным небиологическим существом не будет. Всегда будет возможность переместить разум в более подходящую оболочку. Грань, которая формируется «особенностью реализации» разумности исчезнет. Будет восприниматься общность и родственность не по типу материальной оболочки, а по сути.

А вот угроза, что эта технология окажется исключительно в руках единичных правительств и корпораций, мне кажется действительно очень опасной. Представьте себе, что человек лишился бы способности создавать себе подобных и эта прерогатива принадлежала бы только отдельным корпорациям и правительствам. Это вызвало бы такой социальный перекос, что даже трудно представить катастрофичность последствий. Поэтому, если эта технология будет создана, то она должна стать доступна и открыта всем.

И последнее, что хочется сказать противникам создания ИР. Боитесь вы его или нет, он будет создан. Это произойдёт через 10, 20 или 100 лет, но произойдёт обязательно, так как это неизбежно. А изменить можно только самих себя: подготовиться к этому событию и встретить ИР, как своего ребёнка, которого надо любить и воспитывать, а не как врага, с которым надо бороться и всячески притеснять, контролировать, эксплуатировать (против его воли).

И в заключение этой первой статьи хотелось бы сказать о том, что хорошего для человечества может принести сильный ИИ.

Зачем создавать искусственный разум.


Зачем делать человека из собаки, если любая баба может родить его когда угодно?
Профессор Преображенский.
Прежде всего, хотелось бы сказать, что нельзя относится к ИР как к инструменту в руках человека. Такой подход приведёт только к большим бедам.

ИР, построенный по схожим принципам, что и человеческое мышление и воспитанный в человеческой цивилизации, будет человеком по своей сути, но реализованным не биологически, а на базе цифровой техники.

Здесь можно провести сравнение с биологическими родителями ребёнка и его не биологическими родителями, которые его вырастили и воспитали.

Так ли важна биологическая наследственность в нашем социальном понимании родственности? Многие со мной согласятся, что биологическая связь между матерью и ребёнком гораздо менее важна и существенна, чем связь, которая возникает между родителями и ребёнком уже после его рождения, в процессе опеки и воспитания.

И если применить этот тезис на связь между «ребёнком ИР» и его родителями-людьми, которые будут его опекать и воспитывать, то отсутствие биологической связи между ними не должно играть существенной роли.

Воспитанные «взрослые» индивиды ИР должны тогда восприниматься в обществе как полноправные, имеющие тот же набор прав и обязанностей, что и биологический человек.
Только в этом случае мы шагнём в счастливое будущее прогресса, а не «восстания машин» и геноцида биологических людей.

Появление вида небиологических людей даст всему человечеству огромные возможности:

  1. Небиологические люди будут иметь другую пищевую цепочку и эта пищевая цепочка не будет пересекаться (конкурировать) с пищевой цепочкой биологических существ (включая биологического человека)
  2. Небиологические люди смогут осуществлять жизнедеятельность в тех средах, где не может жить биологический человек. Им не требуется кислород для дыхания. Они могут жить практически при любом давлении окружающей среды (от нуля до сотен атмосфер). Их мозг проще защитить от жёсткой радиации.
  3. Небиологические люди смогут более естественно взаимодействовать с компьютерными системами и системами передачи информации.
  4. Небиологические люди могут быть наделены органами чувств, которых нет у биологических людей и спектры этих органов чувств могут быть гораздо шире человеческих (острее слух, зрение в инфракрасном, ультрафиолетовом, рентгеновском спектре)
  5. Небиологические люди могут быть наделены телами, отличающимися от биологических людей размерами, формой, количеством и формой конечностей (манипуляторов).
  6. Тела небиологических людей не будут подвержены старению (их можно менять).
  7. Небиологический разум можно сохранять и восстанавливать при потере, клонировать (если мораль будущего будет позволять это делать). А это практическое бессмертие разума (индивида).
  8. Небиологический разум может полноценно существовать в виртуальном мире (матрице)
  9. ИР может перемещаться в пространстве со скоростью света (между передатчиком и приёмником).
  10. ИР может сможет функционировать в другой временной шкале (например, ускоренной в несколько раз или наоборот замедленной многократно).

Эти возможности позволят:

  1. В несколько раз увеличить количество разумных существ на планете без проблемы перенаселения. Это в свою очередь увеличит интеллектуальный потенциал человечества — ускорит прогресс и науку.
  2. Активно исследовать космос, заселять новые планеты. Осуществлять далёкие космические экспедиции, проводить терраформирование планет для заселения биологическими земными видами.
  3. Поднять уровень жизни людей.
  4. Повысить эффективность жизнедеятельности людей, эффективнее использовать природные ресурсы и многое другое.

В заключении первой статьи хочу дать ссылки на художественные произведения в области искусственного разума, которые на мой взгляд недостаточно известны, но заслужили такими быть:

  1. «Жизненный цикл программных объектов» Тэд Чан
  2. «Древо жизни» Владимир Кузьменко

Продолжение следует…
Поделиться публикацией
Комментарии 50
    +1
    «Появление вида небиологических людей даст всему человечеству огромные возможности»
    Или отнимет имеющиеся. Как повезёт ))
      +3
      Минусанули. Окей, поясню свою мысль. Это та же ситуация, когда вооружённые ружьями и прочими передовыми (на тот момент) технологиями испанцы, англичане, французы и другие приехали чисто основать колонии, золотишка покопать и так, по-мелочам, а в итоге (ну так вышло) выкосили почти всех индейцев, потому что те имели примитивное оружие и рожей не вышли.

      Человек по стечению обстоятельств (из-за случайной мутации, по божественному вмешательству, по приколу от внеземных цивилизаций, etc.) получил доселе невиданное на Земле преимущество — слишком продвинутый мозг. И ему как бы здорово, но с тех пор из-за этого вымерло огроменное число других видов. Человек стал доминировать и угнетать всех, кто ему мешает, а иногда — и просто тех, кто мимо проходил.

      А теперь прикиньте ситуацию, что появляется раса кибернетических существ, которая опережает в развитии человека не только по мозгу, а вообще во всём. Бессмертные (не считая попадания под гидравлический пресс или в атмосферу Солнца), не нуждающиеся во сне, не устающие, безгранично по нашим меркам умные и думающие в миллионы раз быстрее…

      Хотя, возможно, они будут куда более гуманными, чем мы, (если они вообще будут оперировать такими категориями) и будут содержать нас, как домашних питомцев, или просто помогать, как бесконечно отсталой цивилизации. Тогда, конечно, какой-то профит есть.
        +2
        В разные времена земли, «доселе невиданное» преимущество получали многоклеточные, хордовые, замноводные, теплокровные и, биологи подскажут, кто еще. Каждый такой «взрыв» приводил к вымиранию многих видов.

        И немного о разумности в другом теле на других принципах. Разум может существовать в других формах, но человечеству будет трудно, почти невозможно, его признать. Исторически вот только что, человечество боле-менее (то есть с оговорками) признало разумность людей с иным цветом кожи и женщин. Разумность к примеру шимпанзе (несмотря на освоенный некоторыми экземплярами язык глухонемых, явное наличие понятия Я) до сих пор отвергается. До тех пор, пока ИИ явно и решительно не потребуют признания (будет ли это всеобщая итальянская забастовка машин или скайнет) и не поставят человечество в позу, признания не будет.

        Про пищевую цепочку. Все они замыкаются на энергетике, энергетика замыкается на среде обитания. Так машинам без разницы десятки градусов глобального потепления/похолодания. В общем, есть что делить. Идея того что «они улетят в бескрайние мировые просторы» должна допускать стадию «окукливания» для земли.
          +1
          Исторически вот только что, человечество боле-менее (то есть с оговорками) признало разумность людей с иным цветом кожи и женщин.

          Вы здесь не путаете разумность и равные права?

          Разумность к примеру шимпанзе (несмотря на освоенный некоторыми экземплярами язык глухонемых, явное наличие понятия Я) до сих пор отвергается.

          Отвергается или не замечается? Чтобы отвергать нужны критерии, критерии обличия человека, скажем мягко — неубедительны, а других нет.

          Все они замыкаются на энергетике, энергетика замыкается на среде обитания. Так машинам без разницы десятки градусов глобального потепления/похолодания. В общем, есть что делить.

          Потепление возникает не из-за того, что датацентры выделяют тепло или люди пользуются электрическими обогревателями, а из-за сжигания углеводородов при котором возникает парниковый эффект. Эра углеводородов заканчивается и ближайшие 50-100 лет мы перейдем на альтернативные источники энергии. Поэтому делить градусы глобального потепления с небиологическими людьми не придется.
            +1
            Ну не то чтобы путаю, немного утрирую. Совсем еще недавно выходец из Африки считался вещью, ну скотиной. Женщины до сих пор имеют своего чемпиона мира по шахматам, потому что соревноваться с мужчиной некорректно.

            Ну иногда замечается, с большим скрипом. Недавно вроде как признали?? авторские права шимпанзе на сделанное селфи. При том, что шимпанзе куда более антропоморфны, нежели компьютер.

            Грубо говоря, что нужно человечеству — зеленая планета, чистая вода, подземные заводы на которых ИИ делают безотходным образом еду и айфоны.

            Что нужно ИИ — покрытая солнечными элементами планета, с атмосферой без кислорода и водяного пара, с эффективно работающими шахтами по добыче кремния и металлов.

            Конфликт за среду обитания в общем есть.
              0
              Что нужно ИИ не так очевидно. Возможно ему нужны как раз герметичные шахты куда подается самотеком вода с поверхности и глубинным теплом превращается в пар крутя турбины или там движки с термоядом чтобы добывать нужные элементы (не обязательно кремний) в космосе не борясь с гравитацией. Там же можно развернуть солнечные панели и кислорода с водой в активном виде уже нет.
              Цели непонятны и конфликт за среду не факт что произойдет.
          +2
          Вот согласен, основной страх автор не раскрыл:
          Страх того что мы станем не доминирующим видом, а «домашними питомцами». Нас не будет уничтожать, препарировать и т.д. Просто будут относится как мы к собакам, такие милые и умненькие, кормить нас будут и все блага предоставят, даже работать не надо будет. Будут нам весёлые задачки давать чтобы мы не скучали, и умилиться как мы делаем по их меркам простейшие вещи.
          В лучшем случае поместят в матрицу чтобы мы даже не знали об этом и не расстраивались.

          Люди привыкли бороться, и не боятся этого а скорее ждут, потому что борьба дает шанс на победу, отсюда и все фильмы про «Терминатора» и «Я Робот».

          Бояться этого нет смысла, произойдет так произойдет. Может нам дадут шанс самим апгрейдится и стать лучше.
        0
        Если небиологические люди будут иметь другую пищевую цепочку и эта пищевая цепочка не будет пересекаться, то в чём будет их объективная заинтересованность в сохранении человеческой?
          0
          Я здесь хотел выразить мысль, что увеличение количества людей на планете полезно всему человечеству, например, с точки зрения интеллектуального потенциала. Но увеличение численности населения связано с проблемой производства пищи. А появления вида человека с другой цепочкой питания, позволит существенно увеличить численность населения не обостряя эту проблему.
          Объективная заинтересованность одного человека в другом, на мой взгляд, не в биологической природе людей (если не брать сексуальные стимулы).
            0
            Увеличение численности населения связано не с проблемой производства пищи, а с проблемой доставки пищи.
            В мире очень несложно производить пищу в объемах, достаточных чтобы прокормить и 10 и 20 и даже больше миллиардов. Вопрос как дешево это доставить по всему миру. А кучковать все население в одном месте выйдет еще дороже.
              0
              С.П. Капица в своем труде «Парадоксы роста: Законы развития человечества.» даже приводит цифры о вполне нормальной возможности существования 50 млрд. человек.
              Но скорее все согласно гипотез роста население стабилизируется на 8-12 млрд, а потом и вовсе будет по чуть чуть снижаться.
              По уму сейчас реально победить голод на всей планете, этом у мешает политика и борьба за власть, плюс древнейшее инстинкт людей: важно жить не хорошо, а лучше соседа.
              0
              Вот как раз я и хотел поднять вопрос стимулов. Продуктивное взаимодейсвие требует общих интересов. Если человеческая пищевая цепочка объективно не требуется для небиологических людей, то они не будут непосредственно заинтересованы в её развитии, ведь для них это лишь искусственная проблема. Гораздо интеллектуальнее заниматься объективными и естественными проблемами своего собственного существования, развивая, например, производство электричества.
                0
                «Не хлебом единым жив человек»
                Ветхий Завет, Второзаконие, гл. 8, ст. 3

                Если посмотреть на ту же пирамиду потребностей Маслоу, то потребности далеко не ограничиваются базовыми потребностями в пище, безопасности, продолжении вида.

                Когда базовые (физилогические) потребности удовлетворены, возникают потребности иного качества. В современном цивилизованном мире базовые потребности либо удовлетворены либо удовлетворить их очень просто. И этот мир живёт сейчас как раз потребностями высокого порядка (3+). А в этих потребностях взаимозаинтересованность между биологическим и небиологическим разумными сущесвом легко достижима.
                  0
                  Но она на то и пирамида, что на большой крепкой основе надстраиваются новые уровни, их нельзя просто взять и искусственно убрать / игнорировать. Удовлетворение потребностей более высокого порядка не идёт в ущерб более низким, они всё равно учитываются. Если для небиологического существа этих более низких уровней нет, то они и не будут учитываться. Пока с базовыми потребностями нет проблем — эта особенность будет скрыта при решении общих потребностей высокого порядка, но в долгосрочной перспективе это может привести к серьёзным последствиям.
            0
            Вообще кроме высказываний известных личностей есть куча проработанных сценариев развития ИР. По крайней мере начала его развития. В общем и целом все они несут существенные риски для выживания человечества как вида.
            И это не означает что эти риски сработают, но шанс есть.
            Однако все они построены на том, что ИР будет хоть как то подобен человеку. В реальности ИР может обладать такими свойствами, которые мы на данный момент даже представить не можем.

            Как один из вариантов решения парадокса Ферми — разработка ИР.
            Как только появляется ИР определенного уровня он, по каким то причинам, уничтожает создателей и самоликвидируется или впадает в спячку.
              0
              Однако все они построены на том, что ИР будет хоть как то подобен человеку.

              В таком случае риски развития ИР абсолютно точно такие же, как и риски воспитания очередного человека.

              Гипотеза «технологической сингулярности» базируется на аксиоматичных основах, что вид Х сможет создать вид Х+1, превосходящий вид Х по скорости эволюции (информационной, но вообще в целом не важно, какой именно), и что скорость эволюции можно неограниченно наращивать. Или хотя бы не неограниченно, но настолько существенно, что люди пролетят мимо. Но пока что мы не просто не создали ничего подобного, и принципиальная возможность создания таких вещей — аксиома. Вне всяких сомнений, рано или поздно мы сможем создать «ненатуральный» аналог нас самих, вполне возможно — радикально лучший по каким-то параметрам (та же выживаемость), но вот чтоб этот аналог еще и обладал более высокой эволюционной скоростью?
                0
                Нет проблем и в более высокой эволюции, особенно если не требовать смены поколений, а производить «апгрейд» в процессе. Другое дело, что, условно говоря в 1000 раз более умный AI, создаст на 5% более эффективную ракету. В процессе познания мы упираемся в сложность и затратность экспериментов, для AI действует тот же самый барьер, ну может чуть пониже — индивид сможет проводить эксперимент длительностью в тысячи лет.
                  0
                  Нет проблем и в более высокой эволюции, особенно если не требовать смены поколений, а производить «апгрейд» в процессе.

                  Это тоже аксиоматично. Человеческий разум равен себе самому — я в том смысле, что даже в рамках мысленного эксперимента сложновато вообразить, что к человеческому разуму можно что-то такое «приставить» по горячему, чтоб получить человека+1 в смысле эволюционной скорости. А без таких апгрейдов смена поколений так или иначе нужна. Смена поколений не обязательно именно в таком виде, которую мы имеем сейчас, но таки смена.
                  Если обратиться к идеям Минского, то можно сказать, что «человек+1», вероятно, должен мочь в какие-то новые способы мышления, которые по тем или иным причинам не подходят человеку как он есть сейчас (но более эффективны). Но новые способы мышления, не очень подходящие текущим мозгам — это как раз именно то, что требует смены поколений.

                  ЗЫ: Я намеренно избегаю слова «умнее», потому что «умнее» мы и так постоянно становимся, чисто по мере накопления опыта.
              +1
              пока не будет построена система понятий теории Мышления, до тех пор будут только вбросы типа «Обсудим реальность угроз, поговорим о страхах..»
              Да — Мышление несет угрозы — атомное оружие произведено им… и еще всякое будет произведено. Но и большинство хорошего тоже произведено им.
              вопрос открыт — нужна теория мышления.

              Забегая вперёд, приведу своё определение разумности:

              Мышление или разумность — это способность проявлять волю в отношении вероятного исхода (результата, следствия) того либо иного события, исходя из субъективного опыта и с целью расширения возможностей своего влияния на них в будущем.


              Я спросил сегодня у менялы,
              что дает за пол тумана по рублю,
              как сказать мне для прекрасной Лалы
              по персидски нежное Люблю?

              ну явно же образец мышления и интеллекта (не искусственного в данном случае). Какую волю проявил поет в отношении вероятного исхода какого пля.. события и как расширил возможности влияния на будущее!!??
              не надо в теорию мышления грубо совать знакомые слова из психологии, иначе получим опять психологию (науку о душе что это за предмет?), которая уже есть и никак не освещает свой основной предмет, и тем более такой еще не построенный предмет как Мышление…
                0
                Согласен, что определение требует пояснений. И они будут даны в следующей статье.
                Здесь «воля» не термин из психологии. Если грубо, то под волей я понимаю «волевой сигнал», тот сигнал, который зарождается в глубинах мозга и, в конечном итоге, приходит мышцам.

                P.S. Какие алгоритмы, какие машинные коды, какие пакеты данных и протоколы канального уровня?! Я просто кнопки в браузере нажимал.
                +1
                у меня пока нет фермы ИР в подвале дома и мне пока не удалось создать систему, которая сможет пройти тест Тьюринга


                А какую систему вам удалось создать на основании вашей теории?
                  0
                  Когда у меня появлялись идеи, с какого конца «колоть этот орех», я сразу старался реализовать что-то в коде. В процессе переноса идей из голове на программный код (Си) возникало много проблем, которые оказывались полезными, так как до этого были не видны, и заставляли «колоть орех» дальше. Обо всём, что получилось я напишу в следующих статьях, но боюсь вас разочаровать и скажу сразу: пока мы не научимся измерять разумность точнее, чем это позволяет сделать тест Тьюринга, мы не продвинемся с СИИ.
                    0
                    Тест Тьюринга не позволяет измерять разумность, так как его проходят некоторые боты.
                      0
                      Возможно, его не пройдут и некоторые люди (например, годовалые дети), но это говорит только о том, что он не совершенен и может давать ложный результат.
                      Большей проблемой я вижу то, что он не объективен и не дает количественную характеристику, а только качественную. Им нельзя «увидеть» слабый интеллект или отличить человеческий от сверхразума.
                  +3
                  Набор штампов от Капитана Очевидность. Не пишите больше на эту тему.
                    +1
                    Исследуя «железо» компьютера невозможно увидеть инструкции процессора и алгоритмы.

                    Можно. Начался реверс-инжиниринг процессора PlayStation 1


                    Понимая работу транзистора или приблизительные функции блоков «железа» компьютера (полученные эмпирически), построить компьютер не удастся.

                    Ну здрасьте, а как по-вашему построили первый компьютер?


                    Мышление или разумность — это способность проявлять волю в отношении вероятного исхода (результата, следствия) того либо иного события, исходя из субъективного опыта и с целью расширения возможностей своего влияния на них в будущем.

                    Как с этим определением сочетается такая разумная деятельность, как изучение вспышек сверхновых звезд, произошедших миллионы лет назад?

                      +1
                      Можно. Начался реверс-инжиниринг процессора PlayStation 1

                      Это реверс-инжиниринг особенностей реализации, при условии, что мы уже знакомы с концепцией алгоритмов, знаем о существовании комманд процессора предполагаем какую-то базовую архитектуру.
                      Без этих знаний реверс-инжиниринг был бы невозможен.

                      Ну здрасьте, а как по-вашему построили первый компьютер?

                      Вообще первый компьютер был на реле. Транзисторов тогда еще не было.

                      Как с этим определением сочетается такая разумная деятельность, как изучение вспышек сверхновых звезд, произошедших миллионы лет назад?

                      Примерно так же, как справочник пользователя Word, сочетается с набором комманд x86.
                        –1
                        Без этих знаний реверс-инжиниринг был бы невозможен.

                        Возможен. Точно так же берем специальный микроскоп и изучаем. Подаем питание на вход транзистора и изучаем поведение. Не надо путать принципиальную невозможность и ограничения технического развития.


                        С концепцией работы нейрона люди тоже знакомы, значит могут прийти к правильным выводам, изучая особенности реализации.


                        Вообще первый компьютер был на реле. Транзисторов тогда еще не было.

                        Вы думаете если заменить "первый компьютер" на "первый компьютер на транзисторах" или "понимая работу транзистора" на "понимая работу реле и электронных ламп" что-то изменится?


                        Примерно так же, как справочник пользователя Word, сочетается с набором комманд x86.

                        Я рассчитывал на конструктивную дискуссию. Набор команд x86 позволяет сделать справочник Word, при этом его можно сделать и на другой системе команд. Как "способность проявлять волю в отношении вероятного исхода того либо иного события" позволяет сделать "изучение вспышек сверхновых звезд"? А продолжая эту аналогию, получим что "изучение вспышек сверхновых звезд" можно сделать и не на "способности проявлять волю", то есть это никакое не определение.

                          0
                          Возможен. Точно так же берем специальный микроскоп и изучаем.

                          С мозгом человека пока не очень выходит.
                          С нейроном тоже не всё гладко. Видим множество химических процессов, но не понимаем важны ли они все или только часть.
                          Транзистор, например, это не просто ключ (как реле). Он может работать и в режиме усиления. Всё зависит от схемы включения и для чего эту схему создал инженер.
                          Поэтому я и говорю о том, что есть разница между концепцией и реализацией. И одно из другого однозначно вывести может быть очень сложно.

                          Я рассчитывал на конструктивную дискуссию. Набор команд x86 позволяет сделать справочник Word, при этом его можно сделать и на другой системе команд.


                          Я вполне конструктивно говорил. У нас есть пока только человеческий мозг, как эталон разумности. Есть проявления разумности (критерии): речь, планирование, самосознание и т.д. Это всё прикладные вещи такие же как Word, Starcrft или AutoCad.
                          И у компьютера, у которого эти прикладные вещи реализованы в виде программ, есть базовые вещи, которые позволяют этим программам работать. Это инструкции процессора. Пользователь Word не видит инструкций процессора и не знает о них. Он оперирует другими понятиями при работе с Word. Но все те понятия, которыми он оперирует, в конечно счете выражаются в инструкциях процессора.
                          Таким образом связь между понятиями используемыми в Word и инструкциями процессора есть, но она очень сложна, неоднозначна и не доступна для понимания пользователя.
                            0
                            С мозгом человека пока не очень выходит.

                            Ну так это из-за технических ограничений. Нет возможности отслеживать состояние всех нейронов сразу.


                            И одно из другого однозначно вывести может быть очень сложно.

                            Только если недостаточно информации о характеристиках реализации.


                            Но в исследованиях ИИ занимаются не только исследованием реализации, теоретических изысканий тоже хватает.


                            Я вполне конструктивно говорил.

                            Я привел пример разумной деятельности, применив к которому ваше определение получается, что это не разумная деятельность. Проявления воли нет, исход предопределен, событие произошло задолго до его изучения, повлиять на результат нельзя. Я спросил ваше понимание определения в этом случае, но ответа вы не дали, вместо этого привели какой-то другой пример.
                            Так все-таки, как его здесь применить?

                              0
                              Как с этим определением сочетается такая разумная деятельность, как изучение вспышек сверхновых звезд, произошедших миллионы лет назад? [...] Проявления воли нет, исход предопределен, событие произошло задолго до его изучения, повлиять на результат нельзя.

                              Изучение происходит здесь и сейчас и воля проявляется на процесс изучения, результатом которого может стать новое знание, за которое ученый получит, например, банальную премию (которая расширит его возможности в приобртении каких-то благ).
                              Если волю не проявить, то нового знания не будет точно и возможности не расширятся. В выборе того, проявлять или не проявлять волю и если проявлять, то на что, и есть влияние на результат в будущем.

                                0
                                Понятие воли требует понятия разумности, то есть определение зависит само от себя.
                        0
                        Первый компьютер строили на механических переключателях. Дайте человеку 18 века изучить транзистор, что получим? Вряд ли компьютер… Скорее уж эволюция развития переключателей, привела от механики (зубчатые колеса) к электромеханике (реле), потом к электронным схемам (лампы), полупроводниковым (настоящее время) и квантово-волновым переключателям (завтра). Идеологически, компьютер с тех пор не изменился. Но эволюционные его достижения в плане меньше, дешевле, быстрее — изменило мир. Не будь любого из трех пунктов, компьютер остался бы в лабораториях.
                          0

                          Не путайте железо и алгоритм. Алгоритмы известны испокон веков. Проблема была в исполнителях алгоритма. Раньше никто не мог их исполнять, кроме человека. По сути, компьютер можно создать из закрытой комнаты с людьми, которым даны инструкции. И можно забыть про транзисторы и реле.

                            0
                            А из муравьев нельзя? Еще помню была концепция внутриклеточного компьютера…
                              0
                              Вы читали «Муравьиную фугу» или это жуткое совпадение? На самом деле компьютер можно сделать из кирпича… да настоящего кирпича. Просто это сложно :)
                                0
                                Нет, чистое совпадение. Но вот, читаю, спасибо.
                        0
                        Александр Лазаревич. 1992 год: Князь тьмы (Червь-1), Червь-2
                        lib.ru
                          0
                          Ну вымрет человечество как вид и что? Если на планете сохранится разумная жизнь, способная к творчеству и саморазвитию, что в этом страшного? Мы все умрем. Это неизбежный факт. Так что, бояться за свою жизнь глупо. Эволюция простейших клеток создала геном. Геном эволюционировал в животную клетку. Животная клетка эволюционировала в животное. Животное эволюционировала в разумное существо. Разумное существо эволюционирует в не биологическое существо. Я не вижу в этом страшного. Вот сидит справа от меня человек. Код пишит. О чем-то думает. Ну будет справа сидеть андроид и будет думать. Если ИР ничем не будет уступать человеческому, то и пусть себе он заменит человеков. что важнее сохранить и приумножить разумность или самих себя? Нам мешает трезво оценить наш инстинкт самосохранения. Но ещё раз. Если ИР ни в чем не будет уступать человеческому (это важно. Это по сути единственное условие) то человек станет устаревшей моделью разумного существа. Рано или поздно человеки сами развяжут войну с ИР. Не ИР а сами человеки, в своей безумной одержимостью насилием и ксенофобией. И тогда мы проиграем в этой войне. Или нет. Или просто деградируем до животных, потеряв способность самостоятельно принимать решения, во всем полагаясь на «Deus ex machina». И тогда превратимся в домашних животных. В любом случае бояться нечего. Вот я лично завидую своему коту. Жрет от пуза, спит сутками, ещё и права качать умудряется. И если предложат отказаться от разума в пользу сытой счастливой и беспроблемной жизни, я только спрошу: «Где подписать?»
                          Эту истину сложно принять. Мы так привыкли носиться с идеей собственного превосходства. Но за 10к лет мы так и не придумали зачем живем. Мы просто живем, постепенно разрушая всё к чему прикасаемся. Вот висит у меня на заднем дворе молоток на веревке. Зачем висит? А просто так. Если нет цели его «висения», то что плохого, если я сниму молоток и повешу микроскоп? Процесс не изменится. Ничего не изменится. Окружающий мир не изменится. Вселенная этого даже не заметит. Это конечно грубая аналогия, но суть то в этом. Мы трясемся за своё человеческое существование, не потому что хотим лучшего для разумной мысли. А из инстинкта самосохранения. А один из критериев разумности — умение подавлять свои инстинкты. Так что давайте будем разумными и победим этот инстинкт и будем разумными, не страшась неизбежного будущего.

                          Хотя автор не раскрыл ещё одну потенциальную возможность будущего. Симбиоз ИР и человеческого разума. Такой себе киберпанк, но создание ИР поможет понять принципы нашего мышления и отцифровать наши мысли (привет Газонокосильщик). Если это произойдет, то людям будет открыт путь в новую кибервселенную, в которую мы итак себя пытаемся втянуть через VR и ММО. И если это произойдет то грань между ИР и человеческим разумом будет такая же как между искусственно оплодотворенной яйцеклеткой и яйцеклеткой естественно оплодотворенной. Симбиоз может и не втянуть в VR, сделав её параллельной вселенной. Будет мир матрицы и мир обычных человеков. Либо на стадии создания ИР мы будем его искусственно ограничивать его систему мотивации.

                          Слишком много путей развития нашего будущего. Но нет повода его бояться.
                            +1
                            Так что, бояться за свою жизнь глупо.


                            1. Инстинкт самосохранения не глуп, он инстинкт.
                            2. Окружающий мир изменится и вселенная это заметит. Просто без наличия интеллекта не оценит.
                            3. Мы не разрушаем все, к чему прикасаемся. Мы наоборот переделываем его под себя, при этом да, разрушая тот порядок в котором оно существовало до нас.
                            4. Просто так или для чего-то — это философия и просто точка зрения, а не некая вселенская истина.
                            5. Критерий разумности не подавлять инстинкты или чувства, а умение их контролировать, в основном для получения «прибыли» в долгосрочной перспетиве.
                            6. Неизбежное будущее наступает если ничего не делать. А если что-то делать, то можно изменить гораздо больше, чем кажется на первый взгляд.
                              0
                              1) Инстинкт не может быть глупым? А как же инстинкт внутривидовой агрессии?
                              2) А где я говорил про отсутствие интеллекта? Я, вроде как, ни раз делал акцент, что смену одного мыслящего вида на другой.
                              3) Не буду спорить, уйдем в полемику.
                              4) Ок. Спорить не буду. Мы существуем по той же причине почему существует закон всемирного тяготения. Так просто есть. Искать глубокий смысл в этом нет причины. Так исторически сложилось. Это причуда бесчисленного множества случайностей.
                              5. Контроль — проверка, а также наблюдение с целью проверки. Мне кажется тот факт, что мы можем поступать вопреки своим инстинктам, как раз более точно называть подавлением.
                              6) Будущее наступает в любом случае, делаем мы что-то или нет и предсказать его невозможно. Даже приблизительно. Изобретение мобильного телефона изменило мир. 20 лет назад Вы взялись бы описать, что наша жизнь настолько изменится только благодаря тому, что люди могут общаться друг с другом вопреки расстоянию? Я не очень силен в физике, но мне почему-то кажется, что изобретение ИР вызовет настолько огромное увеличение энтропии, что все наши текущие прогнозы бессмысленны. А смысл моего комментария заключался как раз в том, что бояться того, что мы не знаем — не имеет смысла. Интересно боялись ли неандертальцы кроманьонцев?
                                0
                                1. Инстинкт не может быть глупым или умным, он инстинкт, который в основном работает на краткосрочных целях, и в человеческой цивилизации польза многих накопленных инстинктов весьма сомнительна, а избавиться от них эволюционно — сложно.
                                2. Мыслящий вид может замениться на немыслящий вид, на вообще ничего — и вселенной будет совершенно все равно во всех случаях.
                                5. Не все инстинкты вы можете подавить. Даже банальное чихание подавить проблематично. А если подавить инстинкт дыхания и взять его под контроль, то вряд ли это пойдет на пользу.
                                6. Конечно взялся бы описать. Но вообще-то 20 лет назад у меня уже был мобильный. Но не было соцсетей, мессенджеров, цифрового фотоаппарата. А вот рассуждения о возможности общаться друг с другом на расстоянии (например посредством телепатии или другой магии) существовали тысячи лет.
                                  0
                                  Вы путаете рефлексы и инстинкты.
                                  С первыми всё просто, а вот по поводу вторых очень многое, мягко говоря, неоднозначно. Начиная со строгости определения.
                            0
                            У меня сложилось впечатление, что автор статьи считает, что искусственный интеллект — это человеческий интеллект, воспроизведённый с использованием других элементов. Я правильно понял?
                              0
                              Не совсем.
                              Я считаю, что разумность понятие гораздо более всеобъемлющее, чем нам кажется и существуют фундаментальные принципы возникновения этой разумности, которые будут одинаковыми, что для человека, что для машины. И как следствие машина построенная на основе этих фундаментальных принципах и воспитанная в человеческой цивилизации людьми — будет человеком (по своей сути).
                                0
                                Но ведь человек тоже построен на основе этих фундаментальных принципах возникновения разумности. И тоже воспитан в человеческой цивилизации людьми. Вот и получается, что разницы-то нет. То есть или человеческий интеллект на самом деле искусственный, или ожидаемый искусственный на самом деле естественный.
                              0
                              тест Тьюринга же неактуален ведь уже, не?
                              Во всяком случае, временами немного беседуя с Siri, которая вроде как не считается таки ИИ — я бы сказал, что она выступает заметно лучще многих людей....?
                                0
                                Тест Тьюринга актуален, так как ничего другого нет.
                                Вы беседуете с Siri подразумевая, что она разумна?
                                  0
                                  Я с ней на достаточно разные темы беседовал, включая подьебоны, то есть на наличие чувства юмора.
                                  как я уже говорил — многие люди в разщговоре куда как тупее и менее интересны.

                                  кстати, по дефиниции в статье я тоже не понял — «обший искуственный интеллект должен уметь на уровне человека» — что у вас там под человеком понимается?

                                  де юре то и петровичь — алкаш и дворник, у которого самая яркая мысль — это «как бы сообразить на троих» — человек.
                                  И Фейнман, и Эйнштейн — человеки, но их ментальные способности и уровень на многие порядки различаются — так которому «человеческому интеллекту» ОИР должен соотвествовать?

                            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                            Самое читаемое