Будущее искусственного интеллекта

Автор оригинала: Cameron Coward
  • Перевод


В предыдущей статье мы описали прошлое и настоящее искусственного интеллекта – как выглядит ИИ сегодня, разницу между сильным и слабым ИИ, ОИИ, и некоторые философские идеи по поводу природы сознания. Слабый ИИ можно встретить где угодно в виде ПО, предназначенного для умного выполнения определённых задач. Итоговая цель – сильный ИИ, и именно настоящий сильный ИИ будет напоминать то, что знакомо нам из популярной фантастики.

Обобщённый ИИ – современная цель, которой многие исследователи посвящают сегодня свои карьеры. У ОИИ не обязательно должно быть какое-то сознание, но он должен справиться с любой задачей, связанной с данными, которую мы перед ним поставим. Конечно, в природе людей есть желание предсказывать будущее, и именно этим мы и займёмся в данной статье. Какие наилучшие догадки мы можем сделать по поводу связанных с ИИ ожиданий в ближайшем будущем? Какие этические и практические проблемы могут возникнуть с появлением обладающего сознанием ИИ? В предполагаемом будущем, должен ли ИИ обладать правами, или, например, нужно ли его бояться?

Будущее ИИ


Оптимизм исследователей ИИ по поводу будущего с годами менялся, и даже современные эксперты ведут по этому поводу споры. Тревор Сэндс, исследователь ИИ из Lockheed Martin, осторожен в своих оценках:

С появления ОИИ как концепции, исследователи и оптимисты, утверждают, что его осталось ждать недолго, всего несколько десятков лет. Лично я считаю, что мы увидим появление ОИИ в ближайшие 50 лет, поскольку железо подтянулось до уровня теории, и всё больше организаций видят потенциал в ИИ. ОИИ – естественное завершение существующих попыток исследования ИИ.

За это время может появиться даже разумный ИИ, как говорит Альберт (ещё один исследователь ИИ, попросивший нас упоминать его только по псевдониму):

Надеюсь, что увижу его ещё при жизни. По крайней мере, надеюсь увидеть машины, достаточно умные для того, чтобы люди спорили, обладают ли они сознанием. А что это означает на самом деле – более сложный вопрос. Если разум означает «самосознание», то тогда не так уж сложно представить умную машину, обладающую моделью себя самой.

Сэндс и Альберт считают, что сегодняшние исследования нейросетей и глубинного обучения – это правильный путь, который, скорее всего, приведёт к созданию ОИИ в недалёком будущем. В прошлом исследователи либо фокусировались на амбициозных попытках создания сильного ИИ, либо на ограниченном по сути слабом ИИ. Между ними находится ОИИ, и пока что результат работы нейросетей выглядит плодотворным, и скорее всего, приведёт к ещё большему числу прорывов в ближайшие годы. Большие компании, в частности, Google, явно считают, что так и будет.

Последствия и этические проблемы сильного ИИ


При каждом обсуждении ИИ всегда возникают две проблемы: как он повлияет на человечество, и как нам к нему относиться? Литературу всегда можно рассматривать как хороший индикатор мыслей и чувств, отражающий настроения людей, и в научной фантастике полно примеров этих проблем. Попытается ли достаточно передовой ИИ устранить человечество, как Skynet? Или ИИ необходимо будет давать права и защиту, во избежание таких проявлений жестокости, какие встречаются в "A.I. Artificial Intelligence"?

image
Страшный ИИ

В обоих случаях смысл состоит в том, что с созданием настоящего ИИ придёт технологическая сингулярность. Технологическая сингулярность – период экспоненциального роста технологий, происходящий на небольшом временном отрезке. Идея в том, что ИИ сможет улучшать самого себя или производить более передовые ИИ. Так как это будет происходить быстро, кардинальные перемены могут случиться за один день, и в результате появится ИИ гораздо более совершенный, чем тот, что был создан человечеством. Это может означать, что в результате у нас появится сверхумный и недоброжелательный ИИ, или разумный ИИ, достойный обладать правами.

Недоброжелательный ИИ


Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности? Или же эти страхи – результаты безосновательной паранойи?

Сэндс считает: «ОИИ произведёт революцию, и его применение определи, позитивное это будет влияние, или негативное. Примерно так же расщепление атома можно рассматривать как обоюдоострый меч». Конечно, тут речь идёт только об ОИИ, а не о сильном ИИ. Что насчёт возможности появления разумного сильного ИИ?

Скорее всего, потенциала можно ожидать не от злонамеренного, а от индифферентного ИИ. Альберт рассматривает пример с простой задачей, поставленной ИИ: «Есть такая история, что владелец фабрики по производству скрепок задал ИИ вроде бы простую задачу: максимизацию производства. А затем ОИИ воспользовался своим интеллектом и придумал, как превратить всю планету в скрепки!»

Альберт отметает возможность, описанную в этом смешном мысленном эксперименте: «Вы хотите сказать, что этот ОИИ понимает человеческую речь, сверхумный, но ему недоступны связанные с запросом тонкости? Или, что он не сможет задать уточняющие вопросы, или догадаться, что превращение всех людей в скрепки – это плохая идея?».

То есть, если ИИ достаточно умён для того, чтобы понять и запустить опасный для людей сценарий, он должен быть достаточно умным для того, чтобы понять, что этого делать не стоит. Три закона робототехники Азимова тоже могут сыграть свою роль, хотя остаётся вопрос, можно ли будет реализовать их таким образом, чтобы ИИ не смог их поменять? А что насчёт благополучия самого ИИ?

Права ИИ


На противоположной стороне проблемы стоит вопрос, заслуживает ли ИИ защиты и получения прав? Если бы появился разумный ИИ, можно ли позволять человеку просто отключать его? Как к нему относиться? Права животных и сейчас очень спорные, и пока что нет согласия в том, обладают ли животные сознанием или разумом.

По-видимому, те же споры развернутся по поводу существ с ИИ. Будет ли рабством заставлять ИИ работать день и ночь на благо человечества? Должны ли мы платить ему за услуги? Что с этой оплатой будет делать ИИ?


Фильм плохой, идея хорошая

Маловероятно, что у нас в ближайшее время появятся ответы на эти вопросы, в особенности, ответы, устраивающие всех. «Как мы можем гарантировать, что у ИИ, сравнимого с человеком, будут такие же права, как у человека? Учитывая, что эта интеллектуальная система фундаментально отличается от человека, как мы можем определить фундаментальные права ИИ? Кроме того, если считать ИИ искусственной формой жизни, есть ли у нас право отнимать у него эту жизнь (отключать)? До того, как создать ОИИ, необходимо серьёзно продумать вопросы этики», – говорит Сэндс.

В то время, как продолжается исследование ИИ, эти и другие этические вопросы, несомненно, будут вызывать споры. Судя по всему, мы ещё довольно далеко от того момента, когда они окажутся актуальными. Но и сейчас уже для их обсуждения организовываются конференции.

Как поучаствовать


Исследование и эксперименты с ИИ традиционно находились в ведении учёных и исследователей из корпоративных лабораторий. Но в последние годы растущая популярность свободной информации и открытого кода распространилась даже на ИИ. Если вам интересно заняться будущим ИИ, для этого есть несколько способов.

Проводить самостоятельные эксперименты с ИИ можно при помощи доступного ПО. У Google есть встроенная в браузер песочница для работы с простейшими нейросетями. Доступны библиотеки по нейросетям с открытым кодом, например, OpenNN и TensorFlow. Их не так-то просто использовать, но целеустремлённые любители хобби могут развернуться на их базе.



Наилучший способ – делать всё, что можно, для продвижения профессиональных исследований. В США это означает пропаганду научных исследований. Исследования ИИ, как и любые научные исследования, зависят от непредвиденных обстоятельств. Если вы верите, что за технологическими инновациями будущее, то помощь в получении финансирования исследований – это достойное занятие.

С годами оптимизм по поводу разработки ИИ колебался. Сейчас мы находимся на пике, но вполне возможно, что это изменится. Но нельзя отрицать, что возможность ИИ подстёгивает воображение публики. Это очевидно, если судить по научной фантастике и другим развлечениям. Сильный ИИ может появиться через пару лет или через пару столетий. Можно быть уверенным только в том, что мы не остановимся на пути к этой цели.
Поддержать автора
Поделиться публикацией

Комментарии 40

    +2
    Мы ещё с правами людей и обеспечением их реализации не разобрались, по-моему…
    • НЛО прилетело и опубликовало эту надпись здесь
      +2
      Я конечно не ИИ, но даже я способен сделать кое-какие обобщения и выделить суть содержания статьи, которая полностью (не знаю как сказать «дословно», применительно к смыслу) повторяет десятки и сотни подобных статей, количество которых в сети, похоже, тоже растет по экспоненциальному закону и по моим скромным оценкам должно уйти в точку сингулярности примерно к концу 2018 года.
        0
        Может кто-то тренерует свой ИИ на написании статей по ИИ?
        0
        Может кто-то объяснит, почему считается, что «изобретение» (не очень удачное слово для вымученного результата) ИИ автоматически приведёт к сингулярности? Ведь для того, чтобы система могла самосовершенствоваться, её необходимо обеспечить всеми необходимыми ресурсами и инструментами для замыкания цикла. А это можно сделать только преднамеренно, плюс всё равно необходимо будет снабжать её внешними энергетическими ресурсами.

        Сингулярности не так-то просто будет добиться. Система скорее будет ломаться, чем выходить во что-то стабильно растущее.
          0
          Сначала вам ИИ расскажет как построить молекулярный наноассемблер и термоядерный реактор, исключительно с целью чтобы быстрее наштамповать вам новых айфонов-10 и заработать для вас много $$$^$, ну а дальше вы поняли, да?
            0
            Это ведь шутка, да? Потому что всерьёз это сложно воспринять. У ИИ не родится тех знаний, которые не могут родиться у людей. И уж тем более в областях, инструментов (органов) познания которых у него не будет. Какой-то совершенно невообразимый романтический оптимизм вокруг ИИ клубится, будто он сам всему научится, познает все законы этого мира до уровня, непостижимого для человека, отрастит миллион манипуляторов (ну с глазами попроще) и сделает это так быстро, что никто и не успеет заметить, как окажется порабощённым новым сверхразумом. Извините, но это какой-то наив.
              0
              А почему бы ему не познать законы мира до уровня, непостижимого человеком? Чем сильный ИИ в этом плане обделеннее, скажем, физика-теоретика? Представьте себе ученого думающего 24/7, без пауз на жену, дачу, заработок денег и пр.
                0

                НУ может за пару столетий и додумается. Ведь производительность системы на котором будет построен ИИ конечна и на размышления, обучения все равво может понадобиться очень много времени.

                  0
                  Я конечно видел у людей линейное мышление, но чтоб настолько… Вы как себе это представляете, вот появился некий ИИ, десяток стоек в датацентре, загрузился и давай себе жужжать, производить свои ограниченные вычисления годами и десятилетиями? Давайте вместе подумаем, что помешает ИИ для начала немножко поразмышлять над тем, как ему себя ускорить? Что помешает тупо наращивать количество вычислительных блоков, даже предположив, что мы уже достигли теоретического предела производительности каждого? За «пару столетий» ИИ сможет всю Землю и ближайшие окрестности под свои нужды преобразовать до неузнаваемости, и ещё лет 150 останется.
                    0

                    Давайте сравнивать ИИ не с супер разумом, а например с ребенком который только родился и которому нужно постигнуть мир.
                    Много он сможет придумать без долгого обучения? Как он будет размышлять как себя ускорить если он еще ничего не знает об окружающем мире?
                    Человечество потратило столетия чтобы до чего то дойти, миллионы ученых тратили десятилетия своей жизни.
                    Да ИИ в перспективе будет гораздо быстрее и умнее но далеко не сразу.
                    Чтобы за короткий срок ckexbkfcm "Технологическая сингулярность" необходимы немалые вычислительные ресурсы.

                      0
                      Давайте! Только для начала сравним каналы ввода информации в ребенка и в машину. Плюс у машины совершеннее память, факты она 100% будет помнить, все. Плюс можно течение времени для машины ускорить, во много раз. Для чего самоуправляемому авто ездить по городу, если он может «ездить» в физической симуляции, сравнительно несложной, достаточно только базовые физические законы учесть. А скорость протекания времени в этой симуляции допустим будет 1000x, вместо месяцев обучения, натренируется за день. Конечно железо нужно будет соответствующее.
                        0
                        Ребенок первые пару лет учится 2-6 часов в сутки, а остальное время спит, и всё равно к 30 годам способен стать выдающимся физиком-теоретиком. Сколько времени потратит на достижение того же уровня развития ИИ в режиме 24/7?
                    0
                    Потому что в итоге получится какая-нибудь «теория струн», не противоречащая предварительно загруженным в ИИ данным, но ничего и не предсказываюшая и не дающая. «На кончике пера» открытия делаются всё равно с экспериментами и с массой разнообразных данных от этих экспериментов.
                    0
                    ИИ знания и не нужны. Высокоскоростной метод перебора сойдет.
                      0
                      Перебор без экспериментальных подтверждений и отсеивания ложных вариантов? Получится бесполезная ерунда.
                        0
                        метод перебора? вы шутите?
                        0
                        Вы как-то всё слишком буквально воспринимаете. Сам не расскажет, это вы его спросите, предварительно всё нужное в него загрузив, вы же знаете как стелларатор германский создавался? Без компьютерного моделирования не обошлось бы, так же ИИ сможет чуть более автоматизированно всё это смоделировать, особенно если будет обладать каким-то целеполаганием и даже, извините, сознанием. А знаний уже более чем достаточно накопилось, надо их просто правильно применить.
                          0
                          Знания накопились, да. Но их необходимо как-то перевести в понятную для ИИ форму. Необходимо создать какую-то «песочницу», которая бы с точностью моделировала нашу реальность, в том числе еще не открытые эффекты. И если вдруг где-то будет расхождения — получатся ложные знания, не применимые к нашему миру (а оно так и будет). Либо дать ему аватара и кучу ресурсов. Тогда все будет очень медленно, но результат реальный.
                            0
                            Вы, наверное, не понимаете суть сильного ИИ. Такой ИИ сможет сам расширять список областей в которых он может самообучаться. Так же, он сам должен переводить данне в удобный для себя вид, и наращивать вычислительные мощности по своим нуждам. Если он не может создавать что-то новое, или не сможет увеличивать количество областей, в которых он сам сможет обучаться, такой ИИ будет ОИИ, а не сильный ИИ. Если вкратце, все ваши вопросы должен решить сам сильный ИИ, иначе он таковым не будет.
                    0
                    Я думаю в ближайшие 10 лет нас ждёт революция в области нейронных сетей, некоторые отрасли с участием человека будут вытеснены нейронными сетями, встанет вопрос: а что делать обычным людям в таком случае, зачем они нужны властьимущим, капиталистам и пр.? Нейронные сети это конечно не тоже самое что реальная сеть из нейронов, но как мы видим она вполне себе способна обучаться и заменять человека, лишена инстинктов, усталости и т.д. Мир разделиться на страны где будет естественный труд людей, где будет труд машин и безусловный доход? Или что? Я конечно понимаю что нейронные сети что это попытка людей понять самих себя, но что нас ждёт дальше не совсем понятно. Или нас поглодит ИИ, или мы будем использовать его в своих целях.
                      0
                      Я думаю в ближайшие 10 лет нас ждёт революция в области нейронных сетей
                      скорее, таки эволюция. Нейронные сети уже давно известны, и я бы ожидал от них оптимизации алгоритмов и «железа» — те же чипы с нейронными сетями к примеру.
                      некоторые отрасли с участием человека будут вытеснены нейронными сетями
                      это происходит каждый день, ничего нового. Говорить о том что заменят значительную часть людей рано т.к автоматизация очень дорого стоит, и «софт» составляет не основную часть цены. Современные технологии вполне себе позволяют заменить практически всех фабричных работников, многих поваров, бюрократов, дворников и т.д. Этого не делают только потому что люди дешевле.
                        0
                        Обычные люди нужны капиталистам для создания массового спроса. Без спроса нет денег у капиталиста.
                        0
                        Навряд ли настоящий Сильный ИИ появится раньше, чем человек разберется с собственными мозгами, сознанием, природой квалиа и тд. Как минимум процесс будет идти в параллели. И будет ИИ создан по «образу и подобию...», так как нет у нас категорий «разумности», «сознания» кроме тех, что приняты за человеческие. Вопросы будут стоять в плоскости этики, философии, принятия или неприятия ИИ живым, равным/не равным, вопросы слияния с человеком и прочее прочее. Так или иначе вопрос далекого будущего (думаю не менее сотен лет) и реальность окажется явно на порядки глубже зашоренного бреда про Терминатора, Матрицу, Серую слизь и прочие комиксы 7+
                          0
                          Как по мне сначала хотя бы ДНК расшифровать нужно. Здесь ведь не должно сложно быть, все можно потрогать руками, бери да дешифруй. Тоже можно будет поставить кучу этический и философский вопросов. Но похоже этот вопрос не в тренде :)
                          0
                          Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности?

                          Есть множество людей, которым не нравится человечество или конкретная его часть. Некоторые из них обладают решительностью и определенными навыками. Против них принимаются меры предосторожности. Не вижу причины, по которой с ИИ будет иначе.

                          Но меня удивляет, что во всех подобных статьях неявно подразумевается абсолютное и тотальное превосходство ИИ вообще во всем, причем сразу в момент создания.

                          Подозреваю, что первый полноценный ИИ будет обладать разумом и неторопливостью дебила под феназепамом, занимая при этом несколько датацентров и потребляя десятки мегаватт электрической мощности. Через десяток-другой лет его мышление удастся подтянуть до уровня среднего человека и ограничиться одним мейнфреймом. И лишь еще через пару десятков лет начнут появляется ИИ, мыслящие лучше и быстрее человека. За это время человечество как-нибудь разберется как это все регулировать.
                            0
                            Насчет дебила под феназипамом не знаю, не владею технической стороной вопроса:)

                            Но у меня есть уверенность в том, что любая потенциальная проблема с ИИ будет лежать в плоскости несовершенства именно человека. Вот как с ядерным оружием — появилось оно в сумасшедшем обществе приматов, убивающих друг друга десятками миллионов. Если и ИИ появится во время продолжающегося безальтернативного оскатинивавания, тогда да, последствия могут быть любыми. Но эти проблемы будут вообще не про ИИ, а все так же про нас как вид, в жизни которого ИИ не может появиться чем то иным, чем просто вторым «Я» нашей же человеческой природы.

                            Нет, ну можно конечно пофантазировать на тему, что вдруг ИИ родит новые нечеловеческие логику, понятийный аппарат, систему ценностей, этику и тд (если конечно такие категории вообще будут в нем иметь место быть), но это чистая метафизика, как мы об этом узнаем? Ведь сильный ИИ априори предполагает, что его «сильность» мы будем принимать на веру, как принимаем на веру то, что живем с такими же осознанными людьми как мы сами, а не с «китайскими комнатами». А сами то — говорим объективности гудбай в тот момент, когда прогнали сенсорные сигналы через нервную систему.

                            Короче, не нашего птица полета, сильный ИИ, в том смысле, что птицы не «родят» самолета. Никакого оптимизма не разделяю, если мы конечно не будем выставлять всеми силами желаемое за действительное.
                              0
                              Ой да ладно, ЯО всего два раза использовалось, да и это было так давно, что уже не правда.
                                0
                                Вот как с ядерным оружием — появилось оно в сумасшедшем обществе приматов, убивающих друг друга десятками миллионов

                                Что составляло на тот момент менее 0.1% от населения планеты. Люди — весьма миролюбивые создания по природным меркам. И потому для ЯО не нашлось массового применения — так, попробовали и решили, что слишком проблемное оружие.

                                Но почему вы считаете, что война — признак несовершенства человека? Чем этот инструмент преобразования мира принципиально отличается, например, от вырубки лесов или распашки полей? Человек преображает окружающий мир с помощью инструментов, война — лишь один из способов.
                                  0
                                  Война инструмент внутривидовой конкуренции, да, пожалуй, наиболее действенный, я не спорю. В животном мире. И миролюбивыми не были — перебили всех ближайших родичей, с которыми делили Землю, те же неадертальцы, с которыми кстати довольно успешно спаривались, давая потомство. И многочисленных других. Всех, кто мог составить конкуренцию. И убивал всегда человек много больше, чем ему нужно для пропитания. Самый опасный и злой хищник, там где мы есть сейчас на эволюционном древе это доказывает. Сегодня да, мы не те, что раньше — не зря же обростали неокортексом, изоберли язык, общество и прочее. Но прошлое не выкинешь, как там по Юнгу, «человек есть животное, которое сошло с ума. Из этого безумия есть два выхода: ему необходимо снова стать животным; или же стать большим, чем человек…». Так вот война это 100% анахронизм нашего «рептилоидного» прошлого, и если будем ставить в один уровень вырубку лесов и убийство себе подобного, ничего хорошего нам не светит точно. Хочется верить, что мы вообще рано или поздно «вырежем» из мозгов «рептильное» и «лимбическое» прошлое.
                                    0
                                    И убивал всегда человек много больше, чем ему нужно для пропитания

                                    До середины двадцатого века, а кое-где и поныне голод является серьезной проблемой. Человек не просто так от нечего делать уничтожал хищников — он шаг за шагом отвоевывал себе охотничьи угодья, места для полей и пастбищ, защищая свои интересы и интересы потомства.

                                    Насчет «самого опасного и злого» я бы тоже поспорил. Бактерии, вирусы и разнообразные паразиты выигрывают количественно и по биомассе, каждый год убивая десятки миллионов людей. Человечество ведет с ними войну на истребление, но до победы еще очень далеко.

                                    ему необходимо снова стать животным; или же стать большим, чем человек

                                    Религиозные верования и множественные пророчества о конце света — не аргумент.

                                    Нет, серьезно, Человечество в порядке — население планеты растет, все больше технологий под нашим контролем, мир вокруг нас становится с каждым годом чуточку безопаснее и удобнее. Даже войны стали более технологичны и обходятся меньшим количеством случайных жертв. И мораль тут ни при чем — просто появилась возможность применять насилие более быстро, точно и контролируемо.

                                    И не надо принижать достижения эволюции: общество и регулирование отношений в нем, касты, разделение труда и проф. специализация, язык — все это изобретено за миллионы лет до человечества.
                                      0
                                      До середины двадцатого века, а кое-где и поныне голод является серьезной проблемой.

                                      Да, потому что окультурились и научились не есть хотя бы друг друга:) Собственно чем глубже в века, тем лучше мы ели, это правда. Голодные времена пришлись на время, когда перестали жрать все подряд, расплодились безмерно, не решив вопроса с ресурсами. Собственно да, проблема остается по сей день.

                                      Насчет «самого опасного и злого» я бы тоже поспорил. Бактерии, вирусы и разнообразные паразиты

                                      я бы все таки оставался в плоскости родственных видов. А то так можно добраться до высокоэнергетических частиц из космоса, идеальных убийц живого)

                                      Религиозные верования и множественные пророчества о конце света — не аргумент.

                                      я про это ни слова не сказал, вообще не релегиозен.

                                      По остальному, да, жить становится все время лучше, но «просто появилась возможность применять насилие более быстро, точно и контролируемо» звучит для меня абсолютно дико, и мораль точно причем, она есть наше главное достижение как вида, отличающие нас от животных.
                                        0
                                        окультурились и научились не есть хотя бы друг друга

                                        Не вижу логики — мясо ведь просто так пропадает.

                                        Голодные времена пришлись на время, когда перестали жрать все подряд, расплодились безмерно

                                        С проблемой гибели от голода сталкиваются все животные.

                                        я бы все таки оставался в плоскости родственных видов

                                        Человеческое коварство — дисквалифицировать всех опасных конкурентов и объявить себя царем природы.

                                        я про это ни слова не сказал, вообще не релегиозен

                                        Да ладно?
                                        Человека животным упорно не признаете, вопреки научной классификации.
                                        Полагаете, что далекое-далекое прошлое было лучше.
                                        Верите в абсолютную ценность морали, а не технологий и прогресса.
                                        Полагаете, что человечеству надо порвать с животным началом, иначе — «ничего хорошего не светит точно».
                                        С легкостью допускаете алогичные построения типа «запрет на каннибализм решил проблему голода».
                                        Протестуете против любого насилия.

                                        В общем, типичный набор христианских культурных воззрений. А ношение крестиков и чтение молитв — это дело десятое.
                                          0
                                          Послушайте, я всего этого нигде не написал, как минимум этого точно не имел ввиду. Но вы сами решили все додумать и сделать неверные выводы. Уверяю вас, не тяну и на латентного описанного вами христианина:)
                                            0
                                            отличающие нас от животных
                                            чем глубже в века, тем лучше мы ели
                                            мораль точно причем, она есть наше главное достижение как вида
                                            научились не есть хотя бы друг друга (в ответ на уменьшние проблемы голода)
                                            война это 100% анахронизм
                                            если будем ставить в один уровень вырубку лесов и убийство себе подобного, ничего хорошего нам не светит точно


                                            Знаете, если меня бы спросили о достижениях человечества, то я бы высказался про:
                                            — интернет и коммуникации, радикально изменившие мир
                                            — медицину, продление жизни и современные протезы
                                            — генетику и современную селекцию
                                            — спутники и исследовательские зонды — мы сделали то, что ни один другой вид не смог
                                            — всю энергию, что под нашим контролем. И речь не про оружие, а про банальное электроснабжение и транспорт

                                            Наконец, про то, что человеческий разум стал более свободным — все может стать объектом технологии, включая нас самих.

                                            Но назвать мораль высшим достижением человечества — это… ну просто бессмысленно, хотя бы потому, что не существует никакой общей единой морали. Ее нет даже в рамках одной страны, не то, что всего мира и любые попытки ее унификации успешно провалислились из века в век. И это замечательно, поскольку чем выше разнообразие — тем выше адаптационные возможности человечества. Мы изменяем мир так быстро, что за этим уже не успевает даже смена поколений, куда уж там биологической эволюции.
                              0
                              В конечном счете первые ИИ неизбежно получатся (большей частью!) такими, какими будут люди, его создававшие.
                              Это очевидно.
                              Но потом люди захотят изменить этот факт, и тогда произойдет фейл.
                              Врядли армогидец — я не понимаю зачем оно разуму, лишенному тела.
                                0
                                Нет, тут вы ошибаетесь.
                                Человеку невозможно «зашить в железо» требование проверять на этичность свои действия перед их совершением. у ИИ — возможно.
                                0
                                Очередная философская статья на то, каким должно быть то, что человечество в ближайшем будущем вряд ли создаст.

                                С леопардовым диваном уже разобрались? А то я просто не в тренде нейросетей и квантовых компьютеров.
                                  0
                                  Чем больше думаю над угрозами сверхразумного ИИ, тем больше убеждаюсь, что, оставшись под контролем человечества, он будет представлять несопоставимо бо́льшую опасность, чем если выйдет из-под контроля.
                                    0

                                    Интересно, почему всех так тянет к гуманоидам?Лично я вижу ИИ как большой централизованный "сервер", или децентрализованную систему из многих серверов по всему миру в бункерах, а под управлением этой системы будут роботы типо тех, которые делает boston dynamics. Разумеется, речь идет о сильном ИИ, который будет значительно сильнее человеческого. В таком случае, произойдут довольно интересные вещи: умные будут пытаться конкурировать с ИИ, или заниматься творчеством, глупые — "сомы грамм — и нету драм", или же "Добро пожаловать в Матрицу" под управлением все того же ИИ. В результате, через пару поколений по планете будет шастать в худшем случае 500 млн. человек, остальные будут обречены, и будут вынуждены либо свергать "интеллектуальных нацистов", либо ограничить свою жизнедеятельность на планете, возможно даже совсем. В таком случае, мы производим искусственный отбор людей по признаку интеллекта и креативности, а дальше я профан в гинетике. Если у нас остается только интеллектуально развитые особи, то скорее всего, из поколения в поколения (если они будут, конечно. это уже совсем другой вопрос, насколько человек способен изменить себя) уровень интеллекта будет расти у этих особей. Если к этому наложиться генная инженерия и аугментации, то мы сможем сделать вполне даже неплохих людей. НО!(внимание, процесс отвержения всего вышенаписанного) ИИ в любом случае будет сильнее и быстрее человека, тем более, в случае сингулярности. Что же получается? Мы создали что-то, что должно было упрощать нам жизнь, а оно развилось, и решило упростить ее полностью?!)) Получается, да. И это естественный путь, если мы создаем ИИ. На протяжении миллионов лет более развитый вид вытеснял менее развитый. Всегда это происходило неосознанно, путем мутаций, но мы жи венец творения природы, мы должны действовать по-другому. Мы либо сделаем это осознанно, и какое-то время будем наслаждаться тем, что мы создали, пока человек не станет бесполезен, либо мы так и останемся примерно с тем же уровнем прогресса исключительно ради животных инстинктов (продолжение рода и борьба за вершину "пищевой" цепочки. Вопрос даже не философский, вопрос в том, что кто-то должен "дернуть за рычаг", чтобы запустить такой ИИ, и какое-то время его охранять. На этом роль человечества исчерпывается

                                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                    Самое читаемое