Комментарии 40
Мы ещё с правами людей и обеспечением их реализации не разобрались, по-моему…
Я конечно не ИИ, но даже я способен сделать кое-какие обобщения и выделить суть содержания статьи, которая полностью (не знаю как сказать «дословно», применительно к смыслу) повторяет десятки и сотни подобных статей, количество которых в сети, похоже, тоже растет по экспоненциальному закону и по моим скромным оценкам должно уйти в точку сингулярности примерно к концу 2018 года.
Может кто-то объяснит, почему считается, что «изобретение» (не очень удачное слово для вымученного результата) ИИ автоматически приведёт к сингулярности? Ведь для того, чтобы система могла самосовершенствоваться, её необходимо обеспечить всеми необходимыми ресурсами и инструментами для замыкания цикла. А это можно сделать только преднамеренно, плюс всё равно необходимо будет снабжать её внешними энергетическими ресурсами.
Сингулярности не так-то просто будет добиться. Система скорее будет ломаться, чем выходить во что-то стабильно растущее.
Сингулярности не так-то просто будет добиться. Система скорее будет ломаться, чем выходить во что-то стабильно растущее.
Сначала вам ИИ расскажет как построить молекулярный наноассемблер и термоядерный реактор, исключительно с целью чтобы быстрее наштамповать вам новых айфонов-10 и заработать для вас много $$$^$, ну а дальше вы поняли, да?
Это ведь шутка, да? Потому что всерьёз это сложно воспринять. У ИИ не родится тех знаний, которые не могут родиться у людей. И уж тем более в областях, инструментов (органов) познания которых у него не будет. Какой-то совершенно невообразимый романтический оптимизм вокруг ИИ клубится, будто он сам всему научится, познает все законы этого мира до уровня, непостижимого для человека, отрастит миллион манипуляторов (ну с глазами попроще) и сделает это так быстро, что никто и не успеет заметить, как окажется порабощённым новым сверхразумом. Извините, но это какой-то наив.
А почему бы ему не познать законы мира до уровня, непостижимого человеком? Чем сильный ИИ в этом плане обделеннее, скажем, физика-теоретика? Представьте себе ученого думающего 24/7, без пауз на жену, дачу, заработок денег и пр.
НУ может за пару столетий и додумается. Ведь производительность системы на котором будет построен ИИ конечна и на размышления, обучения все равво может понадобиться очень много времени.
Я конечно видел у людей линейное мышление, но чтоб настолько… Вы как себе это представляете, вот появился некий ИИ, десяток стоек в датацентре, загрузился и давай себе жужжать, производить свои ограниченные вычисления годами и десятилетиями? Давайте вместе подумаем, что помешает ИИ для начала немножко поразмышлять над тем, как ему себя ускорить? Что помешает тупо наращивать количество вычислительных блоков, даже предположив, что мы уже достигли теоретического предела производительности каждого? За «пару столетий» ИИ сможет всю Землю и ближайшие окрестности под свои нужды преобразовать до неузнаваемости, и ещё лет 150 останется.
Давайте сравнивать ИИ не с супер разумом, а например с ребенком который только родился и которому нужно постигнуть мир.
Много он сможет придумать без долгого обучения? Как он будет размышлять как себя ускорить если он еще ничего не знает об окружающем мире?
Человечество потратило столетия чтобы до чего то дойти, миллионы ученых тратили десятилетия своей жизни.
Да ИИ в перспективе будет гораздо быстрее и умнее но далеко не сразу.
Чтобы за короткий срок ckexbkfcm "Технологическая сингулярность" необходимы немалые вычислительные ресурсы.
Давайте! Только для начала сравним каналы ввода информации в ребенка и в машину. Плюс у машины совершеннее память, факты она 100% будет помнить, все. Плюс можно течение времени для машины ускорить, во много раз. Для чего самоуправляемому авто ездить по городу, если он может «ездить» в физической симуляции, сравнительно несложной, достаточно только базовые физические законы учесть. А скорость протекания времени в этой симуляции допустим будет 1000x, вместо месяцев обучения, натренируется за день. Конечно железо нужно будет соответствующее.
Ребенок первые пару лет учится 2-6 часов в сутки, а остальное время спит, и всё равно к 30 годам способен стать выдающимся физиком-теоретиком. Сколько времени потратит на достижение того же уровня развития ИИ в режиме 24/7?
Потому что в итоге получится какая-нибудь «теория струн», не противоречащая предварительно загруженным в ИИ данным, но ничего и не предсказываюшая и не дающая. «На кончике пера» открытия делаются всё равно с экспериментами и с массой разнообразных данных от этих экспериментов.
НЛО прилетело и опубликовало эту надпись здесь
Вы как-то всё слишком буквально воспринимаете. Сам не расскажет, это вы его спросите, предварительно всё нужное в него загрузив, вы же знаете как стелларатор германский создавался? Без компьютерного моделирования не обошлось бы, так же ИИ сможет чуть более автоматизированно всё это смоделировать, особенно если будет обладать каким-то целеполаганием и даже, извините, сознанием. А знаний уже более чем достаточно накопилось, надо их просто правильно применить.
Знания накопились, да. Но их необходимо как-то перевести в понятную для ИИ форму. Необходимо создать какую-то «песочницу», которая бы с точностью моделировала нашу реальность, в том числе еще не открытые эффекты. И если вдруг где-то будет расхождения — получатся ложные знания, не применимые к нашему миру (а оно так и будет). Либо дать ему аватара и кучу ресурсов. Тогда все будет очень медленно, но результат реальный.
Вы, наверное, не понимаете суть сильного ИИ. Такой ИИ сможет сам расширять список областей в которых он может самообучаться. Так же, он сам должен переводить данне в удобный для себя вид, и наращивать вычислительные мощности по своим нуждам. Если он не может создавать что-то новое, или не сможет увеличивать количество областей, в которых он сам сможет обучаться, такой ИИ будет ОИИ, а не сильный ИИ. Если вкратце, все ваши вопросы должен решить сам сильный ИИ, иначе он таковым не будет.
Я думаю в ближайшие 10 лет нас ждёт революция в области нейронных сетей, некоторые отрасли с участием человека будут вытеснены нейронными сетями, встанет вопрос: а что делать обычным людям в таком случае, зачем они нужны властьимущим, капиталистам и пр.? Нейронные сети это конечно не тоже самое что реальная сеть из нейронов, но как мы видим она вполне себе способна обучаться и заменять человека, лишена инстинктов, усталости и т.д. Мир разделиться на страны где будет естественный труд людей, где будет труд машин и безусловный доход? Или что? Я конечно понимаю что нейронные сети что это попытка людей понять самих себя, но что нас ждёт дальше не совсем понятно. Или нас поглодит ИИ, или мы будем использовать его в своих целях.
Я думаю в ближайшие 10 лет нас ждёт революция в области нейронных сетейскорее, таки эволюция. Нейронные сети уже давно известны, и я бы ожидал от них оптимизации алгоритмов и «железа» — те же чипы с нейронными сетями к примеру.
некоторые отрасли с участием человека будут вытеснены нейронными сетямиэто происходит каждый день, ничего нового. Говорить о том что заменят значительную часть людей рано т.к автоматизация очень дорого стоит, и «софт» составляет не основную часть цены. Современные технологии вполне себе позволяют заменить практически всех фабричных работников, многих поваров, бюрократов, дворников и т.д. Этого не делают только потому что люди дешевле.
Обычные люди нужны капиталистам для создания массового спроса. Без спроса нет денег у капиталиста.
Навряд ли настоящий Сильный ИИ появится раньше, чем человек разберется с собственными мозгами, сознанием, природой квалиа и тд. Как минимум процесс будет идти в параллели. И будет ИИ создан по «образу и подобию...», так как нет у нас категорий «разумности», «сознания» кроме тех, что приняты за человеческие. Вопросы будут стоять в плоскости этики, философии, принятия или неприятия ИИ живым, равным/не равным, вопросы слияния с человеком и прочее прочее. Так или иначе вопрос далекого будущего (думаю не менее сотен лет) и реальность окажется явно на порядки глубже зашоренного бреда про Терминатора, Матрицу, Серую слизь и прочие комиксы 7+
Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности?
Есть множество людей, которым не нравится человечество или конкретная его часть. Некоторые из них обладают решительностью и определенными навыками. Против них принимаются меры предосторожности. Не вижу причины, по которой с ИИ будет иначе.
Но меня удивляет, что во всех подобных статьях неявно подразумевается абсолютное и тотальное превосходство ИИ вообще во всем, причем сразу в момент создания.
Подозреваю, что первый полноценный ИИ будет обладать разумом и неторопливостью дебила под феназепамом, занимая при этом несколько датацентров и потребляя десятки мегаватт электрической мощности. Через десяток-другой лет его мышление удастся подтянуть до уровня среднего человека и ограничиться одним мейнфреймом. И лишь еще через пару десятков лет начнут появляется ИИ, мыслящие лучше и быстрее человека. За это время человечество как-нибудь разберется как это все регулировать.
Насчет дебила под феназипамом не знаю, не владею технической стороной вопроса:)
Но у меня есть уверенность в том, что любая потенциальная проблема с ИИ будет лежать в плоскости несовершенства именно человека. Вот как с ядерным оружием — появилось оно в сумасшедшем обществе приматов, убивающих друг друга десятками миллионов. Если и ИИ появится во время продолжающегося безальтернативного оскатинивавания, тогда да, последствия могут быть любыми. Но эти проблемы будут вообще не про ИИ, а все так же про нас как вид, в жизни которого ИИ не может появиться чем то иным, чем просто вторым «Я» нашей же человеческой природы.
Нет, ну можно конечно пофантазировать на тему, что вдруг ИИ родит новые нечеловеческие логику, понятийный аппарат, систему ценностей, этику и тд (если конечно такие категории вообще будут в нем иметь место быть), но это чистая метафизика, как мы об этом узнаем? Ведь сильный ИИ априори предполагает, что его «сильность» мы будем принимать на веру, как принимаем на веру то, что живем с такими же осознанными людьми как мы сами, а не с «китайскими комнатами». А сами то — говорим объективности гудбай в тот момент, когда прогнали сенсорные сигналы через нервную систему.
Короче, не нашего птица полета, сильный ИИ, в том смысле, что птицы не «родят» самолета. Никакого оптимизма не разделяю, если мы конечно не будем выставлять всеми силами желаемое за действительное.
Но у меня есть уверенность в том, что любая потенциальная проблема с ИИ будет лежать в плоскости несовершенства именно человека. Вот как с ядерным оружием — появилось оно в сумасшедшем обществе приматов, убивающих друг друга десятками миллионов. Если и ИИ появится во время продолжающегося безальтернативного оскатинивавания, тогда да, последствия могут быть любыми. Но эти проблемы будут вообще не про ИИ, а все так же про нас как вид, в жизни которого ИИ не может появиться чем то иным, чем просто вторым «Я» нашей же человеческой природы.
Нет, ну можно конечно пофантазировать на тему, что вдруг ИИ родит новые нечеловеческие логику, понятийный аппарат, систему ценностей, этику и тд (если конечно такие категории вообще будут в нем иметь место быть), но это чистая метафизика, как мы об этом узнаем? Ведь сильный ИИ априори предполагает, что его «сильность» мы будем принимать на веру, как принимаем на веру то, что живем с такими же осознанными людьми как мы сами, а не с «китайскими комнатами». А сами то — говорим объективности гудбай в тот момент, когда прогнали сенсорные сигналы через нервную систему.
Короче, не нашего птица полета, сильный ИИ, в том смысле, что птицы не «родят» самолета. Никакого оптимизма не разделяю, если мы конечно не будем выставлять всеми силами желаемое за действительное.
Ой да ладно, ЯО всего два раза использовалось, да и это было так давно, что уже не правда.
Вот как с ядерным оружием — появилось оно в сумасшедшем обществе приматов, убивающих друг друга десятками миллионов
Что составляло на тот момент менее 0.1% от населения планеты. Люди — весьма миролюбивые создания по природным меркам. И потому для ЯО не нашлось массового применения — так, попробовали и решили, что слишком проблемное оружие.
Но почему вы считаете, что война — признак несовершенства человека? Чем этот инструмент преобразования мира принципиально отличается, например, от вырубки лесов или распашки полей? Человек преображает окружающий мир с помощью инструментов, война — лишь один из способов.
Война инструмент внутривидовой конкуренции, да, пожалуй, наиболее действенный, я не спорю. В животном мире. И миролюбивыми не были — перебили всех ближайших родичей, с которыми делили Землю, те же неадертальцы, с которыми кстати довольно успешно спаривались, давая потомство. И многочисленных других. Всех, кто мог составить конкуренцию. И убивал всегда человек много больше, чем ему нужно для пропитания. Самый опасный и злой хищник, там где мы есть сейчас на эволюционном древе это доказывает. Сегодня да, мы не те, что раньше — не зря же обростали неокортексом, изоберли язык, общество и прочее. Но прошлое не выкинешь, как там по Юнгу, «человек есть животное, которое сошло с ума. Из этого безумия есть два выхода: ему необходимо снова стать животным; или же стать большим, чем человек…». Так вот война это 100% анахронизм нашего «рептилоидного» прошлого, и если будем ставить в один уровень вырубку лесов и убийство себе подобного, ничего хорошего нам не светит точно. Хочется верить, что мы вообще рано или поздно «вырежем» из мозгов «рептильное» и «лимбическое» прошлое.
И убивал всегда человек много больше, чем ему нужно для пропитания
До середины двадцатого века, а кое-где и поныне голод является серьезной проблемой. Человек не просто так от нечего делать уничтожал хищников — он шаг за шагом отвоевывал себе охотничьи угодья, места для полей и пастбищ, защищая свои интересы и интересы потомства.
Насчет «самого опасного и злого» я бы тоже поспорил. Бактерии, вирусы и разнообразные паразиты выигрывают количественно и по биомассе, каждый год убивая десятки миллионов людей. Человечество ведет с ними войну на истребление, но до победы еще очень далеко.
ему необходимо снова стать животным; или же стать большим, чем человек
Религиозные верования и множественные пророчества о конце света — не аргумент.
Нет, серьезно, Человечество в порядке — население планеты растет, все больше технологий под нашим контролем, мир вокруг нас становится с каждым годом чуточку безопаснее и удобнее. Даже войны стали более технологичны и обходятся меньшим количеством случайных жертв. И мораль тут ни при чем — просто появилась возможность применять насилие более быстро, точно и контролируемо.
И не надо принижать достижения эволюции: общество и регулирование отношений в нем, касты, разделение труда и проф. специализация, язык — все это изобретено за миллионы лет до человечества.
До середины двадцатого века, а кое-где и поныне голод является серьезной проблемой.
Да, потому что окультурились и научились не есть хотя бы друг друга:) Собственно чем глубже в века, тем лучше мы ели, это правда. Голодные времена пришлись на время, когда перестали жрать все подряд, расплодились безмерно, не решив вопроса с ресурсами. Собственно да, проблема остается по сей день.
Насчет «самого опасного и злого» я бы тоже поспорил. Бактерии, вирусы и разнообразные паразиты
я бы все таки оставался в плоскости родственных видов. А то так можно добраться до высокоэнергетических частиц из космоса, идеальных убийц живого)
Религиозные верования и множественные пророчества о конце света — не аргумент.
я про это ни слова не сказал, вообще не релегиозен.
По остальному, да, жить становится все время лучше, но «просто появилась возможность применять насилие более быстро, точно и контролируемо» звучит для меня абсолютно дико, и мораль точно причем, она есть наше главное достижение как вида, отличающие нас от животных.
окультурились и научились не есть хотя бы друг друга
Не вижу логики — мясо ведь просто так пропадает.
Голодные времена пришлись на время, когда перестали жрать все подряд, расплодились безмерно
С проблемой гибели от голода сталкиваются все животные.
я бы все таки оставался в плоскости родственных видов
Человеческое коварство — дисквалифицировать всех опасных конкурентов и объявить себя царем природы.
я про это ни слова не сказал, вообще не релегиозен
Да ладно?
Человека животным упорно не признаете, вопреки научной классификации.
Полагаете, что далекое-далекое прошлое было лучше.
Верите в абсолютную ценность морали, а не технологий и прогресса.
Полагаете, что человечеству надо порвать с животным началом, иначе — «ничего хорошего не светит точно».
С легкостью допускаете алогичные построения типа «запрет на каннибализм решил проблему голода».
Протестуете против любого насилия.
В общем, типичный набор христианских культурных воззрений. А ношение крестиков и чтение молитв — это дело десятое.
Послушайте, я всего этого нигде не написал, как минимум этого точно не имел ввиду. Но вы сами решили все додумать и сделать неверные выводы. Уверяю вас, не тяну и на латентного описанного вами христианина:)
отличающие нас от животных
чем глубже в века, тем лучше мы ели
мораль точно причем, она есть наше главное достижение как вида
научились не есть хотя бы друг друга (в ответ на уменьшние проблемы голода)
война это 100% анахронизм
если будем ставить в один уровень вырубку лесов и убийство себе подобного, ничего хорошего нам не светит точно
Знаете, если меня бы спросили о достижениях человечества, то я бы высказался про:
— интернет и коммуникации, радикально изменившие мир
— медицину, продление жизни и современные протезы
— генетику и современную селекцию
— спутники и исследовательские зонды — мы сделали то, что ни один другой вид не смог
— всю энергию, что под нашим контролем. И речь не про оружие, а про банальное электроснабжение и транспорт
Наконец, про то, что человеческий разум стал более свободным — все может стать объектом технологии, включая нас самих.
Но назвать мораль высшим достижением человечества — это… ну просто бессмысленно, хотя бы потому, что не существует никакой общей единой морали. Ее нет даже в рамках одной страны, не то, что всего мира и любые попытки ее унификации успешно провалислились из века в век. И это замечательно, поскольку чем выше разнообразие — тем выше адаптационные возможности человечества. Мы изменяем мир так быстро, что за этим уже не успевает даже смена поколений, куда уж там биологической эволюции.
В конечном счете первые ИИ неизбежно получатся (большей частью!) такими, какими будут люди, его создававшие.
Это очевидно.
Но потом люди захотят изменить этот факт, и тогда произойдет фейл.
Врядли армогидец — я не понимаю зачем оно разуму, лишенному тела.
Это очевидно.
Но потом люди захотят изменить этот факт, и тогда произойдет фейл.
Врядли армогидец — я не понимаю зачем оно разуму, лишенному тела.
НЛО прилетело и опубликовало эту надпись здесь
Чем больше думаю над угрозами сверхразумного ИИ, тем больше убеждаюсь, что, оставшись под контролем человечества, он будет представлять несопоставимо бо́льшую опасность, чем если выйдет из-под контроля.
Интересно, почему всех так тянет к гуманоидам？Лично я вижу ИИ как большой централизованный "сервер", или децентрализованную систему из многих серверов по всему миру в бункерах, а под управлением этой системы будут роботы типо тех, которые делает boston dynamics. Разумеется, речь идет о сильном ИИ, который будет значительно сильнее человеческого. В таком случае, произойдут довольно интересные вещи: умные будут пытаться конкурировать с ИИ, или заниматься творчеством, глупые — "сомы грамм — и нету драм", или же "Добро пожаловать в Матрицу" под управлением все того же ИИ. В результате, через пару поколений по планете будет шастать в худшем случае 500 млн. человек, остальные будут обречены, и будут вынуждены либо свергать "интеллектуальных нацистов", либо ограничить свою жизнедеятельность на планете, возможно даже совсем. В таком случае, мы производим искусственный отбор людей по признаку интеллекта и креативности, а дальше я профан в гинетике. Если у нас остается только интеллектуально развитые особи, то скорее всего, из поколения в поколения (если они будут, конечно. это уже совсем другой вопрос, насколько человек способен изменить себя) уровень интеллекта будет расти у этих особей. Если к этому наложиться генная инженерия и аугментации, то мы сможем сделать вполне даже неплохих людей. НО!(внимание, процесс отвержения всего вышенаписанного) ИИ в любом случае будет сильнее и быстрее человека, тем более, в случае сингулярности. Что же получается? Мы создали что-то, что должно было упрощать нам жизнь, а оно развилось, и решило упростить ее полностью?!)) Получается, да. И это естественный путь, если мы создаем ИИ. На протяжении миллионов лет более развитый вид вытеснял менее развитый. Всегда это происходило неосознанно, путем мутаций, но мы жи венец творения природы, мы должны действовать по-другому. Мы либо сделаем это осознанно, и какое-то время будем наслаждаться тем, что мы создали, пока человек не станет бесполезен, либо мы так и останемся примерно с тем же уровнем прогресса исключительно ради животных инстинктов (продолжение рода и борьба за вершину "пищевой" цепочки. Вопрос даже не философский, вопрос в том, что кто-то должен "дернуть за рычаг", чтобы запустить такой ИИ, и какое-то время его охранять. На этом роль человечества исчерпывается
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Будущее искусственного интеллекта