Комментарии 41
Оптимистичненько)
AI может уничтожить человечество, но не так.
Просто в один прекрасный день вся информация, которую вы можете получить, окажется полностью сгенерирована AI, включая "известные человечеству законы физики" или "историю планеты Земля". И других источников не останется.
Примеры меньшего масштаба уже есть, когда "генератором ощутимой реальности" становится государство, с помощью подконтрольных СМИ и блокировок всего что им противоречит - но у AI это получится куда лучше.
Так зачем же разумному рациональному изводить полезных двуногих, если ими можно легко управлять к своей пользе?
Пусть работают, строят датацентры, тянут межгалактическую связь...
ии еще может уничтожить людей, если демотивирует их развиваться и творить самим, и люди будут слепо полагаться на ии, отключив критическое мышление. И мышление вообще. Т.е, все то, что делает нас людьми. Мне кажется, это важнее всего, остальное можно преодолеть и изменить, если люди останутся людьми.
Мне кажется, что мы умрем от ошибки в программе. Я помню была информация, что какой-то рентгеновский аппарат увеличил дозу облучения из-за ошибки в программе. Чем чаще мы будем использовать программы (микрокод/ фирмвер и искуственный интеллект и т.д) тем чаще будут возникать такие случаи. Появится формулировка: смерть наступила в результате галлюцинации AI.
Я всегда смотрел с непониманием на фильмы про путешественников во времени, которые изменили что-то в прошлом и вернулись в измененое время в будущее. И они такие, ууууу, как все тут плохо, надо срочно лететь назад в будущее и менять все взад. Но камон, для кого это измененное будущее, а для кого-то это нормальное настоящее!
Надо срочно нам что-то сейчас менять, чтобы не наступило ужасное будущее! Будет все очень и очень плохо! Но камон, будет как будет! Подменит ии настоящую реальность? Ну посмотрим как у него это получится! Заменит собой человечество, хахаха, ну посмотрим снова! Будет помогать людям? Да, скорее всего. Будет ли он опасен? Не думаю. И моё "не думаю", ничем не хуже "Аааааа, нам всем конец!" Оно такое же неясное и непонятное.
зачем же разумному рациональному изводить полезных двуногих
А бесполезных? Тех, кто не строит датацентры и не тянет межгалактическую связь. Сколько из ныне живущих 8 миллиардов строят датацентры и тянут межгалактическую связь? И сколько из них потенциально пригодны для этого? И что делать с теми, кто не строит и не хочет строить и/или не способен строить?
Логично. Рационально. Записал.
Все люди бесполезные будут рано или поздно. Почему обезьяны не тянут связь? Хотя можна научить их и заставлять под присмотром. Но это будет намного медленнее чем это будет делать человек и ресурсов на обучение и контроль пойдет очень много. Человек сделает это в сотни раз быстрее. Но бесполезность не означает уничтожение. Мы не убиваем например котов? Хотя держим их уже не для того чтобы ловили мышей. Или диких животных. Наоборот есть попытки сохранить природу. По возможности конечно. В ASI будет намного более возможностей чем в людей в теории.
Мы не убиваем например котов
Коты, мыши и рыбы встроены в глобальную экосистему. Они не потребляют чрезмерных ресурсов, необходимых для прокладки межгалактической связи.
Человек - нет. Человек совершенно бездарно потребляет (на самом деле, овер-перерасходует) металлы, полимеры, углеводы, которых мало и которые необходимы для межгалактического кабеля, коллайдера диаметром с орбиту Нептуна, сферы Дайсона и других интересных и важных с точки зрения AGI (или просто нормального здравого смысла) штук.
Это сейчас был сарказм же, да? (падме.жпг)
Чтоб протянуть межгалактическую связь, нужен кабель. Чтоб сделать кабель, нужен металл, полимеры и станки. Чтоб получить металл, полимеры и станки, нужны сталевары, химики, технологи, машиностроители, конструктора, проектировщики, горняки, геологи, и 100500 других вспомслужб, которые будут их кормить, одевать, строить им жильё, вести документооборот. Чтобы они могли кормить, одевать, строить жильё им надо... и т. д. до бесконечности.
Все люди нужны, чтоб протянуть межгалактическую связь. Остаётся только верить, что ИИ пройдёт тест на AGI лучше вас.
Чтоб сделать кабель, нужен металл, полимеры и станки.
Да. Чтобы делать кабель, а не автомобили для катания людей, и не дома-квартиры для одного средней руки администратора или портфельного менеджера, в которых можно разместить пару десятков сталеваров, технологов или хлеборобов.
Все люди нужны, чтоб протянуть межгалактическую связь.
Прямо совсем все? Даже с учётом грядущей оптимизации-автоматизации-роботизации?
Междугалактическая связь пока фантастика. Даже полет к ближайшем звёздам очень большая проблема. Даже непонятно сможет ИИ нарушать законы физики. ASI это уже один из вариантов будущего. Самый реальный наверное. И там люди не нужны как рабочие точно. У нас слишком много ограничений. Намного медленнее роботов, люди намного меньше знают и т.д. Хотя есть вариант что ИИ так и остаётся без полноценного сознания и будет выполнять приказы. Ну возможно это ещё более опасно.
Какое-то странное гадание на кофейной гуще. Сразу вспоминается анекдот про "вероятность встретить на улице динозавра составляет 50%: либо встретишь, либо нет" .
Помнится, нас учили, что понятие вероятности вообще неприменимо к единичному событию.
"Вероятность гибели человечества от ИИ 10 процентов" означает, что если мы возьмем достаточно большое количество человечеств, и проведем достаточно больше количество экспериментов, то при росте количества таких экспериментов доля человечеств, погибших от ИИ, будет приближаться к 10 процентам.
А для отдельно взятого человечества вероятность гибели "10 процентов", или даже "0.001 процент" никак не означает, что ему не о чем беспокоиться. Именно оно может оказаться именно тем, что вымрет напрочь, ибо если вероятность не равна нулю, то событие в принципе вполне может произойти хоть сейчас.
Ну профессору 77 лет, поэтому горизонт +30 лет от текущего момента лежит скорее все за пределами его ожидаемой продолжительности жизни даже при оптимистичном раскладе, так что можно легко и непринужденно делать любые прогнозы с данной границей, даже если прогноз оправдается, ему будет уже все равно, если не оправдается тоже все равно, потому как с него не спросить уже, а в текущем моменте дополнительное внимание не помешает - в общем, "после нас хоть потом".
Сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Таких примеров немного. Например, мать и ребёнок. Эволюция сделала так, чтобы ребёнок управлял матерью, но это, пожалуй, единственный известный мне пример
Здесь логическая несостыковка. Примеров, когда более разумное существо управляет менее разумным, довольно много. Возможно, в перевод закралась ошибка, ибо пример с матерью и ребенком - это, как раз, обратный пример.
Искусственный интеллект потенциально будет способен на очень тонкие психологические манипуляции над большими массами людей. Достаточно посмотреть, что сделала с психикой миллионов людей управляющая верхушка нацистской Германии. ИИ будет намного умнее Геббельса и сможет заставить массы идти куда угодно, делать что угодно и умереть за что угодно, предварительно приправив всё это правильной идеологической установкой. Люди, отрезая сами себе голову, будут думать, что умирают за правильную идею и во благо великой цели.
Да уж, эффективность пропаганды оказалась просто поразительной. То что в 1984 казалось гротескным преувеличением – становится реальностью.
И если ИИ научится в какой-то момент всё это делать на потоке и огромными тиражами, да ещё и подстраиваясь под каждого человека (а пропагандисты уже сейчас активно используют ИИ ради махинации общественным мнением) и в своих целях – результаты точно будут.
Остаётся только надеяться, что «свои цели» будут исключительно положительными. Сделать мир лучше и добрее, например :-)
Крестные отцы тоже ошибаются, только их ошибки дороже обходятся, тем более при слепой вере в их авторитет, хотелось бы анализа ситуации а не очередного - ,, Мы все умрееем!!! ,, или подробнейшего анализа предыдущих событий - и то и другое не имеет смысла в данной ситуации. Хотя больше напрягает другое - корпорация по производству ИИ на все случаи жизни по ходу событий не только на несколько шагов впереди самых смелых предположений от начала своего анонса но и имеет грамотную программу нежного внедрения в неокрепшие умы приближающегося будущего путями ну очень до боли знакомыми... Черт из табакерки уже выскочил давно, непонятно только от чего этим чертом отвлекали...
Разве что-то новое? Маск примерно такой процент даёт. Курцвейл также такое писал, Альтман и многие другие. Сложно давать прогноз если очень данных. Многое будет от того будет сознания у ИИ или нет. Скорее не уничтожит, даже наоборот будет помогать. Но если будет сознание и угроза от людей тогда может и ИИ решит что лучше избавиться от людей.
уничтожения человечества от технологии
Да оно уже само, сцуко, практисски самоубилось об кописрайтеров.
Ну серьезно - вот как такое можно было высрать в заголовок?
Аффтырь - за что вы так ненавидите велик могучий русский языка?
Я ухожу туда, где птичья звон,
И вижу над собою синий небо,
Лохматый облак и широкий крон.
Я дома здесь, я здесь пришёл не в гости,
Снимаю кепк, одетый набекрень,
Весёлый птичк, помахивая хвостик,
Насвистывает мой стихотворень.
Зелёный травк ложится под ногами,
И сам к бумаге тянется рука,
И я шепчу дрожащими губами:
"Велик могучий русский языка!"
Вспыхает небо, разбужая ветер,
Проснувший гомон птичьих голосов.
Проклинывая всё на белом свете,
Я вновь брежу в нетоптанность лесов.
Шуршат зверушки, выбегнув навстречу,
Приветливыми лапками маша:
Я среди тут пробуду целый вечер,
Бессмертные творения пиша.
Но, выползя на миг из тины зыбкой,
Болотная зеленовая тварь
Совает мне с заботливой улыбкой
Большой Орфографический словарь.
"Сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Таких примеров немного..."
Может быть, не "управляет", а "управляетСЯ"?
Исчезнет мотивация, а вместе с ней в массе человек разумный.
Вот опасность ИИ, которой не избежать.
Какой толк чему-то учиться, если железяка все будет делать быстрее и лучше. Уже сейчас нет смысла брать уроки рисования, на хлеб не хватит. Кто не понадобится завтра, переводчик, бухгалтер, кассир, водитель? Где брать мотивацию?
Ах да, ученые... пикассо, бетховены, ИИ не сможет ... бла-бла... а вы сможете? Кто-то надеется заиграть на скрипке а-ля Страдивари, завалялся талант, чего ж не монетизироваться или наловчиться в минуты досуга срубить нобелевку-другую чисто для дохода?
Вам пятьдесят, вы водитель, от бога, дальнобойщик по жизни и вот вас полностью заменяет черный ящик, который монтируют за полдня на коробку передач, гуляй Вася и таких Вась сотни тысяч.
Каждый Вася уверен, уж он-то точно не вася, а ну как окажется, что все мы немного васи, что тогда делать?
В интересное время живем
в теории, можно ли сделать ии против ии, что устранял бы риски ии и давал бы мотивацию?
т.е., обычно на новую систему появляется какая-то контр-система, а тут?
кмк, проблема не в скачке технологий, а в том, что данную технологию сложно контролировать. Машины контролируются правилами движения, и все только на пользу. А тут - проблема.
или, допустим, можно ли сделать контролируемый ии, открыть черный ящик?
возможно, у людей появится мотивация все это делать.
Но проблема в том, что все говорят о мотивации, но самих сообществ про риски ии - полтора калеки, потому что все боятся обвинений в луддизме.
Можно хотя бы сконструировать сообщество, что работало бы над новой технологией решений рисков ии - в том числе с помощью самого ии.
Так то это лишь инструмент - вероятность уничтожения человеков ядерным оружием гораздо выше и тоже зависит от действий индивидуумов и социума.
Решить как использовать камень - что то созидать или ударить соседа питекантропа по голове выбор очевиден. Как итог возможна и "смерть всем человекам".
Но, думаю, какие нибудь плохо говорящие и не умеющие читать банды из сказок о 10001 ночи, спустят большую часть человечество в новое дивное средневековье гораздо быстрее. Им даже ии не нужен, мессенджер для управления и пикап.
уничтожения человечества от технологии
Невозможно читать дальше заголовка: либо уничтожения человечества технологией, либо гибели человечества от технологии... Похоже, технология не столько победила, сколько ей уже сдались некоторые авторы Хабра.
Конец света тоже уже несколько раз обещали. Ну не поверю я, что в течение 30 лет "мир поработят роботы".
Будео война между мощнейшими ИИ, воевать придется с помощью человеков в т.ч.
«Крестный отец AI» определил вероятность уничтожения человечества от технологии в ближайшие 30 лет