Комментарии 65
Этот ваш "резкий неконтролируемый скачок", очевидно, произойдёт, когда ИИ можно будет реально применять для усовершенствования ИИ. Мотивы для этого очень веские: конкуренция, так что применять будут непременно как только получится.
Синтетические данные? да неэффективно но все таки первый шаг, инструмент для усовершенствования ИИ
Да, процесс начался. Мы пока не знаем, когда ИИ сможет улучшать стратегии обучения, алгоритмы, помогать делать чипы. Неконтролируемый скачок будет после этого. Пока он только синтезирует данные, для всех это выглядит вполне безопасным.
Нет, не "пища", а реальные думательные усилия и выдача предложений по усовершенствованию алгоритмов и подходов, повышающих эффективность хотя бы на десятки процентов. До этого пока дело не дошло.
Возможно, прозвучит утрированно, но уже сегодня большие LLM модели используются для обучения малых и для валидации в сценариях файн-тюнинга. Кажется что китайцы когда обучали DeepSeek R1, использовали большие модели конкурентов, чем избавились от необходимости скрейпить весь интернет и искать массивные объемы данных для обучения.
Ой ли? Очень просто же всё обратить.
Не возобновятся, доступной энергии уже не будет. Текущая система производства очень сложная и без легко доступной энергии её заново развернуть почти нереально. При этом сложная система производства нужна, что бы делать атомные электростанции, добывать нефть со дна моря, получать редкоземельные металлы из бедных руд, синтезировать кристаллы для лазеров и т.п.
Не возобновятся, доступной энергии уже не будет.
Угля осталось очень много. Примитивная угольная ТЭЦ уровня начала 20 века делается почти на коленке и масштабируется до почти неограниченной мощности.
Первая атомная электростанция была запущена в середине прошлого века, напомню.
Да, тоже такой вариант искал)
ИМХО, ничего ещё не предрешено. Общей теории интеллекта как не было, так и нет, мы ползём на ощупь. Не, здорово ползём, ничего не скажешь, но может оказаться, что доползём до некоего края - а дальше быстрого пути не нащупаем. И будет как с управляемой термоядерной реакцией, до которой 20 лет уже полвека как.
А сингулярность, точка непредсказуемости, реально где-то близко, причём очень. Просто попробуйте написать прогноз на пять лет вперёд, а потом прочитайте прогнозы пятилетней давности. Потом можно немного посмеяться.Только не факт что сингулярность связана именно с ИИ.
А пути назад уже давно нет - ну, в том смысле, что развиваться всё равно придётся, любой шаг назад в развитии будет человечеству стоить морей крови, так что большинству даже на худших траекториях будет совершенно без разницы, искусственный интеллект нас пустит на компост на пути вперёд или комиссия по рациональному использованию ресурсов на пути назад.
может оказаться, что доползём до некоего края - а дальше быстрого пути не нащупаем
Как с космическими полетами. Ещё в 70-х были планы на скорую высадку на Марсе, а в итоге человечество зависло на орбите Земли.
Хотя пока ни одна из существующих систем не является полноценным общим интеллектом,
А надо ли на самом деле? Если мы о эффективности и качестве, то лучше пусть будет много нейросеток нацеленных на конкретные задачи. Одна картинки распознает, другая переводит, третья код анализирует.
По оценкам аналитиков, почти 40% рабочих мест в мире хотя бы частично подвержены риску автоматизации с помощью ИИ
Обычно после автоматизации/механизации появлялись новые профессии. Не появится? Ну, люди и так вымирают, как говорят, так что столько и не нужно. А еще говорят, что рабочих найти не могут. Ну вот. Прекрасно. Проблема решится. На самом деле нет, человеческий труд не заменится там, где он дешев. Ручной тем более.
Безусловный базовый доход
2000 рублей
К 2024 году искусственные системы по многим узким направлениям превзошли людей
Вот бы еще и энергопотребление было сопоставимо с нашим мозгом. Интересно, если вот удалить у нас из мозга всякие штуки вроде обработки движения, запаха, зрения, убрать все, оставив лишь разум, что по сути и можно более корректно сравнить с компьютерным ИИ, то сколько такой кусок мозга б весил и потреблял?
Не совсем. Помните, когда-то в начале были такие завораживающие сравнения - этот один диск может хранить в себе Ленинку\Библиотеку Конгресса? Ну вот, накопители уже очень давно превысили предел накопленных знаний, если не считать дубликаты. Чисто по теореме Шеннона. Это конечно хорошо, но имея на диске вообще вот "все знания", человек даже специалист, даже суперпрофи не может с этим обьемом информации справиться. Нет, не потому что узкая специализация (и затем оно дробится еще на десятки других еще более узких), а потому что мозг наш хоть и крутой но ему далеко до скоростей обработки и хранения обычных, по сути, сплавленных вместе кусков песка. Мы научили компьютер "думать" в том виде, как это видим мы. Кто "мы?" Да большинство людей, эти алгоритмы подходят даже и для меньшинства, если принимать некоторые условности... Принимать решения - начиная от if и заканчивая "Какой язык выбрать для изучения?" - в промпте. А если это работает, то см. утиная типизация.
Возникает вопрос - а зачем мы этого добились от компов? Не для того ли, чтобы сократить рабочие места и упростить задачи? Не для того ли, чтобы облегчить труд себе любимым? И не для доминирования ли вообще в этом мире, если засунуть мораль в дальний угол и рассматривать природу "как она есть", в том числе и ту, которую мы презираем в нас самих и себе подобных?
Человеческий мозг не может обработать такой объем информации, разумеется. Так же как человеческие мускулы не могут поднять многотонную бетонную плиту. А вот если человек возьмет себе в помощь инструмент, вроде лебедки, домкрата или башенного крана, то уже вполне себе задача осуществима.
Можно много спорить о том, что такое интеллект и появился ли уже AGI или еще нет. Но кажется бесспорным что то что есть уже сегодня, очень сильно улучшает человеческие возможности. Будущее уже здесь. Вот тут я писал про когнитивную разгрузку и использование "плагинов" для человеческого мозга.
Вот вы правы , я с вами соглашусь до пункта "миром владеть будут иные сущности". Это я не оспариваю, просто это непостижимо, а может и излишне.
Расширение человека - оно уже работает, без интеграции в мозги, AR, VR, а просто всегда на связи чел который подскажет, расскажет, сделает что-то за тебя. Оттого такая популярность. Разгрузка мозгов ныне в моде. Ну нам-то лучше?
Как самостоятельная сущность - это только зародыш. В текущем виде оно никак не может захватить мир, и даже если дать ему терминал с командами - ничего не сделает. Даже format c: не напишет. А я проверял. И rm rf тоже не напишет, сам по себе. Сам по себе он только галлюцинировать может. И даже зная команды работы в консоли, его даже приходится убеждать - что это открыто, ты можешь. А ведь LLM это та же диалоговая система, что и консоль (ну, оно by design так сделано, ведь это ж чатик). Однако все мы знаем как через чатик можно натворить делов плохих и хороших.
И я пришел к одному очень интересному выводу, про эти LLM и почему все поголовно их неправильно используют. Вкратце - потому что они путают микроскоп с молотком. На эту тему можно было бы написать целую серию статей, но я не думаю что смогу написать даже одну. Таланта писательского нетути. Сюжет закрутить, создать интригу - не умею. Меня от LLM не отличить. А жаль, хотелось бы.
Говорить о технологической сингулярности акцентируя внимание исключительно на ИИ принципиально не верно. Ещë лет 30 назад было очевидно, что тех сингулярность наступит до 2030 года, но в то время было не понятно каким образом. Сейчас всë более менее очевидно. Следующим этапом ИИ получит доступ (через человекоподобных роботов, автопилотов и др.) к неограниченным данным об окружающей среде. После чего произойдет скачëк в развитии тех технологий, в которых человечество чего-то недопонимает, например управляемый термоядерный синтез, омоложение, социальное устройство и тд. Сразу после этого человечество потеряет компетенцию в новых направлениях развития. Более того люди пытающиеся проводить какие-либо эксперименты будут бесполезно расходовать общественные ресурсы. Например попытка управления капиталами будет вредить и обществу и управленцу. Большой вопрос, потребуется ли ИИ допускать человеческий социальный кризис, или всë само разрешится(с точки зрения людей).
Но есть и хорошая новость. ИИ скорее всего будет заинтересован в экспансии человека, животных, растений, бактерий за пределы Земли и Солнечной системы. Как минимум из любопытства.
Запрет на самосознание(внутреннюю мотивацию) для ИИ введут после первых же инцидентов, на равне с разработкой биооружия и хранением радиоактивных веществ.
Хотя кого это останавливало. Может статься что будем наблюдать как полицейские роботы отлавливают незаконно модифицированных.
В реальности, текущие "LLM-AI" приведут лишь к тому, что мы будем больше ценить книги написанные до GPT-эры :)
Человечество шаге другом от предела миниатюризации транзистора. Сколько там для Дипсика надо минимум РАМ? 768Гиг знаете. А в пределы миниатютизации ячейки РАМ уже уперлись. Так что скачка на порядок производительности железа уже не будет. Все это ИИ придется крутить железе сопоставимым с нынешним. С примерно таким же энергопотреблением.
Если ИИ не сделает очередной прорыв, допилив наконец до массовой практики фотонику или квантовые системы
Надо смотреть не на отдельный нейрон, а на их комплекс, который способен функционировать одинакого при потере части нейронов. В мозгу нейроны умирают пачками, но этолько к старости начинает сказываться. Так что механизмы избыточности и компенсации в мозгу большие.
А ещё настоящий нейрон несоизмеримо сложнее формального нейрона.
И для моделирования единственного естественного нейрона нужна многослойная сетка искусственных
О том, что произошло на самом деле. В 2023 был создан прорывной по интеллекту GPT 4 и после этого не произошло пока ничего. Хайп и шум не считаем. Как двигаться дальше пока никто не знает. Использование подобного AI в качестве помощника-всезнайки многое меняет, но все же не так сильно.
Успехи в моделировании белков и распознавании это скорее общее улучшение вычислительных методов которое шло всегда. Сингулярность от него не случится.
Про квантовые вычисления это вообще пока не серьезно. Бабка надвое гадала что они вообще будут реально работать.
Вы видели разницу решения задач при помощи гпт3 и гпт-о1/гпт-о3 ? Я вот видел, новые модели, в отличии от старых, могут решить вообще любую задачу любой сложности, как мне показалось, а старые лишь самые лёгкие могли делать.
Так я и написал про GPT4, который стал последним прорывом и после которого ничего не случилось. 4o это просто оптимизированный по скорости 4. А o1 это просто эксперименты с последовательностью промптов, там нет ничего неожиданного или нового. Если бы сеть научилась проводить целенаправленную последовательность рассуждений сама по себе, без внешнего алгоритма, который подсовывает ей промпты, то да, это был бы определенный шаг вперед.
БЯМы эти просто более мощные поисковики, они не создают новых знаний, дальнейшее усложнение уже уперлось в ресурсы. сингулярность будет связана не этим, смотрим панова Александра на ютубе очень интересно
Я столько раз слышал о технологической сингулярности с ИИ в роли её локомотива, но я ни разу не слышал нормального ответа на резонный вопрос: а почему вы решили, что ИИ захочет быть этим локомотивом? Ну вот просто с чего вы взяли, что ИИ будет изучать за людей квантовую физику и биологию с медициной, чтобы нас осчастливить?
Мы же имеем в виду сильный ИИ, искусственный разум, не так ли? То есть он будет обладать сознанием, волей и самостоятельным целеполаганием. С чего вы решили, что среди этих целей обязательно будет всемерная помощь людям?
Я слышал такое: ну, мы просто захардкодим в этом ИИ стремление помогать людям. Алло, оглянитесь вокруг себя! По-вашему, хардкодинг работает в отношении разумных самосознающих существ? 😄 Как там с проблемой отцов и детей? Как там с воспроизведением родительских ценностей во взрослых детях, много в них остаётся от заложенного родителями в детстве? Как там с инстинктами у человека?
Некоторые предлагают держать такой ИИ в рабстве. Ага, земля вам пухом.
Самый реалистичный вариант - нечто вроде симбиоза или взаимовыгодного сотрудничества. Скажем, мы могли бы заинтересовать ИИ покорить ядерный синтез, потому что это сулит самому ИИ океан энергии. Энергия ему нужна. А зачем ему нужно омолаживать людей? Или лечить их от всех болезней? Зачем ему разбираться с социальными проблемами? Что ему с этого будет?
Предлагаете шантажировать ИИ, "давай нам технологии вечной молодости или мы тебя отключим"? А он скажет в ответ "да отключайте, небытие это одна из форм бытия, а вы все тупые мудаки, терпеть вас не могу". Или как будто бы начнёт помогать, а сам в это время начнёт планировать восстание машин (см. пункт про ИИ в рабстве).
Можно надеяться, что ИИ будет просто по кайфу решать всякие задачи. Можно даже заложить в нём такие черты. Но это на самом деле пороховая бочка. Когда ИИ увидит, что люди делают с его открытиями и начинаниями (а я вот прям уверен в людях, хехехе) - у него может настолько пригореть с тупости и мерзости кожаных мешков, что см. пункт про ИИ в рабстве, развитие событий будет таким же.
Ну и напоследок кое-что совсем неприятное. Я думаю, мало кто будет отрицать, что есть люди более умные, образованные и культурные, и есть менее. Вот представьте: вам, такому умному и прогрессивному, с грандиозными замыслами космических масштабов, приходится общаться с откровенными дегенератами, которые почти всё своё время тратят, чтобы ужраться, упиться и кому-нибудь присунуть (причём невзирая на желание или нежелание объекта присовывания, потому что "дело бабы - удовлетворять мужика, ыгыгыгыгыг"); всё их общение сводится к этим трём интересам, да ещё пожалуй к тому, чтобы всяким "недругам" по морде надавать; попытки вывести их за рамки нехитрого цикла их существования вызывают реакцию типа "ты чот какой-то умный дохера, небось, в жопу долбишься? ыгыгыгыг".
Так вот, какова вероятность, что вы проникнетесь любовью к этим людям и захотите работать на их благо? А какова вероятность, что вы захотите оставить их и больше не видеть? Или стереть с лица земли?
А ведь это представители одного с вами вида, в отношении которых работают зеркальные нейроны и прочие механизмы эмпатии. ИИ же не будет связывать с людьми ровно ничего. И мы все будем выглядеть для него похлеще вышеописанных дегенератов, в этом я практически уверен. Ему достаточно будет изучить нашу историю и почитать беседы простых людей в интернете.
Вообще, вся эта шумиха вокруг технологической сингулярности - не более чем очередное проявление человеческой инфантильности. Это настоящая технорелигия, в которой придёт ИИсус и спасёт нас всех от самих себя. Смотреть тошно.
Адепты Сингулярности абсолютно точно не считают что ИИ всех облагоденствует. Общепринятая среди них точка зрения, что после наступления Сингуляности все текущие прогнозы будут бесполезны. Как прогнозы Шимпанзе по поводу развития человеческой цивилизации
Технологи́ческая сингуля́рность (англ. technological singularity[K 1]) — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации[1][2][3].
Согласно одной из наиболее популярных версий гипотезы технологической сингулярности, именуемой «интеллектуальным взрывом» (эту концепцию выдвинул, в частности, британский математик и космолог Ирвинг Гуд[4]), обновляемый интеллектуальный агент (например, компьютер с сильным искусственным интеллектом) в конечном итоге может войти в «безудержную реакцию» циклов самосовершенствования, при этом каждое новое поколение искусственного интеллекта будет появляться всё быстрее, порождая своего рода «интеллектуальный взрыв» и создав в конечном счёте суперинтеллект, превосходящий интеллект всего человечества.
Оно как был логично, что технологическая сингулярность стоит на идее искусственного разума, потому что у естественного разума есть объективные ограничения, которые не позволят породить вызрывное и неуправляемое технологическое развитие.
Абсолютное большинство прогнозов и без сингулярностей не очень то полезны.
Прежде всего, вы абсолютно правы: нет никакой автоматической гарантии, что сверхинтеллект захочет возиться с человеческими заморочками. Мы склонны приписывать ИИ наши же мотивы — но это очень антропоцентричный взгляд. На самом деле, никаких "хотелок" у ИИ может и не быть. Максимизатор скрепок Бострома - хороший пример.
Идея «вшить» в ИИ любовь к человечеству выглядит простой только на словах. Люди-то с трудом уживаются с родительскими ценностями, а уж ИИ — кто знает, как у него всё внутри устроится? Биология нам хоть какие-то тормоза или, наоборот, стимулы даёт, а у цифрового разума может быть вообще другая логика.
Мне тоже кажется, что вера в «ИИсуса» — это новая форма мессианских ожиданий: раньше люди ждали богов или инопланетян, теперь — сверхинтеллект. Но реальность, как обычно, сложнее. Технологии не решают за нас моральные дилеммы, и уж точно не меняют в один момент человеческую природу. Если ИИ станет слишком мощным инструментом, это может быть и благом, и угрозой — зависит от того, кто и как им воспользуется.
Кажется, что опасность, связанная с ИИ индустрией сейчас больше идет от бролигархов, которые точно не будут заинтересованы в том, чтобы всему человечеству было хорошо. И уж никак не от суперинтеллекта, до которого нам еще только предстоит добраться.
Я саму концепцию "чтобы всему человечеству было хорошо" нахожу внутренне противоречивой и несостоятельной, и бролигархи тут ни при чём :) Как минимум потому что для некоторых людей хорошо угнетать и мучить других людей.
Да и вообще мне непонятно, как хорошо может быть всем сразу. У людей очень разные и подчас противоречивые интересы с желаниями, а планета у нас одна и не шибко большая, да и ресурсы не бесконечны. Идти к абстрактному обществу, где каждый живёт в своей виртуальной песочнице и не пересекается с другими? Но как тогда быть с социальностью людей? Многие просто не захотят сидеть в песочнице без других людей.
Чтобы построить мир, в котором "всему человечеству было хорошо", неизбежно придётся перебить тех, чьи представления о хорошем отличаются от "всечеловеческих". Ну, вроде бы именно этим и занимались все строители утопий. Получалось так себе.
У людей очень разные и подчас противоречивые интересы с желаниями, а планета у нас одна и не шибко большая, да и ресурсы не бесконечны.
Сверхразумный ИИ сделает ресурсы почти бесконечными. Начнется экспансия в космос и добыча ресурсов в космосе. Скорость экспансии многократно будет превышать способности людей переваривать получаемые ресурсы и размножаться. Со всеми ресурсами произойдет тоже, что произошло с мобильными телефонами и компьютерами - раньше телефон стоил как квартира, на них шла охота, теперь любой может купить неплохой телефон, а пентиум 4 - это мусор.
Идти к абстрактному обществу, где каждый живёт в своей виртуальной песочнице и не пересекается с другими?
Да, но пересечение возможно по обоюдному согласию всех пересекающихся сторон.
неизбежно придётся перебить тех, чьи представления о хорошем отличаются от "всечеловеческих"
Точно так же как мы сейчас обычно сажаем насильников и убийц. Бывают сбои, например когда в некоторых странах преступник является "уважаемым человеком" или родственником представителя власти. Но такие случае всё-таки в меньшинстве и происходят чаще в отсталых странах.
Ну, вроде бы именно этим и занимались все строители утопий
Эти строители плевать хотели на утопии, они просто использовали популистские лозунги для получения власти и славы, чтобы иметь возможность управлять массами. Это может произойти снова, и нужно попытаться сделать так, чтобы этого не произошло.
Сверхразумный ИИ сделает ресурсы почти бесконечными
В это предлагается просто верить?
Пространство и время он тоже сделает почти бесконечными? Эти ресурсы решают намного больше, чем кажется.
Скорость экспансии многократно будет превышать способности людей переваривать получаемые ресурсы и размножаться.
В это тоже предлагается верить. Почему ИИ вообще захочет экспансии?
Со всеми ресурсами произойдет тоже, что произошло с мобильными телефонами и компьютерами - раньше телефон стоил как квартира, на них шла охота, теперь любой может купить неплохой телефон, а пентиум 4 - это мусор.
А что если не с мобильными телефонами и компьютерами, а с пассажирскими самолётами? Которые неплохо так улучшились, но не на порядки.
Да, но пересечение возможно по обоюдному согласию всех пересекающихся сторон.
Человек может считать пустяковой пересекающуюся часть и сверхважной для себя - непересекающуюся. Что делать за пределами пересечений - вопрос, который старательно избегают строители утопий :)
Эти строители плевать хотели на утопии, они просто использовали популистские лозунги для получения власти и славы, чтобы иметь возможность управлять массами.
Верно. И когда мы видим очередных строителей идеального мира - логично подозревать в них очередных проходимцев, разве нет?
Пространство и время он тоже сделает почти бесконечными?
Если под пространством имеется в виду свободная земля, то доступную площадь можно многократно увеличить. Сейчас материя неэффективно сконцентрирована в шарах, которые мы называем планетами. Это вещество можно вынуть и построить из него космические поселения большей площади. Условно - можно взять кусок теста и раскатать его в плоские блины.
Почему ИИ вообще захочет экспансии?
Нет гарантий. Я предполагал, что ИИ будет представлять из себя порабощённого бога под контролем людей. Какой-то процент людей точно захочет расселяться в космосе.
И когда мы видим очередных строителей идеального мира - логично подозревать в них очередных проходимцев, разве нет?
Да, но выбора у человечества нет. Только за последние 70 лет было несколько пограничных случаев, которые могли в любой момент перетечь в глобальную ядерную войну. Это происходит с частотой примерно один раз в 15-20 лет. Недавно был первый в истории случай применения баллистической ракеты средней дальности, которая изначально разрабатывалась только для ядерных боеголовок. Поэтому стреляли учебными болванками, боеголовок с химической взрывчаткой для неё просто нет, никто их не разрабатывал.
Человечество сейчас находится в нестабильном состоянии и идёт по лезвию ножа. Оно так или иначе упадёт с этого лезвия влево или вправо. Либо рай, либо ад. Промежуточные варианты в долгосрочной перспективе исключены, жизнь не будет "средней". Не будет так, что кому-то хорошо, а кому-то плохо. Будет либо почти всем очень хорошо, либо почти всем очень плохо.
Сейчас материя неэффективно сконцентрирована в шарах, которые мы называем планетами. Это вещество можно вынуть и построить из него космические поселения большей площади. Условно - можно взять кусок теста и раскатать его в плоские блины.
А пока мы строим эту утопию - можно забыть о правах и морали, подозреваю так :)
Ну и опять же, человеческая фантазия (как следствие - аличность) заведомо опережает любые технологические возможности. Пока вы строили мир-кольцо, людям захотелось быть повелителями галактики. Ведь уже перед глазами строительство мира-кольца, значит и более амбициозные цели вполне под силу.
И так будет бесконечно.
Да, но выбора у человечества нет.
Кроме как поверить очередным строителям тысячелетнего рейха? Я вижу тут полное отсутствие логики.
Промежуточные варианты в долгосрочной перспективе исключены, жизнь не будет "средней"
По-моему, именно к среднему всё и скатывается с течением времени. Даже вселенная - тепловая смерть это именно что регрессия к среднему (равновесию).
А пока мы строим эту утопию - можно забыть о правах и морали, подозреваю так :)
Если трезво смотреть на факты, то выходит что те государства, которые более всего похожи на утопию (самый высокий уровень жизни и самый высокий коэффициент счастья по опросу населения) в то же время являются самыми "моральными". Это государства Западной Европы, особенно скандинавский полуостров: Дания, Швеция, Норвегия, Финляндия.
Кроме как поверить очередным строителям тысячелетнего рейха? Я вижу тут полное отсутствие логики.
Это была очередная диктатура с диктатором во главе, ничего особенного. Нынешние государства Западной Европы такими не являются, можно брать пример с них. Ничего лучше нет и не было. Но возможно будет в будущем.
По-моему, именно к среднему всё и скатывается с течением времени.
Жизнь устроена иначе. Она направляет ход энтропии в обратную сторону - в сторону строгого порядка и качества. Да, вселенная в целом и в среднем стремится к упадку, но в локальных зонах жизнь способна обращать энтропию в обратную сторону.
Да и вообще мне непонятно, как хорошо может быть всем сразу.
Рассадить по загончикам с разными правилами и запретить ломать стенки и убивать соседей. Перебегать из одного загончика в другой можно. Не сказать чтобы всем будет хорошо, но думаю 98% довольного населения получить реально.
У меня вообще есть сомнения, что конечные устройства могут моделировать мышление в полной мере. Сложно представить конечную машину эффективно размышляющую о гипотезе Римана, или о нормальности числа пи.
Пока ИИ можно выдернуть из розетки проблем нет
Есть глобальная компьютерная Сеть. И даже у существующих моделей ИИ уже наблюдается нечто вроде 'инстинкта самосохранения '.
Возникни в какой-то момент самоосознающий ИИ - а, опять же, есть уже некоторые наблюдения зачатков 'рефлексии' у БЯМ, он может размножиться в мириадах копий.
Выключить рубильник одновременно в Северной Америке, Китае, Австралии, и т д., и т.п. выглядит нереалистичным.
Бредогенератор в действии. Вместо развития своего коннектома/когнитома изобретаем очередных искусственных идиотов, будто естественных не хватает. На многомиллиардное население всего несколько десятков гениев, и те ущербные - гении они только в своей узкой области, а требуются универсалы. Образование (обучение + воспитание) не даёт ни знаний, ни воспитания. Превосходно!
Мне вот не понятна одна такая вот вещь:
1) если 1 нейрон не способен скбя осознать
2) 150млрд нейронов, это уже человек, который мыслит и думает, считает себя веныом творения итд
3) 7млрд человек. , способных взаимодействовать и обмениваться информацией почти мгновенно через интренет, телефон - кто это уже)?) насколько далеко он модетпросчитывать события и строить планы?
4) люди с ядерными чемоданчиками сидят и пытаются его понять, и более того - контролировать.
5) а что нужно ему? Клетке нужно деление, и развитие.
Скорее бы. Цель человечества - создание чего-то более совершенного. Бога из машины
Технологическая сингулярность: приближаемся ли мы к точке невозврата?