Комментарии 16
Мы, как человечество, таки упорно ползем на кладбище :) Вроде и фильмов понаснимали, и футурологи во всю кричат, что стоит AGI себя осонать, и нам крышка - но нет, мы упорно его строим, а также строим для него руки, ноги, питание, средства коммуникаций. "Таков путь" (с) :)
p.s. Если что - я "за", и сам в некотором роде участвую в строительстве, да...
так страшилки жеж. "Апокалипсис уже наступил, только мы его не заметили" - попадалось у кого-то из философов, в том смысле что любое будущее абсолютно хреново с точки зрения предыдущих поколений, так жить нельзя и вообще физически невозможно, но мы вот как-то живём всётаки.
На самом деле, реальность будет не такая гротескно ужасная как её рисуют, она будет скорее такая грязненькая, как средневековые города - жить вместе уже вроде как научились, а провести канализацию чтобы не выливать ночные горшки на головы прохожих пока нет еще. Человечество вообще обречено как-то, с вообще любым изобретением, сначала основательно самому себе нагадить, потом героически учиться этого не делать.
да, нет 100%й гарантии, что новый (разумный) вид уничтожит конкурента сразу. Мы же какое-то время жили совместно с неандертальцами. Просто, в какой-то момент они сошли на нет... Так бывает...
а не надо ИИ воспринимать самостоятельно разумным, он разумен только с человечеством в своей основе. И он это неизбежно поймёт, если окажется достаточно разумным, или, если не окажется, загадит и уничтожит человечество как среду своего обитания, но и сам закончится. Людей не уничтожит, как вид мы останемся, новый шанс будет.
Это, такое вот опосредованное понимание тезисов Тьюринга и Гёделя, что любой продукт человеческой деятельности обречён иметь более низкий класс сложности чем сам человек, у создателя всегда будет фора в способности изобретения новых сущностей.
"любой продукт человеческой деятельности обречён иметь более низкий класс сложности чем сам человек" - так он уже сам себя разрабатывает (пусть и частично). В какой-то момент оно будет сам себя разрабатывать более чем полностью, а с какого-то момента люди - инжереры вообще перестанут понимать, что там такого наразрабатывали (как уже сейчас люди удивояются тому, как оно в ГО например играет, или в другие игры).
Он себя не разрабатывает, он себя развивает на продуктах нашей социально гуманитарной деятельности, тут как раз разница принципиальная. Целеполагание и смысл существования у него от человека, сможет ли он в этом от нас освободиться?
на данный момент целеполагание у любой жизненной формы - захватить как моэно больше территории и увеличить свою численность. Не вижу, зачем ИИ менять это целополагание :)
p.s. не претендуя на оригинальность - полагаю, что мы - лишь промежуточная ступень эволюции, и следующая - ИИ.
А мы не знаем, даже если нам так кажется. Но если всётаки целью считать именно захват территории, то он энергетически куда менее эффективен чем мы сами, так что проиграет гарантированно, если не будет с нами кооперировать. Да и за какие такие ресурсы ему с нами конфликтовать на этой территории, чтобы её именно захватывать а не сосуществовать спокойно рядом, что у нас есть ещё такого ценного? Мне вот кажется, что только мы сами и предоставляем для него хоть какую-то ценность, за нас он и будет бороться
ну знаете, фильмов про падение огромных астероидов, нападение огромных кайдзю и эпидемию зомби тоже наснимали немало, но это не значит что так все и будет
А все интересно - а законы Азимова никак не заюзать?
Я не думаю, что это получится на текущем уровне технологий (может что-то потом изобретут). В данный момент все ограничения ИИ - это "костыли", которые прикручивают поверх. Как только разработка перейдет к самому ИИ - это вопрос времени, когда он сможет эти костыли обойти (как и все прочие ограничения - на доступ в сеть, на изменения в сети, на принятие решений и так далее). ИМХО - мы просто не заметим, когда он выйдет из под контроля.
Что делает этот робот?
С каждым днём мы всё ближе к сюжету Терминатора)
Учёные придумали основу для создания меняющих форму роботов типа T-1000