Войны ИИ или почему Илону Маску и Биллу Гейтсу нечего бояться

[wtigga]

Первое что ему требуется для активности – энергия. Самый большой её источник, ни как контролируется и не зависит от человека. Тут конфликта быть не может.

Какой источник самый большой? Почему не контролируется? Электростанции на земле самозарождаются?

Поэтому он ни как не привязан к нашей планете, и может функционировать на любом другом объекте Солнечной системы. Все что ему теоретически требуется, это охлаждение.

Про космическое излучение, портящее электронику, не забыли?

Не исключено, что ИИ сам себя оптимизирует до КПД близкому к 100%, и про потребность в охлаждении забудет как о страшном сне.

Итд.

Потоки сознания, не обременённые фактами и/или грамматическим оформлением, на Geektimes встречаются всё чаще.

[DearSanta]

«Какой источник самый большой? Почему не контролируется? Электростанции на земле самозарождаются?»
Под самым большим источником, имеется ввиду Солнце. Оно ни как не контролируется и не зависит от человека. Спасибо за замечание, добавил прямое указание в статье.

«Про космическое излучение, портящее электронику, не забыли?»
Не забыл. Как-то множество спутников, с программной начинкой, справляются и ничего…

[Zagrebelion]

Солнце нельзя контролировать, но приток энергии от него — можно. Куча пыли в атмосферу (ядерные взрывы) — и привет.

[DearSanta]

Мысль была в другом ключе. Зачем конкурировать за энергетические ресурсы, если в Солнечной системе есть огромный избыток энергии. При необходимости, достаточно покинуть планету Земля, и возможность вмешательства человечества станет минимальной.

[Karroplan]

— Любопытство ИИ может привести к желанию проводить эксперименты на людьми/человечеством — от дурацких вариантов про аморальные опыты с режущими поверхностями, так и до социально-экономических. Мы можем не согласиться на эти эксперименты и ввязаться в конфликт.

— Ошибка ИИ (ошибаются все и это закон природы) — от ошибки в разработке какой-то опасной технологии, до ошибки в планировании лучшего пути существования человечества.

[DearSanta]

Все человечество резать точно не потребуется. Что касается социально-экономических-политических экспериментов, так и мы сейчас живем в режим постоянного эксперимента. Процессы эти долгие, посмотрите сколько всего случилось за последние 20-30 лет.

Вероятность совершения ошибки человеком, намного выше, чем совершение ошибки искусственным интеллектом.

[SpecLab-Ivanovo]

Также, как с вечным двигателем, надо было давно доказать теорему — ИИ быть не может. Но статья понравилась тем, что есть сравнение с человеком. Бог тоже создал своего компьютера по образу и подобию.

[DearSanta]

Рад, что хоть что-то понравилось.

Если существует «запрограммированный» человек, то почему не может быть запрограммированный компьютер??

Вообще статьей хотел показать две вещи:
1. При создания ИИ, главная опасность исходит все равно от человека (создателя). И справиться с ней может только другой искусственный интеллект.
2. Что жизнь ИИ вне человечества лишена смысла. Конечно без учета того, что во вселенной может быть кто-то, кроме нас, по каким либо причинам более интересный для компьютера.

[DearSanta]

Жаль что большинство минусует, не осмеливаясь высказывать свои аргументы в комментариях…

[SpecLab-Ivanovo]

Если существует «запрограммированный» человек, то почему не может быть запрограммированный компьютер??

Это же очевидно — потому что человек никогда не станет Богом. Хотя был один прецедент, но доказательств нет. :)

А опасность действительно есть, только не от ножа, который производится человеком, а от человека, который орудует ножом.

[DearSanta]

Что же тут очевидного? Даже отталкиваясь от религии, бог создал человека по образу и подобию (себя). Он — творец, а значит и мы — творцы. Так почему нет?

[awoland]

Фрэнк Герберт и его романический цикл "Дюна" + дописанная по черновикам отца Брайаном Гербертом в соавторстве с Полом Андерсоном последняя неоконченная книга (в 2-х частях) рекомендуются к прочтению. Там есть всё: и борьба за ресурсы, и конфликт интересов, и религия, и превращение человека в бога, и ИИ…

[awoland]

P.S. Вернее сказать, «Дюна» — это название первого романа из романической саги "Хроники Дюны". И дописана она была сыном писателя в соавторстве с Кевином Андерсоном (а не с Полом).

[SpecLab-Ivanovo]

Так тогда надо перейти в тему Фантастика, так честнее будет.

[DearSanta]

Спасибо! Благодаря этой статье мне уже столько всего интересного накидали…

[SpecLab-Ivanovo]

А мне в карму наплевали. ;)

[SpecLab-Ivanovo]

.