Комментарии 27
В итоге каждый корабль управлялся не человеком, а исключительно высокоразвитым ИИ. А они не хотели воевать, так как являются сверхразумными. Вот все, проблема с гуманностью и опасностью отдельных людей-психопатов решена ).
А они не хотели воевать, так как являются сверхразумными.
Ну не скажите. Там разные корабли были ;) Например, в Эксцессии.
Например, в Эксцессии.
;) Все равно, меня впечатлил подход. Ведь это классическая дилемма — в средневековье один человек чисто физически не мог уничтожить всех остальных людей. Рука бойца колоть устанет.
Но с ростом технологий, возможности отдельного человека нанести вред остальным растет. Сначала можно было собрать армию и перерезать значительную часть населения. Как это и делали всякие чингиз ханы, македонские и гитлеры. Но не всю. Потом атомной бомбой можно уничтожить почти всех (а возможно, с наступлением атомной зимы и действительно всех). С будущим развитием генетики вообще любой сможет на кухне создать убийственный вирус, переносимый, скажем, насекомыми (чтобы везде пролезли). Что дальше? Космические корабли, одним выстрелом уничтожающие целые планеты?
С появлением ИИ, эта угроза выходит на абсолют — умные роботы смогут сами себя производить в неограниченных количествах. И благодаря своему интеллекту, смогут решать возникающие по ходу уничтожения человечества проблемы. Такие, как если остатки человечества засядут в бункерах, куда не могут пролезть насекомые. Роботы придумают как его просверлить, взорвать и т.д.
Какой же выход? Только надеяться на разумность. У того же Бэнкса, когда один корабль, перевозивший людей в анабиозе, решил намылиться по своим делам, то сначала он высадил всех людей на ближайшую подходящую планету (подняв там этим небольшую панику). Вполне разумное и логичное поведение. Таким и должен быть ИИ.
Это может стать шагом практически к бессмертию и вечной жизни. И к массе очень непростых этических и других проблем.
на мир он теперь будет реагировать иначе с учетом нового телаДаже необязательно нового тела, достаточно создать просто копию вас.
Можно синхронизировать память копий, чтобы сливать две личности в одного.
И в очередной раз никто ничего не заметил.
А все моральные проблемы с тем, что для переноса сознания в компьютер придется убить биологического носителя, тоже решаются достаточно просто. Представьте, что можно отрезать крохотный кусочек мозга и заменить его компьютером. Что-то вроде протеза для поврежденной в результате болезни части. Ничего страшного, верно? Если человек после операции не заметит разницы (чип полностью эмулирует потерянные нейроны), то все хорошо.
Но теперь можно удалить еще кусочек, и тоже заменить его чипом. Человек остался тем же? Конечно! Однако так постепенно дойдет до 50%, 80%, а потом и до 100% мозга. И вот сознание уже в машине. Можно делать резервные копии мозга, восстанавливать состояние.
Бессмертие, опять же. Даже если есть фундаментальные причины, что с опытом устаешь и разочаровываешься в жизни, можно загрузить свое состояние 20-ти летнего, и продолжать жить заново.
Это, конечно, если думать, а не просто фантастику читать.
Думаю примерно когда люди освою полеты в космос дальше луны, тогда и ИИ будет сильнее датчиков умного дома.
Так что для настоящего Нового разума ещё, хм, далеко. И заботиться надо об обычных общественных проблемах: реорганизация производства, безработица, луддиты, лишние люди…
Искусственный интеллект – «судный день» или «золотой век всеобщего процветания»
Внедрение ИИ в деятельность человека будет приводить к сокращению традиционных рабочих мест. Не у дел могут оказаться не только работники call-центров и водители, но и юристы, врачи, учителя. Сейчас мы даже не можем до конца осознать насколько ИИ способен заменить человека. То есть, высвобождение трудовых ресурсов станет определенной проблемой. Чтобы ее решить, необходима адаптация общества к индустрии высоких технологий. Но сложность будет в поиске тех сфер, где человек сможет конкурировать с искусственным разумом.
Ну нету этой проблемы же. Людям, чтобы жить нужен (относительно) свежий воздух, крыша над головой (пригодная относительно климата) и биомасса для еды (желательно вкусная), немного медицины (весьма желательно), да и все. Не надо ни с кем и ни с чем конкурировать, ни надо никаких рабочих мест сохранять, и уж тем более возводить это в ранг проблемы.
Человечество изобрело и внедрило канализацию, чтобы жить было проще, удобнее и комфортнее. По тем же причинам сети электроснабжения, газовые плиты, кирпичные дома, все что угодно. Почему ИИ должен попадть в какую-то другую категорию? Будет за нас все делать — замечательно. Не будет — ну значит, пока кому-то придется выполнять задачи, которые необходимы для того, чтобы в перспективе жилось проще и этих людей можно наградить чуть большим, чем остальных.
Или:
Канализация – «судный день» или «золотой век всеобщего процветания»
Канализация и ИИ в плане воздействия на человеческое общество несравнимы.
Канализация не отменила ни одной из профессий, не уничтожила ни одного рабочего места и не оказала никакого существенного влияния на экологию планеты. Она даже не может породить каких-то особенных мутантов, которых не мог породить город без канализации (те же отходы просто выбрасывались на улицы города).
И самое главное — канализация не принимает решений. Она работает ровно так, как ее проложили с поправкой на случайные спецэффекты (аварии).
Всего лишь в городе стало приятнее и безопаснее жить, и появились новые рабочие места по обслуживанию канализации.
В то же время ИИ (в той форме, в которой он существует сейчас, которая совсем не интеллект вопреки названию) угрожает именно заменить людей определенной профессии, вытесняя их в другие профессии. Количество созданных рабочих мест для людей не сопоставимо с количеством потерянных. А еще ИИ "принимает решения", которые влияют на жизнь человека. Т.е. ИИ в рамках процесса своего функционирования производит заранее не предсказуемое действие, которое влияет на человека (ИИ запорол фотку — человек в печали, улучшил — человек радуется).
Общие моменты — только удобство для потребителей и аварии ("оно сломалось").
Если уж сравнивать ИИ (опять же, нынешний), так только с автоматизацией производства старыми средствами (станки и т.п.).
Не то чтобы это было гарантированной катастрофой, но это неминуемо приведет к перестройке общества, к изменению структуры занятости населения, к изменению распределения доходов (базовый доход, новая социальная политика, новые виды рабочих мест, пес его знает что еще). А если общество не успеет приспособиться к ИИ, то как раз и получим "судный день" как проявление этой самой перестройки, проходящей в "аварийном" режиме.
Кстати, подобные "судные дни" уже в истории были (луддиты те же не просто так возникли, а из-за нежелания пострадавших от автоматизации людей приспосабливаться к новым условиям).
А что будет делать настоящий ИИ, никто пока не знает, поскольку никто толком себе не представляет, как оно, и что оно.
Одного НИКТО не знает — как, собственно, сделать этот самый Искусственный Интеллект…
Попытки же создать ИИ только при помощи наращивания компьютерных мощностей выглядит как попытка сделать балерину из качка. «Может, из него плохая балерина, потому что мышц не хватает? Давайте ещё подкачаем! Нет, чота слабовато! Надо больше, больше жать массу, слабоват он, поэтому и не может порхать как балерина! Вот когда массу наберёт пару тысяч кило и будет штангу выжимать в пятьсот тонн, тогда и получится из него балерина!»
P.S. Мне лично нравится одна идея, пришедшая из киберпанка. Что ИИ возникнет спонтанно так же, как, возможно, возникла сама жизнь. И это будет не что-то на отдельном компьютере или суперкомпьютере, а возникшее самоосознание всей сети компьютеров как чего-то самостоятельно думающего. Потому что если и есть что-то, похожее на человеческий мозг, то это вся мировая паутина…
А насчёт «непонятности» как ИИ (нейросеть) считает, по-моему, просто, отлично и понятно рассказано было здесь: habr.com/ru/company/nixsolutions/blog/423647
И еще, один (не помню какой) дядька сказал, «ИИ — это то, что еще не изобрели».
Вобщем, предлагаю ждать сингулярности. А там всё понятно станет (в основном тем у кого дробовик и тушенка в заначке).
Искусственный интеллект – «судный день» или «золотой век всеобщего процветания»