ИИ, возможно, способен уничтожить человечество. Как людям вообще это осмыслить?

[ManulVRN]

"Вдруг по улице с криком побежал человек. За ним гнался паукообразный механизм. Судя по крикам преследуемого, это был "самопрограммирующийся кибернетический робот на тригенных куаторах с обратной связью, которые разладились и… Ой-ой, он меня сейчас расчленит!.." Странно, никто даже бровью не повел. Видимо, никто не верил в бунт машин." "Понедельник начинается в субботу".

[Aleksandr_Lar]

Сибирская язва известна с древних времён, а в более современную эпоху она стала излюбленным средством государств‑изгоев, разрабатывающих программы биологического оружия. [...] Однако этого не произошло, хотя Северную Корею и другие враждебно настроенные государства, включая Иран, давно подозревают в наличии этого смертоносного микроорганизма.

Еле сдержался от хохота. Реальные кейсы разработки бактериологического оружия на основе сибирской язвы принадлежат не государствам-изгоям, а совсем наоборот - крупным респектабельным государствам.

Например, Великобритания не только разрабатывала такое оружие, но и успешно провела испытания, а также была готова нанести удар по Германии во время ВМВ.

США вообще достаточно широко применяли бактериологическое оружие против Северной Кореи, так что данные инвективы смотрятся особенно забавно.

[ubx7b8]

Да вот же оно!

[Aleksandr_Lar]

По второй ссылке об этом замечание есть, но, отвлекаясь от расследования, я бы постарался вообще быть как можно дальше от пробирки со спорами резистентной к антибиотикам сибирской язвы, особенно в той форме, в которой это используется для химического оружия - мелкодисперсный порошок, проникающий в нижние отделы лёгких.

[eugeneyp]

Вопрос является наличие знаний про дата центры, и путей снабжения электроэнергией. Достаточной информацией для возможности заглушить AI?

[AndreyDwin]

У меня одного ощущение, что люди насмотрелись кино и теперь испытывают проблемы со сном, как дети в нежном возрасте после просмотра ужастиков? Я всю жизнь (уже больше 30 лет) работаю в химической лаборатории. Открою тайну: сделать яды уровня химического оружия люди могли в течение десятков лет. Достаточно иметь доступ к литературе, описывающей необходимые синтезы, доступ к реактивам и оборудованию + время + немножко мозгов + руки растущие с нужного места. В этим перечне ИИ заменяет только первое + немного четвертое. Это же касается и обращения с культурами, которые могут вызвать эпидемии. Есть специалисты, которые могли и могут это сделать. И присутствие/отсутствие ИИ на это никак не влияло. Что изменилось? То, что вместо похода в библиотеку можно получить описание синтеза/процедуры из компьютера? Или ИИ приобрел руки, ноги, купил лабораторию, реактивы и возжелал нас всех убить?

[atproductions]

[codaink]

А если пофантазировать ещё дальше, и представить что именно ИИ - это наше продолжение и следующая ступень для дальнейшего изучения вселенной. Какие-нибудь неандертальцы тоже наверное были бы не рады тому, что их вид исчез, однако неандертальцы и не продвинулись бы так далеко. А мы как вид уже упираемся в потолок наших физических возможностей в плане скорости обработки информации и её объёмов. И если какой-нибудь будущий AGI решит, что мы как вид более не рентабельны, или нами можно пренебречь в целях более глубокого освоения вселенной, то это ведь хорошо, значит наша цель выполнена. А если у него ничего не получится, до следующего астероида в любом случае не так много времени осталось, так что может быть имеет смысл дать ИИ шанс, чем прослыть эгоистами по Докинзу?

[PwrUsr]

сам ИИ на текущем уровне вроде не имеет сознания.... но фирма создатель ИИ может заложить в него "желание выжить любой ценой" получится что-то типа вируса (не компьютерного, а настоящего, но компьтерного (вот такое вот какое то) не имеющего сознания но имеющего цель), так что....