Как стать автором
Обновить

Комментарии 56

Прочитав название, подумал, что имеются ввиду те роботы, которых боится Илон Маск, т.е. сильный ИИ, перешедший стадию ТС — вполне серьёзный, хотя и гипотетический пока противник (да и противник ли?). Ну на крайняк, встроенный в оружие слабый ИИ, получивший некоторую автономность от оператора.
Но нет, тут речь всего лишь про квадрокоптеры, от которых нетрудно отмахаться мухобойкой.
И тем не менее уровень «доказательств» и/или «опровержений» не выходит за уровень эмоциональной домохозяйки — это невозможно, потому что я не верю, что это возможно. И весь сказ.
Моё мнение заключается не в том, что надо опасаться каких-то дронов или [шибко]умных винтовок, а появления принципиальных технологий ИИ, способных принимать решение жить выбранной цели или нет. До тех пор, пока мы рассматриваем ситуацию «террорист — ИИ», где террорист думает, а ИИ исполняет — проблема не носит катастрофический характер, ибо ИИ в данном случае играет роль продвинутой дубинки. Проблема возникает в момент, когда ИИ начнет сам ставить и решать задачи. В этом случае уроза действительно велика.
Как известно, даже рядовой на поле боя сам принимает тактические решения в рамках поставленной задачи, т.е. выбирает, в кого стрелять, а от кого прятаться (если может, конечно). Если аналогично будет действовать ИИ, управляющий роем дронов-убийц — никакие сетки не помогут… Особенно, если продолжать убеждать народ в том, что дрон невозможно переобучить на уничтожение не-военного «актива»…
Только вот один вопрос. Почему все думают, будто у ИИ какая-то особая форма перед ЕИ в любом вопросе? Эти «кожаные ублюдки», простите за эту цитату, более экономичны, более живучи, более автономны, более многочисленны, более сложны, более <что угодно>. На их стороне миллионы и миллионы лет эволюции и естественного отбора, нанотехнологии, огромная сложность! Я понимаю, что вы намекали на так называемый Сильный ИИ, но насколько он близок? Почему он обязательно должен стать сильнее ЕИ, коллективного ЕИ?
Я уже где-то это говорил, но повторюсь. Довольно ошибочно полагать, что искусственность даёт интеллекту фору в обработке информации, в коммуникациях, в анализе данных. То, что ИИ очевидно будет реализован на компьютерах не значит, что он сможет «читать» и «понимать» тексты в электронном виде. Скорее всего Ему придётся точно так же учиться читать, как человеку. Да, я конечно подумал про аргумент копирования, но наша природа прошла этот этап миллионы лет назад. Тупое копирование не продуктивно, а химический и молекулярный «инструментарий» биологических систем куда шире и гибче набора электронных компонентов и материалов из только зарождающейся техносферы.
Давайте обсудим это, если есть что возразить?
хотя это и не про тех роботов, «которых боится Маск», но в статье есть та же самая мысль, тчо и у Маска:
нет смысла запрещать, потому что это не только не остановит тех, у кого есть желание и средства применить технологии во вред, но еще и затормозит тех, кто мог бы что-то им противопоставить или использовать технологию на пользу людям.
От квадрокоптера с тепловизором и парой феерверков ночью убежать сможете?
P.S. «военные неспособны предотвратить получение террористами доступа к вооружению армейского уровня» — инопланетяне тоже не могут прилететь и атаковать «не очень разумный вид»?
В статье та же вода только наоборот.

Совершенно непонятно почему дрон настроенный на уничтожение комбатантов противника нельзя перенастроить на уничтожение некомбатантов. А уж во варианте: "убивай всех подряд, Господь узнает своих" — тем более.

Совершенно непонятно почему дрон настроенный на уничтожение комбатантов противника нельзя перенастроить на уничтожение некомбатантов.

В тексте не дрон, а автономное оружие. Наверно имелось ввиду, что разрабатывается в основном что-то дорогое, малочисленое для поражения танков, самолетов, кораблей. Не выгодно из пушки по воробьям стрелять.
www.thefiscaltimes.com/2017/07/07/New-Sniper-Drone-Could-Be-Future-Urban-Warfare или www.dailymail.co.uk/sciencetech/article-3628176/The-tiny-drone-tank-packing-pistol-Israeli-combat-robot-remote-controlled-Glock-shoot-enemies.html
Правда такая штука не автономная, по крайней мере пока. Впрочем автономных военных дронов не существует, принятие решения об атаке все равно на человеке.
Не ппонимаю, почему все старательно пытаются доказать, что это не возможно.
В статье рассматривается захват военных роботов.
Давайте на секундочку представим описанный выше сценарий с реальными боевыми единицами. Прошло 5-10 лет. На штамповали роботов, например уран-9.
2-3 таких захватывают очередные фанатики, и атакуют город покрупнее невдалеке. Как вы думаете, сколько погибнет гражданских и полиции прежде чем их получится остановить?
image image
Когда и если это произойдёт в первый раз, то, возможно, довольно много. Но уж точно не больше, чем от террористических атак куда более доступными и простыми средствами вроде взрывчатки с шрапнелью в людном месте. Во второй раз уже будут приняты каике-то меры, розданы инструкции куда и как прятаться, взяты на вооружение полицией средства постановки радиопомех для управления. Мне кажется такую штуку можно довольно обездвижить грейдером. Просто перерыть им пути изолировав в паре кварталов. Сколько у них там ракет и прочих боеприпасов?
Это действительно из пушки по воробьям. Гораздо продуктивнее и проще было бы, наверно, заминировать пару зданий. Ну и бояться роботов-вундервафельниц гораздо труднее, чем бояться, что твой дом взорвут. Выстрелы слышны издалека и, очевидно, люди быстро узнают смекнут от какой части города надо держаться подальше.
Бояться нужно куда более простых угроз, они реалистичнее и опаснее.
НЛО прилетело и опубликовало эту надпись здесь
Это вы наверно про Брейвика намекаете?
Соблазн в таких самообучающихся и автономных штуках велик в благих целях безопасного общества. Но… как бы потом не изобретать Ястребов для этих Страж-птиц. А изобретение Ястребов сами знаете чем закончилось)
Фантастика — не фантастика, а автономное оружие — это логичный следующий шаг. Фантастика тут только цифры, а за остальным лишь дело времени.
Разве что для нападения на хорошо защищённое помещение логичнее использовать не леталку, а робота змею, который спокойно втихаря пролезает по канализации втаскивая за собой 20-метровый хвост всякой полезной нагрузки (м.б. и летунов пачку). И потихоньку перегрызая решётки на своём пути. Благо не надо заботиться о собственном весе, как у летунов и можно не скупиться на оборудование.
НЛО прилетело и опубликовало эту надпись здесь
Генералы будут ходить с роботами-мангустами.
Когда это останавливало генералов? Помнится атомное оружие тоже считали, что остановит войну…
НЛО прилетело и опубликовало эту надпись здесь
Вообще если верить некоторым историям — остановила скорее случайность. По факту мы уже были на грани.

Не так уж и проще. Вроде тактические бомбы вполне компактные сейчас. Если кто-нибудь вместо чемодана дронов протащит одну бомбу… Правда сделать её сейчас несколько сложнее, чем дронов.
От его последствий в виде разрушения цивилизации — некуда спрятаться. Какой смысл выживать в бункере, если тебе нечем править? Цель войны — усиление власти. Ядерная война уничтожит всякую власть.
НЛО прилетело и опубликовало эту надпись здесь
Зачем тогда начинать войну, если можно просто уехать на остров в океане? Я просто мысль вашу пытаюсь понять — ядерное оружие сдерживает начало войны тем, что после его применения сама война становится бессмысленной, так как не останется активов, которые можно было бы записать в завоевания.

Реализовать внутреннюю ненависть. Можно ли предложить, что вверх по военной лестнице поднимаются исключительно добрые люди?

Люди, которые хотят убивать — не поднимаются по служебной иерархии, по служебной лестнице двигаются люди, которые убивают ради власти. Соответственно поводом для убийства для них может служить либо сохранение власти, либо её приумножение. Ядерное оружие, примененное против страны, способной ответить тем же оружием — нарушает оба принципа.

Очень сомнительное утверждение. Я не говорю "хочет убить хоть кого-то", такие скорее в тюрьмах, чем в армии. Я говорю про внутреннюю ненависть к другим (возможно, сильно отличающимся). Тем более, что она может проявиться позже. Да и ради власти стереть противника с лица земли превентивным ударом может показаться заманчивой идей.


Да, есть сдержки и противовесы, это и спасает.

Власть может и разрушит, а пока живы интернет и Википедия — цивилизация потеряет многое, но не все.
На Москву бомб хватит, на прочие миллионники России — тоже. Но страна большая, месяц или два народ проживет на радиоактивных развалинах городов.
В США может погибнет больше народа (бомбите все на восток от Мексики и на запад от Сьерра-Невада), но и там уничтожить даже 50% промышленного потенциала наверное не выйдет.
Эх, интернет в таких масштабах весьма хрупкая штука. Надо развивать децентрализованную платформу на основе самоконфигурирующихся mesh-сетей. А при нынешней структуре мы быстренько скатимся до Фидонета.
Про авиацию примерно то же самое говорили
  • Вот оно, — провозглашал Отец, поднимаясь во весь рост, и указывая на
    стену. — Вот оно, оружие, которое бьет с расстояния, наше Абсолютное Оружие.
    Отец потрясал луком над головой, и его фигура, освещенная светом костра
    казалась истинно трагической. Даже завернутые в шкуры малыши переставали
    щелкать блох и, разинув рот, глядели на Отца.
  • Человек с палицей, или каменным ножом, или пикой не устоит против
    лука. Мы выиграли Войну и теперь должны использовать это Оружие только в
    мирных целях — охотиться на лосей и мамонтов. Вот наше будущее.
    Улыбаясь, он осторожно повесил лук на крючок.
  • Теперь Война кажется чем-то невероятным. Наступила эра вечного мира
НЛО прилетело и опубликовало эту надпись здесь
Вот прям идеальное подтверждение слов автора, о том, что такие фильмы мешают нормальной дискуссии об автономном оружии.
Человек пишет статью о том, что не стоит смешивать технологию и безумный апоколиптический сценарий, базирующийся на гипотетическом применении этой технологии, и один из первых комментариев
Автору нужно определиться, технология все таки невозможна или мы все умрем.

НЛО прилетело и опубликовало эту надпись здесь

Он же прямо сказал, что оружие реально. "Научная фантастика" относится к сценарию, а не к технологиям.

Я вот не понимаю всего этого "хайпа" вокруг автономных средств поражения.


  1. Томагавк чем вам не автономное вооружение? Да даже банально УАБ. Разве что дронны колоссально дешевле и сложнее для противоборства, но кассетных бомб уже напридумывали просто невероятное количество, а они еще дешевле, у них большая поражающая способность и от них сложнее защититься. Откуда весь этот кипишь?


  2. Наверное это нельзя писать, мало ли кто прочитает, но намекну что бояться каких-то сложных технологических решений для массового поражения в мире, где во всех магазинах бытовой химии доступен обычный, но крайне ядовитый хлор, попросту смешно.


  3. Если уж на то пошло, то количество спасенных в ДТП людей за счет автономных систем (автопилота в автомобилях в первую очередь) на порядки превысит даже те страшные цифры, которые озвучены в видео. Но да, СМИ, приоритеты, шумиха, все дела, так терроризм и работает.
НЛО прилетело и опубликовало эту надпись здесь
Роботов-убийц из статьи не стоит бояться, потому что терроризм — ничтожная угроза для каждого из нас. Лучше бойтесь дорогу на светофоре переходить и всегда смотрите в обе стороны. А на государственном уровне, в качестве массово производимого оружия, дроны могут быстро закончить все крупные войны на планете, что замечательно. Война — продолжение политики, солдат или гражданских убивать нет никакого смысла, все это знают. Поскольку дроны — самое высокоточное оружие, которое можно придумать, а линии на глобусе они могут игнорировать, благодаря массовости, причины повоевать вскоре издохнут, а все остальные разбредутся картошечку сажать, рыбку ловить, мяч гонять, аниме смотреть, в общем, заниматься естественной для людей деятельностью. Вы бы стали предлагать напасть на своего соседа, зная, что через неделю после начала боевых действий, лично до вас (не до «ваших» биодронов с автоматиками, а лично до вас) доберется размазанное по площади 250 квадратных километров облако из 150 тысяч термостойких водонепроницаемых экранированных беспристрастных машин, вооруженных 5.7мм бронебойными безоткатными пулеметами и кумулятивными ядрами, которые выкашивают исключительно офицерский состав и тех, кто оказывает вооруженное сопротивление? Что вы будете потом делать, жить в бункере, медленно умирая от голода, пока над вами сидит рой в режиме энергосбережения, а ваши бывшие солдаты, в шортах и шлепках, с пивком в руке, подносят им батарейки и подтягивают линии пневмопочты с боеприпасами? Взорвете ядерную бомбу над собственным городом, чисто ради ЭМИ, и попытаетесь сбежать? Или, может, сразу будете вынуждены искать другие варианты решения политических конфликтов, забыв о войне навсегда, как нормальный человек? Это высокоточное оружие массового поражения, которое, потенциально, доступно любому государству или даже крупной группе обеспеченных лиц. Я вижу очевидный умиротворяющий эффект ядерного оружия и с оптимизмом смотрю на развитие военных дронов, которые, в отличие от ядерных бомб, в случае чего, прилетят убивать не меня, а точечно тех, кто призывает идти убивать. И их мне не жаль.
НЛО прилетело и опубликовало эту надпись здесь

Это делали испокон веков без всяких дронов. Попробуй выбежать на улицу в Москве с призывами против войны в Сирии.

И что будет? Есть видео?
Did you really believe them when they told you the cause
Did you really believe that this war would end wars
Well the suffering, the sorrow, the glory, the shame
The killing and dying it was all done in vain
Oh Willy McBride it all happened again
And again, and again, and again, and again

Ну ты понел, да.
Это не искоренит военные действия, просто они станут еще менее массовыми, еще более подпольными и будут быстрее заканчиваться.
Вообще-то в видео явно намекается на то что дронов применяют никакие не террористы а некая одна политическая сила для того чтобы убить своих оппонентов. 11 сенаторов и студентов публикующих сведения о коррупции, ну и там прочих до кучи. В общем, я думаю российское руководство пересмотрело этот проморолик несколько раз в надежде на то что пропустило кнопку «купить».
Вот, наконец-то.

А ещё, главная опасность автоматизации вооружений — это не «терроризм». Главная опасность — это устранение людей из процесса.

Современные демократии, такие как мы их знаем, образовались в том числе как результат возвращения с Первой и Второй мировых войн кучи вооружённых и почувствовавших свою силу людей, которые были нужны власть имущим. Эти миллионы нужно было убедить стрелять в нужную сторону.

Данная тенденция всё снижается. Гипоптетическое восстание где-нибудь в США в годы Гражданской войны поставило бы правительство и ребелов на одинаковый технический уровень. Во время ПМВ уже появились танки, которых у восставших не было бы. Авиация, вертолёты — всё это давало техническое преимущество, превращая пилотов в суперсолдат, но автоматизация превращает армию в супер-армию.

Через некоторое время для контроля стомиллионной страны понадобится пара десятков армейских суперспецов, каждый из которых командует дивизией дронов, и ещё пара десятков владельцев автоматических заводов, где промышленные роботы клепают боевых. Плюс кучка людей в отделе информационного обеспечения и плюс поддерживающий персонал.

И всё. Восстание против дронов не подымешь — их наклепают до завтра ещё десять штук, а жизнь у тебя одна, а подкупить сотню проще, чем миллионы.
Проблема, имхо, в том что стоимость и простота изготовления устройств поражения падают, а угроза их растет.
Собрать атомную бомбу с системой доставки на коленке нереально даже с большим количеством денег. Собрать грузовик-камикадзе уже дешевле и проще, но опять же требуется либо его оснащение дистанционным управлением либо водитель-смертник, что тоже не слишком просто для мелкой банды.
В случае же с дронами достаточно софта на флешке и деталей с алиэкспресса. Основная сложность — софт, но один раз его заполучив, можно бесконечно копировать. И именно это пугает. Моего внутреннего параноика, кстати, тоже.
Если террористы произведут такую атаку то это фактически означает объявление войны. Государство может справится с терроризмом. При Сталине и Брежневе их практически не было. Возможности борьбы с террористами ограничены демократическими процедурами. При чрезвычайной ситуации государство просто может просто разбомбить страны источники терроризма и выселить неблагонадежных людей. Террористы должны это тоже понимать что в этом случае их просто уничтожат и не переступать грань.
Какую страну надо было разбомбить, чтобы противостоять эсерам?
Бандформирования — те же террористы, так что были (во времена Сталина). Закрытые границы вполне способствовали не только отставанию, но и отсутствию террористов (их, кстати, и в мире было не много, но заслуга Сталина в этом крайне сомнительна, скорее — отсутствие современных СМИ).
Статья слабовата, она сделана чтобы показать ничтожность проблемы, а показывает её опасность.

В статье написано, что когда таких дронов мало и целей мало, от них толком не защититься. Но разве террористов и целей для них всегда не было мало? И разве не в том-то и суть терроризма, чтобы поражая ничтожную долю населения поселить ужас в умы существенной доли? Достаточно поразить десяток-другой конкретных людей, чтобы миллионы были в ужасе и меняли свои решения на нужные тебе.
оно не разрабатывается с целью массового уничтожения мирного населения, и его нельзя перенастроить на такое использование.

Да, как и прошлые поколения вооружений. Каждому известно, что автомат не перестраивается для стрельбы по гражданским, а танк не приспособлен для стрельбы по жилым домам. Так что все нормально, автор прав.

Ну если у них такие аналитики то даже не знаю чем они занимаются.

по пунктам 1) и его нельзя перенастроить на такое использование.
если будет разработано автономное оружие против комбатанов — там будет гигантский программный блок для селекции гражданских целей. И «перенастроить» — просто закомментировать… Если принять за данность что террористы захватили целиком производство/освоили сами производство дронов — захватить и код к ним они тоже могут.
2) Опять же если речь идет о гражданских — откуда у гражданских будут военные установки РЭБ? «Простейшая многослойная защита» то есть аналитик предлагает гражданских жить в противоатомных бункерах, я правильно понимаю?
А любое оружие, от которого можно защититься проволочной сеткой, оружием массового поражения не считается.
Хы. А от хлора можно защититься замотавшись в полиэтилен. Кроме того есть дроны которых учат стрелять из винтовок. Обносить города сеткой на дистанции выше дальности поражения из стрелкового оружия? Ой вей…
3) В-третьих, видео подразумевает, что военные неспособны предотвратить получение террористами доступа к вооружению армейского уровня.
Ну во-первых, смотрим на курдов, которым они официально оружие поставляли, и которые внезапно — террористы. Во-вторых — таки bmpd.livejournal.com/1738626.html www.factroom.ru/facts/34119 Точно невозможно про… любить оружие?
4) Террористы действительно часто выполняют координированные нападения, но их количество обычно не превышает десяти.
Если речь идет об АВТОНОМНОМ оружии то ограничения по скоординированности атаки можно сказать отсутствуют. Один человек способен выпустить и тысячи дронов, если сумеет их провезти. Можно привозить в морских контейнерах сотни тысяч дронов, в спящем режиме, а активровать их одновременно одним сигналом. Мало ли способов можно придумать для синхронизации если половина интернета работает на синхронизации вроде CDN или BGP?
«Почему не стоит бояться роботов-убийц»-

Потому что надо стрелять по ним первым на поражение! А потом ещё 4 контрольных в центральный процессор! Облить напаламом и сжечь ведьму!!!!!1111
Ионная пушка пробивает до процессора и вносит в 50% областей, легированных n-типом, лишний положительный заряд. Все, процессор не работает (даже созданный за последние 10 лет — из не совсем обычной технологии кремния они).
Другой вариант — процессор просто греется до 1085 градусов (по всему объему проводников) — превращается в смесь разных металлов и неметаллов.
Пункт первый из статьи:
«Правительства запустят массовое производство микродронов для использования их в качестве оружия массового поражения»

У меня знакомый немец занимается swarm robotics в университете Мичигана грант от вояк.
Университет Мичигана это те кто сделали микрокомпьютер размером 1мм, с датчиками и солнечным элементом.
Естественно он разрабатывает этих микророботов и ПО для их координации для спасения людей в зонах природных катаклизмов. Американские вояки хорошо известны своей помощью миллионам людей в зонах бедствий.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации

Истории