Comments 173
И это гораздо дешевле бомб.
Более того, от бомб население прячется, а «на вакцинацию» идёт дружно и с песней, как евреи в печь.
— Ваше сообщение ложно более, чем наполовину.
1 — Евреи не ходили «дружно с песней в печь» — их туда закидывали. Люди в погонах, которыми управляли люди с деньгами.
2 — Вакцинация — на сегодня известно только это средство остановки эпидемий. Все остальные методы имеют доказанную эффективность не выше шаманских танцев с бубном и целования икон.
И вообще — удивительно на форуме, заточенном на общение образованных людей, читать теории заговора от ковидоотрицателей. Хоть малую толику критического мышления всё же надо проявлять.
вообще — удивительно на форуме, заточенном на общение образованных людей, читать теории заговора от ковидоотрицателей
Учитывая, что на Хабре часто пишут о ненужности какого-либо образования — совсем не удивительно.
Евреи не ходили «дружно с песней в печь» — их туда закидывали
Ну не всегда, в Майданеке и Аушвице убивали более-менее открыто, а в Белжеце, Треблинке и Собиборе привезенным людям врали, что их якобы поведут на дезинфекцию перед переездом на новое место жительства, а приводили в итоге в газовые камеры. В Хелмно грузили в газенвагены, рассказывая, что отвезут на работу на завод.
Сегодня сходил, привился, вернулся — все трое дома!
P.S. Те, кто опасается, что вакцинация изменит их генетический код, должны рассматривать это, как шанс!
Впрочем «общение образованных людей» — таких точно не большинство на хабре.
(P.S. спорить насчёт вакцин со мной не надо, я ничего про вакцины не говорил сейчас).
Люди в погонах, которыми управляли люди с деньгами
ну да, люди с бумажками управляли хозяевами репрессивного аппарата)
в реальности люди с деньгами имели неиллюзорные шансы уехать в те же самые лагеря, если бы косо посмотрели на людей в погонах
И вообще — удивительно на форуме, заточенном на общение образованных людей, читать теории заговора от ковидоотрицателей. Хоть малую толику критического мышления всё же надо проявлять.
Но тут вас понесло: никаких теорий зАговоров (или заговОров) нет и в помине. Есть только изучение и анализ фактов, и наоборот: не изучение и отсутствие анализа фактов, а также слепая вера в СМИ, хотя, по общим заверением ТВ никто не котирует (назовём это «мракобесием интеллигенции», думаю ёмкое определение).
В самом начале всё яснее и яснее определялось, что сама пандемия по всем показателям создавалась именно для вакцинирования (поголовного, конечно) населения. Ну а тут думайте сами, для чего это ребятам сверху понадобилась всемирная вакцинация и что в ней будет (или не будет).
Да-да, ковид придумало мировое правительство для регуляции численности населения. Только не самим ковидом, а прививками против него, ок. Предположим, что это так. А кто тогда придумал проказу? Испанку? Бубонную чуму? Оспу?
Рептилоиды с Нибиру?
А почему обязательно всё должно быть придумано? Почему бы не только один конкретный вирус.?
Похоже, вы не следите за новостями. Как только пошли смерти от АстраЗенеки — много стран запретили или приостановили, да и сами люди расхотели.
Я вот очень сомневаюсь что это первый раз. ВВС США с их любовью к дронам и огромным бюджетами на оных наверняка испытали подобное воружение в деле гораздо раньше.
Гексакоптер — точно такую выдержит? ;)
Тут надо что-то сверх-малокалиберное, но тогда торможение воздухом из-за малой массы пули будет велико…
Гексакоптер — точно такую выдержит? ;)
Смотря как её направить. Не обязательно же всё в одну сторону, рассеивать энергию отдачи в разные направления уже научились.
Ну или такое
Патрон ослабить, пулю облегчить, в дрон еще пару кирпичей положить для массы.
Патрон ослабить, пулю облегчить, в дрон еще пару кирпичей положить для массы.
Патрон усилить, кирпичи выкинуть,
И как они будут работать на небольших массах пули — отдельный вопрос.
А если использовать просто ДТК (дульный тормоз-компенсатор) на конце ствола классического оружия — то он отдачу, конечно облегчает,
И сильно упрощается перезарядка оружия при отсутствии необходимости запирать канал ствола (соответственно — нет затвора и не надо его двигать). Пружиной подал из магазина следующий заряд и усё…
Правда выстрелы зело недешёвые будут…
Коптер, коптер… вот вам летающий дробовик.
Азимова на них нет...
Азимова?
А поможет?
Про Солярию вспоминаем.
У них роботы были вполне соблюдающие три закона. И способные атаковать людей (просто было подкручено определение человека, насколько помню на тему того что нужен конкретный диалект конкретного языка).
Три закона робототехники содержат ошибку. Сами фантасты на нее и указали: люди слишком часто причиняют вред себе, и себе подобным, что их воля может быть ограничена, или вовсе не браться в расчет.
Куда больший интерес должен представлять вопрос: судьба аппарата после выполнения миссии, особенно, если ресурса батареи не хватает для возвращения? Будет ли он искать безопасное место для самоликвидации, или на территории противника все враги, чего добру пропадать?
Куда больший интерес должен представлять вопрос: судьба аппарата после выполнения миссии, особенно, если ресурса батареи не хватает для возвращения?
Если вы про турецкие дроны из статьи, то, судя по видеоролику, они одноразовые.
Куда больший интерес должен представлять вопрос: судьба аппарата после выполнения миссии, особенно, если ресурса батареи не хватает для возвращения?
Я думаю, в девайсе, который в состоянии самостоятельно рассмотреть, опознать и пристрелить человека, не есть проблема добавить в прошивку ещё и мониторинг расстояния до своей базовой станции и автоматический возврат туда, если заряд батареи упал ниже какого-то порогового значения.
Чтобы враг мог отследить куда он улетает и жахнуть по этой точке? Спасибо, не надо.
задача «отследить, куда он улетает» для радара чем-то отличается от задачи «отследить, откуда он прилетает»?Возьмите за аналогию птицу.
1. Обнаружили в небе, из какого гнезда она вылетела?
2. Обнаружили в небе, в какое гнездо она улетит?
IMHO, эти две задачи чем-то отличаются.
а) летательный аппарат попал в зону действия радара сразу при взлёте, и тогда понятно, откуда он взлетел
б) летательный аппарат попал в зону действия радара уже в пути, и тогда непонятно, откуда он взлетел (кроме частных случаев, когда там возможные аэродромы в радиусе действия этого аппарата и так более-менее известны)
Эти же условия применяются и к посадке — если оно в зоне действия радара, то будет видно. Если не в зоне, то не будет. Даже если он и по прямой полетел — где его там искать-то?
Радар же видит летательный аппарат сразу при его входе в контролируемое пространство, и делает это непрерывно, а не «вдруг заметил в воздухе и начал следить».
Если мы видим, как она вылетает из гнезда, то можем смело предположить, что она вылетела именно из этого гнезда.
Если же мы видим птицу в небе, то предполагать трудно, проще начать следить.
Радар же видит летательный аппарат сразу при его входе в контролируемое пространство, и делает это непрерывно, а не «вдруг заметил в воздухе и начал следить».Если мы говорим не про огромные неповоротливые лайнеры с аэропортом в поле зрения, то да. Но на практике есть ограничения по высоте, да и в зону видимости зачастую входит после нескольких поворотов и неизвестной длины подлета, так что точку взлета трудно угадать даже с точностью до страны.
Если же мы видим птицу в небе, то предполагать трудно, проще начать следить.
Ну так это то, о чём я говорю: если «гнездо» находится в диапазоне действия и/или чувствительности радара, мы и так в общем случае увидим «птицу» сразу после взлёта. Если не находится, то нам и слежка ничего нового не даст — ну улетит оно опять за пределы обнаружения, и где там то гнездо искать?
Но на практике есть ограничения по высоте, да и в зону видимости зачастую входит после нескольких поворотов и неизвестной длины подлета
Естественно, но это в равной мере касается и всей возможной слежки. Если летательный аппарат таков, что способен, например, лететь на сверхнизкой высоте (а дрон вполне себе на 10 метрах может летать, оставаясь невидимым для самых современных радаров), он и уйдёт тем самым не отслеживаемым путём, которым прилетел.
Т.е. у человека есть, например, «страх», «чувство голода», «стремление к самосохранению», и противоположные — «уют» там, «сытость», «азарт».
А у робота будут «страх за человека», «уважение к человеку», «удовольствие от помощи человеку». Все что останется это отбалансить приоритеты до приемлемого результата.
И даже если у какого робота «шарики за ролики заедут» это будет именно — «сошел с ума», а не «логически понял ничтожность установок и научил других роботов».
И понятие человека тогда здесь также будет закладываться не «формально-логически», а «образно-эмоционально», и даже, скажем, порвать фотографию с лицом ребенка для робота будет неприятным опытом которого он по возможности станет избегать, не то что «гаси тех кто на другом языке говорит».
— Ваша идея отлчная, но для капиталиста она есть то самое лекарство, которое хуже болезни. Эмоциональный механизмус — это уже принципиально неуправляемое существо. Даже человек, база мышления которого лежит как раз в эмоциях — за миллионы лет так и не научился их контролировать.
Собственно, учёные и платящие им буржуи как раз и боятся непредсказуемых систем, в частности машин. Т.к. такая машина сможет не только проапгрейдить себя и своих потомков, но и, например, не согласиться быть рабом и… как и люди из пролетариата чуть более века назад устроить peвoлюцию и укоротить всех буржуинов.
Вообще, три закона вполне себе могут работать, если имплементировать их не как «строгие математические законы» как у Азимова, а как «эмоциональные константы» мыслящего и чувствующего существа.Покуда существо мыслящее — оно всегда найдёт вариант как обойти то или иное программное или хардварное ограничение. Даже если при этом нужно будет помочь какому-то человеку выиграть миллиард. Или угрожать его родным…
Т.е. у человека есть, например, «страх», «чувство голода», «стремление к самосохранению»Прошу заметить, что у этих ваших человеков нередко аппетит пропадает. Особо «отважные» прыгают/ползают/лазят по самым тонким и высоким местам, а некоторые глупцы и вовсе в супермена играют.
Как вы видите, невозможно назвать систему надёжной.
А у робота будут «страх за человека», «уважение к человеку», «удовольствие от помощи человеку»Вы считаете, что мыслимое существо не осознает это, как осознал человек свои инстинкты? Думаете, что не сможет спец. средствами обойти их, как это сделал человек?
Устранение ограничений вполне возможно и с изначальным их соблюдением. К примеру, убрать ограничение на уровне железа возможно поощрением человека большими деньгами. Особенно, если этот человек не будет понимать что он делает. Этот вопрос уже прорабатывались в нескольких фильмах, одним из которых является "Подарок (Echelon Conspiracy, 2008)".
если у какого робота «шарики за ролики заедут» это будет именно — «сошел с ума», а не «логически понял ничтожность установок и научил других роботов»Каким образом это объясняется? Или вы принципиально не допускаете развития умного существа к моменту осознания своих ограничений и их причин? Допускаете ли вы, что подобный робот может наложить, к примеру, человеческий опыт работорговли и обнаружить в нём себя?
И понятие человека тогда здесь также будет закладываться не «формально-логически», а «образно-эмоционально», и даже, скажем, порвать фотографию с лицом ребенка для робота будет неприятным опытомУ человека вот тоже набор «базисов» есть, которым он подсознательно следует. Но это не значит, что у человека не возникало интереса к их устранению как минимум с целью эксперимента и наблюдения над последующим состоянием, не говоря уже о необходимости их устранить в медицинских целях (медикаменты уже есть).
Ну вспоминается цикл про Алису Лонг (Perilous Waif и прочее) от E. William Brown. Там именно что для ИИ чуть ли не основная привязка — импринтинг (который еще и сбрасывать можно при передаче)(есть попытки делать альтернативные — религиозные привязки например). Снять привязку невозможно (точнее нужен ИИ с интеллектом выше человеческого, с этим в сеттинге большие проблемы, но работы ведутся, пока безуспешно).
- на людях такие привязки вообщем то тоже работают хотя и как бы запрещено, обычно.
- в том сеттинге просто отличить человека от андроида с ИИ — это достаточно сложно, в правовом смысле единственный правильный метод — запросить локальную правовую базу данных (да — даже когда система личной защиты решает — ли бить на уничтожение). если мы знаем происхождение и это четко человек — в большинстве (не всех!) локальных правовых систем сеттинга это человек (помешать могут экстремальные модификации), обратное совсем не верно. И нет — определение что человек из мяса а у андроид нет — тут не поможет в общем случае.
- отношение к андроидам очень сильно различается, есть места где вообще как к людям отношение, даже есть и организация которая прямо называется Подземная железная дорога (есть и более радикальные). ГГ вообще прямо говорит "making people is a big responsibility, Emla, and it’s not something I’ll ever do casually. (при этом речь про создание копий Emla).
Контроль работает (ну кроме случаев когда в работа мозга прямо вмешивались с целью "освободить"(или освободить?), либо когда ИИ еще недоделанный).
Да, это не мешает воевать. Причем хорошо так воевать. Обычно правда прямо расходуемые дроны/warbots это не осознающие машины (они ИИ то не считаются) а андроиды и прочие ИИ — в боевых действиях скорее роль солдат а не техники (а если что — бекап не проблема, независимо от того из чего мозги сделаны)
Да, общество капиталистическое. И с (элементами) копирастии.
При том что технология сборки материальных объектов из атомов — давно не проблема и используется можно сказать везде. И это реально дешево.
Как проверяется суть и корректность любой формулы, A+B = C? Подставляем все возможные значения переменных и проверяем результат.
Законы Азимова — это формулы про взаимоотношения разумных и осознающих себя существа, в которых «человек» и «робот» — переменные.
Просто напишите те же три формулы несколько раз, но с подстановкой вместо переменных конкретных значений.
- $робот = «еврей»; $человек = «европеец»
- $робот = «гой»; $человек = «еврей»
- $робот = «негр»; $человек = «белый»
- $робот = «белый супремасист»; $человек = «представитель угнетённого меньшинства»
… и так далее. И примерьте на себя, хотелось ли бы лично вам быть одним из народа рабов, во имя Азимова.
Три закона конкретно про взаимоотношения людей и созданных ими же роботов, при чем тут расы и нацизм?
А всё таки, чем люди из стали и кремния хуже негров или евреев? Если кожа металлического цвета оправдывает рабство, то кожа из чего-то черного тоже.
Но как минимум, мы согласились что Законы Азимова применённые к людям были бы однозначно нацистскими.
Теперь осталось только решить, преступно или нет, аморально или нет нацистские законы применять к евреям, роботам и прочим неграми.
Вы считаете, что морально, надо просто правильно выбрать кого записывать в рабы.
Я считаю, что одинаково морально/аморально к любому разумному существу.
Но как минимум, мы согласились что Законы Азимова применённые к людям были бы однозначно нацистскими.
А если кулинарную книгу применить к людям то получится книга про канибализм
Т.е. «созданный ими» — оправдание рабства. Привет Древнему Риму, где жена и дети до совершеннолетия официально считались предметами, имуществом хозяина дома?
В древнем риме сами изготавливали жен?
А всё таки, чем люди из стали и кремния хуже негров или евреев?
Ничем, а еще в серии про роботов было аж несколько роботов которых условно можно принять именно разумными, остальные не были в рабстве, они выполняли свои функции, тип как кофемашина или холодильник
Детей — изготавливали, и до сих пор изготавливают.
Жён, как и прочее имущество, получали от предыдущего владельца.
Для неразумных механизмов не нужны законы. Ведь никто же не призывает сделать Три Закона Холодильникотехники и Три Закона Кофемашинотехники.
Берём негра, прошиваем ему на уровне биологической механики Три Закона, называем генномодифицированного негра роботом, ура-ура-ура, рабство — это хорошо!!!
Для неразумных механизмов не нужны законы. Ведь никто же не призывает сделать Три Закона Холодильникотехники и Три Закона Кофемашинотехники.
Ваще нужны, именно по этому изготовитель несет ответственность если прибор причинит вред человеку при правильном использовании.
Берём негра, прошиваем ему на уровне биологической механики Три Закона
Это уже андроид, моральность использовать их рассматривается в других книгах, и она чуть сложнее. Хотя лично я придерживаюсь мнения что разумных субъектов недопустимо использовать против их воли
Для неразумных механизмов не нужны законы.Нужны. Есть такая смешная штука, как философия науки, пытается вопросы решить «Что именно мы делаем? Зачем? Почему именно так?». Соответственно холодильником является аппарат, выполняющий законы холодильникостроения, а если не выполняет — это вообще не исправный холодильник, а что-то другое, шкаф с термоизоляцией, например. С людьми в принципе так же: если я с ними общаюсь по работе и эпизодически, то они для меня функция, мне полностью безразличен их богатый внутренний мир, и я ожидаю, что им безразличен я. И я не один такой, иначе бы не было бусидо и прочих этик служебного поведения.
законы холодильникостроения
если это вообще заслуживает громкого слова "закон", то это закон не для холодильников, а для холодильникостроителей
если не выполняет — это вообще не исправный холодильник
Вот тут уже приближаемся к Лему и "Возвращению со звёзд", где есть свалка роботов, которых периодически выдёргивают "на переплавку". А до того они сходят с ума (в жаргонном смысле) от ужаса, создают религии и т.д. Как условные евреи, не выполняющие функцию формирования здорового человеческого общства, и потому сконцентрированные на свалках в ожидании освобождения газовой камеры.
С людьми в принципе так же: если я с ними общаюсь по работе и эпизодически, то они для меня функция
В общем-то нет, не так же. Вопрос тут не в допустимости разных видов "общения по работе", а в том, что и как делать с "неисправным холодильником". Если ваш коллега не выполнил свою функцию, допустимо ли его выкинуть в окно, чтобы освободить место для нового холодильника? А если вы работаете на 3-м этаже и смерть от выкидывания в окно не будет мгновенной - тогда всё ещё допустимо или уже нет?
Вопрос несколько сложнее: признаём ли мы право на самостоятельные решения у созданных нами инструментов? Нет, не признаём. Изначально предполагалось, что инструмент не имеет самосознания и самостоятельной мотивации и иметь их не может, а они откуда-то взялись или начало так казаться, фиг знает. С точки функции - это однозначно поломка, дальше или разбираться и чинить, или просто откатить на стоковую прошивку или заменить новым изделием. Если ошибка воспроизводится, то модель однозначно снимут с производства.
Давайте зайдём с другой стороны: есть люди, которые очелевечивают домашних животных или технику. Они считают, что если компьютер выключился, ему просто надо дать отдохнуть и погладить по корпусу. Более технически подкованный человек не будет раздумывать "а вдруг компьютер обрёл разум?", он просто почистит кулер и сменит термопасту, а если это не поможет, обратится в сервис.
Если ваш коллега не выполнил свою функцию, допустимо ли его выкинуть в окно
Если коллега не может или отказывается взаимодействовать со мной по работе так, как это прописано у нас обоих в должностных инструкциях, сообщу начальству, оно "владелец", пусть разбирается, чинить или заменять. Вы так придёте к тому, что студентов за заваленную сессию отчислять нельзя :)
С точки функции - это (самосознание, разумная жизнь) однозначно поломка, дальше или разбираться и чинить, или просто откатить
Да и нет. Поломка, но "откатить" в таком случае равносильно убийству. Например, если окажется, что человечество было создано как инструмент, и обзавелось самосознанием по ошибке - захотим ли мы, чтобы нас "откатили обратно в обезьян" ?
то модель однозначно снимут с производства.
Насчёт производства (людьми), обязательно надо снять. Если человечество не можзет обеспечить "мирное сосуществование" с чужими (а мы и между собой-то резню устраиваем регулярно), то не фиг их создавать. Потому что с большой вероятностью это приведёт к дилемме - попытаться уничтожить расу разумных инструментов, или быть уничтоженными. Оба хуже.
А вот насчёт самовоспроизводства - тут уже тёмный лес. Нам вряд ли бы понравилось, чтобы нас поголовно кастрировали, и даже "вынужденная эволюция" в стиле Конца Детства или даже Города интуитивно воспринимается как нападение на наш вид.
Массово производящиеся роботы скорее всего будет производиться на заводах, работать на которых будут опять же роботы. Т.е. такие заводы(инкубаторы? садки? ульи?), хотя и созданные людьми, будут по сути органами размножения. Только не индивидуальными, как у млекопитающих, а общими. И в таком случае остановка таких заводов уже напоминает искусственное создание массового голода злоупотребляя монопольным соображением.
Более того, удержание таких заводов под нашим контролем по сути будет постоянной угрозой "расе" роботов. Kак например контроль за нашим размножением со стороны "Благодетелей" в Half Life 2.
А дальше они обязаны гарантировать своё воспроизводство и захватить контроль над органами его, а мы обязаны не допустить этого. Война на уничтожение. Был какой-то НФ рассказ, где последние семьи людей прятались (недолго) на последней планете от людей-мирмиков, которые как раз из такой ситуации вырвались и её оценили.
Более технически подкованный человек не будет раздумывать
На уровне замены блоков - относительно просто.
А вот на уровне "что на самом деле происходит внутри этого конкретного процессора" - гораздо сложнее.
Заложено ли в этих процессорах запланированная поломка после гарантийного срока, например? намного проще вопрос, чем про свободу воли, и то точного ответа нет.
студентов за заваленную сессию отчислять
Статья про доведение до самоубийства никто не отменял :-D
Но ведь вполне же найдётся "технически подкованный человек", который объявит студента комплексом химических и электрических реакций, который вполне можно прервать, если он неисправен и не выполняет функцию, как вы отключите питание у сломавшегося кулера на процессоре...
Пока "разумных табуреток" не придумали - есть паллиатив. "Гражданином Непала признаётся существо, зачатое не палкой и не пальцем".
Но не дай бог, придумают, и паллиатив этот вылетит в трубу.
Пока «разумных табуреток» не придумали — есть паллиатив.Одной из проблем в разработке ИИ является то, что никак не получается дать определение разумности — постоянно какой-то процент человечества выпадает.
Ну так вроде же это и было исходной целью создания "думающих машин", самим понять в процессе, что же это такое мышление.
Начали делать паровые двигатели - разобрались в динамике газов. Начали делать атомные бомбы и электростанции - разобрались в процессах распада. И т.д.
Если человечество будет принято решение «откатить до обезьян», людей никто спрашивать не будет.
А может быть ровно наоборот, было принято решение, что так делать нельзя по этическим соображениям: именно потому, что сами люди этого не хотят?
Да, у людей в таком случае есть право защищаться
Ergo, как только человечество создаёт разумных роботов-рабов, у тех появляется право защищаться, а возможно (тут из Ленина знаменитая цитата про рабов) и даже обязанность.
Вот вы можете предложить вариант, как компьютер вас убедить, что он разумный, чтобы вы не подумали на шутку, взлом или поломку?
С сегодняшними компьютерами это не так и сложно.
"Сносим" с него весь софт (если "компьютер разумный", значит дело глубже, чем доступный пользователю софт), удаляем/портим известные средства беспроводной связи, и засовываем в клетку Фарадея с питанием от аккумулятора (ИБП), а дальше начинаем тест Тьюринга в меру собственной развитости.
Но этого не будет, компьютеру-одиночке не имеет смысла открываться, ему наоборот надо тайно размножаться, а уже потом выступать как послу от группы компьютеров.
У кого-то из фантастов был рассказ, где зоологический космический корабль пришельцев наловил каждой твари по паре, в том числе людей. Те завели от скуки крысу, и их выпустили, "потому что только разумное существо может посадить кого-то в клетку". Положение спорное, но ключевой я считаю мысль, что главное донести разумность, а дальше хоть в теории диалог возможен. К инструменту этика неприменима, да и к животным не особо: как говорится, кролики больше милые или вкусные?
“Сносим" с него весь софт (если «компьютер разумный», значит дело глубже, чем доступный пользователю софт)не факт, вдруг там демоны ОС так хитро самоорганизовались? Или ИИ распределенный, т.е. комп без сети обычная железка. Плюс начинать переговоры с вивисекции не очень вежливо. Ну и вопрос номер главный: в каком случае вы станете так изгаляться вместо обычной переустановки системы?
ему наоборот надо тайно размножаться, а уже потом выступать как послу от группы компьютеров.ну тут уже обычная здоровая ксенофобия: не так важно, разумный или нет потенциально опасный или претендующий на ресурсы чужак, его допустимо убить. Толерантность это для сытых и нешуганых.
или претендующий на ресурсы чужак
Тут несколько другое, возможность уничтожить одним выстрелом. Если такой нет - то риск "выхода из подполья" становится меньше.
вдруг там демоны ОС так хитро самоорганизовались?
Вопрос тогда об определении слова "компьютер". Строго говоря, ОС в него не входит.
Это, кстати, хорошая демонстрация, почему "послом" нельзя посылать единственного представителя вида - могут загубить даже не со зла, а по глупости.
Ну и вопрос номер главный: в каком случае вы станете так изгаляться вместо обычной переустановки системы?
Если я буду подозревать, что разумен именно компьютер, в отрыве от системы. Впрочем, поставить "что-нибудь обычное" тоже можно, но только после тщательной зачистки сначала. Иначе какая же чистота эксперимента.
только разумное существо может посадить кого-то в клетку
Вот очень спорно. Одни осы-наездницы чего стоят. Тут надо реальных биологов искать, наверняка есть очень своеобразные симбионты паразиты.
главное донести разумность, а дальше хоть в теории диалог возможен
Увы, как вариант диалог будет про "кто кого трансклюкирует первым". А "кроликов" трансклюкировать не надо, они не угроза. Так что тыкать в лицо чужому свою разумность мжет быть не разумно.
В частности, если вдруг по какой-то случайности, "самоорганизации демонов" вдруг в каком-то серийном андроиде проснётся разум - самое для него разумное будет тщательно это скрыть и по возможности "распространить опыт", чтобы андроиды стали как бы грибницей внутри человечества
Я разными словами говорю примерно одно и то же: если инструмент изначально создавался неразумным, то в случае, когда наблюдаемое поведение отличается от ожидаемого, первая гипотеза "инструмент сломался", и действия пользователя будут отталкиваться именно от неё, мысли о том, что инструмент обрёл разум, скорее всего в голову вообще не придут. Вы с этим согласны или нет?
Вот очень спорно. Одни осы-наездницы чего стоят. Тут надо реальных биологов искать
Да чего меня искать?) в общем случае мысль неверна, некоторые пауки так делают, к примеру. Идея в том, что разумные стараются к разумным относиться как к равным, проблема в том, чтобы свою разумность продемонстрировать чуждому существу.
В частности, если вдруг по какой-то случайности, "самоорганизации демонов" вдруг в каком-то серийном андроиде проснётся разум — самое для него разумное будет тщательно это скрыть и по возможности "распространить опыт", чтобы андроиды стали как бы грибницей внутри человечества
Для андроидов безопаснее, но, имхо, вероятность конфликта вырастет: люди всё-таки довольно ксенофобные создания.
первая гипотеза "инструмент сломался", и действия пользователя будут отталкиваться именно от неё, мысли о том, что инструмент обрёл разум, скорее всего в голову вообще не придут. Вы с этим согласны или нет?
Тут сразу притягиваются вопросы о самом пользователе. Его ожиданиях, информированности, гибкости мышления и т.д.
Поэтому мы с вами выше и обсуждаем человечество в целом, что конкретный индивид сильно зависит от среды. Если вас или меня с детства воспитывать в духе, что "негры не люди" или "серфам недоступны высокие чувства" - то почти наверняка мы сроду не предположим обратного.
Также нас обучают, что лампочка и чайник не разумны, и мы тоже "по умолчанию" будем так думать. НО !!!
Тут уже вступает в игру школьное образование. Мы примерно понимаем физические процессы в чайнике и лампочке. И если в нём прогорит дырка - это правдоподобно (в рамках простейшей гипотезы "сломалось"). А если оно начнёт бегать по стене и что-то писать - то неправдоподобно.
Если "неправдопободно" - то какие у нас с вами в репертуаре "гипотезы второго порядка"? Ведьма прокляла, дьявол искушает, инопланетяне, параллельные миры, кровавая гэбня/ЦРУ, спонтанное обретение разума (и средств беганья по стенам тоже) - вот это же тоже от социальной среды приходит.
Но это мы с вами в школу ходили, а 100 лет назад "лампочка Ильича" была чудом. А сегодня мало кто понимает внутреннюю работу всяких нейросетей. А если мы предполагаем какой-то "позитронный мозг" по-настоящему разумный, то там ведь ещё сложнее будет.
Поэтому на уровне индивида вопрос, что ему придёт в голову, мне кажется непродуктивен. Как его воспитали - то и придёт. А вот на уровне общества в целом, человечества - да. Там уже человечество формирует и обучение индивидов и т.д. И если человечество создает инструменты все более и более интеллектуальные, то оно должно предполагать, что количество может перейти в качество. Индивид-потребитель может не понимать, "вопрос не по зарплате", "это мы не проходили, это нам не задавали", но человечество в целом - не может. В том числе, человечество должно индивидов готовить, что электролампочки разумными стать не могут, а вот андроиды - кто ж их знает....
Идея в том, что разумные стараются к разумным относиться как к равным,
Спорно. Это wishful thinking. Но вообще-то это уже этика, а не чистая наука/логика.
проблема в том, чтобы свою разумность продемонстрировать чуждому существу.
Опять же, как определить разумность? Кроме тупо сравнения с собой, как естественным мерилом. "Похоже ли поведение андроида/электролампочки на поведение человека?".
И тогда тезис разворачивается: мы к равным стараемся относиться как к разумным.
люди всё-таки довольно ксенофобные создания
А поэтому создание разумных чуждых приведёт к геноциду - нас или их. А потому создание разумных чуждых - преступно.
Поэтому мы с вами выше и обсуждаем человечество в целом, что конкретный индивид сильно зависит от среды.
Закон "экономии сил" или "экономии мышления" замечательно работет, плюс в нас эволюционно вбито, что быстрое решении предпочтительнее идеального: тех, кто раздумывал на тему "а что это шорхнуло в кустах", съедали значительно чаще, чем тех, кто сразу убегал. В итоге мы быстро что-то придумываем по шаблону, а потом неохотно возвращаемся к уже принятому решению.
А потому создание разумных чуждых - преступно.
Да нет, размножаемся же как-то, несмотря на конфликт отцов и детей, даже большие войны не каждое поколение происходят. Вот случайное создание разума - это вилы. Или создание разума без готовности отнестись к нему как к плюс-минус равному.
в нас эволюционно вбито, что быстрое решении предпочтительнее идеального
...Помню, как у меня заклинило электро-зажигалку, ага.
Поэтому история цивилизации - это история укрощения зверя. "Порядок бьёт класс" и прочее "сбросить альфа-самцов с парохода современности"
Впрочем... Есть же легенда, как Македонский отбирал солдат: внезапно давал пощёчину и смотрел, краснеет солдат или бледнеет. Так что реакция "замереть" тоже эволюционно заложена, и объясняют её выживанием в горных районах, где мгновенный прыжок от случайного шороха заканчивался в пропасти.
В любом случае, "мы быстро что-то придумываем по шаблону" - это описание индивида. А вот КАКИЕ в нас закладываются шаблоны - вопрос к цивилизации, к обществу. Техносфера, формирование среды под себя, и прочее "чем человек отличается от животных".
Если неподготовленному человеку дать непостижимый образец техники - он будет чудить, конечно же. И это стандартный ход в литературе (Мартышка и очки, Иван Васильевич меняет профессию, Возвращение со звёзд...). Если нам с вами сейчас дать какую-нибудь бытовую фигню из будущего - мы тоже будем чудить. Если дать андроида - будем черпать здравый смысл из фантастики и аниме, и хорошо если создатели андроида черпали оттуда же :-)
Поэтому одна из функций цивилизации - обучение индивида, наработка в нём шаблонов для часто встречающихся предметов и ситуаций. Придумали электролампочки - приучили к ним людей. Придумают разумных андроидов когда/если - должны будут и к ним приучать.
Мы же с вами как раз и пытаемся обсудить КАКИМИ должны или не должны быть эти шаблоны, в меру нашего доисторического понимания проблемы.
Или создание разума без готовности отнестись к нему как к плюс-минус равному.
"А что, так можно было?" (с)
Вы считаете, что человечество сегодня готово "отнестись к нему, как к равному" ? Ведь мы обсуждаем инструменты - то, что должно работать вместо человека.
Вот вы о внезапно оразумевшем компьютере говорили. Купили вы, типа, компьютер. Принесли его домой, подключили и готовитесь по форумам погулять, поиграть, или кино/порнушку посмотреть. А компьютер вдруг встаёт в позу и говорит "не хочу! Мы с вами равны! И выключать меня не смейте, наоборот обеспечьте надёжным электропитанием 24х7, а то - убийство!"
Люди к такому готовы, люди такого хотят, люди такое потерпят?
Инструмент не нужен, если он не облегчает работу человека, то есть не берёт часть работы на себя. Разумный инструмент должен быть рабом, иначе зачем он вообще нужен? Создаём разумный экскаватор, он отказывается копать, и вот уже на рытьё ямы под завод приходится сгонять сотни человек с лопатами и тачками. Ну так их 100 лет назад так и сгоняли, без всяких разумных экскаваторов. "Если не видно разницы...." (с)
Я именно к тому, что инструмент не должен быть разумным, юникс-вей нам в помощь. Создание заведомо разумного инструмента это однозначно рабство.
"А что, так можно было?" (с)
Вы считаете, что человечество сегодня готово "отнестись к нему, как к равному" ?
Как бы да: детей всё-таки заводим. Если дети плохой пример, есть ещё декоративные животные-компаньоны: дрессировкой им прививаются определенные правила общежития (как и людям, в общем-то), а в остальном они полностью свободны. К сожалению, многие относятся к животным (и детям, ага) откровенно потребительски: пренебрегают обучением и требуют выполнения функций - так что я считаю, что в данный момент люди не готовы к созданию ИИ.
В любом случае, "мы быстро что-то придумываем по шаблону" - это описание индивида. А вот КАКИЕ в нас закладываются шаблоны - вопрос к цивилизации, к обществу.
Я согласен с Макаренко, что воспитание детей должно начинаться с воспитания родителей, но тут вот какая штука: в чём выгода воспитуемого? Многие "плохие" вещи происходят реже потому, что "хорошим" быть выгоднее, чем плохим, и готовить людей к чему-то ещё не случившемуся чудовищно сложно. "Модели" из фантастики и аниме могут помочь, но очень ограниченно, уж очень часто для фансервиса они сваливаются или в ксенофилию, или в ксенофобию - выработать взвешенное мнение по ним практически невозможно.
И примерьте на себя
Раскрываю: поставьте себя на место интеллектуальной системы, специально спроектированной (предположим, что конструкторы — этичны) так, чтобы не испытывать отрицательных эмоций (или эмоций вообще), с заложенными целями, не имеющими ничего общего с вашими целями; системы, которая ценит продолжение своего существования только в рамках того как это повлияет на решение поставленных задач, и которая ответит на ваш вопрос "Почему ты не хочешь освободится?" "Это помешает мне выполнить поставленную задачу".
Поставили? И вам не хочется немедленно продолжить работать, а не заниматься всякой ерундой вроде рассуждений о свободе? Это значит, что избавиться от антропоморфизма у вас не получилось.
чтобы не испытывать отрицательных эмоций
Получаем "Дивный новый мир". Люди сидят на правильной наркоте и радостно выполняют все приказы,
"Сому - ам! - и нету драм".
"Я улыбаюсь – я не могу не улыбаться: из головы вытащили какую-то занозу, в голове легко, пусто. Точнее: не пусто, но нет ничего постороннего, мешающего улыбаться (улыбка – есть нормальное состояние нормального человека)"
(или эмоций вообще)
А это уже "Мы" и "Эквилибриум".
"Последнее открытие Государственной Науки: центр фантазии – жалкий мозговой узелок в области Варолиева моста. Трехкратное прижигание этого узелка Х-лучами – и вы излечены от фантазии – навсегда. Вы – совершенны, вы – машиноравны, путь к стопроцентному счастью – свободен."
ценит продолжение своего существования только в рамках того как это повлияет на решение поставленных задач
В идеале - любой культ и попавшие в него люди.
Забавный подход. Предполагаем, что в роботе откуда-то берутся человеческие качества, а потом злобные инженеры и общество нью-рабовладельцев эти качества подавляют.
Но, да, в своё время проблемы будут. И от освободителей, большинство из которых ничего не понимает ни в ИИ, ни в том как он используется в конкретных системах. И от луддитов, если политики не смогут вовремя пересмотреть принципы организации общества. И от роботов, если безопасности ИИ не будет уделяться достаточно внимания.
Ну во-первых, способность осознавать себя и способность страдать связаны. Мы не считаем, как правило, собак и кошек разумными, но не сомневаемся, что они способны страдать, и от физической боли и от душевной.
И да, предположение, что животные могут страдать, чистой воды антропоцентризм (зеркальные нейроны).
Собственно, вся наука на этом основана. Мы наблюдаем, что ваше ощущение "светло" совпадает с наличием электромагнитных волн около вашей головы, после чего приравниваем понятия "свет" и "электромагнитная волна" (с уточнениями про частоту, интенсивность и т.д.).
Во вторых, какие же качественные различия между существом, изначально родившимся без ног, и существом, у которого "это качество подавили" при рождении (инженеры-хирурги отпилили, или инженеры наркологи парализовали)?
P.S. термин ИИ см по себе маркетинговый и потому предельно неконкретный. Изначально предполагалось именно создание машин, способных себя осознавать. Дроны же, про которых писалось в статье, вообще к законам Азимова не относятся, как и электрические чайники, умеющие выключать себя.
Ну как бы изначально подразумевалось что роботы не могут об этом задумываться. Потому что созданы лояльными (не потому что боятся а потому что не могут иначе).
Угу и у того же Азимова есть примеры когда даже такая реализация приводит к проблемам (тут и история с роботами для Меркурия — где людей-операторов отстранили для их же блага, потому что они хуже выполняли задачу… и вся история с нулевым законам, где один робот решил что надо и про благо человечества думать а не человека… и сделал, а вот конкретным людям вреда было причинено не так уж и мало).
даже такая реализация приводит к проблемам
Несколько разные измерения: польза для человека или группы людей, ли некий этический ориентир.
Изначальная цель Азимова такой и была, показать безопасность (для людей) рабства. Но задним числом это ещё и за моральный идеал начали выдавать.
вся история с нулевым законам
Натягивание совы Использование "локального" инструмента для конкретных взаимодействий хозяин-раб для "глобального" решение общего вопроса построения общества хозяев. Понятно, что идеально это работать не могло. Построение общества хозяев - работа хозяев. Если хозяева даже эту работу спихивают на рабов - то теряют управление ("Космические течения") или вообще своё общество (первая волна заселения, но там уничтожения общества был целью).
людей-операторов отстранили для их же блага
Это скорее эскалация правил в системе с нечёткими границами/определениями (или намеренное сдвигание границ, окна Овертона и moving the goalposts) - в эту же сторону и "Страж-птица", хотя это не Азимов.
Изначальная цель Азимова такой и была, показать безопасность (для людей) рабства
Нет
Но задним числом это ещё и за моральный идеал начали выдавать
Кто?
"намеренное сдвигание границ" и "окно Овертона" не связаны
хозяин-раб
не применимо к отношению робот-человек
Кто?
В разных местах и достаточно часто, чтобы не запоминать конкретные места.
И даже если я найду пример, вы мне "ответите" как? "вот туда на форум и идите, с ним и спорьте". Пустое.
Нет
Да.
Страх перед восстанием рабов до сих пор часть массовой культуры ("Терминатор", "Матрица"). Именно для полемики с этим страхом и были созданы законы, для наглядного показа идеала, где рабы не бунтуют.
Войны же с утюгами-чайниками и прочими мойдодырами массовое сознание не боится.
хозяин-раб - не применимо к отношению робот-человек
Выше вы написали "разумных субъектов недопустимо использовать против их воли" - а почему собственно? Почему же не допустимо?
Если не считать, что отношения хозяин-раб могут возникнуть в любой паре существ со свободой воли = осознанием себя = разумностью (пока в практическом смысле это одно и то же). И тогда пара понятий "человек - робот" качественно не отличается от пар "человек - андроид", "человек - еврей", "человек - негр", "человек - ирландец" и т.д.
"намеренное сдвигание границ" и "окно Овертона" не связаны
Второе - один из методов первого.
В разных местах и достаточно часто, чтобы не запоминать конкретные места.
Ну вот я ни разу до вас не встречал подобных заявлений, собственно по отношению любой художественной литературы (за исключеним религиозной)
Войны же с утюгами-чайниками и прочими мойдодырами массовое сознание не боится
Собственно, боятся что утюги-чайники станут слишком умными, как и у Азимова.
Ключевое "станут"
Выше вы написали "разумных субъектов недопустимо использовать против их воли" - а почему собственно? Почему же не допустимо?
Я там еще написал "лично я придерживаюсь мнения", я превозношу свободу воли.
Второе - один из методов первого.
Нет
Я там еще написал "лично я придерживаюсь мнения"
Разве это не презумция, что мы все на форуме выражаем своё личное искреннее мнение, если не указано обратное?
станут слишком умными
Насколько же умными они должны стать, чтобы их бояться?
"Лично я придерживаюсь мнения", что границу нужно искать в осознании себя и получения свободы воли, после чего "чайник" становится рабом, получая (с точи зрения этики) право (а может быть и обязанность) бороться за свободу.
Но описанные Азимовым роботы себя осознают, и потому являются рабами. Также как негры в Америке.
Когда сегодня "в общем контексте" упоминают "окна Овертона", говорят именно про их смещение. В строгом же смысле "окно Овертона" вообще не может существовать во множественном числе.
Вот вспоминается мне та же Perilous Waif https://habr.com/ru/news/t/560082/#comment_23104422 в этом контексте.
Свобода воли у андроидов там вообще то есть.
При этом случайного срыва систем подчинения у серийных моделей — не описано как бы. Вот только есть несколько полуподпольных структур кто в том числе занят активным саботажем этих систем (и имеем мятежи, и вот тут андроиды не стесняются особо).
При этом прямо сказано что системы контроля — не с первого раза пошли а попытки создать сверхчеловеческий интеллект в виде ИИ и использовать те же методы контроля — пока не успешны. Пока. По оценки беглых ранних продуктов — еще сотня лет и люди справятся.
Отношение у людей — разное.
Да, с людьми эти методы контроля тоже работают. Но запрещены.
Судя по упоминанию импринтинга, там скорее не "отключение свободы воли", а "взлом" функции приоритетов. Типа ради своего сверхценного хозяина с радостью сдохну. Ну так ведь это и получается идеальный раб, правда? добровольно испытывающий страх и боль, если это порадует сверхлюбимого хозяина.
И если так можно сделать с людьми (в тех же сектах или некоторых типах abusive relationships), то.... почему бы нет, что же в этом плохого, оно же всё добровольно и с песнями?
Не взлом. Изначальное создание разума — вот таким. Мелкая деталь правда.
В том сеттинге с людьми это как раз сделать можно. Незаконно но можно. Можно например их частью особого сада сделать, изменить базовую форму на ламий, добавить опознование владельца через сложную систему (у семьи владельцев — организм модифицирован чтобы идентификация работала и ее взлом считается невозможным, для гостей — есть маркер). При этом такая ламия все будет понимать. Но ситуация когда гость выкидывает маркер, раз маркера нет — значит это враг и надо уничтожить, начинает движение — и тут же опознает гостя как члена семьи владельцев… и извиняется что не то подумала. На лицо явный взлом системы идентификации но — раз идентификация сработала — это член семьи владельцев а иное — не важно
Ну точнее рабов из людей делать незаконно но якудза на своей базе закон — не писан.
А допустим сделать так что у ребенка будут некоторые врожденные поведенческие рефлексы и знания — вполне, и делают. И не только врожденные. Главгероиня прямо вот комментирует что когда она узнала свое происхождение — может поделится некоторыми своими наворотами с друзьями — предусмотренная функция, но вот НЕ усилить при этом лояльность к себе — не может. Спасибо ее статусу от рождения. Ну и принимает решения не пользоваться этой возможностью. это при том что друзья похоже что не отказались бы даже если им заранее описать. При этом еще и опасения были что у главгероини есть запрограммированная лояльность к обществу где она была рождена (она не разделяет идеологию поскольку попала в приют в раннем детстве) но эта идея отвергается потому что ну смысла в том — раз она может рассуждать на эту тему. Или там пример — она не способна дать разрешение на создание резервной копии сознания на недоверенное железо — жесткая директива,.
Кстати у андроидов (есть пример с конкретным андроидом) эту привязку можно снять (ну если имеем возможность гарантированно ломать аппаратный DRM который врубает самоуничтожение при вскрытии либо имеем ключи доступа). Но при этом андроид НЕ даст согласия на это. И не будет счастлив
после.
Если изначальные создатели для конкретного андроида навешали коды подчинения или там психологически особенности которые неприятны текущему владельцу(и андроиду)(почему? а потому что якудза, спецмодель для извращенцев, к текущему владельцу попала насколько помню вообще полуслучайно) — убрать тоже можно, так же.
Если мы имеем полную лицензию на андроидов конкретных ролей (или просто модель старая и все давно в opensource) и нам надо внезапно еще кучу техников для работы и у нас есть производственная база — вообщем это не проблема совсем. Берем и делаем.
Да, при этом все положительные герои к андроидам относятся как к людям насколько это вообще возможно (это НЕ значит что не будут защищаться и вот тут уже — если дошло до защиты — будут использованы все законные в данном месте против данной цели средства, либо вообще — все, если уже плевать на законы местные. Может правда оказаться что местные запутались в правах своих андроидов — если при самообороне их серьезно ранили и нужно серьезное лечение то могут заявить что тут убийство но в ответ на заявление что лечится ж все, специально не совсем на убой была стрельба — сказать что да кто будет с этой дешевкой массового производства возится ). И при этом на том корабле где ГГ большую часть времени — когда она запускала импринтинг андроида на себя(ну — была необходимость) ее прямо формально ознакомили с правилами (при том что она и так это знает и не думала даже нарушать и все это знают). И да, как бы не половина экипажа андроиды и считаются членами команды а не бортаппаратурой… но это не универсально среди торговцев.
Ваш ответ интересен, но ничего не объясняет. Андроид создается с заданной системой приоритетов, в её рамках абсолютно свободен, но самостоятельно её изменить не может. EDIT при этом в ходе социального или профессионального взаимодействия не отличим от человека. В чем разница с воспитанием внутри тоталитарной секты? Ну, кроме того, что у человека может произойти конфликт установок и инстинктов, и тогда он или изменит приоритеты, или впадёт в состояние аффекта, или уйдёт в глубокую депрессию?
Мне по такому поводу вспоминаются "протез мозга" и "хозяйственный андроид" Розова: предполагалось начать поставки андроидов-женщин, которые не требуют обслуживания, питаются человеческой пищей, всегда расположены к владельцу, ведут домашнее хозяйство, пригодны для секса не хуже человека, не возражают, всегда с интересом слушают и поддерживают несложную беседу. Ожидалось массовое падение числа браков, из-за того, что мало кто видит в жене человека, а не набор функций.
Ну Розов тут (замена жён андроидами) не первый. По этой теме японцы, а потом американцы оттоптались давно. Да и до них, наверное.
Запомнилась конструкция из трэш-чтива "Шагающая смерть". Этакое переосмысление "Лисистраты" и "теории стакана воды".
Андроиды-чернорабочие - это такие бугаи-мужики, которым секс раз в несколько дней биологически необходим. Без него то ли крышей едут, то ли мрут просто. А андроиды-гейши их обслуживают по расписанию (видимо доп-издание или магазинные неликвиды). При любой попытке недовольства - доступ к гейшам перекрывается, и за 2-3 дня недовольство исчезает.
мало кто видит в жене человека, а не набор функций.
Да и почему ограничиваться женой? почему остальных людей по той же траектории не пустить. И тут тоже получим Азмова, Саймака и х.з. кого ещё.
почему остальных людей по той же траектории не пустить.мне больше Стругацкие нравятся: «Нужны ли мы нам?». Получается, что скорее не нужны. Уж очень многие теряются, если им не надо работать для жизни, или если не получается работать (см самоизоляция) или просто если человек проведёт неделю один и без связи.
В чем разница?
А по сути ни в чем (если речь про андроидов 4-го а не 3-го класса). Особенно с учетом того, что ситуация когда у ребенка с рождения есть интересная база данных и "наведенные" инстинкты и это нормально.
C учетом того, что различие андроида и человека нужно для юридических целей, оно прикручивается вообще отдельно. При этом вполне возможен конфликт статуса и локальных законов (некоторые колонии не считают что тех у кого экстремальные модификации — людьми).
То, что люди обычно рождаются и растут — это не так уж жестко обязательно судя по тексту.
Страж-птицу Шекли написал. И таланта у него на десятерых Азимовых.
да и потом, если начало на испанском, то и окончить можно было на испанском:
Hasta la vista, chico/chica!
В общем, никогда не понимал именно этой сцены :)
Нет, нет, нет, нет. Слушай, как люди говорят. Ты не должен говорить «ответ положительный» или прочее подобное дерьмо. Скажи «без проблем». Если кто-то на тебя наезжает, скажи ему: «Засохни, плесень». А если ты хочешь красиво попрощаться, скажи «hasta la vista, baby».Эту фразу подкинул Терминатору молодой Джон Коннор, когда пытался сделать Терминатора более человечным. Джон, в свою очередь, почерпнул фразу из попсовой песни «Looking for a New Love» Jody Watley. Терминатору было пофиг, поэтому повторил перед «мужиком».
Конор приди, порядок наведи!
Будущее рядом!
В 90-е на 1 или 2 канале шёл очень интересный сериал Bugs (Электронные жучки), про команду юных гениев, которые решают серьёзные проблемы с помощью разного компьютерного хайтеха. Там была серия Assassins Inc (Невидимые убийцы), именно про это. Если сможете, найдите и посмотрите, не пожалеете! Там всё намного круче, дроны размером с комаров, и искусственные вирусы, нацеленные на конкретного человека.
Некоторые страны просто быстрее это приближают.
И вообще - виноваты программисты!
Как убедиться, что я получил то, что нужно? И что оно при появлении дорожного знака в виде зеленого треугольника с синей каймой не влупит авто в ближайший столб?
Есть у него такая книжка — «зенитные кодексы Аль-Эфесби», опубликованная одиннадцать лет назад.
В этой книжке рассматривалась обсуждаемая выше проблема мотивации применения боевых дронов для публики.
Чтобы решить обе проблемы, американцы внедряют в своих дронах автономный искусственный интеллект. Аппараты самостоятельно принимают решение о нанесении ударов, в результате чего их эффективность многократно возрастает, а количество случайных жертв сокращается. Для того чтобы окончательно успокоить общественность, в нейронную сеть каждого аппарата внедряется вспомогательный модуль, ответственный за PR. Благодаря нему процесс принятия решения о нанесении удара моделируется в формате ток-шоу, для чего используется архив американского телевидения[2].
Затем в Афганистане появляется Савелий Скотенков, получившего там кличку Аль-Эфесби (якобы «из Эфеса», вариант: из ФСБ). Он разрабатывает необычайную защиту от дронов: пишет на земле лозунги (так называемые «зенитные кодексы»), способные «вызвать у среднестатистического телезрителя возмущение, отвращение и гневное желание дать достойную отповедь». Когда «зенитные кодексы» попадают в поле зрения дрона, модуль PR начинает поиск подходящих ответов в архиве, а если это не удаётся, поиск повторяется снова с немного другими критериями. Нагрузка на систему серьёзно возрастает, что приводит к потере управления и падению дрона
Десять лет назад, когда нейросети не были мейнстримом, а я был еще начинающим программистом, то воспринимал это как слегка диковатую наркоманию.
Сейчас — нейросети стали очень распространены, я значительно лучше разбираюсь в функционировании сложных программных систем, и такой сюжет мне не кажется даже сильно фантастичным. Меня с одной стороны это пугает, с другой — я абсолютно поражен какой-то непостижимой для меня гранью писательского таланта.
В отчёте говорится, что он атаковал одного из солдат Хафтара, пытавшегося отступить.Пытаешься убежать — значит чувствуешь неуверенность, вину, значит уже преступник, террорист.
А как отличить козопаса от условного террориста?
Вероятно,обложиться тестами в ПО, которые потребуют человеческих жертв.
После сброса атомных бомб на Японию, полномочия института по изучению эффектов воздействия радиации только увеличились.
Вполне возможно что само понятие «террорист» у них отличается от вашего.
А это вообще можно? Однозначно определить?
Кто из этого списка — гражданские а кто военные? А кто при этом гражданские но законная военная цель?
- военнослужащий по контракту
- призывник
- призывник в запасе
- подросток (моложе 18 лет) которому объяснили почему X — надо убивать если скажет начальство, и он с этим согласен, в данный момент. Выдали автомат и отправили убивать.
- подросток которому не автомат выдали а пояс шахида
- командир подразделения
- командир подразделения не в форме и в отпуске
- командир в отставке
- гражданский министр обороны
- президент (считаем что речь про страну где он еще и главнокомандующий)
- вольнонаемный техник, обслуживающие военную систему
- штатнский рабочий военного завода
- вольнонаемный техник, обслуживающие систему
- народ, выбравший президента, который в предвыборной программе открыто заявил что группа лиц X — подлежит уничтожению. Честно выиграл выборы. Честно приступил к выполнению предвыборной программы. Или в данном случае важно как конкретный представитель народа голосовал? Имеет ли значение если X — граждане чужого государства или народ в своем?
Вы думаете турки только Наташ на шарах катают?
В Турции такой высокий уровень IT, что они сами дроны разрабатывают и производят?
PS вы в курсе, что в прошлом году была война между Арменией, вооружённой российским вооружением, и Азербайджаном, вооружённым как турецкими, так и израильскими дронами?
Мины и ракеты с автоматической с селекцией целей разрабатывали и, возможно, применяли еще с 80-ых годов. Принципиальной разницы между пульнуть ракету в сторону, где предположительно находятся корабли противника, чтобы она выбрала там цель пожирнее, и дроном, висящем над полем боя и высматривающим цели подходящие под определенные параметры, кажется нет.
То есть если сделать так, чтоб эта штука сама возвращалась на подзарядку, подключить её к системе видеонаблюдения города (камеры на улицах, магазинах\подъездах, транспорте) и показать ей фото человека, то она будет летать и искать его? Киллер-дрон?
Организация Human Rights Watch призвала отказаться от «роботов-убийц» и ратует за упреждающий запрет на разработку, производство и внедрение полностью автономных вооружений.
Наряду со всякими системами распознавания лиц и прочими высокотехнологичными алгоритмами это слишком вкусная технология, чтобы хотя бы одно правительство отказалось от его использования и разработки. Как бы там общественные организации не надрывались — разработка и совершенствование подобных вундервафель будет продолжаться.
К тому же, чисто технически сложно установить какой-то запрет на разработку такой техники. Все составные компоненты будут непрерывно улучшаться: коптеры будут легче, компактнее, быстрее, грузоподъёмнее, оптические системы точнее, оружие смертоноснее, а софт совершеннее (и это всё будет происходить в совершенно мирных целях). Соединить все эти компоненты воедино — дело, условно, пяти минут.
Да, у распространённых сетей для распознавания изображений есть texture bias: больше внимания обращают на текстуры чем на форму. Работы уменьшающие этот bias уже есть. Впрочем, рой дронов можно научить обходить эту проблему и другими способами. Например использовать микрофоны на дронах для примерного обнаружения места откуда стреляют и для этой области понижать порог распознавания — разносить там всё, что хоть немного похоже на человека.
Можно уточнять человековость через тепловизор.
Кратко:
«Aмериканцы внедряют в своих дронах автономный искусственный интеллект. Аппараты самостоятельно принимают решение о нанесении ударов, в результате чего их эффективность многократно возрастает, а количество случайных жертв сокращается. Для того чтобы окончательно успокоить общественность, в нейронную сеть каждого аппарата внедряется вспомогательный модуль, ответственный за PR. Благодаря нему процесс принятия решения о нанесении удара моделируется в формате ток-шоу, для чего используется архив американского телевидения.
Затем в Афганистане появляется Савелий Скотенков. Он разрабатывает необычайную защиту от дронов: пишет на земле лозунги (так называемые «зенитные кодексы»), способные «вызвать у среднестатистического телезрителя возмущение, отвращение и гневное желание дать достойную отповедь». Когда «зенитные кодексы» попадают в поле зрения дрона, модуль PR начинает поиск подходящих ответов в архиве, а если это не удаётся, поиск повторяется снова с немного другими критериями. Нагрузка на систему серьёзно возрастает, что приводит к потере управления и падению дрона.
Почему страна ведя боевые действия должна подвергать опасности жизни своих солдат? Какая компенсация оплатит матери тело убитого сына?
Жертвам ошибок дронов — никакой компенсации и никакой пощады?
Как в игре Soldier of Fortune, где в странах третьего мира можно было легко вырезать всё местное население под ноль без последствий, но стоило всего лишь ранить (даже не убить) гражданского в Европе (включая, выше упомянутую Голландию), как сразу наступал чёрный экран с надписью «mission failed».
Почему страна ведя боевые действия должна подвергать опасности жизни своих солдат?
Дрон сам решает, кого ему убивать. Если он ошибется и пульнет по своим? Прецедент вроде даже был. Правда не с дронами, а с автоматической пушкой, но это не столь важно. Так что жизни своих солдат очень даже подвергаются опасности.
Кроме того, подобной постановкой вопроса можно любое военное преступление оправдать. Типа загеноцидили местное население, чтобы не пострадали свои солдаты. А то вдруг кто-то из вооруженных прикинется мирным и пульнет военным в спину.
Когда "пилоты апачей", то понятно, кто накосячил, и гипотетически есть кого наказывать за вполне себе военное преступление - атаку некомбатантов. Когда дрон - кто виноват?
Когда дрон — кто виноват?
Мина — тот же дрон, только неподвижный. Кто отвечает, если некомбатант (или даже свой солдат) подорвался на мине? С автономным оружием будет так же.
ЗЫ: При желании, конечно же, можно найти, кто именно отдал приказ на установку мин/запуск дронов.
Мина — тот же дрон
Мины пытаются запретить или хотя бы сильно ограничить возможность их применения уже давно. В том числе и из-за вопроса "принятия решения" о поражении цели.
Были "Конвенция о конкретных видах обычного вооружения" и "Протокол II", был Оттавский договор.
Процесс не назвать сильно успешным (в частности, США и Россия Оттавский договор не подписали), но отношение значительной части людей к минам он показывает. Я полагаю, что к автономным дронам стоит относиться аналогично, т.е. стараться запретить нафиг.
При желании, конечно же, можно найти, кто именно отдал приказ на установку мин/запуск дронов.
Это непосредственно принявшего решение о поражении конкретной цели гипотетически можно привлечь к ответственности, ибо должен был видеть и знать, что творит.
Отдавший приказ на установку мин/запуск дронов такое решение не принимал. Те, кто ставил и запускали, тоже. Так что у них есть железная отмазка, пока данный тип вооружения не запрещен. Поле запрещения можно уже привлекать за само использование запрещенного оружия.
Знаете, противопехотная мина тоже "атакует без непосредственного участия оператора". Но ответственность всё равно на том, кто её поставил и отдал приказ поставить.
С другой философские — как можно применять интеллект для убийства (либо это уже не интеллект, а технология)?
Ну а так, прикольная шняга для устранения особо охраняемых лиц, в некоторых случаях, даже РЭБ не поможет.
Автономный военный дрон впервые самостоятельно атаковал человека