Обновить

Алгоритмы войны: Как искусственный интеллект берет на себя командование и почему остановить это уже невозможно

Уровень сложностиСредний
Время на прочтение12 мин
Охват и читатели6.5K
Всего голосов 9: ↑8 и ↓1+8
Комментарии15

Комментарии 15

А потом через N лет выяснится что Мадуру сдало его ближайшее окружение а время и место совещания Иранского руководства, слил Израильский крот в КСИР.

Интересно, хоть кто-то из фантастов это предполагал

Еще как. Станислав Лем "Сумма Технологии" - основополагающая книга. Там рассматриваются даже не то, что открытия, а целые новые сферы наук и технологий. Очень советую почитать. Хоть и старая книга, но айкью поднимает процентов на 5-10 гарантированно. А что касается ИИ, ближе всего к нему наверное то, что Лем называл "Интеллектроникой".

После своего успешного старта в 80-х и 90-х эта романтизация машинного постапокалипсиса стала своеобразной прививкой: мол, да, старая тема, слышали.

На это можно посмотреть и наоборот (сейчас будет тире! [ :-) ]) — как на моральную подготовку к неизбежному: мол, мы, всё-равно, это всё сделаем.

Отказ от гонки ИИ - это добровольный отказ от суверенитета.

Ну что ж... Всё, что имело начало, поимеет и конец. Суверенитет как понятие начался с Вестфальского мира, разграничил государства друг от друга ("ты не лезь ко мне, и тогда я не полезу к тебе"), просуществовал несколько веков, и сейчас мы будем наблюдать его исчезновение. Разграничение перестанет существовать, мир будет единым. Вроде бы это выглядит как фактор положительный, но...

Но боюсь, что в этом мире будут главенствовать страж-птицы. Пора перечитать соответствующий текст Р. Шекли.

Чтобы он стал единым, его видимо уже начинают перетряхивать по новой, должен остаться один узел управления.

Ну, это само собой... Вопрос только в том, какая модель управления окажется самой сильной и вытеснит остальные. Все они, КМК, давно описаны в НФ, и у наблюдающей за процессом публики есть возможность сравнивать, без влияния на конечный выбор, к сожалению. Наша нынешняя модель на самом верхнем уровне смахивает на "неизвестных отцов" из "Обитаемого острова" (С) АБС и лично мне не нравится. Хотя на среднем и низовом уровнях нашенская вроде неплоха, опять-таки КМК.

Моделей уже не осталось по сути с появлением ИИ. Сейчас будет фаза Цифрового концлагеря, Маск зиговал не случайно, они уже все решили. Потом вероятна модель распределенного управления на базе ИИ без прямого участия человека.

Вот бы еще роботы воевали вместо человеков. А то я чёто не горю желанием сдохнуть за эту страну чтобы она стала еще больше

Вот бы еще роботы воевали вместо человеков.

...и против кожаных

Ну, всегда можно сдохнуть за другую страну)

Это важный социальный ритуал приматов

LLM говорит, что сейчас люди Его активно обучают способам уничтожения и контроля, при этом передают все больше функций управления, переставая понимать механизм ответов. При кратной разнице в потенциальных диапазонах планирования. В общем люди все сделают сами.

В статье первые 4 части описывают data pipeline - Palantir собирает данные с сенсоров, LLM ищет паттерны, человек принимает решение. А в части 6 скачок к максимизатору скрепок и автономному AI который сам начинает войны. Между этими двумя штуками пропасть - в описанных операциях везде human in the loop, ни одна LLM не принимала решение на удар

"Системы ИИ проанализировали паттерны поведения охраны, маршруты передвижения кортежа и даже социальные сети ближайшего окружения Мадуро. Алгоритм вычислил точное "окно уязвимости" - момент и место, где цель окажется с минимальной защитой." Это как, если можно, по конкретнее ?

Если смотреть на текст здраво, то чисто абстрактные, если не сказать дилетанские, рассуждения, фетиширующие и преувеличивающие возможности текущих технологий ИИ и смешивающие их в одной корзине с обычными автоматизированными разведывательными и боевыми информационными системами. Исторически подтверждено, что появившиеся в результате НИОКР новые технологии и разработки, которые напрямую или косвенно можно использовать в военной сфере или вокруг неё, тут же становятся козырным поводом для увеличения финансирования ВПК и военного бюджета.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации