Не раз встречал мнение, что война - двигатель прогресса. Радар, реактивная авиация, компьютеры и медицина - продукты WW-II, новые сплавы, спутниковая связь и интернет - тоже продукты войны, но уже холодной. Может ли война снова стать драйвером, только в области ИИ?
Для начала, задам вопрос: вы сами хотите прогресса для ИИ такой ценой? А пока думаете, позвольте порассуждать на тему, что было бы с Искусственным Интеллектом, если бы началась Третья Мировая война. Прошу не расценивать это как глубокое фундаментальное исследование. Это лишь мнение, и я буду только рад, если читатель приведёт аргументы, почему это не так, или дополнят его.
Итак, предположим, за счёт чего в условиях войны отрасль ИИ могла бы сделать рывок или прорыв. Какие могут быть потенциальные ускорители?
ИИ на стероидах
Во-первых, на войну сразу найдутся деньги. Экстренное финансирование военных разработок и производств в области ИИ подхлестнёт отрасль лучше любых стартапов. А где деньги, там и специалисты. Ну, и жёсткий распил, разумеется, но это уже другая история.
Во-вторых, произойдёт полное снятие этических ограничений в моделях для военных нужд. Это есть и сейчас, но тут будет полностью. Это позволит более свободно экспериментировать с моделями и обучать их на том, на чём раньше было нельзя из этических соображений.
В-третьих, реальные боевые условия ускорят практическое тестирование ИИ-систем. Более того, "виртуальные войны" станут максимально точно моделировать реальные боестолкновения (условно, это когда один ИИ играет за "красных", а второй за "синих", и всё это в рамках виртуальности, не переходя на реальную войну).
Из неявных драйверов можно выделить накопление гигантского массива реальных обучающих данных в областях, где их получить мирным и этичным путём затруднительно или невозможно. Например, терминальные (предсмертные) состояния, нервные расстройства, психозы и фобии, минно-взрывные травмы, применение боевых стимуляторов, психология поведения военнопленных и многое-многое другое.
Появятся новые направления развития ИИ. Например, полностью автономное оружие, которое принимает решения на поражение цели без участия человека. Появятся полевые диагностические и хирургические системы. Это даст стимул развитию смежных дисциплин, таких как нано-технологии. Криптография и криптоанализ выйдут на новый уровень (особенно если к тому моменту появятся стабильно работающие квантовые компьютеры). ИИ сможет управлять войсками в условиях жёсткой радио-электронной борьбы, когда прямая связь затруднена: локальные модели, настроенные синхронно, будут действовать в рамках единой стратегии. В условиях разрушения инфраструктуры ИИ будет разрабатыва��ь гибкие логистические решения для снабжения войск. Я уже не говорю про обработку мощнейших потоков данных, требующую новых носителей информации и протоколов связи. Вроде бы круто, правда? А что будет дальше?
Куда приведёт гонка вооружений на базе ИИ
Главным следствием внедрения ИИ в военное дело является не просто увеличение эффективности, а качественное ускорение темпа войны и сокращение времени на принятие решений человеком. Всё закончится очень быстро. Ни одной из сторон не удастся в полной мере насладиться возможностями затяжного конфликта и использовать всё то, о чем сказано выше. Может случиться сценарий, в котором просто не будет места никакому развитию ИИ.
Например:
Применение ИИ и высокоточных гиперзвуковых средств сделает начальную, интенсивную фазу - решающей. Одна из сторон достигает тактической внезапности, проводя скоординированную массовую кибератаку и выводя из строя ключевые узлы связи и спутники другой стороны, и союзников в регионе. Это сочетается с массированным гиперзвуковым ударом по авиабазам и флоту. Автономные рои дронов подавляют ПВО. Однако другая сторона демонстрируют высокую живучесть и резервы (подводные лодки, выжившие пусковые установки), нанося ответные удары по наземным силам и базам на материке. Эскалация приводит к взаимному уничтожению спутниковых группировок. ИИ-системы сторон начинают сражаться в «зашумленной» среде, вслепую, потеряв глобальную ситуационную осведомлённость). Это продолжается 2-3 недели.
За это время стороны не смогут ни локализовать конфликт, ни выйти на дипломатические пути его решения. В частности, рекомендательные системы ИИ будут блокировать такие попытки. Успешные действия одной стороны (например, потопление нескольких авианосцев, крупная кибератака на систему национального командования) воспримутся как экзистенциальная угроза. Применятся неядерные стратегические средства (например, электромагнитные бомбы против национальной энергосети). Системы ИИ, ответственные за оценку угроз и поддержку принятия решений, в условиях дефицита данных и атак начнут выдавать рекомендации, способствующие дальнейшей эскалации (например, сообщая ложную информацию о пусках межконтинентальных ракет или рекомендуя превентивный удар). Это формирует соответствующий психологический фон для принятия решений командованием. Затем происходит несанкционированный инцидент, ведущий к взаимному ядерному удару. Далее рассуждать на тему развития ИИ просто не будет иметь смысла.
Но, всё же, вероятен менее драматичный сценарий
Первоначальные обмены ударами не дают решающего преимущества ни одной из сторон. Конфликт переходит в фазу взаимной блокады, ударов по экономической инфраструктуре (порты, трубопроводы, подводные дата-кабели) и непрерывной «войны алгоритмов». ИИ используется для оптимизации логистики в условиях санкций, для киберзащиты критической инфраструктуры и для управления подводной и противолодочной войной. Конфликт распространяется на глобальную информационную сферу (борьба нарративов с помощью дипфейков). Военные действия носят очаговый, но постоянный характер. Война затягивается на несколько лет.
Если война пойдёт всерьёз, противники взаимно постараются максимально выбить друг другу (точнее, враг врагу) запасы редкоземельных элементов и заводы по производству аккумуляторов. Так что применению дронов быстро наступит некий предел. Удары по энергоструктуре и дата-центрам также снизят опреационные возможности искусственного интеллекта. Добавим сюда охоту с целью физического уничтожения специалистов в области ИИ, разрыв глобальных цепочек поставок для высокотехнологичного оборудования и несколько случаев применения тактического ядерного оружия. И получим итог: стороны перейдут на менее наукоёмкие способы войны. Более того, подозреваю, что в какой-то момент на передний план выйдут технологии 40-х, 50-х годов ХХ века: например, дизельные подлодки, ствольная артиллерия дальнего действия, моторная авиация (!).
Как будет в таких условиях развиваться ИИ?
Развитие ИИ не остановится, но кардинально сменит парадигму. После того, как стороны конфликта втянутся в войну на истощение, и будут уничтожены или серьёзно разрушены заводы по производству аккумуляторов и чипов, современная элементная база станет недоступной (GPU, специализированные процессоры для ИИ). Производство новых систем ИИ «военного класса» практически остановится. Удары по энергосетям и крупным дата-центрам сделают невозможной эксплуатацию энергоёмких моделей. Облачные вычисления для ИИ станут роскошью. Тренировка новых больших моделей прекратится.
Доминирующими станут не большие языковые модели, требующий гигантских вычислительных мощностей и глобальных цепочек, а децентрализованный ИИ, интегрированный в упрощённые системы. Произойдёт миграция моделей на уцелевшую и устаревшую инфраструктуру. Начнётся активное использование старых, менее эффективных чипов (CPU), распределённых вычислений на уцелевших корпоративных серверах, в мобильных устройствах. ИИ-алгоритмы будут "ужиматься" (tiny ML) для работы на ограниченных ресурсах. Физическое устранение и эмиграция ведущих учёных приведут к "утечке мозгов" в нейтральные страны и к потере экспертности. Знания и исходные коды станут стратегическим активом, охраняемым сильнее ядерных секретов.
Приоритетным станет развитие тактического ИИ. Например, ИИ-ассистенты для операторов тяжёлых пулемётов, автономные морские дроны, управляемые локально установленными моделями, и тому подобное. ИИ будет использоваться для "распределённой разведки": вместо спутникового наблюдения - анализ данных от тысяч относительно простых сейсмических и акустических датчиков, от компактных систем радиоперехвата, установленных партизанскими методами.
Важное значение будет иметь ИИ для оптимизации крайне дефицитных ресурсов. В условиях разрушенной логистики ИИ будет заниматься распределением топлива, продовольствия и запчастей для изношенной техники. Будет развиваться ИИ для управления замкнутыми производственными циклами (рециклинг, замена дефицитных материалов). Косвенно это будет означать для мирного населения жизнь впроголодь, тотальный контроль за их кошельками и деятельностью. 12-часовой рабочий день и детский труд станут нормой.
ИИ для исследований в области военной медицины получит высший приоритет. Сюда же попадут запрещённые в настоящий момент исследования на военнопленных, разработка боевых вирусов и вакцин. Трансплатология и рынок человеческих органов получат основательную подпитку.
Но, возможно главным направлением, особенно после снятия этических ограничений, станет InfoWar AI - ИИ для информационного противоборства. Это будет поле поистине великой битвы, почище Махабхараты. Сверхэффективные алгоритмы для создания и распространения пропаганды, дипфейков. Низкого качества, но массовых. А также для анализа настроений населения и войск. Цель - поддержание морального духа своего населения и разложение морали вражеской.
Чем всё закончится?
Реалистичный сценарий заключается в том, что мир-таки наступит, но ни одна из сторон не получит полной победы. Сферы влияния будут поделены, и остатки цивилизации начнут долгий и, возможно, уже бессмысленный путь к восстановлению утраченного праздника технологий.
Итоги и последствия:
Сильные модели перестанут быть доступны для гражданского применения. ИИ-исследования будут засекречены, станут полностью военизированными.
Приоритетными еще долго останутся деструктивные подходы к использованию ИИ. Про этичный ИИ просто забудьте. После всего, что случится, это никому не будет нужно.
Самое любопытное: оставшаяся в живых общественность сделает вывод, что в войне виноват ... Искусственный Интеллект! Этот проклятый Скайнет... Поэтому в ближайшие годы к любым упоминаниям ИИ в гражданском обществе будет применяться политика нулевого доверия.
Никакого международного сотрудничества в сфере ИИ больше не будет, только суверенный интернет, только суверенный ИИ. Новая холодная война, шпиономания, взаимные подляны.
Даже после окончания горячей фазы войны ИИ будет использоваться для тотального контроля над распределением ресурсов, отслеживания лояльности, подавления инакомыслия. Общество привыкнет к постоянному цифровому надзору, и это уведёт прогресс далеко в сторону от мирного пути развития.
Некоторые технологии, разработанные с помощью ИИ (например, в области репликации аминокислот), уже не удастся забыть. Это будет бомба замедленного действия, и останется только ждать, когда из лабораторий это утечёт само в мир. ...или не само.
Вывод
Даже если некоторые технологии получат ускорение, общий баланс пользы и вреда будет отрицательным. Современный ИИ требует огромных инвестиций, - финансовых, интеллектуальных, инфраструктурных, и международного сотрудничества. В случае войны всё это станет невозможным на очень долгое время. Эффект от бустинга локальных отраслей оборонной промышленности будет недолгим и поверхностным. Самое плохое, что может случиться: ИИ окажется под полным контролем военных, а для гражданского общества будет стигматизирован и закрыт для широких исследований. Возможно, останутся подпольные энтузиасты, которые на свой страх и риск, под постоянной угрозой наказания, будут продолжать исследования на локальных моделях. Но это уже никак не повлияет на общий тренд.
Заключение (оффтопное)
Знаете, о чём я всё время думаю? ИИ мог бы (и всё еще может) дать человечеству шанс потрогать звёзды. Дальний космос может быть исследован кораблями с ИИ на борту. Полетел, исследовал, вернулся через сотни лет, рассказал нам, что там есть. Может быть, даже КТО там есть. И куда можно переселиться, когда нас станет слишком много... Вот это действительно достойная цель для ИИ, а не генерация милых котиков.