В прошлую пятницу вечером США предприняли два радикальных шага, которые могут изменить будущее ведения боевых действий с использованием искусственного интеллекта. 27 февраля, сразу после 17:00 по восточному времени, администрация Дональда Трампа объявила, что Anthropic PBC, стартап стоимостью 380 миллиардов долларов, чьи продукты на основе искусственного интеллекта под брендом Claude в последнее время получили широкое распространение, представляет собой рискованную цепочку поставок.
Помимо разработки чат-ботов и инструментов для программирования, Anthropic заключила крупные контракты на предоставление военных услуг в области искусственного интеллекта. Отношения испортились, когда компания отказалась предоставить свою технологию для массового внутреннего наблюдения или создания полностью автономного оружия, в то время как правительство заявило, что должно иметь возможность использовать эту технологию для любых законных целей. Своим решением администрация внесла в черный список один из самых перспективных технологических стартапов страны, как будто он принадлежал китайским военным. Президент Трамп также назвал Anthropic в социальных сетях «радикальной левой компанией в сфере искусственного интеллекта».
Примерно через восемь часов США нанесли бомбовый удар по Ирану. Эта кампания не была той самой роботизированной войной, против которой выступал Anthropic, но в ней были признаки того, что такое будущее может наступить очень скоро. Используя систему управления боевыми действиями с искусственным интеллектом под названием Maven Smart System, США атаковали 1000 целей в первые 24 часа войны, что примерно в два раза превышает масштабы кампании устрашения в Ираке в 2003 году. По данным Центрального командования Вооружённых сил США (Centcom), за 10 дней было поражено 5000 целей.
Ранее США использовали систему Maven Smart System для обмена информацией о целях с Украиной в 2022 году, а затем для нанесения ударов по Ираку, Сирии и хуситам в 2024 году.
Но атаки на Иран стали самым масштабным испытанием этой технологии на сегодняшний день.
Кроме того, это был первый случай, когда США атаковали боевые цели с помощью дешёвых полуавтономных дронов.
Командующий вооружёнными силами США в регионе назвал эти устройства «незаменимыми».
В своей книге Project Maven, на которой основана эта статья, Катрина Мэнсон подробно рассказывает о десятилетних попытках военных создать военные инструменты на основе искусственного интеллекта и о том, как США видят будущее войны в эпоху ИИ.
За это время технология значительно усовершенствовалась. Но работа над ней еще далека от завершения.
По словам источника, знакомого с иранской кампанией, с помощью системы Maven Smart военные надеются достичь такого уровня, при котором они смогут идентифицировать и выбрать 1000 целей не за день, а за один час.
Военные также работают над внедрением искусственного интеллекта непосредственно в свои «односторонние ударные беспилотники», чтобы они могли ориентироваться, находить цели и наносить смертоносные удары даже при отсутствии беспроводной связи.
До сих пор неясно, по крайней мере для тех, у кого нет допуска к секретной информации, как именно искусственный интеллект использовался в Иране.
Несмотря на публичный скандал с компанией Anthropic, ее большие языковые модели по-прежнему используются для анализа разведданных и ускорения административных процессов, связанных с такими ударами.
Тимоти Хокинс, представитель Centcom, говорит, что компания использует искусственный интеллект для определения так называемых точек интереса и помогает своему персоналу принимать решения. «В конечном счете эти инструменты помогают руководителям — людям — быстрее принимать более взвешенные решения», — говорит он.
Генеральный директор компании Anthropic Дарио Амодей заявил, что его системы искусственного интеллекта просто не готовы к созданию полностью автономного оружия, которое было бы достаточно надежным и безопасным, и что компания пока не готова сотрудничать с Пентагоном в этой области.
Компания Anthropic подала в суд на правительство, чтобы добиться исключения из черного списка.
Десятки ученых и исследователей в области искусственного интеллекта из OpenAI и Google выразили поддержку компании, а также ее оценке безопасности полностью автономного оружия.
В сообщении в X, объявляющем о внесении в черный список, министр обороны Пит Хегсет назвал позицию Anthropic попыткой «захватить право вето на оперативные решения вооруженных сил Соединенных Штатов». Министерство обороны уже обращалось к другим компаниям с просьбой предоставить бесплатный и мгновенный доступ к искусственному интеллекту, который мог бы быть полезен при выборе целей. В тот же день, когда Пентагон разорвал отношения с Anthropic, компания OpenAI объявила, что заключила с министерством соглашение о предоставлении аналогичных услуг.
Несмотря на демонстрацию силы в Иране, чиновники опасаются, что США рискуют отстать от других стран. Попытки министерства создать парк беспилотников с искусственным интеллектом, способных наносить удары с воздуха и моря, сопровождались фальстартами, срывом сроков и стратегической непоследовательностью.
Пентагон всерьез занялся разработкой искусственного интеллекта в 2017 году, запустив проект Project Maven. Идея, подробно описанная в памятной записке, заключалась в создании алгоритмов компьютерного зрения, которые бы анализировали видео с дронов, распознавали объекты и превращали огромные массивы данных в «оперативную разведывательную информацию и аналитические данные». В то время правительство заявляло, что Maven не будет использоваться для целеуказания во время боевых действий, но люди, причастные к программе, говорят, что она изначально была нацелена именно на это.
С самого начала проект Maven опирался на сотрудничество с частным сектором, и напряженность, подобная той, что возникла между администрацией Трампа и компанией Anthropic, сохранялась на протяжении всего времени. Одним из первых партнеров был Google. Когда новости об этом сотрудничестве стали достоянием общественности, тысячи сотрудников взбунтовались. Google заверила своих внутренних диссидентов, что работа ведется исключительно в «не наступательных целях». Тем не менее в итоге компания решила не продлевать контракт.
В конце концов военным удалось привлечь частный сектор к созданию большей части того, что было им нужно. Palantir, компания, занимающаяся разработкой программного обеспечения для анализа данных, создала систему Maven Smart System, в которой также использовались технологии Amazon.com, Microsoft, стартапа в области компьютерного зрения Clarifai и других компаний.
Amazon Web Services предоставила военным безопасные облачные сервисы. Появились технологические стартапы, специализирующиеся на военных технологиях, в первую очередь Anduril, который был оценен в 60 миллиардов долларов и теперь тесно сотрудничает с Пентагоном.
Сейчас все военные командования США по всему миру используют систему Maven Smart System, а в прошлом году ее начала применять и НАТО. Но США понимали, что не могут полагаться на бесперебойную беспроводную связь во время боевых действий, и им нужны были дроны, способные работать без подключения к штабу. В Министерстве обороны возрос интерес к созданию искусственного интеллекта, который мог бы полностью автономно управлять самолетом (или дроном) и поражать цели без участия человека.
Начиная с 2022 года команда Пентагона Maven начала собирать огромное количество снимков китайских судов в Тихом океане, чтобы создать алгоритмы, которые могли бы использоваться беспилотниками для наведения на цель.
Если такое потенциально автономное оружие вызывало страх и отторжение у его критиков, то оно оказывало странное воздействие на тех, кто его создавал.
«Нет ничего более впечатляющего, чем наблюдать за тем, как машина наводит прицел, — говорит человек, участвовавший в разработке искусственного интеллекта для министерства. — В этом есть что-то инопланетное, что-то потустороннее. Я бы не стал называть это религиозным чувством, это не то слово, — говорит он. — Боже, это ужасно».
Несмотря на всеобщее благоговение, правительственные чиновники продолжали спорить о том, как создавать автономные боевые системы. Разногласия возникали по поводу того, какой объем искусственного интеллекта, связанного с обороной, Пентагон должен разрабатывать самостоятельно, а не закупать у коммерческих поставщиков.
Одна фракция выступала за простые дроны с искусственным интеллектом, которые можно было бы отправлять союзникам в Тихоокеанском регионе и быстро мобилизовать в случае начала боевых действий.
Другие выступали за сложные роевые дроны. Некоторые чиновники настаивали на абсолютной секретности, чтобы сохранить элемент неожиданности, в то время как другие считали, что Пентагон должен демонстрировать свои превосходящие возможности в качестве меры сдерживания.
В 2023 году Джейн Пинелис, которая в первые годы работы в Maven отвечала за тестирование и оценку, заявила, что американским военным нужно повысить допустимый уровень риска, если они хотят идти в ногу со временем в области искусственного интеллекта. Идеального результата просто не может быть: возможны ошибки, вызванные «галлюцинациями» ИИ, недостоверными данными и тем, что алгоритмы со временем теряют точность — это явление называется дрейфом. Единственное, что имело смысл, как позже сказал мне Пинелис, — это продумать, как ИИ может дать сбой.
В 2023 году Кэтлин Хикс, в то время заместитель министра обороны, объявила о существовании проекта Replicator, направленного на быстрое развертывание тысяч автономных дронов в случае конфликта с Народно-освободительной армией Китая (НОАК). Позже она рассказала, что в рамках программы приоритет отдается системам, которые могут быть готовы к 2027 году — году, когда, по словам американских чиновников, Китай планирует получить возможность захватить Тайвань.
Как и в первые дни проекта Maven, США обратились за помощью в Кремниевую долину. Команда Maven будет отвечать за возможности автоматического распознавания целей, фиксируя данные, которые правительство собирает с лодочных камер, портовых камер, инфракрасных систем и тактических беспилотных летательных аппаратов, летающих вблизи вод, окружающих Китай и Тайвань. Это сделало бы это доступным для конкурирующих частных компаний, которые использовали бы данные для построения моделей искусственного интеллекта, помогающих дронам выбирать цели. Среди этих партнеров были Microsoft, Clarifai и AeroVironment, производитель дронов. (Microsoft отказалась от комментариев. Представители Clarifai и AeroVironment не ответили на запросы о комментарии.)
Прошлым летом высокопоставленным чиновникам Министерства обороны, в том числе председателю Объединённого комитета начальников штабов, показали видео, демонстрирующие способность моделей автоматически распознавать китайские эсминцы. Это стало предпосылкой для разработки дронов с искусственным интеллектом, которые могли бы атаковать такие корабли. «По сути, мы постоянно следим за Народно-освободительной армией Китая, чтобы получать данные для обучения ИИ», — говорит один из чиновников Министерства обороны.
Технология Maven выигрывала за счет того, что у нее было больше снимков китайских судов и боевых платформ, чем у коммерческих компаний, занимающихся разработкой искусственного интеллекта. Однако команда, работавшая над проектом, не всегда укладывалась в сроки поставки программного обеспечения, а ее модели было сложно адаптировать для работы с компьютерами дронов. Иногда искусственный интеллект с трудом обнаруживал несколько судов одновременно, а его способность отслеживать объекты могла нарушаться, когда на объектив камеры дрона попадали брызги воды. Производители коммерческих дронов, сотрудничающие с Пентагоном, утверждали, что их собственные модели и системы распознавания целей отлично работают и без помощи Maven.
Параллельно с этим производители беспилотников для Пентагона работали над несколькими другими программами создания автономного оружия. Согласно бюджетным документам ВМС, одна из таких программ под названием Goalkeeper, реализуемая Управлением военно-морских исследований, была направлена на создание «боевых барражирующих боеприпасов», оснащенных «автономным программным обеспечением и вспомогательными системами, предоставляемыми государством», — дронов, которые могли бы летать, выбирать цели и атаковать без участия человека.
Другая программа под названием Whiplash была нацелена на использование доминирующего положения США в одной из отраслей индустрии водных транспортных средств — производстве гидроциклов.
Программа Whiplash была направлена на превращение 600 гидроциклов в роботов, способных нести бомбы. «В Америке много гидроциклов, так что здорово, что мы можем использовать их в военных целях», — объясняет один из участников программы.
По словам источников, знакомых с ситуацией, ЦРУ тайно тестировало упрощённые версии систем Goalkeeper и Whiplash в Чёрном море у берегов Украины. В июле 2024 года Пентагон прекратил испытания, когда на другом берегу Чёрного моря, в Турции, выбросило на берег загадочный гидроцикл, начиненный взрывчаткой.
В ясный июньский день 2025 года в Южной Калифорнии военные отчитались о прогрессе в разработке искусственного интеллекта. В тот день группа беспилотных военных катеров выстроилась для тестирования в гавани Ченел-Айлендс, в миле к северу от военно-морской базы Порт-Уенем. Катера были частью программы Replicator, которой на тот момент было два года и оставалось меньше двух месяцев до официального срока поставки тысяч морских и воздушных дронов.
Все началось с того, что вспомогательные суда отбуксировали автономные катера в море. Двигатели дронов были переведены в нейтральное положение, а режим автономного управления выключен. Испытания были сосредоточены не столько на самих аппаратах, известных как глобальные автономные разведывательные суда, сколько на программном обеспечении, которое позволяло им функционировать самостоятельно.
Две отдельные компании, оборонный подрядчик L3Harris Technologies и Anduril, разработали автономные операционные системы для этих судов.
В тот день Replicator тестировал глобальные автономные разведывательные суда, работающие на продуктах этих компаний.
В целях безопасности автономное программное обеспечение не должно было включаться до тех пор, пока лодки не отойдут на достаточное расстояние от берега.
Но один из дронов, оснащенный системой L3Harris, внезапно рванул вперед. Каким-то образом включился автономный режим, который требовал, чтобы дрон держался на расстоянии 80 метров от всех остальных объектов. Беспилотная лодка умчалась прочь, все еще привязанная к буксиру. Он то ускорялся, то замедлялся, а затем начал двигаться по кругу, переходя из левого борта в правый.
Капитан буксира не мог взять на себя управление беспилотным судном, из-за хаотичных движений которого его собственное судно перевернулось, и он упал в воду. Дрон, все еще привязанный к буксиру, развернулся в его сторону и — по непонятным причинам — начал быстро приближаться.
Капитан, буксировавший отдельный дрон GARC, увидел, что происходит, и поспешил к месту происшествия, поставив свое судно между товарищем и приближающимся дроном. Третий буксир вытащил капитана из воды, и он отделался легкими травмами. С момента выхода дрона из-под контроля прошло всего три минуты.
В ходе расследования была выявлена проблема: оператор на причале случайно отправил дрону сообщение, удаленно отключив предохранитель, который не позволял ему переходить в автономный режим. Это классическая «ошибка из-за невнимательности». Представитель L3Harris заявил, что оператор, по вине которого возникла проблема, не работал в компании, а ее программное обеспечение «продемонстрировало способность управлять различными беспилотными платформами, полезной нагрузкой и коммерческими технологиями, даже если они произведены разными компаниями».
На беспилотные катера добавили физическую кнопку для блокировки таких случайных команд, а на самих катерах стали отображать режим работы. Компании-конкуренты начали делиться уроками по технике безопасности.
Но инцидент продемонстрировал проблемы, которые все еще существовали в стратегии Пентагона по использованию беспилотников и которые нельзя было решить, добавив еще одну-две кнопки.
Программа Replicator еще не достигла того уровня, когда ее создатели могли бы с уверенностью размещать боевые патроны на беспилотном аппарате, не говоря уже о том, чтобы отправлять его в зону боевых действий, где он должен был бы координировать свои действия с другими аппаратами или выполнять конкретный план атаки. К августовскому сроку в рамках программы удалось выпустить сотни беспилотников, но она не достигла своей первоначальной цели.
Пока Пентагон пытался вывести на рынок автономные боевые машины, соответствующие его стандартам, другие игроки вырвались вперед. Американские военные внимательно следили за ходом боевых действий в Украине, где обе стороны использовали миллионы беспилотников для разведки и нанесения ударов. Многие из них управлялись дистанционно, но по крайней мере некоторые из них были оснащены искусственным интеллектом.
Конфликт на Украине рассматривался как первая крупная война эпохи беспилотников. Американские власти опасались, что еще более переломным моментом может стать попытка Китая захватить Тайвань.
По словам представителя службы национальной безопасности Великобритании, американские власти заверили союзников, что США будут готовы к вторжению Китая на Тайвань, хотя, по их мнению, такая атака не является ни неизбежной, ни скорой. Но, добавляет представитель Великобритании, они также признаются: «Мы не готовы».
Когда Трамп вернулся в Белый дом, его администрация переименовала Replicator в Группу автономных боевых действий Министерства обороны США, или DAWG, и назначила ответственным за проект генерал-лейтенанта Корпуса морской пехоты Фрэнка Донована, заместителя командующего Командованием специальных операций.
Донован, которого многие уважают как серьезного профессионала, присутствовал на финальных испытаниях Replicator в августе 2025 года, через два месяца после того, как GARC вышла из-под контроля. Он был разочарован и сожалел, что проект стал достоянием общественности. Но, по словам людей, осведомленных в этом вопросе, его также впечатлил уровень самостоятельности, проявленный экспертами в процессе совместной работы.
Стремясь сосредоточиться на главном, Донован решил сократить количество автономных платформ и использовать более простые дроны для защиты Тайваня. Но не успел он приступить к работе, как Трамп в декабре назначил его главой Южного командования Вооружённых сил США, отвечающего за военные операции в Центральной и Южной Америке, после того как предыдущий руководитель внезапно ушёл в отставку во время кампании Трампа по бомбардировке венесуэльских судов, предположительно перевозивших наркотики.
В Пентагоне и Конгрессе до сих пор ведутся споры по фундаментальным вопросам, связанным с разработкой автономных дронов, и сохраняется неопределённость в отношении того, какие программы получат финансирование и институциональную поддержку. После возвращения Трампа в Белый дом программы Whiplash и Goalkeeper исчезли из публичных бюджетных документов. Однако, согласно бюджетной смете на 2026 год, производство продолжается, хотя названия программ не упоминаются.
Правительство также продолжает запускат�� новые проекты. В январе DAWG объявила конкурс на получение приза в размере $100 млн за создание инструментов, которые будут использовать большие языковые модели для преобразования устных команд от людей в инструкции для роев автономных дронов.
По словам источника, знакомого с ситуацией, среди компаний, подавших заявки, была Anthropic, которая рассматривала этот конкурс как возможность продолжить разработку технологии задолго до ее внедрения. По словам этого человека, проблема не выходила за рамки допустимого для компании, поскольку она нашла способ, с помощью которого люди могут останавливать систему или контролировать ее работу.
Заявка Anthropic не прошла отбор. Среди тех, кто прошел, были две компании, использовавшие технологии OpenAI. Среди других участников — Palantir и Илон Маск со своей компанией SpaceX. На более поздних этапах конкурса требовалось разработать «систему распознавания и обмена информацией о целях» и, в конечном счете, «систему запуска и уничтожения» — так в Пентагоне называют путь, который проходит дрон-убийца. Возможно, однажды такие технологии станут частью полностью автономной системы вооружения. Джек Шанахан, генерал в отставке, ранее руководивший проектом Maven, считает, что ни одну языковую модель в ее нынешнем виде нельзя использовать в полностью автономных системах вооружения, способных убивать. «Чрезмерная зависимость от них на данном этапе — это путь к катастрофе».
Правительство ожидает, что отобранные участники конкурса выполнят свои обязательства до конца лета.
