Сотрудники призывают Google прекратить разработку машинного зрения для военных дронов Пентагона

«Мы считаем, что Google не следует становится частью военного бизнеса. Поэтому мы просим компанию отменить проект Maven, а также опубликовать и применять политику, которая чётко заявляет, что ни Google, ни её подрядчики никогда не будут строить военные технологии», — так начинается текст коллективного письма к работодателю, которое сейчас массово подписывают сотрудники Google. Документ подписали уже более 3100 человек, сообщает NY Times. Редакция заполучила текст (pdf).

Как стало известно месяц назад, поисковый гигант заключил контракт с Министерством обороны США. В рамках проекта Maven до конца 2017 года планировалось «внедрить продвинутые компьютерные алгоритмы в правительственные платформы для распознавания объектов на большом количестве движущихся или неподвижных изображений». По сути, это система машинного зрения для военных БПЛА.

В письме проект Maven кратко характеризуется как «настраиваемый ИИ-движок, который использует данные Wide Area Motion Imagery, собранные правительственными беспилотными летательными аппаратами США, для обнаружения транспортных средств и других объектов, отслеживания их движений и передачи результатов распознавания Министерству обороны».

Среди рядовых сотрудников Google обсуждение проекта идёт как минимум месяц. В письме сказано, что сначала проблему пытались обсудить внутри фирмы. Перед сотрудниками выступила председатель совета директоров Google Диана Грин (Diane Greene). Она заверила, что технология Google не будет «управлять беспилотниками» и «не будет использоваться для запуска оружия». Как будто этих фактов достаточно, чтобы всех успокоить. Но нет. На самом деле технологию можно использовать для большого количества иных военных применений, в том числе на боевых БПЛА, которые несут на борту смертельное оружие. И никто не гарантирует, что оператор БПЛА примет решение применить это оружие, получив данные от Google. Обычные гражданские программисты, специалисты по машинному зрению и искусственному интеллекту не хотят брать на себя такую ответственность.

Осенью 2017 года на саммите по системам Искусственного интеллекта и глобальной безопасности Эрик Шмидт выразил опасение, что подобные продвинутые системы машинного зрения и ИИ могут «некорректно использоваться военными для убийства людей». По его словам, в технологической индустрии есть некоторая озабоченность по этому поводу, потому что вообще говоря IT-компании вовсе не для того развивают системы машинного зрения. Многие учёные и исследователи из университетов и кафедр ИИ не предполагают, что их разработки можно использовать таким образом.

Пентагон считает иначе. Проект Maven был запущен в апреле 2017 года, а за прошлый год Министерство обороны вложило в общей сложности $7,4 млрд в области, связанные с Искусственным интеллектом, писал The Wall Street Journal. Теперь вся работа по закупке оборудования и программного обеспечения, а также внедрению систем ИИ координируется в рамках проекта Maven. Первоочередная задача — распознавание объектов и аналитическая обработка огромного количества кадров видеосъёмки, которые снимают дроны-разведчики. На основании этой информации могут приниматься решения об уничтожении целей.

«Этот план нанесёт непоправимый ущерб бренду и способности Google конкурировать на рынке труда, — говорится в письме. — На фоне растущих опасений по появлению предвзятого и вооружённого ИИ, компания Google и так изо всех сил пытается сохранить доверие общественности. Заключив этот контракт, Google пополнит ряды таких компаний, как Palantir, Raytheon и General Dynamics. Довод о том, что другие фирмы, такие как Microsoft и Amazon, также принимают участие в проекте, не уменьшает риски для Google. Уникальная история Google, её девиз Не Будь Злом, и прямое влияние на жизнь миллиардов людей выводят её за скобки».

Сотрудники считают, что нельзя передавать посторонним лицам моральную ответственность за использование созданных технологий. Заявленные ценности Google ясно дают понять, что каждый из пользователей доверяет компании. Этим никогда нельзя рисковать. Данный контракт ставит под угрозу репутацию Google и прямо противоречит основным ценностям. «Создание этой технологии для оказания помощи правительству США в военной разведке — и потенциально смертельных исходах — неприемлемо», — сказано в письме.

Таким образом, подписавшиеся под письмом тысячи сотрудников просят у руководства:

1. Немедленно отменить проект.
2. Разработать, опубликовать и применять чёткую политику, в которой говорится, что ни Google, ни её подрядчики никогда не будут создавать технологии войны.

В ответ на претензии общественности Google отписалась, что Пентагон использует «свободное программное обеспечение, доступное любому пользователю Google Cloud». Технология «используется для выявления изображений-кандидатов, подлежащих изучению человеком, и призвана спасать человеческие жизни и избавить людей от необходимости выполнять очень утомительную работу».

По имеющейся информации, в ближайшее время Google, Amazon и Microsoft поспорят за многомиллиардный контракт на предоставление облачных сервисов Министерству обороны США.