Компания Google расширила свой контракт с Министерством обороны США, предусматривающий использование её системы искусственного интеллекта (ИИ) Gemini в секретных операциях или для «любых законных целей». Это решение совпало с выходом Google из тендера Пентагона на сумму 100 миллионов долларов на создание автономных роёв дронов с голосовым управлением. Расширение сотрудничества вызывает недовольство среди сотрудников Google, однако в компании заявили, что «гордятся» этим контрактом с оборонным ведомством.
Изменение этических принципов и контракты с правительством
Возникает вопрос о том, как менялись этические принципы и политика Google на протяжении времени. Действительно ли эти изменения позволяют компании выйти на весьма прибыльный, хоть и этически спорный, рынок государственных контрактов?
- Google активно осваивает рынок военных и государственных заказов.
- Новый контракт с Пентагоном разрешает использование Gemini для «любых законных целей».
- Сотрудники Google выражают недовольство новыми условиями сотрудничества.
Эволюция принципов работы с ИИ
Для части сотрудников Google отход компании от её некогда известного девиза «Не делай зла» становится реальностью. Однако это не первый случай изменения политики. Ранее принципы Google в области ИИ гласили, что компания не будет применять свои инструменты ИИ там, где они «могут причинить вред», а также не будет «разрабатывать или развёртывать» ИИ-инструменты для целей слежки или создания оружия.
Первоначально сообщалось, что Google вышла из конкурса Пентагона по созданию технологии, способной преобразовывать устные инструкции в команды для автономного роя дронов, из-за нехватки ресурсов. Однако, по данным Bloomberg, истинной причиной стал внутренний этический аудит. Это, по крайней мере, указывает на то, что внутренний этический совет компании всё ещё функционирует и обладает влиянием.
Пункт «любые законные цели» и его последствия
С другой стороны, с расширением доступа к Gemini для секретных сетей, Пентагон получает возможность использовать ИИ-систему «для любых законных целей». Этот пункт контракта, по мнению обозревателей, выглядит скорее как формальность, чем реальное ограничение.
Ранее, до начала 2000-х годов, установка «бэкдоров» (тайных ходов для доступа) в коммуникационных системах для правоохранительных органов была незаконной, но законы CALEA и Patriot Act изменили эту ситуацию. Аналогично, федеральным правоохранительным органам было запрещено законно изымать данные с серверов, расположенных в других странах, до принятия закона CLOUD Act.
Подобные изменения показывают, что то, что сегодня незаконно, завтра может стать легальным, и наоборот. Это фактически предоставляет Пентагону лазейку на будущее, если их предполагаемый вариант использования внезапно будет узаконен.
Таким образом, пункт «любые законные цели» не предлагает значительной защиты от использования ИИ для автономных систем вооружения или массового внутреннего наблюдения, как на это указывала компания Anthropic. Его действие дополнительно ослабляется включением в контракт Google с Министерством обороны США положения, согласно которому компания не имеет «никакого права вето на законные операционные решения правительства». С аналогичным условием столкнулась и OpenAI в своей сделке с Пентагоном.
Это даёт Пентагону практически полную свободу действий в выборе направления использования Gemini в своих секретных проектах. Массовое наблюдение существует уже десятилетия, но ИИ призван сделать его более интеллектуальным, целенаправленным и эффективным.
Привлекательность военных контрактов и недовольство сотрудников
Привлекательность работы в качестве подрядчика для правительства и вооружённых сил очевидна: речь идёт о значительных финансовых средствах. Едва успели урегулировать вопросы прекращения сотрудничества Anthropic с государственным сектором, как OpenAI уже заключила новый расширенный контракт, чтобы занять ту самую нишу, которой стремилась избежать Anthropic.
Подобным образом, компании Microsoft и Amazon уже выиграли множество контрактов, связанных с облачными технологиями, ИИ и кибербезопасностью. Похоже, Google стремится наверстать упущенное на этом рынке.
Сотрудники Google давно выражают озабоченность этическими аспектами сотрудничества с правительством. В 2018 году протесты персонала привели к тому, что компания отказалась от участия в «Проекте MAVEN», связанном с использованием технологий Google для анализа видеозаписей ударов беспилотников. Эти протесты также способствовали появлению (ныне отсутствующих) принципов ИИ Google, призывающих «не причинять вреда».
Google также сталкивалась с аналогичным недовольством, когда сотрудники выступали против потенциального участия компании в предоставлении технологий Иммиграционной и таможенной службе (ICE) и Погранично-таможенной службе (CBP).
По сложившейся традиции, сотрудники Google снова организуют «цифровые пикеты»: более 600 человек подписали письмо генеральному директору Сундару Пичаи с призывом отказаться от любого использования технологий ИИ Google в военных целях.
В ответ на это Кент Уокер, президент Google по глобальным вопросам, написал во внутренней служебной записке, которая стала достоянием издания The Information: «Мы с гордостью работаем с оборонными ведомствами с самых ранних дней Google и продолжаем считать важным поддерживать национальную безопасность продуманным и ответственным образом».
02.05.2026