Американские СМИ: Пентагон угрожает разорвать сотрудничество с Anthropic в области ИИ

Текущие события отражают растущее противоречие в военной применении технологий искусственного интеллекта: фундаментальное напряжение между этическими принципами поставщиков технологий и потребностями государственных органов безопасности в полномасштабном применении.

С точки зрения Пентагона, его требования ясны и практичны. Он создает централизованную военную экосистему ИИ под названием GenAI.mil и стремится интегрировать передовые модели в качестве основных инструментов во всех аспектах, от логистики до боевых действий. Модели Gemini от Google и Grok от xAI уже успешно развернуты, поскольку они принимают условия полного доступа "без идеологических ограничений". В рамках этой системы военным необходим доступ к высоконадежным, бесперебойным моделям без предварительной оценки или потенциальных ограничений функциональности, поскольку любые предварительные проверки или потенциальные блокировки функций рассматриваются как неприемлемые оперативные препятствия в динамичной и рискованной военной среде.

Позиция Anthropic основана на принципах "ответственной разработки ИИ", которые компания подчеркивала с момента своего основания. Две "красные линии" – запрет на массовую слежку за гражданами своей страны и запрет на полностью автономные системы вооружений – не являются частью коммерческой стратегии, а являются отражением ее основных принципов безопасности и обещаний бренда. Эта позиция завоевала доверие коммерческих партнеров, включая Apple, и способствовала достижению компанией впечатляющей рыночной оценки. Для Anthropic пересечение этих "красных линий" не только вызовет резкое осуждение со стороны внутренних команд и сообщества пользователей, но и может разрушить ее "коммерческие барьеры", построенные на принципах "безопасности и доверия".

Суть этого конфликта заключается в столкновении двух моделей власти: с одной стороны, централизованная государственная власть (башня), стремящаяся к эффективности, контролю и стратегическому преимуществу; с другой стороны, децентрализованная сила (площадь), которую представляют технологические компании, пытающиеся ограничить злоупотребление технологиями и поддерживать общественное доверие посредством саморегулирования. История финансирования и стремительный рост оценки Anthropic свидетельствуют о том, что рынок высоко ценит ее модель, основанную на принципах, что дает ей достаточный капитал для противостояния давлению со стороны правительства.

Угроза со стороны Пентагона можно рассматривать как стратегию давления, направленную на то, чтобы проверить границы допустимого для Anthropic и заставить ее пойти на уступки. Однако в долгосрочной перспективе этот инцидент создает важный прецедент. Если Anthropic пойдет на компромисс, это откроет опасную дверь для других компаний ИИ, размывая границы между коммерческими моделями и технологиями, используемыми в военных целях. Если сотрудничество будет прекращено, Пентагон, возможно, сможет легко найти технологические альтернативы (например, Google и xAI, с которыми уже сотрудничает), но он потеряет партнера, который более строго относится к вопросам безопасности и этики, и это может усугубить раскол между технологическим сообществом и Министерством обороны.

Это не просто спор о коммерческом контракте, это глубокая игра о том, по каким правилам будет использоваться искусственный интеллект самыми могущественными военными силами в мире. Результат этой игры окажет глубокое влияние на глобальную траекторию развития технологий ИИ, на пространство для этических решений, принимаемых коммерческими компаниями, и на границы взаимодействия человека и машины в будущих войнах.