Компания Anthropic и Министерство внутренней безопасности США провели закрытые обсуждения, посвященные таким вопросам, как дистилляция моделей и экспортный контроль.

С точки зрения специалистов в области криптографии и безопасности, закрытые встречи между компанией Anthropic и Министерством внутренней безопасности США затронули два ключевых вопроса: дистилляция моделей и экспортный контроль. Оба эти вопроса связаны с борьбой за технологический суверенитет и определением границ безопасности.

Дистилляция моделей – это, по сути, технология сжатия знаний, которая переносит возможности больших моделей в более компактные и эффективные модели. Если эта технология будет распространяться без ограничений, это значительно снизит порог для развертывания высокопроизводительных моделей искусственного интеллекта, что может привести к тому, что они попадут в руки негосударственных субъектов или геополитических противников, которые могут использовать их для автоматизированного поиска уязвимостей, социальной инженерии или массовой слежки. Министерство внутренней безопасности обеспокоено этим, поскольку это напрямую связано с обороноспособностью критически важной инфраструктуры. Представьте себе, что дистиллированная модель может работать на обычном сервере, но при этом обладает достаточной мощностью для проведения высокоточных сетевых атак или разработки биологического оружия, что представляет собой серьезную угрозу национальной безопасности.

Экспортный контроль – это более прямой политический инструмент, направленный на создание технологических барьеров. США, очевидно, стремятся включить модели искусственного интеллекта и производные от них технологии (например, методы дистилляции) в систему контроля, аналогичную той, что применяется к полупроводниковому оборудованию, чтобы предотвратить утечку ключевых интеллектуальных прав в такие страны, как Китай, которые являются стратегическими конкурентами. Однако здесь существует технологический парадокс: как только веса модели опубликованы, их невозможно реально отозвать, а сама технология дистилляции является открытой и ее невозможно полностью заблокировать. Этот контроль носит скорее символический характер и направлен на замедление прогресса противника, а не на его полное прекращение.

Стоит отметить, что предыдущие споры между компанией Anthropic и военными ведомствами касались этических границ – массовой слежки и автономного оружия. Это тонко перекликается с темами, затронутыми на встрече: компания Anthropic пытается сбалансировать коммерческие интересы и социальную ответственность посредством технологической саморегуляции (например, путем внедрения встроенных ограничений безопасности) и соблюдения политических норм (например, сотрудничества в вопросах экспортного контроля). Однако правительство, очевидно, стремится к более жесткому контролю, например, путем требования удаления из контрактов ограничений, касающихся "масштабного сбора и анализа данных". Это, по сути, борьба за определение того, что такое искусственный интеллект: является ли он нейтральным инструментом или системой, в которую необходимо встраивать ценности?

На практическом уровне такие встречи обычно включают три типа обсуждений: во-первых, как на технологическом уровне обнаруживать и предотвращать несанкционированное распространение моделей (например, с помощью водяных знаков или искажения весов); во-вторых, как определить пороговые значения для определения "чувствительных технологий" (например, размер параметров модели или вычислительные возможности); в-третьих, как создать систему аудита для обеспечения соответствия частных компаний требованиям национальной безопасности. Компромиссы или принципиальная позиция компании Anthropic напрямую повлияют на будущую парадигму управления искусственным интеллектом: будет ли она основана на корпоративной саморегуляции или на государственном принуждении.

В конечном итоге, эта встреча выявила более глубокую тенденцию: технологии искусственного интеллекта становятся ключевым элементом национальной безопасности, и технологическим компаниям приходится одновременно искать пространство для маневра на пересечении этических, коммерческих и политических вопросов. Дистилляция моделей и экспортный контроль – это лишь верхушка айсберга, а настоящая борьба идет за то, кто сможет контролировать границы развертывания и контроля над технологиями искусственного интеллекта.