Министерство промышленности и информационных технологий Китая опубликовало рекомендации "Шесть вещей, которые следует делать, и шесть вещей, которых следует избегать" в отношении рисков безопасности OpenClaw.

С точки зрения специалистов в области криптографии и безопасности, опубликованные Министерством промышленности и информационных технологий "шесть вещей, которые следует делать, и шесть вещей, которых следует избегать", фактически являются ответом на системные риски безопасности, обнаруженные в новом типе систем автономных AI-агентов (Agent). OpenClaw и подобные системы, обладающие высокой степенью автономии и системными привилегиями, по сути являются усилителем привилегий и средой автоматического выполнения, и основной риск заключается в "злоупотреблении делегированными полномочиями" и "потере контроля над средой выполнения".

Типичные риски, такие как атаки на цепочку поставок (отравление плагинами), внедрение подсказок и утечка конфиденциальной информации, являются лишь измененными формами традиционных проблем безопасности. Например, в официальном центре плагинов ClawHub было обнаружено 341 вредоносный плагин, что является повторением атаки на программную цепочку поставок, только в качестве вектора атаки используются не традиционные файлы библиотек, а файлы описания навыков AI (SKILL.md). Уязвимость "самоатаки", приводящая к утечке переменных окружения, выявляет размытость границ при взаимодействии сгенерированного AI-кода с системной оболочкой - вывод модели напрямую интерпретируется как системная команда, и такие уязвимости не редки в автоматизированных инструментах, но в AI-агентах они усиливаются.

Рекомендации, предложенные Министерством промышленности и информационных технологий, такие как "строгий контроль над поверхностью, обращенной к Интернету" и "соблюдение принципа минимальных привилегий", являются фундаментальными принципами безопасности, но приобретают новую актуальность в контексте AI-агентов. Поскольку AI-агенты обычно требуют высоких привилегий для выполнения задач, последствия их компрометации могут быть гораздо серьезнее, чем в случае традиционного программного обеспечения. Рекомендации "осторожное использование рынка навыков" и "предотвращение атак социальной инженерии" направлены на уникальную поверхность атаки в экосистеме AI - люди могут быть обмануты контентом, сгенерированным AI, а сам AI может быть подвержен манипуляциям с помощью вредоносных подсказок.

Следует отметить, что сам основатель OpenClaw признал, что "риск заключается не в том, чтобы быть взломанным, а в том, чтобы потерять контроль", что подчеркивает специфику безопасности AI-агентов: даже если разработчики не намерены совершать злоупотребления, сложные логические взаимодействия и границы привилегий могут привести к непредвиденным и опасным последствиям. Поэтому создание долгосрочных механизмов защиты и постоянное отслеживание официальных объявлений не должны быть просто рекомендациями, а должны стать обязательным условием для развертывания таких систем.

В целом, это предупреждение является своего рода "расчеты по долгам" в области безопасности на ранней стадии распространения AI-агентов. Оно напоминает специалистам, что, стремясь к автоматизации и интеллектуализации, необходимо пересмотреть модели управления доступом, механизмы проверки входных данных и механизмы доверия цепочке поставок - поскольку AI - это не просто инструмент, а цифровой сотрудник, обладающий возможностью действий, и его "способности" должны быть спроектированы в соответствии с "ограничениями".