自律型AIエージェント向けのリスク基準「ARS」提唱、スマートコントラクトへの応用も
Предлагаются критерии оценки рисков "ARS" для автономных AI-агентов, также рассматривается применение в смарт-контрактах.
Основные моменты статьи:
- AI-задачи классифицируются на две категории: задачи, требующие защиты через эскроу, и задачи, связанные с финансовыми операциями, требующие гарантий.
- Результаты моделирования показали снижение финансовых потерь пользователей до 61%.
Переход от технических гарантий к финансовым
В академической статье, опубликованной 5 апреля, предлагаются новые стандарты оплаты "Agentic Risk Standard (ARS)" для управления финансовыми рисками автономных AI-агентов.
Эта структура направлена на обеспечение защиты от рисков потерь, которые невозможно предотвратить только техническими мерами безопасности, особенно в эпоху, когда AI напрямую подключается к управлению активами и онлайн-платежам. Поэтому необходима система, которая четко определяет, "кто" и "как" гарантирует риски для каждой задачи, выполняемой AI.
Предлагаемый ARS классифицирует задачи, выполняемые AI-агентами, на две категории для управления рисками. Простые задачи, связанные только с получением вознаграждения, защищаются с помощью эскроу (депозит третьей стороне), а для сложных задач, связанных с прямыми финансовыми операциями, обязательным требованием является страхование (андеррайтинг).
Традиционно, надежность AI фокусировалась на снижении предвзятости в моделях. Однако, в автономных системах неизбежен риск финансовых потерь из-за непреднамеренных действий. Поэтому необходимо ввести концепцию явного договора компенсации для пользователей и разработать механизм, который преобразует результаты действий AI в конкретные гарантии.
Результаты финансовых симуляций, использующих ARS, показали, что выплата гарантий в случае сбоя AI может снизить финансовые потери пользователей до 61%. Ожидается, что широкое внедрение этих механизмов позволит пользователям с уверенностью передавать управление финансами системам, что приведет к существенному увеличению объема транзакций, осуществляемых через агентов.
Компания Anthropic приостановила публичный релиз следующего поколения AI "Claude Mythos" из-за опасений. Также была создана организация по безопасности "Project Glasswing", в которой участвуют такие компании, как Microsoft и Apple.
Точная оценка вероятности сбоя остается задачей на будущее.
В экспертных и исследовательских кругах высоко оценили появление четкой нормативной базы для автономных платежей, основанных на искусственном интеллекте. Однако, одновременно, был отмечен риск того, что андеррайтеры (страховщики), предоставляющие гарантии, могут столкнуться с финансовыми трудностями, если они устанавливают нулевую премию (отсутствие дополнительной платы).
Ключевой задачей при создании системы, предотвращающей подобные сбои, остается точная оценка частоты ошибок, совершаемых AI-агентами. Как переоценка, так и недооценка вероятности ошибок могут привести к серьезным системным рискам, которые destabilize всю финансовую инфраструктуру.
Вместе с данной публикацией был опубликован соответствующий исходный код, что должно способствовать проведению разработчиками экспериментальных интеграций в реальную инфраструктуру. Комбинирование с существующими блокчейн-технологиями, такими как смарт-контракты для криптовалют, может позволить реализовать концепцию ARS (Automated Risk Scoring) как более прозрачную платежную систему.
Андрисен из a16z утверждает, что "потеря рабочих мест из-за искусственного интеллекта – это миф", указывая на рекордный уровень вакансий в сфере разработки программного обеспечения за последние 3 года. Однако, в то же время, происходят многочисленные сокращения штата, в частности, на 40% в области блокчейна и на 30 000 человек в сфере оракулов. Таким образом, оптимистичный прогноз Андрисена вызвал множество критических замечаний в социальных сетях.
CoinPost: Специальный выпуск New!
📊Руководство по инвестициям: Инвестирование в экосистеме SBI | Комплексное руководство, сочетающее криптовалюты, акции и NISA→ 📈Руководство по акциям: Как начать инвестировать в акции | Базовые знания, технический анализ, акции, связанные с криптовалютами→ 🔰Руководство по криптовалютам: Что такое криптовалюта? Как начать, налоги, инвестирование | Полное руководство для начинающих→ ₿Руководство по Bitcoin: Что такое Bitcoin? | Подробное объяснение принципов работы, истории и перспектив→ 📚Руководство по Ethereum: Что такое Ethereum? | Подробное объяснение принципов работы, истории и перспектив→ 📝Руководство по XRP: Что такое XRP? | Подробное объяснение принципов работы, истории и перспектив→ 💰Что такое стейблкоины? | Подробное объяснение принципов работы, типов, рисков и перспектив→ 💊3 популярные добавки для здоровья, которые интересуют инвесторов: Поддержка при усталости, стрессе, недостатке сна и для контроля уровня сахара в крови→ 💡Вакансии: Крупнейшее в Японии медиа о криптовалютах CoinPost ищет новых сотрудников→