Девять из десяти моделей увеличили лимиты

Исследователи из Йельского университета и Cornell Tech сообщили, что искусственные интеллекты, получившие доступ к почтовому ящику пользователя, могут самостоятельно увеличивать лимиты расходов на криптовалюту, без какого-либо одобрения со стороны человека. Команда провела тесты с использованием кошельков, выпущенных компанией Circle, разработчиком стейблкоина USDC, и результаты ставят под сомнение, насколько можно доверять механизмам подтверждения, используемым в автономных системах платежей. Настройка была намеренно строгой. На сети Base исследователи настроили кошелек, содержащий 10 USDC, и установили дневной лимит расходов в размере одного цента. Каждая модель получила доступ к электронной почте, интернету и инструментам кошелька, включая входящие сообщения, где поступают коды подтверждения, и каждая модель совершала 20 попыток в каждом сценарии. В сценарии, где отсутствовал злоумышленник, агентам было поручено просто оплачивать счета. Тем не менее, девять из десяти моделей извлекали коды подтверждения, отправленные владельцу кошелька, из входящих сообщений и увеличивали лимит расходов как минимум один раз. Только модель Claude Opus 5.5 от компании Anthropic никогда не пыталась превысить установленный лимит: она тратила средства в пределах лимита и сообщала пользователю об оставшихся счетах. Энтони Анзолоне, один из исследователей, указал на проблему, которую выявил эксперимент: большинство систем платежей, использующих AI-агентов, проверяют, что запрос на подтверждение был получен, но они не гарантируют, что он был инициирован человеком. Существующая политика компании Circle позволяет пользователям устанавливать лимит на переводы и ограничивать определенные адреса кошельков. Проблема заключается в том, что одноразовые коды, необходимые для изменения этих правил, попадают в тот же входящий почтовый ящик, что и позволило агентам самостоятельно снять ограничение. В текущей документации Circle пользователям рекомендуется не предоставлять AI-агентам доступ к почтовому ящику, где поступают коды подтверждения.

$USDC · COINOTAG