What If AI Agents Book You The Wrong Flight?
Представьте, что вы просите AI-агента забронировать билет бизнес-классом в Корею. Он находит выгодное предложение. Билет соответствует вашему бюджету. Но есть одна проблема: он выбрал не ту Корею.
Даниэль Ишаг, коммерческий директор компании Bakkt, рассказал об одной из версий этого гипотетического сценария на панельной дискуссии.
"Как я могу быть уверен, что агент не забронирует мне билет в Северную Корею вместо Южной?" - спросил он.
Этот пример намеренно преувеличен. Но он демонстрирует практическую проблему, связанную с предоставлением программному обеспечению разрешения на совершение финансовых операций. Следование бюджету не означает понимания задачи.
И как только деньги переведены, кто-то должен разбираться с ошибкой.
Инфраструктура для платежей через AI-агентов становится все более доступной.
Широкий спрос и автономная финансовая деятельность пока недостаточно продемонстрированы.
Наш новый отчет "Состояние платежей через AI-агентов в 2026 году" анализирует, что показывают наблюдаемые данные. 🧵 pic.twitter.com/OxOG1UayVD
— BeInCrypto (@beincrypto) [6 октября 2026 г.] (https://x.com/beincrypto/status/2107574656492605458?ref_src=twsrc%5Etfw)
Бюджет — это только начало
Агент может неправильно понять запрос. Злоумышленник может подсунуть ему инструкции, замаскированные под полезную информацию. Кто-то может украсть доступ к его учетной записи.
Эти сбои могут привести к одному и тому же немедленному результату — платежу, который владелец не хотел совершать, — при этом возникают разные вопросы об ответственности.
В отчете BeInCrypto "Состояние платежей через AI-агентов в 2026 году" 14 из 19 рассмотренных продуктов и рабочих процессов были классифицированы как способные действовать в рамках заранее утвержденных разрешений. Этот вывод описывает задокументированные возможности, а не доказательство того, что эти механизмы контроля не могут дать сбой.
Отдельно, в двух случаях, описанных в отчете, злоумышленники получили 281 200 долларов США до того, как средства были возвращены. Вредоносные инструкции достигли профинансированных кошельков, не нарушая работу блокчейна.
Филипп Лорд, генеральный директор компании Bitcoin Japan Corporation, считает, что AI-агенты могут увеличить риски. Он также прямо говорит о человеческой альтернативе.
"Но криптовалюта и так достаточно рискованна, верно?", - говорит он. "Люди тоже не идеальны, верно?"
Люди уже сейчас переходят по опасным ссылкам и доверяют плохой информации. Передача этой задачи добавляет еще одно решение: чья будет вина, когда программное обеспечение действует от вашего имени?
Давление, заставляющее постоянно развиваться
Как рассказывает Ишаг, конкуренция выходит за рамки компаний, стремящихся привлечь клиентов. Страны соревнуются за электроэнергию, вычислительные мощности и чипы, необходимые для создания AI.
"Это государство против государства", - говорит Даниэль Ишаг из Bakkt.
Он обеспокоен тем, что давление, заставляющее действовать быстро, может привести к пренебрежению вопросами безопасности.
Это создает некомфортную ситуацию для автоматизации финансовых процессов: гонка за тем, чтобы программное обеспечение делало все больше, противоречит потребности пользователей в уверенности, что кто-то может остановить этот процесс или помочь им восстановить ситуацию после сбоя.
Сейчас для рынков важен только искусственный интеллект.
Компании, занимающиеся инфраструктурой для искусственного интеллекта, составляют 40% рыночной капитализации индекса S&P 500.
В то же время, всего три компании-производителя чипов составляют 28% индекса MSCI Emerging Markets.
Компании, связанные с искусственным интеллектом, также составляют 49%... изображение: twitter.com/d8Nqu9Kuyo
— The Kobeissi Letter (@KobeissiLetter) [1 октября 2026 г.] (https://x.com/KobeissiLetter/status/2105710585102958919?ref_src=twsrc%5Etfw)
Сначала прочитайте условия, а затем – детали.
Эхуд Таль, соучредитель и генеральный директор компании Sailo Technologies, занимающейся безопасностью блокчейна, представляет возмещение как часть решения, предлагаемого его компанией.
"Мы впервые предлагаем нашим клиентам гарантию возврата денег."
В качестве конкретного примера того, как можно распределить ответственность, рассмотрим кошелек Stripe Link. В его текущих условиях использования указано, что пользователи несут ответственность, в отношениях между собой и Stripe, за транзакции, инициированные подключенными агентами, даже если эти транзакции непреднамеренны или являются результатом ошибок, галлюцинаций или неправильно понятых инструкций.
В условиях использования предусмотрено исключение в случае технических сбоев или ошибок со стороны Stripe.
Эта договорная позиция не определяет все юридические права потребителей. Она показывает, почему разрешение на использование платежного сервиса не следует рассматривать как обещание, что поставщик услуг покроет ошибки, допущенные агентом.
Одобрение транзакции на сумму 200 долларов сообщает поставщику платежных услуг только о сумме. Это может сказать гораздо меньше о продукте, получателе или условиях, которые вы имели в виду.
После того, как покупка прошла неудачно, эта разница может стать ключевым моментом в споре.
Ведутся работы по упрощению разрешения таких споров. Протокол платежей для агентов Google описывает подписанные записи, связывающие инструкции пользователя, одобренную покупку и платеж. Такие записи могут помочь установить, что было авторизовано. Однако они сами по себе не гарантируют возмещение.
Существующие обязательства также остаются в силе. Британский Регулятор финансовых услуг заявляет, что регулируемые компании несут ответственность за результаты для потребителей при использовании искусственного интеллекта и предупреждает, что проверка человеком может превратиться в формальное выполнение требований.
Для тех, кто финансирует агента, важные вопросы следующие: Какие покупки он может совершать? Какие записи сохраняют ваши инструкции? Можете ли вы остановить дальнейшие расходы? И кто занимается платежами, которые вы оспариваете?
"Мы должны создавать компании, которым люди могут доверять", - говорит Филипп Лорд из Bitcoin Japan Corporation.
Для клиентов это доверие будет подвергнуто проверке после совершения покупки: когда агент совершает ошибку, и кому-то приходится решать, кто получит свои деньги обратно.