Разработка с использованием ИИ может создавать проблемы безопасности для криптовалют

• Автономные агенты вводят новые финансовые риски, по мнению компании.

• Отчет отмечает, что существующие библиотеки не были разработаны для ИИ без участия человека.

Развитие искусственного интеллекта (ИИ) трансформирует разработку программного обеспечения. Отчет аргентинской компании Lambda Class указывает на то, что эти изменения создают возможности и риски в экосистеме криптовалют, особенно когда автоматизированные системы взаимодействуют напрямую с реальными деньгами без постоянного участия человека.

В документе, опубликованном 23 января, компания, специализирующаяся на разработке инструментов для Ethereum, отмечает, что использование агентов ИИ для операций с криптовалютами вносит новые векторы уязвимостей в систему безопасности. Это элементы, которые не были предусмотрены в первоначальном дизайне инфраструктуры.

Согласно отчету, внедрение агентов ИИ (программ, способных принимать решения и выполнять действия автономно) изменяет важный принцип, лежащий в основе дизайна Ethereum. Это связано с тем, что его универсальная финансовая инфраструктура основана на том, что операции инициируются и понимаются людьми.

Следовательно, когда системы ИИ взаимодействуют напрямую с сетью и подписывают транзакции без предварительной проверки человеком, ошибки перестают быть чисто теоретическими и превращаются в немедленные и необратимые экономические потери.

Анализ команды Lambda Class приобретает особое значение в связи с тем, что 29 января в основной сети Ethereum был внедрен стандарт ERC-8004. Как сообщало CriptoNoticias, этот стандарт, как раз, предоставляет Ethereum систему, в которой агенты ИИ могут автоматически подключаться, проверяться и оценивать друг друга с помощью смарт-контрактов.

Что произойдет, если ИИ заменит оператора-человека?

Согласно отчету компании Lambda Class, библиотеки (наборы инструментов, которые разработчики используют для взаимодействия с Ethereum и отправки транзакций) были разработаны для людей, а не для автономных систем.

Инструменты, такие как ethers.js или web3.js, предполагают, что кто-то понимает, что он подписывает, прежде чем авторизовать транзакцию. Эта модель, как указано, может не работать, когда оператором является ИИ:

• Агент может "галлюцинировать" адрес, то есть сгенерировать действительный, но неправильный адрес.

• Может приводить к путанице с единицами измерения. Например, интерпретировать "отправить 100" как "100 эфиров" вместо "100 долларов".

• Также может быть подвержен манипуляциям с помощью внедрения инструкций, техники, которая вводит вредоносные команды во входные данные.

Каждая из этих ошибок маловероятна в отдельности. Однако, в отчете предупреждается, что при выполнении миллионов автоматических операций, такие сбои становятся неизбежными.

В Ethereum нет банка, который мог бы отменить операции. Как только транзакция подтверждена, средства теряются навсегда (за исключением печально известного хакерства The DAO).

Компания Lambda Class подчеркивает, что это не проблема "улучшения ИИ". Риск заключается в том, чтобы позволить несовершенным системам непосредственно взаимодействовать с необратимой финансовой инфраструктурой. Когда что-то идет не так, система возвращает технические сообщения, которые ИИ не может безопасно интерпретировать.

В отчете проводится аналогия с тем, что робот ведет грузовик без автоматических тормозов: проблема не в намерениях агента, а в отсутствии барьеров, которые остановили бы его, когда что-то пошло не так.

Ограничения как уровень защиты

Для решения этой проблемы команда Lambda Class считает, что способ снижения рисков заключается не в том, чтобы сделать ИИ "более умным", а в том, чтобы установить для него структурные ограничения.

Для этого была разработана eth-agent, платформа разработки, которая вводит обязательные ограничения на выполнение транзакций в каждом кошельке. Например, лимиты расходов за транзакцию, за час и за день. Таким образом, если агент пытается превысить эти лимиты, операция автоматически завершается с ошибкой, без возможности обхода.

Система также возвращает четкие и структурированные сообщения об ошибках. Вместо трудно интерпретируемых технических сообщений, она сообщает, какое правило было нарушено и когда безопасно повторить попытку.

Кроме того, для конфиденциальных операций (например, для больших сумм или новых получателей) требуется ручное подтверждение перед выполнением отправки.

Есть способы избежать рисков, связанных с ИИ

В качестве рекомендации, в исследовании говорится о том, что автономные агенты должны в основном работать с стейблкоинами, чтобы избежать ошибок, вызванных волатильностью цен.

Также рекомендуется использовать смарт-контракты, соответствующие стандарту ERC-4337, который позволяет делегировать разрешения ограниченным и контролируемым образом.

Основная идея этих предложений схожа с идеей операционной системы. Приложения могут давать сбои, но ядро устанавливает правила, которые предотвращают серьезные повреждения. В децентрализованных финансах это "ядро" должно обеспечивать защиту, даже когда искусственный интеллект ошибается.

В отчете делается вывод о том, что агенты искусственного интеллекта будут продолжать совершенствоваться, но никогда не будут идеальными. В финансовой системе, где ошибки не могут быть исправлены, полагаться на их исправление искусственным интеллектом недостаточно.

Теги: Blockchain Ethereum (ETH) Inteligencia Artificial (AI) Relevantes

У вас есть важная информация для наших журналистов? Свяжитесь с нами