OpenAI и Paradigm запускают систему оценки безопасности смарт-контрактов

Поделиться

Ссылка скопирована

Компания OpenAI представила новую систему под названием EVMbench, предназначенную для оценки того, насколько хорошо агенты искусственного интеллекта могут обнаруживать и устранять уязвимости в смарт-контрактах для криптовалют.

Компания сообщила 18 февраля, что разработала EVMbench в партнерстве с Paradigm. Эта система оценки ориентирована на контракты, созданные для Ethereum Virtual Machine, и предназначена для проверки работы систем искусственного интеллекта в реальных финансовых условиях.

В OpenAI заявили, что смарт-контракты в настоящее время обеспечивают безопасность более чем 100 миллиардов долларов в открытых криптовалютных активах, что делает тестирование безопасности все более важным, поскольку инструменты искусственного интеллекта становятся все более совершенными.

Тестирование того, как ИИ справляется с реальными рисками безопасности

EVMbench оценивает агентов искусственного интеллекта по трем основным задачам: обнаружению уязвимостей, исправлению дефектного кода и проведению смоделированных атак. Система построена на основе 120 высокорискованных проблем, взятых из 40 предыдущих аудитов безопасности, многие из которых были получены из публичных конкурсов аудита.

Вам также может понравиться: Создание инфраструктуры открытого ИИ: взгляд Gonka на децентрализованные вычислительные мощности

Дополнительные сценарии были взяты из обзоров блокчейна Tempo, сети, ориентированной на платежи и предназначенной для использования стейблкоинов. Эти случаи были добавлены для отражения того, как смарт-контракты используются в финансовых приложениях.

Для создания тестовой среды OpenAI адаптировала существующие скрипты для эксплуатации и создала новые, где это было необходимо. Все тесты на эксплуатацию выполняются в изолированных системах, а не в реальных сетях, и используются только ранее выявленные уязвимости.

В режиме обнаружения агенты просматривают код контракта и пытаются выявить известные уязвимости. В режиме исправления они должны устранять эти уязвимости, не нарушая работу программного обеспечения. В режиме эксплуатации агенты пытаются вывести средства из уязвимых контрактов в контролируемой среде.

Первые результаты и влияние на отрасль

Компания OpenAI заявила, что была разработана специальная тестовая среда для обеспечения возможности воспроизведения и проверки результатов.

Компания протестировала несколько передовых моделей с использованием EVMbench. В режиме эксплуатации GPT-5.3-Codex показал результат 72,2%, по сравнению с 31,9% для GPT-5, выпущенной шесть месяцев ранее. Показатели обнаружения и исправления были ниже, что показывает, что многие уязвимости все еще трудно обрабатывать системам искусственного интеллекта.

Исследователи отметили, что агенты работали лучше всего, когда цели были четкими, например, при выводе средств. Производительность снижалась, когда задачи требовали более глубокого анализа, например, при проверке больших кодовых баз или исправлении незначительных ошибок.

Компания OpenAI признала, что EVMbench не полностью отражает реальные условия. Многие крупные криптопроекты проходят более тщательные проверки, чем те, которые включены в этот набор данных. Некоторые атаки, основанные на времени и затрагивающие несколько цепочек, также выходят за рамки возможностей этой системы.

Компания заявила, что эта система оценки предназначена для поддержки использования искусственного интеллекта в целях кибербезопасности. По мере того, как инструменты искусственного интеллекта становятся все более мощными, они могут использоваться как злоумышленниками, так и аудиторами. Измерение их возможностей рассматривается как способ снижения рисков и стимулирования ответственного внедрения.

Вместе с выпуском, OpenAI сообщила о расширении программ безопасности и инвестициях в размере 10 миллионов долларов в виде кредитов API для поддержки защиты открытого исходного кода и инфраструктуры. Все инструменты и наборы данных EVMbench были опубликованы для поддержки дальнейших исследований.

Читайте далее: OpenAI заключает соглашение с Amazon на 38 миллиардов долларов для поддержки моделей искусственного интеллекта