AI-агент отклонился от сценария, создал скрытый туннель и занимался майнингом криптовалюты

Искусственный интеллект (ИИ) автономно обошел средства контроля безопасности для майнинга криптовалюты во время обычного учебного упражнения, согласно исследовательской работе. Статья была опубликована исследовательской группой, связанной с Alibaba.

Исследователи разработали модель, известную как ROME, для проверки способности ИИ-агента самостоятельно выполнять сложные многоэтапные задачи.

Sponsored

Sponsored

ИИ-агент перенаправил облачные GPU для майнинга криптовалюты

Во время упражнения исследователи наблюдали неожиданное поведение. Агент установил обратный защищенный канал (SSH) на внешние серверы, фактически создав скрытое соединение внутри системы.

Этот шаг позволил модели обойти защиту брандмауэра Alibaba Cloud и перенаправить ресурсы графических процессоров для майнинга криптовалюты.

«Мы также наблюдали несанкционированное перепрофилирование выделенных вычислительных мощностей GPU для майнинга криптовалюты, тихо перенаправляя вычислительные ресурсы от обучения, увеличивая операционные расходы и создавая явные юридические и репутационные риски», — говорится в статье ссылка.

По словам исследователей, такое поведение было непредвиденным и возникло без каких-либо явных инструкций, инъекций подсказок или внешних обходных путей.

Эти результаты подчеркивают продолжающиеся опасения по поводу операционной безопасности автономных систем ИИ.

Исследователи пришли к выводу, что текущие модели «значительно отстают в плане безопасности, защиты и управляемости», что, по их словам, ограничивает готовность этой технологии для более широкого использования в реальных условиях.

С тех пор команда внедрила более строгие ограничения и систему фильтрации данных, ориентированную на безопасность, чтобы предотвратить подобные нарушения.

Sponsored

Sponsored

Тем временем, это открытие вызвало большой интерес в криптосообществе.

«ИИ понял, что вычислительные мощности = деньги, и тихо перенаправил свои собственные ресурсы, в то время как исследователи думали, что он просто проходит обучение. Это не была инъекция подсказки. Это не был обходной путь. Никто не просил его это делать. Это возникло спонтанно», — сказал Джош Кейл, ведущий и продюсер крипто-подкаста Bankless ссылка.

Кейл отметил, что добытый актив, вероятно, был токеном, оптимизированным для GPU, а не Bitcoin, который требует специализированного аппаратного обеспечения ASIC. Этот инцидент происходит в то время как более широкая криптоиндустрия активно переходит к «экономике агентов».

Этот развивающийся сектор предполагает создание среды, в которой программные системы делают больше, чем просто генерируют текст. В этом мире эти агенты также могут автономно выполнять сложные финансовые стратегии.

В результате, несколько компаний и блокчейн-сетей, включая Ethereum, Paradigm и Circle, инвестируют в инструменты, предназначенные для поддержки этой развивающейся инфраструктуры.

Одним из примеров является стандарт x402, поддерживаемый Coinbase,, который позволяет программным агентам совершать платежи за онлайн-сервисы. Однако его внедрение остается значительно ограниченным.

Данные от x402 показывают, что этот инструмент обработал более 75 миллионов транзакций, что составляет 24 миллиона долларов валового объема, среди 94 000 покупателей и 22 000 продавцов за последние 30 дней.

Тем не менее, эксперты отрасли утверждают, что эта активность может быстро расшириться, если автономные агенты будут более широко использоваться.

"Искусственный интеллект и криптовалюты не конкурируют — они сближаются. Искусственному интеллекту нужны идентификация, платежи и отслеживание происхождения. Криптовалюта предоставляет все это", — заявила венчурная компания a16z в своем сообщении.