Всё автономное должно быть проверено | Мнение

Поделиться

Копировать ссылку

Раскрытие: Мнения и взгляды, выраженные здесь, принадлежат исключительно автору и не отражают взгляды и мнения редакции crypto.news.

Мир стремительно движется к полной автоматизации с головокружительной скоростью. За то время, пока вы читаете этот обзор, системы ИИ примут бесчисленные финансовые решения, обработают огромные объемы данных и напишут тонны кода при минимальном участии человека. Однако очень немногие задаются вопросом, который должен лежать в основе каждого автономного процесса: Кто или что подтверждает проверяющего?

Вот в чем проблема. Всё, что работает автономно, от самовыполняющихся умных контрактов до интерпретации подсказок крупными языковыми моделями, должно быть подтверждено. Без проверки автономия превращается в хаос, маскирующийся под эффективность. Индустрия блокчейн, больше чем любой другой сектор, должна знать это лучше всех.

Вам также может понравиться: ИИ-боты делают ставки миллиардами на будущее, но (никто не знает, обманывают ли они) | Мнение

ИИ-центры обработки данных как критические узловые точки

Каждый раз, когда кто-то подает запрос модели ИИ для принятия решения, этот запрос отправляется в дата-центр. Эти центры сейчас являются нервной системой инфраструктуры ИИ мира, и они расширяются с ошеломляющей скоростью.

Однако эти запросы и ответы не проходят проверку. Дата-центры ежедневно выполняют миллиарды выводов ИИ, но никто не может проверить целостность подсказки или подлинность результата. Это похоже на доверие бирже, которая не публикует доказательства резервов.

Также существуют повсеместные риски, связанные с критическими решениями. В умной машине, если модель ИИ принимает решение и оно не выполняется на 100%, могут возникнуть очень серьезные последствия, например, авария, приводящая к смертельным исходам.

Критики могут утверждать, что такой уровень паранойи излишен и что уровни проверки будут мешать инновациям. Это распространенное возражение, и оно полностью упускает суть. Когда автономия масштабируется без ответственности, эффективность становится уязвимой.

Думайте о LLM как о умных контрактах для мышления. Они принимают входные данные (запросы), обрабатывают их согласно закодированным правилам (модель) и производят детерминированные ответы (ответы). Однако, в отличие от умных контрактов, их операции непрозрачны. Их можно манипулировать с помощью зараженных данных, предвзятых обучающих наборов или даже злонамеренных пользователей, создающих враждебные запросы.

Проверка запросов — подтверждение того, что входные данные в LLM не были изменены, подделаны или внедрены скрытые нагрузки — должна рассматриваться с такой же серьезностью, как проверка транзакций в блокчейне. Аналогично, проверка выходных данных обеспечивает возможность криптографического отслеживания и аудита того, что выходит из модели.

Без этого риск — не только плохие данные. Это системный сбой доверия во всех секторах, от DeFi-трейдинговых ботов, полагающихся на ИИ-анализ, до автоматизированных инструментов соблюдения нормативных требований в традиционных финансах.

Постквантовый уровень доверия

Здесь вступает в игру инфраструктура постквантового уровня. Криптография, устойчивая к квантовым вычислениям, — единственный способ обеспечить будущее автономных систем, которые скоро превзойдут человеческий контроль. Центры данных на базе ИИ, защищенные децентрализованными сетями постквантовой проверки, могут гарантировать, что каждый запрос и каждый вывод проверяются на уровне протокола.

Это не научная фантастика. Блокчейн уже задает шаблон — децентрализованный консенсус, проверяемые вычисления и неизменяемые аудиторские следы. Сейчас задача — применить те же принципы к выводам ИИ и потокам решений, создавая проверяемую «сеть доверия» между агентами ИИ, дата-центрами и конечными пользователями.

Компании, создающие и защищающие слои валидации для автономных операций, могут стать опорой инфраструктуры экономики ИИ — подобно тому, как Ethereum (ETH) стал слоем расчетов для DeFi. Инвесторам стоит внимательно следить за проектами, объединяющими постквантовую криптографию и проверку ИИ. Это не следует воспринимать только как кибербезопасностный проект, а скорее как совершенно новую категорию цифровой инфраструктуры.

Люди опережают события с автономией ИИ

Вот неприятная правда: люди спешат интегрировать LLM в критически важные рабочие процессы без стандартов для проверки. Они предполагают, что скорость равна прогрессу. Если игнорировать необходимость проверяемого доверия на уровне инфраструктуры, это будет похоже на неуправляемый поезд.

Доверие должно расти параллельно с автоматизацией. Когда слишком сильно полагаются на системы, которые не могут объяснить или проверить свои собственные решения, это подрывает ту самую уверенность, на которой держатся рынки.

Блокчейн должен вести эту дискуссию

Криптовалютный сектор уже обладает инструментами для решения этой проблемы. Доказательства с нулевым разглашением, децентрализованные оракулы и распределённые сети валидации могут быть расширены за пределы финансовых транзакций до проверки ИИ. Основываемая на блокчейне структура для быстрой проверки запросов и результатов может обеспечить уровень доверия, необходимый регуляторам, предприятиям и пользователям перед передачей большего объёма решений машинам.

Иронично, что блокчейн, ранее критикуемый за медлительность и высокие затраты, теперь может стать единственной структурой, способной удовлетворить требования к сложности и ответственности ИИ. В сочетании с пост-квантовой криптографией он создаёт безопасную, масштабируемую и защищённую от вмешательства основу для автономных операций.

Оптимистичный сценарий

Если всё будет проверено — каждый запрос, каждый результат, каждый обмен данными — переход мира к автоматизации может произойти безопасно. Данные станут надёжными, системы — устойчивыми, а эффективность — достигнутой без ущерба для доверия. Это путь к по-настоящему интероперабельной цифровой экономике, где ИИ и блокчейн не конкурируют за доминирование, а укрепляют целостность друг друга.

Как только ИИ станет полностью автономным, у нас не будет второго шанса построить слой доверия под ним.

Автономия без проверки — иллюзия прогресса. Следующая фаза цифровой эволюции, от ИИ-управляемых финансов до автономной промышленности, будет зависеть от того, сможет ли человечество проверять не только транзакции, но и решения, их движущие. Сообщество блокчейн имеет редкую возможность сейчас определить эти стандарты, прежде чем непроверенный ИИ станет нормой.

Подробнее: Обещание DeFi заменить TradFi, а не просто существовать на их фоне | Мнение

Regan Melin

Regan Melin — канадский предприниматель и стратег венчурных инвестиций, известный своей деятельностью на стыке кибербезопасности, искусственного интеллекта и децентрализованной инфраструктуры. Имея образование в области экономики и финансов, Regan применяет междисциплинарный подход к созданию устойчивых, технологичных предприятий, которые соединяют традиционные корпоративные системы с децентрализованным будущим. Naoris Ventures поддерживает передовые компании, формирующие цифровой ландшафт завтрашнего дня с помощью прорывных технологий, надёжной безопасности и масштабируемой инфраструктуры. В портфеле — такие инновации, как SecureAuth, предоставляющая передовые решения по идентификации и управлению доступом; SkyTrade, следующая генерация цифровой торговой платформы для токенизированных активов; AutoMesh, создающая децентрализованную инфраструктуру для автоматизации и IoT; StemPoint, аналитическая платформа на базе ИИ, улучшающая операционную разведку; и Level One Robotics & Controls, лидер в области промышленной автоматизации и робототехники.

LinkedIn