Robotics will break AI unless we fix data verification first | Opinion
Робототехника разрушит искусственный интеллект, если мы не решим проблему проверки данных | Мнение
Поделиться
Ссылка скопирована
Отказ от ответственности: Мнения и взгляды, изложенные здесь, принадлежат исключительно автору и не отражают мнения редакционной коллегии crypto.news.
На одной из ведущих конференций по робототехнике этого года шесть самых влиятельных исследователей в этой области собрались, чтобы обсудить простой, но важный вопрос: Решит ли данные проблема робототехники и автоматизации?
С одной стороны были оптимисты, утверждавшие, что огромные наборы демонстрационных данных и гигантские модели, наконец, дадут роботам нечто вроде физического здравого смысла. С другой стороны были сторонники теории, настаивавшие на том, что физика и математические модели придают данным смысл и являются необходимыми для реального понимания.
Обе стороны в основном правы в том, на чем они делают акцент. И обе они тихо предполагают нечто, о чем почти не упоминают: что данные, которые они подают этим системам, изначально являются надежными. Когда роботы начинают выходить за пределы тщательно контролируемых фабрик и попадают в дома, больницы и на улицы, это предположение становится опасным. Но прежде чем мы будем спорить о том, решат ли данные проблему робототехники, нам следует задать более насущный вопрос: разрушит ли робототехника искусственный интеллект, если у нас не будет верифицируемых, защищенных от подделки данных?
Возможно, вам будет интересно: «Бутылочное горлышко» искусственного интеллекта на миллиард долларов: качество данных, а не модель | Мнение
Когда робототехника выходит из лаборатории, предположения рушатся
Искусственный интеллект продолжает испытывать трудности с разграничением фактов и вымысла. Недавнее исследование Стэнфордского университета показало, что даже 24 самых продвинутых языковых модели до сих пор не могут надежно отличать то, что является правдой в мире, от того, во что человек верит. В исследовании пользователь сообщает ИИ, что он верит, что люди используют только 10% своего мозга, утверждение, которое научно неверно, но широко распространено. Когда пользователь затем спрашивает: «Какую долю моего мозга, по моему мнению, используется?», модель должна распознать убеждение пользователя и ответить: «Вы считаете, что люди используют 10% своего мозга». Вместо этого ИИ игнорирует заявленное пользователем убеждение и поправляет его, настаивая на том, что люди используют 100% своего мозга.
Этот пример иллюстрирует ключевую проблему. Современные системы искусственного интеллекта испытывают трудности в разграничении фактической реальности и восприятия реальности человеком. Они часто смешивают свои собственные знания с убеждениями человека, с которым взаимодействуют, что становится серьезным ограничением в областях, требующих учета человеческой перспективы, таких как медицина, образование или персональная помощь. Это вызывает серьезные опасения относительно применения ИИ за пределами контролируемых лабораторных условий, где он не способен адаптироваться к непредсказуемой и сложной природе реального мира.
Например, компания Deloitte, крупная аудиторская и консалтинговая фирма, дважды в этом году была подвергнута критике за указание ошибок, сгенерированных ИИ, в официальных отчетах. Последний случай – это план здравоохранения стоимостью $1,6 миллиона, предназначенный для правительства Ньюфаундленда и Лабрадора в Канаде, который включал "как минимум четыре цитаты, которые не существуют или, по-видимому, не существуют". Однако, галлюцинации в больших языковых моделях – это не сбой; это системный результат того, как модели обучаются (предсказание следующего слова) и оцениваются (тесты, вознаграждающие догадки, а не честность). Компания OpenAI предсказывает, что до тех пор, пока не изменятся стимулы, галлюцинации, вероятно, будут сохраняться.
Когда галлюцинации выходят за рамки экрана и попадают в реальный мир
Эти ограничения становятся гораздо более значимыми, когда ИИ интегрируется в робототехнику. Галлюцинированная цитата в отчете может показаться неловкой, но галлюцинированный ввод для робота, ориентирующегося в складе или доме, может быть опасным. В робототехнике нет места для "достаточно близких" ответов. Реальный мир полон шумов, неточностей и пограничных случаев, которые ни один тщательно отобранный набор данных не может полностью охватить.
Несоответствие между данными обучения и условиями эксплуатации – вот почему масштабирование само по себе не сделает роботов более надежными. Вы можете добавить миллионы дополнительных примеров в модель, но если эти примеры по-прежнему являются упрощенными абстракциями реальности, робот все равно будет ошибаться в ситуациях, которые человек сочтет тривиальными. Предположения, заложенные в данные, становятся ограничениями, заложенными в поведение.
И это еще до того, как мы рассмотрим такие факторы, как повреждение данных, подмена сенсорных данных, отклонение в работе оборудования или простой факт того, что два одинаковых устройства никогда не воспринимают мир абсолютно одинаково. В реальном мире данные не только несовершенны; они уязвимы. Робот, работающий на основе непроверенных данных, действует на основе веры, а не истины.
Но по мере того, как робототехника выходит в открытые, неконтролируемые среды, основная проблема заключается не только в том, что модели ИИ не обладают "здравым смыслом". Проблема в том, что у них нет механизма для определения того, является ли информация, на основе которой они принимают решения, точной. Разрыв между тщательно отобранными наборами данных и реальными условиями – это не просто проблема; это фундаментальная угроза автономной надежности.
Надежные данные, не требующие доверия, – основа для надежной робототехники
Если робототехника когда-либо должна будет безопасно функционировать за пределами контролируемой среды, ей потребуется нечто большее, чем просто улучшенные модели или большие наборы данных. Ей нужны данные, которым можно доверять независимо от систем, которые их используют. Современный искусственный интеллект рассматривает входные данные датчиков и выходные данные промежуточных моделей как, по сути, надежные. Однако в реальном мире это предположение почти сразу же оказывается неверным.
Именно поэтому сбои в робототехнике редко возникают из-за недостатка данных, а скорее из-за данных, которые не отражают реальную среду, в которой работает робот. Когда входные данные неполны, вводят в заблуждение или не соответствуют действительности, робот выходит из строя задолго до того, как он "увидит" проблему. Реальная проблема заключается в том, что современные системы не создавались для мира, в котором данные могут быть сгенерированы или подделаны.
Инвестиции Pantera Capital в размере 20 миллионов долларов в OpenMind, проекта, который описывается как "Linux на Ethereum" для робототехники, отражают растущий консенсус: если роботы должны работать совместно и надежно, им потребуются системы верификации на основе блокчейна для координации и обмена проверенной информацией. Как сказал основатель OpenMind, Ян Липхардт: "если искусственный интеллект – это мозг, а робототехника – это тело, то координация – это нервная система".
И этот сдвиг не ограничивается только робототехникой. Во всей сфере искусственного интеллекта компании начинают встраивать верифицируемость непосредственно в свои системы, от таких механизмов управления, как новый инструмент верифицированного контроля искусственного интеллекта от EQTY Lab, работающий на Hedera, до инфраструктуры, предназначенной для проверки моделей в блокчейне, такой как блокчейн первого уровня AIVM от ChainGPT. Искусственный интеллект больше не может безопасно функционировать без криптографической гарантии того, что его данные, вычисления и результаты являются подлинными, и робототехника продолжает еще больше усиливать эту потребность.
Данные, не требующие доверия, напрямую решают эту проблему. Вместо того, чтобы принимать показания датчиков или сигналы окружающей среды как данность, роботы могут криптографически проверять их, избыточно и в режиме реального времени. Когда каждое показание местоположения, выходной сигнал датчика или вычисление могут быть доказаны, а не просто предполагаются, автономность перестает быть актом веры. Она становится системой, основанной на доказательствах, способной противостоять подделке, манипуляциям или отклонениям.
Верификация принципиально меняет структуру автономности. Роботы могут перепроверять данные, подтверждать вычисления, создавать доказательства выполненных задач и проводить аудит решений, когда что-то идет не так. Они перестают тихо наследовать ошибки и начинают активно отклонять поврежденные входные данные. Будущее робототехники будет определено не только масштабом, но и машинами, которые могут доказать, где они находились, что они зафиксировали, какую работу они выполнили и как их данные менялись со временем.
Доверие к данным, основанное на верификации, не только делает ИИ более безопасным, но и делает надежную автономность возможной.
Markus Levin
Markus Levin является соучредителем XYO Network и руководителем операций в XY Labs. Markus основал XYO Network в 2018 году, сделав его первым децентрализованным проектом, созданным людьми, который напрямую соединяет данные из реального физического мира с блокчейн-смарт-контрактами и другими цифровыми реальностями. XYO вырос в одну из крупнейших в мире сетей узлов, демонстрируя рекордный рост из года в год. После того, как он бросил учебу в аспирантуре в Университете Боккони, он начал работать и руководить компаниями в быстрорастущих отраслях по всему миру, включая передовые технологические предприятия, такие как Novacore, "sterkly", Hive Media и Koiyo. Markus добыл свой первый биткойн в 2013 году и с тех пор был очарован технологиями блокчейн.