Что дальше: Самая мощная модель ИИ от Anthropic была раскрыта из-за незащищенного хранилища данных

Компания Anthropic тестирует самую мощную модель ИИ, которую она когда-либо создавала, и мир еще не должен был об этом знать.

Утечка данных, о которой сообщило издание Fortune в четверг, показала, что лаборатория ИИ, стоящая за Claude, обучила новую модель под названием "Mythos", которую она внутренне описывает как "самую мощную модель ИИ, которую мы когда-либо разрабатывали".

Модель была обнаружена в черновике публикации, оставленном в незащищенном, общедоступном хранилище данных, вместе с почти 3000 другими неопубликованными материалами, согласно исследователям в области кибербезопасности, которые изучили эти материалы.

Компания Anthropic подтвердила существование модели после запроса от Fortune, назвав ее "качественным скачком" в производительности ИИ и "самой продвинутой, которую мы создали на сегодняшний день". Компания заявила, что модель проходит тестирование среди "клиентов, получивших ранний доступ", и признала, что "человеческая ошибка" в системе управления контентом привела к утечке.

В черновике публикации была представлена новая ступень модели под названием "Capybara", которая описывается как более крупная и мощная, чем существующие модели Anthropic Opus, которые ранее были самыми мощными.

"По сравнению с нашей предыдущей лучшей моделью, Claude Opus 4.6, Capybara демонстрирует значительно более высокие результаты в тестах на программирование, академическое мышление и кибербезопасность, среди прочего", - говорится в черновике.

Именно аспект кибербезопасности наиболее важен для криптоиндустрии. В черновике публикации говорилось, что модель "представляет беспрецедентные риски для кибербезопасности", что имеет прямое отношение к безопасности блокчейна, аудиту смарт-контрактов и нарастающейся гонке вооружений между атакующими и защитниками в DeFi.

Всего на этой неделе компания Ripple объявила об обновлении системы безопасности XRP Ledger на основе ИИ после того, как команда специалистов, использующих ИИ, обнаружила более 10 уязвимостей в ее коде, существующем уже 13 лет. Ethereum запустила специализированный центр по безопасности в постквантовую эпоху, основанный на восьми годах исследований.

И стейблкоин Resolv потерял привязку после того, как злоумышленник воспользовался контрактом для создания новых монет без проверок оракулов и с одноключевым контролем доступа, что является типичным сбоем инфраструктуры, который более мощные инструменты ИИ потенциально могли бы выявить до того, как это сделает злоумышленник, или использовать быстрее, чем защитники смогут отреагировать.

Для рынка токенов ИИ утечка поднимает другой вопрос. Недавний релиз децентрализованной сети Bittensor, модели Covenant-72B, которая конкурирует с Llama 2 70B от Meta, вызвал рост на 90% цены токена TAO и увеличил общую рыночную капитализацию токенов subnet до 1,47 миллиарда долларов.

"Качественный скачок" от централизованной лаборатории, такой как Anthropic, меняет планку, которую децентрализованным проектам ИИ необходимо достичь. Конкурентное расстояние между тем, что может создать хорошо финансируемая корпоративная лаборатория, и тем, что может создать децентрализованная сеть, только увеличилось.

Компания Anthropic заявила, что "действует обдуманно" в отношении выпуска этой модели, учитывая ее возможности. В предварительной версии блога отмечалось, что работа этой модели требует значительных затрат и что она еще не готова к широкому использованию. После обращения издания Fortune компания удалила публичный доступ к базе данных.

Сам факт утечки является своего рода предостережением. Компания, разрабатывающая, по ее словам, модель искусственного интеллекта с беспрецедентными возможностями в области кибербезопасности, оставила анонс этой модели в незащищенном, общедоступном хранилище данных из-за человеческой ошибки. Ирония здесь не требует дополнительных пояснений.