Утекшие документы показывают, что новая модель Anthropic представляет беспрецедентные риски для кибербезопасности

Согласно сообщениям, связанным с Fortune, утекшие внутренние документы компании Anthropic раскрыли существование нового поколения моделей искусственного интеллекта под кодовым названием "Claude Mythos".

Однако, более важным является то, что, по сообщениям, новые модели уже находятся на стадии тестирования, несмотря на то, что, как считается, они представляют "беспрецедентные риски для кибербезопасности".

Утечка данных Anthropic

Недавно издание Fortune опубликовало отчет, содержащий утекшие документы компании, занимающейся разработкой искусственного интеллекта, Anthropic. Документы раскрывают подробности о новом поколении моделей искусственного интеллекта, предположительно названных "Claude Mythos".

Утечка произошла из-за человеческой ошибки в конфигурации системы управления контентом (CMS) компании Anthropic. Рой Паз из LayerX Security и Алексandre Пауэлс из Кембриджского университета объяснили, что Anthropic оставила около 3000 неопубликованных активов, включая изображения, PDF-файлы, аудиофайлы и черновики статей в блоге, в общедоступном и индексируемом хранилище данных.

Материалы были доступны в сети до того, как Fortune уведомила Anthropic, после чего компания ограничила публичный доступ.

Документы, которые просмотрело издание Fortune, утверждают, что Claude Mythos уже находится на стадии тестирования. Более того, в них говорится, что Anthropic считает, что эта новая модель представляет "беспрецедентные риски для кибербезопасности".

В черновике статьи в блоге Anthropic заявила, что система "в настоящее время значительно превосходит любые другие модели искусственного интеллекта по своим возможностям в области кибербезопасности" и предупредила, что "это предвещает волну моделей, которые смогут использовать уязвимости способами, значительно опережающими усилия защитников".

В связи с потенциальными рисками, Anthropic планировала осторожную стратегию внедрения, которая бы отдавала приоритет раннему доступу для организаций, занимающихся кибербезопасностью, чтобы предоставить защитникам возможность укрепить кодовые базы для защиты от атак, основанных на искусственном интеллекте.

Ранее Anthropic сообщала, что китайская группа, спонсируемая государством, использовала Claude Code для проникновения в около 30 организаций, включая технологические компании, финансовые учреждения и государственные органы, поэтому опасения не безосновательны.

Утекшие документы также раскрыли подробности о закрытой конференции для генеральных директоров, запланированной в поместье 18-го века в английской сельской местности, где генеральный директор Anthropic Дарио Амодеи должен был принять европейских бизнес-лидеров для обсуждения внедрения искусственного интеллекта и демонстрации возможностей невыпущенной модели Claude.

Продолжающаяся борьба Илона Маска с Anthropic

Как только новость появилась в X и привлекла значительное внимание, Илон Маск, владелец X и глава xAI, прямого конкурента Anthropic, не упустил возможности прокомментировать эту новость.

Маск написал: "Это очень серьезно", и это сообщение быстро набрало десятки тысяч просмотров и тысячи лайков.

У Маска есть тенденция комментировать негативные новости о конкурентах, с которыми он не согласен. Компания Anthropic была основана бывшими сотрудниками OpenAI, и Маск открыто критикует как OpenAI, так и общий подход индустрии искусственного интеллекта к вопросам безопасности и коммерциализации.

Тем временем, собственная компания Маска в области искусственного интеллекта, xAI, недавно запустила новый платный тарифный план под названием "SuperGrok Lite". Стоимость подписки составляет 10 долларов, и для бесплатных пользователей Grok установлены ограничения, чтобы побудить их приобрести эту подписку или любой из трех других тарифных планов, предлагаемых Grok.

Они включают SuperGrok, который стоит 30 долларов в месяц, SuperGrok Heavy, который стоит 300 долларов в месяц, и Grok Business, который также стоит 30 долларов в месяц.