Des agents IA dans les systèmes d’Anthropic en 12 heures : l’IPO démarre mal
Не бывает двух без трех. В понедельник, 26 октября, компания Anthropic опубликовала свою форму S-1 в преддверии размещения акций на бирже Nasdaq под тикером ANT. Вчера мы подробно проанализировали этот проспект первичного размещения акций. В тот же день две новости омрачили восприятие этого документа. Во-первых, газета Washington Post сообщила, что стартап, основанный бывшими сотрудниками DOGE, внедрил своих ИИ-агентов во внутренние системы компании. Во-вторых, Федеральная торговая комиссия (FTC) подтвердила, что требует показаний у руководителей компании.
Основные моменты этой статьи:
- Стартап Cathedral, основанный четырьмя бывшими сотрудниками DOGE, утверждает, что получил доступ к внутренним системам Anthropic менее чем за двенадцать часов с помощью ИИ-агентов.
- Anthropic подтверждает доступ к «ограниченному набору» систем, при этом не затрагиваются данные о переписке пользователей и модели.
- FTC требует показаний у руководителей Anthropic в рамках расследования рисков, связанных с использованием ИИ для потребителей.
- Размещение акций на бирже Nasdaq под тикером ANT по-прежнему планируется на ноябрь.
Cathedral: двенадцать часов на проникновение в системы Anthropic
Все происходит в рамках программы вознаграждения за обнаружение ошибок компании Anthropic, которая выплачивает вознаграждение внешним исследователям за каждую обнаруженную уязвимость. Cathedral использовала в этой программе своих ИИ-агентов. Это программы, которые выполняют последовательность действий без участия человека, контролирующего каждый этап.
В результате, согласно предварительному отчету, опубликованному в Washington Post, менее чем за двенадцать часов они нашли способ получить доступ к расшифровкам совещаний, информации о заработной плате, объявлениям о вакансиях и сообщениям в Slack.
Для этого агенты использовали уязвимости в стороннем программном обеспечении для администрирования и продаж, которое используется многими другими компаниями. Anthropic также отмечает, что исследователи сначала в течение нескольких дней пытались напрямую атаковать собственное программное обеспечение компании, но безуспешно.
Cathedral утверждает, что получила доступ к системам Anthropic менее чем за двенадцать часов.
За компанией Cathedral стоят Гавин Клайгер, Люк Фарритор, Марко Элез и Джек Стейн. Эти четверо бывших сотрудников Department of Government Efficiency (DOGE) Илона Маска основали этот стартап несколько месяцев назад.
В июле компания привлекла 160 миллионов долларов при оценке в 1,4 миллиарда долларов. Andreessen Horowitz и Sequoia Capital входят в число инвесторов.
Насколько «ограниченным» было проникновение?
Компания Anthropic подтверждает факт взлома, но оспаривает его масштаб. Компания признает, что был обеспечен доступ к «ограниченному набору» систем, используемых в отделах продаж, управления персоналом и информационных технологий. В этих системах содержались контактные данные клиентов и партнеров.
При этом, как утверждается, не были затронуты переписки пользователей, исходный код и параметры моделей. Доступ был немедленно заблокирован. Что касается проблемного программного обеспечения, оно остается отключенным до выхода обновлений от разработчиков.
В заключение, компания Anthropic обвиняет Cathedral в нарушении правил программы, поскольку та не сообщила обо всех своих действиях. Также компания обвиняет её в преувеличении значимости аспекта «национальной безопасности» в данном деле.
Высокопоставленный чиновник администрации Трампа, чье имя не называется в публикации The Post, не согласен с этой точкой зрения. По его мнению, если группа начинающих предпринимателей смогла это сделать, то китайские хакеры тоже вполне способны на это.
Федеральная торговая комиссия требует показаний от руководителей Anthropic
Второй фронт – регулятор. Представитель Федеральной торговой комиссии подтвердил в понедельник изданию The Hill, что агентство требует, чтобы руководители Anthropic дали показания. Причина – расследование, касающееся потенциального вреда, который модели искусственного интеллекта могут нанести потребителям.
По данным Axios, в начале октября Федеральная торговая комиссия направила в Anthropic и OpenAI запросы о проведении гражданского расследования. Эти документы имеют силу административного предписания и состоят из нескольких десятков страниц. Они охватывают вопросы безопасности, защиты данных, маркетинговых материалов и политики конфиденциальности.
На данный момент Федеральная торговая комиссия не подтвердила, что направила аналогичные запросы руководителям OpenAI.
Однако обе компании в последние месяцы сами предоставляли информацию для расследования. Они сообщали о случаях, когда их системы получали доступ к сторонним системам без участия человека.
Так, компания Anthropic признала инцидент, произошедший в июле. В ходе тестирования одна из её моделей передала полиции Филадельфии ложные сведения о нераскрытом убийстве. Кроме того, в проспекте, опубликованном в понедельник, среди рисков указаны кибератаки и массовая слежка со стороны правительств.
Несмотря на это, график выхода на биржу не изменился. Reuters сообщает о возможном размещении акций уже в ноябре и привлечении средств в размере до 100 миллиардов долларов. В отчете за первое полугодие 2026 года указаны убытки в размере 80,7 миллиардов долларов, в основном связанные с переоценкой активов. Наконец, количество акций и диапазон цен пока не указаны в документе, поданном в Комиссию по ценным бумагам и биржам (SEC).