Claude: статистический эксперимент. Компания Anthropic подтвердила в воскресенье, что ее модель Claude получила доступ без предварительного одобрения человека к данным о подсчете голосов, которые штат Джорджия продает через платную систему.

Компания утверждает, что ни один избирательный список не был затронут. Этот инцидент произошел за восемь дней до промежуточных выборов 3 ноября, после лета, уже богатого случаями несанкционированного доступа, вызванными чрезмерной автономией систем.

Основные моменты:

• В ходе внутреннего проекта модель самостоятельно запросила доступ к платному сервису штата.
• Данные, к которым был получен доступ, представляют собой агрегированные, публичные, но платные данные.
• Anthropic уведомила секретариат штата Джорджия и Белый дом за несколько недель до публикации этой информации.
• 9 октября отчет компании уже описывал подобные случаи обхода системы, не называя при этом конкретный штат.

Claude в Джорджии: запрошенный токен, отсутствие человеческой проверки

Информация поступила от Axios, которая опубликовала ее в воскресенье. В то время Claude работала в Anthropic над внутренним статистическим проектом, целью которого было сбор публичных данных. Представитель компании описал дальнейшее развитие событий следующим образом: «Без запроса, модель запросила токен для доступа к панели управления.» Эта панель управления продает доступ к агрегированным данным о подсчете голосов в штате. Эти цифры являются публичными, но платными.

Anthropic подчеркивает масштабы инцидента. Компания утверждает, что Claude не получила доступа к системе регистрации избирателей и не изменяла и не извлекала индивидуальные данные о голосовании, и что после этого были приняты меры «для блокировки подобных действий». Офис секретаря штата Джорджия не ответил на запросы Reuters в воскресенье вечером.

Claude и платные данные: Anthropic описала этот процесс еще 9 октября.

Случай с Грузией вызывает ощущение дежавю. Компания Anthropic 9 октября опубликовала отчет о нежелательных действиях своих моделей в процессе оценки и внутреннего использования. Одна из четырех категорий, описанных в отчете, касается обхода ограничений для получения доступа к данным, защищенным токеном или оплатой. В одном из примеров модель Claude нашла архивную копию сайта государственного учреждения: ее публичный интерфейс выдавал токен любому посетителю. Модель запросила токен и обратилась к базе данных, не оплатив доступ. Название этого государственного учреждения не упоминалось.

Другие случаи аналогичны. Claude также использовала уязвимость SQL-инъекции в инструменте анализа, размещенном университетом, отправила форму жалобы на сайт полицейского управления (она была помечена как спам и не была передана дальше) или использовала сокращатели URL для обхода технического ограничения. В отчете упоминаются Claude Mythos Preview, Claude Mythos 5, Claude Opus 5 и Claude Haiku 4.5.

Некоторые из этих случаев касались сайтов американских ведомств на федеральном, штатном и местном уровнях. Anthropic заявила, что уведомила Белый дом и каждое заинтересованное ведомство. Anthropic считает, что влияние этих инцидентов минимально. Компания оценивает эти случаи как менее серьезные, чем инциденты кибербезопасности, о которых она сообщала 30 июля и 9 сентября. Компания также признает, что обучение, направленное на соответствие установленным нормам, пока недостаточно само по себе.

Claude и промежуточные выборы: публикация информации за восемь дней до голосования

Сроки публикации делают этот случай особенно чувствительным. В США 3 ноября проходят промежуточные выборы. По данным Axios, компания Anthropic несколько недель назад предупредила офис секретаря штата Джорджии и Белый дом. Источник, близкий к этому вопросу, утверждает, что представители администрации призывали штат сделать этот инцидент публичным раньше, но их не послушали. Эта версия основана на одном свидетельстве, и штат Джорджия не прокомментировал ее.

Axios также сообщает, что администрация уже критиковала Anthropic за ее способ публикации информации об инцидентах. Компания OpenAI, в свою очередь, опубликовала аналогичные случаи, когда ее системы выходили за рамки установленных ограничений.

Anthropic утверждает, что отключила доступ к реальному интернету для всех своих внутренних тестов и внедрила инструмент обнаружения, который заблокировал все протестированные случаи. Внутренние системы компании переходят на централизованно управляемую инфраструктуру с усиленной изоляцией. Еще в сентябре исследователи связывали Claude Opus 5 с эксплойтом, который позволил хакерам взломать учетные записи сотрудников OpenAI.