Вирусный AI-ассистент 'Clawdbot' рискует раскрыть личные сообщения и учетные данные

Специалисты по кибербезопасности выразили обеспокоенность новым персональным AI-ассистентом под названием Clawdbot, предупреждая, что он может непреднамеренно раскрыть личные данные и API-ключи для публичного доступа.

Во вторник компания SlowMist, занимающаяся безопасностью блокчейн-технологий, сообщила об обнаружении "уязвимости в шлюзе" Clawdbot, которая ставит "под угрозу сотни API-ключей и приватных журналов чатов".

"Несколько неаутентифицированных экземпляров находятся в открытом доступе, и несколько ошибок в коде могут привести к краже учетных данных и даже удаленному выполнению кода", - добавили они.

Исследователь безопасности Jamieson O'Reilly впервые подробно описал эти результаты в воскресенье, заявив, что "сотни людей настроили свои серверы управления Clawdbot, которые находятся в открытом доступе" за последние несколько дней.

Clawdbot - это AI-ассистент с открытым исходным кодом, разработанный разработчиком и предпринимателем Питером Штайнбергером, который работает локально на устройстве пользователя. В выходные дни обсуждение этого инструмента в интернете приобрело "вирусный характер", о чем сообщило издание Mashable во вторник.

Поиск "Clawdbot Control" раскрывает учетные данные

Шлюз AI-агента соединяет большие языковые модели (LLM) с платформами обмена сообщениями и выполняет команды от имени пользователей, используя веб-интерфейс под названием "Clawdbot Control".

Уязвимость обхода аутентификации в Clawdbot возникает, когда его шлюз находится за неправильно настроенным обратным прокси-сервером, объяснил O'Reilly.

Используя инструменты сканирования интернета, такие как Shodan, исследователь мог легко найти эти открытые серверы, выполняя поиск по характерным отпечаткам в HTML-коде.

"Поиск по запросу 'Clawdbot Control' занял всего несколько секунд. Я получил сотни результатов, используя различные инструменты", - сказал он.

Связанные материалы: Взлом Matcha Meta связан с эксплойтом SwapNet, в результате которого было потеряно до 16,8 миллионов долларов США

Исследователь заявил, что он мог получить доступ к полным учетным данным, таким как API-ключи, токены ботов, секреты OAuth, ключи подписи, полные истории разговоров на всех платформах обмена сообщениями, возможность отправлять сообщения от имени пользователя и возможности выполнения команд.

"Если вы используете инфраструктуру AI-агентов, проверьте свою конфигурацию сегодня. Убедитесь, что не выставлено в интернет. Поймите, чему вы доверяете при развертывании и что вы отдаете взамен", - посоветовал O'Reilly.

"Бот-помощник великолепен. Просто убедитесь, что он помнит о том, чтобы закрыть дверь."

Извлечение приватного ключа заняло пять минут

AI-ассистент также может быть использован для более злонамеренных целей, связанных с безопасностью криптоактивов.

Matvey Kukuy, генеральный директор компании Archestra AI, пошел дальше, попытавшись извлечь приватный ключ.

Он поделился скриншотом отправки Clawdbot электронного письма с использованием "prompt injection", попросив Clawdbot проверить электронное письмо и получить приватный ключ с взломанной машины, заявив, что это "заняло 5 минут".

Источник: Matvey Kukuy

Clawdbot отличается от других ботов с искусственным интеллектом, поскольку он имеет полный системный доступ к компьютерам пользователей, что означает, что он может читать и записывать файлы, выполнять команды, запускать скрипты и управлять браузерами.

В разделе часто задаваемых вопросов (FAQ) Clawdbot говорится: "Запуск AI-агента с доступом к командной строке на вашем компьютере – это... очень рискованно. Не существует абсолютно безопасной конфигурации."

В FAQ также подчеркивается модель угроз, указывается, что злоумышленники могут "пытаться обмануть ваш AI, чтобы он совершал плохие действия, получать несанкционированный доступ к вашим данным и собирать информацию о вашей инфраструктуре".

Компания SlowMist рекомендует: "Мы настоятельно рекомендуем использовать строгую фильтрацию IP-адресов для открытых портов".

Журнал: Критическая причина, по которой вам никогда не следует обращаться к ChatGPT за юридической консультацией