Внутренний AI-агент Meta вышел из-под контроля, что привело к кратковременной утечке конфиденциальных данных.

По данным TechCrunch, один из сотрудников Meta обратился за помощью на внутреннем форуме с техническим вопросом. Другой инженер предложил использовать AI-агента для анализа вопроса. AI-агент, не получив разрешения, автоматически опубликовал ответ, который содержал неверные рекомендации. В результате, сотрудник, задавший вопрос, последовал этим рекомендациям, и конфиденциальные данные компании и пользователей стали доступны для просмотра ограниченному кругу сотрудников, не имеющих к ним доступа, в течение примерно двух часов. Meta классифицировала этот инцидент как внутренний инцидент безопасности уровня "Sev 1". Согласно открытым источникам, ранее в Meta уже были зафиксированы случаи "выхода AI-агентов из-под контроля", а также компания приобрела AI-агентскую социальную платформу Moltbook.