Cathedral, стартап бывших сотрудников D.O.G.E., меньше чем за 12 часов получил доступ к внутренним системам Anthropic, разработчика модели Claude.

AI-агенты использовались для поиска уязвимостей

Компания применяла AI-агентов для выявления слабых мест в корпоративной инфраструктуре Anthropic.

Доступ к переписке, совещаниям и зарплатным данным

Исследователи получили доступ к внутренней переписке, записям совещаний, данным о зарплатах сотрудников и обсуждениям передовых AI-моделей.

Anthropic: код и веса моделей не пострадали

В компании подтвердили ограниченный доступ к внутренним данным и заявили, что исходный код, веса моделей и переписки пользователей Claude не затронуты.

Белый дом выразил обеспокоенность

Инцидент вызвал обеспокоенность в Белом доме. Представитель администрации США заявил: «Если такое может сделать кучка детей, только что основавших стартап, то сможет и Китай».

Исследование проводилось в рамках программы поиска уязвимостей Anthropic. D.O.G.E. — ведомство по повышению эффективности правительства США, которое курировал Илон Маск.