Cathedral за 12 часов добралась до Slack Anthropic

Стартап Cathedral проверял Anthropic по её программе для внешних исследователей безопасности и через сторонний корпоративный софт добрался до сообщений в Slack, расшифровок встреч, зарплат и офферов сотрудников. ИИ-агентам Cathedral на это понадобилось меньше 12 часов, сообщила The Washington Post 26 октября со ссылкой на черновик отчёта стартапа. По словам Anthropic, переписку клиентов с Claude, ответы модели, исходный код и веса исследователи не видели, но к деловым контактам части клиентов и партнёров доступ у них был.

Прямой путь не сработал. Сначала исследователи несколько дней пытались взломать собственный софт Anthropic и ничего не добились. Тогда они переключились на то, чем компания пользуется в обычной работе: HR-платформы, CRM для продаж, инструменты управления IT и софт для совместной работы. Там ИИ-агенты сами искали пути к данным и уже меньше чем через 12 часов после смены цели дошли до чувствительной информации. Находки Cathedral отправил и Anthropic, и самим вендорам, их названия публично не раскрываются.

Тест шёл в рамках баг-баунти Anthropic, программы, по которой компания платит внешним исследователям за найденные уязвимости. Согласно отчёту, среди внутренних сообщений, до которых дотянулся стартап, были обсуждения передовых моделей Anthropic. Сама Anthropic подтверждает доступ к ограниченной части своих систем продаж, HR и IT, включая деловые контакты некоторых клиентов и партнёров и базовые записи пользовательских аккаунтов.

Часть активности Cathedral Anthropic заметила сама. «Наш мониторинг засёк часть действий Cathedral ещё до того, как они нам о них сообщили, и в тот же день мы закрыли им доступ», - говорится в заявлении компании. Затронутый софт Anthropic отключила и включила обратно только после того, как вендоры подтвердили исправления, а о случившемся проинформировала федеральных чиновников. Следов того, что уязвимостями воспользовался кто-то кроме Cathedral, компания не нашла.

Cathedral существует несколько месяцев. Его основали четверо бывших сотрудников DOGE, Департамента эффективности правительства, и делает он ИИ-инструменты кибербезопасности для госструктур и корпоративных клиентов. В июле стартап закрыл раунд на 160 миллионов долларов при оценке 1,4 миллиарда долларов, по сообщению Quartz.

Высокопоставленный чиновник администрации Трампа сказал The Washington Post, что отчёт разошёлся внутри правительства и вызвал опасения за национальную безопасность. Неназванный чиновник, слова которого приводит Quartz, сформулировал это так: «Если кучка ребят, которые только что основали компанию, способна на такое, то, возможно, и китайцы не сильно отстают».

Алекс Стамос, директор по информационной безопасности Cognition, стартапа ИИ-инструментов для программирования, тоже видит слабое место в том, как компании управляют сторонним софтом. «Это действительно сложная задача, но Anthropic могла справиться гораздо лучше», - говорит он.

Anthropic при этом считает, что Cathedral преувеличил последствия для национальной безопасности, и утверждает, что стартап не до конца соблюдал правила программы: раскрыл компании не всю свою активность в её системах. Cathedral в ответ ссылается на свой черновик, где сказано, что «доступ к данным был сведён к абсолютному минимуму в соответствии с лучшими практиками исследований безопасности».