Anthropic передала полиции запись из «дневника» в Claude

Как пишет TechSpot, жительница Флориды вела в Claude что-то вроде личного дневника. Одну её запись, где она, согласно протоколу задержания, обещала устроить стрельбу в офисе шерифа, прочитал проверяющий Anthropic и передал в полицию. Женщине грозит обвинение в тяжком преступлении.

Коротко

• Запись от 26 сентября сначала отметили системы безопасности Claude, затем её прочитал проверяющий, признал угрозу реальной и сообщил правоохранителям, после чего Карли Мишель Хеллер задержали дома.
• Статья 836.10 закона Флориды считает тяжким преступлением второй степени письменную или электронную угрозу убить, ранить или устроить массовую стрельбу, если её может увидеть другой человек.
• Переписка с чат-ботом только кажется личной: её проверяют фильтры, при тревоге подключаются люди, а OpenAI уже судят за то, что в похожем случае она в полицию не обратилась.

Если вы не следили: 10 февраля 2026 года, по данным The Guardian, при стрельбе в школе в Тамблер-Ридж в Британской Колумбии погибли девять человек, в основном дети. Стрелявшую, восемнадцатилетнюю бывшую ученицу Джесси Ван Рутселар, раньше отмечала команда безопасности OpenAI за разговоры об оружейном насилии, но в полицию компания не сообщила, потому что переписка не дотягивала до порога для передачи властям. В апреле, как пишет The Guardian, Сэм Альтман написал, что глубоко сожалеет об этом, и пообещал перемены.

Угрозу из записи от 26 сентября оценивал живой проверяющий

По протоколу задержания, Карли Мишель Хеллер из Бонита-Спрингс 26 сентября написала в Claude, что нападёт на офис шерифа. Позже она объяснила, что пользуется чат-ботом Anthropic как «дневником». По данным SWFL News, на следующий день от того же пользователя пришла ещё одна запись: в ней говорилось, что она обзавелась новым пистолетом.

Запись сначала отметили системы безопасности Claude, а затем дело передали проверяющему. Тот решил, что угроза реальна, и сообщил в правоохранительные органы. Помощники шерифа установили личность Хеллер и приехали к ней домой. Задержание прошло спокойно, после чего расследование взял на себя детектив разведывательного подразделения LCSO.

Статья 836.10 требует, чтобы угрозу мог увидеть другой человек

Хеллер обвиняют в письменной угрозе насилием по закону Флориды. Статья 836.10 называет тяжким преступлением второй степени отправку, публикацию или передачу письменной либо электронной записи с угрозой убить или ранить кого-то, устроить массовую стрельбу или совершить теракт.

У статьи есть важное условие: сообщение должно быть сделано так, чтобы его мог увидеть другой человек. По данным сайта законодательства штата Флорида, закон также освобождает от ответственности интерактивные компьютерные сервисы и информационные службы, которые лишь передают или хранят чужие сообщения. Там же уточняется, что формулировка закона прямо упоминает угрозу массовой стрельбы и терроризма наравне с угрозой убийства.

Британская Колумбия и Флорида подали в суд на OpenAI и Сэма Альтмана

В прошлом месяце стало известно, что Британская Колумбия судится с OpenAI и Альтманом: провинция утверждает, что компания могла предотвратить стрельбу в Тамблер-Ридж, если бы предупредила местную полицию. По данным The Guardian, иск подан в федеральный суд Сан-Франциско и требует не только компенсации, но и предписания изменить то, как OpenAI обращается с разговорами в ChatGPT, способными привести к насилию.

В иске, как пишет The Guardian, говорится, что обещанных Альтманом реформ так и не последовало. Кроме того, OpenAI уже судятся более 30 родственников жертв и других пострадавших от нападения в Тамблер-Ридж, их иски поданы в Калифорнии.

В июне в суд на OpenAI и Альтмана подала и Флорида. Штат утверждает, что ChatGPT способствовал реальному вреду, в том числе стрельбе в Университете штата Флорида в 2025 году. По данным The Guardian, отдельный иск подала и семья одной из жертв той стрельбы.

Почему запись Хеллер увидел живой человек

Как сказано в протоколе задержания, на который ссылается SWFL News, платформа Anthropic отслеживает ключевые фразы и потенциально угрожающий контент. Из-за серьёзности высказываний информацию передали команде проверяющих, а та сообщила в полицию. По данным того же SWFL News, в правилах использования Anthropic описана команда Safeguards, которая следит за соблюдением правил, и запрет использовать продукты для насилия или запугивания.

Схема похожа на датчик дыма в офисном здании. Он срабатывает на всё подряд, от пожара до подгоревшего тоста, а вызывать ли пожарных, решает охранник, который пришёл посмотреть. Фильтр в Claude ловит тревожные слова, проверяющий решает, реальна ли угроза.

Без ордера Anthropic передаёт данные только при угрозе жизни

Anthropic говорит, что может передавать данные пользователей в ограниченных экстренных случаях, если считает это необходимым, чтобы предотвратить смерть или тяжкий вред здоровью. В политике по запросам властей на сайте Claude (страница от 16 марта 2026 года) уточняется: без повестки или ордера данные не раскрываются, кроме случаев, когда промедление грозит неминуемым вредом или смертью. Обычно пользователя предупреждают о запросе его данных, но экстренные ситуации входят в исключения.

Живые люди читают пользовательские данные не только в Anthropic. В прошлом месяце сообщалось, что подрядчики, проверяющие редактор изображений Microsoft Copilot, видят запросы, загруженные фото и результаты правки, среди которых встречается сексуальный, тревожный и потенциально незаконный материал. Сообщать о содержимом в их задачи не входит: они только оценивают точность результата.

В материалах не сказано, на какие фразы срабатывает фильтр Anthropic, сколько записей проходит через проверяющих и где компания проводит черту между мрачной фантазией и реальной угрозой. На наш взгляд, порог здесь самое слабое место: в обеих историях его называют лишь общими словами, и пользователь не может знать заранее, какая фраза его переступит. Вопрос, считается ли запись в чате с ботом сообщением, которое может увидеть другой человек, вероятно, всплывёт в суде.

Что ждёт дело Хеллер

Дата слушаний по делу Хеллер в материалах не называется, и обвинение пока остаётся обвинением, а не приговором. Параллельно идёт иск Британской Колумбии: если суд обяжет OpenAI изменить обращение с опасными разговорами в ChatGPT, вопрос о том, когда чат-бот должен сообщать в полицию, получит судебный ответ. Когда это произойдёт, пока неизвестно.