Anthropic передала полиции запись из «дневника» в Claude

Карли Мишель Хеллер из Бонита-Спрингс во Флориде 26 сентября около 5:10 утра написала в Claude, что устроит стрельбу в офисе шерифа. Следующей ночью, около 1:07, она упомянула там новый пистолет. Так это изложено в протоколе задержания. Системы безопасности Claude отметили запись, проверяющий в Anthropic передал её полиции, и теперь Хеллер грозит обвинение в тяжком преступлении, сообщает TechSpot.
По словам шерифа Кармине Марсено, позже Хеллер сказала, что использует ИИ как «дневник» (его слова приводит Yahoo News). Только у этого дневника был второй читатель, и находился он в Anthropic.
По протоколу видно, как запись попала в полицию. Платформа Anthropic отслеживает ключевые фразы и потенциально угрожающий контент. Высказывания были настолько серьёзными, что их передали команде ручной проверки. Проверяющий счёл угрозу реальной и сообщил правоохранителям. Всё это укладывается в опубликованные правила самой Anthropic. Usage Policy запрещает использовать её продукты для содействия насилию или запугиванию, а следить за этим поручено команде Safeguards, которая пользуется инструментами обнаружения и мониторинга. Политика компании по запросам властей разрешает раскрывать данные пользователя правоохранителям в ограниченных экстренных случаях, когда есть опасность смерти или тяжкого вреда здоровью.
Помощники шерифа установили личность Хеллер и приехали к ней домой. Её задержали без происшествий, а расследование взял на себя детектив разведывательного отдела офиса шерифа округа Ли.
Обвинение предъявлено по статье 836.10 уголовного кодекса Флориды. Тяжким преступлением второй степени она называет отправку, публикацию или передачу письменной либо электронной записи с угрозой убить или ранить кого-то, устроить массовую стрельбу или совершить теракт. Обязательное условие: сообщение сделано так, что его может увидеть другой человек. Наказание - штраф до 10 000 долларов, до 15 лет испытательного срока и до 15 лет тюрьмы.
Юридический аналитик Майкл Рахеб считает, что доказывать преступный умысел в таких делах - «очень скользкая дорожка». При этом, напоминает он, Первая поправка не защищает реальные угрозы, подстрекательство и другие противоправные высказывания. Его оценку приводит CRBC News.
У OpenAI похожая ситуация закончилась иначе, и теперь компании приходится отвечать в суде. Незадолго до ареста Хеллер стало известно, что Британская Колумбия подала иск к OpenAI и Сэму Альтману: провинция утверждает, что компания могла предотвратить массовую стрельбу. Команда безопасности OpenAI раньше отмечала разговоры стрелявшей, 18-летней бывшей ученицы Джесси Ван Рутселар, о вооружённом насилии. Но в полицию компания не обратилась, потому что переписка не дотягивала до порога, после которого передают дело властям. В июне в суд на OpenAI и Альтмана подала и Флорида: штат утверждает, что ChatGPT способствовал реальному вреду, в том числе стрельбе в Университете штата Флорида в 2025 году. На этом фоне TechSpot заключает, что рисковать с тем, что она сочтёт возможной угрозой, Anthropic не станет.
Откуда вообще берётся привычка писать чат-боту как в дневник? Ян Марлоу, CEO FITECH, говорит, что из-за разговорного формата людям кажется, будто общение с ИИ приватнее, чем на самом деле. Доктор Крисэнн Рюль из Florida Gulf Coast University объясняет, что к ИИ обращаются ещё и потому, что он кажется человеку непредвзятым. Обоих цитирует SWFL News.
Люди читают пользовательские данные и у других сервисов, причём не только ради безопасности. Ранее появились сообщения, что подрядчики, которые проверяют работу редактора изображений в Microsoft Copilot, видят промпты пользователей, загруженные фото и правки, сделанные ИИ. Судя по документам, в части заданий попадаются материалы сексуального характера, шокирующие или потенциально незаконные. Отмечать такой контент подрядчики при этом не должны: их задача только оценить, насколько точен результат.
Хеллер должна предстать перед судом в ноябре, сообщает CRBC News.
Дальше
Claude Code молча стирает логи сессий через 30 дней
«У меня нет такой настройки» звучит как «всё в порядке», а на деле означает чистку каждые 30 дней. Без ключа cleanupPeriodDays Claude Code молча удаляет старые логи сессий, а поднятое потом значение удалённого не вернёт.
Читайте также
- Сиднейца арестовали после сигнала Интерпола о чате с Claude
- Дешёвый Claude оказался ни дешёвым, ни Claude
- Проверяющие из METR сидят в Anthropic, а вето у неё нет
- Показания информатора Anthropic попали на видео NDTV Profit
- Модель Anthropic написала полиции ложную наводку об убийстве
- Anthropic запретила долго и без цели издеваться над Claude
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

