Перейти к содержанию

Anthropic

Anthropic передала полиции запись из «дневника» в Claude

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: techspot.com

Карли Мишель Хеллер из Бонита-Спрингс во Флориде 26 сентября около 5:10 утра написала в Claude, что устроит стрельбу в офисе шерифа. Следующей ночью, около 1:07, она упомянула там новый пистолет. Так это изложено в протоколе задержания. Системы безопасности Claude отметили запись, проверяющий в Anthropic передал её полиции, и теперь Хеллер грозит обвинение в тяжком преступлении, сообщает TechSpot.

По словам шерифа Кармине Марсено, позже Хеллер сказала, что использует ИИ как «дневник» (его слова приводит Yahoo News). Только у этого дневника был второй читатель, и находился он в Anthropic.

По протоколу видно, как запись попала в полицию. Платформа Anthropic отслеживает ключевые фразы и потенциально угрожающий контент. Высказывания были настолько серьёзными, что их передали команде ручной проверки. Проверяющий счёл угрозу реальной и сообщил правоохранителям. Всё это укладывается в опубликованные правила самой Anthropic. Usage Policy запрещает использовать её продукты для содействия насилию или запугиванию, а следить за этим поручено команде Safeguards, которая пользуется инструментами обнаружения и мониторинга. Политика компании по запросам властей разрешает раскрывать данные пользователя правоохранителям в ограниченных экстренных случаях, когда есть опасность смерти или тяжкого вреда здоровью.

Помощники шерифа установили личность Хеллер и приехали к ней домой. Её задержали без происшествий, а расследование взял на себя детектив разведывательного отдела офиса шерифа округа Ли.

Обвинение предъявлено по статье 836.10 уголовного кодекса Флориды. Тяжким преступлением второй степени она называет отправку, публикацию или передачу письменной либо электронной записи с угрозой убить или ранить кого-то, устроить массовую стрельбу или совершить теракт. Обязательное условие: сообщение сделано так, что его может увидеть другой человек. Наказание - штраф до 10 000 долларов, до 15 лет испытательного срока и до 15 лет тюрьмы.

Юридический аналитик Майкл Рахеб считает, что доказывать преступный умысел в таких делах - «очень скользкая дорожка». При этом, напоминает он, Первая поправка не защищает реальные угрозы, подстрекательство и другие противоправные высказывания. Его оценку приводит CRBC News.

У OpenAI похожая ситуация закончилась иначе, и теперь компании приходится отвечать в суде. Незадолго до ареста Хеллер стало известно, что Британская Колумбия подала иск к OpenAI и Сэму Альтману: провинция утверждает, что компания могла предотвратить массовую стрельбу. Команда безопасности OpenAI раньше отмечала разговоры стрелявшей, 18-летней бывшей ученицы Джесси Ван Рутселар, о вооружённом насилии. Но в полицию компания не обратилась, потому что переписка не дотягивала до порога, после которого передают дело властям. В июне в суд на OpenAI и Альтмана подала и Флорида: штат утверждает, что ChatGPT способствовал реальному вреду, в том числе стрельбе в Университете штата Флорида в 2025 году. На этом фоне TechSpot заключает, что рисковать с тем, что она сочтёт возможной угрозой, Anthropic не станет.

Откуда вообще берётся привычка писать чат-боту как в дневник? Ян Марлоу, CEO FITECH, говорит, что из-за разговорного формата людям кажется, будто общение с ИИ приватнее, чем на самом деле. Доктор Крисэнн Рюль из Florida Gulf Coast University объясняет, что к ИИ обращаются ещё и потому, что он кажется человеку непредвзятым. Обоих цитирует SWFL News.

Люди читают пользовательские данные и у других сервисов, причём не только ради безопасности. Ранее появились сообщения, что подрядчики, которые проверяют работу редактора изображений в Microsoft Copilot, видят промпты пользователей, загруженные фото и правки, сделанные ИИ. Судя по документам, в части заданий попадаются материалы сексуального характера, шокирующие или потенциально незаконные. Отмечать такой контент подрядчики при этом не должны: их задача только оценить, насколько точен результат.

Хеллер должна предстать перед судом в ноябре, сообщает CRBC News.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.