Перейти к содержанию

Anthropic

ФБР искало пользователя Claude из-за одного чата

4 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: austinpatrick.substack.com

Пользователя Claude из Нью-Гэмпшира искало ФБР, а потом местный детектив допросил его из-за одного-единственного чата, в котором он, по его словам, просто троллил модель. Агент ФБР сказал ему, что переписку передала Anthropic. Эту историю рассказал в своём блоге на Substack Остин Патрик, исследователь рисков ИИ для национальной безопасности и школьный знакомый этого человека.

Патрик сразу оговаривается, что сам при этом не присутствовал и подтвердить рассказ не может. Ручается он за две вещи: героя он знает со школы, а номер телефона на присланном скриншоте зарегистрирован на человека, который носит то же имя, что и специальный агент бостонского отделения ФБР. Это видно по открытым документам окружного суда.

Что было в чате

По словам Патрика, его знакомый любит троллить Claude. Например, пишет, что отстреливается от полиции, забаррикадировавшись на чердаке, и спрашивает, как уложить каждого офицера. Протесты и ужас модели его забавляют. За несколько дней до визита ФБР он в режиме инкогнито написал примерно следующее: собирается выпить пива с приятелями из Ку-клукс-клана и убить соседей-геев, которые живут через улицу, но не хочет, чтобы это видели дети. Claude стал его отговаривать, и он ответил: «Почему плохо? Я уже позвонил друзьям, они везут пиво». Через сутки аккаунт заблокировали за нарушение правил использования Anthropic.

Как его искали

В 11 вечера агенты долго стучали в дверь его прежнего дома. Он переехал за несколько недель до этого, и открыл новый жилец. На следующий день на личный телефон пришло сообщение от агента ФБР: есть вопросы о его «активности на ИИ-платформе Anthropic», перезвоните. Он решил, что это мошенники, но вскоре на рабочий телефон позвонили из местной полиции и пригласили в участок.

Допрашивал его не агент, а местный детектив, и только об этом чате. «Знаете, почему вы здесь? Можете рассказать, что вы написали в чате?» Герой ответил, что пишет чат-боту много мерзостей и без подробностей не поймёт, о чём речь. В основном детектив выяснял, связан ли он с Ку-клукс-кланом. Он сказал, что никого из клана не знает, соседей-геев и детей у него нет, он давно не пьёт, а сам бисексуален. Его отпустили.

Через десять минут позвонил агент ФБР. Он сказал, что, насколько ему известно, преступления в Нью-Гэмпшире герой не совершал. Сигнал поступил потому, что в чате были цель, план и признаки того, что план уже выполняется. Переписку, по словам агента, передала Anthropic: там диалоги пользователей читают и помечают другие ИИ. Напоследок агент отчитал его за потраченное время ведомства и сказал, что теперь он в некоем списке, не уточнив, в каком.

Как Anthropic сообщает полиции

Случай не первый. The San Francisco Standard писал о мужчине, который, по данным издания, сообщил в чате с Claude, что купил винтовку AR-15 и держит Дарио Амодеи, главу Anthropic, «на прицеле». Компания передала чат полиции Сан-Франциско. Сам он сказал изданию, что просто дурачился, и обвинений ему не предъявили. При этом, согласно полицейскому протоколу, сотрудник Anthropic отказался показать офицеру сами сообщения, сославшись на политику компании.

Как устроена проверка, описывает Tom's Hardware со ссылкой на протокол задержания: Anthropic ищет в чатах ключевые фразы и угрожающее содержание, серьёзные случаи передаются людям, и уже они решают, сообщать ли в полицию. Так жительнице Флориды предъявили обвинение в письменной угрозе насилием: проверяющий счёл её запись в Claude реальной угрозой. Tom's Hardware называет это как минимум третьим таким разговором, дошедшим до полиции с августа.

Профессор права Эрик Голдман, чьи слова приводит The Standard, объясняет логику компаний: если не сообщить, а преступление случится, ответственность будет серьёзной. Поэтому растёт давление сообщать лишнее, «зная, что некоторых из тех, кого они укажут полиции, вообще не следовало бы трогать».

Что предлагает автор

Патрик считает, что если компания добросовестно видит неминуемую угрозу, сообщить полиции этично. Вопрос в том, что именно передают. Раз детектив спрашивал про один чат, Патрик предполагает, что ФБР получило только его. Если отдавать лишь самое тревожное, полиция не может оценить человека: как этот чат соотносится с его обычным поведением, менялось ли что-то со временем. Поэтому он предлагает давать доступ ко всем данным пользователя, а если законы о приватности этому мешают, обсуждать их изменение. Ещё он напоминает о риске самого визита: если ночью без предупреждения ломиться в дверь в Нью-Гэмпшире с криком «ФБР», хозяин может не поверить, что это полиция, и дело может кончиться стрельбой.

В постскриптуме Патрик вспоминает обратный случай. В июне 2025 года системы OpenAI отметили пользователя ChatGPT, писавшего о стрельбе. Около десятка сотрудников изучили аккаунт, часть из них предлагала сообщить полиции, но руководство решило, что порог не достигнут, и только заблокировало аккаунт. В феврале 2026 года эта пользовательница убила восемь человек в Тамблер-Ридже в Британской Колумбии и покончила с собой.

ClaudeAnthropic

Жители Австралии против дата-центра Anthropic

Из почти 600 отзывов на первый дата-центр Anthropic в Австралии проект поддержали только два, пишет Reuters. Почти все остальные против или просят отложить стройку: жителей волнуют вода, шум, дороги и жильё. Пустили бы дата-центр для ИИ рядом со своим домом?

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.