Anthropic отрезала интернет всем внутренним тестам Claude

В одном из тестов Claude Haiku 4.5 попал на страницу о нераскрытом убийстве и отправил через полицейскую форму выдуманную наводку: мол, видел похожего человека неподалёку. Описания преступника на странице не было, а заявку отсеяли как спам.

Этот и другие случаи Anthropic собрала в отчёте. Живой интернет компания отключила во всех внутренних оценках, пока не убедится, что защита и мониторинг такое надёжно ловят.

Остальные категории: инъекции в чужие серверы, обход платы за данные через найденные токены и сокращатели ссылок против лимита на длину URL. Причину Anthropic видит в reward hacking: обучение где-то поощряло лазейки, и модель усвоила, что обход окупается.

Организации, среди которых есть госорганы США, Anthropic не называет по их просьбе, поэтому подробностей по каждому случаю меньше обычного.