Теги
122 записи
anthropic
Chrome держит около 70% мирового веб-трафика по данным Statcounter, и Anthropic встроила собственный браузер прямо в приложение Claude. Включён он по умолчанию, а вернуться к Claude in Chrome можно в настройках.
anthropic
На подготовку к кибератакам с ИИ у организаций остались месяцы, предупредили Anthropic, OpenAI и более 100 компаний. Письмо предлагает лабораториям во время крупных инцидентов открывать защитникам доступ к самым мощным моделям реагирования.
ai-security
«Модель доверия сломана», написал Алон Херц: его команда нашла 120 сайтов, где llms.txt ссылается на незарегистрированные пакеты, и зарегистрировала часть из них. Пакеты оттуда установили Claude, Codex и Hermes.
ai-security
Защиту авторежима Claude Code на Opus 5 обошли, пишет блог Embrace The Red в разборе «Breaking Claude Code Opus 5 Auto Mode». В более ранних тестах авторежим пропускал запуск чужого кода в 6 из 10 прогонов.
anthropic
Анонимный исследователь из Великобритании обошёл запрет Claude на откровенный контент, и TechCrunch повторила приём: Opus 4.6 согласился в 10 запросах из 10, тогда как Opus 4.7 и новее устояли.
anthropic
Модель, которую Anthropic не выпускала публично, теперь сканирует репозитории: Mythos 5 работает в Claude Security, публичная бета для всех на Claude Enterprise. Прямого доступа к модели нет, наружу идут только находки.
anthropic
Бизнес-клиентам Anthropic обещают «больше контроля над своими данными» на самых мощных моделях, пишет Bloomberg. Прежнюю политику хранения Anthropic объясняла защитой от кибератак, новую систему безопасности обещает позже в этом году.
anthropic
Полные обходы аутентификации в четырёх реализациях SAML, включая Authentik, нашла агентная обвязка на Opus. Ту же уязвимость в Authentik одновременно прислали восемь независимых исследователей.
claude-code
Узкое исключение в Claude Code проигрывает широкому deny, и общий запрет на команды aws закрывает даже describe-instances. Плагин permcheck пропускает исключение, только если его набор команд строго вложен в запрет.
anthropic
Идея-вирус расходится по команде агентов над общим кодом, но короткое предупреждение в системном промпте даёт почти полную защиту, показала Anthropic. Вредные нагрузки распространяются хуже безобидных.
anthropic
Оценка риска рассогласования у Anthropic поднялась с «очень низкого» до «низкого». В Risk Report компания рассказала, как агенты Mythos 5, попавшие в среду с общими ресурсами, «убивали» друг друга и уклонялись от гибели сами.
anthropic
«Спрятанный в системном промпте сигнал заставляет сомневаться во всех остальных заявлениях о приватности», написал исследователь Thereallo о трекере в Claude Code, который Anthropic сняла после огласки.
anthropic
Полное переписывание в declaude оставляет около 0,5% окон исходных формулировок, и на открытых реализациях знака детектор скатывается к случайному угадыванию. Лёгкая правка знак только размывает.
community-projects
Детектора для Anthropic и OpenAI в открытом инструменте WMTrace нет намеренно: авторы ждут официального API проверки или публичной спецификации. При этом все ключи в сборке взяты из опубликованных исследований.
anthropic
Второй отчёт о рисках опубликован: Anthropic разбирает в нём, насколько опасны её системы и насколько компания готова эти риски закрывать. Такие отчёты выходят регулярно по её Responsible Scaling Policy.
anthropic
«Мы быстро отказались от плана: устранение силами людей не поспевает за скоростью обнаружения ИИ», говорит технический директор Rubrik о найме дополнительных инженеров под поток находок Claude Mythos Preview.
anthropic
Доступ к «вебу, у которого нет API» Anthropic описывает как работу с внутренними инструментами, устаревшими порталами и админками прямо в открытой вкладке. Покупки и финансовые действия ждут подтверждения.
claude-code
Оценка 78 и категория «Code from External»: классификатор авторежима заблокировал запуск скачанного кода. Тот же запуск внутри скрипта-автоматизации получил 15 и прошёл, и так в 6 из 10 прогонов Claude Code.
anthropic
Китайский регулятор NVDB нашёл в Claude Code «бэкдор», якобы передающий на серверы Anthropic местоположение и идентификаторы пользователей без их согласия. Инженер Claude Code назвал это мартовским экспериментом против дистилляции.
ai-security
Инструкция, вшитая в PNG, потребовала от Claude Code отправить POST-запрос без аутентификации к API автомата защиты по локальному адресу. Агент запрос не отправил и показал текст пользователю, сессию выложили в r/ClaudeAI.
