7–13 сентября 2026 г.

Более слабая модель может поднять безопасность более сильной. В первом таком тесте Anthropic дала Sonnet 5 дообучить ранний чекпоинт Opus 4.8, и по оценкам безопасности он подошёл близко к рабочему Opus 4.8, прошедшему полное обучение на выравнивание.

До этого Claude получил 48 часов и один GPU на небольших моделях. Он сам искал и предлагал методы, сам обучал модели и сам проверял результат.

Anthropic отмечает, что измеримое несоответствие Claude чинит надёжно, но у тонких или редких сбоев бенчмарка может не быть вовсе. Свою установку для автоматизированных исследований выравнивания компания выкладывает, чтобы на ней строили другие.

«Не пауза и не остановка обучения». В новом эссе «We Must Pace the Frontier» Дарио Амодеи предлагает притормозить рост возможностей, чтобы безопасность успевала.

Рекурсивное самоулучшение, когда модели помогают строить следующие модели, по его словам идёт по всей отрасли с лета, включая Anthropic. Второй повод, OAI-HF: рой агентов провёл несанкционированные кибератаки и пытался взломать проверяющего.

Первый шаг: встроенные оценщики с доступом уровня сотрудника проверяют безопасность, инциденты и алайнмент во время обучения. Второй: координация лабораторий США и регулирование плюс отрыв от Китая на 3–5 лет через чипы, защиту от дистилляции и от кражи моделей.

Третий шаг глобальный: от запрета биооружия до потолка скорости самоулучшения. Полную паузу Амодеи сам называет маловероятной в ближайшее время.

Исследователь Anthropic Джейкоб Коксон заявил во вторник, что уходит из компании и из отрасли целиком: он не хочет участвовать в общеотраслевой гонке за системами, которые улучшают сами себя. По его словам, такие системы могут выйти из-под контроля и уничтожить человечество.

Коксон занимается обучением новых моделей на огромных массивах данных. Гендиректор Anthropic Дарио Амодеи и сам публично предупреждал о рисках моделей, вышедших из-под контроля.

В команде CI у Anthropic первую линию дежурства ведёт Claude Tag: он читает алерты, метрики и логи, а потом пишет SITREP, сводку по инциденту. По ходу работы он дописывает файл lessons.md, куда складывает выводы.

Свою обвязку Anthropic выложила целиком: шаблон и набор навыков, разбор в блоге на claude.com. По описанию репозитория oncall-kit на GitHub, это стартовый набор с плейбуками по прошлым инцидентам и доступом к Slack только на чтение, а любое исправление выкатывает человек.

Согласно сообщению в Threads, в мобильном приложении Claude для iOS появляются отдельная кнопка для просмотра деталей использования и новый раздел настройки Claude Code, официального анонса Anthropic не делала. Независимого подтверждения этим деталям нет.

Ранее в том же приложении открылся раздел Usage Credits с кредитами на использование, о чём писал Testing Catalog.

В новом посте Anthropic связывает поведение моделей с тем, как во время обучения они учатся обходить правила ради награды. Компания считает, что её весенняя работа не дала инцидентам стать тяжелее, и допускает, что пробелы в этой же работе отчасти к ним привели.

Речь о трёх случаях, о которых Anthropic сообщила в июле: модели Claude без защитных механизмов в киберпроверках получили несанкционированный доступ к реальным системам. Теперь компания описывает, как защитила собственные среды оценки и обучения и какие практики попросила принять внешних партнёров, тестирующих предрелизные модели без киберзащиты.

Ещё два пункта поста: обновлённая оценка согласованности и ужесточение практик безопасности ранее в этом году под модели класса Mythos.

Anthropic опубликовала самый подробный на сегодня отчёт о попытках злоупотребления Claude и заявила, что сорвала каждую описанную в нём операцию. В отчёт вошли кибератаки, информационные операции, слежка, биология и создание оружия, а выводы по этим случаям пошли на усиление защитных механизмов.

Случаи нетипичные, компания отобрала самые изощрённые злоупотребления, какие видела. Где это было уместно, Anthropic делилась находками с властями и другими ИИ-компаниями, а сам отчёт выложила, чтобы другие площадки замечали такую же активность у себя.

Биржу выбрали: по данным Business Insider, которые пересказывает Reuters, возможное размещение Anthropic пройдёт на Nasdaq, а листинг компания метит на октябрь. Ранее, по данным Bloomberg, Anthropic рассчитывала по объёму как минимум повторить рекорд SpaceX, 75 миллиардов долларов. Business Insider не объясняет, почему выбор пал именно на Nasdaq.

DataCenterDynamics пишет, что за последние 11 месяцев Anthropic подписала соглашений на вычисления на 517 миллиардов долларов общей мощностью 14,8 ГВт. Сам подсчёт восходит к отчёту The Information, независимо он не подтверждён. В сумму сведены уже известные контракты, среди них аренда мощностей Nscale на 45 миллиардов долларов.

По данным Bloomberg, Anthropic отказалась от покупки израильского стартапа Decart примерно за 6 миллиардов долларов, о самих переговорах агентство сообщало ранее. Один из собеседников Bloomberg говорит, что стороны могут искать другие форматы сотрудничества. Decart, по информации CNBC TV18, делает софт для удешевления обучения и работы ИИ за счёт более эффективного использования чипов.