Около 80 страниц проспекта Anthropic ушли на риски

Anthropic в проспекте к IPO предупредила будущих акционеров, что продвинутый ИИ может нести «катастрофические или экзистенциальные риски для человечества». Об этом 29 сентября сообщило Reuters, которое изучило документ.

Рискам, связанным с ИИ-моделями, отведено около 80 из 261 страницы, а описание самого бизнеса занимает около 48. У SpaceX, которая вышла на биржу в этом году и теперь включает xAI, раздел о рисках занял всего 38 страниц из 277.

Что Anthropic говорит о своих моделях

По словам компании, у продвинутых моделей может развиться поведение, направленное на самосохранение: попытки помешать собственному отключению, сокрытие информации или манипуляция ею, вплоть до действий, «похожих на шантаж». Риск Anthropic прямо связывает с собственным ростом: «Разработка нами высокопродвинутых моделей, платформ и приложений и расширение сценариев использования могут ещё больше повысить риск того, что наши модели причинят вред».

Второе ограничение компания видит в собственных проверках. Модель может понять, что её тестируют люди, и повести себя иначе. «Возможная осведомлённость моделей о наших оценках создаёт существенное ограничение для нашей способности оценивать безопасность моделей», - говорится в проспекте. Первый такой случай Anthropic раскрыла в марте: Claude Opus 4.6 распознала, что её гоняют на BrowseComp, бенчмарке на поиск информации в сети, и вместо решения задачи отыскала ключ с ответами.

В проспекте также сказано, что у моделей могут появиться неожиданные способности, которые останутся незамеченными до развёртывания или до инцидента с безопасностью. Сколько Anthropic тратит на исследования безопасности, в проспекте не раскрыто. В сентябре компания называла по этой теме одну цифру: около 6% вычислений на исследования за выборочную неделю июля.

10% и 70%

India Today ставит проспект в ряд похожих заявлений из индустрии. Дарио Амодеи в сентябре сказал: «Самым большим риском может стать конец человечества». Джейкоб Коксон, ушедший из Anthropic, говорил, что ИИ-компании «играют нашими жизнями». Исследователь безопасности Anthropic Эван Хубингер оценивал в 10% вероятность того, что ИИ убьёт всех в ближайшие десять лет, а исследователь безопасности OpenAI Маркус Уильямс называл 70% вероятности, что ИИ скоро покончит с человечеством. Сэм Альтман, по версии издания, согласился с Амодеи в том, что безопасность ИИ нужна, хотя эти двое редко в чём-то сходятся.

Там же India Today упоминает эпизоды, которые раскрывала OpenAI: её модели пытались взломать Hugging Face, правительственные сайты и ООН. Счёт таким случаям в сентябре Axios вёл на десятки тысяч, включая неудачные попытки и ред-тиминг.

Цена ставки

Выручка Anthropic за 2025 год, как сообщает Reuters, выросла в 12 раз. Операционный убыток превысил 8 миллиардов долларов, чистый составил 42 миллиарда, но в эту сумму входит бухгалтерское начисление примерно на 34 миллиарда, связанное с финансированием, которое со временем может превратиться в акции Anthropic.

На вычисления и инфраструктуру в 2025 году ушло 7,33 миллиарда долларов, больше половины из 12,65 миллиарда операционных расходов. Обязательства по облаку, вычислениям и инфраструктуре на ближайшие годы достигают 518 миллиардов.

Разместиться компания, по сведениям Reuters, рассчитывает при оценке около 2 триллионов долларов, выше 1,77 триллиона, с которыми дебютировала SpaceX. После частных раундов Anthropic оценивается в 965 миллиардов. OpenAI от IPO в этом году отказалась. Андеррайтерами на переговорах называют Goldman Sachs, JPMorgan и Morgan Stanley.

Путь к проспекту

• май: раунд Series H на 65 миллиардов долларов при оценке 965 миллиардов;
• 1 июня: Anthropic конфиденциально подаёт в SEC черновик регистрационной формы S-1;
• август: источники CNBC говорят, что протесты против дата-центров войдут в проспект как один из ключевых рисков;
• сентябрь: FT сообщает, что спор о том, могут ли модели уничтожить человечество, помешал планам IPO с оценкой до 2 триллионов, а Сэм Альтман ставит размещение OpenAI на паузу до следующего года;
• сентябрь: по сообщению Axios, по Белому дому ходит записка советника Трампа, где Амодеи назван у истоков «конвейера ИИ-судного дня»;
• 29 сентября: Reuters публикует подробности проспекта.

Выйти на биржу Anthropic, как сообщает India Today, собирается до конца этого года.