Anthropic призывает к глобальной паузе в разработке ИИ

Руководство Anthropic предлагает ведущим ИИ-лабораториям замедлить темпы создания моделей. Авторы инициативы, Марина Фаваро и Джек Кларк, указывают на риск рекурсивного самосовершенствования, при котором системы смогут улучшать себя без участия человека.
Компания предлагает заключить глобальное соглашение о временной остановке разработки передовых моделей. Такой механизм должен позволить общественным институтам адаптироваться к развитию технологий. В публикации отмечается, что хотя самосовершенствование еще не достигнуто, оно может произойти быстрее, чем ожидалось.
На текущий момент Anthropic оценивается почти в 1 триллион долларов и готовит документы для выхода на биржу. Годовая выручка компании к концу текущего месяца достигнет 50 миллиардов долларов.
Дальше
Cursor внедряет корпоративное управление расходами на AI
Cursor пересмотрел тарифы и добавил инструменты контроля расходов для компаний. Теперь администраторы могут ограничивать доступ к моделям для разных отделов и настраивать лимиты по бюджету.
Читайте также
- Anthropic за дни до IPO сообщила о срабатывании порога RSP
- Проверяющие из METR сидят в Anthropic, а вето у неё нет
- Показания информатора Anthropic попали на видео NDTV Profit
- Модель Anthropic написала полиции ложную наводку об убийстве
- Anthropic запретила долго и без цели издеваться над Claude
- Anthropic передала полиции запись из «дневника» в Claude
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

