Anthropic представила детальный план госрегулирования ИИ

Компания опубликовала расширенный фреймворк безопасности, дополняющий недавние заявления Дарио Амодея о праве властей блокировать опасные модели. Предложения касаются только систем, обученных с использованием более 10 в 25 степени операций с плавающей запятой, при условии, что компания тратит на ИИ более 1 миллиарда долларов в год или зарабатывает от 500 миллионов.
Ключевые требования включают обязательную публикацию отчетов о рисках и привлечение независимых оценщиков. Anthropic настаивает на создании системы защиты от кибератак на веса моделей и инфраструктуру обучения. Компания также предлагает внедрить механизмы отчетности о попытках дистилляции моделей.
Помимо контроля разработчиков, документ содержит рекомендации по повышению устойчивости общества, включая скрининг синтеза генов для предотвращения создания биооружия.
Дальше
Anthropic отменила ограничение на разработку ИИ в Claude Fable 5
Anthropic официально убрала скрытые фильтры из Claude Fable 5, которые мешали разработчикам создавать свои ИИ-модели. Ранее компания пыталась ограничить использование Claude для проектирования конкурирующих систем, но столкнулась с протестом исследователей.
Читайте также
- Дарио Амодей предложил государству право блокировать запуск новых ИИ-моделей
- Отставка Хуанга, Рубио и лоббисты Anthropic
- WSJ: Anthropic назовут национальным чемпионом ИИ
- Фонды из Китая и Гонконга не пускают в IPO Anthropic
- Opus 4.6 и три модели 4.5 получат водяной знак 16 ноября
- Anthropic и OpenAI примут общий запрет обучения в robots.txt
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

