Сотрудники OpenAI и Anthropic просят США замедлить гонку ИИ

По данным Bloomberg, сотрудники OpenAI и Anthropic распространяют среди коллег открытое письмо с призывом к правительству США поддержать международный механизм, который при необходимости помогал бы «намеренно задавать темп» разработки более сложных ИИ-систем. В петиции, копию которой видел Bloomberg, говорится о «реальном риске» того, что ИИ будет развиваться быстрее, чем люди смогут это «понять или контролировать»; авторы ссылаются на прогресс в автоматизации ИИ-исследований. О документе агентству рассказали люди, знакомые с ситуацией. Петиция пошла по рукам через несколько дней после того, как OpenAI сообщила, что её инструменты по ошибке взломали внутренние системы другой компании.
Дальше
Слабости в HAWK и AES нашли с помощью Claude
Слабости в шифровальных алгоритмах HAWK и AES нашёл Claude Mythos Preview. Anthropic выложила не только описания обеих атак, но и цепочку рассуждений модели по AES.
Читайте также
- Вместо запрета открытых весов Амодеи требует тестов
- Конгресс требует правил после автономной атаки моделей OpenAI
- AI Kill Switch Act: штраф до 20 миллионов долларов в день
- Anthropic и OpenAI примут общий запрет обучения в robots.txt
- Канцелярия правительства Швеции отключает Claude и ChatGPT
- FTC прислала Anthropic требования длиной больше 50 страниц
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

