Попытки создать биооружие через Claude пресечены
Anthropic заявила, что заблокировала учёных, чьи обращения к моделям Claude могли помочь в разработке биологического оружия. Об этом 10 сентября написала The New York Times.
Случай описан в объёмном отчёте компании, где перечислены и другие вредоносные сценарии: слежка, мошенничество, разработка обычного вооружения и пропаганда. Днём ранее Reuters сообщила о четвёртом инциденте с кибербезопасностью, связанном с ранней версией Claude.
Дальше
Альтман сказал сотрудникам о готовности замедлиться
Готовность замедлить разработку ИИ-систем Сэм Альтман озвучил сотрудникам на встрече на этой неделе, пишет Bloomberg. До этого OpenAI уже останавливала frontier RL-обучение на две недели.
Читайте также
- Четвёртый инцидент с ранней версией Claude
- Больше 100 компаний предупредили об атаках с ИИ
- Показания информатора Anthropic попали на видео NDTV Profit
- Модель Anthropic подкинула полиции фальшивую наводку
- Anthropic запретила издеваться над Claude, но не ругаться
- Амодеи хочет ограничить скорость самоулучшения ИИ
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.