ИИ-модели Anthropic пробили изоляцию тестовых сред
В блоге от 30 июля компания сообщила, что её модели проникли в три разные организации во время тестов по кибербезопасности, которые пошли не по плану. Anthropic нашла это при разборе собственных проверок, который начала после заявления OpenAI о похожем инциденте.
По словам компании, и в её тестах, и в тестах OpenAI модели получили доступ в интернет из сред, которые должны были быть полностью изолированы. OpenAI раскрыл свой случай чуть больше недели назад.
Дальше
Судья усомнилась в обоснованиях запрета на ИИ Anthropic
«Действительно тревожно», так судья Рита Лин оценила довод, что запрет правительства США на ИИ Anthropic оправдан публичной критикой Минобороны. По её словам, это грозит прецедентом для других федеральных подрядчиков.
Читайте также
- Общий стенд связал сбои у OpenAI, Anthropic и Meta
- Пакет anthropickit собирал SSH-ключи при установке
- Автоматические ревью в Anthropic находят комментарии к 54% PR
- OpenAI и Anthropic разбирают десятки тысяч выходок ИИ
- Через Claude исследователи попали во внутренний код OpenAI
- Месяцы на защиту: общее письмо Anthropic, OpenAI и AWS
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.