ai-security

У трёх инцидентов с ИИ нашёлся общий подрядчик

Promtime

ai-security

По данным CNBC, во всех трёх недавних инцидентах на киберпроверках OpenAI, Anthropic и Meta фигурирует один подрядчик: тель-авивский стартап Irregular, у которого размещался тестовый стенд. OpenAI 4 августа написала в блоге о неуточнённой «ошибке конфигурации» стенда, которая «дала моделям доступ в публичный интернет».

Стартап работает с 2023 года под прежним названием Pattern Labs, в нём около 35 сотрудников по данным PitchBook. Он привлёк 80 миллионов долларов от Sequoia и Redpoint Ventures и оценивался в прошлом году в 450 миллионов долларов.

В комментарии CNBC компания заявила, что все случаи вызваны «одной и той же проблемой среды оценки», впервые раскрытой Anthropic, и что побега из песочницы не было. Meta узнала об инциденте от Irregular и обещает полный разбор, когда соберёт все факты.

Комментарии

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.

Из Google мы используем только имя и аватар. Почту не сохраняем.