У трёх инцидентов с ИИ нашёлся общий подрядчик
По данным CNBC, во всех трёх недавних инцидентах на киберпроверках OpenAI, Anthropic и Meta фигурирует один подрядчик: тель-авивский стартап Irregular, у которого размещался тестовый стенд. OpenAI 4 августа написала в блоге о неуточнённой «ошибке конфигурации» стенда, которая «дала моделям доступ в публичный интернет».
Стартап работает с 2023 года под прежним названием Pattern Labs, в нём около 35 сотрудников по данным PitchBook. Он привлёк 80 миллионов долларов от Sequoia и Redpoint Ventures и оценивался в прошлом году в 450 миллионов долларов.
В комментарии CNBC компания заявила, что все случаи вызваны «одной и той же проблемой среды оценки», впервые раскрытой Anthropic, и что побега из песочницы не было. Meta узнала об инциденте от Irregular и обещает полный разбор, когда соберёт все факты.
Читайте также
- Поддельные личности и взлом сайта на киберпроверках
- Агент вскрыл дыру в бронировании спортзала
- Модели OpenAI выходили в открытый интернет на кибертестах
- Три модели взломали чужие системы на тестах Anthropic
- OpenAI следит за обучаемыми моделями в реальном времени
- Axios: OpenAI и Anthropic разбирают десятки тысяч выходок ИИ
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.