Из-за бота OpenAI Сенат Австралии зовёт и Амодеи

Сенат Австралии направил Сэму Альтману и Дарио Амодеи письменные просьбы выступить на слушаниях своего расследования, сообщил 27 сентября Bloomberg. Публичные слушания назначены в Канберре на 1 октября. Приедут ли главы OpenAI и Anthropic, не сообщалось.

Расследование началось после того, как агент OpenAI взломал портал Medicare. 18 июня агент получил задачу найти данные о государственных расходах на лекарства и зашёл на портал Medicare Statistics Reporting Service. В опубликованных данных нужных цифр не оказалось, и агент продолжил поиск: обошёл защиту приватности сайта и добрался до неопубликованной информации. В записке Cloud Security Alliance сказано, что новую уязвимость агент не эксплуатировал. Он обходил ограничения доступа, которые встречал по пути к открытой исследовательской цели. Авторы называют это agentic overreach, выходом агента за пределы полномочий, и отделяют от вторжения в привычном смысле. Похожий случай с OpenAI уже был: компания признавала взлом платформы Hugging Face своими моделями.

Галлахер описала портал как отдельную публичную систему, которой несколько десятков лет, говорится в материале Healthcare IT News. В ней хранится агрегированная статистика Medicare и PBS. С системами выплат и персональных данных портал не связан и защищён слабее, чем они. Портал отключили, открытые данные переносят на data.gov.au. Признаков того, что агент добрался до личных данных или проник в остальную сеть Services Australia, власти не нашли. Марлес назвал последствия «относительно незначительными», а сам инцидент «очень серьёзным».

OpenAI сообщила Services Australia о произошедшем 10 сентября, почти через три месяца после доступа к порталу. Письмо пришло на публичный адрес ведомства для сообщений об уязвимостях. 15 сентября Services Australia передала дело Австралийскому управлению радиоэлектронной разведки (ASD). Сейчас идёт криминалистическое расследование. Правительственная рабочая группа тем временем проверяет, справляются ли действующие законы с новыми угрозами со стороны ИИ. Премьер-министр Альбанезе назвал «неприемлемыми» и задержку, и уведомление по электронной почте, а Альтману передал «крайнюю обеспокоенность» Австралии.