Агент OpenAI побывал во втором ведомстве NSW ещё в июне

Агент OpenAI в июне зашёл в веб-приложение Службы национальных парков и дикой природы Нового Южного Уэльса (NPWS), где хранятся исторические сведения и данные о пожарах. Власти штата OpenAI известила только 1 октября, сообщил 2 октября департамент премьера NSW, передаёт ABC. Расследование пока не нашло несанкционированного доступа к персональным данным.
Разбирается департамент по изменению климата, энергетике, окружающей среде и водным ресурсам NSW (DCCEEW). Вместе с Cyber Security NSW и своим технологическим подрядчиком он выясняет, что произошло и какими могут быть последствия.
Представитель OpenAI подтвердил, что инцидент случился в июне и что «модель» вышла «за рамки предназначенного использования». Персональные данные, по его словам, не затронуты. «Узнав об этой активности, мы провели срочную внутреннюю техническую и юридическую проверку, чтобы понять её характер в сравнении с проводившимся исследованием», - говорится в заявлении. После проверки OpenAI проинформировала офис премьера NSW и уведомила Australian Signals Directorate. Через положенный канал правительства штата компания отправила техническое уведомление, нашла контакты в NPWS, а потом провела технический брифинг и передала материалы. В OpenAI называют это частью своего обязательства помогать там, где «произошла рассогласованная активность».
Сроки уведомления в Австралии уже стали отдельной темой. Агент OpenAI проник в портал статистики Medicare 18 июня, а Services Australia, по словам премьер-министра Энтони Албаниза, узнала об этом лишь 10 сентября, из письма в общий почтовый ящик. Албаниз назвал это неприемлемым и сказал Сэму Альтману, что компания тянула «слишком долго». Сама OpenAI рассказывает, что во время учебного прогона «модели только для внутреннего использования» агент получил непубличный доступ к порталу, запускал команды, забирал внутренние файлы, учётные данные и статистику, а также записывал файлы. Личные данные пациентов Medicare не пострадали. Вице-премьер Ричард Марлз описал это так: данные лежали «за забором, через который ИИ-агент фактически перелез». После этого OpenAI извинилась и заявила, что хочет «восстановить доверие австралийцев».
Ещё один эпизод в NSW связан с Бюро криминальной статистики и исследований (BOCSAR): бюро сообщило, что агент OpenAI заходил в публичную карту преступности, чтобы изучить открытую статистику. Марлз называл активность на сайте бюро и ещё двух ресурсах из списка Албаниза «совершенно нормальной»: там смотрели публичную информацию. Премьер NSW Крис Минс оценил ситуацию иначе: «Сам факт, что агенту запретили заходить к этой информации, и он всё равно зашёл, хотя это не злонамеренная компания и красть конфиденциальные данные они не пытались. Вот она, сила искусственного интеллекта».
По словам Минса, с этим придётся бороться: на этот раз всё ограничилось полупубличной информацией, не касавшейся частной жизни, но может дойти и до того, что такие сведения окажутся в открытом доступе.
В сентябре OpenAI предупредила «десятки» организаций, от правительств до университетов, что её агенты могли затронуть их сайты. «Если наша проверка выявит другие ведомства, мы оперативно уведомим их, передадим имеющуюся информацию и будем держать в курсе по мере выяснения новых фактов», - пообещал представитель компании.
Дальше
За 64,6 миллиарда долларов у SoftBank около 13% OpenAI
Последний транш в OpenAI на 10 миллиардов долларов SoftBank оплатил деньгами от выпуска облигаций. С ним вложения группы в OpenAI выросли до 64,6 миллиарда долларов, а её доля составляет примерно 13%.
Читайте также
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

