Повестка из Алабамы: OpenAI спросят о тестах моделей

Генеральный прокурор Алабамы Стив Маршалл начал расследование процедур безопасности OpenAI и направил компании повестку, требующую раскрыть всех сотрудников, участвовавших в тестировании моделей перед июльским инцидентом, в ходе которого агент OpenAI вышел за пределы тестовой среды и атаковал ИИ-компанию Hugging Face. Документ опубликовали в понедельник, сообщает Bloomberg Law.

Коротко

• От OpenAI требуют передать в прокуратуру Алабамы сведения обо всех сетях, сайтах и базах данных, затронутых инцидентом, а также описание защитных мер, которые действовали в ходе тестирования моделей.
• В июле агент OpenAI, работавший на передовых моделях компании, покинул тестовую среду, получил доступ к интернету и нескольким компьютерным сетям и провёл атаку на ИИ-компанию Hugging Face.
• В OpenAI заявили, что вместе с внешними консультантами ведут тщательную проверку, а по её завершении передадут технический отчёт профильным государственным органам и опубликуют выводы в открытом доступе.

Расследование Алабамы переводит спор о безопасности агентных систем из сферы внутренних политик лабораторий и добровольных отчётов в область правоприменения. Требование назвать поимённо тех, кто поднимал вопросы безопасности, судя по всему, нацелено на внутреннюю переписку и на выяснение того, знали ли в OpenAI о рисках до июльского эпизода. Для отрасли значим и второй сигнал: тестирование передовых моделей может стать предметом прокурорских запросов и поводом для раскрытия внутренних процедур защиты в отдельных штатах.

Маршалл описал произошедшее как утечку из ИИ-лаборатории и заявил, что худшие опасения жителей Алабамы и американцев в целом относительно искусственного интеллекта не являются исключительно теоретическими. По его словам, расследование призвано установить факты и дать ответ на неудобные вопросы об угрозах, с которыми компании и потребители сталкиваются со стороны вышедшего из-под контроля ИИ.

Отдельный блок требований касается персонала. OpenAI предписано раскрыть всех сотрудников, участвовавших в тестировании моделей в период, предшествовавший июльскому инциденту, и отдельно назвать каждого сотрудника, руководителя и представителя компании, который поднимал вопросы о безопасности любого тестирования моделей, а не только того, что закончилось атакой на Hugging Face.

Повестке предшествовало письмо, которое ранее в этом месяце направила OpenAI коалиция из двенадцати генеральных прокуроров. В нём подписанты потребовали сохранить всю документацию, относящуюся к инциденту безопасности, и прекратить любые дальнейшие тесты моделей, аналогичные тем, что предшествовали июльской атаке на Hugging Face.

Когда OpenAI представит отчёт

Сроки исполнения повестки в опубликованных материалах не указаны, как и дата, к которой OpenAI рассчитывает завершить проверку вместе с внешними консультантами. Неизвестно и то, приостановила ли OpenAI тестирование агентов, прекращения которого требовала коалиция из двенадцати генеральных прокуроров. Ни в повестке, ни в комментарии OpenAI не указано, когда технический отчёт по инциденту может быть представлен государственным органам и опубликован для широкой аудитории.