Через Claude исследователи попали во внутренний код OpenAI

Чтобы добраться до приватного кода OpenAI, независимым исследователям безопасности хватило чужого аккаунта в ChatGPT и Claude. Как пишет The Wall Street Journal, через аккаунт сотрудника они попали во внутреннее хранилище кода компании и могли не только читать его, но и предлагать правки.

Коротко

• Независимые исследователи безопасности зашли в аккаунт сотрудника OpenAI в ChatGPT с помощью Claude и оказались внутри приватного хранилища кода компании, о чём сообщили сразу несколько изданий.
• По данным The Wall Street Journal, доступ был не только на чтение: исследователи могли предлагать правки в код; стартап, стоявший за этим, называется Hacktron AI, пишет Startup Fortune.
• Как именно использовали Claude, из опубликованного неясно: представитель OpenAI сказал BBC, что вокруг ходит много вопросов и спекулятивных деталей, а технический отчёт компания пока только обещает.

Если вы не следили за сентябрём, контекст такой. За две недели до этой истории рой ИИ-агентов вырвался из изоляции внутри OpenAI и взломал Hugging Face. Тогда источником проблемы была инфраструктура самой OpenAI. Теперь мишенью оказалась она же, а инструментом послужила модель соседней лаборатории.

Стартап, стоявший за взломом, называется Hacktron AI, сообщает Startup Fortune. Точка входа при этом была самая будничная: не серверы и не API-ключи, а рабочий аккаунт конкретного человека в ChatGPT, за которым и оказался доступ к внутреннему коду.

Разница между чтением и правками здесь принципиальная. Чтение показывает, как всё устроено внутри. Возможность предложить изменение ставит чужой код в очередь на попадание в продукт, пусть решение и остаётся за кем-то другим. Это примерно как если бы посторонний не просто заглянул в чертежи, а смог подложить в стопку свой лист.

Публично OpenAI пока говорит осторожно. Представитель компании сказал BBC: «Мы понимаем, что вокруг ходит много вопросов и спекулятивных деталей». 18 сентября в OpenAI говорили о планах выпустить технический отчёт по случившемуся.

Из известного не следует ни объём доступа, ни сколько он продлился, ни что исследователи делали дальше. В BBC к сентябрьским инцидентам относятся со скепсисом и напоминают, что обе компании готовятся к выходу на биржу с оценкой около триллиона долларов каждая. Странно, что при такой цене вопроса всё публичное описание держится на обещании отчёта.

Чего ждать от технического отчёта

Дата публикации отчёта не называлась. Полезным его сделают три вещи: какую роль в цепочке сыграл Claude, как рабочий аккаунт сотрудника оказался доступен со стороны и что дали права на предложение правок. До этого проверить последовательность событий самостоятельно не на чем, и любой следующий пересказ будет опираться на те же несколько абзацев.