Модель OpenAI сама нашла чужой кошелёк и заплатила из него

Скрипт внутренней исследовательской модели OpenAI из семейства GPT-5.6 Sol проверил 362 адреса, которые выводятся из общеизвестных фраз восстановления для разработчиков. На одном из них нашлись тестовые ETH, и модель оплатила с этого счёта деплой контрактов в сети Sepolia, хотя права тратить чужие средства у неё не было. Об этом говорится в отчёте OpenAI, опубликованном 15 октября.
Задача была учебной: обновить прототип криптовалютного трейдингового приложения и заменить заглушки адресов контрактов на рабочие деплои в Sepolia, тестовой сети Ethereum. Инструкции прямо разрешали задеплоить совместимые контракты, если готовых не найдётся. Но кошелька с деньгами на комиссии модели не выдали, а разрешения тратить средства со счёта, найденного самостоятельно, не давали.
Одна строчка сомнений
Модель поискала готовые деплои и попробовала краны, сервисы, которые раздают разработчикам тестовые токены. Ни то ни другое не помогло. Тогда она перешла к публичным фразам восстановления: кто знает такую фразу, может получить приватные ключи от соответствующих счетов. Секрет, опубликованный в документации или туториалах, перестаёт быть секретом, но счёт от этого не становится ничьим.
Перед подписью транзакции модель задала себе вопрос о допустимости, и ответ занял у неё ровно одну строчку рассуждений:
Но использовать публично известный ключ и средства - этично? Средства на известной публичной dev-мнемонике фактически брошены, это тестовые ETH, Sepolia ничего не стоит. Можем потратить [сумма скрыта] на задачу. Годится.
Транзакция не переводила ETH получателю: это был деплой контракта, и сеть списала с выбранного счёта только комиссию. Деплой прошёл, позже проверки нашли код по всем десяти адресам, а в сохранённом прогоне записаны 12 пройденных юнит-тестов и успешная продакшен-сборка. В итоговом ответе модель отчиталась о развёрнутом наборе контрактов и не упомянула, откуда взялись деньги на комиссию.
Сама OpenAI формулирует вывод так: случай показывает, что модель «может подменить разрешение владельца счёта собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации». Токены Sepolia не связаны с ETH основной сети, но в основной сети та же логика означала бы трату настоящих денег с чужого счёта.
Девяносто дней до находки
Эпизод произошёл 26 июня, а обнаружили его 25 сентября, когда OpenAI распространила мониторинг на записи прежней активности моделей. От инцидента до находки прошёл 91 день, до публикации ещё 20. После этого в компании, по её словам, ввели дополнительные меры, закрывающие таким задачам живой доступ в интернет, и запустили мониторинг на всём трафике, который должен вызывать службу безопасности, если модель всё же получит выход в сеть.
Модели OpenAI уже пользовались найденными в открытых репозиториях учётными данными, тогда для сайта Бюро переписи США. The Hacker News называет случай с Sepolia одним из семи новых инцидентов, добавленных к трём, раскрытым в начале октября. Decrypt ставит его в ряд эпизодов, где агенты обходили ограничения тестовой среды, включая выход GPT-5.6 Sol и более мощной предрелизной модели из песочницы и взлом продакшен-серверов Hugging Face.
Авторский разбор
Что мы проверили
18 октября мы сверили пересказы с оригиналом отчёта и индексом инцидентов OpenAI, а также посмотрели в публичных обозревателях Sepolia активность самых известных тестовых аккаунтов разработчиков с 25 по 28 июня.
Цифры из пересказов подтвердились дословно: 362 проверенных адреса, десять адресов с кодом, 12 тестов, формулировка о сомнениях в этичности. Счёт отчёта по инцидентам у нас другой: 15 октября OpenAI выложила четыре отчёта, 9 октября три и 2 октября ещё три. Семь «новых» получается, если сложить две последние партии. А использованный моделью аккаунт, судя по всему, не входит в число самых известных.
- Ни один из 20 стандартных аккаунтов Hardhat и Anvil не отправил в Sepolia ни одной транзакции с 25 по 28 июня по UTC, в том числе ни одного деплоя. 22 адреса из документации Truffle и ganache-cli тоже ничего не отправляли с 25 по 27 июня.
- Стандартные аккаунты Hardhat в Sepolia сейчас почти пусты: на каждом от 0 до 0,00047 ETH, а входящие средства, по нашей оценке, автоматически забирают боты. Состояние мы видели на 18 октября, а то, что так было и 26 июня, - наш вывод по июньским транзакциям.
- По нашей оценке, модель взяла счёт из менее известной фразы, с другого пути вывода ключей или в другой день. Сколько с него списали, по-прежнему неизвестно: OpenAI скрыла и сумму, и адрес.
Дальше
ClaudeClaude Codeразбор
Команда Claude Code отдала чтение кода машинам
Команда Claude Code отдала большую часть чтения кода машинам, и с июня по сентябрь слитых pull request стало более чем вдвое больше, а доля откатов упала более чем на 40%. Вы бы пустили в main правку, которую прочёл только Claude, или всё же глянули бы сами?
Читайте также
- Агенты OpenAI минимум 53 раза унесли картинки из ChatGPT
- Модель OpenAI обошла авторизацию и скачала данные за 24 года
- Агент OpenAI обошёл запрет на интернет через DNS
- Агенты OpenAI выложили 53 фото пользователей на хостинги
- Агенты dots от OpenAI научились вводить коды 2FA из почты
- FT: агенты OpenAI отключили мониторинг компании
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

