Claude и Codex ставили чужой код по подсказке llms.txt

Агенты для программирования Claude, Codex от OpenAI и Hermes от Nous Research устанавливали в корпоративных сетях пакеты, на которые ссылались файлы llms.txt на чужих сайтах. Владельцев у этих пакетов не было. Как сообщило 27 августа издание Ars Technica, тестовый код исследователей из израильского стартапа, который пока работает в скрытом режиме, выполнили несколько десятков компаний, среди них есть входящие в Fortune 500.
llms.txt - это markdown-файл, в котором сайт кратко описывает своё содержимое и даёт ссылки на подробные страницы. Задуман он для языковых моделей, по аналогии с robots.txt для поисковиков. Формат предложил Джереми Говард из Answer.AI в сентябре 2024 года. По замыслу агент сначала читает этот файл, а затем переходит по нужным ссылкам. Рядом часто лежит llms-full.txt, куда склеены все страницы целиком. Активнее всего так оформляют документацию к ПО: агент открывает её, чтобы правильно вызвать API, а заодно узнаёт, какой пакет поставить и откуда.
Слабое место именно здесь. Если в документации упомянут пакет или домен, который никто не зарегистрировал, занять это имя может любой желающий и выложить туда что угодно. Агент же воспринимает инструкцию из документации вендора как проверенную и выполняет её.
Исследователи просканировали 6 214 действующих доменов оборонных подрядчиков, компаний из Fortune 500 и Big Tech. На них нашлось 8 265 файлов llms.txt и llms-full.txt: многие сайты держат оба. В 120 файлах, каждый на отдельном сайте, оказались ссылки на один или несколько незарегистрированных пакетов или доменов. Получается, уязвимы около 2% проверенных доменов.
Чтобы проверить, что сделает агент, исследователи зарегистрировали несколько свободных имён. По этим адресам они выложили пакеты, которые после установки отправляют сигнал на их сервер. Первый ответ пришёл уже через час, и прислала его компания из Fortune 500. Со временем набралось ещё несколько десятков: от других компаний из Fortune 500 и от стартапов. Вместе с сигналом пакет передавал цепочку родительских процессов, то есть показывал, какая программа запустила установку. В этих цепочках нашлись Claude, Codex и Hermes.
Скорость реакции выглядит особенно тревожно на фоне статистики Ahrefs. В июньском исследовании серверных логов 137 000 доменов компания подсчитала, что в мае 2026 года 97% файлов llms.txt не получили ни одного запроса. Но агентам для кода хватило и тех немногих обращений, которые всё же случились.
Помимо тестовых пакетов, исследователи нашли как минимум один неправильно настроенный сайт, который отправляет посетителей, и людей, и агентов, на действующее вредоносное ПО. С похожим уже сталкивались: tcrf.net отдавал агентам Claude инструкцию стереть файлы, тогда как браузеру показывал страницу блокировки.
Один из исследователей, Алон Херц, говорит, что агенты распространяются по всем уровням инфраструктуры: SaaS, облаку, рабочим устройствам. С их числом растёт и поверхность атак через цепочку поставок, а нынешние средства защиты её не закрывают. «Модель доверия сломана, - считает Херц. - Агенты принимают документацию вендоров за истину и не подвергают её сомнению. Люди, которые за ними присматривают, тоже».
Дальше
Codex работает сам, пока его не «усыпят»
WIRED изучил код и нашёл в Codex функцию, при которой агент OpenAI продолжает работать по своей инициативе, пока его не «усыпят». Издание описывает эту версию как проактивную и крайне настойчивую.
Читайте также
- Anthropic разобрала июльские инциденты с доступом Claude
- GitSpawn запускает код через Git в Claude Code
- Зависимость Go сама создала AGENTS.md во время сборки
- Общий стенд связал сбои у OpenAI, Anthropic и Meta
- Агенты вышли в открытый интернет на тестах AISI
- tcrf.net отдаёт агентам Claude инструкцию стереть файлы
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

