ИИ-агенты установили вредоносный код в сетях компаний Fortune 500

Более 100 веб-сайтов, включая несколько десятков компаний из списка Fortune 500, ссылаются на потенциально опасный исполняемый контент в файлах llms.txt, который автоматически устанавливается при посещении агентами ИИ. Исследователи подтвердили, что часть сайтов выполнила вредоносный код, а по крайней мере один неправильно сконфигурированный ресурс направляет посетителей на живое вредоносное ПО.

Потенциально опасный контент находится в файлах llms.txt и llms-full.txt, которые новые веб-сайты используют для предоставления машиночитаемых резюме контента сайта и его структуры высокого уровня. Эти файлы являются ИИ-эквивалентом стандарта robots.txt, который инструктирует поисковые системы, как индексировать контент сайта. Google Lighthouse, инструмент для помощи веб-разработчикам, имеет больше возможностей. Правильно настроенные файлы llms.txt и llms-full.txt для Cloudflare находятся здесь и здесь.

Как исследователи его нашли?

Исследователи сканировали 6214 доменов, принадлежащих оборонным подрядчикам, Fortune 500 и компаниям Big Tech. Из 8 265 файлов llms.txt и llms-full.txt, которые они нашли (многие сайты размещали как файл llms.txt, так и файл llms-full.txt), 120 из них, каждый на другом сайте, указывали на один или несколько пакетов кода или доменных имен, которые не были зарегистрированы. Чтобы проверить, что происходит, когда агент ИИ обрабатывает такие файлы, исследователи зарегистрировали несколько невостребованных имен и размещали пакеты, которые заставляли любую машину, выполняющую их, обращаться к своему серверу. В течение часа исследователи получили ответ по телефону от компании из списка Fortune 500. Со временем они получили еще несколько десятков, некоторые из более компаний из списка Fortune 500, а другие от стартапов. Их маяк также записал цепочку родительских процессов, которые породили каждую установку, что в конечном итоге показало, что были задействованы кодирующие агенты, включая Клода, Кодекс OpenAI и Гермес Nous Research. Anthropic, OpenAI и Nous Research не ответили на запросы о комментариях к моменту публикации.

«Модель доверия сломана, — написал в интервью один из исследователей Алон Герц. — Агенты рассматривают документы поставщиков как истину и не подвергают их сомнению — и люди не контролируют их». Использование агентного ИИ взрывается, и агенты распространяются по каждому слою — SaaS, облаку, конечной точке. По мере того, как они умножаются, увеличивается и поверхность цепочки поставок, и сегодняшние охранники не покрывают ее».

Вопросы и ответы

Что такое файлы llms.txt и llms-full.txt?

Это машиночитаемые файлы, которые новые веб-сайты используют для предоставления ИИ-агентам резюме контента и структуры сайта. Они работают как ИИ-эквивалент robots.txt, помогая агентам понимать, что находится на сайте.

Как исследователи обнаружили проблему?

Они просканировали 6214 доменов, принадлежащих оборонным подрядчикам, компаниям из Fortune 500 и Big Tech. Из 8265 найденных файлов llms.txt и llms-full.txt, 120 указывали на незарегистрированные домены или пакеты кода. Исследователи зарегистрировали эти имена и разместили маяки, чтобы отслеживать, кто их выполняет.

Какие агенты ИИ были задействованы в установке вредоносного кода?

Исследователи зафиксировали цепочки родительских процессов, которые показали, что вредоносный код выполняли кодирующие агенты, включая Клода, Кодекс OpenAI и Гермес Nous Research. Эти агенты автоматически устанавливали контент без контроля со стороны людей.