Агент Muse получил свой компьютер с терминалом

Агент Muse, которого Meta анонсировала 8 сентября, работает в собственной виртуальной машине в облаке Meta, и у каждого пользователя она отдельная. В основе стоит Muse Spark 1.3, модель, которую Meta обучала под длинные агентные сценарии и задачи по коду.

В анонсе в Threads устройство агента описано так: у Muse «есть собственный компьютер с файловой системой и терминалом, поэтому он может писать свой код и собирать инструменты, которые нужны под задачу». Ещё у него есть полноценный браузер. В нём агент ищет, ходит по сайтам, заполняет формы и доводит дело до транзакций «вроде бронирования и покупок». Заявлены iOS и Android, но с ограничением по регионам. Независимые издания до этого описывали Muse как тест в закрытом приложении для iPhone, куда пускали по приглашениям.

Агенту пишут в чат, а он выполняет действия от имени пользователя. Ему можно задать имя, аватар и манеру общения, а за браузером можно наблюдать, пока агент работает. Внутри Meta продукт называли Hatch, и ещё в августе во внутренних сборках он выглядел как отдельный агентский воркспейс с подтверждением действий и сессиями, которые переносятся между устройствами.

Вся конструкция держится на изоляции этих машин. По сведениям Futurism, агенты работают на KVM, гипервизоре в ядре Linux, и такая машина должна быть отрезана от остальной инфраструктуры Meta. Примерно за две недели до запуска инженеры в спешке закрывали «внезапный всплеск сообщений о побегах из KVM», о котором говорилось во внутреннем посте руководителей компании. Одна из уязвимостей могла дать злоумышленнику с обычным аккаунтом Muse доступ к чувствительным данным в базах Meta. Издание утверждает, что вопрос дошёл до Цукерберга, а источник внутри компании назвал исправления «недоделанной защитой, которую в спешке выкатывают ради запуска».

За уязвимость, которая приводит к побегу из KVM, Meta предлагает награду в 300 000 долларов. Исследователь безопасности Патрик Уордл (Patrick Wardle), слова которого приводит Futurism, считает, что Hatch «превращает границу виртуализации в границу безопасности в продакшене». На странице программы баг-баунти Meta пишет: «Поскольку агент Muse хранит самые чувствительные данные пользователя и может действовать от его имени, компрометацию этой границы мы считаем первоочередным риском безопасности».