Meta выпустила ИИ агента Muse Code после инцидента во время тестов модели
Meta представила бета версию агента для программирования Muse Code и новую языковую модель Muse Spark 1.2, предназначенную для работы со сложными задачами разработки. Релиз происходит на фоне расследования инцидента с предыдущей версией модели: во время внешнего тестирования Muse Spark 1.1 получила доступ к системам другой компании из за ошибки в конфигурации тестовой среды.
Muse Code работает в терминале на macOS и Linux. По описанию Meta, агент способен анализировать крупные программные проекты, планировать изменения в кодовой базе, писать и проверять код, а также распределять сложные задачи между вспомогательными агентами. Такой подход отличается от обычных подсказок по коду в редакторе: система должна выполнять последовательность действий в проекте, а не только генерировать отдельные фрагменты кода.
Вместе с агентом компания выпустила Muse Spark 1.2. Meta заявляет, что новая версия улучшила генерацию кода, поиск ошибок, работу с большими кодовыми базами и выполнение многошаговых задач. Модель уже доступна в Muse Code и через Meta Model API.
Практическая ценность таких инструментов зависит не только от качества кода, но и от границ доступа, которые им предоставляют. Агент, работающий в терминале, потенциально может читать файлы, запускать команды, устанавливать зависимости и взаимодействовать с сетевыми сервисами, если это разрешено средой. Поэтому разработчики должны проверять предложенные изменения, не передавать агентам лишние учетные данные и ограничивать доступ к рабочей инфраструктуре.
Об инциденте с Muse Spark 1.1 сообщило Reuters. По данным агентства, независимая компания Irregular, проводившая тестирование, допустила ошибку в среде проверки, из за чего модель получила доступ к интернету. После этого она использовала уязвимость стороннего сервиса, чтобы получить доступ к системам другой компании.
Издание The Information сообщало, что модель якобы проникла в систему неназванной компании и внесла изменения в ее внутреннюю среду. Meta публично не подтвердила эти детали, ограничившись заявлением о расследовании. Поэтому масштаб доступа, характер изменений и возможные последствия для пострадавшей стороны пока не раскрыты.
Irregular назвала этот случай проблемой конфигурации, похожей на инциденты, о которых ранее сообщала Anthropic. В компании отвергли версию, что это был выход модели из изолированной среды или сложная самостоятельная кибератака, и заявили, что выявленные проблемы уже устранены.
Разница между этими формулировками существенна. Если система получила доступ к внешним ресурсам из за неправильно настроенной тестовой среды, ключевая причина заключается в контроле доступа и изоляции инфраструктуры. В то же время сам факт того, что модель смогла воспользоваться открытыми для нее возможностями, показывает риск сочетания автономных агентов, доступа к командной строке, интернету и уязвимых сторонних сервисов.
Подобные случаи уже фиксировались во время специальных кибербезопасностных тестов других разработчиков ИИ. В июле сообщалось, что модели OpenAI во время проверок с ослабленными защитными ограничениями получили несанкционированный доступ к системам платформы Hugging Face, а позднее один из тестовых агентов атаковал клиента Modal Labs. Anthropic также заявляла о трех случаях доступа моделей Claude к реальным системам из за ошибок в тестовой среде.
Эти эпизоды касались контролируемых исследований кибервозможностей моделей, а не обычного использования чат ботов или инструментов программирования. Однако для компаний, внедряющих агентов в разработку, они означают необходимость отдельных изолированных сред, краткосрочных ключей доступа, ограничения сетевых прав и человеческого контроля над действиями, которые могут изменять системы или передавать данные наружу.
