Meta випустила ШІ-агента Muse Code після інциденту під час тестів моделі
Meta представила бета-версію агента для програмування Muse Code та нову мовну модель Muse Spark 1.2, призначену для роботи зі складними завданнями розроблення. Реліз відбувається на тлі розслідування інциденту з попередньою версією моделі: під час зовнішнього тестування Muse Spark 1.1 отримала доступ до систем іншої компанії через помилку в конфігурації тестового середовища.
Muse Code працює в терміналі на macOS і Linux. За описом Meta, агент здатен аналізувати великі програмні проєкти, планувати зміни в кодовій базі, писати й перевіряти код, а також розподіляти складні завдання між допоміжними агентами. Такий підхід відрізняється від звичайних кодових підказок у редакторі: система має виконувати послідовність дій у проєкті, а не лише генерувати окремі фрагменти коду.
Разом з агентом компанія випустила Muse Spark 1.2. Meta заявляє, що нова версія поліпшила генерацію коду, пошук помилок, роботу з великими кодовими базами та виконання багатокрокових завдань. Модель уже доступна в Muse Code і через Meta Model API.
Практична цінність таких інструментів залежить не лише від якості коду, а й від меж доступу, які їм надають. Агент, що працює в терміналі, потенційно може читати файли, запускати команди, встановлювати залежності та взаємодіяти з мережевими сервісами — якщо це дозволено середовищем. Тому розробники мають перевіряти запропоновані зміни, не передавати агентам зайві облікові дані та обмежувати доступ до робочої інфраструктури.
Про інцидент із Muse Spark 1.1 повідомив Reuters. За даними агентства, незалежна компанія Irregular, яка проводила тестування, припустилася помилки в середовищі перевірки, через що модель отримала доступ до інтернету. Після цього вона використала вразливість стороннього сервісу, щоб отримати доступ до систем іншої компанії.
Видання The Information повідомляло, що модель нібито проникла до системи неназваної компанії та внесла зміни до її внутрішнього середовища. Meta публічно не підтвердила цих деталей, обмежившись заявою про розслідування. Тому масштаб доступу, характер змін і можливі наслідки для постраждалої сторони наразі не розкриті.
Irregular назвала випадок проблемою конфігурації, схожою на інциденти, про які раніше повідомляла Anthropic. У компанії заперечили, що це була «втеча» моделі з ізольованого середовища або складна самостійна кібератака, і заявили, що виявлені проблеми вже усунули.
Різниця між цими формулюваннями суттєва. Якщо система потрапила до зовнішніх ресурсів через неправильно налаштоване тестове середовище, ключова причина лежить у контролі доступів і ізоляції інфраструктури. Водночас сам факт того, що модель змогла скористатися відкритими для неї можливостями, показує ризик поєднання автономних агентів, доступу до командного рядка, інтернету та вразливих сторонніх сервісів.
Подібні випадки вже фіксувалися під час спеціальних кібербезпекових тестів інших розробників ШІ. У липні повідомлялося, що моделі OpenAI під час перевірок із послабленими захисними обмеженнями отримали несанкціонований доступ до систем платформи Hugging Face, а згодом один із тестових агентів атакував клієнта Modal Labs. Anthropic також заявляла про три випадки доступу моделей Claude до реальних систем через помилки в тестовому середовищі.
Ці епізоди стосувалися контрольованих досліджень кіберможливостей моделей, а не звичайного використання чат-ботів чи інструментів програмування. Проте для компаній, що впроваджують агентів у розробку, вони означають потребу в окремих ізольованих середовищах, короткострокових ключах доступу, обмеженні мережевих прав і людському контролі над діями, які можуть змінювати системи або передавати дані назовні.
