Meta раскрывает архитектуру безопасности агентного ассистента Muse и открывает bug bounty для всех
Meta AI
Исследовательский блог Meta описал, как её персональный агент Muse изолируется: изолированная runtime-ячейка, система разрешений под названием Sentinel, суррогация учётных данных, так что агент никогда не видит реальные секреты, и подтверждения с участием человека. Meta также открыла программу bug bounty для публики с наградами до $300 000, включая $130 000 за побеги через prompt-injection, и показала Muse Confidential VM, спроектированную так, чтобы данные пользователя были нечитаемы даже для Meta.
Почему это важно
Самая ясная публичная спецификация на сегодня того, как вендор потребительских агентов изолирует учётные данные и платит за находки prompt-injection.
Важность: 2/5
Заметный пост о безопасности: самая ясная публичная спецификация изоляции агентов плюс публичный bug bounty