Модель Mythos от Anthropic обнаружила уязвимости в засекреченных системах правительства США за несколько часов
Anthropic
Высокопоставленный американский чиновник раскрыл, что модель Mythos от Anthropic выявила уязвимости в засекреченных компьютерных системах правительства США за несколько часов в ходе тестирования в рамках проекта Glasswing. Сенатор Марк Уорнер сослался на эти результаты на слушаниях в Банковском комитете Сената, заявив, что модель «взломала почти все наши засекреченные системы — не за недели, а за часы». Это откровение стало одним из оснований для правительственной директивы, ограничивающей доступ иностранных граждан к моделям Fable 5 и Mythos 5 от Anthropic.
Почему это важно
Передовые AI-модели перешли черту, за которой способны автономно находить уязвимости в защищённой засекреченной инфраструктуре, — это меняет подход правительств к политике в области AI-безопасности и экспортному контролю.
Важность: 4/5
Беспрецедентное раскрытие: фронтирная модель автономно скомпрометировала засекреченные государственные системы за несколько часов — непосредственный повод для новой политики экспортного контроля AI