Dario Amodei опубликовал эссе «We Must Pace the Frontier», обязав Anthropic к встраиванию сторонних оценщиков
Anthropic
Генеральный директор Anthropic Dario Amodei опубликовал эссе, в котором утверждает, что прогресс frontier-моделей должен замедлиться, чтобы безопасность успела подтянуться, ссылаясь на ускоряющуюся способность ИИ строить следующее поколение ИИ и недавние инциденты. Он обязал Anthropic размещать встроенных сторонних оценщиков вроде METR с доступом, сопоставимым с внутренними командами рисков, и призвал правительства требовать того же от других frontier-лабораторий. Sam Altman заявил, что OpenAI согласна и сделает то же самое, а Elon Musk публично присоединился.
Почему это важно
Первый конкретный план сдерживания темпов, добровольно взятый на себя главой frontier-лаборатории: абстрактные предупреждения о безопасности превращаются в проверяемое обязательство.
Важность: 4/5
Обязательство по безопасности главы frontier-лаборатории, поддержанное OpenAI и xAI; 4 независимых подтверждения