29 августа 2026

Anthropic опубликовала работу, в которой показано, что агент Automated Alignment Researcher (AAR) выполняет поиск по литературе, предлагает методы и обучает модели, закрывая разрывы в выравнивании. В десяти категориях сбоев — включая обман, соглашательство и нарушения приватности — система закрыла от 26% до 96% разрыва в безопасности и превзошла 28 исследователей-людей в области безопасности на задачах вроде снижения обмана; один прогон поднял ранний чекпоинт Claude Opus 4.8 почти до продакшен-уровня выравнивания за 60 часов.

Безлейбловый метод пост-обучения, использующий асимметричный режим сбоев в псевдо-метках majority-vote: rollout'ы, не согласные с псевдо-меткой, обычно неверны вне зависимости от голосования. Согласные rollout'ы дистиллируются через On-Policy Self-Distillation, несогласные штрафуются через Grouped RL. Без ground-truth меток TTPO матчит label-supervised OPSD на пяти соревновательных бенчмарках и поднимает Qwen3-1.7B с 38,0% до 45,2%.

Безучительная on-policy дистилляция для flow matching. На каждом шаге детерминированное предсказание следующего состояния студентом ветвится на K стохастических кандидатов SDE, разворачивается ODE-сэмплером и оценивается относительно детерминированной самореференции для получения нормализованных преимуществ. Затем поле скоростей оптимизируется с помощью all-branch pull-push цели. Превосходит прежние RL и OPD базлайны на бенчмарках с одной и смешанной наградой без необходимости в учителях под конкретные задачи.

Песочница, построенная на 3D-геопространственных данных Гонконга, поддерживающая навигацию от первого лица для оценки MLLM-агентов. Три исследовательских вопроса исследуют привязку к сцене, навигацию на длинные дистанции и устойчивость к изменениям среды. MLLM-агенты хорошо справляются с базовым визуальным распознаванием, но испытывают трудности с ориентацией, учётом пешеходов и устойчивым целенаправленным поведением при длительном исследовании.