29 июня 2026

JetSpec вводит параллельную причинно-обусловленную голову-черновик, разрешающую дилемму между причинностью и эффективностью в speculative decoding. Стандартные подходы с деревьями либо генерируют черновик авторегрессивно (точно, но медленно), либо за один параллельный проход (быстро, но некогерентно). JetSpec обучает голову-черновик на слитых скрытых состояниях целевой модели так, чтобы оценки токенов дерева кандидатов следовали авторегрессивной факторизации целевой модели, а затем верифицирует полное дерево за один прямой проход. На бенчмарках по программированию и математике достигается ускорение до 9,64× по сравнению со стандартным авторегрессивным декодированием на GPU H100/B200. Код открыт.

OPID добавляет плотный, пообновный надзор к RL на основе результатов для LLM-агентов. В процессе обучения лёгкий LLM-анализатор извлекает два уровня навыков из выполненных траекторий post-hoc: сводки рабочих процессов на уровне эпизода и обоснования действий на уровне шага в критических точках принятия решений. Механизм critical-first routing встраивает соответствующий навык в историю взаимодействий, позволяя политике сопоставлять ответы с навыком и без него для оценки преимуществ на уровне токенов. На ALFWorld, WebShop и Search-QA OPID превосходит базовый RL только по результатам по показателям завершения задач, эффективности обучения и устойчивости.

SingGuard — защитная модель для vision-language моделей, принимающая политики безопасности на естественном языке во время выполнения, а не зашитые в модель при обучении. Контент оценивается по правилам политики поочерёдно в трёх режимах скорости инференса (fast/hybrid/slow) для баланса между интерпретируемостью и задержкой. Новый бенчмарк SingGuard-Bench содержит 56 340 примеров по 80+ категориям рисков, включая кросс-модальные совместные риски, когда ни текст, ни изображение по отдельности не вредоносны, но их сочетание несёт небезопасный смысл. Точность следования политике при изменениях во время выполнения улучшается с ~64,6% до ~74,1% по сравнению с предыдущими методами.