LLMRouter: единая инфраструктура для разработки, оценки и развёртывания LLM-роутеров
University of Illinois at Urbana-Champaign
Открытый модульный фреймворк, унифицирующий маршрутизацию LLM как процесс последовательного принятия решений из пяти компонентов (контекстные кодировщики, кодировщики моделей, функции скоринга, правила решений, сигналы обучения) и поставляющий 16+ роутеров вместе с бенчмарком xRouteBench. Обучаемые роутеры превосходят сильнейший базлайн с фиксированной моделью на 14,6% относительно, а маршрутизация с учётом пользователя стабильно улучшает персонализацию.
Почему это важно
HF: 103 голоса
Важность: 4/5
HF Daily 103 голоса, открытые веса / маркер GA
Источники
официальный
arXiv:2608.06867