Wayfinder Router: маршрутизатор LLM-запросов с открытым кодом без обращения к модели попал в тренды Hacker News
Wayfinder Router (Apache-2.0, Python) — CLI-инструмент, маршрутизирующий LLM-запросы между локальными моделями (Ollama, vLLM) и облачными API (OpenAI, Claude, Gemini, OpenAI-совместимые эндпоинты) без вызова модели на этапе принятия решения. Структурная сложность промпта оценивается офлайн по шкале 0–1 менее чем за 1 мс: простые запросы отправляются к локальным моделям, сложные — к облачным API. Инструмент предоставляет OpenAI-совместимый шлюз, так что клиентский код менять не нужно. 28 июня проект набрал 115 очков на Hacker News.
Почему это важно
Офлайн-маршрутизация за менее чем миллисекунду между локальными и облачными LLM решает реальную задачу оптимизации затрат: дешёвые локальные модели — для простых промптов, переход к frontier API — только при необходимости. OpenAI-совместимый шлюз позволяет внедрить инструмент без изменения существующего кода.
Важность: 2/5
Сообщественный инструмент в трендах HN (115 очков); практичное решение для маршрутизации между локальными и облачными LLM без оверхеда инференса