vigilar #model_router_for_coding_agent hallazgo 02 · boletín 2026-08-12

NVIDIA-NeMo/Switchyard

Apache-2.0, Rust, 623★, pre-alpha (advertencia explícita en el README). Proxy y librería para tráfico LLM que traduce entre OpenAI Chat, Anthropic Messages y OpenAI Responses, enruta entre múltiples backends (vLLM, NVIDIA NIM, Ollama, compatibles con OpenAI), registra métricas Prometheus y soporta algoritmos de enrutamiento componibles (random, classifier LLM, signal-driven, custom).

Estrellas

623

Forks

Lenguaje

Rust

Licencia

Apache-2.0

Issues

—

Estado

alpha

Cómo funciona

Implementa model_router_for_coding_agent

Núcleo

NVIDIA-NeMo/Switchyard Rust · Apache-2.0 · alpha

Se cruza con complementa local-multimodal-inference relevante para ulab-uiuc/LLMRouter

Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.

Posición en el ecosistema

NVIDIA-NeMo/Switchyard

complementa

local-multimodal-inference Concepto · y agent_runtime

NVIDIA-NeMo/Switchyard

implementa

model_router_for_coding_agent Concepto · y rtk-ai/rtk

ulab-uiuc/LLMRouter

relevante para

NVIDIA-NeMo/Switchyard Repositorio · y vllm-project/semantic-router

Expandir en el grafo 3D →

Relaciones que aportó este boletín

implementsmodel_router_for_coding_agent· 2026-08-11 competes_withduolahypercho/codex-router· 2026-08-11 relevant_tonvidianuevo complementslocal-multimodal-inference· 2026-08-11

Por qué importa

Un proxy de tráfico LLM que hace de traductor entre dialectos de API: recibe peticiones en formato OpenAI Chat, Anthropic Messages u OpenAI Responses y las sirve desde el backend que tú decidas (vLLM, NVIDIA NIM, Ollama o cualquier compatible con OpenAI), con métricas Prometheus y algoritmos de enrutamiento intercambiables. En la práctica: cualquier agente que solo sepa hablar con OpenAI o Anthropic puede seguir hablando igual mientras detrás responde un modelo abierto que corres tú. Ya cubrimos esta categoría el 2026-08-11 con duolahypercho/codex-router, que está atado al CLI de Codex; Switchyard hace lo mismo pero agnóstico del cliente y con NVIDIA detrás, lo que suele traducirse en continuidad de mantenimiento. También toca la línea de inferencia local que abrimos ese mismo 2026-08-11. Caveat que no se puede maquillar: el propio README lo declara pre-alpha y avisa de que API y algoritmos cambiarán de forma significativa. Sirve para probar en local, no para poner delante de producción.

Alerta

NVIDIA-NeMo/Switchyard está marcado como pre-alpha en su propio README: la API y los algoritmos de enrutamiento pueden cambiar sin aviso, así que adoptarlo en producción ahora mismo es prematuro.

Acción concreta

Switchyard es pre-alpha pero la combinación 'oficial de NVIDIA + agnóstico de cliente' lo hace candidato serio a convertirse en la referencia del patrón proxy/router; conviene revisarlo cuando salga del pre-alpha.

Apariciones · 1

2026-08-12 hallazgo principal
primera vez en el boletín

Señales de madurez (texto original)

623★ · 73 forks · Rust · creado 2026-05-19 · último push 2026-08-12 · licencia Apache-2.0. Repo original (fork=False, parent=None). README declara explícitamente "Switchyard is pre-alpha software that is evolving rapidly. The API and algorithms are expected to change significantly before we reach v1.0" + warning "Experimental software. Not for production use". Tres paths de uso: launcher (Claude Code/Codex/OpenClaw a través de Switchyard), server (proxy standalone) y library (embedding en una app Rust propia). Métricas Prometheus integradas.