leer pick editorial #disaggregated-inference hallazgo 04 · boletín 2026-08-22

ai-dynamo/dynamo

framework de NVIDIA para servir LLMs, modelos de razonamiento, multimodales y de generación de vídeo a escala datacenter: no reemplaza a vLLM/SGLang/TensorRT-LLM sino que los orquesta como sistema multi-nodo con disaggregated serving, routing KV-aware, KV caching multi-tier y auto-scaling.

Estrellas

7.824

Forks

1.473

Lenguaje

Python

Licencia

Apache-2.0

Issues

—

Estado

—

Cómo funciona

Implementa disaggregated-inference

Núcleo

ai-dynamo/dynamo Python · Apache-2.0

Se cruza con compite con vllm-project/vllm relevante para nvidia

Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.

Posición en el ecosistema

ai-dynamo/dynamo

implementa

disaggregated-inference Concepto

ai-dynamo/dynamo

compite con

vllm-project/vllm Repositorio · y rocketride-server

ai-dynamo/dynamo

relevante para

nvidia Empresa · y NVIDIA-NeMo/Switchyard

Expandir en el grafo 3D →

Relaciones que aportó este boletín

implementsdisaggregated-inferencenuevo competes_withvllm-project/vllm· 2026-07-16 relevant_tonvidia· 2026-08-12

Por qué importa

NVIDIA Dynamo no pretende sustituir a vLLM, SGLang o TensorRT-LLM, sino orquestarlos como un sistema multi-nodo: serving disagregado (prefill y decode escalan por separado), routing KV-aware y caché KV multi-tier. La pregunta operativa para la audiencia de Código Sin Siesta es "¿cuándo me basta con vLLM y cuándo necesito Dynamo?", y la respuesta del propio repo es clara: sólo si trabajas multi-GPU o multi-nodo, necesitas separar prefill de decode o tienes SLA de latencia estricto. Es artículo natural "inferencia en producción: vLLM vs SGLang vs TensorRT-LLM vs Dynamo — cuándo cada uno", sobre todo porque vllm-project/vllm ya lo cubrimos el 2026-07-16 y la propia NVIDIA la mencionamos el 2026-08-12; ahora vemos cómo la propia NVIDIA orquesta esos motores.

Alerta

revisar la decisión matrix del repo — "single GPU/single model → probablemente vLLM; multi-node + SLA → Dynamo"; muy útil para planning de capacity

Acción concreta

Dynamo justifica el artículo 'vLLM vs SGLang vs TensorRT-LLM vs Dynamo — cuándo cada uno' que ya teníamos en el radar.

Apariciones · 1

2026-08-22 hallazgo principal
primera vez en el boletín

Señales de madurez (texto original)

7824★ · 1473 forks · Rust (extensible en Python) · creado 2025-03-03 · último push 2026-08-22 · LICENSE: NOASSERTION en la API pero LICENSE real dice Apache-2.0 (verificado leyendo LICENSE). Default branch main, repo original.