leer hallazgo 04 · boletín 2026-07-28

sgl-project/sglang

Framework de alto rendimiento para servir LLMs. Soporta day-0 a DeepSeek-V4, Nemotron 3, MiMo-V2-Flash, Mistral Large 3 y Higgs Audio v3. Apache-2.0, 30k⭐, mantenido por LMSYS.

Estrellas

—

Forks

—

Lenguaje

Python

Licencia

Apache-2.0

Issues

—

Estado

—

Cómo funciona

Implementa sin concepto declarado

Núcleo

sgl-project/sglang Python · Apache-2.0

Se cruza con compite con MoonshotAI/Kimi-K3 complementa sgl-project/sglang-omni

Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.

Posición en el ecosistema

sgl-project/sglang

compite con

MoonshotAI/Kimi-K3 Repositorio · y Moonshot AI

sgl-project/sglang-omni

complementa

sgl-project/sglang Repositorio · y local-multimodal-inference

Expandir en el grafo 3D →

Relaciones que aportó este boletín

competes_withMoonshotAI/Kimi-K3nuevo servesMoonshotAI/Kimi-K3nuevo

Por qué importa

Si ejecutas modelos abiertos frontier en local (DeepSeek-V4, GLM-5.2, Kimi-K3) o en tu propio cluster, SGLang es el runtime canónico 2026 que convierte "modelo en HuggingFace" en "endpoint HTTP funcional con batch, speculative decoding, paged attention y multi-LoRA". Mantenido por LMSYS (30k⭐, Apache-2.0) y con soporte day-0 a DeepSeek-V4, Nemotron 3 y MiMo-V2-Flash, entre otros. Compite en paridad con vLLM y en varios benchmarks (p. ej. el blog de 2026-06 sobre DFlash speculative decoding) lo supera. Caveat: consume GPU memory; no es la opción frugal. Para setups chicos, llama.cpp + Ollama siguen mandando. Para CSS/Alejandro: si bajas Kimi-K3 a local, SGLang es la respuesta práctica.

Alerta

revisar el blog 2026-06-15-next-generation-speculative-decoding-dflash-v2/ para entender qué hay debajo; ángulo para artículo "qué cambia en inference 2026"

Acción concreta

SGLang con soporte day-0 a Kimi-K3, DeepSeek-V4 y MiMo-V2-Flash confirma que es el runtime canónico 2026 para serving local de modelos frontier abiertos — conviene seguir su evolución frente a vLLM.

Apariciones · 1

2026-07-28 hallazgo principal
primera vez en el boletín

Mencionado en

2026-08-16

Señales de madurez (texto original)

Estrellas: 30,831 · Forks: (no verificado) · Lenguaje: Python · Creado: (no verificado) · Último push: 2026-07-28 · Licencia: Apache-2.0 · Topics: (no verificado) · Descripción oficial: "SGLang is a high-performance serving framework for large language models and vision-language models"