explorar #llm-gateway
smg-project/smg
un gateway de inferencia agnóstico de motor que centraliza el ciclo de vida de los workers y balancea tráfico entre vLLM, TRT-LLM, SGLang, TokenSpeed, OpenAI y Gemini detrás de una API compatible con OpenAI y Anthropic.
Estrellas
651
Forks
198
Lenguaje
Rust
Licencia
Apache-2.0
Issues
—
Estado
—
Cómo funciona
Implementa llm-gateway
Núcleo
smg-project/smg Rust · Apache-2.0 anthropicanthropic-apichatclaudegeminiinference-gatewaylightseekllm
Se cruza con exposes_via_mcp MCP Server compite con LiteLLM
Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.
Posición en el ecosistema
smg-project/smg
exposes_via_mcp
MCP Server
smg-project/smg
implementa
llm-gateway
smg-project/smg
compite con
LiteLLM
Relaciones que aportó este boletín