vigilar
kvcache-ai/ktransformers
Framework para optimizar inferencia/fine-tune de LLMs heterogéneos (CPU+GPU mixto). Releases activos (v0.6.3 el 2026-06-21)
Estrellas
17.756
Forks
—
Lenguaje
Python
Licencia
Apache-2.0
Issues
—
Estado
—
Cómo funciona
Implementa llm inference optimization
Núcleo
kvcache-ai/ktransformers Python · Apache-2.0
Se cruza con habilita local 70B inference desarrollado por kvcache ai
Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.
Posición en el ecosistema
kvcache-ai/ktransformers
habilita
local 70B inference
kvcache ai
desarrollado por
kvcache-ai/ktransformers
kvcache-ai/ktransformers
implementa
llm inference optimization