explorar #cpu-inference hallazgo 03 · boletín 2026-08-03

FareedKhan-dev/kimi-k3-in-c

Engine de inferencia en C99 portable (sin BLAS, sin framework, sin GPU) que corre Kimi K3 (2.78T parámetros) en una sola CPU con 8.24 GB de RAM. AVX2, MXFP4, MoE.

Estrellas

455

Forks

Lenguaje

Licencia

Apache-2.0

Issues

—

Estado

—

Cómo funciona

Implementa sin concepto declarado

Núcleo

FareedKhan-dev/kimi-k3-in-c C · Apache-2.0 avx2c99cpu-inferenceinference-enginekimi-k3linear-attention

Se cruza con habilita cpu-inference complementa waste

Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.

Posición en el ecosistema

FareedKhan-dev/kimi-k3-in-c

habilita

cpu-inference Concepto

FareedKhan-dev/kimi-k3-in-c

complementa

waste Repositorio · y moe_streaming_inference

Expandir en el grafo 3D →

Relaciones que aportó este boletín

complementssqliteai/wastenuevocompetes_withollama· 2026-07-04enablescpu-inferencenuevo

Por qué importa

FareedKhan-dev/kimi-k3-in-c es la respuesta low-level a '¿puedo correr un modelo frontera sin GPU?': un engine en C99 portable (sin BLAS, sin framework, sin GPU, con AVX2, MXFP4 y MoE) que corre Kimi K3 (2.78T parámetros) en una sola CPU con 8.24 GB de RAM. 455★, Apache-2.0, creado y empujado el 2026-08-01. Forma dupla con sqliteai/waste del mismo autor (1.243★, C, Apache-2.0, push 2026-08-03): waste hace streaming de pesos activados desde disco, kimi-k3-in-c los evalúa, permitiendo correr el modelo entero por encima de la RAM disponible. La tesis 'GPU = obligatorio' está muerta y dos repos independientes la desmontan en la misma semana. Ya cubrimos a ollama como referencia local el 2026-07-04; esta pieza apunta al mismo hueco desde el lado contrario. C99 puro con SIMD es directamente importable a tu pipeline local si algún día quieres inferencia sin Ollama.

Alerta

Idx 2 (kimi-k3-in-c): claim físico 2.78T params en 8GB de RAM. Implausible. Probablemente carga selectiva de capas activadas. Pendiente verificar con benchmark real.

Apariciones · 1

2026-08-03 hallazgo principal
primera vez en el boletín

Señales de madurez (texto original)

455 ⭐ · 56 forks · C · Apache-2.0 · creado 2026-08-01 · último push 2026-08-01 · descripción: "A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU." · topics: avx2, c99, cpu-inference, inference-engine, kimi-k3, linear-attention...