vigilar pick editorial #expert-parallelism
MoonshotAI/MoonEP
Biblioteca de comunicación para Expert Parallelism (EP) en entrenamiento MoE. Mantiene la carga de tokens perfectamente balanceada entre ranks mediante expertos redundantes dinámicos planificados online. Dispatch/combine zero-copy y shapes estáticos.
Estrellas
—
Forks
—
Lenguaje
Python
Licencia
MIT
Issues
—
Estado
—
Cómo funciona
Implementa Expert Parallelism (EP)
Núcleo
MoonshotAI/MoonEP Python · MIT
Se cruza con desarrollado por Moonshot AI
Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.
Posición en el ecosistema
MoonshotAI/MoonEP
implementa
Expert Parallelism (EP)
MoonshotAI/MoonEP
desarrollado por
Moonshot AI
Relaciones que aportó este boletín