AI gateway empresarial en Go que unifica acceso a 23+ providers (OpenAI, Anthropic, AWS Bedrock, Google Vertex, etc.) detrás de una única API OpenAI-compatible. Claim headline: "<100 µs de overhead a 5k RPS, 50× más rápido que LiteLLM" — afirmación agresiva que, si se sostiene, es el argumento de adopción para equipos con budgets de inferencia serios. Features: adaptive load balancer, cluster mode, guardrails, semantic caching, MCP client, conversiones OpenAI-compatible + Anthropic-compatible + Gemini-compatible.
Estrellas
7.414
Forks
1.065
Lenguaje
Go
Licencia
Apache-2.0
Issues
—
Estado
—
Cómo funciona
ImplementaAI gateway (Go)
↓→
Núcleo
maximhq/bifrost Go · Apache-2.0 ai-gatewaygateway-servicesgenerative-aiguardrailsllmllm-costllm-gatewayllm-observability+2
↓→
Se cruza concompite con litellm gateway compite con portkey gateway
Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics)
y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto:
es su posición funcional tal como la registran los boletines.