tecnoboletín / 2026-10-19 / otari
probar #llm_gateway_with_budgets hallazgo 02 · boletín 2026-10-19

mozilla-ai/otari

Gateway LLM OpenAI y Anthropic-compatible que se ejecuta self-hosted (Docker one-liner o Kubernetes). Una sola API que rutea a 40+ proveedores, mantiene las credenciales detrás del gateway, emite virtual keys con scope (usuario / workspace / modelo), enforce budgets antes del spend y registra usage después. Routing local con failover, weighting y selección aprendida. Sobre esa base añade features opcionales: code execution, web search, MCP, inference guardrails y file understanding — un giro que LiteLLM/Portkey no traen de fábrica. Las llamadas a providers pasan por la librería companion mozilla-ai/any-llm.

Estrellas
681
Forks
89
Lenguaje
Python
Licencia
Apache-2.0
Issues
—
Estado
—

Cómo funciona

Implementa llm_gateway_with_budgets
Núcleo
mozilla-ai/otari Python · Apache-2.0 aiai-gatewayanthropicapi-key-managementbudgetscost-trackinggatewaylitellm-alternative +6
Se cruza con usa any-llm maintained_by Mozilla AI

Diagrama derivado de madurez_senales (lenguaje, licencia, estado y topics) y de las relaciones que este repo tiene en el grafo de conocimiento. No es una arquitectura del proyecto: es su posición funcional tal como la registran los boletines.

Posición en el ecosistema

mozilla-ai/otari
implementa
llm_gateway_with_budgets Concepto
mozilla-ai/otari
usa
any-llm Herramienta
mozilla-ai/otari
maintained_by
Mozilla AI Empresa
Expandir en el grafo 3D →

Relaciones que aportó este boletín