Plataforma de observabilidade e gateway LLM de código aberto para aplicações de IA.
- Monitoramento granular de custos de tokens e latência por modelo
- Cache de respostas para minimizar chamadas de API redundantes
- Integração leve via SDK para serviços de backend
6.3kestrelas no GitHub