Plateforme d'observabilité et passerelle LLM open-source pour applications d'IA.
- Suivi granulaire des coûts de tokens et de la latence par modèle
- Mise en cache des réponses pour minimiser les appels API redondants
- Intégration SDK légère pour les services backend
6.3kétoiles sur GitHub