Unified OpenAI-kompatible API-Schnittstelle für Hunderte von LLM-Modellen mit Routing und Kostenverfolgung.
- Einzelner API-Endpunkt kompatibel mit dem OpenAI-Anfrageformat über Hunderte von Modellen.
- Automatisiertes Fallback-Routing und Failover-Handling bei Ausfällen primärer Anbieter.
- Anpassbare Datenschutzrichtlinien zur Beschränkung des Prompt-Routings auf vertrauenswürdige Anbieter.