Orchestration et Évaluation de LLM

ML

MLflow

4.7/5.01 évaluation vérifiée

Gratuit·Open Source·Apache-2.0

Plateforme d'ingénierie IA open source pour les agents, les LLM et les modèles.

• Plateforme open source avec plus de 30 millions de téléchargements mensuels et une forte adoption.
• Support natif d'OpenTelemetry et compatibilité avec n'importe quel fournisseur de LLM ou framework d'agents.
• Fonctionnalités intégrées pour l'évaluation systématique et la gestion des prompts.

28.6kétoiles sur GitHub

HE

Helicone

4.5/5.01 évaluation vérifiée

Freemium·Open Source·Apache-2.0

Plateforme d'observabilité et passerelle LLM open-source pour applications d'IA.

• Suivi granulaire des coûts de tokens et de la latence par modèle
• Mise en cache des réponses pour minimiser les appels API redondants
• Intégration SDK légère pour les services backend

6.3kétoiles sur GitHub

DA

Daily

4.5/5.01 évaluation vérifiée

Payant·Open Source·BSD-2-Clause

Infrastructure WebRTC mondiale pour audio, vidéo et agents d'IA conversationnelle en temps réel.

• Latence ultra-faible grâce à une infrastructure WebRTC optimisée mondialement.
• Framework Pipecat spécialisé dans l'orchestration d'agents d'IA conversationnelle.
• Documentation technique approfondie rédigée par des contributeurs aux standards WebRTC.

627étoiles sur GitHub

UC

UniverLab Canopy

4.4/5.01 évaluation vérifiée

Gratuit·Open Source·Apache-2.0

Un moteur de graphes DAG en Rust pour agents de code IA unifiant harnesses et flux.

• Moteur de graphes DAG haute performance écrit en Rust pour une empreinte minimale.
• Architecture agnostique prenant en charge plusieurs harnesses d'IA et modèles.
• Logiciel entièrement open-source sans frais de licence ni verrous propriétaires.

4étoiles sur GitHub

LL

LlamaIndex

4.4/5.01 évaluation vérifiée

Payant·$50/mois·Apache-2.0

Framework de données et outils d'ingestion pour connecter les modèles de langage aux données d'entreprise.

• Collection complète de connecteurs pour sources de données non structurées
• Communauté open source active avec des versions fréquentes en Python et TS
• Analyse de documents spécialisée pour les tableaux et graphiques complexes

12.9kétoiles sur GitHub

OV

Overmind

4.2/5.01 évaluation vérifiée

Contacter l’Équipe Commerciale·Open Source·AGPL-3.0

Plateforme d'entraînement de modèles pour équipes d'IA axée sur les agents spécialisés.

• Prend en charge l'importation de traces provenant de Langfuse, LangSmith et Galileo.
• Convertit les données de production en modèles plus petits et propriétaires adaptés à des tâches spécifiques.
• Fournit une API REST claire et un SDK Python compatible avec OpenTelemetry.

737étoiles sur GitHub