Orquestación y Evaluación de LLMs

ML

MLflow

4.7/5.01 evaluación verificada

Gratis·Código Abierto·Apache-2.0

Plataforma de ingeniería de IA de código abierto para agentes, LLMs y modelos de machine learning.

• Plataforma de código abierto con más de 30 millones de descargas mensuales y amplia adopción en la industria.
• Soporte nativo para OpenTelemetry y compatibilidad con cualquier proveedor de LLM o framework de agentes.
• Capacidades integradas de evaluación sistemática mediante jueces LLM y gestión de prompts.

28.6kestrellas en GitHub

LA

Langfuse

4.7/5.01 evaluación verificada

Freemium

Plataforma de código abierto para observabilidad, evaluación y depuración de aplicaciones LLM.

• Arquitectura de código abierto que permite el despliegue autohospedado completo sin bloqueo de proveedor.
• Integración nativa entre trazabilidad, evaluación y gestión de prompts en un flujo unificado.
• Alto rendimiento en la ingesta y análisis de grandes volúmenes de observaciones mensuales.

37.0kestrellas en GitHub

OP

OpenRouter

4.6/5.01 evaluación verificada

De Pago

Interfaz unificada de API OpenAI para acceder a cientos de modelos LLM con enrutamiento y control de costes.

• Punto de acceso único compatible con el formato de solicitudes de OpenAI para cientos de modelos diferentes.
• Sistemas automatizados de reenvío y conmutación por error ante caídas del proveedor principal.
• Políticas de datos personalizables para restringir el envío de prompts según el proveedor seleccionado.

AF

Aigenos Flow

4.5/5.01 evaluación verificada

Gratis

Framework de código abierto para flujos de agentes de IA deterministas mediante tipado estructurado.

• Arquitectura determinista que separa el control de flujo del razonamiento del modelo de lenguaje.
• Definición centralizada de políticas y flujos mediante archivos de configuración en Markdown.
• Licenciamiento abierto bajo Apache-2.0 sin restricciones comerciales en su versión principal.

HE

Helicone

4.5/5.01 evaluación verificada

Freemium·Código Abierto·Apache-2.0

Plataforma de observabilidad y pasarela LLM de código abierto para aplicaciones de inteligencia artificial.

• Monitoreo detallado de costos y latencia por modelo de IA
• Capacidad de almacenamiento en caché para reducir peticiones redundantes
• SDKs ligeros fáciles de integrar en arquitecturas de backend existentes

6.3kestrellas en GitHub

CL

Click

4.5/5.01 evaluación verificada

Freemium

API de agentes gestionados con sesiones duraderas y sandboxes aislados.

• Arquitectura basada en API para la ejecución de agentes serverless.
• Soporte para cualquier modelo de lenguaje mediante BYOK (Bring Your Own Key).
• Sandboxes aislados y herramientas integradas como navegador y entorno de código.

DA

Daily

4.5/5.01 evaluación verificada

De Pago·Código Abierto·BSD-2-Clause

Infraestructura global WebRTC para audio, video y agentes de IA conversacional en tiempo real.

• Latencia ultra baja gracias a una infraestructura WebRTC optimizada globalmente.
• Framework Pipecat especializado para la orquestación de agentes de IA conversacional.
• Documentación técnica profunda con contribuciones de autores de estándares WebRTC.

627estrellas en GitHub

UC

UniverLab Canopy

4.4/5.01 evaluación verificada

Gratis·Código Abierto·Apache-2.0

Un motor de grafos DAG en Rust para agentes de IA que unifica múltiples harnesses y flujos.

• Motor de grafos DAG escrito en Rust con consumo eficiente de recursos y alta velocidad de ejecución.
• Arquitectura agnóstica compatible con múltiples harnesses y modelos de agentes de IA.
• Herramienta completamente de código abierto y disponible sin costes de licencia.

4estrellas en GitHub

OP

OpenLLM

4.4/5.01 evaluación verificada

Freemium

Capa de enrutamiento local para modelos de lenguaje en herramientas de desarrollo

• Unifica múltiples proveedores de IA y modelos locales bajo una única interfaz de enrutamiento
• Incluye inferencia inicial lista para usar sin necesidad de configurar credenciales externas
• Soporta cadenas de respaldo configurables para garantizar disponibilidad continua

RA

Raweki

4.4/5.01 evaluación verificada

Gratis

Sistema de registro y gobernanza para la fuerza laboral de agentes de inteligencia artificial

• Control de versiones específico para cambios en agentes de IA
• Compuertas de despliegue automatizadas para prevenir regresiones
• Inventario centralizado y seguimiento de propiedad por equipo

TE

telemetry.dev

4.4/5.01 evaluación verificada

Freemium

Observabilidad nativa con OpenTelemetry para aplicaciones de IA y agentes.

• Integracion nativa con OpenTelemetry para exportar trazas de modelos y agentes.
• Soporte para SDKs oficiales en TypeScript y Python.
• Permite inspeccionar latencia, costos y consumo de tokens detalladamente.

CO

Count

4.4/5.01 evaluación verificada

Freemium

Plataforma impulsada por IA para auditoría de analítica y validación de razonamiento.

• Descompone respuestas de IA en cadenas de razonamiento verificables.
• Detecta alucinaciones y suposiciones implícitas de forma automática.
• Lienzo analítico colaborativo integrado con fuentes de datos externas.