Orquestração e Avaliação de LLMs

ML

MLflow

4.7/5.01 avaliação verificada

Gratuito·Código Aberto·Apache-2.0

Plataforma de engenharia de IA de código aberto para agentes, LLMs e modelos de machine learning.

• Plataforma de código aberto com mais de 30 milhões de downloads mensais e ampla adoção na indústria.
• Suporte nativo ao OpenTelemetry e compatibilidade com qualquer provedor de LLM ou framework de agentes.
• Recursos integrados para avaliação sistemática usando juízes LLM e gerenciamento de prompts.

28.6kestrelas no GitHub

HE

Helicone

4.5/5.01 avaliação verificada

Freemium·Código Aberto·Apache-2.0

Plataforma de observabilidade e gateway LLM de código aberto para aplicações de IA.

• Monitoramento granular de custos de tokens e latência por modelo
• Cache de respostas para minimizar chamadas de API redundantes
• Integração leve via SDK para serviços de backend

6.3kestrelas no GitHub

DA

Daily

4.5/5.01 avaliação verificada

Pago·Código Aberto·BSD-2-Clause

Infraestrutura global WebRTC para áudio, vídeo e agentes de IA conversacional em tempo real.

• Latência ultra baixa via infraestrutura WebRTC otimizada globalmente.
• Framework Pipecat especializado para orquestração de agentes de IA conversacional.
• Documentação técnica profunda com contribuições de autores de padrões WebRTC.

627estrelas no GitHub

UC

UniverLab Canopy

4.4/5.01 avaliação verificada

Gratuito·Código Aberto·Apache-2.0

Um motor de grafos DAG em Rust para agentes de IA que unifica múltiplos harnesses e fluxos.

• Motor de grafos DAG de alto desempenho escrito em Rust para uso mínimo de recursos.
• Arquitetura agnóstica que suporta múltiplos harnesses de IA e provedores de modelos.
• Software totalmente de código aberto, sem taxas de licenciamento ou restrições proprietárias.

4estrelas no GitHub

LL

LlamaIndex

4.4/5.01 avaliação verificada

Pago·$50/mês·Apache-2.0

Framework de dados e ferramentas de ingestão para conectar modelos de linguagem a dados corporativos.

• Extensa coleção de conectores para fontes de dados não estruturados
• Comunidade de código aberto ativa com lançamentos frequentes
• Análise de documentos especializada para tabelas e gráficos complexos

12.9kestrelas no GitHub

OV

Overmind

4.2/5.01 avaliação verificada

Contatar Vendas·Código Aberto·AGPL-3.0

Plataforma de treinamento de modelos para equipes de IA focada em agentes especializados.

• Suporta importação de rastreamentos de ferramentas como Langfuse, LangSmith e Galileo.
• Converte dados de produção em modelos menores e especializados para tarefas específicas.
• Fornece API REST clara e SDK Python compatível com OpenTelemetry.

737estrelas no GitHub