Phoenix

Phoenix — это открытая платформа наблюдаемости ИИ для экспериментов, оценки и устранения неполадок LLM-приложений. Трассируйте, оценивайте и оптимизируйте свои LLM-приложения.

Аналитика и мониторинг Инструменты разработчика Data Science и ML ★ 5,347 GitHub (5,347 ★)

Phoenix — это платформа наблюдаемости ИИ с открытым исходным кодом, предназначенная для экспериментов, оценки и устранения неполадок LLM-приложений. Она предлагает такие возможности, как трассировка, оценка, управление наборами данных, отслеживание экспериментов, площадка для инженерии промптов и управление промптами. Благодаря независимости от поставщиков и языков платформа поддерживает популярные фреймворки, такие как LlamaIndex и LangChain, а также LLM-провайдеров, например OpenAI и Bedrock, что делает ее подходящей для различных сред развертывания: локальные машины, Jupyter Notebooks, контейнеры или облако.

Ключевые возможности

01Используйте LLM для бенчмаркинга производительности приложений с помощью оценок ответов и поиска.

02Отслеживайте и оценивайте изменения промптов, LLM и поиска.

035 347 звезд на GitHub

04Трассировка выполнения LLM-приложений с помощью инструментария на базе OpenTelemetry.

05Создавайте версионированные наборы данных с примерами для экспериментов, оценки и тонкой настройки.

06Оптимизируйте промпты, сравнивайте модели, настраивайте параметры и воспроизводите трассированные вызовы LLM.

Варианты использования

01Бенчмаркинг и оценка производительности различных LLM и промптов.

02Устранение неполадок и отладка LLM-приложений.

03Экспериментирование и тонкая настройка LLM-моделей и промптов.

Phoenix is an open-source AI observability platform designed for experimentation, evaluation, and troubleshooting. It provides:

Tracing - Trace your LLM application's runtime using OpenTelemetry-based instrumentation.
Evaluation - Leverage LLMs to benchmark your application's performance using response and retrieval evals.
Datasets - Create versioned datasets of examples for experimentation, evaluation, and fine-tuning.
Experiments - Track and evaluate changes to prompts, LLMs, and retrieval.
Playground- Optimize prompts, compare models, adjust parameters, and replay traced LLM calls.
Prompt Mangement- Manage and test prompt changes systematically using version control, tagging, and experimentation.

Phoenix is vendor and language agnostic with out-of-the-box support for popular frameworks (🦙LlamaIndex, 🦜⛓LangChain, Haystack, 🧩DSPy, 🤗smolagents) and LLM providers (OpenAI, Bedrock, MistralAI, VertexAI, LiteLLM, and more). For details on auto-instrumentation, check out the OpenInference project.

Phoenix runs practically anywhere, including your local machine, a Jupyter notebook, a containerized deployment, or in the cloud.

Installation

Install Phoenix via pip or conda

pip install arize-phoenix

Phoenix container images are available via Docker Hub and can be deployed using Docker or Kubernetes.

Packages

The arize-phoenix package includes the entire Phoenix platfom. However if you have deployed the Phoenix platform, there are light-weight Python sub-packages and TypeScript packages that can be used in conjunction with the platfrom.

Subpackages

Package	Language	Description
arize-phoenix-otel	Python	Provides a lightweight wrapper around OpenTelemetry primitives with Phoenix-aware defaults
arize-phoenix-client	Python	Lightweight client for interacting with the Phoenix server via its OpenAPI REST interface
arize-phoenix-evals	Python	Tooling to evaluate LLM applications including RAG relevance, answer relevance, and more
@arizeai/phoenix-client	JavaScript	Client for the Arize Phoenix API
@arizeai/phoenix-mcp	JavaScript	MCP server implementation for Arize Phoenix providing unified interface to Phoenix's capabilities

Tracing Integrations

Phoenix is built on top of OpenTelemetry and is vendor, language, and framework agnostic. For details about tracing integrations and example applications, see the OpenInference project.

Python Integrations

Integration	Package	Version Badge
OpenAI	`openinference-instrumentation-openai`
OpenAI Agents	`openinference-instrumentation-openai-agents`
LlamaIndex	`openinference-instrumentation-llama-index`
DSPy	`openinference-instrumentation-dspy`
AWS Bedrock	`openinference-instrumentation-bedrock`
LangChain	`openinference-instrumentation-langchain`
MistralAI	`openinference-instrumentation-mistralai`
Guardrails	`openinference-instrumentation-guardrails`
VertexAI	`openinference-instrumentation-vertexai`
CrewAI	`openinference-instrumentation-crewai`
Haystack	`openinference-instrumentation-haystack`
LiteLLM	`openinference-instrumentation-litellm`
Groq	`openinference-instrumentation-groq`
Instructor	`openinference-instrumentation-instructor`
Anthropic	`openinference-instrumentation-anthropic`
Smolagents	`openinference-instrumentation-smolagents`

JavaScript Integrations

Integration	Package	Version Badge
OpenAI	`@arizeai/openinference-instrumentation-openai`
LangChain.js	`@arizeai/openinference-instrumentation-langchain`
Vercel AI SDK	`@arizeai/openinference-vercel`
BeeAI	`@arizeai/openinference-instrumentation-beeai`

Platforms

Phoenix has native integrations with LangFlow, LiteLLM Proxy, and BeeAI.

Community

Join our community to connect with thousands of AI builders.

🌍 Join our Slack community.
📚 Read our documentation.
💡 Ask questions and provide feedback in the #phoenix-support channel.
🌟 Leave a star on our GitHub.
🐞 Report bugs with GitHub Issues.
𝕏 Follow us on 𝕏.
🗺️ Check out our roadmap to see where we're heading next.

Breaking Changes

See the migration guide for a list of breaking changes.

Copyright, Patent, and License

Portions of this code are patent protected by one or more U.S. Patents. See the IP_NOTICE.

This software is licensed under the terms of the Elastic License 2.0 (ELv2). See LICENSE.

Phoenix — открытая платформа наблюдаемости для AI

Phoenix — это open-source инструмент для наблюдения, экспериментов и отладки LLM-приложений. Он не привязан к вендору или языку и поддерживает популярные фреймворки (LlamaIndex, LangChain, Haystack, DSPy, smolagents) и провайдеров LLM (OpenAI, Bedrock, MistralAI, VertexAI, LiteLLM и другие).

Возможности

Трассировка — отслеживание выполнения LLM-приложений на основе OpenTelemetry.
Оценка — использование LLM для бенчмаркинга производительности (ответы, ретривл).
Датасеты — версионированные наборы примеров для экспериментов, оценки и тонкой настройки.
Эксперименты — отслеживание и оценка изменений промптов, LLM и ретривла.
Playground — оптимизация промптов, сравнение моделей, настройка параметров, повторный вызов трассированных LLM-запросов.
Управление промптами — версионирование, тегирование и эксперименты с промптами.

Phoenix работает где угодно: локально, в Jupyter-ноутбуке, в контейнере или в облаке.

Установка

Установка через pip или conda:

pip install arize-phoenix

Образы Docker доступны на Docker Hub. Можно развернуть через Docker или Kubernetes.

Пакеты

Основной пакет arize-phoenix включает всю платформу. Для работы с уже развёрнутой платформой есть лёгкие подпакеты:

arize-phoenix-otel (Python) — обёртка над OpenTelemetry с настройками по умолчанию для Phoenix.
arize-phoenix-client (Python) — лёгкий клиент для взаимодействия с сервером Phoenix через REST API.
arize-phoenix-evals (Python) — инструменты для оценки LLM-приложений (RAG, релевантность ответов и т.д.).
@arizeai/phoenix-client (JavaScript) — клиент для Phoenix API.
@arizeai/phoenix-mcp (JavaScript) — реализация MCP-сервера для единого интерфейса к возможностям Phoenix.

Интеграции трассировки

Phoenix построен на OpenTelemetry и не зависит от вендора, языка или фреймворка. Подробности — в проекте OpenInference.

Python

Интеграция	Пакет
OpenAI	`openinference-instrumentation-openai`
OpenAI Agents	`openinference-instrumentation-openai-agents`
LlamaIndex	`openinference-instrumentation-llama-index`
DSPy	`openinference-instrumentation-dspy`
AWS Bedrock	`openinference-instrumentation-bedrock`
LangChain	`openinference-instrumentation-langchain`
MistralAI	`openinference-instrumentation-mistralai`
Guardrails	`openinference-instrumentation-guardrails`
VertexAI	`openinference-instrumentation-vertexai`
CrewAI	`openinference-instrumentation-crewai`
Haystack	`openinference-instrumentation-haystack`
LiteLLM	`openinference-instrumentation-litellm`
Groq	`openinference-instrumentation-groq`
Instructor	`openinference-instrumentation-instructor`
Anthropic	`openinference-instrumentation-anthropic`
Smolagents	`openinference-instrumentation-smolagents`

JavaScript

Интеграция	Пакет
OpenAI	`@arizeai/openinference-instrumentation-openai`
LangChain.js	`@arizeai/openinference-instrumentation-langchain`
Vercel AI SDK	`@arizeai/openinference-vercel`
BeeAI	`@arizeai/openinference-instrumentation-beeai`

Платформы

Phoenix имеет встроенные интеграции с LangFlow, LiteLLM Proxy и BeeAI.

Сообщество

Slack-сообщество
Документация
GitHub — ставьте звезду, сообщайте об ошибках
Twitter
Roadmap

Лицензия

Breaking Changes

Список изменений, ломающих обратную совместимость, — в MIGRATION.md.

Источник: https://mcpmarket.com/server/phoenix

Phoenix

Ключевые возможности

Варианты использования

Installation

Packages

Subpackages

Tracing Integrations

JavaScript Integrations

Platforms

Community

Breaking Changes

Copyright, Patent, and License

Phoenix — открытая платформа наблюдаемости для AI

Возможности

Установка

Пакеты

Интеграции трассировки

Python

JavaScript

Платформы

Сообщество

Лицензия

Breaking Changes

Какие фреймворки и LLM поддерживает Phoenix?

Как установить Phoenix?

Что такое Phoenix?

Каковы ключевые возможности Phoenix?

Какие подпакеты есть у Phoenix?

Комментарии