phoenix-tracing
Śledź i analizuj działanie aplikacji LLM z OpenInference w Phoenix
Instalacja
Wybierz klienta i sklonuj repozytorium do odpowiedniego katalogu skilli.
Instalacja
O skillu
Phoenix Tracing to zestaw narzędzi do instrumentacji aplikacji opartych na modelach językowych. Implementujesz śledzenie operacji LLM, tworzysz niestandardowe spany i monitorujesz działanie w produkcji, korzystając z konwencji semantycznych OpenInference. Obsługuje Python i TypeScript — wymagany jest serwer Phoenix oraz odpowiednia biblioteka (arize-phoenix-otel lub @arizeai/phoenix-otel).
Jak używać
Zainstaluj wymaganą bibliotekę: dla Python użyj
pip install arize-phoenix-otel, dla TypeScript zainstaluj@arizeai/phoenix-otelprzez npm lub yarn.Skonfiguruj połączenie z serwerem Phoenix, podając endpoint serwera w ustawieniach inicjalizacji biblioteki.
Wybierz odpowiedni przewodnik referencyjny w zależności od potrzeb: setup dla konfiguracji początkowej, instrumentation dla automatycznego lub ręcznego śledzenia, span-types dla zdefiniowania typów operacji.
Dodaj instrumentację do kodu aplikacji LLM — utwórz spany dla poszczególnych operacji (zapytania, odpowiedzi, wywołania modelu) zgodnie z konwencjami OpenInference.
Wzbogać dane śledzenia metadanymi i atrybutami niestandardowymi, aby lepiej zidentyfikować operacje w produkcji.
Wdrażając w produkcji, skonfiguruj przetwarzanie wsadowe, maskowanie danych wrażliwych i zbieranie adnotacji zwrotnych dla oceny jakości.