Kontrol

Observability

Her istek bir correlation_id taşır; Yönetici Özeti kullanım, model, gecikme ve sağlayıcı sağlığını tek ekranda gösterir.

Yönetici Özeti

KartNe gösterir
Kullanım trendiGünlük girdi / çıktı token'ı; en çok son 30 gün
Model dağılımıİstek, token payı, tutar, gecikme (ort / p95)
GecikmeOrtalama, p50, p95 (latency_ms)
En çok tüketen kullanıcılarX-FFM-User'a göre token'da ilk 5 kişi
Sağlayıcı SağlığıModel ve sağlayıcıya göre hatalı istek oranı
Kişisel Veri KorumasıOlay ve tespit sayıları; sonuca ve türe göre

Kartlar gateway'in her istek için yazdığı kullanım kaydını gün, model ve kişiye göre gruplar. p95, en az 20 istek birikene kadar ekranda "—" gösterilir. Veri GET /admin/dashboard/overview ucundan gelir ve yalnız system_admin rolüne açıktır.

correlation_id ile iz sürme

Her isteğin audit, kullanım ve log kayıtları aynı correlation_id ile bağlanır. Bir hatayı ya da şikâyeti incelerken bu kimlikle isteğin bütün kayıtlarına ulaşırsınız.

AUDIT LOGOBSERVABILITY
SoruKim ne yaptı?Nerede ne oldu?
KapsamDenetim, uyumluluk, kalıcı kayıtKullanım, gecikme, hata yeri
ÖrneklemeYapılmazYapılabilir
Ortak anahtarcorrelation_idcorrelation_id

OpenTelemetry ve lisans

BaseLLM izlerini (trace) ve metriklerini OpenTelemetry (OTLP) ile kendi izleme sisteminize gönderebilir; metrikler ayrıca Prometheus için /metrics adresinden okunur. Bu adres API portundan ayrı bir portta çalışır.

  • Enterprise ve deneme açık: İzler ve metrikler gönderilir.
  • Bireysel kapalı: Hiçbir şey gönderilmez; /metrics 403 döner.
  • Lisans süresi dolunca durur: Gönderim en geç bir dakika içinde kesilir.