Entegrasyon

LangChain ve diğer çerçeveler

Uygulamanız hangi çerçeveyle yazılmış olursa olsun, BaseLLM'e OpenAI uyumlu sohbet uç noktası üzerinden bağlanır.

OpenAI uyumlu uç nokta ile bağlanın

Uygulama, model sağlayıcısına doğrudan gitmek yerine BaseLLM'in OpenAI uyumlu sohbet uç noktasına istek atar. Kimlik doğrulama proje API anahtarıyla yapılır; anahtar projeyi tanıtır, kişiyi tanıtmaz.

POST <basellm-uç-noktası>/api/v1/chat/completions
# Proje API anahtarı: sk-ffm-… biçiminde
X-FFM-User: <son-kullanıcı-kimliği>
X-FFM-Session: <oturum-kimliği>

Yakında

Çerçevelere özel entegrasyonlar yakında geliyor. BaseLLM mevcut çerçevelerin yerini almaz; onlara gateway ve yönetişim katmanı olarak bağlanır.

ÇerçeveGelecek entegrasyon
LangChainCallback / tracing entegrasyonu
LangGraphCheckpoint ve state entegrasyonu
CrewAITool registry entegrasyonu
AutoGenTool execution proxy
Semantic KernelPlugin gateway
HaystackPipeline wrapper