Agent Control
Hafıza
BaseLLM konuşma geçmişini saklar, uzun konuşmaları özetler ve modele kullanıcının son günlerini ve projenin onaylı kurallarını verir. Oturum, günlük ve proje hafızası ile iki önbellek proje bazında açılır.
Oturum, günlük ve proje hafızası
| Hafıza | Ne yapar | Varsayılan / aralık |
|---|---|---|
| Oturum | Geçmişi tutar; uzun konuşmayı özetler | Son 6 mesaj (2–50); 30 gün (1–365) |
| Günlük | Kullanıcının son günlerini günde bir özetler | Son 7 gün (1–30); 1.000 token |
| Proje | Yöneticinin onaylayıp yayınladığı maddeler | 2.000 token; günde en çok 10 öneri |
# İstek (1–128 karakter)
X-FFM-Session: <oturum-kimliği>
# Cevap
X-FFM-Memory: session=continued; summarized=14; kept=6
X-FFM-Cache: SHADOW
Önbellekler
| Yanıt önbelleği modu | Davranış |
|---|---|
| Kapalı | Her istek modele gider |
| Gölge (varsayılan) | İstek modele gider; olası tasarruf kaydedilir |
| Açık | Tekrar eden istek önbellekten döner; maliyet 0 |
Yanıt önbelleği yalnız birebir aynı ve sıcaklığı 0 olan isteklere uygulanır. Saklama süresi 5 dakika–7 gün, varsayılan 1 saattir. X-FFM-Cache başlığı HIT, MISS, SHADOW ya da BYPASS değerini taşır.
Sağlayıcı istem önbelleğinde önbellekli token sayısı OpenAI, Anthropic, Gemini, OpenRouter ve vLLM'den okunur ve bütçeye yansır. Claude isteklerine önbellek işaretini BaseLLM koyar; uygulamada değişiklik gerekmez.
Ölçümler ve kişisel veri güvencesi
| Ölçüm | Sonuç | Koşul |
|---|---|---|
| İstem önbelleği tasarrufu | gpt-5-mini %77; Claude Haiku 4.5 %89 | Gerçek sağlayıcı, tekrar eden istem |
| Hafızalı önbellek oranı | Claude %99,3; OpenAI %97,9 | Gerçek sağlayıcı, 4 turluk konuşma |
| Yanıt önbelleği isabeti | p50 ~0,5 ms; p99 ~1,8 ms | Test ortamı |
| Oturum hafızası, 56 mesaj | p50 1,0 ms | Test ortamı |
- Redis'e ham kişisel veri yazılmaz; metin maskeli, değerler şifrelidir
- Koruma kapalıyken Redis'e hiçbir şey yazılmaz
- Cevapta kişisel veri varsa yanıt önbelleği o cevabı saklamaz
- Redis'e ulaşılamazsa istek durmaz