Kontrol

Prompt injection koruması

BaseLLM, modele giden mesajlarda modeli yönlendirmeye çalışan talimatları arar: önceki talimatları yok saymak, sistem promptunu sızdırmak, rol değiştirmek gibi. Koruma proje bazında açılır; uygulamalarınızda değişiklik gerekmez.

Üç mod

Modİsteğe ne olur
KapalıTarama yapılmaz. Yeni projede varsayılan budur.
Raporlaİstek olduğu gibi geçer; olay kaydı tutulur.
EngelleSaldırı kararı verilirse istek 403 injection_blocked ile reddedilir ve modele gitmez.

Tarama nasıl çalışır

Kullanıcı ve araç mesajları taranır, sistem promptu taranmaz. Metin taramadan önce temizlenir: görünmez karakterler kaldırılır, Latin harf yerine yazılmış Kiril harfler düzeltilir, base64 ile gizlenmiş metin açılır. Sonra üç aşama çalışır:

  • Kural filtresi 1. aşama: Yedi kalıp grubu: geçersiz kılma, sızdırma, rol değiştirme, dışarı gönderme, gizli işlem, gizleme ve İngilizce kalıplar.
  • Sınıflandırıcı modeller 2. aşama: Sunucuda çalışan iki model: Türkçe'ye özel ve çok dilli. Modeller kurulu değilse yalnız kural filtresi çalışır.
  • Yerel LLM 3. aşama: Tek bir sinyalin işaretlediği şüpheye üçüncü görüş verir. Kurumun kendi doğrulama modeli tanımlıysa çalışır.

Engel için iki sinyalin uyuşması gerekir: bir kural ile bir model ya da iki model birlikte. Tek sinyal yalnız kaydedilir. İki istisna vardır: modeller cevap veremiyorsa kural tek başına karar verir; İngilizce metinde çok dilli modelin işareti yeterlidir.

Yerel LLM ayarıNe olur
KapalıTek sinyalli şüpheler yalnız kaydedilir.
Arka planda (varsayılan)İstek beklemez; LLM olayı sonradan etiketler.
Bekle (sıkı)Engelle modunda, engele dönüşebilecek şüpheler LLM'i bekler; LLM "saldırı" derse istek reddedilir.

Sohbet, Decisions ve embeddings istekleri ile Bilgi Kataloğu'na giden doküman parçaları ve arama sorguları taranır.

Kayıt, rapor ve SIEM

  • Mesaj metni kaydedilmez; yalnız tutan kalıp (en fazla 120 karakter), kural grubu, model puanları ve sayaçlar saklanır.
  • Raporlanan ve engellenen olaylar denetim kaydına da yazılır.
  • Olaylar varsayılan 90 gün tutulur. Süre Ayarlar'da INJECTION_EVENT_RETENTION_DAYS ile değiştirilir; 0 verilirse kayıtlar silinmez.
  • Olaylar SIEM'e injection kanalıyla aktarılır ve Proje Raporu'nda ayrı bir bölümde yer alır.
  • Ekrandaki deneme kutusunda örnek bir metin kural filtresinde denenir; deneme hiçbir yere gönderilmez ve kaydedilmez.
DurumHTTPHata koduMesaj
Engelle modunda saldırı403injection_blockedRequest blocked: the message contains instructions aimed at the model (prompt injection).