Kontrol
Prompt injection koruması
BaseLLM, modele giden mesajlarda modeli yönlendirmeye çalışan talimatları arar: önceki talimatları yok saymak, sistem promptunu sızdırmak, rol değiştirmek gibi. Koruma proje bazında açılır; uygulamalarınızda değişiklik gerekmez.
Üç mod
| Mod | İsteğe ne olur |
|---|---|
| Kapalı | Tarama yapılmaz. Yeni projede varsayılan budur. |
| Raporla | İstek olduğu gibi geçer; olay kaydı tutulur. |
| Engelle | Saldırı kararı verilirse istek 403 injection_blocked ile reddedilir ve modele gitmez. |
Tarama nasıl çalışır
Kullanıcı ve araç mesajları taranır, sistem promptu taranmaz. Metin taramadan önce temizlenir: görünmez karakterler kaldırılır, Latin harf yerine yazılmış Kiril harfler düzeltilir, base64 ile gizlenmiş metin açılır. Sonra üç aşama çalışır:
- Kural filtresi
1. aşama: Yedi kalıp grubu: geçersiz kılma, sızdırma, rol değiştirme, dışarı gönderme, gizli işlem, gizleme ve İngilizce kalıplar. - Sınıflandırıcı modeller
2. aşama: Sunucuda çalışan iki model: Türkçe'ye özel ve çok dilli. Modeller kurulu değilse yalnız kural filtresi çalışır. - Yerel LLM
3. aşama: Tek bir sinyalin işaretlediği şüpheye üçüncü görüş verir. Kurumun kendi doğrulama modeli tanımlıysa çalışır.
Engel için iki sinyalin uyuşması gerekir: bir kural ile bir model ya da iki model birlikte. Tek sinyal yalnız kaydedilir. İki istisna vardır: modeller cevap veremiyorsa kural tek başına karar verir; İngilizce metinde çok dilli modelin işareti yeterlidir.
| Yerel LLM ayarı | Ne olur |
|---|---|
| Kapalı | Tek sinyalli şüpheler yalnız kaydedilir. |
| Arka planda (varsayılan) | İstek beklemez; LLM olayı sonradan etiketler. |
| Bekle (sıkı) | Engelle modunda, engele dönüşebilecek şüpheler LLM'i bekler; LLM "saldırı" derse istek reddedilir. |
Sohbet, Decisions ve embeddings istekleri ile Bilgi Kataloğu'na giden doküman parçaları ve arama sorguları taranır.
Kayıt, rapor ve SIEM
- Mesaj metni kaydedilmez; yalnız tutan kalıp (en fazla 120 karakter), kural grubu, model puanları ve sayaçlar saklanır.
- Raporlanan ve engellenen olaylar denetim kaydına da yazılır.
- Olaylar varsayılan 90 gün tutulur. Süre Ayarlar'da INJECTION_EVENT_RETENTION_DAYS ile değiştirilir; 0 verilirse kayıtlar silinmez.
- Olaylar SIEM'e injection kanalıyla aktarılır ve Proje Raporu'nda ayrı bir bölümde yer alır.
- Ekrandaki deneme kutusunda örnek bir metin kural filtresinde denenir; deneme hiçbir yere gönderilmez ve kaydedilmez.
| Durum | HTTP | Hata kodu | Mesaj |
|---|---|---|---|
| Engelle modunda saldırı | 403 | injection_blocked | Request blocked: the message contains instructions aimed at the model (prompt injection). |