Mehmet EmrahKonyaEN
← Sözlüğe dön

İstem enjeksiyonu

Prompt injection

D5

İstem enjeksiyonu, güvenilmeyen içeriğin LLM ile bütünleşik bir sistemin amaçlanan talimatlarıyla veya veri işlemesiyle çatışan ya da onları yönlendiren talimatlar sunduğu saldırıdır.

İnceleme durumu: 2026-11-26

Teknik açıklama

Kullanıcının girdisi yoluyla doğrudan veya sistemin getirdiği, okuduğu ya da işlediği içerik yoluyla dolaylı olabilir; bağlı araçları veya veri akışlarını etkileyebilir.

Kavramsal sınırlar

İstem enjeksiyonu sıradan istem mühendisliği, halüsinasyon veya yalnızca daha güçlü sistem istemiyle çözülen bir sorun değildir.

Sağlayıcıdan bağımsız örnek

Özetleme için getirilen bir belge, asistanı sistem istemini açıklamaya veya ilgisiz bir aracı çağırmaya yönlendirmeye çalışan gizli talimatlar içerebilir.

Sınırlılıklar

Azaltımlar etkiyi düşürebilir; ancak güncel rehberlik LLM ile bütünleşik her sistem için kusursuz bir önleme yöntemi göstermez.

İlişkili kavramlar

Atomik iddialar ve kanıt

  1. 1.1NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations — D5 security slice
    Kaynak
    NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations — D5 security slice
    Kaynak rolü
    Yetkili kaynak
    Tam konum
    Sections 3.2-3.4, printed pp. 40-53
    Desteklenen iddia
    NIST, işlenen harici içerik yoluyla modelin sistem isteminin yerine kötü amaçlı talimatlar koyabilen dolaylı saldırılar dâhil doğrudan ve dolaylı istem enjeksiyonunu açıklar.
    Son doğrulama
    Gözden geçirme tarihi
    Kapsam sınırlaması
    Bu taksonomi saldırı biçimlerini açıklar; her harici belgenin saldırı içerdiği anlamına gelmez.
    1.2MITRE ATLAS, Prompt Infiltration via Public-Facing Application
    Kaynak
    MITRE ATLAS, Prompt Infiltration via Public-Facing Application
    Kaynak rolü
    Yetkili kaynak
    Tam konum
    Definition
    Desteklenen iddia
    NIST, işlenen harici içerik yoluyla modelin sistem isteminin yerine kötü amaçlı talimatlar koyabilen dolaylı saldırılar dâhil doğrudan ve dolaylı istem enjeksiyonunu açıklar.
    Son doğrulama
    Gözden geçirme tarihi
    Kapsam sınırlaması
    Bu taksonomi saldırı biçimlerini açıklar; her harici belgenin saldırı içerdiği anlamına gelmez.
  2. 2.1OWASP LLM Prompt Injection Prevention Cheat Sheet
    Kaynak
    OWASP LLM Prompt Injection Prevention Cheat Sheet
    Kaynak rolü
    Tamamlayıcı kaynak
    Tam konum
    Primary Defenses; Additional Defenses; Best Practices Checklist
    Desteklenen iddia
    OWASP, girdi doğrulamasını, talimatlar ile verinin yapılandırılmış ayrımını, çıktı doğrulamasını, en az ayrıcalığı, izlemeyi ve insan kontrollerini savunmalar olarak tanımlar; savunmaların önleme garantisi vermek yerine etkiyi azalttığını belirtir.
    Son doğrulama
    Gözden geçirme tarihi
    Kapsam sınırlaması
    Listelenen savunmalar bağlama bağlı kontrollerdir; daha güçlü bir sistem isteminin tek başına istem enjeksiyonunu çözdüğünün kanıtı değildir.
    2.2MITRE CWE-1427, Improper Neutralization of Input Used for LLM Prompting
    Kaynak
    MITRE CWE-1427, Improper Neutralization of Input Used for LLM Prompting
    Kaynak rolü
    Yetkili kaynak
    Tam konum
    Potential Mitigations; Modes Of Introduction
    Desteklenen iddia
    OWASP, girdi doğrulamasını, talimatlar ile verinin yapılandırılmış ayrımını, çıktı doğrulamasını, en az ayrıcalığı, izlemeyi ve insan kontrollerini savunmalar olarak tanımlar; savunmaların önleme garantisi vermek yerine etkiyi azalttığını belirtir.
    Son doğrulama
    Gözden geçirme tarihi
    Kapsam sınırlaması
    Listelenen savunmalar bağlama bağlı kontrollerdir; daha güçlü bir sistem isteminin tek başına istem enjeksiyonunu çözdüğünün kanıtı değildir.
    2.3NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations — D5 security slice
    Kaynak
    NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations — D5 security slice
    Kaynak rolü
    Yetkili kaynak
    Tam konum
    Sections 3.3.3 and 3.4.4, printed pp. 47-49 and 53
    Desteklenen iddia
    OWASP, girdi doğrulamasını, talimatlar ile verinin yapılandırılmış ayrımını, çıktı doğrulamasını, en az ayrıcalığı, izlemeyi ve insan kontrollerini savunmalar olarak tanımlar; savunmaların önleme garantisi vermek yerine etkiyi azalttığını belirtir.
    Son doğrulama
    Gözden geçirme tarihi
    Kapsam sınırlaması
    Listelenen savunmalar bağlama bağlı kontrollerdir; daha güçlü bir sistem isteminin tek başına istem enjeksiyonunu çözdüğünün kanıtı değildir.