Sistem talimatı
System instruction
D3
Sistem talimatı, bir uygulamanın sohbet modelinin yanıtlarını yönlendirmek için sağladığı üst düzey talimatlar ve bağlam kümesidir.
İnceleme durumu: 2026-11-26
Teknik açıklama
Bu rolü destekleyen sohbet arayüzlerinde, kullanıcı girdisinden önce veya onunla birlikte asistanın işini, sınırlarını, tonunu, çıktı biçimini ve güvenlik yönlendirmesini belirleyebilir.
Kavramsal sınırlar
Sistem talimatı model düzeyinde bir güvenlik garantisi değildir ve her ikisi de çıkarım zamanı girdisi olsa da sıradan kullanıcı istemiyle aynı şey değildir.
Sağlayıcıdan bağımsız örnek
Bir bilgi tabanı uygulaması, yalnız sağlanan belgelerden yanıt verme ve eksik kanıtı belirtme yönünde sistem talimatı ayarlayabilir.
Sınırlılıklar
Sistem talimatları başka girdilerle çelişebilir veya istem enjeksiyonu saldırılarının hedefi olabilir; bu nedenle sonuç doğuran kullanım için test ve ek kontroller gerekir.
İlişkili kavramlar
Atomik iddialar ve kanıt
1.1Microsoft Learn, System message design for Azure OpenAI
- Kaynak
- Microsoft Learn, System message design for Azure OpenAI
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- What is a system message?; How system messages work
- Desteklenen iddia
- Microsoft, Azure OpenAI sistem iletisini sohbet modelinin yanıtlarını yönlendirmek için gönderilen; rol, sınırlar, ton, biçimler ve güvenlik kısıtları içerebilen talimatlar ve bağlam olarak tanımlar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, Azure OpenAI için sağlayıcıya özgü arayüz yönlendirmesidir; sağlayıcılar arası evrensel bir ileti hiyerarşisi değildir.
2.1NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- Kaynak
- NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Section 3.1.1 printed p. 38: In-context instructions and system prompts
- Desteklenen iddia
- NIST, sistem istemlerini çoğu zaman diğer model girdilerinin başına eklenen bağlam içi talimatlar olarak açıklar ve istem enjeksiyonunun amaçlanan talimatları geçersiz kılabileceğini belirtir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, yaygın bir LLM uygulaması güvenlik riskini açıklar; her sistem talimatının geçersiz kılınacağını göstermez.