YZ güvenliği
AI security
D5
YZ güvenliği, yapay zekâ sistemlerinin ve bağımlı varlıkların gizlilik, bütünlük, kullanılabilirlik ve amaçlanan davranışına yönelik tehditlere karşı korunmasıdır.
İnceleme durumu: 2027-02-24
Teknik açıklama
Belirtilmiş bağlamda düşmanca örnekler, veri zehirleme, sızdırma ve kullanım, performans veya güvenlik özelliklerindeki yetkisiz değişiklikler gibi tehditleri ele alır.
Kavramsal sınırlar
YZ güvenliği; bu kaygılar etkileşebilse de YZ emniyeti (safety), mahremiyet, sağlamlık veya sıradan uygulama güvenliğiyle aynı şey değildir.
Sağlayıcıdan bağımsız örnek
Bir ekip, belge analiz aracısının araç izinlerini sınırlayabilir, düşmanca girdi yollarını test edebilir, kimlik bilgilerini koruyabilir ve yetkisiz eylem denemeleri için günlükleri inceleyebilir.
Sınırlılıklar
Kontroller belirtilen riskleri azaltır ancak karmaşık bir yapay zekâ sisteminin tüm saldırılara veya arızalara karşı dokunulmaz olduğunu gösteremez.
İlişkili kavramlar
Atomik iddialar ve kanıt
1.1NIST AI 100-1, Artificial Intelligence Risk Management Framework (AI RMF 1.0) — D5 governance and security slice
- Kaynak
- NIST AI 100-1, Artificial Intelligence Risk Management Framework (AI RMF 1.0) — D5 governance and security slice
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Section 3.3, Secure and Resilient, printed p. 15
- Desteklenen iddia
- NIST, yetkisiz erişim ve kullanıma karşı korumalarla gizlilik, bütünlük ve kullanılabilirliği sürdüren yapay zekâ sistemlerini güvenli olarak açıklar; düşmanca örnekleri, veri zehirlemeyi ve sızdırmayı yaygın kaygılar olarak tanımlar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, güvenlik özelliklerini ve kaygılarını açıklar; sistemi emniyetli, mahrem, sağlam veya saldırıya dayanıklı hâle getirmez.
1.2OECD AI Principles
- Kaynak
- OECD AI Principles
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Robustness, security and safety
- Desteklenen iddia
- NIST, yetkisiz erişim ve kullanıma karşı korumalarla gizlilik, bütünlük ve kullanılabilirliği sürdüren yapay zekâ sistemlerini güvenli olarak açıklar; düşmanca örnekleri, veri zehirlemeyi ve sızdırmayı yaygın kaygılar olarak tanımlar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, güvenlik özelliklerini ve kaygılarını açıklar; sistemi emniyetli, mahrem, sağlam veya saldırıya dayanıklı hâle getirmez.
2.1Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D5 instrument slice
- Kaynak
- Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D5 instrument slice
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Article 15(5), consolidated text of 27 July 2026
- Desteklenen iddia
- AB Yapay Zekâ Tüzüğü, kapsamındaki yüksek riskli yapay zekâ sistemleri için koşullar ve riskler dikkate alınarak; yetkisiz üçüncü tarafların kullanım, performans veya güvenlik özelliklerini değiştirme girişimlerine karşı direnç dâhil uygun siber güvenlik düzeyi gerektirir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, yüksek riskli sistemler için bu AB düzenlemesine özgü bir gerekliliktir; tüm yapay zekâ güvenliğinin tek teknik kontrolle sağlandığı iddiası değildir.
2.2OECD AI Principles
- Kaynak
- OECD AI Principles
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Robustness, security and safety
- Desteklenen iddia
- AB Yapay Zekâ Tüzüğü, kapsamındaki yüksek riskli yapay zekâ sistemleri için koşullar ve riskler dikkate alınarak; yetkisiz üçüncü tarafların kullanım, performans veya güvenlik özelliklerini değiştirme girişimlerine karşı direnç dâhil uygun siber güvenlik düzeyi gerektirir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, yüksek riskli sistemler için bu AB düzenlemesine özgü bir gerekliliktir; tüm yapay zekâ güvenliğinin tek teknik kontrolle sağlandığı iddiası değildir.
2.3European Commission, AI Act regulatory framework
- Kaynak
- European Commission, AI Act regulatory framework
- Kaynak rolü
- Tamamlayıcı kaynak
- Tam konum
- High risk, supplementary summary
- Desteklenen iddia
- AB Yapay Zekâ Tüzüğü, kapsamındaki yüksek riskli yapay zekâ sistemleri için koşullar ve riskler dikkate alınarak; yetkisiz üçüncü tarafların kullanım, performans veya güvenlik özelliklerini değiştirme girişimlerine karşı direnç dâhil uygun siber güvenlik düzeyi gerektirir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, yüksek riskli sistemler için bu AB düzenlemesine özgü bir gerekliliktir; tüm yapay zekâ güvenliğinin tek teknik kontrolle sağlandığı iddiası değildir.