İnsan gözetimi
Human oversight
D6
İnsan gözetimi, gözetimle görevlendirilen kişilerin ilgili sınırları anlamasını, uygun ve orantılı biçimde izlemesini, yorumlamasını, çıktıyı dikkate almamasını veya geçersiz kılmasını, müdahale etmesini ya da sistemi durdurmasını mümkün kılar.
İnceleme durumu: 2027-02-24
Teknik açıklama
AB düzenlemesi kapsamındaki yüksek riskli sistemlerde gözetim; sistemin riskleri, özerklik düzeyi, kullanım bağlamı ve kullanım sırasında sağlanan pratik olanaklar etrafında tasarlanır.
Kavramsal sınırlar
İnsan gözetimi yalnızca bir kişinin süreçte bulunmasıyla kurulmaz ve hataların mutlaka yakalanacağını garanti etmez.
Sağlayıcıdan bağımsız örnek
Yapay zekâ destekli bir triyaj kuyruğunda eğitimli personel güven düzeyini ve girdi sınırlarını görebilir, bir vakayı duraklatabilir, öneriyi geçersiz kılabilir ve anormallikleri sorumlu kişiye yönlendirebilir.
Sınırlılıklar
Sağlanan gözetim olanakları, bir kişinin her hatayı belirleyeceğini garanti etmez.
İlişkili kavramlar
Atomik iddialar ve kanıt
1.1Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D6 human-role slice
- Kaynak
- Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D6 human-role slice
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Article 14(1)-(3), current consolidated text of 27 July 2026
- Desteklenen iddia
- Kapsamındaki yüksek riskli yapay zekâ sistemleri için 14. madde, kullanım sırasında gerçek kişilerin etkili gözetimini mümkün kılan tasarım ve geliştirmeyi gerektirir; gözetim önlemlerinin risklere, özerklik düzeyine ve kullanım bağlamına orantılı olması gerektiğini belirtir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, belirtilen yüksek riskli sistemler için hukuki bir gerekliliktir; insan inceleyicisi bulunan her sistemin etkili şekilde gözetildiğinin kanıtı değildir.
1.2NIST AI 100-1, Artificial Intelligence Risk Management Framework (AI RMF 1.0) — D6 human and organizational slice
- Kaynak
- NIST AI 100-1, Artificial Intelligence Risk Management Framework (AI RMF 1.0) — D6 human and organizational slice
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Appendix C, printed p. 41: human-AI configurations, challenge of outputs, and feedback
- Desteklenen iddia
- Kapsamındaki yüksek riskli yapay zekâ sistemleri için 14. madde, kullanım sırasında gerçek kişilerin etkili gözetimini mümkün kılan tasarım ve geliştirmeyi gerektirir; gözetim önlemlerinin risklere, özerklik düzeyine ve kullanım bağlamına orantılı olması gerektiğini belirtir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, belirtilen yüksek riskli sistemler için hukuki bir gerekliliktir; insan inceleyicisi bulunan her sistemin etkili şekilde gözetildiğinin kanıtı değildir.
2.1Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D6 human-role slice
- Kaynak
- Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D6 human-role slice
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Article 14(4)(a)-(e), current consolidated text of 27 July 2026
- Desteklenen iddia
- 14. madde, gözetimle görevlendirilen kişiler için uygun ve orantılı şekilde sağlanacak yetenekler olarak kapasiteleri ve sınırları anlamayı, anormallikler için izlemeyi, çıktıyı yorumlamayı, çıktıyı dikkate almamayı veya geçersiz kılmayı ve sisteme müdahale etmeyi ya da sistemi durdurmayı sayar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Liste, atıf yapılan yüksek riskli sistem hükmüne bağlıdır ve gerekli olanaklar sağlanan bir kişinin her hatayı tanımlayacağını garanti etmez.
2.2Parasuraman and Riley, Humans and Automation: Use, Misuse, Disuse, Abuse
- Kaynak
- Parasuraman and Riley, Humans and Automation: Use, Misuse, Disuse, Abuse
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- pp. 231-234: human use and misuse of automation
- Desteklenen iddia
- 14. madde, gözetimle görevlendirilen kişiler için uygun ve orantılı şekilde sağlanacak yetenekler olarak kapasiteleri ve sınırları anlamayı, anormallikler için izlemeyi, çıktıyı yorumlamayı, çıktıyı dikkate almamayı veya geçersiz kılmayı ve sisteme müdahale etmeyi ya da sistemi durdurmayı sayar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Liste, atıf yapılan yüksek riskli sistem hükmüne bağlıdır ve gerekli olanaklar sağlanan bir kişinin her hatayı tanımlayacağını garanti etmez.