Önyargı ve adalet
Bias and fairness
D5
Önyargı ve adalet, sistematik kalıpların, seçimlerin ve etkilerin bir yapay zekâ sisteminde eşitsiz veya adaletsiz sonuçlar doğurabilmesini ve bu sonuçların bağlam içinde nasıl değerlendirildiğini ele alır.
İnceleme durumu: 2027-02-24
Teknik açıklama
Verinin, tasarımın, insan kararlarının, dağıtımın, etkilenen grupların ve değerlendirme arkasındaki değer seçimlerinin incelenmesini gerektirir.
Kavramsal sınırlar
Önyargı tek bir istatistiksel eşitsizlikten daha geniştir ve adalet evrensel olarak uyumlu tek bir metrik değildir.
Sağlayıcıdan bağımsız örnek
İşe alım ön eleme ekibi, ilgili gruplardaki hata kalıplarını karşılaştırabilir, veri ve iş akışı seçimlerini inceleyebilir ve seçilen adalet ölçütünün belirtilen kullanıma neden uyduğunu belgeleyebilir.
Sınırlılıklar
Bir adalet ölçütündeki olumlu sonuç, önyargının yapısal, veriyle ilgili, insan kaynaklı veya dağıtım kaynaklı nedenlerini ortadan kaldırmaz.
İlişkili kavramlar
Atomik iddialar ve kanıt
1.1NIST SP 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
- Kaynak
- NIST SP 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Executive Summary, printed p. i, and Section 2.1.2, printed pp. 6-9
- Desteklenen iddia
- NIST, sistemik, hesaplamalı ve insan kaynaklı önyargıyı yapay zekâ bağlamları ve yaşam döngüsü aşamaları boyunca ortaya çıkabilen ayrı kaynaklar olarak tanımlar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu taksonomi incelemeyi destekler; gözlenen her eşitsizliği hukuka aykırı ayrımcılığın kanıtı yapmaz.
1.2OECD AI Principles
- Kaynak
- OECD AI Principles
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Human rights and democratic values, including fairness and privacy
- Desteklenen iddia
- NIST, sistemik, hesaplamalı ve insan kaynaklı önyargıyı yapay zekâ bağlamları ve yaşam döngüsü aşamaları boyunca ortaya çıkabilen ayrı kaynaklar olarak tanımlar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu taksonomi incelemeyi destekler; gözlenen her eşitsizliği hukuka aykırı ayrımcılığın kanıtı yapmaz.
2.1NIST SP 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
- Kaynak
- NIST SP 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Section 3.2.1, printed pp. 30-32
- Desteklenen iddia
- NIST, adaletin bağlama bağlı olduğunu ve adalet ölçütlerinin evrensel olarak uyumlu tek bir ölçü yerine ödünleşimler içerebileceğini belirtir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Ödünleşimlerin varlığı, önlenebilir zararı mazur göstermez veya seçilen değerlendirme bağlamını gerekçelendirme ihtiyacını ortadan kaldırmaz.
2.2Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D5 instrument slice
- Kaynak
- Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text of 27 July 2026 — D5 instrument slice
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Article 10(2)(f)-(g), consolidated text of 27 July 2026
- Desteklenen iddia
- NIST, adaletin bağlama bağlı olduğunu ve adalet ölçütlerinin evrensel olarak uyumlu tek bir ölçü yerine ödünleşimler içerebileceğini belirtir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Ödünleşimlerin varlığı, önlenebilir zararı mazur göstermez veya seçilen değerlendirme bağlamını gerekçelendirme ihtiyacını ortadan kaldırmaz.