YZ halüsinasyonu
AI hallucination
D2
YZ halüsinasyonu, hatalı, yanlış veya istemi ya da bağlamıyla tutarsız üretken yapay zekâ çıktısı için kullanılan yaygın bir terimdir.
İnceleme durumu: 2026-11-26
Teknik açıklama
NIST bu olguyu konfabulasyon olarak adlandırır ve istatistiksel olarak üretilen çıktılar bazı durumlarda doğru ve tutarlı olabilse de yanlış da olabileceğini belirtir.
Kavramsal sınırlar
Halüsinasyon niyetin veya bilinçli algının kanıtı değildir ve her model çıktısının yanlış olduğu anlamına gelmez.
Sağlayıcıdan bağımsız örnek
Bir sistem gözden geçiricinin bulamadığı rapor atfını kendinden emin biçimde uydurursa, gözden geçirici iddiaya güvenmek yerine onu desteksiz saymalıdır.
Sınırlılıklar
Terminoloji yaygın kullanımlıdır ve tartışmalı olabilir; bu nedenle iş akışı etiketi tam teşhis saymak yerine belirli çıktıyı ilgili kanıta göre değerlendirmelidir.
İlişkili kavramlar
Atomik iddialar ve kanıt
1.1NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- Kaynak
- NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Confabulation pp. 5-6: definition and colloquial terms
- Desteklenen iddia
- NIST, hatalı veya yanlış içeriği kendinden emin biçimde üreten ve sunan, istemden sapan ya da aynı bağlamdaki önceki ifadelerle çelişen üretken yapay zekâ sistemleri için konfabulasyon terimini kullanır; bu olguların yaygın olarak halüsinasyon diye de adlandırıldığını belirtir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, NIST’in üretken yapay zekâ çıktısı için risk terminolojisidir; sistemde klinik veya kasıtlı bir durum göstermez.
2.1NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- Kaynak
- NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Confabulation pp. 5-6: statistical prediction can be accurate or erroneous
- Desteklenen iddia
- İstatistiksel sonraki token tahmini, olgusal olarak doğru ve tutarlı çıktılar üretebilir; ancak hatalı çıktılar da üretebilir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu genel bir risk ifadesidir; belirli bir yanıtın doğruluğunu belirlemez.
3.1NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- Kaynak
- NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Confabulation pp. 5-6: confabulation and colloquial hallucination terminology
- Desteklenen iddia
- NIST bu çıktı olgusunu konfabulasyon olarak adlandırır ve halüsinasyonun yaygın bir etiket olduğunu belirtir; atıf yapılan PLOS görüş yazısı ise bu etiketin mecazî olduğunu savunur.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, terminoloji çerçevesini kaydeder; LLM bilinci veya mekanizması hakkında iddia ileri sürmez.
3.2Smith, Greaves, and Panch, Hallucination or Confabulation? Neuroanatomy as metaphor in Large Language Models
- Kaynak
- Smith, Greaves, and Panch, Hallucination or Confabulation? Neuroanatomy as metaphor in Large Language Models
- Kaynak rolü
- Tamamlayıcı kaynak
- Tam konum
- Published Opinion: paragraph beginning ‘Employing the term’
- Desteklenen iddia
- NIST bu çıktı olgusunu konfabulasyon olarak adlandırır ve halüsinasyonun yaygın bir etiket olduğunu belirtir; atıf yapılan PLOS görüş yazısı ise bu etiketin mecazî olduğunu savunur.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, terminoloji çerçevesini kaydeder; LLM bilinci veya mekanizması hakkında iddia ileri sürmez.