Araç kullanımı
Tool use
D3
Araç kullanımı, bir modelin çıktısının yapılandırılmış bir işlevi veya haricî yeteneği seçmek ya da çağırmak ve sonucunu işlemek için kullanıldığı uygulama örüntüsüdür.
İnceleme durumu: 2026-11-26
Teknik açıklama
Bir sistem, modelin ürettiği işlev isteğini işleyebilir, seçilen yapılandırılmış işlevi çalıştırabilir ve sonucu sonraki bir model adımına girdi olarak döndürebilir.
Kavramsal sınırlar
Araç kullanımı tek başına özerk bir ajan değildir; atıf yapılan döngü yalnızca işlev seçimini, çalıştırmayı ve sonucun geri verilmesini gösterir.
Sağlayıcıdan bağımsız örnek
Bir destek sistemi, modelin hesap sorgulama işlevi isteğini işleyebilir, yapılandırılmış sorguyu çalıştırabilir ve dönen durumu modele verebilir.
Sınırlılıklar
Araç etkin sistemler, özellikle model çıktısı haricî sistemlere veya güvenilmeyen veri kaynaklarına ulaşabildiğinde güvenlik ve aşağı akış eylem riskleri ekler.
İlişkili kavramlar
Atomik iddialar ve kanıt
1.1NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- Kaynak
- NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Section 3.5 printed p. 54: model output, function call, and results returned in next prompt
- Desteklenen iddia
- NIST, LLM tabanlı ajanları model çıktısını belirli girdilerle bir işlevi seçmek ve çağırmak için işleyen ve sonuçları sonraki istemin parçası olarak döndüren sistemler şeklinde açıklar.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, bir ajan araç çağrısı döngüsünü açıklar ve araç etkin her uygulamanın ajan olmasını gerektirmez.
2.1NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- Kaynak
- NIST AI 100-2e2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- Kaynak rolü
- Yetkili kaynak
- Tam konum
- Section 3.5 printed p. 54: tool-enabled agent security risks
- Desteklenen iddia
- Ajanlar araçlar kullanarak eylem alabildiğinde, istem enjeksiyonu saldırıları keyfî kod çalıştırma veya veri sızdırma gibi riskler oluşturabilir.
- Son doğrulama
- Gözden geçirme tarihi
- Kapsam sınırlaması
- Bu, savunmasız tasarımlar hakkında bir tehdit ifadesidir ve her araç çağrısının zarar verdiğini göstermez.