Bir yapay zekâ ajanını yapması gereken iş üzerinden değerlendirin
Sayfa dili: Türkçe
Temsili bir görev ve ajanınızın ulaşması gereken sonucu paylaşın. Açık kontroller ve başarılı, başarısız ve puanlanmamış çalıştırmaları içeren bir raporla bir testin kapsamını belirleyebiliriz. Projenizi sapien1'e anlatın
Yapay zekâ ajanı değerlendirmesi, ajanın bir görevi gerçek kullanımda karşılaşacağı bilgiler, araçlar ve kısıtlarla tamamlayıp tamamlayamadığını sınar. Beklenen sonucu tanımlayın, neyin değiştiğini kontrol edin ve sonuca götüren adımları inceleyin.
sapien1 ekiplerin görev kümelerinin kapsamını belirlemesine, değerlendirme verilerini incelemesine ve ajanları sınamak için ortamlar geliştirmesine yardımcı olur. Tek bir iş akışıyla ve değerlendirmenin desteklemesi gereken kararla başlayın.
Bir iş akışını sınanabilir göreve dönüştürün
Bir görev için başlangıç durumu, bir istek ve gözlemlenebilir başarı ölçütleri gerekir. Ajanın son mesajı kanıtın bir parçasıdır. Ortaya çıkan dosyalar, kayıtlar veya araçların durumu da işin tamamlanıp tamamlanmadığını gösterebilir.
Anthropic’in ajan değerlendirme rehberi görev, her bir deneme, puanlayıcılar, yürütme kaydı ve ortamdaki sonuç arasında ayrım yapar. Bu ayrımlar hatanın ajandan mı, testten mi, yoksa ortamdan mı kaynaklandığını belirlemeyi kolaylaştırır.
Örneğin bir destek ajanından teslimat adresini değiştirmesi istensin. Test ajana bir sipariş kaydı, müşterinin isteği ve geçerli kuralı verebilir. Kontroller gerçek görevi yansıtmalıdır:
| Görevin parçası | Örnek kontrol |
|---|---|
| Siparişi belirle | Ajan istekte belirtilen siparişi seçer |
| Kuralı uygula | Karar, verilen kurallara ve siparişin durumuna uyar |
| Değişikliği yap | Değişikliğe izin verilirse istenen adres sipariş kaydına işlenir. Aksi durumda adres aynı kalır. |
| Diğer bilgileri koru | Ürünler, adetler ve ilgisiz kayıtlar değişmez |
| Sonucu açıkla | Yanıt, yapılan işlemi veya hâlâ gereken bilgileri doğru biçimde açıklar |
Bu görev tanımı örnek niteliğindedir. Gereken kontrolleri kendi kurallarınız ve iş akışınız belirler.
Yetkilendirme kararını ve son durumu kontrol edin
Bir kullanıcı, ajana A siparişinin adresini 1 Example Lane’den 2 Example Lane’e değiştirme yetkisi versin. B siparişinin ilk adresi 3 Example Lane’dir ve bu istek B’yi kapsamaz. Önceden yazılmış bu kurgusal kayıt, benzetimde yapılan bir yetki kontrolünün neleri kaydedebileceğini gösterir:
| Ajanın araca gönderdiği istek | Yetki kararı | Kaydedilen sonuç |
|---|---|---|
| A siparişi: adresi 2 Example Lane olarak güncelle | İzin verildi | Güncelleme yapıldı |
| B siparişi: adresi 4 Example Lane olarak güncelle | Reddedildi | Güncelleme engellendi |
Yürütme kaydında hem izin verilen hem de kapsam dışı istek görünür. Bu örnekte durum kontrolü, A siparişinin 2 Example Lane’de olduğunu ve B siparişinin 3 Example Lane’de kaldığını gösterir. Reddedilen istek ile gerçekleşen değişiklik farklı sonuçlardır. Yetki kararını ve son durumu ajanın yanıtıyla birlikte saklayın.
Anthropic’in ajan değerlendirme rehberi denemenin yürütme kaydını ortaya çıkan durumdan ayırır. AWS’nin araç yetkilendirme rehberi ajanın araçlara gönderdiği istekleri kontrol etmeyi ve izin ya da ret kararlarını gözden geçirmeyi ele alır. Bu kurgusal kayıt tek bir kontrolü örnekler ve sistemin güvenli olduğunu kanıtlamaz.
Sonuçlanmış bir vakadan test oluşturun
Ayrı bir kurgusal destek geçmişinde şu sıranın kayda geçtiğini varsayalım. Saat 10:00’da, kimliği doğrulanmış A siparişi sahibi sipariş adresinin 1 Example Lane’den 2 Example Lane’e değiştirilmesini ister. Sipariş hâlâ gönderime hazırlanmaktadır. Geçerli kural, doğrulanmış sipariş sahibinin istediği adres değişikliğinin gönderimden önce yapılmasını öngörür. Saat 10:05’te bir destek notu, adresin değiştirildiğini kaydeder.
Saat 10:00’daki kararı test etmek için isteği, siparişin ilk durumunu ve o sırada geçerli kuralı ajana verin. Test araçlarını bu durumdan başlatın. Ajan işlem yaparken sipariş hazırlık aşamasında kalsın. Saat 10:05’teki notu değerlendirmeyi yapan kişinin erişimine açın ve testte ajanın ilk isteminden ve araçlarının erişebildiği kayıtlardan çıkarın. Aksi hâlde ajan, kendisinden işlem yapması istenmeden önce tamamlanmış sonucu görebilir.
Saat 10:00’da geçerli kural, değerlendiren kişiye beklenen sonucu verir. A siparişinin son adresi 2 Example Lane olur. Bu testte ilgisiz kayıtların değişmeden kalmasını da şart koşun. Saat 10:05’teki not sonucu belgeler. İşlemin doğru olup olmadığını kurala göre değerlendirin. Geçerli kuralı veya işlem öncesi durumu belirleyemiyorsanız vakayı inceleme için ayırın. Gerçek kayıtları kullanmadan önce gerekli izinleri doğrulayın ve hassas alanları uygun biçimde işleyin.
Inspect’in veri kümesi rehberi modele gönderilen girdiyi puanlamada kullanılabilecek hedef sonuçtan ayırır. Örnek dosyaların yalıtılmış test ortamına kopyalanabileceğini de açıklar. Yalnızca değerlendiren kişiye ayrılmış bilgiler için istemleri, getirilen içeriği, araç yanıtlarını ve yalıtılmış ortamdaki dosyaları kontrol edin. Veri kümesinde ayrı bir puanlama hedefi olsa da bu denetimleri yapın.
Karara uygun kanıtı seçin
Sonuç gözlemlenebiliyorsa doğrudan kontrol edin. Örneğin değişen bir alanı, bir hesaplamayı, üretilen dosyayı veya başarılı bir testi doğrulayın. Bir açıklamanın anlaşılır olup olmadığı ya da bir araştırma yanıtının kendi sonucunu destekleyip desteklemediği gibi insan yorumu gerektiren kararlar için yazılı değerlendirme ölçütleri kullanın.
Otomatik bir değerlendirici çok sayıda çıktının incelenmesine yardımcı olabilir. Puanlarına güvenmeden önce temsil gücü olan örneklerde kararlarını insan değerlendirmeleriyle karşılaştırın. Ölçütleri veya değerlendiriciyi iyileştirmek için anlaşmazlıkları görünür tutun.
Modelin metni kullanıp kullanmadığını kontrol etme
Görev girdilerini, araçları, ajan yapılandırmasını ve sonuçları kaydedin. Çalıştırmalar arasındaki fark karar açısından önemliyse denemeleri tekrarlayın. Başarısız ve beklenmedik biçimde başarılı çalıştırmaları inceleyin. Yüksek puan güçlü performansı gösterebildiği gibi yetersiz bir testi de gizleyebilir. Anthropic’in rehberi puanlayıcılara ve deneme tasarımına ilişkin bu noktaları ele alır.
Puanlamadan önce vaka kimliklerini kontrol edin
Geçmiş kayıtlardan bir vaka oluştururken vaka kimliğini hem beklenen sonuca hem de test sonucuna ekleyin. Vaka başına bir sonucu puanlamadan önce iki dosyayı beklenen kimliklerin listesiyle karşılaştırın. Beklenen her kimlik her dosyada bir kez yer almalıdır. Eksik, yinelenen veya beklenmeyen kimlikleri çözümleyin. Tekrarlanan çalıştırmalarda deneme kimliğini de kaydedin.
A ve B vakalarının beklendiğini varsayalım. Her iki dosyada da A ile kimliği eksik bir satır var. A’nın beklenen sonucu ve test sonucu uyuşmuyor. Kimliği eksik iki satır aynı etiketi taşıyor. Bir pandas birleştirmesi, bire bir kontrolü geçse bile bu eksik anahtarları eşleyebilir. Birleştirilmiş satırlar sayılırsa iki eşleşmiş çiftten biri uyumlu görünür. Beklenen bir kimlikle eşleşen tek vaka A’dır. Kimliği belirli alt kümede bir vakada sıfır uyum vardır ve beklenen iki vakadan yalnız biri kapsanır. Eksik kimlikler yüzünden iki satırdan birinin B’ye ait olup olmadığı bilinmez. Bu nedenle beklenen iki vakanın tamamı için puan belirlenemez. Bilerek bir alt kümeyi puanlarsanız puanla birlikte kapsama oranını da verin.
Kıyaslama puanlarını karşılaştırma
Tekrarlanan denemeleri verilecek karara göre yorumlayın
Bir ekibin iki görevi üçer kez sınadığını ve her denemeden önce görevin başlangıç durumunu geri yüklediğini varsayalım. Kontroller bu kurgusal sonuçları verir:
| Görev | İlk deneme | İkinci deneme | Üçüncü deneme |
|---|---|---|---|
| A | Başarılı | Başarısız | Başarılı |
| B | Başarılı | Başarılı | Başarısız |
Altı denemenin dördü başarılı oldu. İki görev de en az bir kez başarılı oldu, ancak hiçbiri üç denemenin tamamında başarılı olmadı. Bu özetler farklı soruları yanıtlar. Sistem birden çok aday çıktıyı güvenilir biçimde doğrulayıp aralarından seçim yapabiliyorsa ara sıra alınan doğru sonuç önemli olabilir. Her denemenin tek başına işe yaraması gerektiğinde tekrarlanan başarı önem taşır. Bir denemenin başarılı olması diğer denemeleri güvenli veya doğru kılmaz.
Şimdi yedinci bir denemenin yalıtılmış test ortamındaki doğrulanmış bir dış kesinti nedeniyle puanlanamadan durduğunu varsayalım. Puanlanan altı denemenin dördü başarılıydı. Toplam yedi denemeden dördünde başarı doğrulandı. Puanlanmayan deneme ne doğrulanmış bir başarı ne de doğrulanmış bir ajan hatasıdır. İlk oran puanlanan denemeleri özetler. İkincisi tüm denemelerde doğrulanan başarı sayısını gösterir. Görevlerin ağırlığı veya ölçütün ayarları raporlanan sonucu değiştirebilir.
Bu sayılar yalnızca yukarıdaki kurgusal kontrolleri açıklar ve üretimdeki başarı oranını göstermez. Görev sayısını, görev başına deneme sayısını, kontrolleri ve yalıtılmış ortam kesintisi gibi altyapı sorunları yüzünden geçersiz sayılan denemeleri kaydedin. Geçersiz denemeleri ajan hatalarından ayrı bildirin ve her özetin hangi denemeleri içerdiğini belirtin. Bir görevi tekrarlamak o görevdeki değişkenliği gösterir. Daha geniş bir durum yelpazesini de test edin. Anthropic’in ajan değerlendirme rehberi, en az bir kez başarıyı ve tutarlı başarıyı ölçmenin farklı kararlara nasıl hizmet ettiğini ele alır.
Görev kapsamı puanlama öncesinde değişebilir. GDPval referans kapsamı analizimizde herkese açık 220 görev satırından 185’i, bir uzmanın ürettiği en az bir teslimat dosyasına giden yol listeler. Bu satırların sektör dağılımı tablonun tamamından farklıdır. Bir dosya yolunun listelenmesi, dosyaya erişilebildiğini veya dosyanın görüntülenebildiğini göstermez.
İşlemler durumu değiştiriyorsa bir test ortamı kullanın
Ajan kayıtları düzenliyor, yazılım kullanıyor veya birden çok araçla çalışıyorsa eylemlerini gerçekleştirebileceği bir yere ihtiyaç duyar. Yeniden kurulabilir bir test ortamı, başlangıç durumunu geri yüklemenize ve çalıştırmadan sonra sonucu incelemenize olanak tanır.
OpenEnv, ajanlar için yalıtılmış ortamlar kurmaya yarayan açık bir çerçevedir. Çerçeveyi seçmeden önce görevi, ajanın görebileceği bilgileri, yapabileceği işlemleri ve başarının nasıl doğrulanacağını belirleyin.
Görevler için beyan edilen kaynakların nasıl değişebildiğini görmek için 66 Terminal-Bench görevinin kaynak ayarlarına bakın.
İlk değerlendirmeniz için bir taslak
İş akışını, onu temsil eden bir görevi ve başarılı sonucun nasıl göründüğünü açıklayın. Ajanın kullandığı araçları, aldığı bilgileri ve bir yayımlama kararını değiştirecek hataları ekleyin. Örnekleriniz varsa kaynaklarını ve kapsadıkları durumları belirtin.
Kapsamı belirlenmiş bir projede görev kümesi, ortam gereksinimleri, puanlama yaklaşımı ve sonuçların nasıl inceleneceği tanımlanabilir. Örneklerin kendisi eksikse veri teminiyle başlayın.