Ana içeriğe geç

Menü

Bir yapay zekâ ajanını yapması gereken iş üzerinden değerlendirin

Sayfa dili: Türkçe

Temsili bir görev ve ajanınızın ulaşması gereken sonucu paylaşın. Açık kontroller ve başarılı, başarısız ve puanlanmamış çalıştırmaları içeren bir raporla bir testin kapsamını belirleyebiliriz. Projenizi sapien1'e anlatın

Yapay zekâ ajanı değerlendirmesi, ajanın bir görevi gerçek kullanımda karşılaşacağı bilgiler, araçlar ve kısıtlarla tamamlayıp tamamlayamadığını sınar. Beklenen sonucu tanımlayın, neyin değiştiğini kontrol edin ve sonuca götüren adımları inceleyin.

sapien1 ekiplerin görev kümelerinin kapsamını belirlemesine, değerlendirme verilerini incelemesine ve ajanları sınamak için ortamlar geliştirmesine yardımcı olur. Tek bir iş akışıyla ve değerlendirmenin desteklemesi gereken kararla başlayın.

Bir iş akışını sınanabilir göreve dönüştürün

Bir görev için başlangıç durumu, bir istek ve gözlemlenebilir başarı ölçütleri gerekir. Ajanın son mesajı kanıtın bir parçasıdır. Ortaya çıkan dosyalar, kayıtlar veya araçların durumu da işin tamamlanıp tamamlanmadığını gösterebilir.

Anthropic’in ajan değerlendirme rehberi görev, her bir deneme, puanlayıcılar, yürütme kaydı ve ortamdaki sonuç arasında ayrım yapar. Bu ayrımlar hatanın ajandan mı, testten mi, yoksa ortamdan mı kaynaklandığını belirlemeyi kolaylaştırır.

Örneğin bir destek ajanından teslimat adresini değiştirmesi istensin. Test ajana bir sipariş kaydı, müşterinin isteği ve geçerli kuralı verebilir. Kontroller gerçek görevi yansıtmalıdır:

Görevin parçasıÖrnek kontrol
Siparişi belirleAjan istekte belirtilen siparişi seçer
Kuralı uygulaKarar, verilen kurallara ve siparişin durumuna uyar
Değişikliği yapDeğişikliğe izin verilirse istenen adres sipariş kaydına işlenir. Aksi durumda adres aynı kalır.
Diğer bilgileri koruÜrünler, adetler ve ilgisiz kayıtlar değişmez
Sonucu açıklaYanıt, yapılan işlemi veya hâlâ gereken bilgileri doğru biçimde açıklar

Bu görev tanımı örnek niteliğindedir. Gereken kontrolleri kendi kurallarınız ve iş akışınız belirler.

Yetkilendirme kararını ve son durumu kontrol edin

Bir kullanıcı, ajana A siparişinin adresini 1 Example Lane’den 2 Example Lane’e değiştirme yetkisi versin. B siparişinin ilk adresi 3 Example Lane’dir ve bu istek B’yi kapsamaz. Önceden yazılmış bu kurgusal kayıt, benzetimde yapılan bir yetki kontrolünün neleri kaydedebileceğini gösterir:

Ajanın araca gönderdiği istekYetki kararıKaydedilen sonuç
A siparişi: adresi 2 Example Lane olarak güncelleİzin verildiGüncelleme yapıldı
B siparişi: adresi 4 Example Lane olarak güncelleReddedildiGüncelleme engellendi

Yürütme kaydında hem izin verilen hem de kapsam dışı istek görünür. Bu örnekte durum kontrolü, A siparişinin 2 Example Lane’de olduğunu ve B siparişinin 3 Example Lane’de kaldığını gösterir. Reddedilen istek ile gerçekleşen değişiklik farklı sonuçlardır. Yetki kararını ve son durumu ajanın yanıtıyla birlikte saklayın.

Anthropic’in ajan değerlendirme rehberi denemenin yürütme kaydını ortaya çıkan durumdan ayırır. AWS’nin araç yetkilendirme rehberi ajanın araçlara gönderdiği istekleri kontrol etmeyi ve izin ya da ret kararlarını gözden geçirmeyi ele alır. Bu kurgusal kayıt tek bir kontrolü örnekler ve sistemin güvenli olduğunu kanıtlamaz.

Sonuçlanmış bir vakadan test oluşturun

Ayrı bir kurgusal destek geçmişinde şu sıranın kayda geçtiğini varsayalım. Saat 10:00’da, kimliği doğrulanmış A siparişi sahibi sipariş adresinin 1 Example Lane’den 2 Example Lane’e değiştirilmesini ister. Sipariş hâlâ gönderime hazırlanmaktadır. Geçerli kural, doğrulanmış sipariş sahibinin istediği adres değişikliğinin gönderimden önce yapılmasını öngörür. Saat 10:05’te bir destek notu, adresin değiştirildiğini kaydeder.

Saat 10:00’daki kararı test etmek için isteği, siparişin ilk durumunu ve o sırada geçerli kuralı ajana verin. Test araçlarını bu durumdan başlatın. Ajan işlem yaparken sipariş hazırlık aşamasında kalsın. Saat 10:05’teki notu değerlendirmeyi yapan kişinin erişimine açın ve testte ajanın ilk isteminden ve araçlarının erişebildiği kayıtlardan çıkarın. Aksi hâlde ajan, kendisinden işlem yapması istenmeden önce tamamlanmış sonucu görebilir.

Saat 10:00’da geçerli kural, değerlendiren kişiye beklenen sonucu verir. A siparişinin son adresi 2 Example Lane olur. Bu testte ilgisiz kayıtların değişmeden kalmasını da şart koşun. Saat 10:05’teki not sonucu belgeler. İşlemin doğru olup olmadığını kurala göre değerlendirin. Geçerli kuralı veya işlem öncesi durumu belirleyemiyorsanız vakayı inceleme için ayırın. Gerçek kayıtları kullanmadan önce gerekli izinleri doğrulayın ve hassas alanları uygun biçimde işleyin.

Inspect’in veri kümesi rehberi modele gönderilen girdiyi puanlamada kullanılabilecek hedef sonuçtan ayırır. Örnek dosyaların yalıtılmış test ortamına kopyalanabileceğini de açıklar. Yalnızca değerlendiren kişiye ayrılmış bilgiler için istemleri, getirilen içeriği, araç yanıtlarını ve yalıtılmış ortamdaki dosyaları kontrol edin. Veri kümesinde ayrı bir puanlama hedefi olsa da bu denetimleri yapın.

Karara uygun kanıtı seçin

Sonuç gözlemlenebiliyorsa doğrudan kontrol edin. Örneğin değişen bir alanı, bir hesaplamayı, üretilen dosyayı veya başarılı bir testi doğrulayın. Bir açıklamanın anlaşılır olup olmadığı ya da bir araştırma yanıtının kendi sonucunu destekleyip desteklemediği gibi insan yorumu gerektiren kararlar için yazılı değerlendirme ölçütleri kullanın.

Otomatik bir değerlendirici çok sayıda çıktının incelenmesine yardımcı olabilir. Puanlarına güvenmeden önce temsil gücü olan örneklerde kararlarını insan değerlendirmeleriyle karşılaştırın. Ölçütleri veya değerlendiriciyi iyileştirmek için anlaşmazlıkları görünür tutun.

Modelin metni kullanıp kullanmadığını kontrol etme

Görev girdilerini, araçları, ajan yapılandırmasını ve sonuçları kaydedin. Çalıştırmalar arasındaki fark karar açısından önemliyse denemeleri tekrarlayın. Başarısız ve beklenmedik biçimde başarılı çalıştırmaları inceleyin. Yüksek puan güçlü performansı gösterebildiği gibi yetersiz bir testi de gizleyebilir. Anthropic’in rehberi puanlayıcılara ve deneme tasarımına ilişkin bu noktaları ele alır.

Puanlamadan önce vaka kimliklerini kontrol edin

Geçmiş kayıtlardan bir vaka oluştururken vaka kimliğini hem beklenen sonuca hem de test sonucuna ekleyin. Vaka başına bir sonucu puanlamadan önce iki dosyayı beklenen kimliklerin listesiyle karşılaştırın. Beklenen her kimlik her dosyada bir kez yer almalıdır. Eksik, yinelenen veya beklenmeyen kimlikleri çözümleyin. Tekrarlanan çalıştırmalarda deneme kimliğini de kaydedin.

A ve B vakalarının beklendiğini varsayalım. Her iki dosyada da A ile kimliği eksik bir satır var. A’nın beklenen sonucu ve test sonucu uyuşmuyor. Kimliği eksik iki satır aynı etiketi taşıyor. Bir pandas birleştirmesi, bire bir kontrolü geçse bile bu eksik anahtarları eşleyebilir. Birleştirilmiş satırlar sayılırsa iki eşleşmiş çiftten biri uyumlu görünür. Beklenen bir kimlikle eşleşen tek vaka A’dır. Kimliği belirli alt kümede bir vakada sıfır uyum vardır ve beklenen iki vakadan yalnız biri kapsanır. Eksik kimlikler yüzünden iki satırdan birinin B’ye ait olup olmadığı bilinmez. Bu nedenle beklenen iki vakanın tamamı için puan belirlenemez. Bilerek bir alt kümeyi puanlarsanız puanla birlikte kapsama oranını da verin.

Kıyaslama puanlarını karşılaştırma

Tekrarlanan denemeleri verilecek karara göre yorumlayın

Bir ekibin iki görevi üçer kez sınadığını ve her denemeden önce görevin başlangıç durumunu geri yüklediğini varsayalım. Kontroller bu kurgusal sonuçları verir:

Görevİlk denemeİkinci denemeÜçüncü deneme
ABaşarılıBaşarısızBaşarılı
BBaşarılıBaşarılıBaşarısız

Altı denemenin dördü başarılı oldu. İki görev de en az bir kez başarılı oldu, ancak hiçbiri üç denemenin tamamında başarılı olmadı. Bu özetler farklı soruları yanıtlar. Sistem birden çok aday çıktıyı güvenilir biçimde doğrulayıp aralarından seçim yapabiliyorsa ara sıra alınan doğru sonuç önemli olabilir. Her denemenin tek başına işe yaraması gerektiğinde tekrarlanan başarı önem taşır. Bir denemenin başarılı olması diğer denemeleri güvenli veya doğru kılmaz.

Şimdi yedinci bir denemenin yalıtılmış test ortamındaki doğrulanmış bir dış kesinti nedeniyle puanlanamadan durduğunu varsayalım. Puanlanan altı denemenin dördü başarılıydı. Toplam yedi denemeden dördünde başarı doğrulandı. Puanlanmayan deneme ne doğrulanmış bir başarı ne de doğrulanmış bir ajan hatasıdır. İlk oran puanlanan denemeleri özetler. İkincisi tüm denemelerde doğrulanan başarı sayısını gösterir. Görevlerin ağırlığı veya ölçütün ayarları raporlanan sonucu değiştirebilir.

Bu sayılar yalnızca yukarıdaki kurgusal kontrolleri açıklar ve üretimdeki başarı oranını göstermez. Görev sayısını, görev başına deneme sayısını, kontrolleri ve yalıtılmış ortam kesintisi gibi altyapı sorunları yüzünden geçersiz sayılan denemeleri kaydedin. Geçersiz denemeleri ajan hatalarından ayrı bildirin ve her özetin hangi denemeleri içerdiğini belirtin. Bir görevi tekrarlamak o görevdeki değişkenliği gösterir. Daha geniş bir durum yelpazesini de test edin. Anthropic’in ajan değerlendirme rehberi, en az bir kez başarıyı ve tutarlı başarıyı ölçmenin farklı kararlara nasıl hizmet ettiğini ele alır.

Görev kapsamı puanlama öncesinde değişebilir. GDPval referans kapsamı analizimizde herkese açık 220 görev satırından 185’i, bir uzmanın ürettiği en az bir teslimat dosyasına giden yol listeler. Bu satırların sektör dağılımı tablonun tamamından farklıdır. Bir dosya yolunun listelenmesi, dosyaya erişilebildiğini veya dosyanın görüntülenebildiğini göstermez.

İşlemler durumu değiştiriyorsa bir test ortamı kullanın

Ajan kayıtları düzenliyor, yazılım kullanıyor veya birden çok araçla çalışıyorsa eylemlerini gerçekleştirebileceği bir yere ihtiyaç duyar. Yeniden kurulabilir bir test ortamı, başlangıç durumunu geri yüklemenize ve çalıştırmadan sonra sonucu incelemenize olanak tanır.

OpenEnv, ajanlar için yalıtılmış ortamlar kurmaya yarayan açık bir çerçevedir. Çerçeveyi seçmeden önce görevi, ajanın görebileceği bilgileri, yapabileceği işlemleri ve başarının nasıl doğrulanacağını belirleyin.

Görevler için beyan edilen kaynakların nasıl değişebildiğini görmek için 66 Terminal-Bench görevinin kaynak ayarlarına bakın.

İlk değerlendirmeniz için bir taslak

İş akışını, onu temsil eden bir görevi ve başarılı sonucun nasıl göründüğünü açıklayın. Ajanın kullandığı araçları, aldığı bilgileri ve bir yayımlama kararını değiştirecek hataları ekleyin. Örnekleriniz varsa kaynaklarını ve kapsadıkları durumları belirtin.

Kapsamı belirlenmiş bir projede görev kümesi, ortam gereksinimleri, puanlama yaklaşımı ve sonuçların nasıl inceleneceği tanımlanabilir. Örneklerin kendisi eksikse veri teminiyle başlayın.

Ajan değerlendirmesi hakkında bize e-posta gönderin