Naar de hoofdinhoud

Menu

Evalueer een AI-agent op het werk dat hij moet uitvoeren

Taal: Nederlands

Neem een representatieve taak mee en beschrijf het resultaat dat je agent moet bereiken. We kunnen de omvang van een test bepalen, met expliciete controles en een rapport over geslaagde, mislukte en niet beoordeelde uitvoeringen. Beschrijf je project voor sapien1

Bij de evaluatie van een AI-agent toets je of die een taak kan voltooien met de informatie, hulpmiddelen en beperkingen die hij in de praktijk tegenkomt. Leg de verwachte uitkomst vast, controleer wat er veranderd is en bekijk de stappen die tot die uitkomst hebben geleid.

sapien1 helpt teams om taaksets af te bakenen, evaluatiegegevens te beoordelen en testomgevingen voor agents te ontwikkelen. Begin met één werkproces en de beslissing die je met de evaluatie wilt onderbouwen.

Maak van een werkproces een toetsbare taak

Een taak heeft een begintoestand, een verzoek en waarneembare succescriteria nodig. Het afsluitende bericht van de agent is één deel van het bewijs. Ook bestanden, records of de toestand van de gebruikte tools kunnen laten zien of het werk is uitgevoerd.

De gids van Anthropic voor het evalueren van agents maakt onderscheid tussen de taak, elke poging, de beoordelaars, het uitvoeringslogboek en de uitkomst in de omgeving. Dat helpt te bepalen of een fout voortkomt uit de agent, de test of de omgeving.

Stel dat een klantenserviceagent een afleveradres moet wijzigen. De test kan de agent een bestelrecord, het verzoek van de klant en het toepasselijke beleid geven. Stem de controles af op de werkelijke taak:

Onderdeel van de taakVoorbeeld van een controle
De bestelling vindenDe agent selecteert de bestelling die in het verzoek staat
Het beleid toepassenDe beslissing komt overeen met de opgegeven regels en de bestelstatus
De wijziging uitvoerenAls de wijziging is toegestaan, staat het gevraagde adres in het bestelrecord. Anders blijft het adres ongewijzigd.
Andere gegevens behoudenArtikelen, aantallen en niet-betrokken records blijven ongewijzigd
De uitkomst uitleggenHet antwoord beschrijft nauwkeurig wat er is gedaan of welke informatie nog nodig is

Deze taakspecificatie is een voorbeeld. Je eigen beleid en werkproces bepalen welke controles nodig zijn.

Controleer de toestemming en de uiteindelijke toestand

Stel dat een gebruiker een agent toestemming geeft om het adres van bestelling A te wijzigen van 1 Example Lane naar 2 Example Lane. Bestelling B heeft aanvankelijk het adres 3 Example Lane en valt buiten het verzoek. Dit vooraf opgestelde, fictieve logboek laat zien wat een gesimuleerde toestemmingscontrole kan vastleggen:

Verzoek van de agent aan de toolToestemmingsbesluitVastgelegde uitkomst
Bestelling A: adres wijzigen naar 2 Example LaneToegestaanWijziging uitgevoerd
Bestelling B: adres wijzigen naar 4 Example LaneGeweigerdWijziging geblokkeerd

Het logboek bevat zowel het toegestane verzoek als het verzoek buiten de toegestane reikwijdte. In dit voorbeeld bevestigt een controle dat bestelling A op 2 Example Lane staat en bestelling B op 3 Example Lane blijft. Een geweigerd verzoek en een uitgevoerde wijziging zijn verschillende uitkomsten. Bewaar het toestemmingsbesluit en de eindtoestand naast het antwoord van de agent.

De gids van Anthropic voor agentevaluatie onderscheidt het uitvoeringslogboek van een poging van de toestand die daaruit voortkomt. De richtlijnen van AWS voor toolautorisatie bespreken het controleren van verzoeken van agents aan tools en het beoordelen van besluiten om ze toe te staan of te weigeren. Het fictieve logboek illustreert één controle en bewijst niet dat een systeem veilig is.

Bouw een test op basis van een afgehandelde zaak

Stel dat een ander fictief klantenservicedossier de volgende gebeurtenissen bevat. Om 10:00 vraagt de geverifieerde eigenaar van bestelling A om het besteladres te wijzigen van 1 Example Lane naar 2 Example Lane. De bestelling wordt nog klaargemaakt voor verzending. Volgens het geldende beleid moet een adreswijziging op verzoek van de geverifieerde eigenaar vóór verzending worden uitgevoerd. Om 10:05 legt een notitie van de klantenservice vast dat het adres is gewijzigd.

Om de beslissing van 10:00 te testen, geef je de agent het verzoek, de oorspronkelijke bestelstatus en het op dat moment geldende beleid. Start de testtools vanuit die toestand. Laat de bestelling in voorbereiding terwijl de agent handelt. Maak de notitie van 10:05 beschikbaar voor de beoordelaar en sluit die uit van de eerste instructies aan de agent en van de records die zijn tools in deze test kunnen raadplegen. Anders kan de agent de voltooide uitkomst al zien voordat hij moet handelen.

Het om 10:00 geldende beleid geeft de beoordelaar de verwachte uitkomst. Bestelling A eindigt op 2 Example Lane. Eis ook dat niet-betrokken records tijdens deze test ongewijzigd blijven. De notitie van 10:05 legt de uitkomst vast. Gebruik het beleid om te bepalen of de handeling juist was. Als je het toepasselijke beleid of de toestand vóór de handeling niet kunt vaststellen, houd de zaak dan apart voor beoordeling. Controleer vóór gebruik van echte records of je daarvoor toestemming hebt en behandel gevoelige velden zorgvuldig.

De datasetgids van Inspect maakt onderscheid tussen de invoer voor een model en een referentie-uitkomst die voor de beoordeling kan worden gebruikt. De gids legt ook uit dat voorbeeldbestanden naar een geïsoleerde testomgeving kunnen worden gekopieerd. Controleer instructies, opgehaald materiaal, toolantwoorden en bestanden in de testomgeving op informatie die alleen voor de beoordelaar bedoeld is. Doe dat ook als de dataset een aparte referentie-uitkomst bevat.

Kies bewijs dat bij de beslissing past

Gebruik directe controles voor waarneembare uitkomsten, zoals een gewijzigd veld, een berekening, een gegenereerd bestand of een geslaagde test. Gebruik schriftelijke beoordelingscriteria wanneer menselijke interpretatie nodig is, bijvoorbeeld om te bepalen of een uitleg helder is of een onderzoeksantwoord zijn conclusie onderbouwt.

Een automatische beoordelaar kan helpen om grote aantallen resultaten te beoordelen. Vergelijk zijn beslissingen op representatieve voorbeelden met menselijke beoordelingen voordat je zijn scores gebruikt. Leg meningsverschillen vast om de criteria of de beoordelaar te verbeteren.

Controleren of een model de passage gebruikt

Leg de taakinvoer, de tools, de agentconfiguratie en de resultaten vast. Herhaal pogingen wanneer verschillen tussen uitvoeringen invloed kunnen hebben op de beslissing. Bekijk mislukkingen én onverwachte successen. Een hoge score kan voortkomen uit sterke prestaties of uit een test die te weinig vraagt. De gids van Anthropic bespreekt deze aandachtspunten voor beoordelaars en het opzetten van pogingen.

Controleer zaak-ID’s vóór het scoren

Als je een zaak opbouwt uit eerdere records, bewaar dan het zaak-ID bij zowel de verwachte uitkomst als het testresultaat. Vergelijk beide bestanden met de lijst van verwachte ID’s voordat je per zaak één resultaat beoordeelt. Elk verwacht ID moet precies één keer in elk bestand voorkomen. Los problemen met ontbrekende, dubbele of onverwachte ID’s op. Leg bij herhaalde uitvoeringen ook een poging-ID vast.

Stel dat je zaken A en B verwacht. Beide bestanden bevatten A en een rij zonder ID. De verwachte uitkomst en het testresultaat voor A komen niet overeen. De twee rijen zonder ID dragen hetzelfde label. Een samenvoeging met pandas kan deze ontbrekende sleutels aan elkaar koppelen, zelfs als de controle op een-op-eenrelaties slaagt. Als je de samengevoegde rijen telt, krijg je één overeenkomst in twee paren. Alleen A komt overeen met een verwacht ID. Het geïdentificeerde deel bevat nul overeenkomsten in één zaak en dekt één van de twee verwachte zaken. Zonder de ID’s kun je niet vaststellen of een van de twee rijen bij B hoort. De score over beide verwachte zaken blijft daarom onbepaald. Als je bewust een deelverzameling beoordeelt, rapporteer dan zowel de dekking als de score.

Benchmarkscores vergelijken

Interpreteer herhaalde pogingen vanuit de beslissing

Stel dat een team twee taken elk drie keer test en vóór iedere poging de begintoestand van de taak herstelt. De controles leveren deze fictieve resultaten op:

TaakEerste pogingTweede pogingDerde poging
AGeslaagdMisluktGeslaagd
BGeslaagdGeslaagdMislukt

Vier van de zes pogingen slaagden. Beide taken slaagden minstens één keer, maar geen van beide alle drie de keren. Die samenvattingen beantwoorden verschillende vragen. Af en toe een juist resultaat kan relevant zijn als het systeem meerdere mogelijke uitvoerresultaten betrouwbaar kan controleren en er één kan kiezen. Herhaald succes telt wanneer iedere poging op zichzelf moet werken. Het slagen van één poging maakt de andere pogingen niet veilig of correct.

Stel nu dat een zevende poging vóór beoordeling stopt door een bevestigde externe storing in de geïsoleerde testomgeving. Vier van de zes beoordeelde pogingen slaagden. Over alle zeven pogingen waren er vier bevestigde successen. De onbeoordeelde poging is geen bevestigd succes en ook geen bevestigde fout van de agent. De eerste verhouding vat de beoordeelde pogingen samen. De tweede laat het aantal bevestigde successen zien over alle pogingen. Andere taakgewichten of instellingen van de metriek kunnen het gerapporteerde resultaat veranderen.

Deze cijfers beschrijven alleen de fictieve controles hierboven. Ze onderbouwen geen succespercentage in productie. Leg het aantal taken, de pogingen per taak, de controles en de ongeldig verklaarde pogingen vast. Dat laatste kan gebeuren door infrastructuurproblemen, zoals een storing in de testomgeving. Rapporteer ongeldige pogingen apart van fouten van de agent en geef aan welke pogingen in elke samenvatting meetellen. Een taak herhalen maakt variatie op die taak zichtbaar. Test daarnaast een breder scala aan situaties. De gids van Anthropic voor agentevaluatie beschrijft hoe maatstaven voor minstens één succes en voor consistent succes verschillende beslissingen ondersteunen.

De taakdekking kan al veranderen voordat je scores berekent. In onze analyse van de referentiedekking van GDPval vermelden 185 van de 220 openbare taakrijen minstens één pad naar een door een expert gemaakt werkproduct. De verdeling over sectoren van die rijen verschilt van die van de volledige tabel. Een vermeld pad bewijst niet dat je toegang tot het bestand hebt of dat je het kunt weergeven.

Gebruik een testomgeving wanneer handelingen de toestand veranderen

Als de agent records wijzigt, software bedient of met verschillende tools werkt, heeft hij een plek nodig om die handelingen uit te voeren. Met een herhaalbare testomgeving kun je de begintoestand herstellen en na een uitvoering het resultaat bekijken.

OpenEnv is een open framework voor geïsoleerde agentomgevingen. Kies pas een framework nadat je de taak hebt gedefinieerd: wat kan de agent zien, wat kan hij doen en hoe controleer je succes?

De resource-instellingen achter 66 Terminal-Bench-taken laten zien hoe de opgegeven middelen per taak kunnen verschillen.

Een opzet voor je eerste evaluatie

Beschrijf het werkproces, een representatieve taak en hoe een succesvolle uitkomst eruitziet. Voeg de tools van de agent toe, welke informatie hij ontvangt en welke fouten een beslissing over vrijgave zouden beïnvloeden. Als je al voorbeelden hebt, beschrijf dan hun herkomst en dekking.

Een afgebakend project kan vervolgens de taakset, de eisen aan de testomgeving, de beoordelingsmethode en de controle van de resultaten uitwerken. Als de voorbeelden zelf ontbreken, begin je met dataverzameling en bronselectie.

Mail ons over het evalueren van agents