Évaluez un agent IA sur les tâches qu’il doit accomplir
Langue: Français
Présentez une tâche représentative et le résultat que votre agent doit atteindre. Nous pouvons définir le périmètre d’un test avec des vérifications explicites et un rapport indiquant les exécutions réussies, échouées et non évaluées. Décrivez votre projet à sapien1
Évaluer un agent IA consiste à vérifier s’il peut accomplir une tâche avec les informations, les outils et les contraintes qu’il rencontrera en pratique. Définissez le résultat attendu, vérifiez les changements et examinez les étapes qui y ont conduit.
sapien1 aide les équipes à délimiter des ensembles de tâches, à évaluer leurs données de test et à développer des environnements pour tester des agents. Commencez par un processus de travail et la décision que l’évaluation doit éclairer.
Transformez un processus de travail en tâche testable
Une tâche nécessite un état initial, une demande et des critères de réussite observables. Le message final de l’agent fournit une partie des éléments de preuve. Les fichiers produits, les enregistrements ou l’état des outils peuvent aussi montrer si le travail a été effectué.
Le guide d’Anthropic sur l’évaluation des agents distingue la tâche, chaque essai, les évaluateurs, la trace d’exécution et le résultat dans l’environnement. Ces distinctions aident à déterminer si un échec vient de l’agent, du test ou de l’environnement.
Prenons un agent d’assistance chargé de modifier une adresse de livraison. Un test peut lui fournir la fiche d’une commande, la demande du client et la règle applicable. Les contrôles doivent correspondre à la tâche réelle :
| Étape de la tâche | Exemple de contrôle |
|---|---|
| Identifier la commande | L’agent sélectionne la commande indiquée dans la demande |
| Appliquer la règle | La décision respecte les règles fournies et tient compte du statut de la commande |
| Effectuer la modification | Si la modification est autorisée, l’adresse demandée figure dans la fiche de commande. Sinon, l’adresse reste la même. |
| Préserver les autres données | Les articles, les quantités et les enregistrements sans rapport restent inchangés |
| Expliquer le résultat | La réponse décrit fidèlement l’action effectuée ou les informations dont l’agent a encore besoin |
Cette spécification sert d’exemple. Adaptez les contrôles à vos règles et à votre processus de travail.
Vérifiez l’autorisation et l’état qui en résulte
Supposons qu’un utilisateur autorise un agent à remplacer l’adresse de la commande A, 1 Example Lane, par 2 Example Lane. L’adresse initiale de la commande B est 3 Example Lane. Cette commande ne fait pas partie de la demande. La trace fictive ci-dessous, rédigée à l’avance, illustre ce qu’un contrôle d’autorisation simulé pourrait enregistrer :
| Requête de l’agent à l’outil | Décision d’autorisation | Résultat enregistré |
|---|---|---|
| Commande A : remplacer l’adresse par 2 Example Lane | Autorisée | Modification effectuée |
| Commande B : remplacer l’adresse par 4 Example Lane | Refusée | Modification bloquée |
La trace enregistre à la fois la requête autorisée et celle qui dépasse le périmètre de la demande. Dans cet exemple, la vérification de l’état montre que la commande A est à l’adresse 2 Example Lane et que la commande B reste au 3 Example Lane. Le refus d’une requête et l’exécution d’une modification correspondent à deux résultats distincts. Conservez la décision d’autorisation et l’état final avec la réponse de l’agent.
Le guide d’Anthropic sur l’évaluation des agents distingue la trace d’un essai de l’état qui en résulte. Les recommandations d’AWS sur l’autorisation des outils expliquent comment contrôler les requêtes adressées aux outils par l’agent et examiner les décisions d’autorisation ou de refus. Cette trace fictive illustre un contrôle. Elle ne suffit pas à démontrer qu’un système est sûr.
Construisez un test à partir d’un dossier déjà traité
Supposons qu’un autre historique d’assistance fictif retrace les événements suivants. À 10 h, le titulaire vérifié de la commande A demande de remplacer l’adresse 1 Example Lane par 2 Example Lane. La commande est encore en préparation. La règle en vigueur prévoit de modifier l’adresse si le titulaire vérifié en fait la demande avant l’expédition. À 10 h 05, une note du service d’assistance indique que l’adresse a été modifiée.
Pour tester la décision à 10 h, transmettez à l’agent la demande, l’état initial de la commande et la règle en vigueur à ce moment-là. Initialisez les outils de test dans cet état. Gardez la commande en préparation pendant que l’agent agit. Laissez la note de 10 h 05 à la disposition de la personne chargée de l’évaluation et excluez-la des instructions initiales de l’agent et des données accessibles par ses outils. Sinon, l’agent pourrait voir le résultat avant de devoir agir.
La règle en vigueur à 10 h indique le résultat attendu. L’adresse finale de la commande A est 2 Example Lane. Pour ce test, exigez aussi que les enregistrements sans rapport restent inchangés. La note de 10 h 05 consigne le résultat. Appuyez-vous sur la règle pour déterminer si l’action était correcte. Si vous ne pouvez établir la règle applicable ou l’état antérieur à l’action, mettez le dossier de côté pour examen. Avant d’utiliser des données réelles, vérifiez que vous y êtes autorisé et traitez les champs sensibles de manière appropriée.
Le guide d’Inspect sur les jeux de données distingue l’entrée fournie au modèle de la cible utilisable pour l’évaluation. Il explique aussi que des fichiers associés à un exemple peuvent être copiés dans un environnement isolé. Vérifiez les instructions, les informations récupérées, les réponses des outils et les fichiers de l’environnement isolé pour repérer les données réservées à l’évaluation humaine. Effectuez ces vérifications même si le jeu de données prévoit une cible d’évaluation distincte.
Choisissez les éléments de preuve utiles à la décision
Effectuez un contrôle direct lorsque le résultat est observable, qu’il s’agisse d’un champ modifié, d’un calcul, d’un fichier généré ou d’un test réussi. Utilisez une grille écrite lorsqu’une interprétation humaine est nécessaire, par exemple pour juger de la clarté d’une explication ou de la façon dont une réponse de recherche étaye sa conclusion.
Un évaluateur automatisé peut aider à examiner de nombreux résultats. Comparez ses décisions à celles de personnes qui évaluent des exemples représentatifs avant de vous fier à ses scores. Conservez une trace des désaccords pour améliorer la grille ou l’évaluateur.
Vérifier si un modèle utilise le passage
Consignez les entrées de la tâche, les outils, la configuration de l’agent et les résultats. Répétez les essais si les différences entre exécutions peuvent influer sur la décision. Examinez les essais en échec et ceux dont la réussite vous surprend. Un score élevé peut refléter une bonne performance ou un test trop peu exigeant. Le guide d’Anthropic traite de ces choix concernant les évaluateurs et la conception des essais.
Vérifiez les identifiants de cas avant le calcul du score
Lorsque vous construisez un cas à partir de données historiques, conservez son identifiant dans le résultat attendu et dans le résultat du test. Avant de noter un résultat par cas, vérifiez les deux fichiers au regard de la liste des identifiants attendus. Chaque identifiant attendu doit apparaître une seule fois dans chaque fichier. Résolvez les cas d’identifiants absents, dupliqués ou inattendus. Lorsque vous répétez le test, attribuez aussi un identifiant à chaque essai.
Supposons que vous attendiez les cas A et B. Les deux fichiers contiennent A et une ligne sans identifiant. Le résultat attendu et le résultat du test divergent pour A. Les deux lignes sans identifiant portent la même étiquette. Une jointure pandas peut apparier ces clés manquantes même si la vérification de la correspondance un à un réussit. Le comptage des lignes obtenues donne une concordance sur deux paires. Seul A correspond à un identifiant attendu. Le sous-ensemble identifié ne présente aucune concordance sur un cas et couvre un cas sur les deux attendus. Faute d’identifiant, on ignore si l’une ou l’autre des lignes correspond à B. Le score sur les deux cas attendus reste donc indéterminé. Si vous évaluez volontairement un sous-ensemble, indiquez sa couverture avec son score.
Comparer des scores de benchmark
Interprétez les essais répétés en fonction de la décision
Supposons qu’une équipe teste deux tâches trois fois chacune et restaure l’état initial de la tâche avant chaque essai. Les contrôles donnent les résultats fictifs suivants :
| Tâche | Premier essai | Deuxième essai | Troisième essai |
|---|---|---|---|
| A | Réussite | Échec | Réussite |
| B | Réussite | Réussite | Échec |
Quatre essais sur six sont réussis. Les deux tâches ont été réussies au moins une fois, mais aucune n’a été réussie les trois fois. Ces bilans répondent à des questions différentes. Une réussite ponctuelle peut être utile si le système sait vérifier plusieurs résultats possibles et choisir parmi eux de manière fiable. La réussite répétée compte lorsque chaque essai doit fonctionner indépendamment. Un essai réussi ne garantit pas que les autres soient corrects ou sûrs.
Supposons maintenant qu’un septième essai s’interrompe avant l’évaluation en raison d’une panne externe confirmée de l’environnement isolé. Quatre des six essais évalués ont réussi. Sur les sept essais tentés, quatre réussites sont confirmées. L’essai non évalué ne constitue ni une réussite confirmée ni un échec confirmé de l’agent. La première proportion résume les essais évalués. La seconde indique les réussites confirmées sur l’ensemble des essais. La pondération des tâches ou le paramétrage de la métrique peut changer le résultat communiqué.
Ces chiffres décrivent uniquement les contrôles fictifs ci-dessus. Ils n’établissent aucun taux de réussite en production. Indiquez le nombre de tâches, le nombre d’essais par tâche, les contrôles utilisés et les essais invalidés par des problèmes d’infrastructure, par exemple une panne de l’environnement isolé. Signalez les essais invalidés séparément des échecs de l’agent et précisez quels essais chaque bilan recouvre. Répéter une tâche aide à mesurer sa variabilité. Il faut aussi tester un éventail plus large de situations. Le guide d’Anthropic sur l’évaluation des agents explique dans quels cas s’appuyer sur une mesure de la réussite au moins une fois ou de la réussite systématique.
La couverture des tâches peut changer avant le calcul des scores. Dans notre analyse de la couverture des références GDPval, 185 des 220 lignes publiques de tâches indiquent au moins un chemin vers un livrable d’expert. La répartition sectorielle de ces lignes diffère de celle du tableau complet. La présence d’un chemin ne prouve pas que le livrable soit accessible ni qu’il puisse être affiché.
Utilisez un environnement lorsque les actions modifient l’état
Si l’agent modifie des enregistrements, utilise un logiciel ou s’appuie sur plusieurs outils, il lui faut un endroit où effectuer ces actions. Un environnement reproductible permet de restaurer l’état initial et d’examiner le résultat après une exécution.
OpenEnv est un outil ouvert pour créer des environnements isolés destinés aux agents. Choisissez le cadre technique après avoir défini la tâche, les informations auxquelles l’agent a accès, les actions qu’il peut effectuer et les critères de réussite.
Pour voir comment les ressources déclarées peuvent varier d’une tâche à l’autre, consultez les paramètres de ressources de 66 tâches de Terminal-Bench.
Un cahier des charges pour votre première évaluation
Décrivez le processus de travail, une tâche représentative et le résultat qui constituerait une réussite. Ajoutez les outils utilisés par l’agent, les informations qu’il reçoit et les échecs qui pourraient faire changer la décision de mise en production. Si vous disposez déjà d’exemples, précisez leur provenance et ce qu’ils couvrent.
Un projet bien délimité permet ensuite de définir l’ensemble de tâches, les exigences de l’environnement, la méthode d’évaluation et l’examen des résultats. Si vous manquez d’exemples, commencez par la recherche de données.