Six outils qui jugent

Interroger l’IA sur cet article

Un par binôme, fabriqué en 45 minutes, et testé sur ce qu’il ne doit pas trouver

Au sommaire, 4 sections

Formation : atelier bonus, transversal, toutes formations Module : réserve d’ateliers, hors progression Durée : séance de 3 heures Public : alternants, tous niveaux, aucun prérequis technique Prérequis : un compte Claude gratuit par binôme, un navigateur, rien d’autre Rattachement au référentiel : spécialisation WordPress et IA, compétence C13 Fil rouge : l’outil qui ne peut jamais dire « rien à signaler »

Ce qui n’existait pas il y a trois minutes

Un texte est collé dans une page. Les phrases se colorent. Six d’entre elles passent au rouge, et une liste apparaît sur la droite : « affirmation invérifiable », « superlatif sans comparaison », « chiffre sans source ».

Cette page n’existait pas au début de l’heure. Personne dans la salle ne sait programmer. Elle a été décrite en une quinzaine de lignes de français, et elle fonctionne.

Ce n’est ni une maquette, ni une capture d’écran, ni une promesse. C’est une adresse qui s’envoie, que n’importe qui ouvre, et qui marche sur son téléphone.

À la fin de cette séance, vous en aurez six. Vous en aurez fabriqué un, et vous repartirez avec les cinq autres, faits par vos camarades.

À retenir. La barrière n’est plus technique. Elle est descendue au niveau de votre capacité à décrire précisément ce que vous voulez, et à vérifier ce que vous obtenez. Ces deux compétences-là ne sont pas informatiques.

Les six outils, et pourquoi ceux-là

Ils ont un point commun qui n’est pas visible au premier regard : aucun des six ne se contente de calculer. Tous rendent un jugement. C’est précisément ce qui les rendait impossibles à fabriquer il y a deux ans, et c’est ce qui rend leur vérification difficile aujourd’hui.

Chacun tient sur un écran, se décrit en une page, et se fabrique en moins d’une heure. Chacun est utilisable lundi, dans votre entreprise, sur un vrai dossier.

Et chacun porte un piège différent, que vous découvrirez en le testant.

Ce que chaque outil sait faire, et jusqu’où il peut aller

L’outilCe qu’il rendCe qu’il deviendrait, développé
Le détecteurle texte surligné, et la raison de chaque surlignageun contrôle avant publication, sur tout ce qui sort sous votre marque
Le recruteurles cinq éléments retenus, et le mail de refusun comparateur entre un CV et une offre, qui mesure l’écart
Le surligneurtrois couleurs, et ce qu’il faudrait pour prouverune relecture de vos propres argumentaires avant qu’un client les lise
Le traducteurla version envoyable, et la liste de ce qui a été retiréun filtre de sortie sur votre messagerie professionnelle
Les cinq niveauxcinq colonnes côte à côtele choix automatique du niveau selon l’interlocuteur
Le jugeun verdict, ses critères, et ce qui manque pour trancherun arbitrage documenté de décisions internes

La colonne de droite n’est pas un rêve : c’est la même page, à laquelle on ajoute une entrée ou une comparaison. Le passage de l’outil jetable à l’outil qu’on garde ne coûte pas une refonte, il coûte une décision : qui le maintient, et qui répond de ses erreurs.

Atelier 1, le premier jet à l’aveugle

Vous recevez la fiche de votre outil. Ne lisez pas la suite du cours.

Ouvrez une conversation, demandez l’outil comme cela vous vient, et regardez ce qui sort. Quinze minutes, pas une de plus.

Livrable : une page qui s’affiche, même mauvaise. Notez en une ligne ce qui ne va pas.

Version courte : si rien ne s’affiche au bout de dix minutes, notez la dernière chose que vous avez demandée, et arrêtez-vous là. C’est cette phrase qui nous intéresse.

Ce que vous venez de découvrir

Presque tous les premiers jets fonctionnent. C’est la première surprise, et elle est justifiée : la machine comble les vides. Vous avez demandé « un outil qui détecte les textes écrits par une IA », elle a décidé seule de la mise en page, des couleurs, du seuil, et du format du résultat.

Elle a donc décidé à votre place tout ce que vous n’avez pas dit. C’est supportable sur les couleurs. Ce ne l’est pas sur la règle de jugement, qui est le cœur de votre outil.

Les cinq règles qui séparent un jet d’un outil

1. Décrivez l’outil, jamais le code. Vous n’avez pas à savoir comment cela se programme, et essayer de le dire produit des demandes contradictoires. Décrivez-le comme vous le décririez à un stagiaire qui doit le construire sans vous poser de questions.

2. Séparez l’entrée, la règle et la sortie. Trois paragraphes distincts. Le plus souvent oublié est le deuxième, et c’est le seul qui compte : sans lui, la machine invente vos critères.

3. Donnez un exemple complet. Une entrée réelle, et la sortie que vous attendez pour cette entrée-là. Un exemple vaut trois paragraphes de consigne, et c’est ce qui fait la différence entre un jet et un outil.

4. Dites ce qu’il doit répondre quand il ne trouve rien. C’est la règle que personne n’écrit, et c’est celle qui décide de la valeur de votre outil. Nous y revenons dans un instant, parce qu’elle mérite mieux qu’un paragraphe.

5. Corrigez un défaut à la fois, et testez entre deux. « Les couleurs sont moches, le bouton est trop petit et il faudrait un historique » est une demande qui obtient trois travaux bâclés. Une demande, un test, puis la suivante.

Le piège. Le premier jet marche toujours. C’est exactement ce qui le rend dangereux : rien ne signale qu’il applique des critères que vous n’avez pas choisis, et vous ne les découvrirez qu’en le testant sur un cas dont vous connaissez déjà la réponse.

La règle qui décide de tout : que fait votre outil quand il n’y a rien ?

Donnez à un détecteur d’IA un texte écrit à la main. Il vous répondra « 62 % de probabilité que ce texte soit généré ». Donnez à un analyseur de CV un CV excellent. Il trouvera cinq axes d’amélioration. Donnez au juge deux positions strictement équivalentes. Il en désignera une gagnante.

Aucun des trois n’a jugé quoi que ce soit. Les trois ont rempli un gabarit.

Un outil qui ne peut jamais dire « rien à signaler » ne dit rien du tout. Sa réponse est la même quelle que soit l’entrée, elle est juste habillée différemment. Et il inspire plus confiance que l’autre, ce qui en fait un problème et non une maladresse.

Le chiffre inventé est le symptôme le plus fiable. Un outil qui annonce « 78 % » sans pouvoir nommer ce qu’il a compté vous donne un nombre pour vous rassurer. Un outil honnête dit « plusieurs indices concordants », ce qui est moins vendeur et strictement plus vrai.

C’est pour cela que chaque fiche porte deux cas de test, dont un piégé. Le cas piégé est toujours le même dans son principe : une entrée sur laquelle la bonne réponse est « rien ». Votre outil est jugé là-dessus, et sur rien d’autre.

La méthode. Trois questions à poser à n’importe quel outil, le vôtre comme celui d’un éditeur qui vous le vend : 1. Que réponds-tu si je ne te donne rien ? 2. Que réponds-tu sur un cas où il n’y a rien à trouver ? 3. Sur quoi repose ce chiffre que tu m’affiches ?

Atelier 2, fabriquer le vôtre pour de bon

Reprenez votre fiche. Réécrivez votre demande selon les cinq règles, dans une conversation neuve : reprendre la précédente vous ferait hériter de ses approximations.

Puis, dans l’ordre, et sans sauter d’étape :

  1. Obtenez une première version, et testez immédiatement le cas normal de votre fiche. Le résultat correspond-il à ce que vous attendiez ?
  2. Testez le cas piégé. C’est le moment de vérité de la séance.
  3. S’il échoue, corrigez la règle, pas la mise en page. Une demande à la fois.
  4. Recommencez jusqu’à ce que les deux cas passent.
  5. Soignez la présentation en dernier, s’il vous reste du temps.

Livrable : une page qui traite correctement les deux cas, et une phrase préparée pour le passage au tableau, celle qui dit ce que votre outil répond quand il n’y a rien à trouver.

Version courte : si le cas piégé résiste, venez au tableau avec l’échec. Un outil qui échoue et dont on sait pourquoi vaut mieux qu’un outil qui passe et dont on ne sait rien. C’est même le meilleur passage possible.

Le piège. N’utilisez aucune donnée réelle : ni CV d’une personne existante, ni message reçu d’un collègue, ni document de votre entreprise. Les fiches fournissent des textes fictifs pour chaque outil. Ce que vous collez part sur un service extérieur, et cette règle-là ne dépend pas de votre confiance dans l’éditeur.

Atelier 3, le passage au tableau

Chaque binôme projette son outil, six minutes, dans cet ordre :

  • il montre le cas normal, en direct, sans commentaire ;
  • il montre le cas piégé, et la salle regarde ce qui se passe ;
  • il lit sa phrase : ce que l’outil répond quand il n’y a rien ;
  • la salle tente de le casser avec une entrée de son choix.

La quatrième étape est la plus utile, et c’est aussi celle qui produit les meilleurs moments. Une entrée vide, un texte d’une seule lettre, la même chose deux fois, un texte dans une autre langue : votre outil n’a probablement rien prévu, et il est bien plus intéressant de le découvrir ici que devant un client.

Le formateur projette ensuite la demande de référence de cet outil-là, et vous comparez. Ce n’est pas un corrigé au sens scolaire : c’est une autre façon de demander la même chose, et l’écart entre les deux vous apprendra plus que le résultat.

Ce qu’il faut retenir

  • La barrière technique a bougé. Ce qui reste difficile, c’est décrire précisément et vérifier honnêtement, et ni l’un ni l’autre ne s’apprend dans un cours d’informatique.
  • Ce que vous ne dites pas, la machine le décide. Sur la mise en page, tant mieux. Sur la règle de jugement, c’est votre outil qui vous échappe.
  • Un outil qui trouve toujours quelque chose ne mesure rien. Testez d’abord ce qui ne doit rien déclencher.
  • Un chiffre précis sans méthode nommée est un habillage, pas une mesure.
  • Un outil jetable devient un outil qui vit le jour où quelqu’un le maintient et répond de ses erreurs. Cette décision se prend avant, jamais après.
  • Vous repartez avec six outils. Cinq ont été faits par d’autres : vous ne savez pas comment ils se comportent sur leurs cas limites. Testez-les avant de vous en servir sur un vrai dossier.

À lire aussi sur le site


Retour en haut