Gouvernance · 7 min de lecture
Human-in-the-loop : validation réelle ou simple case cochée ?
Beaucoup d'organisations affichent de la supervision humaine. Peu savent prouver qu'elle a réellement eu lieu, quand, par qui et avec quel effet.
La supervision humaine comme récit
La plupart des cadres (AI Act, sectoriels, internes) exigent une forme de supervision humaine. Dans le récit, c'est simple : une personne valide, décide, ajuste. Dans la réalité opérationnelle, la supervision est souvent diluée, implicite, ou déléguée à des outils.
Le piège de la case cochée
Une case cochée dans un formulaire interne est une commodité de gestion, rarement une preuve. Elle n'indique ni qui a cliqué, ni sur quelle base, ni si un raisonnement a été produit. Face à un contrôle, elle se retourne vite : soit elle apparaît comme creuse, soit elle expose une absence de matière.
Qu’est-ce qu’une revue humaine « vraie » ?
Une revue humaine véritable présente au moins trois propriétés : elle est attribuée à une personne identifiée (pas un rôle abstrait), elle porte sur un objet documenté (une version précise d'un système, d'une configuration, d'un dataset), et elle laisse une trace argumentée (une note, un avis, un arbitrage).
Le rythme réel des revues
Les revues humaines utiles ont un rythme. Elles ne sont pas réclamées partout et tout le temps : elles sont calées sur les moments où la décision humaine pèse réellement, mise en production, changement de périmètre, mise à jour majeure, alerte, incident. Identifier ces moments et les tracer est une grande partie du travail.
Supervision vs validation
La supervision humaine n'est pas une validation universelle. Certaines décisions méritent une supervision légère ; d'autres exigent une validation formelle (juridique, DPO, risque). Une gouvernance sérieuse distingue ces deux régimes et applique le bon niveau d'exigence là où il faut.
Ce que Scelora rend possible
Scelora aide à transformer les revues humaines en objets traçables : datés, attribués, rattachés à la version du système, dotés d'un contenu argumentaire. Sans se substituer à la décision humaine, qui reste irréductible, mais en lui donnant un support exploitable.