Humain dans la boucle

Définition simple

Fait vérifié. Mettre un humain dans la boucle consiste à prévoir des moments où une personne donne la direction, approuve une action, corrige une sortie ou reprend la main.

Fonctionnement

Le système évalue le type d'action, le niveau de confiance ou la conséquence possible. Il continue automatiquement pour le faible risque et demande une décision lorsque le seuil prévu est franchi.

Confusion fréquente

Demander « OK ? » à chaque étape n'est pas un bon contrôle humain : c'est de la fatigue d'approbation. Le point de contrôle doit donner assez de contexte et intervenir avant l'effet irréversible.

Limites

L'humain peut se tromper, valider machinalement ou ne pas comprendre le détail technique. Il faut donc rendre l'arbitrage lisible et conserver des preuves vérifiables.

Application dans Alfred

Expérimentation Alfred. Chris valide la publication publique et le déploiement. Les actions locales sensibles vérifient origine et CSRF ; une révision pédagogique ne crée aucune carte sans demande explicite.

Ma lecture

Interprétation personnelle. Le bon partage est asymétrique : l'agent absorbe le travail répétitif, l'humain conserve l'intention, les valeurs et les décisions à fort coût d'erreur.

Sources

• Trustworthy agents in practice — Anthropic
• AI Risk Management Framework — NIST