Le human-in-the-loop est une architecture de contrôle, pas un avertissement
Comment intégrer revue professionnelle, override, calibration et audit dans l’assistance à l’admission clinique.
La supervision humaine n’améliore la sécurité que si l’interface rend incertitude, provenance, corrections et escalade actionnables. La simple présence d’un clinicien dans le workflow ne suffit pas.
Implication design
CelestyxAI doit afficher sorties structurées, contexte des politiques appliquées et raisons d’escalade afin de permettre confirmation ou correction rapide — sans présenter un texte probabiliste comme conclusion clinique autoritaire.
Mesurer l’interaction
Taux d’override, type de correction, temps de revue, désaccord, information manquée et indicateurs de biais d’automatisation doivent devenir des résultats de validation.
Implication gouvernance
Le rôle professionnel, la responsabilité d’escalade et les actions permises au système doivent être explicites dans l’usage prévu et la trace d’audit.
Cette synthèse est une analyse CelestyxAI fondée sur les preuves externes citées et les décisions accumulées du projet. Elle n’est pas une publication scientifique évaluée par les pairs et n’établit aucune efficacité clinique.