Déployer l'IA sous supervision humaine

La question n'est plus de savoir si une organisation doit utiliser l'intelligence artificielle, mais pour quelles tâches, avec quelles données et sous quel contrôle. Les outils sont accessibles ; ce qui fait la différence entre un projet utile et un projet risqué, c'est la manière dont il est cadré.

Ce guide propose une démarche en quatre temps. Elle s'applique aussi bien à l'automatisation documentaire qu'à l'aide à la décision ou à l'analyse de données, et elle repose sur un principe constant : plus une décision est sensible, plus la supervision humaine doit être forte.

Temps 1 — Qualifier le besoin

Un bon cas d'usage part d'un problème opérationnel, pas d'une technologie. Il s'agit d'identifier une tâche précise, d'estimer le gain attendu et de préciser ce qu'il en coûterait si le système se trompait. Cette dernière question est décisive : elle détermine le niveau de contrôle nécessaire.

• Quelle tâche précise veut-on améliorer, et pour qui ?
• Comment la mesure-t-on aujourd'hui (délai, volume, qualité) ?
• Quelles seraient les conséquences d'une erreur, et pour qui ?
• Une solution plus simple, sans IA, suffirait-elle ?

Temps 2 — Évaluer les données

Un système d'IA ne vaut que par les données qu'il utilise. Avant tout développement, il faut vérifier que les données nécessaires existent, qu'elles sont d'une qualité suffisante et que l'organisation a le droit de les utiliser pour cet usage. Les renseignements personnels appellent une attention particulière : finalité, minimisation, durée de conservation et lieu de traitement doivent être établis au regard des lois applicables.

C'est aussi le moment d'examiner les biais possibles. Des données historiques reflètent des pratiques passées ; un modèle qui les apprend peut les reproduire, voire les amplifier.

Temps 3 — Piloter sur un périmètre restreint

Le pilote sert à apprendre, pas à démontrer. Il porte sur un périmètre limité, avec des critères de succès définis à l'avance et, tout aussi important, des critères d'arrêt. Pendant cette phase, les résultats du système sont systématiquement revus par des personnes, ce qui permet de mesurer sa fiabilité réelle dans les conditions de l'organisation.

• Définir des critères de succès mesurables avant de commencer.
• Fixer des critères d'arrêt explicites si la qualité n'est pas au rendez-vous.
• Faire revoir les résultats par les personnes qui connaissent le métier.
• Documenter les erreurs observées et leurs causes.

Temps 4 — Étendre et gouverner

L'extension ne se justifie que si la valeur a été démontrée. Elle s'accompagne d'une gouvernance durable : surveillance de la qualité dans le temps, car les performances d'un modèle peuvent se dégrader lorsque les données évoluent ; journalisation des décisions ; procédure claire lorsque le système se trompe ; et revue périodique de l'usage.

Choisir le bon niveau de supervision

La supervision humaine n'est pas uniforme. Elle se règle selon l'enjeu de chaque décision, et un même système peut combiner plusieurs niveaux selon les cas qu'il traite.

• La personne décide, l'IA assiste : le système propose, un humain choisit. Adapté aux décisions sensibles.
• L'IA propose, la personne valide : chaque résultat est vérifié avant d'avoir un effet.
• L'IA agit, la personne supervise : pour des tâches à faible enjeu, avec un contrôle par échantillonnage et des alertes.

Les limites propres à l'IA générative

Les modèles génératifs produisent des textes fluides et convaincants, y compris lorsqu'ils sont erronés. Ils peuvent affirmer des faits inexacts avec assurance. Pour un usage professionnel, il est donc essentiel de les ancrer dans des sources vérifiables propres à l'organisation, de citer ces sources dans les réponses et de maintenir une revue humaine dès que le contenu a une portée externe ou engage l'organisation.

S'appuyer sur les cadres existants

Les organisations n'ont pas à tout inventer. Au Canada, par exemple, la Directive sur la prise de décisions automatisée du Conseil du Trésor encadre l'usage de ces systèmes dans les institutions fédérales et s'appuie sur une évaluation de l'incidence algorithmique. Même lorsqu'ils ne s'appliquent pas directement, de tels cadres offrent une grille de lecture utile pour évaluer les risques d'un projet.

Déployer l'IA de manière responsable n'est pas un frein à l'innovation. C'est ce qui permet de passer d'expérimentations isolées à des usages sur lesquels l'organisation peut réellement compter.