Deuxième article d’une série en trois parties sur l’intelligence artificielle : définitions, applications professionnelles et gouvernance.
Dans le premier article de cette série, on a vu que la vraie question à se poser face à une IA n’est plus « semble-t-elle intelligente ? », mais « ses décisions sont-elles fiables, justifiables, et alignées avec nos objectifs ? ». Cette question reste abstraite tant qu’on parle de chatbots ou de jeux de Go. Elle devient beaucoup plus concrète dès que l’IA — ou, plus largement, l’analyse avancée des données — prend des décisions qui affectent de vraies personnes, de vrais budgets, ou de vrais risques.
Quand l’IA assiste une décision à fort enjeu
Un des exemples les plus documentés reste celui du dépistage médical assisté par IA. En 2020, une équipe de chercheurs de Google Health a publié dans la revue Nature une étude montrant qu’un modèle de deep learning pouvait réduire à la fois les faux positifs et les faux négatifs par rapport à des radiologues, dans cette tâche précise et sur les jeux de données étudiés — entraîné sur des mammographies provenant de plusieurs centaines de milliers de femmes. Il ne s’agit pas d’un système « meilleur que les radiologues » dans l’absolu, mais d’un résultat solide sur une tâche de détection bien délimitée.
Ce résultat illustre bien un point du premier article : ce système n’imite pas le raisonnement d’un radiologue, il agit rationnellement à partir de régularités statistiques dans les images d’entraînement. Mais il illustre aussi une limite importante : un modèle performant sur un jeu de données ne l’est pas nécessairement dans un nouvel hôpital, avec un nouvel appareil d’imagerie, ou sur une population différente de celle sur laquelle il a été entraîné. La performance mesurée en laboratoire n’est jamais une garantie de fiabilité en conditions réelles.
C’est exactement cette tension — performance mesurable versus fiabilité réelle — qui définit l’IA au travail aujourd’hui.
L’IA dans les fonctions de contrôle : audit, conformité, détection de fraude
C’est un terrain que je connais directement. L’analyse avancée des données et le machine learning commencent à transformer des fonctions comme l’audit interne, la conformité et la lutte contre la fraude, historiquement dominées par le contrôle manuel et l’échantillonnage — même si, dans la plupart des organisations, ces méthodes coexistent encore largement avec des règles déterministes, des tests statistiques classiques et des systèmes experts.
Les banques utilisent depuis plusieurs années des systèmes de détection d’anomalies pour surveiller les transactions et repérer des schémas de blanchiment d’argent que des règles fixes ne captureraient pas. Les grands cabinets d’audit intègrent de plus en plus des outils d’analyse de données pour examiner l’intégralité d’un grand livre comptable plutôt qu’un échantillon, rendant visibles des anomalies qu’un contrôle traditionnel n’aurait statistiquement aucune chance de détecter.
Mon propre exemple s’inscrit dans cette même logique — un usage du machine learning non supervisé plutôt qu’un système d’IA à proprement parler, la frontière entre les deux étant de toute façon souvent floue.
Concrètement, j’ai développé un modèle de détection de collusion basé sur le clustering : plutôt que de chercher des règles explicites (« tel fournisseur a soumis une offre suspecte »), l’algorithme regroupe les comportements de soumission selon des similarités statistiques — rythme de rotation des offres, écarts de prix, structure des appels d’offres remportés. Ce travail a permis d’identifier des cas confirmés d’entente illicite entre fournisseurs, invisibles à un examen manuel classique.
Ce cas résume bien la promesse de ces outils appliqués au contrôle : ils ne remplacent pas le jugement de l’auditeur, ils changent son point de départ. Au lieu de partir d’un échantillon et d’une hypothèse, on part de l’ensemble des données et on laisse le modèle signaler ce qui mérite un examen humain approfondi. On passe d’un schéma « l’IA remplace l’humain » à quelque chose de plus juste : l’IA élargit le champ d’observation, ce qui transforme le processus de décision — et fait naître un nouveau besoin de contrôle humain, pas moins, mais différent.
Un aperçu par secteur
| Domaine | Application | Gain potentiel | Risque principal |
|---|---|---|---|
| Santé | Aide au diagnostic (imagerie médicale) | Détection plus rapide et plus cohérente | Erreur de généralisation à un nouveau contexte |
| Finance | Détection de blanchiment (AML) | Surveillance à grande échelle, en continu | Faux positifs, biais historiques reproduits |
| Audit et conformité | Détection d’anomalies et de collusion | Couverture exhaustive plutôt qu’un échantillon | Mauvaise interprétation d’un signal statistique |
| Transport | Conduite assistée ou autonome | Décisions en temps réel | Erreurs aux conséquences potentiellement irréversibles |
Ce tableau illustre un point commun à tous ces cas : plus l’enjeu de la décision est élevé, plus la question de la fiabilité du système devient centrale — et plus il devient risqué de le déployer sans un mécanisme de contrôle qui l’accompagne.
Erreur, biais : deux problèmes différents
Il est tentant de résumer les risques de ces systèmes à un seul mot — « biais ». Mais il faut distinguer deux problèmes de nature différente.
Un modèle peut se tromper : un système de détection de fraude peut correctement identifier les transactions statistiquement les plus atypiques, sans que celles-ci soient réellement frauduleuses. C’est une erreur de rationalité limitée, exactement celle décrite dans le premier article — le modèle raisonne bien à partir de ce qu’il observe, mais ce qu’il observe ne suffit pas à garantir la vérité de sa conclusion.
Un modèle peut aussi être biaisé : un système de scoring de crédit statistiquement performant peut reproduire des inégalités historiques présentes dans ses données d’entraînement, désavantageant systématiquement certains groupes — non pas parce qu’il se trompe au sens statistique, mais parce que l’objectif qu’on lui a fixé (« maximiser la précision de prédiction ») ne capture pas ce qu’on entend réellement par une décision « juste ».
Un modèle peut donc être techniquement performant mais socialement problématique — et, à l’inverse, plus équitable selon un critère donné, mais statistiquement moins performant. Cela pose une question qu’aucune métrique ne résout seule : qu’est-ce qu’une « bonne » décision ?
Et c’est là que le raisonnement doit aller un cran plus loin : une bonne décision n’est pas nécessairement celle qui maximise une métrique. Un modèle peut maximiser la précision, réduire les coûts ou augmenter le taux de détection — mais aucune de ces métriques ne dit, à elle seule, si la décision qui en résulte est acceptable pour l’organisation, pour les personnes concernées, ou pour la société au sens large. La performance mesure si le modèle atteint l’objectif qu’on lui a fixé ; elle ne dit rien sur la légitimité de cet objectif lui-même. C’est précisément ce glissement — de la performance vers l’objectif, puis de l’objectif vers les valeurs qu’il est censé refléter — qui rend la gouvernance des systèmes d’IA indispensable.
Vers une question incontournable
C’est précisément là que la distinction entre rationalité et vérité, posée dans le premier article, prend tout son sens dans un contexte professionnel : un agent rationnel n’est ni omniscient, ni infaillible. Il peut prendre la meilleure décision possible compte tenu de l’information dont il dispose, et pourtant se tromper — ou reproduire, sans le vouloir, des choix qui ne reflètent pas nos objectifs réels.
Une fois qu’on a compris cela, une question s’impose naturellement : qui vérifie que ces systèmes déployés en entreprise font réellement ce qu’on attend d’eux, dans la durée, et de façon équitable ?
C’est précisément le rôle qui incombe aujourd’hui à la gouvernance et à l’audit des systèmes d’IA — un domaine encore jeune, mais appelé à devenir aussi central que l’audit financier l’est devenu au XXe siècle.
Dans le dernier article de cette série, on abordera directement cette question : le problème de l’alignement des valeurs, et le rôle croissant de l’audit interne dans la gouvernance des systèmes d’IA en entreprise.
Et vous, avez-vous déjà été confronté à une décision automatisée dont vous avez questionné la fiabilité ? Dites-le moi en commentaire.