1Comprendre le grand malentendu corrélation/causalité

En entreprise, l'IA arrive souvent avec une promesse simple : prédire, donc mieux décider. Trier plus vite, prioriser plus juste, réduire les erreurs. Le hic, c'est que la majorité des modèles déployés au quotidien sont des machines à corréler. Ils apprennent ce qui va souvent ensemble, puis ils l'utilisent pour classer, scorer, recommander. Le problème n'est pas la corrélation. Le problème, c'est la confusion entre ce qui est associé et ce qui cause.

Un rappel léger suffit. On peut trouver une corrélation entre consommation de chocolat et nombre de prix Nobel. Cela ne prouve pas que le chocolat cause des prix Nobel. Cela révèle surtout d'autres facteurs en arrière-plan, comme la richesse, l'accès à l'éducation, l'investissement en recherche. Même logique pour glaces et noyades : l'été et l'affluence créent un lien statistique, pas une cause directe.

Pourquoi c'est un sujet éthique. Parce que, quand une IA classe des humains, une corrélation peut devenir une règle de décision. Et une règle de décision peut produire des injustices tout en gardant une apparence d'objectivité.

2Corrélation vs causalité : en langage clair

Corrélation : un signal utile, parfois trompeur

La corrélation, c'est un thermomètre. Elle signale un lien statistique entre deux phénomènes. Elle ne donne pas le pourquoi. Elle est utile pour repérer des tendances, détecter des anomalies, segmenter une base. Elle devient risquée quand on l'utilise comme si elle expliquait le monde.

Exemple métier. "Délai de réponse" et "satisfaction" peuvent corréler. Agir sur le délai peut aider. Mais la cause réelle peut aussi être le ton, le manque d'information, ou la complexité du parcours. Une corrélation peut cacher plusieurs histoires.

Causalité : agir pour changer, sans promettre la certitude

La causalité répond à une autre question : si on change X, est-ce que Y change. On s'en approche via des hypothèses testées, des designs rigoureux (tests A/B quand c'est possible, quasi-expériences quand ce ne l'est pas), et des méthodes contrefactuelles. On réduit l'incertitude, on ne la supprime pas.

Facteur confondant : la mécanique qui piège tout le monde

Le facteur confondant influence X et Y à la fois. C'est lui qui fabrique des corrélations trompeuses. En IA, il est souvent social ou organisationnel : accès à un service, contexte local, priorités internes, pratiques passées, effets de saison, contraintes de temps.

Proxy : quand un détail remplace une réalité complexe

Un proxy est un indice indirect. Un code postal peut refléter un contexte socio-économique et un accès différent aux services. Un historique d'utilisation d'un service peut refléter des barrières d'accès, pas un manque de besoin. Le modèle optimise ce qui prédit dans les données, même si cela reproduit des inégalités.

3Comment l'IA exploite surtout des corrélations

Ce que fait un modèle standard

Un modèle de machine learning reçoit des exemples, une cible à prédire, et il optimise une métrique. Il n'a pas besoin de comprendre le monde. Il apprend des associations. S'il existe un raccourci prédictif, comme un proxy, il a de bonnes chances de le choisir.

Souvent, l'organisation lui demande de prédire une cible qui n'est déjà pas neutre. "Bon employé", "bon client", "dossier prioritaire" sont des labels construits par un système humain. Si l'historique reflète une préférence, une sous-déclaration, une inégalité d'accès, le modèle l'apprend. Et comme on mesure souvent la performance globale, on peut obtenir un modèle "meilleur" tout en aggravant les écarts pour certains profils.

Pourquoi la causalité ne vient pas toute seule

Un modèle standard est excellent pour répondre à "qu'est-ce qui ressemble à quoi". Il est beaucoup moins équipé pour répondre à "qu'est-ce qui provoque quoi". La causalité demande de représenter des hypothèses sur les relations cause-effet, et de tester ces hypothèses. Autrement dit, elle demande une intention de compréhension, pas seulement une optimisation.

Important : une approche causale réduit certains pièges statistiques. Elle ne remplace pas la vigilance éthique ni la supervision humaine.

Mini-scénario : tri de CV, efficacité et angle mort

Une PME reçoit 700 candidatures. Elle déploie un outil IA pour classer les CV, entraîné sur des recrutements passés. Il apprend que certaines écoles et certains mots-clés corrèlent avec "réussite" selon les critères internes.

Le résultat est fluide : shortlist rapide, temps gagné. Mais les profils atypiques sortent du radar, parce que le modèle réplique ce qui a déjà été valorisé, pas ce qui pourrait réussir demain.

Mini-scénario : recommandation de contenus et boucle d'attention

Une créatrice publie des contenus variés. La plateforme observe que les formats polarisés retiennent davantage l'attention. L'algorithme recommande plus souvent ce format. La créatrice s'adapte. Le système "prouve" alors que ce format est ce que le public veut, alors qu'il a influencé la demande.

Corrélation qui vieillit : quand le contexte bouge

Les corrélations vieillissent. Quand le contexte change (marché, politique interne, crise, saisonnalité), un signal qui marchait hier peut devenir trompeur. Sans suivi, on conserve le même score, mais il ne mesure plus la même réalité. La corrélation peut rester "bonne" sur un tableau de bord, alors que la cause a bougé.

Et l'IA générative

Les modèles génératifs produisent des explications plausibles parce qu'elles ressemblent à ce qui a déjà été écrit. Une explication fluide n'est pas une justification causale. Le risque est simple : accepter une décision injuste parce qu'elle est bien racontée.

4Là où tout dérape : biais, corrélations trompeuses et impacts humains

Quatre portes d'entrée des biais

Quand un système d'IA devient injuste, la cause est rarement unique. Voici quatre portes d'entrée fréquentes. Elles peuvent coexister et se renforcer.

Ces catégories sont très présentes dans les cadres de gestion des risques qui insistent sur la nature socio-technique de l'IA et sur l'importance du contexte d'usage, pas seulement du modèle.

Mini-scénario : scoring commercial et prophétie

Une équipe reçoit un score "probabilité d'achat". Les scores élevés sont appelés en premier. Les scores bas ne sont presque plus contactés. Le modèle "prouve" ensuite que les scores bas achètent rarement, mais l'usage a contribué à créer ce résultat. Les clients concernés subissent une inégalité d'attention.

Biais de mesure : quand on confond "facile à mesurer" et "ce qui compte"

Dans la vraie vie, on remplace souvent une réalité complexe par un indicateur plus simple. Exemple classique en santé : certains systèmes ont utilisé le coût futur comme proxy du besoin médical. Or, si l'accès aux soins diffère selon les populations, le coût ne reflète pas le besoin de façon équitable. Un cas documenté montre comment ce choix de proxy peut générer des biais importants, tout en restant "prédictif" selon certaines métriques.

Une corrélation peut être vraie et inacceptable

"Distance domicile-travail" peut corréler avec la ponctualité. Utiliser ce signal comme filtre pénalise des personnes qui n'ont pas les mêmes contraintes, ni les mêmes opportunités de logement. Le modèle voit un motif. L'organisation décide si ce motif a le droit d'entrer dans la décision.

Mini-scénario santé : peu de données, donc peu de priorité

Un outil de tri corrèle "peu de consultations" avec "faible gravité". Or, certaines personnes consultent moins pour des raisons d'accès, de temps, de langue, ou de confiance. Le modèle confond "peu de traces" avec "peu de besoin". Le risque devient un retard de prise en charge.

Mini-scénario assurance : l'effet incitatif

Une assurance ajuste un tarif à partir d'un score de risque. Les assurés comprennent que certaines déclarations font monter le score. Une partie d'entre eux change de comportement et déclare moins, pas parce que le risque a baissé, mais parce que l'incitation a changé. Le modèle voit une corrélation qui se déforme. La cause, elle, inclut l'effet du dispositif sur le comportement.

La question à garder en tête est simple : qui paie le coût des erreurs, et qui a un recours quand l'outil se trompe.

5Pourquoi cette confusion est éthiquement problématique

L'illusion d'objectivité déplace la responsabilité

Quand un score est présenté comme "neutre", on oublie les choix humains : objectif, données, seuils, arbitrages entre performance et équité. La phrase "le modèle a décidé" transforme une décision en fatalité statistique.

Expliquer utilement, c'est donner une prise

Une personne a besoin de comprendre ce qui a pesé, ce qu'elle peut corriger, et comment contester. Si le système repose sur des proxys opaques, l'explication devient fragile. Plus la décision est importante, plus c'est grave.

Ce que le cadre européen change concrètement

En Europe, plusieurs textes et lignes directrices structurent la manière d'aborder les décisions automatisées et les systèmes d'IA. Le règlement européen sur l'IA (AI Act) est entré en vigueur le 1er août 2024. Il suit une application progressive, avec des jalons publics, et impose des obligations plus fortes pour certains usages, notamment ceux considérés à haut risque.

Ces attentes se retrouvent aussi dans les recommandations des autorités de protection des données — notamment la CNIL — sur le développement et l'usage de systèmes d'IA impliquant des données personnelles.

Métriques d'équité : nommer les choix, assumer les compromis

Pour agir, il faut nommer ce qu'on mesure. Voici quatre repères simples, souvent utilisés en pratique.

Point crucial : ces notions sont souvent incompatibles entre elles quand les taux de base diffèrent entre groupes. Il faut donc choisir, documenter, et assumer un compromis, plutôt que de déléguer cet arbitrage à une métrique unique.

6Outil diagnostic : vos usages confondent-ils corrélation et causalité ?

Checklist rapide, pensée pour des professionnels. L'objectif est de repérer les cas où un modèle transforme une corrélation en règle de décision, puis de choisir des garde-fous proportionnés.

Si vous découvrez une cible proxy, des signaux proxy, et une absence de recours, le problème est souvent la gouvernance plus que le modèle. Et c'est une correction rentable.

7Passer à l'action

Commencez par remplacer "notre IA est objective" par des questions concrètes : quels signaux, quels impacts, quels tests d'équité, quels recours, quelle supervision. C'est la base d'un usage responsable.

8FAQ

Quelle est la différence entre corrélation et causalité en IA, en une phrase ?

La corrélation dit que deux phénomènes varient ensemble. La causalité dit qu'une intervention sur une variable change réellement une autre variable, dans un cadre d'hypothèses et de tests. Beaucoup d'IA prédisent via corrélations, ce qui ne suffit pas pour justifier une décision sur des humains.

Pourquoi une IA peut-elle discriminer sans utiliser de données sensibles ?

Parce que des proxys peuvent rester, comme certains indicateurs territoriaux, des historiques d'accès, ou des variables de parcours. Le modèle exploite ce qui prédit dans l'historique, même si cela reproduit des inégalités.

Comment détecter rapidement si un modèle repose sur des proxys ?

Listez les variables, puis posez une question contrefactuelle : "si je change ce signal sans changer la réalité, est-ce acceptable que la décision change". Si la réponse est non, le signal est suspect. Ensuite, testez les écarts d'erreurs selon des sous-groupes pertinents.

Qu'est-ce qu'une supervision humaine réelle ?

C'est une supervision qui peut arrêter, corriger, et justifier. Elle suppose des seuils, une procédure de recours, et une culture qui autorise le désaccord avec le modèle. Une supervision "symbolique" ne change pas l'impact.

Pourquoi ne peut-on pas "optimiser toutes les équités" en même temps ?

Parce que certaines définitions d'équité sont mathématiquement incompatibles quand les taux de base diffèrent entre groupes. Il faut donc choisir une cible d'équité, expliquer le choix, et surveiller les effets.

9Conclusion

Sans culture de la causalité, on transforme des corrélations en pseudo vérités. Et ces pseudo vérités peuvent gouverner des vies. L'IA peut être utile, si on la remet à sa place : un outil statistique dans un monde de causes, de contextes, et de dignité.

"Tenir le volant" veut dire quelque chose de très concret, surtout le lundi matin.