Le Doute Utile : compagnon de l’esprit critique
Une situation IA courante. Un point de contrôle à ne pas oublier.
Aller directement à l'outil de diagnostic ↓Une petite équipe demande à une IA de rédiger le post qui annonce sa nouvelle offre. Le texte est clair, vendeur, professionnel. Il pourrait être publié en quelques minutes. Mais le texte promet des choses que l'équipe ne pourra pas tenir.
On a failli publier sans rien changer, c'était carré : « Avec notre méthode, garantissez une IA 100 % sans biais et des usages totalement sécurisés. »
C'est très bien écrit. C'est justement le piège : quand un texte paraît propre, on le relit moins. Une question : « sans biais » — est-ce que vous pourriez vraiment l'assumer devant un client qui vous le ressort dans six mois ?
… dit comme ça, non. Personne ne peut garantir ça.
Personne. Vous alliez donc publier une promesse impossible à tenir, sur le sujet précis où vous vendez votre sérieux. L'IA n'a pas menti : elle fait ce qu'on lui demande, produire un texte qui sonne convaincant. Le tri entre « ça sonne bien » et « je peux l'assumer », ça, c'était à vous. Et personne ne l'a vu passer.
Donc le problème, c'est la phrase ?
Non. La phrase, on la corrige vite. Le vrai problème, c'est qu'il n'y a ni personne désignée, ni étape prévue entre « l'IA propose » et « on publie ». Sans ce point de contrôle, un texte peut sortir au nom de l'organisation alors que personne n'a vraiment validé ce qu'il engage.
Le problème n'est pas seulement la phrase. Le problème, c'est que personne n'a été chargé de relire le texte avant qu'il sorte au nom de l'organisation. Pas par négligence : simplement, personne n'avait prévu que ce contrôle devait exister.
Quand je parle de « moyenne », je parle de ce que l'IA a le plus vu dans ses données : les formulations les plus fréquentes, les raisonnements les plus présents, les points de vue les plus représentés. C'est utile pour aller vite. Mais ça peut aussi lisser des différences importantes. Votre rôle, c'est de vérifier ce que l'IA simplifie, oublie ou présente comme évident.
Une étude présentée par le Stanford Institute for Human-Centered AI a analysé des millions de candidatures évaluées par un même outil de présélection, sur de nombreux postes, employeurs et secteurs. Le point important pour une petite équipe est simple : un problème peut disparaître quand on regarde seulement les résultats globaux.
Les chercheurs montrent qu'en mettant toutes les recommandations ensemble, l'impact négatif peut sembler disparaître. Mais quand on regarde poste par poste, des écarts apparaissent. Autrement dit : le biais n'a pas disparu, il est seulement moins visible parce que les résultats ont été regroupés. Pour une petite structure, la leçon est claire : un outil qui paraît efficace « en moyenne » peut produire des effets très différents selon les postes, les publics ou les usages.
En Nouvelle-Zélande, le média maori Te Hiku a refusé de confier ses archives sonores aux grandes plateformes et a construit son propre modèle de reconnaissance vocale pour le te reo, sa langue. Le modèle atteint une précision élevée, et il a été publié sous une licence qui protège l'usage des données au bénéfice du peuple maori.
Ce n'est pas un modèle à copier tel quel par une PME. C'est surtout une question à retenir : qui est représenté dans les données ? Qui profite de l'usage ? Et qui garde la main sur ce qui est produit ? À votre échelle, cela peut commencer plus simplement : relire, questionner, faire vérifier par une personne concernée, plutôt que de publier directement ce que l'IA propose.
La question qui reste ouverte : quand vous laissez une IA adapter un contenu ou trier des candidatures, qui vérifie ce qui a été simplifié — et qui n'a pas eu l'occasion de donner son avis ?
Plus une phrase rassure, plus elle doit être vérifiable.
Qui relit les contenus IA avant qu'ils parlent au nom de votre organisation ?
Un aperçu pour situer rapidement un texte, une réponse ou un résultat produit par IA. Ce n'est pas un diagnostic complet : pour vos usages réels, il faut regarder votre contexte, vos risques et qui signe le contenu.
| Utiliser | Vérifier | Reprendre la main |
|---|---|---|
| Un brouillon interne, préparatoire, sans diffusion. | Une promesse, un fait, un chiffre, une source. | Désigner au moins une personne imputable pour un résultat donné. |
Non. Il part du principe que l'IA est utile — à condition de savoir ce qu'on lui délègue réellement : une formulation, une synthèse, une recommandation, parfois même un choix sans qu'on s'en rende compte. Le sujet n'est pas d'en utiliser moins, c'est de savoir ce qu'on ne doit pas lui laisser décider seule.
Oui, précisément parce qu'une petite structure utilise souvent l'IA sans service juridique, sans comité éthique et sans procédure formalisée. Le besoin n'est pas de monter une usine à gaz : c'est de poser quelques repères clairs, là où ça compte.
Non, et nous ne le promettons pas. Un biais, c'est un écart ou un traitement défavorable qui peut toucher certains publics, parfois sans intention de nuire. L'objectif est de repérer les risques les plus visibles, de documenter les choix importants, et de savoir quand une validation humaine est nécessaire.
Recherche sur les disparités d'un outil de tri de candidatures selon les postes — le biais qui se masque dans la moyenne. hai.stanford.edu
Initiative menée par la communauté maorie, citée par IEEE Spectrum : modèle bâti et publié sous licence réservant les données au bénéfice de la communauté. spectrum.ieee.org
Entré en vigueur le 1er août 2024, d'application progressive. Cité comme repère de contexte, sans promesse de conformité. Commission européenne
Cadre cité comme méthode de pensée pour organiser la réflexion sur les risques — pas comme argument de conformité. nist.gov
Ce numéro est une ressource d'acculturation. Le dialogue et l'exemple sont fictifs, reconstitués à partir de situations courantes et volontairement simplifiés pour rendre visibles des problèmes fréquents. Cette lecture ne remplace ni un audit, ni un conseil juridique, ni une analyse RH, ni une validation métier. Prompt & Pulse n'intervient ni sur le juridique, ni sur la cybersécurité, ni sur l'intégration technique. Sur le cadre réglementaire cité, cette lecture peut aider à poser de meilleures questions ; elle ne remplace pas une démarche de conformité.