- Description
- Une raffinerie de pétrole (photographie panoramique ancienne)
- Source
- West Coast Art Co. · page d’origine
- Licence
- PD Domaine public
La pensée désidérative (wishful thinking)
Quand le résultat qu'on espère est aussi celui que la preuve semble confirmer, on cesse de contrôler la preuve.
En bref
- Quoi : on tient pour vrai ou probable ce que l'on souhaite, et on exige moins de preuves pour ce qui nous plaît que pour ce qui nous déplaît.
- Pourquoi : le désir oriente la recherche d'informations, leur interprétation et l'exigence de preuve ; il est d'autant plus fort que l'enjeu est grand et que la preuve est ambiguë.
- Détecter : une démonstration « trop belle », une explication unique qui arrange tout le monde, des objections traitées comme de la mauvaise volonté.
- Éviter : une contre-expertise indépendante, des tests conçus pour échouer, des critères de réussite écrits avant la démonstration, un décideur sans intérêt dans le résultat.
Définition#
Illustration fictiveLa pensée désidérative (wishful thinking) est la formation de croyances, de prévisions ou de décisions fondées sur ce qui est agréable à imaginer plutôt que sur les faits et la raison. Elle ne suppose ni mensonge ni bêtise : le désir agit sur ce qu'on regarde, sur la façon dont on lit ce qu'on a vu et sur le degré d'exigence qu'on applique avant de conclure.
Elle se distingue de l'optimisme irréaliste : l'optimisme concerne l'avenir personnel (« chez nous, ça ira »), la pensée désidérative s'applique à des faits à établir (« cette solution marche », « ce fournisseur est fiable », « ce résultat est vrai »).
Le mécanisme#
L'étude expérimentale du phénomène (Krizan et Windschitl, 2007) montre que le désir n'altère pas directement la probabilité estimée, mais agit par plusieurs voies :
- Recherche sélective : on cherche des preuves là où elles confirment, et on s'arrête dès qu'on en a assez (voir le biais de confirmation).
- Exigence de preuve variable : pour ce qu'on aime, on demande « puis-je le croire ? » ; pour ce qu'on n'aime pas, « suis-je obligé de le croire ? ».
- Interprétation des ambiguïtés : un résultat flou est lu dans le sens désiré. Bastardi, Uhlmann et Ross (2011) l'ont montré avec des parents de jeunes enfants qui, désirant une conclusion, jugeaient plus sévèrement les études contraires.
- Enjeu partagé : quand tout un groupe (sponsor, fournisseur, direction) souhaite le même résultat, le contrôle mutuel disparaît.
Où on le rencontre#
En conduite de projet#
- Preuve de concept : une démonstration réalisée sur un jeu de données choisi par le fournisseur est acceptée comme preuve de faisabilité, parce que tout le monde souhaite que la solution marche.
- « Boîte noire » d'un fournisseur : un moteur, un algorithme ou un composant dont le fonctionnement est secret est jugé sur ses démonstrations, pas sur une vérification indépendante.
- Recette : on valide « à peu près » des cas de test pour tenir la date, en espérant que le reste ira ; les anomalies sont classées « mineures ».
- Prévisions commerciales : le chiffre d'affaires attendu d'une nouvelle offre est celui qui rend le dossier d'investissement acceptable.
- Plan de reprise ou migration : « la bascule se passera bien », sans répétition réelle, parce que la date est imposée.
En management#
- Recrutement : un candidat dont on a besoin d'urgence est vu comme « parfait » ; les réserves des références sont minimisées.
- Annonce d'objectifs : un objectif déjà promis à la direction est jugé atteignable ; les signaux contraires sont attribués à la mauvaise volonté.
- Conduite du changement : « les équipes vont adhérer » ; les signes de résistance sont lus comme des cas isolés.
- Information remontante : les collaborateurs apprennent à ne remonter que les bonnes nouvelles ; le décideur reçoit ce qu'il souhaite entendre.
Cas célèbres#
Les « avions renifleurs » d'Elf 1976-1979 ; révélé en 1983#
Biais en jeu : pensée désidérative (le début : on veut y croire), puis escalade d'engagement (la suite : on continue de financer) ; confirmation, autorité et coûts irrécupérables en renfort.
Ce qui s'est passé. Au milieu des années 1970, après le choc pétrolier de 1973, la France cherche à réduire sa dépendance énergétique. Un inventeur italien autodidacte, Aldo Bonassoli, et un aristocrate belge, le comte Alain de Villegas, affirment avoir mis au point des procédés (appelés « Delta » et « Omega ») qui permettraient de détecter, depuis un avion, des gisements de pétrole à des milliers de mètres sous terre. En 1976, des responsables du groupe pétrolier public Elf-ERAP (Pierre Guillaumat, avec l'ancien président du Conseil Antoine Pinay) s'y intéressent, et l'affaire est portée à la connaissance de la présidence de la République (rencontre avec Valéry Giscard d'Estaing le 2 juin 1976, d'après les récits publiés). Un premier contrat de 400 millions de francs est signé en mai 1976, suivi d'autres, dont un de 500 millions en juin 1978, avec une société panaméenne.
Les essais de démonstration étaient conduits au-dessus de sites déjà connus des ingénieurs d'Elf ; selon les récits, des sources internes à l'entreprise avaient fourni aux inventeurs les données nécessaires, ce qui rendait la réussite du test certaine. Le fonctionnement de l'appareil restait secret ; selon certains récits, Bonassoli exigeait même qu'aucun scientifique ne soit présent lors de la première démonstration. En 1978, un expert extérieur missionné par le groupe conclut que les procédés ne servent à rien. Le physicien Jules Horowitz, du Commissariat à l'énergie atomique, apporte en mai 1979 la démonstration décisive : une règle placée dans l'appareil derrière un écran apparaissait intacte sur l'image alors qu'elle avait été altérée, preuve que l'appareil ne « voyait » rien et reproduisait des images préenregistrées. Les contrats sont arrêtés à l'été 1979.
L'affaire reste secrète quatre ans. Un rapport de la Cour des comptes, dont certains exemplaires auraient été détruits, est évoqué dans la presse, et Le Canard enchaîné la révèle publiquement le 21 décembre 1983 ; elle devient une polémique politique, Valéry Giscard d'Estaing se défendant à la télévision. Bonassoli est retourné à la réparation de téléviseurs ; de Villegas, selon plusieurs récits, se serait retiré en Amérique du Sud.
Les biais qui se combinent. La pensée désidérative est le moteur : l'espoir de trouver du pétrole sans forer, dans un pays qui n'en a pas. La confirmation fait le reste : les essais favorables sont retenus, les doutes mis de côté. L'autorité verrouille : le projet est cautionné par des personnalités de premier plan, ce qui décourage la contradiction. L'escalade d'engagement et les coûts irrécupérables expliquent pourquoi, même avec des doutes, on a signé les contrats suivants plutôt que d'arrêter.
Ce que cela illustre
Pour un projet informatique, trois transpositions directes : (1) une démonstration non indépendante n'est pas une preuve : jeu de données choisi par le fournisseur, environnement préparé, scénarios connus à l'avance ; (2) une « boîte noire » doit pouvoir être testée de l'extérieur par un tiers qui choisit ses propres cas ; (3) une preuve de concept trop favorable est un signal d'alerte, pas une bonne nouvelle : demandez à quelqu'un d'essayer de la faire échouer. Et quand tout le monde veut que la solution marche, le désir est lui-même un facteur de risque à traiter.
Quand on veut une conclusion, on durcit sa critique des études contraires 2011#
Biais en jeu : pensée désidérative, raisonnement motivé.
Ce qui s'est passé. Anthony Bastardi, Eric Uhlmann et Lee Ross (2011) étudient des parents à qui l'on présente des études scientifiques opposées sur le mode de garde de jeunes enfants. Les parents qui avaient déjà fait leur choix, donc qui souhaitaient qu'il soit le bon, jugent plus sévèrement l'étude qui le contredit que celle qui le conforte, et leur désir se lit dans leur évaluation de la méthode. (Résumé de l'idée générale du travail ; les détails du protocole sont à lire dans l'article.)
Ce que cela illustre
Ce n'est pas la qualité des preuves qui change, c'est la sévérité avec laquelle on les juge. Une recette ou une analyse qui contredit ce qu'on espère subit un contrôle que la favorable n'aurait pas eu : appliquez la même grille aux deux.
Signaux de détection#
- Une démonstration trop réussie, sur des cas choisis, sans surprise ni échec.
- Le fournisseur refuse ou retarde un test indépendant, ou invoque le secret industriel pour ne pas expliquer le fonctionnement.
- Les objections sont traitées comme de la mauvaise volonté ou de la résistance au changement.
- Tout le monde dans la salle (sponsor, équipe, fournisseur) veut que la solution marche.
- Les critères de réussite ont été définis après les premiers résultats.
- Les mauvaises nouvelles ne remontent plus.
Réflexes d'évitement#
- Écrire les critères de réussite avant la démonstration. Jeux de données, seuils, conditions : fixés d'avance et par écrit, par quelqu'un qui n'est pas le fournisseur.
- Faire vérifier par un tiers indépendant. Un expert qui n'a aucun intérêt au résultat, qui choisit ses propres cas et qui peut conclure que la solution ne marche pas.
- Concevoir des tests pour échouer. Chercher activement les cas limites, les données hostiles, les conditions de production ; une solution qui n'a jamais échoué n'a pas été testée.
- Séparer le désir de la décision. Le décideur final ne doit pas dépendre du succès pour sa carrière ou son budget, ou doit être assisté de quelqu'un qui n'en dépend pas.
- Appliquer la même grille aux preuves favorables et défavorables. Demandez : « Si ce résultat était contraire à ce que nous souhaitons, l'accepterions-nous aussi facilement ? »
- Organiser l'avocat du diable et le pré-mortem. Imaginer que le projet a échoué dans un an et écrire pourquoi ; confier à quelqu'un la mission de réfuter.
- Prévoir des étapes d'arrêt. Découper l'engagement en tranches, avec des critères de passage objectifs, pour ne pas s'engager sur un enthousiasme ; fixer à l'avance ce qui déclenche l'arrêt (voir l'escalade d'engagement).
- Récompenser la mauvaise nouvelle. Un porteur de doute qui avait raison doit être remercié ; sinon plus personne ne le dira.
Avec l'IA : détecter, remédier, atténuer#
L'IA est utile pour jouer l'avocat du diable, écrire des critères de réussite et chercher des cas d'échec. Mais les modèles tendent à aller dans le sens de l'utilisateur (complaisance) : si vous lui dites que la solution vous plaît, elle vous le confirmera. Et surtout, l'IA est elle-même une « boîte noire » que le désir d'automatisation fait volontiers surévaluer : appliquez-lui les règles de cette fiche.
Détecter#
- Relever dans un dossier de démonstration ou de preuve de concept les conditions favorables (données choisies, environnement préparé).
- Signaler les critères de réussite définis après coup.
- Repérer dans un compte rendu les objections écartées sans analyse.
Remédier#
- Rédiger des critères de réussite et d'arrêt à valider avant la démonstration.
- Concevoir des cas de test hostiles pour une solution fournie par un tiers.
- Jouer l'avocat du diable : lister ce qui pourrait faire échouer la solution.
Atténuer#
- Faire un pré-mortem écrit avant le lancement.
- Préparer les questions à poser à un fournisseur sur la vérifiabilité de son produit.
- Produire une grille de lecture symétrique pour comparer les preuves favorables et défavorables.
Prompts à intégrer à vos usages#
1. Avocat du diable sur une démonstration. Après une démonstration ou une preuve de concept convaincante.
Voici ce qu'un fournisseur ou une équipe nous a démontré : [description : cas testés, données utilisées, environnement, résultats].
Tu joues l'avocat du diable. Je ne veux pas ton avis sur la qualité de la solution. Liste : 1) les conditions qui ont pu rendre la démonstration plus favorable qu'en production ; 2) les cas non testés qui pourraient la faire échouer ; 3) ce qu'un expert indépendant devrait refaire lui-même ; 4) les cinq questions les plus gênantes à poser. N'invente aucun fait sur la solution.2. Critères de réussite écrits d'avance. Avant toute démonstration, recette ou preuve de concept.
Nous allons évaluer [solution] pour [besoin]. Aide-moi à rédiger, avant la démonstration, un cahier d'évaluation : les critères de réussite mesurables et leurs seuils ; les jeux de données que nous choisirons nous-mêmes, dont des cas difficiles et hostiles ; les conditions d'environnement réalistes ; ce qui entraînerait l'arrêt ou le refus ; qui validera de façon indépendante. Pose-moi d'abord les questions qui te manquent.3. Pré-mortem. Avant de s'engager sur un investissement ou un choix de fournisseur.
Imagine que, dans un an, [décision ou projet] a échoué de façon spectaculaire. Écris les dix causes les plus plausibles de cet échec, dont au moins trois liées à ce que nous espérons trop fort, trois liées à des preuves insuffisamment vérifiées et trois liées à la dépendance envers un tiers. Pour chacune, donne un signal précoce à surveiller et une action préventive.Comment les intégrer#
- Avant la démonstration : le prompt 2 fixe le cahier d'évaluation, qu'on fait signer par les parties.
- Après la démonstration : le prompt 1 est lancé à chaud, puis les questions sont posées au fournisseur.
- Avant l'engagement : le prompt 3 nourrit le comité d'un pré-mortem écrit.
Précautions#
- Ne présentez pas la solution sous un jour favorable à l'IA : elle vous suivra. Décrivez les faits sans adjectifs.
- L'IA ne remplace pas une contre-expertise indépendante : elle ne peut pas tester la solution à votre place.
- Une IA qui détaille « les risques connus » du produit d'un fournisseur peut les inventer : vérifiez.
- Ne communiquez pas de dossiers contractuels ou de données du fournisseur à un outil non autorisé.
Limites#
- L'effet du désir sur la probabilité estimée est, dans les expériences, plutôt modeste et dépend de la situation (Krizan et Windschitl, 2007). Il est plus marqué quand la preuve est ambiguë et qu'on a la liberté d'interpréter.
- Espérer n'est pas un défaut : vouloir qu'un projet réussisse motive. Le biais commence quand l'espoir réduit l'exigence de preuve.
- Pour l'affaire des avions renifleurs, les montants varient selon les sources : environ 500 millions de francs de pertes sont souvent cités, alors que d'autres récits font état de plus d'un milliard de francs engagés, et le rapport de la Cour des comptes parle de pertes supérieures à 750 millions. Les détails de la mise en scène des démonstrations (sources internes ayant fourni les données) proviennent de récits secondaires.
- Les inventeurs ont manipulé délibérément ; le cas illustre la vulnérabilité des décideurs à une fraude, pas une erreur sans auteur.
Sources et vérification#
- Wikipédia (français), « Affaire des avions renifleurs » — chronologie, contrats, test de Jules Horowitz, révélation du 21 décembre 1983.
- Wikipédia (anglais), « Great Oil Sniffer Hoax ».
- Encyclopædia Universalis, « 21-28 décembre 1983 : polémique politique autour de l'affaire des avions renifleurs ».
- Time, « France: The Big Stink » (1984) — la polémique et les exemplaires détruits du rapport.
- Krizan & Windschitl (2007), « The influence of outcome desirability on optimism », Psychological Bulletin.
- Bastardi, A., Uhlmann, E. L. & Ross, L. (2011), « Wishful thinking: Belief, desire, and the motivated evaluation of scientific evidence », Psychological Science, 22(6).
- Kunda (1990), « The case for motivated reasoning », Psychological Bulletin — le raisonnement motivé.
Voir aussi#
Se combine avec, ou renforce#
Ces biais se nourrissent l’un l’autre.
Biais voisins#
Des variantes ou des cousins : à ne pas confondre.
Contrepoids et réflexes associés#
Ce qui le neutralise.
- Le pré-mortem
- L'avocat du diable
- La contre-expertise indépendante (notion ou méthode, sans fiche)
