i

Description

Un Apple Lisa en réparation

Source

stiefkind · page d’origine

Licence

CC0 Domaine public

Photo d’origine, non retouchée. L’arrière-plan en est une version stylisée par le site.

L'effet Goodhart (biais de visibilité)

Quand une mesure devient la cible, on optimise la mesure, plus le résultat qu'elle devait refléter.

En bref

• Quoi : un indicateur choisi pour refléter un résultat se déforme quand on s'en sert pour piloter ou récompenser ; on valorise aussi ce qui est mesurable au détriment du reste.
• Pourquoi : chacun optimise ce qui est mesuré et récompensé ; l'indicateur et le résultat se dissocient.
• Détecter : l'indicateur s'améliore pendant que l'expérience réelle stagne ou se dégrade ; comportements « pour le chiffre ».
• Éviter : plusieurs indicateurs croisés, indicateur d'équilibre, mesure pour apprendre et non pour sanctionner, revue qualitative, changement périodique.

Sur cette page

1. Définition
2. Le mécanisme
3. Où on le rencontre
   1. En conduite de projet
   2. En management
4. Cas célèbres
   1. Apple Lisa : l'ingénieur qui a écrit « −2000 lignes » 1982
   2. Wells Fargo : des comptes ouverts pour atteindre le quota 2011-2016
   3. Hanoï, 1902 : les queues de rats 1902
   4. Le dispositif Pinel : quand l'avantage fiscal devient le but (France) 2014-2024
5. Signaux de détection
6. Réflexes d'évitement
7. Avec l'IA : détecter, remédier, atténuer
   1. Détecter
   2. Remédier
   3. Atténuer
   4. Prompts à intégrer à vos usages
   5. Comment les intégrer
   6. Précautions
8. Limites
9. Sources et vérification
10. Voir aussi
    1. Se combine avec, ou renforce
    2. Biais voisins
    3. Contrepoids et réflexes associés

Définition#

Illustration fictive

Illustration fictive

Illustration fictive

La loi de Goodhart porte le nom de l'économiste britannique Charles Goodhart, qui l'énonce en 1975 à propos de la politique monétaire : toute régularité statistique observée tend à s'effondrer dès lors qu'on s'en sert pour piloter. L'anthropologue Marilyn Strathern (1997) en donne la formulation devenue célèbre : « lorsqu'une mesure devient un objectif, elle cesse d'être une bonne mesure ». Le psychologue Donald Campbell avait énoncé une idée voisine en 1976 (texte publié en 1979) : plus un indicateur social sert à prendre des décisions, plus il est exposé à des pressions qui le corrompent (loi de Campbell).

Ce n'est pas un biais cognitif au sens strict. C'est une régularité des systèmes d'incitation, qui fait intervenir des stratégies conscientes (tricher, contourner) autant que des distorsions de jugement. Elle est ici rangée avec les biais parce qu'elle s'appuie sur un biais de visibilité (on valorise ce qui se compte et se voit : le « streetlight effect » ou la fallacie de McNamara, qui consiste à ne retenir que ce qui se quantifie) et parce qu'elle conduit à des décisions faussées par ce qu'on a choisi de montrer.

Le mécanisme#

• Une mesure est un proxy. On mesure ce qui est facile (lignes de code, tickets fermés, appels traités) pour approcher ce qui compte (valeur, qualité, satisfaction). Le lien entre les deux est statistique, donc fragile.
• Quand on récompense la mesure, on déplace l'effort. Chacun optimise l'indicateur, parfois de bonne foi, parfois en le contournant : on gonfle, on découpe, on déplace, on exclut.
• Le non-mesuré disparaît. Ce qui n'est pas dans le tableau de bord (qualité du code, entraide, dette, maintenance) est sacrifié à ce qui y figure.
• Le lien se casse. Une fois la cible atteinte par ces moyens, l'indicateur n'est plus corrélé au résultat d'origine : le tableau de bord est vert, la réalité ne l'est pas.

Où on le rencontre#

En conduite de projet#

• Lignes de code : mesurer la production d'un développeur par les lignes écrites encourage le code verbeux et décourage le remaniement qui supprime du code (voir le cas ci-dessous).
• Vélocité : lorsque la vélocité d'une équipe (points d'histoire par itération) devient un objectif ou sert à comparer des équipes, les estimations gonflent et la vélocité monte sans que la valeur livrée augmente. C'est un phénomène couramment observé, non documenté ici par une étude précise.
• Couverture de tests : exiger un pourcentage de couverture produit des tests qui exécutent le code sans rien vérifier.
• Tickets fermés, délais de résolution : on ferme vite, on rouvre un ticket, on scinde en deux pour que les compteurs montent, ou l'on classe en « amélioration » ce qui était un défaut.
• Respect du planning et du budget : si l'écart au plan est sanctionné, les chiffres sont reportés en début de projet (marges cachées) ou le reste à faire est sous-estimé jusqu'à la fin.
• Disponibilité contractuelle : un indicateur de service à 99,9 % invite à ne déclarer « incident » que ce qui sort du périmètre mesuré.

En management#

• Objectifs individuels et primes : le commercial qui vise le volume de ventes accorde des remises ou pousse des clients mal ciblés ; le support qui vise la durée moyenne de traitement raccroche vite.
• Tableaux de bord : ce qui y figure devient la réalité de l'équipe ; ce qui n'y figure pas (aide aux collègues, documentation, mentorat) n'est ni fait ni reconnu.
• Évaluation annuelle : le collaborateur sait quels chiffres comptent et travaille pour eux ; celui qui produit de la valeur non mesurée est désavantagé.
• Enquêtes de satisfaction : quand le score influence la prime, on supplie les clients de mettre « 10 » ou on trie les répondants.
• Heures et présence : le temps de présence mesure une partie de l'effort, il encourage la visibilité plus que le résultat.

Cas célèbres#

Signaux de détection#

• L'indicateur progresse pendant que les plaintes, les retours ou la dette technique augmentent.
• Des comportements « pour le chiffre » : découper pour compter deux fois, fermer puis rouvrir, reporter en fin de période.
• Les gens expliquent comment faire monter le chiffre avant de dire ce qu'il faudrait faire.
• Le travail utile mais non mesuré (documentation, entraide, remaniement) disparaît.
• Un objectif atteint avec une régularité suspecte, sans variation naturelle, ou toujours juste au-dessus du seuil.
• Le chiffre a un propriétaire dont la prime ou la réputation en dépend.

Réflexes d'évitement#

1. Dire ce que la mesure doit refléter. Avant de choisir un indicateur, écrire le résultat visé (valeur, qualité, satisfaction) et la manière dont l'indicateur pourrait être contourné.
2. Croiser plusieurs indicateurs. Un indicateur de volume, un de qualité, un de satisfaction : pour en gonfler un, il faut dégrader un autre, et cela se voit.
3. Ajouter un indicateur d'équilibre. Vitesse avec taux de défauts, quantité avec reprises, ventes avec résiliations.
4. Mesurer pour apprendre, pas pour sanctionner. Un chiffre qui sert à comprendre est moins contourné qu'un chiffre qui sert à punir ou à primer. Évitez de comparer des équipes par la vélocité.
5. Découpler le chiffre de la prime. Plus le lien est direct et fort, plus le chiffre sera déformé.
6. Compléter par un jugement qualitatif. Revue de code, entretien client, démonstration : des regards qui ne se réduisent pas à un nombre.
7. Auditer et renouveler. Contrôler par échantillon l'écart entre le chiffre et le terrain, et changer de mesure quand elle commence à être jouée.
8. Récompenser la remontée de mauvaises nouvelles. Un système où le rouge est sanctionné produit des tableaux de bord toujours verts.

Avec l'IA : détecter, remédier, atténuer#

Prompts à intégrer à vos usages#

1. Comment contourner cet indicateur ?. Avant d'adopter un indicateur, un objectif ou une prime.

Nous envisageons l'indicateur suivant : [définition précise, période, périmètre] pour refléter [résultat réellement visé].
1. Liste dix manières, légitimes ou non, de faire monter cet indicateur sans améliorer le résultat visé.
2. Pour chacune, indique quel signal observable permettrait de la repérer.
3. Propose deux ou trois indicateurs complémentaires, dont un indicateur d'équilibre, pour que gonfler l'un dégrade l'autre.
4. Dis si cet indicateur devrait servir à piloter, à apprendre ou à primer, et pourquoi.
Ne présume pas de mauvaise foi des équipes : décris des mécanismes, pas des personnes.

2. Audit d'un tableau de bord existant. Sur un tableau de bord et ses données, sans données personnelles.

Voici un tableau de bord d'équipe et l'historique de ses indicateurs : [définitions, valeurs par période].
1. Pour chaque indicateur, indique le résultat qu'il est censé refléter et ce qu'il ne mesure pas.
2. Repère les paires d'indicateurs qui devraient évoluer ensemble et qui divergent.
3. Repère les motifs suspects : pics en fin de période, valeurs groupées juste au-dessus d'un seuil, changements de définition.
4. Liste ce qui importe à l'équipe et qui n'est pas mesuré.
Pour chaque constat, dis si les données le prouvent ou le suggèrent seulement.

Comment les intégrer#

• À la création d'un indicateur : le prompt 1 sert d'« avocat du diable » ; consignez ses réponses dans la définition de l'indicateur.
• Tous les trimestres : le prompt 2 sert de revue du tableau de bord, avec l'équipe.
• Avec l'IA elle-même : ne mesurez pas son apport par le volume (lignes, tickets, pages) mais par la valeur et la qualité constatées en aval.

Précautions#

• L'IA peut inventer des « bonnes pratiques » chiffrées ou des benchmarks : exigez les sources et vérifiez.
• Ne donnez pas de données individuelles de performance à un outil non autorisé ; anonymisez.
• Un indicateur sorti d'une analyse automatique devient lui aussi une cible : n'en créez pas un de plus sans se demander comment il sera joué.
• Les contournements imaginés par l'IA ne sont que des hypothèses : confrontez-les au terrain.

Limites#

• La loi n'est pas un théorème : mesurer n'est pas le problème. Beaucoup d'indicateurs servent très bien, notamment quand ils sont utilisés pour comprendre plutôt que pour primer. Le risque croît avec l'enjeu associé (prime, sanction, classement).
• Les énoncés varient : Goodhart parle d'une régularité statistique qui s'effondre quand on la pilote, Strathern d'une mesure qui devient cible, Campbell d'indicateurs sociaux corrompus. Ce sont des lois empiriques, non des vérités universelles.
• Plusieurs anecdotes célèbres sont des récits, pas des documents : l'effet cobra de Delhi est une légende non vérifiée, l'anecdote de Lisa repose sur un témoignage ; seuls Hanoï et Wells Fargo sont solidement documentés.
• Renoncer aux indicateurs est une autre erreur : sans mesure, on retombe sur l'impression et la visibilité (voir l'effet de simple exposition).
• La vélocité comme cible gonflée est un constat répandu dans les équipes agiles, sans étude chiffrée citée ici à son sujet.

Sources et vérification#

• Goodhart (1975), « Problems of monetary management: The U.K. experience », dans Papers in Monetary Economics, vol. 1, Reserve Bank of Australia — l'énoncé d'origine, à propos de la politique monétaire britannique.
• Strathern (1997), « “Improving ratings”: Audit in the British University system », European Review, 5(3), p. 305-321 — la formulation « lorsqu'une mesure devient un objectif, elle cesse d'être une bonne mesure ».
• Campbell (1979), « Assessing the impact of planned social change », Evaluation and Program Planning — la loi de Campbell.
• Muller (2018), The Tyranny of Metrics, Princeton University Press — l'abus de la mesure dans les organisations.
• Hertzfeld, « −2000 Lines Of Code », folklore.org — le récit d'Apple Lisa (1982).
• Consumer Financial Protection Bureau (8 septembre 2016), communiqué sur les amendes de Wells Fargo — montants et nombre de comptes (estimations de l'époque).
• Vann (2003), « Of rats, rice, and race: The Great Hanoi Rat Massacre, an episode in French colonial history », French Colonial History, 4 — l'épisode des queues de rats.
• Siebert (2001), Der Kobra-Effekt, Deutsche Verlags-Anstalt — origine du nom, qui s'appuie sur l'histoire des cobras de Delhi (non vérifiée).
• Cour des comptes (2024), « L'aide fiscale à l'investissement locatif Pinel », rapport public thématique (évaluation de politique publique) — chiffre le coût, la motivation fiscale des investisseurs, la répartition par zone et le profil de revenu, et conclut à une réalisation imparfaite des objectifs.

Voir aussi#