Le bruit ou «noise»: Nouvel accusé après les biais cognitifs

Est-il juste que deux personnes aux profils comparables ayant commis le même crime dans des circonstances similaires écopent de peines radicalement différentes – prison pour l’une et liberté sous caution pour l’autre? Non? Cette situation est pourtant fréquente. La faute à ces fameux biais dont le système judiciaire est truffé, évidemment. Mais pas seulement, insiste le professeur de stratégie en entreprise et spécialiste des biais cognitifs Olivier Sibony qui, lui, accuse également «le bruit». Pas le sonore qui nous casse parfois les oreilles – mais celui qui nous agite le cerveau sans que nous en ayons conscience. Et qui, en nous empêchant de nous entendre penser, nous pousse à prendre des décisions potentiellement erronées et lourdes de conséquences. Coauteur, avec le Prix Nobel Daniel Kahneman, de l’essai Noise – Pourquoi nous faisons des erreurs de jugement et comment les éviter (Éd. Odile Jacob), il explique ce que recouvre ce concept…

FEMINA Après les «biais», pourquoi parler de «bruit»?
Olivier Sibony Depuis une cinquantaine d’années en sciences cognitives et quinze ans dans le grand public, on parle abondamment des «biais cognitifs». Si bien qu’aujourd’hui, dès qu’on constate une erreur de jugement, on a tendance à la leur mettre sur le dos. Ce qui est d’ailleurs souvent juste. Sauf qu’on leur attribue des choses dont ils ne sont pas responsables – ou du moins pas complètement. Parce qu’en réalité, il y a deux façons de se tromper: via les biais, via le bruit.

En quoi diffèrent-ils donc?
On parle de «biais» quand on a tous tendance à se tromper dans le même sens, ce qui rend l’erreur prévisible:

On le connaît, il fait partie de l’énorme catalogue des biais identifiés qui nous donnent des indications sur la direction que va prendre l’erreur – ici, une évaluation trop optimiste. Mais dans beaucoup d’autres situations, aucun biais ne domine. Et c’est là qu’intervient le bruit qui est, lui, une manière de se tromper individuelle, aléatoire et donc imprévisible.

Certes. Mais concrètement, de quoi s’agit-il?
En très résumé, le bruit est la variation que chaque individu apporte à son jugement selon son caractère (clément, sévère, intransigeant, bienveillant…), sa situation du moment (heureux, triste, fatigué, en colère, affamé, repus, stressé…) et, comme l’ont montré de nombreuses études, selon des facteurs exogènes comme la météo. Mises ensemble, ces données influent sur une prise de décision largement autant que les biais.

Et c’est si grave?
Ça peut. Dans certaines situations, on sait qu’il existe une réponse exacte et on cherche à s’en approcher – par exemple un médecin qui pose un diagnostic ou un prof qui corrige une copie en fonction de réponses justes ou fausses. Là, s’il y a une variation, c’est forcément une erreur. Mais quand on ignore quelle est la bonne solution, le bruit est tout aussi préoccupant.

Pourquoi?
Prenons le cas d’un jugement: ce prévenu qu’on va condamner mérite-t-il un acquittement, une peine de 5 ans, de 10 ans? Il n’y a pas de formule qui permette de le déterminer – il va falloir évaluer. En l’espèce, les juges peuvent être en désaccord selon qu’ils ont été plus ou moins sensibles à l’histoire de l’accusé et aux circonstances du délit, c’est normal, ils ne sont pas des machines. Ayant assisté au même procès, s’appuyant sur la même loi, on s’attend toutefois à ce qu’ils prononcent des verdicts relativement proches. Toute la crédibilité du système repose d’ailleurs sur l’idée qu’ils parlent au nom de la justice et que tomber sur le juge X ou la juge Y ne devrait pas faire une énorme différence. Eh bien quand on fait ce qu’on a pris l’habitude d’appeler «des audits de bruit», c’est-à-dire quand on met des gens précisément dans ces contextes-là, on constate que l’écart entre deux personnes qui sont censées utiliser les mêmes faits pour arriver à une conclusion peut se révéler absolument stupéfiant.

à lire également

Sophie Marinopoulos: «Arrêtons de fragiliser nos enfants!»

Faudrait-il se mettre en groupe pour prendre de meilleures décisions?
Malheureusement, ce n’est pas suffisant! Si les positions de tous les membres d’un groupe étaient indépendantes, prises sans tenir compte de ce qu’ont dit les autres – par exemple en ayant demandé à chacun d’étudier le problème seul dans son bureau et d’écrire ses conclusions avant d'en discuter –, le bruit total serait réduit. Mais c’est rarement le cas. Au contraire, dès qu’il y a débat ou délibération, le bruit s’amplifie: il suffit que la personne la plus influente prenne la parole en premier et s’exprime avec autorité et assurance pour qu’elle soit suivie, même si elle n’a pas forcément raison. Ajoutez à cela cet effet bien connu qu’est la «polarisation de groupe»: lorsque des gens discutent entre eux, ils finissent souvent par adopter un avis plus extrême que celui qu’ils avaient au départ – et l’on voit que les décisions collectives ne sont pas nécessairement les plus justes.

La diversité des avis n’est-elle pas une bonne chose?
Quand il est question de goûts musicaux ou d’opinions politiques, si. Mais à partir du moment où l’on pense qu’il existe une bonne réponse, non! Si vous êtes malade et qu’un médecin vous diagnostique un emphysème alors que la veille l’un de ses collègues vous a parlé d’une grippe, vous ne vous dites pas: c’est formidable, la diversité d’opinions. Vous pensez: au moins l’un des deux se trompe, et c’est un gros problème!

Comment faire taire ce bruit? En utilisant l’IA?
D’abord, il faut en prendre conscience. Ensuite, la manière la plus simple en pratique de réduire le bruit, c’est de prendre les avis de plusieurs personnes compétentes sur le même problème, en les laissant cogiter seules sur les faits. Puis de faire une moyenne de ces différents jugements, par exemple la moyenne des notes que donnent plusieurs profs ou la moyenne du nombre d’années de prison que recommandent plusieurs juges. On obtiendra un résultat moins bruité et plus proche du jugement idéal. Quant à l’IA… pourquoi pas, bien sûr. Mais avant même d’aller si loin, on peut structurer ses décisions: définir des paramètres, des critères qui, en décomposant une décision en différents éléments, permettent de limiter la variabilité des jugements.

Et au quotidien?
Si vous ne parlez pas au nom d’un système ou d’une organisation et n’avez pas à prendre de décisions pouvant lourdement impacter des gens, ce n’est pas très grave qu’il y ait du bruit dans votre jugement: quand vous allez au restaurant et trouvez que le plat n’est pas bon, vous n’y retournerez pas – c’est votre jugement, votre décision!

«Noise»: Des exemples concrets...

... Chez le médecin

Le «Noise» n’épargne pas les médecins. Comme l’écrit Olivier Sibony, ils sont eux aussi victimes de «sources de bruit» – dont le stress et la fatigue. Ainsi, «une étude américaine portant sur près de 700’000 consultations chez des généralistes a notamment montré qu’ils prescrivaient beaucoup plus d’opioïdes à la fin d’une longue journée.» De même, selon d’autres recherches, il est fréquent que des praticiens «formulent des diagnostics très différents quand le même cas leur est présenté deux fois». Mais pas de panique! «Si tout diagnostic nécessite un jugement, celui-ci est la plupart du temps routinier et largement automatique, grâce à des règles, à des procédures et à l’établissement de scores via des données objectives telles que la pression, le pouls ou les examens sanguins qui minimisent le bruit», rassure le spécialiste.

... Dans l'économie

Quid du monde économique? Il est également sensible au bruit, bien sûr, confirme Olivier Sibony. «Les dirigeants d’entreprise doivent souvent prendre des décisions qui leur semblent singulières: faut-il lancer une innovation susceptible de bouleverser notre marché? Fermer les bureaux pendant une épidémie? Ouvrir une filiale dans un nouveau pays?» Les risques de mal juger les choses et d’en subir des conséquences parfois désastreuses sont importants. De nombreuses faillites en attestent. Autant dire que l’élaboration d’un système de prévisions fiables est primordiale. Ce qui, aux yeux de l’économiste, implique d’abord de repérer les biais et le bruit – lequel peut être débusqué «en soumettant des données identiques à différents professionnels puis en comparant et en analysant les écarts entre leurs conclusions.»

... Dans la justice

«Plusieurs études ont examiné de façon méthodique le niveau de bruit inhérent à la justice pénale», note Olivier Sibony. La première a été menée en 1974 aux États-Unis: «Il était demandé à cinquante magistrats fédéraux, issus de différents districts du pays, de prononcer une peine pour des prévenushypothétiques dont les affaires étaient résumées dans un rapport identique. Il a été démontré que l’«absence de consensus était la norme» et la disparité des condamnations «stupéfiante» puisque la peine d’emprisonnement variait de 1 à 10 ans pour un trafiquant d’héroïne, de 5 à 18 ans pour un braqueur de banque et de 3 ans ferme (sans amende) à 20 ans de prison (et 65’000 dollars d’amende) pour une extorsion de fonds…» La solution? Formaliser et encadrer le jugement en établissant des barèmes de fixation des peines selon des critères précis décomposant méticuleusement le délit.

... Et à l'école…

On l’imagine bien, le scolaire est aussi «bruité». Ainsi, quand certains résultats sont objectifs parce qu’obtenus en répondant à un QCM, par exemple, d’autres le sont moins. Ce qu’admet d’ailleurs volontiers Olivier Sibony: «Quand je donne des notes à mes étudiantes et étudiants, j’ai parfaitement conscience qu’un autre professeur leur en donnerait d’autres.» Il reprend: «Est-ce que ça vaut le coup pour autant de faire corriger chacun de leur devoir par cinq autres profs? Ce serait exagérément coûteux par rapport à l’enjeu. En revanche, s’il s’agissait d’une copie de concours ou d’examen qui va décider de la suite de leurs études, alors oui, cela vaut la peine de limiter le bruit, par exemple en prenant la moyenne des notes attribuées séparément par plusieurs correcteurs.»​