La fable du garçon qui criait « 5 % de chance de loup ! »

Abstract

Une mauvaise interprétation des avertissements probabilistes concernant des événements peu fréquents mais aux conséquences graves comporte des dangers importants. Une parabole moderne illustre bien ce phénomène : un garçon avertit à plusieurs reprises les villageois d’un « risque de 5 % d’apparition d’un loup ». Les villageois, incapables de raisonner en termes de probabilités, prennent ses avertissements pour des certitudes. Lorsque le loup ne se montre pas dans un premier temps, ils le traitent d’alarmiste. Finalement, l’événement à faible probabilité se produit, entraînant une catastrophe parce que les précautions ont été abandonnées. Ce scénario reflète les réactions de la société aux avertissements concernant des catastrophes potentielles telles que les pandémies (par exemple, les craintes avant la COVID-19) ou les risques existentiels futurs liés à l’IA ou à la guerre nucléaire. La non-matérialisation de catastrophes à faible probabilité précédemment prévues n’invalide pas les évaluations des risques sous-jacentes ni le cadre probabiliste. Au lieu de rejeter les prévisions après des « fausses alertes » perçues, qui sont des résultats attendus lorsqu’il s’agit de probabilités faibles, il convient d’évaluer en permanence la probabilité et l’impact potentiel des risques catastrophiques. Il faut maintenir une vigilance et une préparation appropriées, en résistant à la tendance à actualiser de manière excessive les croyances sur la seule base de l’absence de catastrophe jusqu’à présent, d’autant plus que les médias simplifient souvent les nuances probabilistes en une certitude trompeuse. – Résumé généré par l’IA.