On unpredictable events in risk analysis

Glette-Iversen, I. & Flage, R. (2024). On unpredictable events in risk analysis. Safety Science, 180.

Notre avis

📖📖📖 Un nouvel opus de collègues norvégiens, écrit par une équipe spécialisée dans l’analyse des risques industriels à l’université de Stavanger. Le thème de la prise en compte des risques imprédictibles dans l’analyse des risques monte en puissance avec la complexité du monde. Un contenu très bien étayé et qui concerne toutes les industries à risque. À lire !

Notre synthèse

L’incertitude du futur est un défi pour toutes les sciences et particulièrement pour l’analyse prédictive des risques. Ce n’est pas nouveau, mais les récentes années montrent l’incapacité croissante des approches et méthodes traditionnelles à penser les évènements les plus extrêmes et les plus graves, souvent évoqués par les expressions de « cygnes noirs », « queue de distribution (statistique) » ; ou encore en anglais « outliers », « wildcards », deux termes sans traduction aisée en français.

Ces évènements partagent le fait d’être imprédictibles. Les auteurs de l’article essaient de mieux comprendre ce qu’il faut entendre par ce mot « imprédictible ».

5 grandes causes et 2 dimensions manquantes

Les tentatives d’explication évoquent 5 grandes causes :
Deux remettent en question le modèle actuel de prédiction des risques :

1. le fait que ces évènements puissent être simplement inimaginables, inconcevables en l’état pour nos sociétés ;
2. leur explication par la théorie de la complexité et le fait qu’ils renvoient à une incertitude irréductible.  

Et trois restent compatibles avec le modèle actuel :

1. le fait que les modèles disponibles soient encore imprécis sur le domaine d’activité et sur les relations de causes à effet ;
2. l’absence de précurseurs connus, de signaux d’alerte, là encore faute de connaissances ;
3. ou/et le fait que les modèles disponibles renvoient à l’absence de probabilité affectable à des évènements qui, de fait, les rendent théoriquement impossibles pour les spécialistes quelle que soit leur gravité potentielle.

Face à la prédiction de ce risque marginal, l’analyse des risques – tout en restant dans sa logique et ses fondements sur les relations de fréquence, gravité, précurseurs et relation de causes à effets – reconnaît progressivement deux dimensions manquantes à l’existant :

• L’importance de la dimension du temps dans la prédiction, à la fois dans le calcul initial de survenue dans la vie du système et aussi dans le temps laissé à l’appréciation et la nature des conséquences après l’accident, avec la difficulté récurrente d’évaluer ces conséquences plus lointaines en regard de la simplicité d’évaluation des conséquences à court terme.
• L’importance de l’identification des trous de nos modèles de connaissances : que sait-on de ce que l’on ne sait pas (« known-unknown », en opposition au « unknown-unknown ») ?

Les principales causes identifiées

La suite de l’article revient sur les principales causes identifiées plus haut et les développe.

L’absence de probabilité affectable à ces évènements :

Cette absence de probabilité peut être interprétée de différentes façons.

Objectivement, par un calcul qui s’avère impossible même si un très grand nombre d’itérations (quasi infinies) sont considérées. Il peut s’agir aussi de manque de connaissances et de données pour établir un calcul fiable. À noter l’interprétation alternative de Cavalcante (2013) qui considère que les évènements imprédictibles obéissent aux mêmes mécanismes que d’autres évènements plus classiques. Ils peuvent donc être estimés en fréquence, mais c’est la composante « gravité » qui ne peut pas être estimée, faisant ainsi méconsidérer des évènements recensés mais mal évalués.

Subjectivement, par une croyance que l’évènement serait impossible. Ce dernier cas est toujours possible, mais sans garantie de la connaissance de celui ou de celle qui formule cette impossibilité.

L’absence de modèle précis de comportement et de relation de causes à effets :

Là encore, plusieurs interprétations sont possibles. Il peut s’agir du modèle lui-même ou des évènements imprédictibles qui ne peuvent pas être modélisés du fait même qu’ils sont encore inconnus. Dans ce cas, il suffirait qu’ils se produisent une fois pour devenir concrets et faire partie des entrées du modèle. D’autres évoquent la complexité et attribuent l’absence de prédictibilité à l’absence de lien de cause à effet et à la non-linéarité de certains évènements.

On notera que cette voie de l’acquisition continue des connaissances apparaît infinie et ne fait que repousser le problème. Elle ferme sans arrêt des ignorances qui permettent de retrouver la prédictibilité, mais ouvre aussi sans arrêt de nouvelles brèches avec la découverte de nouveaux pans de connaissances manquantes et de nouveaux évènements imprédictibles « un pont plus loin ».

L’absence de précurseurs ou d’alertes précoces renvoi à l’idée de « surprise » :

Dans ce cas le modèle peut être exact, les conditions sont idéales sans limitations d’accès aux leçons du passé, mais la surprise arrive quand même souvent comme un dépassement des conditions usuelles avec une intensité et une dimension catastrophique hors de toute attente (Cox, 2012).

L’existence d’une incertitude irréductible :

On parle d’incertitude ontologique, comme un manque fondamental de connaissance et d’information. On retrouve l’idée d’évènements inimaginables, hors du champ de l’expérience vécue (« cygnes noirs », « unknown-unknowns »).

Russo (2017) parle de son côté d’incertitude imprédictible, en adoptant une perspective épistémique plutôt qu’ontologique. L’imprédictibilité serait réduite par l’acquisition de connaissances. Certains auteurs font aussi néanmoins remarquer que l’acquisition de connaissances avant l’évènement est impossible, de sorte qu’il n’y a pas de solution pour améliorer la prédiction avant la survenue puisque les solutions épistémiques ne réfèrent qu’à l’après.

Quel cadre retenir pour comprendre et évaluer concrètement l’imprédictibilité dans l’analyse traditionnelle des risques ?

Dans le contexte de l’analyse des risques, le risque est vu comme une combinaison d’évènements (A) et de leurs conséquences (C) avec une incertitude associée à leur occurrence (U).

On accepte l’existence de A’ et C’ comme des conditions particulières au contexte, avec l’idée que certains évènements et effets peuvent s’ajouter au modèle de base dans un contexte particulier. Les incertitudes propres à A’ et C’ permettent la mesure d’une imprédictibilité Q dans un contexte de connaissance K (qui forcément ne couvre pas la totalité de la connaissance nécessaire à la modélisation de tous les risques). On peut établir une probabilité P de survenue de l’imprédictible en fonction de la force/croyance attribuée à cette connaissance possédée SoK (Strength of Knowledge) : Q = (P, SoK).

Cette croyance sur la valeur de notre connaissance – et ses limites – dépend de notre compréhension du monde, du consensus d’avis d’experts, du recul et de la confiance qu’on a bâtis avec le modèle de comportement général liant A à C, du recul acquis sur la survenue passée de surprises. On fait aussi intervenir notre vision du temps, à la fois dans la survenue des évènements (centennal, décennal, annuel…) et dans l’intervalle de temps dans lequel s’inscrit l’observation des risques (10 ans d’une structure… ou sa vie complète ?), et de même pour l’intervalle de temps de mesure des conséquences des sinistres.

On notera que selon les hypothèses que l’on forme sur l’imprédictibilité (référence aux points cités précédemment), les composantes mises en cause dans la mesure de cette imprédictibilité varient (il peut s’agir de A’, C’, Q, K et/ou SoK).

L’imprédictibilité dans le cadre des approches modernes d’analyse des risques

Le manque de connaissance renvoie à trois situations/conditions récurrentes :

1. L’impossibilité de décrire le spectre/la variété des contextes nourrissant A’ et C’, rendant certains contextes et leurs descripteurs A’ et C’ totalement inattendus ;
2. L’impossibilité de décrire la probabilité de certains évènements reconnus comme possibles (expression de l’incertitude Q) ;
3. L’absence de référence sur certains précurseurs encore jamais vus.

Le degré d’imprédictibilité contextuel va dépendre de ces trois conditions non exclusives, sans oublier le temps de référence pris en compte pour la mesure (court terme et/ou long terme) qui devient un élément essentiel de modulation des valeurs de ces conditions.

Au total, la mesure de l’imprédictibilité apparaît plus comme variable, en étant le résultat d’une fluctuation sur un spectre relativement contraint par ces trois conditions.

On notera que la mesure des effets à court terme est toujours plus prédictible que celle à long terme. Mais pire, la mesure des effets à long terme quand elle devient possible peut remettre en cause ce que l’on croyait prédictible (ou non) à court terme en changeant le périmètre d’observation des conséquences et les critères à adopter et en transformant l’incertitude du court terme en faits avérés. Cette dimension temporelle oppose ainsi :

• Une valeur prospective de l’imprédictibilité, où l’évènement reste redouté avec une force de connaissance variable allant de la conviction au-delà du démontrable scientifiquement (justified true beliefs) à quelque chose de plus pragmatique limité au savoir attesté et qui se modifie au fil du temps (justified beliefs) avec des variations de calcul dans sa probabilité, du comportement de causes à effets, etc.
• Une valeur rétrospective de l’imprédictibilité, où la connaissance de l’évènement est définitivement avérée, où il devient possible de valider ou d’invalider certaines croyances et convictions.

Plus généralement, l’analyse nous rappelle que l’ensemble des éléments décrits précédemment s’inscrit dans un temps qui s’écoule et change continuellement la mesure de l’imprédictibilité, et qui doit donc pousser à une révision continuelle de l’analyse des risques pour en éviter une obsolescence rapide.