Argumentaire de sécurité et quantification de la confiance

La construction d’argumentaire de sécurité (ou dossier de sécurité, ou safety case), est un des moyens pour préparer la certification de systèmes critiques. Il s’agit principalement de justifier pour chaque danger comment il a été traité et ramené à un niveau acceptable. Malheureusement, dans le cas des systèmes comportant de nombreuses incertitudes et non couverts par des standards (comme par exemple pour les véhicules autonomes), il n’existe pas à l’heure actuelle de méthode systématique permettant la construction de tels dossiers de sécurité et la démonstration du niveau de confiance sous-jacent. Nos travaux visent à contribuer à la définition d’une telle méthode en partant de techniques d’analyse du risque, puis en s’appuyant sur des modèles formalisés afin de construire l’argumentaire de sécurité et de quantifier automatiquement le niveau de confiance dans cet argumentaire.

 

La thèse de Q.-A. Do Hoang a permis de lier la technique d’analyse des dangers HAZOP-UML[1] à des modèles d’argumentaire de sécurité (en Goal Structuring Notation, GSN). Sur la base de ces modèles un premier travail utilisant les réseaux Bayésiens a permis d’associer aux éléments de l’argumentaire une évaluation quantitative de leur confiance, et de la propager jusqu’à la décision finale[2]. Ce travail a été suivi par la thèse de R. Wang[3],[4], qui s’est concentrée sur l’utilisation des fonctions de croyance (théorie de Dempster-Shafer (DS)), pour évaluer et propager la confiance dans un GSN. Deux défis importants ont été abordés :

• Comment définir formellement la confiance ? Des incertitudes existent dans l'argument destiné à démontrer la sécurité du système. La confiance peut être obtenue en mesurant ces incertitudes. L'évaluation des incertitudes dans un argument avancé par des experts est souvent subjective, mais nous avons proposé un modèle quantitatif basé les 3 grandeurs disbelief, uncertainty et belief issues de la théorie de DS.

• Comment agréger et propager les niveaux de confiance ? Les règles d'agrégation sont essentielles pour propager la confiance dans un argument. Par exemple plusieurs prémisses se rapportant à la même déclaration peuvent être complémentaires ou redondantes. Nous avons proposé des nouvelles règles mathématiques permettant d’agréger les confiances en s’appuyant sur les outils des fonctions de croyance.

 


[1] Guiochet J., Hazard analysis of human–robot interactions with HAZOP–UML. Safety Science, vol. 84, pp. 225-237, 2016. Elsevier

[2] Guiochet J., Do Hoang Q.-A., Kaâniche M., A Model for Safety Case Confidence Assessment. 34th Int. Conference on Computer Safety, Reliability and Security (SAFECOMP-2015), Delft, The Netherlands, 2015

[3] Wang R., Guiochet J., Motet G., W. Schön, Modelling Confidence in Railway Safety Case. Safety Science, 110 part B, pp. 286-299, 2018.

[4] Wang R., Guiochet J., Motet G., Schon W., Safety Case Confidence Propagation Based on Dempster-Shafer theory. Int. Journal of Approximate Reasoning, vol. 107, pp. 46-64, 2019. Elsevier