Systèmes autonomes critiques

Les enjeux sur la sûreté des systèmes autonomes sont majeurs : le déploiement de voitures sans conducteur et de toutes sortes de robots avancés dépend des solutions que l’on pourra apporter. Les travaux de l'équipe s'intéressent aux méthodes d'analyse de tels systèmes.


L’équipe TRUST s’intéresse plus particulièrement aux méthodes de vérification aussi bien pré-déploiement (vérification formelle [1], test en simulation [2,3]) que post-déploiement (surveillance et contrôle à l’exécution [4, 5]).

Un problème transverse à ces méthodes est le choix de formalismes adaptés à la modélisation des couches logicielles. Certains langages de spécification existent déjà, comme le framework GenoM développé par l’équipe RIS du département ROB pour la couche fonctionnelle, mais d’autres restent à développer (ex : architecture basée sur les skills [6]). Ces langages doivent pouvoir être traduits dans des formalismes permettant des vérifications de propriétés au niveau modèle, et également la génération de code de contrôle de ces propriétés au niveau de l’implémentation.

Côté test en simulation, un verrou majeur concerne la complexité des environnements et situations de test à recréer, ce qui pose à la fois des problèmes de modélisation, de génération sous contraintes et de sélection.

Références

[1] Silvano Dal Zilio, Pierre-Emmanuel Hladik, Félix Ingrand, Anthony Mallet, "A formal toolchain for offline and run-time verification of robotic systems", Robotics and Autonomous Systems, Vol. 159, 2023.

[2] Clément Robert, Thierry Sotiropoulos, Hélène Waeselynck, Jérémie Guiochet, SimonVernhes, "The virtual lands of Oz : testing an agribot in simulation", Empirical Software Engineering, Vol. 25, no. 3, pp. 2025-2054, 2020.

[3] Mohamed El Mostadi, Hélène Waeselynck, Jean-Marc Gabriel, "Virtual Test Scenarios for ADAS : Distance to Real Scenarios Matters !", Proc. IEEE Intelligent Vehicles Symposium (IV 2022), pp. 836-841, 2022.

[4] Mathilde Machin, Jérémie Guiochet, Hélène Waeselynck, Jean-Paul Blanquart, Matthieu Roy, Lola Masson, "SMOF : A Safety Monitoring Framework for Autonomous Systems", IEEE Transactions on Systems, Man, and Cybernetics : Systems, vol. 48, no. 5, pp. 702-715, 2018.

[5] Pierre-Emmanuel Hladik, Félix Ingrand, Silvano Dal Zilio, Reyyan Tekin, "Hippo : A formal model execution engine to control and verify critical real-time systems", Journal of Systems and Software, vol. 181, 2021.