Titre complet : Génération de données pour l'évaluation de mécanismes de surveillance à l'exécution de réseaux de neurones

Mots clés : Informatique, intelligence artificielle, machine learning, génération de données, safety monitoring
Technologies : Python, frameworks IA
Lieu : LAAS-CNRS, Toulouse
Niveau : Master 2
Durée : 6 mois
Profil recherché : Informatique, IA
Salaire : environ 600 euros par mois
Encadrants : Jérémie Guiochet, Mathieu Dario

Description du sujet

L'intelligence artificielle (IA) est aujourd'hui utilisée dans un nombre croissant d'applications critiques, comme les véhicules autonomes ou la robotique chirurgicale. Dans ces systèmes, les tâches de perception reposent largement sur l'utilisation de réseaux de neurones profonds (DNNs). Cependant, leur utilisation reste limitée car le comportement de ces composants n'est pas garanti et pose des problèmes de fiabilité et de sécurité. Les mécanismes de surveillance à l'exécution (moniteurs) figurent parmi les approches prometteuses pour pallier à ces défauts. Leur rôle est de surveiller en continu le réseau pour prévenir et détecter toute erreur potentielle.

On distingue principalement deux familles de moniteurs : les moniteurs basés sur des règles, qui vérifient la satisfaction de propriétés de sûreté, et les moniteurs basés sur des données, qui sont eux-mêmes construits par apprentissage (et donc souvent avec des réseaux de neurones). Il est crucial de pouvoir évaluer les performances de ces moniteurs, notamment lors de situations pouvant amener le réseau de neurones principal à réaliser de mauvaises prédictions. Cela pose la question des données à utiliser pour cette évaluation : comment les collecter, comment les générer, et comment couvrir à la fois des situations nominales et des situations dites anormales. L'objectif du stage est de travailler sur la création de ces données et de mettre en place le dispositif permettant de tester un ou plusieurs moniteurs fournis par la communauté IA.

Le stage s'inscrit dans un cas d'étude lié à l'aviation, basé sur le dataset LARD (Landing Approach for Runway Detection). Ce corpus contient près de 17 000 images réelles et synthétiques représentant différentes phases d'approche d'avions sur plusieurs aéroports. Il offre également la possibilité d'être enrichi par génération de nouvelles données réelles mais aussi simulées (via des simulateurs comme Google Earth Studio). Le stage s'articulera donc autour de deux axes principaux : la génération de trajectoires visuelles réalistes (nominales ou pouvant provoquer des défaillances) en s'appuyant sur des outils du LAAS couplés avec l'outil LARD, et la mise en place d'une architecture de test pour évaluer un ou plusieurs moniteurs issus de la littérature.

* * Candidater
To apply, please upload your CV, cover letter and transcripts (marks) of the last 2 years on the website.