The Alignment Problem in AI : How can we guaranty a machine behavior consistent with our goals and values ?

Résumé

Cette question recouvre tout d'abord un problème de sûreté de fonctionnement et de sécurité; lequel est présent dans tout système technique, mais se pose en termes spécifiques
en IA du fait des modalités d'apprentissage, d'interaction en langage naturel, des capacités
cognitives croissantes et de faible contrôlabilité. Se pose également un problème d'alignement éthique, que les possibilités d'IA agentique autonome amplifient. Le séminaire illustrera les modalités de dysfonctionnement, les possibilités de mitigation et les problèmes ouverts d'alignement éthique de l'IA.

Abstract

Part of the AI Alignement problem is about classical safety and security issues, as in other technical systems; but these issues are quite specific here because of machine learning mechanisms, natural interaction modalities, advanced cognitive abilities, and low controllability. Moreover there is an ethical alignment problem, made more critical with the development of autonomous agentic AI. The talk will illustrate the safety and security issues, their possible mitigation, and the open problem of AI ethical alignment.