Directeur de Recherche, CNRS, IHPST (CNRS et Univ. Paris 1) & Chapman University.

Abstract : In my talk, I'll present a compendium of the work made together with D. Napoletani and D. Struppa on "agnostic science" in data analysis. After explaining what we mean by this term, by insisting, in particular, on what makes us speak of lack of understanding (of phenomena), I'll focus on the new modality of mathematisation that goes with agnostic science, and advance a tentative explanation of what makes the latter successful (when it is so).

Head of Research and Development & Group Chief Data Scientist at AXA

Abstract : Le développement et la diversification des applications d'IA et de ML a mis au coeur des débats publics, industriels et légaux les discussions concernant leur utilisation responsable. L'automatisation de la prise de décisions par ces systèmes, de plus en plus complexes, soulève en effet de nombreuses questions quant à leur transparence, fiabilité et impartialité: ces modèles sont-ils fiables au cours du temps ? Comment identifier leurs limites et défauts ? Comment rendre compréhensibles leurs décisions afin de faciliter leur utilisation et contrôle ? Comment prouver à un régulateur, et plus généralement à la société que des modèles d'IA utilisés en production ne présentent pas un risque pour les clients, les entreprises et les organisations elles-mêmes, ainsi que pour la société en général ?

Dans cette présentation, Marcin Detyniecki (Group Chief Data Scientist d’AXA et CNRS) abordera différents aspects de l'usage responsable des systèmes d'IA, en revenant sur son expérience de la création de l’équipe de R&D d’AXA dédiée au sujet : les avancées scientifiques réalisées, mais aussi les différentes interactions avec les data scientists, les fonctions métiers, les chefs d’entreprise et les régulateurs (OCDE, gouvernements, etc.). Enfin, seront discutées les perspectives vis-à-vis de l’IA responsable en termes de régulation, les enjeux pour les entreprises, l’évolution du rôle du data scientist et surtout les défis scientifiques posés aujourd’hui pour la recherche dans le domaine.