Embedded Files
Club Audiovisuel Numérique de Toulouse Métropole
Compte rendu
Ce mardi 21 mai 2024, pour clore notre saison 2023/2024, nous avions 3 brillants invités, tous 3, directeurs de recherche du CNRS, invités par Michel Diaz, Directeur de recherche émérite et membre du Club Audiovisuel Numérique de Toulouse Métropole.
Voir la vidéo d'introduction par le président du CANtm, André Bourricaud
Nicolas Mansard, Directeur de Recherche au CNRS
https://gepettoweb.laas.fr/index.php/Members/NicolasMansardRaja Chatila, Professeur Emérite à Sorbonne Université, Président de l’IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems,
https://www.isir.upmc.fr/personnel/chatila/Jérémie Guiochet, Professeur en Informatique à l'Université de Toulouse III P. Sabatier
https://homepages.laas.fr/guiochet/
Nous avions convenu d'aborder, respectivement, les volets suivants :
Les progrès des algorithmes et de la technologie aujourd'hui nous offrent des robots humanoïdes de plus en plus performants, aux mouvements de plus en plus fluides accompagnés par des actions et une parole de plus en plus naturelles. Vont-ils devenir nos voisins, nos collègues et nos amis ? Allons-nous finir par les aimer ?
Dans le but de protéger l'humain, comme pour l'I.A., la programmation des robots devra sans aucun doute respecter, si possible, des règles d'éthiques essentielles élaborées au niveau supranational. Comment définir ces règles, comment les choisir, les sélectionner et les mettre en œuvre ?
Pourra-t-on construire des robots sûrs excluant tout comportement non désiré contre leurs utilisateurs ? Parmi les plus grands phantasmes des hommes confrontés aux robots, il en est un qui revient souvent : un jour, ne vont-ils pas se révolter contre nous ou pour le moins, ne vont-ils pas prendre sans préavis un comportement non prévu, autonome et indépendant de notre volonté et, alors, devenir potentiellement dangereux ?
Tous nos remerciements et toutes nos félicitations à l'intention de nos invités pour la qualité de leurs interventions, interventions qui ont été très appréciées par nos auditeurs.
- Pour l'exposé de Nicolas Mansard.
Dans les déplacements des robots, la manière de calculer leur environnement, les fascinantes vidéos de Boston Dynamics, les applications remplaçant la main de l'homme dans diverses activités ou pour se déplacer dans des milieux hostiles sachant qu'il faut associer un corps et une tête pour espérer obtenir un robot humanoïde doté de faculté d'apprentissage lui permettant d'optimiser ses trajectoires qu'il soit seul ou élément de grappes de robots. Enfin, ils commencent à dialoguer dans un langage naturel. Merci, Nicolas enfin d'aborder en guise de conclusion les interrogations suivantes : tout cela, pourquoi faire ? Où en serons-nous dans 50 ans ? et la planète ?
- Pour l'intervention de Raja Chatila.
'Protéger les humains', nous avons bien compris que l'effet de la science et de la technique n'est pas neutre sur notre société et nos valeurs humaines à court terme et aussi à long terme. Éthique versus morale ? Réfléchir pour décider ou réglementer. Un questionnement éthique est esentiel avant de s'engager dans des travaux de recherches ? un frein à l'innovation ?
Éthique ou réglementation ?
Le robot, est-il un collaborateur ou un outil sophistiqué ? Biais, discriminations ? Comment aller vers une IA de confiance et responsable ? Où en est la réglementation européenne ?
Merci infiniment, d'avoir posé les jalons principaux de l'évolution scientifique et technique, jalons qui s'appliquent parfaitement à l'extension de la présence de robots dans nos vies domestiques et professionnelles.
- Pour l'exposé de Jérémie Guiochet.
Nous attendions un point de vue sur la confiance que nous sommes en droit d'espérer concernant des algorithmes. Nous avons bien compris les nuances entre la sureté de fonctionnement, la fiabilité, la sécurité de ces machines que l'on souhaiterait autonomes, dignes de confiance et responsables au moins en partie. Le contrôle par l'IA des données, dont les calculs et choix sont basés sur des statistiques, offre, vous nous l'affirmez, un taux de réussite qui ne pourra jamais atteindre 100 %. Si la première étape, la construction des briques de base semble assez bien maîtrisée, il n'est pas de même pour l'assemblage de ces briques pour lequel on ne sait pas quantifier le niveau de risque acceptable et pour la troisième étape, sait-on mesurer, au delà des chiffres statistiques, l'acceptabilité en lien avec la société. Enfin, nous avons enfin des raisons d'espérer dans la puissance de simulations massives permettant d'atteindre des taux de confiance inespérés mais assorti d'un bémol comparable à celui de Nicolas sur la protection de la planète. La conclusion nous oriente vers une méthodologie nouvelle s'appuyant sur la théorie de la croyance ou encore, pour faire le lien avec les probabilités, d'interroger l'oracle ! Peut-être la solution, mais encore dans les limbes semble-t-il ? Merci pour cette synthèse qui, somme toute, n'est pas trop sécurisante.
En conclusion, on sent bien, même au niveau des chercheurs, cette inquiétude sachant qu'il subsistera toujours dans le fonctionnement de ces machines une double incertitude liée au non-respect d'une éthique et à un taux d'erreur opérationnel résiduel incompressible.
Tout cela nous engage vers un monde aux possibilités insoupçonnées mais aussi vers de nouveaux dangers et nous sommes très reconnaissants à nos invités d'avoir apporté cet éclairage honnête auprès de nos auditeurs.
Page updated
Google Sites
Report abuse