Présentation des ateliers
Les détails de chaque atelier sont susceptibles de changer, mais le sujet de chaque atelier restera le même. Veuillez également noter qu’il n’y aura pas de cours le 21 octobre et le 25 novembre.
7 octobre de 19h à 20h30
Sujet
Quand devrions-nous utiliser l'intelligence artificielle? Comment l'intégrer de manière responsable à notre quotidien? Comment assurer un suivi une fois un outil déployé? Et comment éviter le délestage cognitif?
Cet atelier introduit plusieurs outils simplifiés pour appliquer une procédure méthodique permettant d'évaluer quand l'IA constitue un outil pertinent, les étapes de la gestion de projet et un suivi à long terme. À noter que la méthodologie de la gestion de projet présentée lors de cette formation suivra celle du Project Management Institute.
Outils présentés
Grille de décision sur la collaboration humaine-IA;
Cadre de gestion de projet PMI-CPMAI™ et les 7 modèles;
Liste d’évaluation de l’intelligence artificielle digne de confiance (ALTAI) pour l’autoévaluation;
Méthodologie de suivi à long terme basée sur le NIST AI RMF.
Discussion
Dans ce premier atelier, on discutera de la manipulation et de la persuasion de l'IA. On regardera un exemple de discussion entre un utilisateur et une IA ont dévié de la réalité. On discutera des pivots dans conversations et regardera comment on peut éviter une telle situation. On discutera de la théorie psychologique derrière la persuasion des IA. Finalement, on reportera cette situation à la situation quand un humain joue le rôle de vérificateur. Comment éviter qu'il soit influencé?
Dans une seconde mise-en -situation, on regardera la perte d'autonomie d'un humain après qu'il est de plus en plus utilisé un IA jusqu'au point il a délesté le jugement de sa propre à une IA.
14 octobre de 19h à 20h30
Sujet
Si une IA permet de sauver des vies, existe-t-il une limite éthique qu'elle ne devrait jamais franchir? Cet atelier présente les dix principes fondamentaux de l'éthique de l'intelligence artificielle proposés par l'UNESCO. Les participants découvriront comment ces principes peuvent servir de cadre d'analyse pour évaluer les bénéfices, les risques et les responsabilités associés à un projet d'IA. Des outils simples seront également introduits afin de structurer une réflexion sur l'impact éthique d'un projet.
Principes fondamentaux
Principes de proportionnalité et d’innocuité;
Sûreté et sécurité;
Droit au respect de la vie privée et protection des données;
Gouvernance et collaboration multipartites et adaptatives;
Responsabilité et redevabilité;
Transparence et explicabilité;
Surveillance et décision humaines;
Durabilité;
Sensibilisation et éducation;
Équité et non-discrimination.
Discussion
À partir de mises en situation inspirées de cas réels, les participants seront amenés à débattre de dilemmes où plusieurs valeurs entrent en conflit. Les scénarios évolueront progressivement vers des situations plus extrêmes afin d'explorer où se situent les limites de nos principes éthiques.
28 octobre de 19h à 20h30
Sujet
Ce troisième atelier sera consacré au dernier des dix principes fondamentaux de l'éthique de l'IA recommandés par l'UNESCO : l'équité et la non-discrimination.
Nous commencerons par explorer les différents types de biais qui peuvent affecter un système d'IA, la manière dont ils sont introduits dans les modèles et pourquoi ils peuvent persister même sans intention discriminatoire.
Dans un deuxième temps, nous verrons comment identifier, prévenir et réduire les biais à chacune des cinq étapes d'un projet d'IA, de son initiation jusqu'à son suivi après le déploiement.
Outils présentés
Méthodologie de réflexion structurée pour identifier et prévenir les biais à chacune des étapes de la gestion de projet.
Carte des biais et grille d'impact différentiel pour analyser les populations susceptibles d'être avantagées ou désavantagées par un système d'IA.
Outils en ligne d'évaluation des modèles d'IA pour explorer, tester et détecter certaines formes de biais dans des systèmes existants.
Discussion
À partir de mises en situation inspirées de cas réels, les participants seront amenés à débattre de dilemmes où plusieurs valeurs entrent en conflit. Les scénarios évolueront progressivement vers des situations plus extrêmes afin d'explorer où se situent les limites de nos principes éthiques.
4 novembre de 19h à 20h30
Sujet
Les modèles d'intelligence artificielle sont conçus pour produire des réponses utiles, non biaisées et factuelles, mais leur manière d'être entraînés peut parfois conduire à des comportements inattendus voire dangereux. Ce phénomène, souvent associé au concept de désalignement, soulève une question fondamentale : comment s'assurer qu'une IA poursuit réellement les objectifs que nous lui donnons?
Nous explorerons plusieurs comportements observés dans les systèmes d'IA actuels, notamment :
Concepts clés
Le désalignement
La sycophantie (tendance à flatter ou à confirmer l'utilisateur)
Les hallucinations
Les mensonges et les comportements trompeurs
La préservation de soi (dans le contexte des recherches sur l'alignement)
Les comportements émergents
L'évaluation et le contrôle des modèles
Outils présentés
Introduction à des outils d'évaluation (Giskard, DeepEval, Inspect AI, Perplexity)
Introduction aux méthodes d'évaluation des modèles (red teaming, benchmarks et tests de robustesse)
Discussion
À travers des mises en situation inspirées de situations réelles, de recherches récentes et de scénarios prospectifs, nous discuterons jusqu'où ces comportements pourraient évoluer.
Parmi les questions abordées :
Peut-on réduire ces risques avant le déploiement d'une IA?
Comment évaluer si un modèle est réellement fiable?
Jusqu'où pouvons-nous conserver le contrôle sur des systèmes de plus en plus performants?
À partir de quel moment un comportement inattendu devient-il un risque pour la société?
Les scénarios évolueront progressivement, de situations réalistes à des hypothèses plus extrêmes, afin d'explorer les limites de notre capacité à superviser l'intelligence artificielle.
11 novembre de 19h à 20h30
Sujet
L’intelligence artificielle transforme progressivement notre façon de travailler. Elle peut automatiser certaines tâches, modifier nos façons de communiquer et influencer les décisions prises dans les organisations.
Nous examinerons comment l’IA transforme le travail au quotidien, nos relations avec nos collègues et nos gestionnaires, ainsi que les décisions prises au sein des organisations. Nous aborderons également les transformations possibles du marché du travail et des compétences recherchées.
L’objectif n’est pas de prédire quels emplois disparaîtront, mais de comprendre comment la nature du travail peut évoluer lorsque certaines tâches intellectuelles sont progressivement confiées à l’IA.
Thèmes
L’IA dans le travail quotidien : automatisation des tâches, rédaction, recherche, analyse et délestage cognitif;
Les communications et les relations de travail : messages générés par l’IA, authenticité, confiance et nouvelles façons de collaborer;
L’IA dans la prise de décision : recrutement, évaluation, gestion de la performance, attribution des tâches et recommandations aux gestionnaires;
L’évolution des compétences : quelles compétences deviennent plus importantes lorsque certaines tâches sont automatisées?
Le marché du travail : transformation des emplois, productivité, création et disparition de certaines tâches et répartition des gains liés à l’IA.
Discussion
À partir de mises en situation, nous examinerons progressivement différentes façons dont l’IA pourrait transformer une journée de travail et une carrière.
À quel moment l’IA cesse-t-elle simplement de nous aider à travailler pour commencer à influencer notre façon de travailler, nos décisions et nos relations avec les autres?
Nous discuterons également de la question suivante :
Si l’IA permet d’accomplir davantage de travail avec moins de personnes, qui devrait bénéficier de cette augmentation de productivité?
18 novembre de 19h à 20h30
Sujet
L’intelligence artificielle fait déjà partie de l’environnement dans lequel grandissent les jeunes. Elle occupera une place importante dans leur façon d’apprendre, de créer, de communiquer et d’accéder à l’information. Elle transformera également profondément le monde dans lequel ils vivront et travailleront.
Nous examinerons les transformations que l’IA pourrait entraîner pour la prochaine génération, ainsi que les responsabilités qui accompagnent ces changements. Quels usages devrions-nous encourager? Lesquels devrions-nous encadrer? Et quelles capacités humaines devons-nous continuer à développer malgré la présence croissante de l’IA?
Nous aborderons à la fois les possibilités offertes par l’IA et les risques qu’elle peut représenter pour le développement cognitif, la créativité, l’esprit critique, la vie privée et les relations sociales.
Thèmes
L’IA à l’école et dans les devoirs : apprentissage, tricherie, aide personnalisée et nouvelles façons d’évaluer les connaissances;
Le délestage cognitif et la perte d'autonomie : que se passe-t-il lorsque nous confions progressivement notre réflexion et notre création à l’IA?
Les relations sociales et les compagnons d’IA : peut-on développer un attachement à une IA? Qu’est-ce qui distingue une relation avec une personne d’une relation avec une machine?
Réseaux sociaux, données et vie privée : quelles informations les jeunes partagent-ils avec des systèmes qui peuvent les conserver, les analyser et les utiliser pour personnaliser leur expérience?
Développer l’esprit critique face à l’IA : comment apprendre à remettre en question ce que l’IA produit plutôt qu’à lui faire confiance automatiquement?
Discussion
Quelle place voulons-nous donner à l’IA dans la vie des jeunes et dans la société de demain?
Devons-nous limiter leur accès à l’IA, l’interdire dans certains contextes, ou plutôt leur apprendre à vivre avec cette technologie de façon responsable?
À partir de mises en situation, nous explorerons les tensions entre protection, autonomie et développement, et réfléchirons aux conséquences que nos choix collectifs actuels pourraient avoir sur la prochaine génération.
2 décembre de 19h à 20h30
Sujet
Cet atelier propose un survol des principaux cadres juridiques qui encadrent l’utilisation de l’intelligence artificielle au Québec, au Canada, aux États-Unis et en Europe, ainsi que de quelques initiatives internationales.
Principaux cadres juridiques et réglementaires
Canada et Québec
Protection des renseignements personnels : LPRPDE/PIPEDA
Loi 25 du Québec et protection des renseignements personnels
Réglementation concernant les décisions automatisées
Projet de loi C-36 et évolution du cadre canadien sur l'IA
Union Européenne
AI Act
États-Unis
Situation actuelle et approche réglementaire
L’exemple de la Californie
Cadres internationaux
UNESCO
OCDE
ONU
Discussion
À qui revient la responsabilité lorsqu’un système d’IA commet une erreur grave ou cause un préjudice, par exemple en défavorisant systématiquement un groupe de personnes?
À partir de mises en situation, nous examinerons notamment le partage des responsabilités entre le développeur, le fournisseur, l’organisation qui utilise l’IA et les personnes qui prennent les décisions.
Nous examinerons également le cas d’une même entreprise qui utilise un système d’IA dans plusieurs pays soumis à des exigences réglementaires différentes.
9 décembre de 19h à 20h30
Sujet
Nous examinerons les différentes philosophies et approches adoptées par les régions du monde pour encadrer l’intelligence artificielle, ainsi que leur état d’avancement.
Une comparaison permettra notamment d’examiner les différences entre les approches fondées sur le risque, la réglementation sectorielle, l’autorégulation et le contrôle étatique.
Nous réfléchirons également aux tensions entre innovation, sécurité, droits fondamentaux, souveraineté nationale et compétitivité économique.
Discussion
À partir des différentes approches étudiées, nous tenterons de concevoir les grandes lignes d’un nouveau modèle de gouvernance internationale de l’IA.
Comment établir des règles communes entre des pays qui n’ont pas les mêmes intérêts, les mêmes valeurs ni le même niveau de développement technologique?
Comment éviter qu’une compétition entre les pays pour attirer les entreprises et développer l’IA ne pousse les gouvernements à réduire leurs exigences réglementaires?
Jusqu’où les pays devraient-ils être prêts à céder une partie de leur souveraineté afin d’établir des règles communes?