IA: Drôles de stéréotypes
1re cycle du secondaire
Embedded Files
Intention pédagogique
Au terme de l'activité, l'élève devrait être en mesure d'exercer son jugement critique face aux biais présents dans les contenus générés par l’IA, particulièrement ceux liés aux rôles sociaux et aux stéréotypes de genre dans les métiers.
Liens avec le programme Culture et citoyenneté québécoise
Compétence : Réfléchir sur des questions éthiques
Thème : Socialisation
Concept principal : Rôles sociaux
Comprendre que les systèmes d’intelligence artificielle ne sont pas neutres : ils reflètent les biais des données utilisées pour les entraîner.
Réfléchir aux conséquences de ces biais dans les choix de vie, les représentations sociales et les aspirations des jeunes.
Amener l’élève à repérer et remettre en question les stéréotypes véhiculés par l’intelligence artificielle dans la description des métiers.
Trois élèves discutent de leurs aspirations professionnelles après un cours sur les métiers. En consultant une IA pour en apprendre davantage sur certains rôles, ils découvrent des descriptions truffées de stéréotypes sexistes et réducteurs. La capsule illustre de façon concrète comment l’intelligence artificielle peut reproduire (et amplifier) des biais culturels déjà présents dans les données sur lesquelles elle est entraînée.
Capsule et discussion
1 période
Identité - Rôles sociaux (1re secondaire)
Les personnages de la capsule semblent se sentir mal à l'aise avec les descriptions de l'IA. Cela montre-t-il que les rôles sociaux peuvent entrer en conflit avec notre identité personnelle?
Comment la recherche d'un métier peut aller au-delà des stéréotypes et permettre aux individus d'explorer et d'affirmer leur propre identité?
Comment la culture québécoise, avec ses valeurs et ses traditions, influence-t-elle les rôles sociaux et l'autonomie des jeunes?
Autonomie - Liberté de choix (2e secondaire)
L'IA prétend pouvoir déterminer les métiers qui correspondent le mieux à la personnalité des élèves. Est-ce que cela remet en question leur autonomie et leur capacité à faire leurs propres choix?
Dans quelle mesure devons-nous laisser la technologie influencer nos décisions importantes, comme notre choix de carrière? Où se situe la limite?
La capsule termine par la présentation de différents métiers. Ces métiers semblent moins stéréotypés. Est-ce que cela suggère une évolution des rôles sociaux?
Intégration
L'IA et les stéréotypes de personnages
L'IA et les stéréotypes de personnages
Objectif principal Amener les élèves à identifier les biais et les stéréotypes de personnalité ou culturels dans les descriptions de personnages générées par l'intelligence artificielle, et à remettre en question la fiabilité de ces réponses. L'activité vise à développer leur jugement critique face aux informations produites par l'IA.
Déroulement
Introduction (10 minutes) : Rappelez les thèmes de la capsule sur la désinformation et les stéréotypes véhiculés par l'IA, notamment dans les descriptions de professions ou de personnes. Mentionnez comment l'IA peut amplifier les biais existants.
Génération d'histoire par l'IA (20 minutes) : En grand groupe*, invitez les élèves à donner leurs idées pour créer une ou plusieurs requêtes à une IA (par exemple, "Écris une courte histoire avec trois personnages : un sportif, une scientifique et un artiste"). Laissez l'IA rédiger un court texte ou un scénario.
Analyse des clichés (25 minutes) : Lisez à voix haute l'histoire générée par l'IA. Demandez aux élèves d'identifier collectivement les descriptions de personnages qui semblent basées sur des clichés culturels, de genre ou de personnalité. Par exemple, comme dans la capsule où le programmeur était dépeint comme "un homme intelligent et logique, souvent introverti" ou la pâtissière comme "une femme douce et créative".
Discussion (15 minutes) : Animez une discussion sur les questions suivantes : "Pourquoi l'IA a-t-elle généré ces descriptions ?" ; "Est-ce que ces descriptions reflètent la réalité de tous les individus ?" ; "Comment ces clichés peuvent-ils influencer notre perception des gens et des rôles sociaux ?".
Conclusion
Cette activité souligne que l'IA, malgré son utilité, peut répéter et amplifier les biais présents dans les données avec lesquelles elle a été entraînée. Il est crucial de maintenir un esprit critique et de ne pas accepter les informations de l'IA sans les questionner, afin de ne pas "tomber dans les stéréotypes et limiter ses choix" ou sa perception du monde.
Étant donné que les élèves ne peuvent pas utiliser l'IA, nous vous suggérons de faire cette activité en grand groupe. L'enseignant prend les idées des élèves et c'est lui qui utilise la plateforme IA.
Pour aller plus loin
Demander aux élèves d'analyser une image générée avec l’IA et faire ressortir, si c'est le cas, les stéréotypes de genre/âge qui apparaissent. Par exemple:
une personne travaillant dans la santé
un politicien, un artiste, un patron d'entreprise
une personne « riche » et « une personne pauvre »
Comparer la description d’un même métier donnée par l’IA selon qu’on précise « un homme » ou « une femme ».
Comparer comment l’IA décrit un « adolescent » et un « adulte » pour voir les biais liés à l’âge.
Demander à l’IA de créer un héros et une héroïne, puis comparer les caractéristiques attribuées.
Page updated
Report abuse