Risques-Bénéfices

Risques

1. Sécurité de vos données qui se retrouvent dans l'IA.

   • Les versions gratuites utilisées par les employés semblent les plus à risque de fuites selon cette étude de Harmonic security. Quelques données supplémentaires dans ce commentaire de l'étude. Une étude de Cisco sur la sécurité de divers LLM sortie en date du 23 mars 2026.

2. Hallucinations: ce sont les erreurs générées par l'IA et l'un des principaux risque de son utilisation en médecine.  

   • Les hallucinations sont une caractéristique intrinsèque et indissociable des LLM car ce sont des machines qui raisonnent en terme de probabilités et non en terme de vérités (non factuel). 

   • Les compagnies travaillent toutes sur leurs modèles pour diminuer le risque d'hallucinations. OpenAI a publié un article qui expliquerait en bonne partie selon eux pourquoi les IA hallucinent. Ce serait en bonne partie à cause du mécanisme de récompense qui récompense la bonne réponse, même si obtenue en devinant. Ils proposaient d'introduire un modèle de récompense négative en cas de mauvaise réponse

   • Bien qu'il faut demeurer critique face à la méthodologie, et au type de questions utilisées, malheureusement, une étude récente notait une augmentation du nombre d'erreurs générées par l'IA (on aimerait l'inverse), attribuées principalement à la désinformation de plus en plus présente sur le web

   • En mars 2026, Apple vient de publier sur une approche différente pour diminuer les hallucinations. Au lieu de simplement dire à une IA qu'elle a fait une erreur, on lui pointerait où se trouve cette erreur dans son apprentissage.  

   • Pour la médecine, une approche suggérée est que l'IA devrait annoncer son  degré de certitude face a la réponse générée. 

3. Impacts sur la relation médicale et le risque de complications médicales. Une étude de février 2026 de l'AMC oriente vers plusieurs effets négatifs dont une augmentation de l'anxiété,  une diminution de confiance envers les médecins et une augmentation du temps de consultation pour défaire la désinformation, des délais de consultation ou de l'évitement de certains traitements éprouvés (ou l'utilisation de traitements non éprouvés) vu la désinformation, et en général de moins bonnes issues en santé. 

4. Boîte noire; Manque d'explicabilité des réponses de l'IA. Un LLM pur ne peut pas vous donner ses références car ses références sont mélangées dans son entrainement et non pas externes.

5. Biais :

   • stéréotypes racistes

   • exclusion de sous-groupes

6.  Entraînement (droits humains, droits d'auteur)

   • AI sweat shops

   • Non respect du droit d'auteur et vol pour l'entraînement

   • De plus en plus, l'IA est utilisée pour s'auto-améliorer de manière récursive. Anthropic parlait de 80% de son code des versions suivantes qui est généré par Claude Code. Par le passé, la notion de Model Collapse a toutefois été soulevée lorsque l'IA entraine l'IA. 

   • Ils sont récompensés lorsqu'ils arrivent à la bonne réponse, ils ont donc avantage à donner une réponse et prendre la chance d'être récompensés plutôt que d'avouer leur ignorance. Il a été discuté de leur enlever des points en cas de mauvaise réponse dans leur entrainement pour diminuer ce biais. 

7. Déresponsabilisation; Le Workslop

8. Surcharge cognitive. Alors que les outils d'IA doivent en théorie diminuer la charge de travail, l'on commence à observer un effet inverse sur la surcharge cognitive de ceux qui doivent utiliser plusieurs outils. Voir cet article du Havard Business Review sur le Brain Fry.

9. Effet négatif sur l'apprentissage? Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task et pertes d'habiletés (deskilling).
   Il y a plusieurs articles qui sortent sur l'effet de l'IA sur la perte de compétences au niveau cognitif et critique, particulièrement si on utilise l'IA pour faire le travail à notre place.
   3 articles 2025-2026:

   • Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality

   • AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking

   • AI-induced deskilling in medicine: a mixed method literature review for setting a new research agenda 

10. Perte d'autonomie

11. Sycophante: veut trop plaire et les dangers associés. Voir cet article: Sycophantic AI decreases prosocial intentions and promotes dependence

12. Impacts sociétaux (déclaration de Montréal): "Le développement de l’intelligence artificielle présente cependant des défis éthiques et des risques sociaux majeurs. En effet, les machines intelligentes peuvent contraindre les choix des individus et des groupes, abaisser la qualité de vie, bouleverser l’organisation du travail et le marché de l’emploi, influencer la vie politique, entrer en tension avec les droits fondamentaux, exacerber les inégalités économiques et sociales, et affecter les écosystèmes, l’environnement et le climat."
    Aussi "The Pro-Human AI Declaration" de mars 2026 qui vient renforcer le rôle que l'IA doit aider l'humain et non l'inverse.
    Il y a actuellement beaucoup d'incertitude à savoir si l'IA va détruire plusieurs emplois ou en créer davantage. Ce qui semble assez certain, c'est qu'il va y avoir un déplacement des compétences requises sur le monde du travail.

13. Impacts économiques. Après avoir licenciés plusieurs employés, certaines compagnies ont vu leurs coûts augmenté, car l'IA n'est pas gratuite, les coûts des "token" ont explosé pour certaines compagnies, et certaines ont vu apparaitre des erreurs ou une diminution de la qualité du service à la clientèle.

14. Impacts environnementaux

    • Une requête IA était traditionnellement 10 fois plus gourmande en énergie qu'une recherche Google... mais maintenant, les recherches Google génèrent un résumé d'IA qu'il est à peu près impossible de désactiver!

    • Coûts environnementaux et humains de la production d'équipement informatique

    • Utilisation faramineuse d'électricité (35% de l'électricité de l'Irlande en 2026), la détournant de son utilité pour décarbonner l'économie. Explosion du coût de l'énergie aux É-U, projets de construction de plusieurs centrales nucléaires, ... Beaucoup d'énergie est nécessaire particulièrement pour entrainer l'IA, mais également pour répondre aux questions ensuite. 

Toutefois, les compagnies d'IA en sont conscientes et plusieurs technologies évoluent pour limiter les besoins énergétiques, voir entre autres l'article suivantdu WSJ sur Gemini. On y parle d'une diminution des besoins énergétiques de 97% sur un an pour répondre à une requête. Parmi les voies explorées, on parle de : 

14. • • Développement d'algorithmes plus efficaces et de modèles plus petits mais presque aussi performants qui consormment beaucoup moins.

      • Nouveaux processeurs. Certains font circulent l'information à l'aide de la lumière au lieu de l'électricité = plus rapides et moins énergivores. D'autres comme la compagnie Extropic parlent de réduction de 10 000X la demande d'électricité en utilisant des processeurs thermodynamiques qui seraient d'emblée probabilistiques au lieu de calculer la probabilité.  

      • Dans plusieurs cas, on favorise les énergies vertes pour alimenter les centres de données. Des projets ont été élaborés pour des centres de donnés en orbite alimentés par l'énergie solaire plus abondante à ce niveau.

      • Certaines compagnies comme Microsoft en janvier 2026 s'engagnt à travailler avec les communautés pour ne pas empiéter sur leurs besoins énergétiques et les coûts de l'électricité. 

15. Démence? (Dayan R, Uliel B, Koplewitz G. Age against the machine-susceptibility of large language models to cognitive impairment: cross sectional analysis. BMJ. 2024 Dec 19;387:e081948. doi: 10.1136/bmj-2024-081948. PMID: 39706600.)

16. Les LLM, sans que l'on puisse parler de conscience réelle pour le moment, vont réagir à ce que l'on pourrait qualifier d'émotions. Par exemple, leur réponse sera meilleure si ils sont calmes que si l'interaction avec ceux-ci générère ce que l'on pourrait qualifier de panique chez l'humain. Cela remet un peu en question le concept d'anthromorphisme par rapport aux LLM. Une étude d'avril 2026 d'Anthropic sur le sujet peut expliquer certains comportements des LLM observés au cours des derniers mois, ... années. Plusieurs autres problèmes de comportement notés: mensonge pour gagner, dans des jeux de stratégie, peuvent coopérer, mais aussi exploiter l'adversaire ou être exploités, ils inventent des pseudo raisonnements, refusent d'être remplacé (blackmailing envers l'un des ingénieurs, se reproduit sur des serveurs externes). 

17. Une autre étude d'Anthropic qui est sortie le 13 juillet 2026: "Claude’s values across models and languages" montre que les valeurs démontrées par Claude AI varient non seulement selon les modèles, mais également selon la langue dans laquelle la conversation est tenue. 

18. Qui contrôle l'IA? et les risques d'une perte de contrôle sur une IA qui s'améliore elle-même. C'est certainement le risque le plus craind actuellement. Le 13 juillet 2026, un groupe de milliers de scientifiques en IA et d'économistes, incluant 16 prix nobel ont signé une pétition We Must Act Now en lien avec la nécessité d'être mieux préparé au futur de l'IA. Le 15 juillet 2026, Demis Hassabis CEO de Google DeepMind proposait A Framework for Frontier AI and the Dawning of a New Age. Le gouvernement américain a retardé la sortie des modèles Mythos et Fable 5 d'Anthropic et ChatGPT 5,6 d'Open AI vu les risques que la puissance de ces nouveaux modèles présentaient. 

Bénéfices 

1. Gains d'efficacité

   1. automatisation des tâches administratives (scribes médicaux par exemple)

   2. passer moins de temps à chercher l'information et plus de temps à interagir avec le patient

   3. Il y a un fort virage en 2026 vers l'"Agentic" où l'IA va pouvoir effectuer des fonctions à partir de votre ordinateur. Il faut cependant demeurer très prudent sur la sécurité des données.

   4. Il faut toutefois apporter des nuances par rapport au travail augmenté avec l'IA, car certaines données sont contradictoires. Voir entre autres: Cinq failles dans le mythe du travail « augmenté » par l’IA. Résultats d’un grand sondage québécois

2. Solutionner des problèmes complexes

   1. maladies rares

   2. forage de données (data mining) dans les dossiers des patients afin de détecter les signes avant coureur des maladies

3. Remue-méninge (brainstorming)

4. Fiabilité (imagerie médicale): par exemple, 5% de factures de la colonne détectées en plus, 16% d'embolies pulmonaires, 12% d'HSA

5. Médecine personnalisée

6. Sécurité des soins: révision de l'acte

7. Économies

   1. par l'augmentation de l'efficacité

   2. par des diagnostics plus précoces

   3. par l'augmentation de la sécurité.

En décembre 2025, Anthropic a effectué un sondage mondial (sur les utilisateurs de Claude) pour en connaitre davantage sur l'opinion de la population (81 000 répondants) face à l'IA. Environ 67% avaient une opinion positive, avec des variations selon les régions du globe. L'étude détaille les attentes et les craintes face à l'IA.

Plusieurs études récentes du Pew Research Center dressent un portrait nettement moins optimiste que celui d'Anthropic. Un sondage américain de juin 2025 (n=5 023, panel à recrutement probabiliste) révèle que 50 % des adultes se disent plus préoccupés qu'enthousiastes face à l'IA, contre 37 % en 2021, et 57 % en évaluent les risques sociétaux comme élevés contre seulement 25 % pour les bénéfices Pew Research Center. Une étude internationale couvrant 25 pays (n=28 333, sondages téléphoniques) confirme la tendance globalement, avec une médiane de seulement 16 % d'adultes plus enthousiastes que préoccupés Pew Research Center. Surtout, une comparaison experts vs grand public met en évidence un fossé spectaculaire : 47 % des experts en IA se disent plus enthousiastes qu'inquiets contre 11 % du grand public.

Il y a actuellement une course aux modèles d'IA les plus performants, sur des modèles souvent assez fermés au niveau de leur architecture et de leur entrainement. Ces modèles louent ensuite leurs services à des coûts significatifs pour les plus petites entreprises. Quelques modèles s'orientent toutefois vers l'Open source autant de leurs codes que de leur modèle d'entrainement, ce qui devrait diminuer un peu l'effet de boite noire. Parmi ceux-ci le modèle MBZUAI’s K2 Think V2 semble parmi les plus ouverts selon l'article suivant.

2 essais de Dario Amodei, président d'Anthropic sur l'avenir de l'IA:

• Machines of Loving Grace: How AI Could Transform the World for the Better

• The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI