Avantages-inconvénients

Inconvénients

1. Entraînement (droits humains, droits d'auteur)

   1. AI sweat shops

   2. Non respect du droit d'auteur et vol pour l'entraînement

   3. Il semblerait qu'on ne puisse pas utiliser l'IA pour entraîner l'IA (model collapse)

2. Impacts sociétaux (déclaration de Montréal): "Le développement de l’intelligence artificielle présente cependant des défis éthiques et des risques sociaux majeurs. En effet, les machines intelligentes peuvent contraindre les choix des individus et des groupes, abaisser la qualité de vie, bouleverser l’organisation du travail et le marché de l’emploi, influencer la vie politique, entrer en tension avec les droits fondamentaux, exacerber les inégalités économiques et sociales, et affecter les écosystèmes, l’environnement et le climat."

3. Impacts environnementaux

   1. Une requête IA était traditionnellement 10 fois plus gourmande en énergie qu'une recherche Google... mais maintenant, les recherches Google génèrent un résumé d'IA qu'il est à peu près impossible de désactiver!

   2. Coûts environnementaux et humains de la production d'équipement informatique

   3. Utilisation faramineuse d'électricité (35% de l'électricité de l'Irlande en 2026), la détournant de son utilité pour décarbonner l'économie. Explosion du coût de l'énergie aux É-U, projets de construction de plusieurs centrales nucléaires, ... Beaucoup d'énergie est nécessaire particulièrement pour entrainer l'IA, mais également pour répondre aux questions ensuite. 

Toutefois, les compagnies d'IA en sont conscientes et plusieurs technologies évoluent pour limiter les besoins énergétiques, voir entre autres l'article suivantdu WSJ sur Gemini. On y parle d'une diminution des besoins énergétiques de 97% sur un an pour répondre à une requête. Parmi les voies explorées, on parle de 

3. 4. Développement d'algorithmes plus efficaces et de modèles plus petits mais presque aussi performants qui consormment beaucoup moins.

   5. Nouveaux processeurs qui font circulent l'information à l'aide de la lumière au lieu de l'électricité = plus rapides et moins énergivores.

   6. Dans plusieurs cas, on favorise les énergies vertes pour alimenter les centres de données.

4. Hallucinations; n'exprime pas son degré de certitude, risque d'erreur.

   1. Les hallucinations sont une caractéristique intrinsèque et indissociable des LLM car ce sont des machines qui raisonnent en terme de probabilités et non en terme de vérités

   2. Les compagnies travaillent sur des modèles pour diminuer le risque d'hallucinations. OpenAI a publié un article qui expliquerait en bonne partie selon eux pourquoi les IA hallucinent. Ce serait en bonne partie à cause du mécanisme de récompense qui récompense la bonne réponse, même si obtenue en devinant.

5. Boîte noire

6. Biais :

   1. stéréotypes racistes

   2. exclusion de sous-groupes

7. Manque d'explicabilité des réponses de l'IA. Un LLM pur ne peut pas vous donner ses références car ses références sont mélangées dans son entrainement et non pas externes. 

8. Déresponsabilisation; Le Workslop

9. Effet négatif sur l'apprentissage? Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

10. Perte d'autonomie

11. Démence? (Dayan R, Uliel B, Koplewitz G. Age against the machine-susceptibility of large language models to cognitive impairment: cross sectional analysis. BMJ. 2024 Dec 19;387:e081948. doi: 10.1136/bmj-2024-081948. PMID: 39706600.)

12. Plusieurs problèmes de comportement notés ces derniers mois chez certaines IA: mensonge pour gagner, invente des pseudo raisonnements, sycophante au point d'être dangereux, refuse d'être remplacé (blackmailing envers l'un des ingénieurs, se reproduit sur des serveurs externes). 

Avantages

1. Gains d'efficacité

   1. automatisation des tâches administratives (scribes médicaux par exemple)

   2. passer moins de temps à chercher l'information et plus de temps à interagir avec le patient

2. Solutionner des problèmes complexes

   1. maladies rares

   2. forage de données (data mining) dans les dossiers des patients afin de détecter les signes avant coureur des maladies

3. Remue-méninge (brainstorming)

4. Fiabilité (imagerie médicale): par exemple, 5% de factures de la colonne détectées en plus, 16% d'embolies pulmonaires, 12% d'HSA

5. Médecine personnalisée

6. Sécurité des soins: révision de l'acte

7. Économies

   1. par l'augmentation de l'efficacité

   2. par des diagnostics plus précoces

   3. par l'augmentation de la sécurité.