Aspects médico-légaux

• Protection de la vie privée, sécurité des données (normes LRPDE ou PIPEDA [en anglais] pour le Canada)

• Responsabilité professionnelle

• Collège des médecins du Québec, Intelligence artificielle

• L’IA et l’exercice de la médecine, ACPM

Risques

• Chaque outil d'IA présente un profil de risque qui lui est propre (p. ex: LLM, imagerie médicale).

• Les données étant essentielles à l'IA, l'utilisation et la conservation potentielle de données confidentielle pose des enjeux.

• L'IA est complexe, opaque et peut halluciner. Les outils et méthodes d'évaluation des systèmes d'IA ne sont pas encore au point.

• Plus un système est autonome et plus les répercussions potentielles sur les usagers sont importants (risque plus élevé).

• Mesures de mitigation: réduire le degré d'autonomie, superviser activement, demander information et transparence de la part des développeurs

• Types de risques et préjudices potentiels en lien avec les soins de santé selon l'ACPM:

  • responsabilité civile

  • protection des renseignements personnels, consentement

  • droits de la personne (en raison des biais potentiels)

  • propriété intellectuelle (risque de plagiat très élevé)

Réglementations

• Importantes lacunes au niveau réglementaire

  • Projet de loi 64 au Québec

    • les organisations doivent informer autrui des décisions rendues par IA

    • à la demande du concerné, les renseignements personnels et les facteurs doivent être rendus disponibles

    • la personne concernée a le droit de faire réviser la décision par un être humain

  • Santé Canada a élargi son pouvoir d'homologation aux logiciels à titre d'instruments médicaux

• L'ACPM suggère des responsabilités pour diverses parties prenantes:

  • Développeurs et fournisseurs

  • Organismes réglementaires

  • Prestateurs de soins: 

    • utiliser les systèmes d'IA afin d'améliorer la prise de décision clinique tout en préservant le jugement

    • formation et éducation

    • intégration des systèmes dans le flux de travail

    • prioriser la sécurité des patients et signaler les incidents

    • utilisateurs éthique (transparence, autonomie, vie privée, consentement)

    • se conformer aux règlements

    • consigner l'utilisation de l'IA dans les dossiers

    • fournir de la rétroaction aux développeurs, fournisseurs et organismes

  • Gestionnaires

  • Associations médicales

En résumé: peu de réglementations et d'importants risques ...

Les aspects médico-légaux de l'utilisation des logiciels de transcription numérique fondés sur l'intelligente de la note (SCRIBE IA)

• Au minimum, le consentement éclairé du patient doit être recueilli avant l'utilisation du scribe IA et colligé au dossier. Il doit informer le patient que: 

  • l'intégralité de l'entrevue réalisée avec le patient est enregistrée

  • la transcription est anonymisée, chiffrée et déposée sur des serveurs sécurisés au Québec

  • les données recueillies sont détruites après un maximum de 48 heures

  • la transcription de l'entrevue est immédiatement transformée en note clinique par l'IA

  • le professionnel de la santé relit la note et la rectifie au besoin avant de la signer et de la déposer au dossier médical électronique du patient

• L'idéal pour se protéger médico-légalement et bien informer le patient est de combiner: 

  • de l'information au patient (bulletin d'information, écran salle d'attente, affiche dans la salle d'attente et les bureaux)

  • un consentement général écrit, qui peut être signé en même temps que l'inscription des patients en GMF 

  • un consentement verbal recueilli par le médecin lors de la rencontre d'un patient et colligé au dossier

Le consentement du patient est essentiel. Il est fortement recommandé d'utiliser un produit québécois. Les avantages potentiels des logiciels québécois sont l'hébergement sur des serveurs au Québec et le respect des normes et lois en vigueur au Québec. Il faut cependant le valider avant de signer un contrat avec le fournisseur. 

• Ressources:

  • ACPM: Réponses aux questions fréquemment posées 

  • CMQ: Les scribes médicaux et les logiciels de transcription

  • Médecin du Québec: Les outils de transcription numérique: ce qu'il faut savoir  

Est-ce que je peux utiliser un robot conversationnel ?

Considérations éthiques de l'IA en éducation médicale

M Gordon, Medical teacher 2024, https://pubmed.ncbi.nlm.nih.gov/38423127/ 

Quelques réflexions sur l'encadrement des futurs employés d'IA