la communauté oubliée:

les Pays en développement

Parmi les groupes sociaux oubliés par les réseaux sociaux, les technologies et l'intelligence artificielle, il y a l'immense communauté formée des citoyens des pays en développement. Cette communauté est pourtant constituée de la majorité des humains sur terre.

L'inclusion des plus démunis doit se faire pour éviter une fracture numérique toujours plus irréparable.

L'UNESCO est préoccupée de cette situation et s'inquiète de l'impact de l'intelligence artificielle sur les populations les plus démunies, la singularité technologique et, ultimement, sur la survie de l'humanité.

Un collectif de l’Unesco, la Commission mondiale d'éthique des connaissances scientifiques et des technologies COMEST [1] indique que:

Des intellectuels influents, comme Stephen Hawking, ont même exprimé la crainte que l’IA ne devienne une menace pour la survie de l’humanité, dans la mesure où elle pourrait prendre le contrôle de bien des aspects de nos vies quotidiennes et de l’organisation de la société.

Il ne s’agit donc pas d’une peur déraisonnable que de s’inquiéter de l’impact de toutes les nouvelles technologies et de l’intelligence artificielle sur notre vie. Dans la même publication du COMEST[1] on retrouve :

Dans le document final de la conférence, intitulé « Interconnecter les ensembles », l’UNESCO s’engage à promouvoir une réflexion, des activités de recherche et un dialogue public éthiques, fondés sur les droits humains, concernant les implications des technologies nouvelles et émergentes et leurs effets potentiels sur la société.

Bien que l’UNESCO ait plus un rôle d’éducation que de contrainte, il est rassurant de savoir qu’une réflexion mondiale a été amorcée pour évaluer l’impact des nouvelles technologies sur l’humanité.

Le groupe de travail a émis des « Suggestions concernant un instrument à caractère normatif » qui couvrent un large spectre de réflexion concernant l’éthique de l’I.A.. Les voici:

Recommandation du COMEST [1]

III.2. Suggestions concernant un instrument à caractère normatif

106. Sur la base de cette analyse des implications potentielles de l’intelligence artificielle pour la société, le Groupe de travail aimerait suggérer une série d’éléments qui pourraient être inclus dans une éventuelle Recommandation sur l’éthique de l’IA. Ces suggestions incarnent la perspective mondiale de l’UNESCO, ainsi que ses domaines de compétence.

107. En premier lieu, le Groupe de travail aimerait suggérer une série de principes généraux concernant le développement, la mise en œuvre et l’utilisation de l’IA. Ces principes sont les suivants :

(a) droits humains : l’IA devrait être développée et mise en oeuvre conformément aux normes internationales relatives aux droits de l’homme ;

(b) inclusivité : l’IA devrait être inclusive, et s’efforcer d’éviter les biais, de favoriser la diversité et d’empêcher l’apparition d’une nouvelle fracture numérique ;

(c) épanouissement : l’IA devrait être développée en vue d’améliorer la qualité de la vie ;

(d) autonomie : l’IA devrait respecter l’autonomie humaine en exigeant un contrôle humain permanent ;

(e) explicabilité : l’IA devrait être explicable, et permettre d’obtenir une idée précise de son fonctionnement ;

(f) transparence : les données utilisées pour alimenter les systèmes d’IA devraient être transparentes ;

(g) sensibilisation et initiation : il convient d’informer les citoyens en les sensibilisant aux algorithmes et en leur procurant une compréhension élémentaire du fonctionnement de l’IA ;

(h) responsabilité : les concepteurs et les entreprises devraient prendre l’éthique en considération lorsqu’ils conçoivent un système intelligent autonome ;

(i) reddition des comptes : des dispositifs devraient être élaborés de façon à obliger à rendre des comptes sur les décisions pilotées par l’IA et le comportement des systèmes d’IA ;

(j) démocratie : l’IA devrait être élaborée, mise en œuvre et utilisée conformément aux principes démocratiques ;

(k) bonne gouvernance : les gouvernements devraient présenter des rapports réguliers sur leur utilisation de l’IA dans la police, le renseignement et la sécurité ;

(l) durabilité : pour toutes les applications de l’IA, les avantages potentiels doivent être mis en balance avec l’impact environnemental de l’intégralité du cycle de production de l’IA et de la TI.

108. Plus particulièrement, le Groupe de travail aimerait souligner certaines questions éthiques centrales concernant les thèmes spécifiques de l’UNESCO :

(a) éducation : l’IA exige que l’éducation encourage la maîtrise de l’IA, la réflexion critique, la résilience sur le marché du travail et l’enseignement de l’éthique aux ingénieurs ;

(b) science : l’IA exige une introduction responsable dans la pratique scientifique, et dans la prise de décisions basée sur les systèmes d’IA, qui requiert une évaluation et un contrôle humains, et doit éviter d’exacerber les inégalités structurelles ;

(c) culture : l’IA devrait favoriser la diversité culturelle, l’inclusivité et l’épanouissement des êtres humains, en évitant de creuser la fracture numérique. L’approche multilingue devrait être encouragée.

[1]COMEST (Commission mondiale d'éthique des connaissances scientifiques et des technologies). (2019) Étude préliminaire sur l’Éthique de l’intelligence artificielle. Récupéré de : unesdoc.unesco.org/ark:/48223/pf0000367823_fre.locale=fr