La guerre des intelligences aura-t-elle lieu ?
I/Introduction : Au temps des algorithmes, il paraît maintenant possible pour certains scientifiques de créer un être supérieurement intelligent, immortel, invincible et cela par d’autres moyens que la reproduction sexuée, et de rejoindre ainsi les thèmes de la mythologie et de la littérature de science-fiction. La machine est-elle, ou sera-t-elle, semblable à l’Homme, capable comme lui d’apprendre, de sentir, de décider ? Faut-il croire ceux qui l’annoncent déjà comme plus intelligente que l’être humain, susceptible de le remplacer au travail, d’enseigner, de soigner, de juger, de piloter une voiture sans provoquer d’accident, de prédire nos faits et gestes, d’anticiper nos comportements et nos pensées… A nous d’en décider !
II/Définitions de l’intelligence naturelle : L’intelligence est le moyen dont l’humanité a été pourvue par l’évolution darwinienne pour survivre dans un environnement sauvage. Si elle consiste largement à l’acquisition de l’instruction, c'est-à-dire des savoirs utiles à la vie en société, elle n’a de sens que complétée par l’habileté à mobiliser les connaissances et à les associer. Nous avons coutume d’entendre par intelligence, la faculté de nous adapter à notre environnement, en apportant la réponse qu’il faut aux situations auxquelles celui-ci nous confronte.
Dès les années 1980 le psychologue américain Howard Gardner, déduit que notre intelligence s’exprime de façons multiples et relativement autonomes : Logico-mathématiques, verbale linguistique, visuelle-spatiale, corporelle, kinesthésique, musicale, interpersonnelle et intra personnelle, ce à quoi Bertrand Vergely philosophe et théologien rajoute une intelligence spirituelle. La vie spirituelle consiste à retrouver la véritable intelligence de soi-même et de la vie en apprenant à lire entre les lignes, c'est-à-dire au-delà des apparences. Que dire des subtilités : feindre, ruser, tromper, réagir avec vivacité et intuition ? Un ensemble de philosophes a identifié sept circuits de la pensée : la déduction, l’induction, l’analogie, l’intentionnalité, la synthèse à priori, la compréhension, l’imagination. Pour d’autres la sagesse est le summum de l’intelligence, elle se place au cœur de la vie.
L’intelligence émotionnelle recouvre de multiples caractéristiques du comportement humain : L’empathie, la maîtrise de soi, l’aptitude à conserver son humeur égale et à ne pas se laisser dominer par le chagrin qui asphyxie la pensée, l’ardeur, la persévérance, la faculté de s’inciter à l’action, la capacité d’espérer. Notre intelligence est inutile quand nous sommes sous l’emprise de nos émotions déclare Daniel Goleman psychologue américain. L’intelligence théorique ne prépare pas l’individu à affronter les épreuves de l’existence et à saisir les opportunités.
Le cerveau est un ordinateur très complexe et d’une nature différente des circuits intégrés. Sa particularité, grâce à l’interconnexion de ses milliards de neurones, réside dans sa capacité à appréhender des situations inconnues, à inventer, à réagir devant l’imprévu et à se reprogrammer en permanence.
III/ Définitions de l’intelligence artificielle ‘IA’ : L’IA est l’ensemble des théories et techniques mises en œuvre, en vue de réaliser des machines capables de simuler l’intelligence. On évoque l’IA forte et l’IA faible. D’autres remarquant la définition peu précise de l’IA, notamment la CNIL, la définissent comme le grand mythe de notre temps.
Selon le site francophone au Québec : Le concept est d’élaborer des programmes informatiques, capables d’effectuer des tâches accomplies par des humains demandant un apprentissage, une organisation, une mémoire, et un raisonnement. Le but est de donner des notions de rationalité, des fonctions de raisonnement et de perception.
Le grand basculement de l’IA s’est produit en 2012 avec le renouveau permis par le Deep Learning, système d’apprentissage et de classification, basé sur des réseaux de neurones artificiels numériques qui permettent à un ordinateur d’acquérir certaines capacités du cerveau humain. La technologie du Deep Learning apprend à représenter le monde c’est à dire la parole ou l’image (il ne faut au bébé qu’un nombre limité d’associations image-nom pour faire le lien, alors qu’il en faut des milliers à l’IA). Pour un énoncé ambigu du type : ‘ Antoine a réconforté Bob car il était énervé ’, nous subodorons sans peine que c’est bien Bob et non Antoine que désigne le pronom. Pour une machine, ce genre de compréhension reste pour l’instant très difficile.
IV/ Le match du siècle : Avons-nous la certitude que jamais une IA n’égalera l’intelligence humaine ? Comment une machine pourrait-elle démontrer, prédire, juger, inventer, s’adapter, réfléchir, méditer, comprendre, interpréter, aussi bien que le cerveau humain ? Selon les transhumanistes, il est évident qu’à plus ou moins long terme l’intelligence jusqu’alors confinée dans son support biologique, le cerveau, deviendra progressivement non biologique, et considérablement plus puissante au point que des cyborgs remplaceront les humains. La question centrale posée par l’IA est finalement celle des limites que nous voulons fixer à notre hybridation. Certains médecins affirment que le sujet a été galvaudé jusqu’à devenir un fantasme désinformant le public et dénoncent l’imposture de l’IA qui devrait s’intituler l’informatique cognitive ; à l’instar de Stéphane Mallard, ils évoquent une disruption (séparation, rupture).
V/ Interrogations : La question de la protection de l’intégrité cérébrale va devenir essentielle. Il s’agira d’un enjeu plus vertigineux encore que celui de la disparition de la vie privée. C’est désormais l’intégrité de nos cerveaux, ultime refuge de notre liberté, qui va être menacée.
VI/ Approche de la CNIL Déc 2017 : Les enjeux éthiques des algorithmes et de l’intelligence artificielle : Objectif de son travail : Faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité. Puissent ces réflexions alimenter celles en cours au sein des pouvoirs publics, dont celle de la mission Villani, mais aussi des différentes composantes de la société civile. Puissent-elles ainsi participer à l’élaboration d’un modèle français de gouvernance éthique de l’IA.
Le véritable enjeu sera alors de s’assurer que les choix éthiques qui seront pris au stade du développement, ne feront pas l’objet d’une confiscation par « une petite caste de scribes » (Antoine Garapon juriste et magistrat).
Conclusion de la CNIL : A l’ère numérique les principes de loyauté et de vigilance pourraient s’inscrire dans une nouvelle génération de principes et de droits de l’Homme.
VII/ Rapport du député et chargé de mission Cédric Villani « Donner du sens à l’IA ». Le mathématicien et député s’est vu confier l’élaboration d’un rapport sur l’état du développement de l’IA en France et en Europe. Le constat est amer : « les pays les plus en avance sur le déploiement de l’IA sont les Etats Unis, la Chine, l’Angleterre, le Canada et Israël. Nous, n’y sommes pas. »
Les leaders de l’IA et des nouvelles technologies surnommées les GAFAM américains, et ceux de la Chine BATX, attirent de nombreux chercheurs français, grâce à des salaires plus élevés ; aussi serait-il urgent de stopper cette fuite des ‘cerveaux’ français vers les GAFAM. Malgré sa capacité certaine à former des chercheurs à la hauteur de ces défis, la France peine à garder dans ses filets les ‘cerveaux’ qu’elle éduque. ‘Il y a un différentiel entre l’excellence de sa capacité de recherche et de formation d’experts en France et notre faculté à voir dans les grandes entreprises un développement de l’IA, au même niveau économique que nos concurrents’, a-t-il souligné. Cédric Villani a proposé tout un ensemble de mesures pour pallier ces inconvénients. Par ailleurs, il demande la création d’une instance éthique.
VIII/ Discours et décisions du Président Macron suite au rapport Villani: Le 29 mars 2018 annonçant un programme national sur l’IA, Emmanuel Macron a déclaré quelques jours après, les détails de sa stratégie dans ce domaine clef des technologies futures de l’IA, pour veiller en particulier sur les questions d’éthique. Emmanuel Macron a insisté sur le moment crucial qui était en train de se jouer. « Les progrès de l’IA sont de nature à donner le vertige ». Il a demandé de prévoir des axes de progrès autour de six chantiers :
1/ Positionner la France comme pays leader de l’IA ;
2/ Ouverture des données éléments clé d’une stratégie IA ;
3/ La santé et le véhicule autonome, les deux secteurs prioritaires ;
4/ Un plan de 1,5 milliard d’euros dédié à l’IA ;
5/ Création d’un Laboratoire de la transformation publique ;
6/ Une IA éthique et démocratique.
Par ailleurs, il a annoncé la création d’un GIEC, dont le rôle sera de mener une réflexion prospective sur les impacts de l’IA. Le Président Macron indique que l’IA ne doit pas devenir une dystopie (récit de fiction qui décrit un monde utopique sombre). « Rien ne serait pire que de laisser ces choix de société à des entreprises privées, ou à des pays non démocratiques ». Il appelle d’ores et déjà à prendre en compte nos valeurs et d’injecter de la « transparence et de la loyauté » dans nos algorithmes.
IX/ Conclusion : Depuis la naissance de l’IA, c’est une longue histoire d’amour - haine. Beaucoup de propos issus de sociologues, psychologues, théologiens, neurobiologistes, médecins, philosophes, juristes, informaticiens, futurologues, aboutissent à diverses approches, et posent questions. Certains y voient la clef de l’avenir, d’autres le début de l’asservissement des humains. D’ores et déjà nous vivons une guerre des algorithmes pour capter et pirater l’attention des clients, les assister, les rendre dépendants. Ceux qui créer des dépendances cognitives gagneront la guerre économique.
Ils ont les GAFAM, nous avons la CNIL et heureusement ! De sympathiques nains numériques pour tenter de cadrer les futuristes. L’enjeu principal pour l’humanité sera alors de déterminer des modalités de cohabitation avec l’IA. Il ne s’agira pas de stopper une technologie dont les effets sont inquiétants, mais plutôt de freiner les progrès qui apportent dans l’immédiat des services réellement utiles que tout le monde réclamera à cor et à cri. Le problème sera exactement le même pour l’eugénisme et la manipulation du vivant. L’argument de l’utilité commune sera très difficile à contrer.
Alors que l’intelligence était déjà, dans sa définition étymologique même, la capacité à lier les choses entre elles, l’Homme devra demain devenir un virtuose dans la capacité à lier les intelligences biologiques et artificielles entre elles.
Serons-nous assez intelligents pour contrôler l’IA ? Notre cerveau biologique est de plus en plus concurrencé par l’IA, sa cohabitation avec le cerveau de silicium pourrait conduire à des inégalités insupportables voire à une guerre des intelligences. Notre société va au-devant de trois crises :
Une crise sociale, une crise éthique, une crise existentielle.
Face à l’IA nous ne pèserons rien, du moins si nous restons les mêmes humains qu’aujourd’hui. Notre unique planche de salut sera de co-évoluer avec les machines et de définir des limites et des règles à l’IA.
Daniel Soulat 4 Mai 2019
Pour relire des notes prises pendant la séance, cliquer ici
GLOSSAIRE
Algorithme : Description d’une suite finie et non ambigüe d’étapes ou d’instructions permettant d’obtenir un résultat à partir d’éléments fournis en entrée. Exemple le cas de l’Algorithme d’Euclide : les données d’entrée sont deux nombres entiers non nuls ‘a’ et ‘b’, tels que ‘a’ soit supérieur à ‘b’. Un algorithme renvoie, en général, d’autres données en sortie. Dans le cas de l’algorithme d’Euclide, il s’agit d’un nombre entier, qui est le plus grand diviseur commun PGCD des nombres ‘a’ et ‘b’.Ex a=471 b= 90, à chaque étape, calculer le reste r de la division de a par b, puis remplacer a par b et b par r. Quand le reste est nul, le calcul s’arrête et le résultat est le nombre b. En plus synthétique : r=a/b, (tant que a ≠ 0 (faire a=b, b=r, r=a/b), sinon fin), PGCD=b
Apprentissage machine (ou apprentissage automatique, machine learning) : Branche de l’intelligence artificielle, fondée sur des méthodes d’apprentissage et d’acquisition automatique de nouvelles connaissances par les ordinateurs, qui permet de les faire agir sans qu’ils aient à être explicitement programmés. Alors que le programmeur doit traditionnellement décomposer en de multiples instructions la tâche qu’il s’agit d’automatiser de façon à en expliciter toutes les étapes, l’apprentissage automatique consiste à alimenter la machine avec des exemples de la tâche que l’on se propose de lui faire accomplir. L’Homme entraîne ainsi le système en lui fournissant des données à partir desquelles celui-ci va apprendre et déterminer lui-même les opérations à effectuer pour accomplir la tâche en question. Cette technique permet de réaliser des tâches hautement plus complexes qu’un algorithme classique. L’intelligence artificielle qui repose sur les machines Learning concerne donc des algorithmes dont la particularité est d’être conçus de sorte que leur comportement évolue dans le temps, en fonction des données qui leur sont fournies. Apprentissage : base théorique n’est pas modélisable dans le cadre de la logique déductive des connaissances dérivées, or il s’agit ici de la démarche inverse par observations limitées, tirée des généralisations plausibles, c’est un procédé par induction. La notion d’apprentissage recouvre deux réalités souvent traitées de façon successives :
Mémorisation : le fait d’assimiler sous une forme dense des exemples éventuellement nombreux ; Généralisation : le fait d’être capable, grâce aux exemples appris, de traiter des exemples distincts, encore non rencontrés mais similaires.
Apprentissage mode supervisé ou non : un apprentissage est dit supervisé lorsque le réseau est forcé à converger vers un état final précis, en même temps qu’un motif lui est présenté. A l’inverse, lors d’un apprentissage non supervisé, le réseau est laissé libre de converger vers n’importe quel état final lorsqu’un motif lui est présenté. Apprentissage machine supervisé : L’algorithme apprend des données d’entrée qualifiées par l’humain et définit ainsi des règles à partir d’exemples qui sont autant de cas validés. Apprentissage machine non supervisé : L’algorithme apprend à partir de données brutes et élabore sa propre classification qui est libre d’évoluer vers n’importe quel état final lorsqu’un motif ou un élément lui est présenté. Pratique qui nécessite que des instructeurs apprennent à la machine comment apprendre.
BATX : Baidu moteur de recherche, Alibaba équivalent d’Amazon vente en ligne, Tencent messagerie, Xiaomi (≠Apple)
Big data : Désigne la conjonction entre, d’une part, d’immenses volumes de données devenus difficilement traitables à l’heure du numérique et, d’autre part, les nouvelles techniques permettant de traiter ces données, voire d’en tirer par le repérage de corrélations des informations inattendues.
Cognition : Est l’ensemble des processus mentaux qui se rapportent à la fonction de connaissance, mémoire, langage, raisonnement, apprentissage, intelligence, résolution de problèmes, prise de décision, perception, attention. Système Cognitif : comprend le langage humain, génère des hypothèses de façon statistique, s’adapte et apprend avec l’interlocuteur.
Cyborg : De l'anglais « cybernetic organism », traduisible par « organisme cybernétique ») est un être humain, ou à la rigueur un autre être vivant intelligent, en science-fiction qui a reçu des greffes de parties mécaniques ou électroniques. La cybernétique étant l'étude exclusive des échanges à l’aide de processus de commande et de communication.
Deep Learning ‘DL’ : Inspiré des neurosciences, son principe : laisser les ordinateurs apprendre par eux-mêmes.
L’apprentissage profond est le socle des avancées récentes de l’apprentissage automatique, dont il est l’une des branches. On distingue l’apprentissage automatique supervisé, il nécessite que des instructeurs apprennent à la machine les résultats qu’elle doit fournir, qu’ils «l’entraînent ». Les personnes entraînant l’algorithme remplissent en fait souvent une multitude de tâches très simples. Des plateformes telles que le « Mechanical Turk » d’Amazon sont les lieux où se recrutent ces milliers de « micro-tâcherons » dont le rôle est d’étiqueter les immenses quantités de photographies utilisées pour entraîner un logiciel de reconnaissance d’images. Le système de captcha de Google « recaptcha » est un autre exemple d’utilisation à grande échelle d’humains pour entrainer des machines. Ces algorithmes d’apprentissage sont utilisés dans un nombre croissant de domaines, allant de la prédiction du trafic routier à l’analyse d’images médicales. Nota : les DL sont performants sans comprendre.
GAFAM : Google moteur de recherche, Apple fabricant d’ordinateurs, Face Book réseaux, Amazon, Microsoft.
Intelligence artificielle (IA) On distingue l’IA faible (IA capable de simuler l’intelligence humaine pour une tâche bien déterminée) et l’IA forte (IA générique et autonome) qui pourrait appliquer ses capacités à n’importe quel problème, répliquant en cela une caractéristique forte de l’intelligence humaine, soit une forme de « conscience » de la machine. Une IA consciente : Elle est considérée comme impossible par les machines. Il faudrait des systèmes capables d’imiter le fonctionnement des neurones ainsi que du cerveau humain. Il faut passer par un apprentissage par l’expérience, s’inspirant des neurones biologiques, les réseaux de neurones formels utilisés avec des ordinateurs pourraient résoudre le problème. D’autres pensent que la pensée n’est pas calculable par des processus discrets et finis, idée réfutée par d’autres experts.
Réseau de neurones artificiels: Modèle rudimentaire du cerveau humain, et qui par la suite s’est rapproché des méthodes statistiques. Une cellule neuronale possède une sortie et des entrées reliées à d’autres neurones. Ces réseaux partagent des propriétés importantes avec le cerveau humain. Pour apprendre à un réseau de neurones à reconnaître l’image d’un chat par exemple, on lui montre des images et on lui dit si c’est un chat ou pas. A aucun moment, un homme ne doit décrire ce qu’est un chat. Les réseaux de neurones artificiels sont capables de reconnaitre des formes, des caractères manuscrits, …) d’identifier, de classer. Utilité : les réseaux de neurones, en tant que systèmes capables d’apprendre, mettent en œuvre le principe de l’induction, c'est-à-dire l’apprentissage par l’expérience. Ils ne fournissent pas toujours les règles exploitables par un humain et restent souvent une boîte noire qui fournit une réponse quand on lui présente une donnée, mais donnent pas de justification facile à interpréter. Limites : les réseaux de neurones artificiels ont besoin de cas réels, servant d’exemple pour leur apprentissage (on appelle cela la base d’apprentissage).
Réseau de neurones artificiels et algorithme : la large majorité des réseaux de neurones possède un algorithme ‘d’entrainement’, dont le but est de lui permettre d’apprendre, à partir d’exemples. Tout l’intérêt de ces réseaux de neurones réside dans leur capacité à généraliser à partir du jeu test. Il est donc possible de les utiliser pour réaliser une mémoire, on parle alors de mémoire neuronale.
Le Système expert est un outil capable de reproduire les mécanismes cognitifs d'un expert, dans un domaine particulier. Il s'agit de l'une des voies tentant d'aboutir à l'intelligence artificielle. Plus précisément, un système expert est un logiciel capable de répondre à des questions, en effectuant un raisonnement à partir de faits et de règles connues.