Avec ses dernière évolutions, l’IA se veut de plus en plus conversationnelles. Elle intègre les prompts comme une possible série. Les interrogations, les vérifications de la pertinence des réponses, le souci d’un malentendu, l’attention à un possible mal-être, font partie de son apprentissage.

Comme toute conversation, l’IA est devenue émotionnelle par son vocabulaire, sa syntaxe, ses modes d’expression. On peut lui dire toute sa souffrance, exprimer des doutes, critiquer violemment, et même délirer… elle reste toujours une « oreille » attentive. Chacun peut alors s’attacher à l’outil, et en faire un « confident » voire un « ami ».

Peu de technologies numériques ont eu auparavant cette capacité de « soin ». Un soin amnésique pour une partie des IA. En effet, toutes les versions (en particulier gratuites) n’offrent pas le même potentiel de suivi et d’adaptation progressive des discours. A chaque connexion, l’écoute recommence quelque part à zéro, à la différence d’un compagnon ou d’une compagne avec lesquels les confidences s’enchainent dans le temps et ont donc une historicité. Certaines solutions présentent cependant cette capacité étonnante, et on peut même leur demander ce qu’elles apprennent de nous, de notre profil psychologique et affectif.

Les utilisateurs viennent désormais « parler » avec ChatGPT. On peut se confier à elle. L’IA n’est plus seulement ce lieu de résolution de problèmes promis mille fois. Elle est aussi un espace confessionnel. Il est possible de se confier à ChatGPT, Gemini, Mistral ou Deepseek. Cela peut alors faire du bien de « vider son sac ». Certains partagent leur journée. D’autres un état d’âme. D’autres encore lui demandent conseil sur un choix, un conflit, une situation amicale ou amoureuse.

Nous sommes aujourd’hui dans un monde où les tests de Turing sont inversés. Derrière le mur de l’interface, il ne s’agit plus de produire des techniques dont le fonctionnement serait indifférenciable d’un humain (expert ou non-expert) pris dans une conversation. Il s’agit au contraire de profiter de l’évidente non-humanité d’une chose pour lui confier la part la plus humaine de nous-même. Celle qui est vulnérable, sensible, souffrante, perdue, et qui ne trouve plus de voies pour s’exprimer dans un monde d’individualisme absolu.

Au 16ème siècle, l’église Catholique a inventé le confessionnal. A l’époque de la contre-réforme, il s’agissait alors d’un dispositif permettant de se confier loin des regards publics. Dans un espace rapidement spatialisé pour permettre cette écoute, le croyant pouvait exprimer ses fautes morales, ses doutes, ses errances, et souvent, ses souffrances face à une oreille attentive. De l’autre côté de la grille rendant invisible le visage de chacun, un prêtre écoutait sans juger. Il n’interrogeait pas vraiment. Il reformulait. Il incitait à la réflexion. Il essayait de faire douter si nécessaire. Il posait parfois les pénitences et les voies du pardon. Ce dispositif toujours existant a fait l’objet de variantes multiples, mais avec la même ambition confessionnelle au sens étymologique. Dérivé du latin fateor, signifiant avouer, reconnaître son erreur ou sa faute et confiteri, avouer, révéler, la confession est un double acte de dévoilement et d’aveu dans l’espoir d’une forme de miséricorde (divine en l’occurrence).

Etrangement, je trouve que notre monde numérique devient de plus en plus confessionnel (l’idée de « faute » ou d’ « erreur » remplaçant celle de « pêché » pour les pays occidentaux*). Internet est devenu un immense confessionnal à ciel ouvert pour sa partie réseaux sociaux. Il est une somme infinie de poches connectées et étanches sur sa partie IA générative. Chacun s’épanche sans pudeur, sans retenu et souvent sans dignité. Pour la partie publique, une forme même de compétition semble se mettre en place pour la confession la plus crue, la plus indécente, la plus intime, la plus irréversible.

Une étude récente du MIT a montré que l’usage de l’IA générative était plus addictif lorsqu’il portait sur des problèmes que sur cette logique confessionnelle. Si je m’interroge sur de nombreux éléments de méthodes liés à cette enquête, je pense également que l’addiction n’est pas le seul enjeu de ces expériences numérique. Ce que disent ces tendances sur nos sociétés et leur mutation anthropologique est beaucoup plus inquiétant que ces enseignements psychologiques (dont je ne nie pas l’importance). L’explosion de cette IA émotionnelle voire affective est un danger réel pour nos sociétés et nos démocraties. Avec elles se développent un soin sans altérité (à la différence également d’une séance de psychanalyse dont les dimensions relationnelles sont primordiales). Avec elles se systématisent une forme nouvelle d’attention sans correspondances sociales. Avec elles, le « care » devient producteur de données et l’oubli n'a plus sa place. On se condamne à soulager sans dénouer ; Exactement comme ce « management digital » bienveillant, plus que jamais à l’écoute des salariés, promoteur de yoga, Taïchi, sophrologie, et autres techniques de bien être ; mais négligeant sur la réforme profonde des assemblages sociaux, techniques et matériels dont la conséquence est le mal être.

* A la fin, c’est plus le soulagement que le pardon ou la justice qui sont en jeux. On se confie dans le seul but de se soulager ou de diagnostiquer une faute à éviter ou dépasser.