« C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté« , a déclaré le pape François dans son message pour la 58e Journée mondiale des communications sociales, célébrée le 24 janvier. Dans une longue réflexion sur l’intelligence artificielle et ses effets sur la communication et la société, il met en garde contre le « spectre d’un nouvel esclavage » et contre la « possibilité que quelques-uns conditionnent la pensée de tous ».
Le 1er janvier dernier, dans son message pour la Journée mondiale de la paix, le pontife s’était déjà attaqué à la problématique de l’intelligence artificielle, exhortant les gouvernements à réguler son utilisation au niveau international par le biais d’un traité. Tout en renouvelant cet appel, il affirme que « la réglementation ne suffit pas » dans un nouveau texte de quatre pages, publié en cette solennité de la Saint François de Sales, patron des journalistes et des communicants.
Dans cette méditation philosophique, le Pape note que la « diffusion accélérée » d’inventions rattachées à l’intelligence artificielle est en train de modifier radicalement l’information et la communication et, à travers elles, « certains des fondements de la cohabitation civile« . Il insiste sur le fait que ce changement « touche tout le monde« , en ce qu’il concerne l’avenir de l’humanité et sa nature même.
Le Pape met cependant en garde contre les « effets paralysants » qu’une lecture catastrophiste du phénomène pourrait entraîner. Il invite donc à ne pas se « raidir contre le nouveau« , mais plutôt à « orienter dans le bon sens la mutation culturelle en cours« .
Notre époque, estime le pape François, est « riche en technique et pauvre en humanité« , et pourtant la réflexion sur l’intelligence artificielle doit partir « du cœur de l’homme« . Contrairement aux machines, cette « sagesse du cœur« , inspirée par « l’Esprit saint », permet de « tisser ensemble le tout et les parties, les décisions et les conséquences, les hauteurs et les fragilités, le passé et l’avenir, le ‘je’ et le ‘nous’ », insiste-t-il.
François reconnaît la supériorité des technologies d’apprentissage automatique sur le plan de la mémorisation des données et leur traitement, « mais c’est à l’homme et à lui seul qu’il revient d’en décrypter le sens« , assure-t-il. Et, prévient-il, « il ne s’agit pas d’exiger que les machines semblent humaines« .
« Les algorithmes ne sont pas neutres »
Le Pape met en garde contre « l’hypnose » de l’homme, critiquant « son délire de toute-puissance » quand il essaye « de surmonter sa vulnérabilité par tous les moyens« . Cette « tentation originaire de devenir Dieu sans Dieu« , que le Pape relie au récit de la Genèse, consiste à « vouloir conquérir par ses propres forces ce qui devrait au contraire être accueilli comme un don de Dieu« .
« Les algorithmes ne sont pas neutres« , insiste le successeur de Pierre qui juge important de pouvoir les « comprendre, appréhender et réguler » pour ne pas courir le risque de les voir tomber « entre de mauvaises mains« . Il alerte en particulier sur le risque de « pollution cognitive » que permet l’intelligence artificielle dans le domaine de la communication et de la presse.
Car ces technologies permettent aux hommes de « communiquer dans des langues qui leur sont inconnues », mais peuvent aussi faciliter la désinformation avec de « fausses nouvelles » – ou des « hyper trucages » audio ou visuels. Le Pape confie d’ailleurs avoir été l’objet de ces images trompeuses – deep fake – générées par l’IA.
Le Pape met aussi en garde contre le phénomène des « chambres d’écho« , un mécanisme qui enferme les personnes dans un « marécage anonyme, au service des intérêts du marché ou du pouvoir » en ne lui donnant accès qu’à une information stéréotypée. « Il n’est pas acceptable que l’utilisation de l’intelligence artificielle conduise à une pensée anonyme, à un assemblage de données non certifiées, à une déresponsabilisation éditoriale collective« , insiste-t-il. Il avertit que l’absence de réaction face à ces réalités fait planer le « spectre d’un nouvel esclavage » en ouvrant à la « possibilité que quelques-uns conditionnent la pensée de tous« .
L’information est relation
Le Pape insiste sur le fait que l’information ne doit pas être coupée de sa dimension « relationnelle » qui « implique le corps, l’être dans la réalité » et doit permettre de relayer non seulement des données, mais aussi « des expériences ». Il oppose alors les effets pervers de la « guerre parallèle » de la désinformation menée par certaines entités et les « reportages de guerre » qui permettent aux personnes de « toucher la souffrance » des victimes des conflits. Il rend d’ailleurs hommage aux nombreux journalistes morts ou blessés sur le terrain.
Sans apporter de réponse définitive, le Pape conclut son texte en listant plusieurs grandes questions auxquelles doit répondre l’humanité concernant l’intelligence artificielle : la protection du professionnalisme des métiers de l’information, la responsabilisation des entreprises développant des plateformes concernant ce qu’elles y diffusent, la durabilité sur le plan écologique de cette technologie « extrêmement énergivore » et sa diffusion dans les pays en voie de développement. Le Pape demande aussi plus de transparence sur les algorithmes des plateformes et des moteurs de recherches (notamment sur la façon dont sont indexées et désindexées les données), sur les processus d’information et contre l’anonymat.
Répondre à ces questions, assure le Pape, pourrait permettre d’ « aligner même les systèmes d’intelligence artificielle sur une communication pleinement humaine« . « C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté, sans laquelle on ne grandit pas en sagesse« , conclut-il.
Par Camille Dalmas: