Les trois grands défis de l’IA

Nous n’allons pas résumer toute l’encyclique. Une intelligence artificielle pourrait probablement le faire en quelques secondes. Mieux que nous ? Dans une certaine mesure oui, dans une certaine mesure non. Nous voudrions plutôt nous arrêter sur quelques idées qui me semblent particulièrement importantes. 

La technique au service de l’homme ou l’homme au service du paradigme technocratique ? 

Soyons vigilant par rapport au « paradigme technocratique ». Le Paradigme technocratique consiste à laisser « la logique de l’efficacité, du contrôle et du profit régir à elle seule les choix personnels, sociaux et économiques ».Cette logique s’est étendue avec l’IA, observe le pape, au risque de réduire « les personnes à des rouages d’un système qu’il faut rendre toujours plus performant ». (MH 92) 

Un exemple : dans son activité professionnelle précédente, Dominique a pu constater la puissance des outils d’intelligence artificielle appliqués à l’analyse financière. Lorsqu’on fournit à une IA les bilans et comptes de résultat d’une entreprise, elle est capable de produire en quelques secondes une analyse détaillée des ratios financiers, des forces, des risques et des fragilités du projet. Face à cette performance, on pourrait être tenté de conclure que l’expert humain devient inutile et qu’il suffirait désormais de laisser la machine décider.  

Pourtant, financer une entreprise ne consiste pas seulement à analyser des chiffres. Derrière chaque projet se trouvent des personnes, une vision, une capacité à convaincre, à s’adapter et à surmonter les difficultés. Une décision de financement repose aussi sur la confiance, l’expérience et le discernement. Ces éléments ne se laissent pas facilement réduire à des données mesurables. 

Le paradigme technocratique consiste à croire que parce qu’une réalité peut être partiellement mesurée, elle peut être entièrement comprise et gouvernée par des outils techniques. L’intelligence artificielle peut éclairer la décision. Elle ne peut pas se substituer à la responsabilité et au jugement humain. Et on voit notamment dans le monde du travail, on y reviendra par la suite, l’IA appliquée à tout, à sélection de CV pour des candidatures, à des gestions d’appels dans des centres d’appels… Le risque est de voir se multiplier des décisions automatisées et aussi en conséquence la perte de contrôle humain. 

Or, une société ne peut être gouvernée uniquement par des critères d’efficacité. Une décision peut être techniquement performante sans être moralement juste. Une solution peut être rentable, sans être bénéfique pour la personne humaine. Tout ce qui compte ne se mesure pas. La dignité, la solidarité, la liberté ou l’amour échappent précisément aux indicateurs de performance. 

La véritable question n’est donc pas de savoir jusqu’où l’intelligence artificielle peut aller, mais de déterminer qui fixe les finalités qu’elle doit servir. Doit-on exiger une présence humaine ?  

La véritable question n’est pas de savoir jusqu’où l’intelligence artificielle peut aller, mais de déterminer qui fixe les finalités qu’elle doit servir.

L’enjeu n’est pas de freiner l’innovation. Il est de rappeler une évidence souvent oubliée : la technique est un moyen, jamais une fin. L’homme doit rester le sujet du développement et non devenir l’objet des systèmes qu’il a lui-même créés. 

La vérité en danger  

Le deuxième avertissement formulé par Léon XIV concerne la vérité et notre capacité à exercer un jugement libre. Toute technologie véhicule implicitement une certaine représentation du monde. Les systèmes d’intelligence artificielle reflètent nécessairement, au moins en partie, les valeurs, les références culturelles et les priorités de ceux qui les conçoivent. Lorsque les principaux modèles d’IA sont développés par quelques grandes entreprises de la Silicon Valley, il serait naïf de croire qu’ils sont totalement détachés de la vision du monde de leurs concepteurs. Essayer de questionner une IA sur sa position sur quelques principes catholiques relatifs par exemple sur le mariage, le droit à la vie, etc… Vous vous rendrez vite compte que les principes de la théologie morale catholique ne sont pas le cadre qui est celui des IA.  

Le danger n’est pas nécessairement celui d’une contrainte. Personne ne nous oblige explicitement à penser ou à agir d’une certaine manière. Le danger réside davantage dans une influence discrète, permanente et souvent imperceptible. La liberté humaine est fragilisée lorsque les mécanismes qui orientent nos choix deviennent opaques et échappent à notre compréhension. La vision du monde que véhicule les IA va devenir le cadre, [impensé par nous] de notre relation au monde. Voilà un premier danger : celui des biais, non contrôlés, que nous donne l’IA et qui sont le produit de très grandes entreprises privées souvent américaines.  

La liberté humaine est fragilisée lorsque les mécanismes qui orientent nos choix deviennent opaques et échappent à notre compréhension.

Mais Léon XIV attire également notre attention sur une autre menace plus profonde encore : celle qui pèse sur notre rapport à la vérité elle-même. Les progrès de l’intelligence artificielle permettent aujourd’hui de créer des images, des vidéos ou des enregistrements sonores quasiment indiscernables de la réalité. Nous avons déjà vu circuler des vidéos truquées mettant en scène des dirigeants politiques dans des situations imaginaires ou ridicules. Ces exemples prêtent parfois à sourire. Mais demain, les mêmes technologies pourraient être utilisées pour diffuser de faux discours de haine, de fausses déclarations de guerre ou de fausses profanations attribuées à des responsables religieux ou politiques. Dans un monde où tout peut être fabriqué artificiellement, une question fondamentale se pose : comment distinguer le vrai du faux ?  

Ces innovations font peser un risque sur notre vie démocratique. La démocratie repose sur l’existence d’un espace public fondé sur des faits partagés. Elle suppose que les citoyens puissent débattre à partir d’une réalité commune. Si chacun vit dans un univers informationnel différent, façonné par des algorithmes, si nous sommes naturellement orientés vers une vision du monde ou si plus personne ne peut avoir confiance dans ce qu’il voit et entend, alors les fondements mêmes du débat démocratique deviennent fragiles. 

Face à ces risques, plusieurs réponses apparaissent essentielles. La première est l’éducation. Nous devons développer l’esprit critique et la culture numérique afin que chacun puisse comprendre les mécanismes qui influencent l’information. La deuxième est la transparence. Les citoyens doivent pouvoir connaître les principes qui gouvernent les algorithmes qui structurent leur environnement numérique. Enfin, une réflexion démocratique doit être menée sur la gouvernance des plateformes et des systèmes d’intelligence artificielle. 

Car la vérité n’est pas seulement une affaire privée ou individuelle. Elle constitue un bien commun indispensable à la vie démocratique. Protéger notre capacité à rechercher la vérité, à exercer notre jugement et à débattre librement est sans doute l’un des grands défis de l’ère de l’intelligence artificielle. 

La concentration du pouvoir 

Comme au temps de Rerum Novarum, l’une des grandes questions posées par notre époque est celle de la concentration du pouvoir. À la fin du XIXe siècle, l’Église s’interrogeait sur les conséquences de la concentration du capital industriel entre les mains d’un nombre limité d’acteurs : “À tout cela, il faut ajouter la concentration, entre les mains de quelques-uns, de l’industrie et du commerce, devenus le partage d’un petit nombre de riches et d’opulents, qui imposent ainsi un joug presque servile à l’infinie multitude des prolétaires.” (RN 2.2) Aujourd’hui, une question similaire se pose : qui contrôle les infrastructures numériques qui façonnent nos économies, nos échanges et nos sociétés ? 

L’intelligence artificielle rend cette interrogation particulièrement urgente. Quelques entreprises disposent désormais d’une puissance économique, technologique et informationnelle sans précédent. Elles souvent plus puissantes que nombre d’états. Elles contrôlent les données, les capacités de calcul, les modèles d’intelligence artificielle et les plateformes qui structurent une part croissante de notre vie collective. La question n’est donc plus seulement de savoir qui possède les usines, mais aussi qui maîtrise les outils numériques qui orientent l’information, les décisions et l’activité économique. 

Les conséquences de cette concentration du pouvoir sont multiples. L’intelligence artificielle risque d’accentuer certaines inégalités déjà existantes entre les individus, les territoires et les nations. Les acteurs qui maîtrisent ces technologies disposent d’avantages considérables en matière d’innovation, de compétitivité et d’influence. À l’inverse, ceux qui en dépendent peuvent se trouver dans une situation de vulnérabilité croissante. 

Cette concentration soulève également des questions démocratiques et de souveraineté. Lorsqu’un nombre limité d’acteurs contrôle les infrastructures numériques essentielles, leur influence dépasse largement le seul cadre économique. Elle touche à l’accès à l’information, à l’organisation des marchés, à la circulation des connaissances et, plus largement, à la capacité des sociétés à décider librement de leur avenir. 

L’intelligence artificielle risque d’accentuer certaines inégalités déjà existantes entre les individus, les territoires et les nations. 

Enfin, il ne faut pas oublier la dimension écologique de cette transformation. Le développement de l’intelligence artificielle mobilise des quantités considérables d’énergie, de matières premières et d’infrastructures techniques. Cette réalité ouvre de nouveaux conflits d’usage et crée de nouvelles formes de dépendance entre les territoires et les nations. 

Face à ces défis, la réponse n’est pas de refuser le progrès technologique. Il est de s’assurer que celui-ci demeure au service de la personne humaine et du bien commun. Comme à l’époque de Rerum Novarum, la question fondamentale reste celle-ci : comment organiser le développement économique et technique de manière à préserver la dignité humaine, la justice sociale et la liberté de tous ?

La réponse chrétienne : non pas la peur mais la sagesse

Face à ces défis, Léon XIV ne propose ni peur ni rejet. Il propose un chemin. Un chemin exigeant mais profondément chrétien. D’abord, il rappelle le mystère central de notre foi : le Verbe s’est fait chair. Le christianisme est une religion de l’incarnation. Dieu ne s’est pas imposé par la puissance mais par la vulnérabilité. Il s’est fait homme. Il est né dans la pauvreté. Il est mort sur une croix. Cette logique est l’exact opposé de Babel. Babel refuse les limites humaines.  L’Évangile nous apprend à accueillir notre condition de créatures. 

Ensuite, Léon XIV rappelle que l’homme est créé à l’image de Dieu. Il est libre, responsable et créateur. Il est appelé à la coopération et à la coresponsabilité. L’homme n’est pas fait pour l’obéissance aveugle à des systèmes qui lui échappent.

Face à ces défis, la réponse n’est pas de refuser le progrès technologique. Il est de s’assurer que celui-ci demeure au service de la personne humaine et du bien commun.

Enfin, l’incarnation nous invite à préserver les lieux et les moments de présence réelle. Dans un monde toujours plus médiatisé par les écrans et les algorithmes, il devient essentiel de protéger ce qui ne peut être numérisé : la rencontre, l’amitié, la communauté, le soin porté aux plus fragiles. Cette opposition n’est pas manichéenne. Elle permet le discernement. Qu’est-ce que nous cherchons au fond : plus d’efficacité, plus de pouvoir ? Ou le respect de la dignité de tous, la justice sociale et le bien commun ? Comme les catholiques sociaux ont su trouver des compromis avec la révolution industrielle, les hommes de bonne volonté sauront adopté avec sagesse, cette nouvelle technologie.  

Cette encyclique nous rappelle une vérité fondamentale. La question n’est pas de savoir si l’intelligence artificielle est bonne ou mauvaise. Elle est disponible. Nos enfants, nos concurrents l’utilisent plus que nous même. Nous ne pourrons pas faire marche-arrière. La question est de savoir quel usage nous en ferons et quelle conception de l’homme guidera son développement. Il y a nos choix personnels, nos pratiques quotidiennes et notre discernement individuel. 

Mais il y a également une dimension politique. À l’heure où la puissance semble parfois prendre le pas sur le droit dans les relations internationales, Léon XIV rappelle la nécessité d’une gouvernance démocratique de l’intelligence artificielle. Une gouvernance capable de garantir l’équité d’accès aux technologies, la transparence des algorithmes, la protection de la dignité humaine et la recherche du bien commun. Au fond, Magnifica Humanitas n’est pas une encyclique sur les machines. C’est une encyclique sur l’homme. 

Magnifica Humanitas n’est pas une encyclique sur les machines. C’est une encyclique sur l’homme.