1er janvier 2024, le pape François nous interpelle sur l’intelligence artificielle et la paix

Le progrès des sciences et techniques, fruit du travail et de l’ingéniosité des humains, conduit à l’amélioration de l’homme et à la transformation du monde, dans la mesure où il contribue à un meilleur ordonnancement de la société humaine et à l’accroissement de la liberté et de la communion fraternelle.

Le Pape François précise que « les développements technologiques qui ne conduisent pas à une amélioration de la qualité de vie de l’ensemble de l’humanité, mais qui au contraire exacerbent les inégalités et les conflits, ne pourront jamais être considérés comme un véritable progrès ».

Quelles seront les conséquences à moyen et à long terme des nouvelles technologies numériques et de l’intelligence artificielle ? Quel sera leur impact sur la vie des individus et de la société, sur la stabilité internationale et sur la paix ? Nous sommes tous concernés.

L’intelligence artificielle (« IA ») entre promesses et risques

L’IA prend une place de plus en plus importante. Les défis qu’elle pose sont techniques, anthropologiques, éducatifs, sociaux et politiques. Elle promet, par exemple, des économies de main-d’œuvre, une production plus efficace, des transports plus faciles et des marchés plus dynamiques…

Le terme ‘Intelligence artificielle’, désormais entré dans le langage courant, englobe une variété de sciences et de techniques visant à ce que les machines reproduisent ou imitent, dans leur fonctionnement, les capacités cognitives de l’être humain.

Le Pape François précise que « les remarquables progrès des nouvelles technologies de l’information, en particulier dans la sphère numérique, présentent des opportunités enthousiasmantes et des risques graves ». En même temps, elles « mettent entre les mains de l’homme un vaste éventail de possibilités, dont certaines peuvent constituer un risque pour la survie de l’humanité et un danger pour la maison commune ». L’IA peut être détournée pour organiser des « campagnes de désinformation », permettre une « ingérence dans les processus électoraux » et pour influencer les « prises de décision ».

L’apprentissage automatique ou l’apprentissage en profondeur (deep learning) soulèvent des questions qui dépassent la technologie et sont liées au sens de la vie humaine, aux processus fondamentaux de la connaissance et à la capacité de l’esprit à atteindre la vérité. La capacité de produire des textes cohérents, par exemple, n’est pas une garantie de fiabilité, car l’IA peut “halluciner”, c’est-à-dire générer des affirmations infondées.

Des questions éthiques

L’être humain, en croyant à une forme de toute puissance et à la possibilité de dépasser toutes les limites grâce à la technique, risque de perdre le contrôle de lui-même et de tomber dans une dictature technologique. Cela nous oblige à réfléchir au « sens de la limite ».

La recherche scientifique et les innovations technologiques ne sont pas neutres. L’expansion de la technologie doit donc s’accompagner d’une formation appropriée à la responsabilité et aux dimensions éthiques de son développement et de ses usages.

À l’avenir, la fiabilité d’un demandeur de prêt bancaire, l’aptitude d’un individu à un emploi, la possibilité de récidive d’une personne condamnée ou bien le droit à une aide sociale pourraient être déterminés par des systèmes d’intelligence artificielle. De même, la surveillance généralisée ou l’adoption de systèmes de crédit social, pourraient avoir de profondes répercussions sur le tissu social. Il en va de même de l’effet des nouvelles technologies dans le domaine du travail, de l’emploi, et du respect de la dignité des travailleurs.

En regardant le monde qui nous entoure, on ne peut pas non plus passer sous silence les questions éthiques liées au secteur de l’armement, par exemple avec les technologies émergentes des “systèmes d’armes létales autonomes”.

Les défis du numérique et de l’IA

Le Pape François mentionne deux défis importants, au niveau de l’éducation et au niveau du droit. Concernant l’éducation, qui est profondément transformée par ces évolutions, il nous invite à promouvoir la pensée critique et à renforcer la capacité de discernement.

Dans le domaine du droit international, il appelle à adopter un traité international contraignant pour règlementer le développement et l’utilisation de l’intelligence artificielle, sur la base des valeurs qui fondent nos sociétés, telles que le sens de l’existence humaine, la protection des droits humains fondamentaux, la poursuite de la justice et de la paix. L’objectif devrait être la prévention des mauvaises pratiques et l’encouragement des bonnes pratiques.

Le discernement éthique et juridique est l’occasion d’une réflexion sur le rôle de la technologie dans notre vie individuelle et communautaire, et sur la façon dont son utilisation peut contribuer à la création d’un monde plus équitable et plus humain. Ce discernement est indispensable à la construction de la Paix.

Bernard Jarry-Lacombe, Chargé de mission au Service national famille et société

En écho à ce que dit le Pape sur la nécessité d’une règlementation de l’intelligence artificielle, il est intéressant de noter que l’Europe est en train de finaliser l’ “IA Act“, qui vise à favoriser l’innovation tout en limitant les possibles dérives dans la mise en œuvre de l’IA sur son territoire.

On pourra aussi se reporter à deux ouvrages cordonnés par le Service national famille et société de la CEF : Pour un numérique au service du bien commun, Odile Jacob, 2012, et le Document Episcopat #3/2023 intitulé Chrétiens dans la révolution numérique.