IA : Sommes-nous en train de perdre le contrôle ?
À mesure que l’intelligence artificielle devient plus puissante, les scénarios catastrophes se multiplient. Mais entre alerte légitime et marketing de la peur, où placer le curseur ?
« Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie». Cette phrase, publiée le 9 septembre dernier par Jacob Coxon, chercheur ayant travaillé successivement chez OpenAI puis Anthropic, a fait grand bruit. Dans une publication sur X annonçant son départ d’Anthropic, il dénonçait une course à la construction d’une intelligence artificielle toujours plus puissante, susceptible à terme de s’améliorer elle-même. Selon lui, les personnes qui développent ces systèmes savent que les enjeux pourraient être civilisationnels, mais restent prises dans une compétition où chacune craint de ralentir alors que les autres continuent d’avancer.
Son propos a été renforcé par Evan Hubinger, responsable de l’alignement chez Anthropic. Celui-ci a déclaré croire personnellement à une probabilité supérieure à 10 % que l’IA puisse « tuer tous les humains » au cours de la prochaine décennie. Cette estimation porte sur les futurs développements de l’IA et non sur une affirmation selon laquelle les modèles actuellement déployés seraient sur le point de provoquer une extinction humaine.
Parler d’« extinction de l’humanité », de « superintelligence incontrôlable » ou d’« IA qui pourrait tous nous tuer » attire immédiatement l’attention. Ces scénarios peuvent contribuer à sensibiliser le public et à accélérer la réflexion sur la sécurité de l’IA.
Mais certains spécialistes s’accordent à dire qu’il s’agit d’une forme de marketing de la peur.
Les entreprises qui développent ces technologies sont parfois elles-mêmes celles qui alertent le plus fortement sur leurs dangers. Ce paradoxe mérite d’être regardé avec lucidité.
Il ne s’agit donc pas de dire que ces alertes sont fausses. Il s’agit de distinguer le risque réel du récit médiatique.
Cette mise à distance ne signifie pourtant pas que nous pouvons balayer d’un revers de main les dangers liés à l’IA.
Des scénarios d’une superintelligence bientôt capable de détruire l’humanité peuvent sembler relever de la science-fiction. Mais, derrière ces récits parfois spectaculaires, se trouve une vérité plus concrète : l’IA n’a pas besoin d’être consciente, ni même surhumaine, pour produire des effets profondément problématiques.
Une étude publiée en juin par le MIT FutureTech et l’Université du Queensland, menée auprès de 272 spécialistes de l’IA issus de 37 pays, identifie 24 catégories de risques.
Parmi les préoccupations jugées particulièrement importantes figurent les capacités dangereuses des systèmes d’IA, leur utilisation pour les armes et les cyberattaques, les dynamiques de compétition entre acteurs, la concentration du pouvoir et la désinformation sophistiquée.
Autrement dit, le danger ne réside pas nécessairement dans une machine qui deviendrait consciente et déciderait un jour de détruire l’humanité.
Il peut être beaucoup plus concret : des systèmes extrêmement puissants, développés et contrôlés par un nombre limité d’acteurs, capables de transformer profondément notre rapport à l’information, au travail, à la décision et au pouvoir.
Les nouveaux agents d’IA peuvent déjà accomplir des tâches complexes avec une autonomie croissante. Ils peuvent planifier, utiliser des outils, écrire du code, rechercher des informations et exécuter plusieurs actions successives.
Cela fait apparaître une difficulté essentielle : lorsque nous donnons autant d’autonomie aux systèmes, la question de leur contrôle devient importante.
Le risque le plus tangible n’est donc peut-être pas que l’IA nous prenne le contrôle, mais que nous lui en donnions progressivement davantage sans avoir défini clairement les limites.
Reprendre le contrôle
C’est ici que Magnifica Humanitas apporte une perspective essentielle.
Dans son encyclique publiée le 15 mai 2026, Léon XIV invite à déplacer le regard : ne pas considérer uniquement ce que la technologie est capable de faire, mais aussi la manière dont elle doit rester au service de la personne humaine.
Le texte insiste notamment sur la dignité humaine, la concentration du pouvoir dans le monde numérique et la nécessité d’un discernement moral et politique face aux transformations provoquées par l’intelligence artificielle.
Cette approche permet de sortir du face-à-face entre fascination et peur.
L’IA est une puissance que nous avons créée. Mais la question décisive est désormais de savoir si nous serons encore capables d’en fixer collectivement les finalités, les limites et les conditions d’usage.
Magnifica Humanitas nous invite ainsi à regarder l’être humain.
Et c’est peut-être là que se trouve la question essentielle : non pas jusqu’où l’intelligence artificielle peut aller, mais jusqu’où l’humanité est prête à aller sans perdre ce qui fait sa valeur, sa liberté et sa dignité ?
