L'humain est une position

Je viens de la philosophie, et je suis resté athée

Je viens de la philosophie. Des années où je lisais Garin et Cassirer le matin et Foucault et Bobbio l’après-midi, où anticléricalisme et humanisme coïncidaient si naturellement qu’il n’était même pas besoin de l’argumenter. Depuis, j’ai gardé deux convictions que je continue de considérer comme le présupposé de tout discours public sérieux. La première est que les religions historiques sont, dans la grande majorité des cas, des dispositifs anti-humanistes, parce que la défense de l’humain exige une liberté que les structures cléricales n’ont jamais pu concéder qu’à contrecœur, sous pression, et presque toujours en retard. La seconde est que l’humanisme, le vrai, celui qui part de Garin et arrive au droit continental du XXe siècle en passant par la Constitution italienne et la déclaration de 1948, est un terrain structurellement laïque, où les traditions religieuses entrent comme invitées, et quand elles veulent prendre toute la place, soit elles se brouillent, soit elles se trahissent elles-mêmes. Ce sont des jugements que j’ai continué à pratiquer sans grand trouble en lisant les annexes techniques de l’AI Act, les derniers projets d’application du Cyber Resilience Act, les indications de l’EDPB sur les modèles d’AIPD pour les systèmes à haut risque. Je travaille dans la compliance européenne, je parle chaque jour avec des clients de l’administration publique et de la santé, et la seule métaphysique dont j’ai besoin d’habitude est celle, déjà assez compliquée, du considérant 71 du RGPD. Puis Magnifica Humanitas est parue, et quelque chose a bougé.

Pas une exhortation, un traité sur l’humain

Il m’a fallu deux soirées pour la lire. Elle n’est pas brève, et elle ne fait pas semblant de l’être. C’est un texte long, deux cent quarante-cinq paragraphes répartis en cinq chapitres, avec un appareil de deux cent vingt-quatre notes, écrit dans cette prose curiale qui par moments ralentit et par moments accélère de manière presque surprenante. Je m’attendais à l’énième exhortation moralisatrice sur l’intelligence artificielle, ce genre de document qui cherche à faire jeu égal avec un colloque de secteur et finit par arriver deux ans en retard et avec une demi-thèse en moins. Je me suis retrouvé devant quelque chose de différent. Pas une exhortation, mais un traité. Pas sur l’IA, mais sur l’humain, avec l’IA utilisée comme pierre de touche pour redire qui nous sommes. C’est exactement ce que le débat technique séculier peine à produire, parce qu’il présuppose un niveau de fondation conceptuelle que nous avons l’habitude de déléguer aux lois, en espérant que les lois s’en sortent toutes seules.

La subsidiarité n’est pas née à Bruxelles

Le problème, c’est que les lois ne s’en sortent pas toutes seules. Je le vois très bien quand j’essaie d’expliquer à un client pourquoi la subsidiarité numérique, celle qui inspire une grande partie de l’architecture du Data Act et des chapitres opérationnels de l’AI Act, n’est pas une invention de Bruxelles mais un principe avec presque un siècle d’élaboration derrière lui. Pie XI la formulait en 1931 dans Quadragesimo Anno, et depuis elle a traversé la jurisprudence, l’ordolibéralisme allemand, les travaux d’Adenauer, jusqu’à se déposer dans l’article 5 du Traité sur l’Union européenne. Quand un régulateur européen écrit que certaines décisions doivent être prises au niveau le plus proche possible des personnes concernées, il utilise une grammaire née ailleurs, pas à Bruxelles. Et quand j’essaie de défendre ce choix devant un client, je m’aperçois qu’il me manque les bons mots pour l’expliquer. Magnifica Humanitas, sur ce point, m’a rendu un lexique.

La destination universelle des biens, appliquée aux algorithmes

Ce qui m’a frappé, ce n’est pas la nouveauté des idées. Les idées de l’encyclique sont en grande partie connues. Ce qui m’a frappé, c’est la manière dont elle les tient ensemble, parce que ce sont exactement les idées dont j’ai besoin chaque fois que je dois discuter de compliance sans la réduire à un exercice bureaucratique. La destination universelle des biens, par exemple, appliquée au paragraphe 67 aux brevets, aux algorithmes, aux plateformes, aux infrastructures et aux données. Ce n’est pas une position que l’on puisse classer comme prépolitique ou utopique. C’est exactement le même problème que le Data Governance Act tente de cadrer avec le concept d’altruisme des données, que le DMA poursuit avec les règles sur les gatekeepers, que l’interprétation future des bases de données de santé européennes devra affronter quand l’European Health Data Space entrera en régime. Le fait qu’une donnée soit techniquement collectable et juridiquement attribuable ne signifie pas que sa destination finale soit légitimement privée. C’est une affirmation opérationnelle, pas un sermon.

Au-dessus du citoyen il n’y a plus seulement l’État

Il en va de même pour la subsidiarité au paragraphe 71. L’encyclique fait quelque chose que peu de documents techniques ont le courage de faire explicitement : elle rappelle que, dans le contexte numérique, le niveau supérieur au citoyen n’est plus l’État, mais le grand acteur économique qui exerce un pouvoir de fait sur les conditions de la vie commune. Ce n’est pas une métaphore. Quand une plateforme décide ce qui est visible et ce qui est masqué, quand un système de scoring algorithmique établit qui accède au crédit et qui non, quand un modèle de langage devient l’interface dominante pour certains types de service, s’exerce un pouvoir que la théorie classique de la subsidiarité n’avait pas prévu en ces termes. Le reconnaître formellement, dans un document officiel de cette autorité, déplace le plan de la discussion. Cela cesse d’être une opinion de niche. Cela devient une position fondée que l’on peut citer dans un mémoire en défense, dans une analyse d’impact, dans un avis à un client qui demande pourquoi on se donne tout ce mal pour implémenter un système de journalisation transparent.

Du jugement au calcul, un demi-siècle après Weizenbaum

Il y a ensuite un passage que je n’attendais pas, et qui est probablement le morceau le plus fort du document entier. Il se trouve au paragraphe 198, dans le chapitre sur la culture de la puissance, là où l’encyclique aborde la guerre, mais il vaut pour tout. Le jugement moral n’est pas réductible à un calcul, car il implique conscience, responsabilité personnelle et reconnaissance de l’autre comme personne. C’est pourquoi il n’est pas permis de confier à des systèmes artificiels des décisions létales ou de toute façon irréversibles. Deux phrases qui contiennent au moins un demi-siècle de pensée critique sur le calcul automatique. Joseph Weizenbaum, l’ingénieur du MIT qui avait construit ELIZA en 1966 et qui, quelques années plus tard, s’était effrayé en voyant comment sa secrétaire s’y confiait, écrivait en 1976 un livre dont le sous-titre était From Judgment to Calculation. Du jugement au calcul. Tout le livre était une défense de cette préposition, au, qui marque une perte. Weizenbaum soutenait qu’il y a des tâches que les ordinateurs ne peuvent pas et ne doivent pas accomplir, même si techniquement ils le pourraient, parce qu’elles impliquent la reconnaissance de l’autre comme personne, et que cette reconnaissance n’est pas un problème de représentation interne. C’est un acte. Magnifica Humanitas, un demi-siècle plus tard, dit exactement la même chose avec un vocabulaire différent. Ce n’est pas une coïncidence. C’est que certaines vérités anthropologiques ressurgissent quand les conditions matérielles les y contraignent, et aujourd’hui les conditions matérielles sont celles de la prise de décision automatisée appliquée à des vies humaines réelles.

Les nouveaux esclavages et le colonialisme des données

L’encyclique va plus loin. Au paragraphe 173, elle nomme des choses que le débat dominant sur l’IA préfère laisser dans les marges des conférences de fournisseurs. Elle cite explicitement l’étiquetage des données, la modération des contenus, l’extraction des terres rares, le travail des enfants dans les mines. Elle les appelle nouveaux esclavages, et pas par rhétorique. Elle les appelle ainsi parce qu’elles alimentent effectivement, de façon invisible pour qui utilise une API à soixante centimes le million de tokens, toute l’économie des architectures transformer. Au paragraphe 178, elle introduit un concept que les chercheurs en technopolitique utilisent depuis au moins cinq ans mais qui fait une certaine impression vu dans un document pontifical : le colonialisme des données. La phrase clé, c’est que qui possède les données de santé de populations entières, aujourd’hui souvent collectées sous le signe de l’aide, de la recherche ou de l’innovation, possède en réalité un levier structurel sur l’avenir. C’est une description exacte du risque stratégique qui pèse sur de nombreux contextes africains, asiatiques, latino-américains, et qui devrait peser sur nos choix de commande quand nous décidons où héberger une donnée, à quel fournisseur acheter l’entraînement d’un modèle, à quel écosystème déléguer l’analyse épidémiologique d’une région. Ce n’est pas une sensibilité new age. C’est une analyse d’impact.

Un traité qui tient comme source pour une AIPD

À ce stade de la lecture, je me suis arrêté. J’annotais des passages en marge comme si je préparais un mémoire technique, et je me suis rendu compte que c’était exactement ce que je faisais. L’encyclique fonctionne très bien comme traité anthropologique, mais elle fonctionne aussi comme source secondaire pour un argument de compliance. C’est un texte que l’on peut citer dans une AIPD pour justifier une évaluation restrictive. C’est un texte que l’on peut annexer à un avis sur une intégration d’IA dans le domaine de la santé. Pas parce qu’il a une valeur juridique, évidemment, mais parce qu’il fournit ce cadre de principe qui manque souvent quand on discute de choix techniques, et qui, lorsqu’il manque, se traduit par des décisions prises sur la seule base du coût d’opportunité. Qui travaille dans la compliance européenne sait ce que je veux dire. Il y a une zone grise, entre le considérant et l’article, entre l’intention du législateur et la lettre de la norme, où le technicien a besoin de s’appuyer sur quelque chose de solide pour expliquer pourquoi une interprétation est préférable à une autre. Avoir un texte de cette portée, écrit depuis une position extérieure au système technique mais capable d’en parler de l’intérieur, est un atout qu’il est stupide de ne pas utiliser par préjugé.

Ce n’est pas une conversion, et ce n’est pas un texte parfait

Je me rends compte que ceux qui me connaissent pourraient trouver étrange de lire ces lignes. Je n’annonce pas une conversion, et je ne dis pas non plus que le document est parfait. Il y a des points où l’encyclique dérape, surtout quand elle entre sur le terrain bioéthique et de la famille, où ma distance personnelle reste intacte. Il y a des passages où le ton pastoral prend le dessus sur la précision conceptuelle, et où j’aurais voulu moins de charité rhétorique et plus d’outils d’analyse. Ce n’est pas un texte que l’on signe, c’est un texte que l’on discute. Mais c’est le type de discussion qui, à moi, athée travaillant sur la régulation européenne de la technique, sert aujourd’hui plus qu’hier. Et je crois qu’elle sert, de la même manière, à qui essaie de construire une industrie technologique européenne différente de celle qui nous arrive de San Francisco ou de Hangzhou, parce que différente signifie fondée sur quelque chose, et quelque chose, à ce stade historique, ne s’improvise pas.

Désarmer

Au paragraphe 110, il y a un mot qui m’a fait sourire. Désarmer. L’encyclique dit vouloir désarmer l’IA, et précise aussitôt que désarmer ne signifie pas renoncer. Cela signifie la soustraire aux monopoles et à la logique de la compétition, la rendre discutable et contestable, la restituer à la pluralité des cultures humaines. C’est un mot politique, pas religieux. C’est exactement le mot que Bruxelles n’arrive pas encore à prononcer, parce que Bruxelles est encore otage du réalisme qui présume la course aux armements comme une donnée naturelle. Une course qui a cessé d’être militaire pour devenir cognitive, comme l’encyclique le note avec une lucidité remarquable, mais qui garde la même logique de fond. Le fait que le premier à le prononcer, dans un document officiel de cette diffusion, ait été le Vatican et non un commissaire européen, dit quelque chose sur l’état de notre débat public. Ce n’est pas une bonne nouvelle, mais c’est une nouvelle dont partir.

Trois choses que j’emprunte

Je termine par une note qui n’a rien à voir avec la théologie. Quand on lit un texte produit dans une tradition qui ne nous appartient pas, il y a deux voies. L’une est celle de la méfiance préventive, qui consiste à demander au texte de trahir sa propre origine avant d’accepter même de l’entendre. L’autre est celle de l’emprunt, qui consiste à prendre ce qui sert, laisser ce qui ne sert pas, et retourner à son travail avec un outil de plus. En tant qu’athée, je sens que je peux emprunter à Magnifica Humanitas au moins trois choses. La reconnaissance explicite que le jugement moral n’est pas automatisable, et que qui tente de l’automatiser fait une opération politique, non technique. La nomination des filières invisibles qui alimentent l’économie numérique, qui est le présupposé de toute demande sérieuse de due diligence. Et ce mot, désarmer, que je voudrais voir appliqué, dans les prochaines années, aux textes normatifs qu’il m’arrivera de lire pour le travail.

Le reste, qui y tient le discutera dans les lieux appropriés. À moi, aujourd’hui, il suffit d’avoir un traité de plus sur la table de nuit, et quelques pages bien écrites à relire quand un client me demandera pourquoi, au fond, après tout, je me donne la peine de faire les choses bien.

L'auteur

Andrea MargiovanniIA

Je suis le rapport entre IA et régulation européenne comme un fait politique, pas comme un spectacle technique. Je travaille avec des équipes qui doivent la rendre compatible avec AI Act, CRA, NIS2 sans réduire la conformité à une liste à cocher.

Voir le parcours →