Il y a un moment précis où j’ai compris que quelque chose s’était cassé dans mon rapport à la connaissance. Je regardais une vidéo sur YouTube, l’interview d’un politique qui disait des choses qui me semblaient absurdes. J’ai pensé : ça doit être un deepfake. Puis je me suis arrêté. Je n’avais aucune raison réelle de le penser, aucun glitch visuel, aucune anomalie dans le mouvement des lèvres. Simplement, le doute était devenu ma réaction par défaut. Et cela, je m’en suis rendu compte, change tout.
J’ai étudié la philosophie pendant des années avant de me consacrer à l’informatique, et cette combinaison m’a toujours fait sentir à cheval entre deux mondes qui peinent à se parler. D’un côté la tradition épistémologique occidentale, avec son obsession pour la correspondance entre la pensée et la réalité, cette adaequatio rei et intellectus de Thomas d’Aquin qui résonne encore aujourd’hui dans nos intuitions les plus basiques sur ce que veut dire qu’une chose soit vraie. De l’autre, le monde des algorithmes, des patterns statistiques, des réseaux neuronaux qui produisent textes et images indistinguables des humains sans avoir la moindre idée de ce qu’ils font. Deux langages différents, deux ontologies différentes, et peut-être deux époques différentes qui se sont retrouvées à cohabiter au même moment historique.
Le dividende du menteur
Ce qui m’inquiète le plus, ce n’est pas que les deepfakes existent. C’est que leur seule existence a changé ma manière de regarder tout le reste. Les chercheurs appellent cela le « dividende du menteur » : sans même fabriquer une seule vidéo fausse, la technologie des deepfakes permet à n’importe qui de discréditer n’importe quelle preuve authentique en disant simplement « ce sera généré par l’IA ». C’est génial, à la manière perverse. Inutile de remplacer une vérité par une autre. Il suffit de créer assez de bruit pour rendre toute certitude impossible.
Je me demande souvent si le postmodernisme nous a préparés à cela ou s’il nous a seulement rendus plus vulnérables. Lyotard proclamait la fin des grands récits en 1979, Nietzsche un siècle plus tôt parlait des vérités comme « illusions dont on a oublié la nature illusoire ». Il y avait quelque chose de libérateur dans cette critique, une manière de démasquer le pouvoir qui se cachait derrière des prétentions à l’objectivité. Mais aujourd’hui je me demande si nous n’avons pas démoli les outils dont nous aurions besoin pour distinguer la désinformation délibérée du légitime pluralisme d’interprétations. Une pensée qui me met mal à l’aise, parce qu’elle sonne réactionnaire, et je ne crois pas l’être. Mais peut-être ce malaise est-il le signe qu’il y a quelque chose à comprendre.
Quand je lis qu’en 2023 près de cent mille vidéos deepfake ont été détectées, en hausse de 550 % depuis 2019, quand je découvre qu’on peut aujourd’hui manipuler un appel vidéo en temps réel pour moins de deux euros, je me rends compte que nous sommes entrés dans un territoire où nos intuitions épistémologiques ne fonctionnent plus. Pendant des millénaires, nous avons tenu pour acquis que voir, c’était croire, qu’une photo était une preuve, qu’une vidéo montrait la réalité. Tout cela est terminé, et je ne sais pas si nous en avons vraiment conscience.
Algorithmes et bulles filtres
Une phrase de Walter Quattrociocchi m’est restée : « à l’ère des plateformes et de l’IA, la vérité n’est plus objective mais façonnée par l’algorithme ». La première fois que je l’ai lue, elle m’a semblé exagérée, presque une provocation rhétorique. Mais plus j’y pense, plus elle me semble une description précise de ce que nous vivons. Les algorithmes de recommandation ne sont pas des outils neutres qui nous montrent des informations pertinentes. Ce sont des agents actifs dans la construction de notre réalité perçue. Ils décident de ce que nous voyons, dans quel ordre, à quelle fréquence. Et ils le font en optimisant des métriques d’engagement, pas de vérité.
Le résultat, ce sont les filter bubbles d’Eli Pariser, ces bulles filtres où l’on ne voit que des contenus cohérents avec ses croyances préexistantes. Et les echo chambers, ces chambres d’écho où nos opinions sont amplifiées et renforcées par des personnes qui pensent comme nous. Une étude sur Twitter pendant la pandémie a montré que les utilisateurs aux orientations politiques de droite formaient des chambres d’écho particulièrement denses, avec 80 % de leur audience composée de personnes leur ressemblant. Mais ce n’est pas un problème de la seule droite politique. C’est un problème structurel, inscrit dans l’architecture même des plateformes.
Ce qui me frappe, c’est combien ce processus est invisible pour qui le subit. Personne ne vous dit « vous entrez dans une bulle ». Simplement, votre fil se peuple de contenus qui vous plaisent, d’opinions que vous partagez, de personnes qui pensent comme vous. Et vous croyez voir le monde, alors qu’en réalité vous voyez un reflet de plus en plus déformé de vous-même.
Post-vérité et terrain commun
J’ai passé beaucoup de temps à réfléchir au concept de « post-vérité », ce mot que l’Oxford Dictionary a élu mot de l’année en 2016. La définition officielle parle d’une condition où « les faits objectifs ont moins d’influence pour façonner l’opinion publique que les appels à l’émotion et aux croyances personnelles ». Mais il me semble qu’il manque quelque chose. Ce n’est pas seulement que les émotions comptent plus que les faits. C’est que le concept même de « fait » est devenu contestable, que la possibilité d’un terrain commun sur lequel construire le désaccord s’est érodée.
C’est peut-être ce point qui m’effraie le plus. Une démocratie peut survivre au désaccord, elle en a même besoin. Mais peut-elle survivre quand il n’y a plus d’accord, même sur ce qui constitue un fait ? Quand toute affirmation peut être renvoyée comme fake news, toute preuve comme manipulation, tout expert comme partie d’un complot ?
Je pense souvent à la pandémie de COVID-19 comme à une expérience naturelle à grande échelle. Nous avions un virus réel, avec des conséquences réelles, et un système scientifique qui essayait de le comprendre en temps réel, avec toutes les limites et incertitudes que cela implique. Et nous avons vu comment l’écosystème informationnel numérique a amplifié la confusion, transformant l’incertitude scientifique légitime en matière première pour les théories du complot, créant de la polarisation jusque sur des questions qui en théorie auraient dû nous unir. L’OMS a forgé le terme « infodémie » pour décrire cette surabondance d’informations, certaines exactes, d’autres non, qui rendait difficile pour les gens de s’orienter. Mais ce terme sous-estime peut-être le problème. Ce n’était pas seulement trop d’information. C’était un écosystème conçu pour récompenser l’engagement plutôt que la vérité, la polarisation plutôt que la compréhension.
Le biais de confirmation est aussi vieux que l’humanité. Nous tendons à chercher, interpréter et nous souvenir d’informations qui confirment ce que nous croyons déjà. Mais les algorithmes ont transformé une tendance psychologique en architecture technologique. Ils ont automatisé le biais de confirmation, l’ont industrialisé. Ce qui était auparavant un défaut cognitif à corriger est devenu un modèle d’affaires à optimiser.
La vitesse à laquelle les fake news se diffusent par rapport aux informations vérifiées me frappe. Une étude du MIT a montré que les fausses nouvelles sur X se propagent six fois plus vite que les vraies. Ce n’est pas un hasard. Les fake news sont conçues pour être émotionnellement engageantes, sensationnalistes, polarisantes. Elles s’appuient sur nos réactions instinctives, sur les zones du cerveau qui réagissent avant que le cortex préfrontal ait le temps d’analyser. C’est une forme de hacking cognitif, et cela fonctionne parce que cela exploite les vulnérabilités mêmes qui nous ont permis de survivre comme espèce.
Les LLM et la fin de la vérité comme état
Ce qui me fascine, dans un sens inquiétant, c’est comment l’IA est en train de changer non seulement la quantité mais la qualité possible de la désinformation. Les LLM comme GPT ne savent pas ce qui est vrai. Ils n’ont pas accès à une réalité externe à vérifier. Ce sont des machines statistiques qui prédisent quel mot vient après l’autre, sur la base de patterns appris sur des milliards de textes humains. Mais le résultat est si convaincant, si fluide, si apparemment raisonné qu’il est très facile d’oublier ce qui se passe vraiment sous le capot.
Un philosophe que j’ai lu récemment posait une question qui m’a longtemps fait réfléchir : « que signifie qu’un système ‘connaît’ quelque chose s’il n’a ni conscience ni intentionnalité ? ». Une question qui touche au cœur de ce que nous avons toujours pensé être la connaissance. Pour Platon, la connaissance était croyance vraie justifiée. Mais peut-il y avoir croyance sans sujet qui croit ? Peut-il y avoir justification sans compréhension ? Assistons-nous à l’émergence d’une « connaissance » purement inférentielle, fonctionnelle, statistique, sans ce lien au monde que la philosophie occidentale a toujours considéré essentiel ?
Je n’ai pas de réponses, seulement des questions. Mais c’est peut-être juste comme ça. Peut-être qu’en ce moment les questions sont plus importantes que les réponses.
Onlife et hybridation cognitive
Il y a un concept introduit par Luciano Floridi qui m’aide à penser notre condition : « onlife ». L’idée est que les frontières entre online et offline, entre numérique et physique, entre réel et virtuel, sont en train de se dissoudre. Nous ne vivons plus dans le monde physique avec d’occasionnelles excursions dans le numérique. Nous vivons dans un espace hybride où les deux dimensions s’interpénètrent. Et cela change non seulement comment nous connaissons mais qui nous sommes.
Je me reconnais dans cette description. Mon moi numérique n’est pas un masque que j’enfile en allant en ligne. Il est partie de moi, une part qui interagit avec des algorithmes, s’exprime à travers des avatars, délègue des portions d’identité à des profils sur des plateformes que je ne contrôle pas. Une forme d’hybridation que mes grands-parents auraient peut-être eu du mal à comprendre, mais qui pour moi est simplement normale. Et cela me fait penser à la rapidité avec laquelle nous nous adaptons à des changements qui, vus avec un peu de recul, sont radicaux.
D’ailleurs, l’hybridation n’est pas qu’numérique. Des millions de personnes vivent avec des pacemakers, des prothèses, des implants. Notre évolution vers le cyborg est déjà en cours, et elle est bien moins de la science-fiction qu’on l’imagine. Mais alors que l’hybridation physique a été généralement accueillie comme un progrès médical, l’hybridation cognitive suscite plus d’ambivalence. Peut-être parce qu’elle touche quelque chose de plus intime, quelque chose que nous considérons comme le noyau de notre être : la pensée, la raison, la capacité de connaître.
Ce qui m’inquiète, ce n’est pas l’hybridation en soi. C’est la possibilité que nous soyons en train de déléguer trop aux machines sans comprendre ce que nous perdons. Il y a une citation d’Hannah Arendt qui me poursuit depuis que je l’ai lue :
Si la connaissance se séparait irrémédiablement de la pensée, alors nous deviendrions des êtres sans espérance, esclaves non tant de nos machines que de notre propre expertise, créatures dépourvues de pensée à la merci de tout dispositif techniquement possible.
Arendt écrivait dans les années soixante, bien avant Internet, les réseaux sociaux, l’IA générative. Mais ses mots semblent décrire un risque aujourd’hui bien plus concret qu’alors.
Les études sur les natifs numériques montrent des tendances préoccupantes : traitement superficiel des informations, déplacement rapide de l’attention, capacités réduites de réflexion prolongée. Ce n’est pas une condamnation morale, c’est la description de la manière dont nos cerveaux s’adaptent à un environnement informationnel conçu pour capter l’attention plutôt que nourrir la compréhension. Et je me demande si nous sommes en train de créer les conditions de cette séparation entre connaissance et pensée dont parlait Arendt.
Mais je suis peut-être trop pessimiste. Peut-être chaque génération a-t-elle pensé que la suivante perdait quelque chose d’essentiel, et chaque fois l’histoire a démenti ce pessimisme. Ou peut-être cette fois est-ce différent. Je ne sais pas. L’honnêteté intellectuelle m’oblige à admettre que je ne sais pas.
Confiance et limites de l’éducation aux médias
Ce que je sais, c’est que l’un des effets de tout cela est que les données sur la confiance dans les institutions sont alarmantes. En Italie, la confiance dans le système institutionnel est inférieure à la moyenne européenne. Un citoyen sur cinq seulement déclare avoir confiance dans les partis politiques. La confiance dans le Parlement est à 37 %, dans les partis à 24. Même la Présidence de la République, traditionnellement l’institution la plus respectée, a connu une baisse significative. Ce ne sont pas des chiffres abstraits. C’est le signe d’une fracture entre société et institutions qui rend plus difficile d’affronter n’importe quel défi collectif, de la transition écologique à la transition numérique.
La confiance dans les médias traditionnels a suivi une trajectoire similaire. Cela crée un cercle vicieux : moins de confiance dans les médias signifie plus de vulnérabilité à la désinformation, qui à son tour érode encore plus la confiance. Un système qui s’auto-alimente, et je ne vois pas comment il pourrait se stabiliser sans interventions structurelles.
L’Union européenne a tenté de répondre avec l’AI Act, un règlement qui introduit des obligations de transparence pour les contenus générés par IA, deepfakes inclus. L’idée est simple : si l’on ne peut pas empêcher la création de contenus synthétiques, au moins on peut obliger ceux qui les produisent à les étiqueter. Mais je me demande à quel point cela peut fonctionner en pratique. Qui crée la désinformation délibérément ne se laissera certainement pas arrêter par une obligation d’étiquetage. Et qui la consomme souvent ne veut pas être détrompé.
L’éducation aux médias est souvent citée comme la solution pédagogique au problème. Apprendre aux gens à vérifier les sources, à reconnaître les signaux de la désinformation, à résister au biais de confirmation. C’est un objectif noble, et certainement nécessaire. Mais je me demande s’il est suffisant. Les biais cognitifs ne sont pas des erreurs qu’on corrige par l’instruction. Ce sont des raccourcis mentaux profondément ancrés dans notre architecture cognitive. Et les algorithmes sont conçus par des esprits parmi les plus brillants de la planète précisément pour les exploiter. C’est une course aux armements asymétrique, et je ne suis pas sûr que l’éducation puisse la gagner seule.
Le plus important est peut-être de reconnaître que nous ne faisons pas face à un problème technique réclamant une solution technique. Nous faisons face à une transformation anthropologique qui exige une refonte profonde de ce que veut dire connaître, communiquer, faire confiance. Cela ne se résout pas avec une appli ou un cours de formation. Cela exige un travail culturel de longue haleine, une renégociation collective de ce que nous considérons comme vrai et de la manière dont nous arrivons à le considérer comme tel.
La vérité comme processus
Il y a une proposition qui me semble prometteuse, même si je ne sais pas combien elle est réalisable : passer d’une conception de la vérité comme état à une conception de la vérité comme processus. Plus quelque chose qu’on possède ou qu’on découvre une fois pour toutes, mais quelque chose qu’on construit continuellement par validation, vérification, confrontation, révision. Pas un relativisme où tout se vaut, mais un réalisme critique qui reconnaît à la fois l’existence d’une réalité indépendante et la nature médiée, partielle, contextuelle de notre connaissance.
C’est un équilibre difficile à tenir. D’un côté le risque d’un objectivisme naïf qui ignore combien nos catégories conceptuelles influencent ce que nous voyons. De l’autre, le risque d’un relativisme qui dissout tout critère pour distinguer information fiable et désinformation. Trouver la voie médiane demande une forme de sagesse épistémologique qu’il nous reste peut-être à cultiver.
Quattrociocchi a écrit quelque chose qui me semble bien capter cette idée :
La vérité du futur ne sera pas un point fixe, mais un processus de validation continue, où données et connaissance se construisent de manière plus transparente et vérifiable.
Cette formulation me plaît, même si je ne sais pas combien elle est réaliste. Mais c’est peut-être là le point : nous ne savons pas ce qui est réaliste parce que nous sommes au milieu d’une transformation dont les issues ne sont pas encore décidées. Nous pouvons encore les influencer, si nous choisissons de le faire.
Quand je repense à cette vidéo qui m’a fait douter du deepfake, je me rends compte que le problème n’était pas la vidéo en soi. Le problème, c’était que le doute était devenu mon état par défaut. J’ai perdu quelque chose dont je ne savais même pas que je l’avais : une confiance de base dans la possibilité de distinguer le vrai du faux, le réel de l’artefact. Et je me demande combien d’autres personnes vivent la même chose, peut-être sans même s’en apercevoir.
Je ne sais pas quelle est la voie pour sortir de cette condition. Je ne crois pas qu’il existe une solution simple, une intervention qui résolve tout. Mais je crois que le premier pas est de prendre conscience d’où nous sommes, de la profondeur de la transformation en cours, de l’enjeu. Puis, peut-être, essayer de bâtir ensemble quelque chose de différent. Pas revenir à un passé qui ne peut pas revenir, mais imaginer un futur où la vérité ne soit ni une idole intouchable ni une illusion à abandonner, mais un projet collectif auquel participer.
L’alternative, ce que certains ont appelé « hypnocratie », un régime de contrôle cognitif par la manipulation algorithmique, me semble bien pire.
Et nous devrions essayer et échouer plutôt que ne pas essayer du tout.
Et c’est peut-être cela, à la fin, la seule façon de rester humains à une époque où l’humanité elle-même est mise en cause. Ne pas céder au cynisme, ne pas céder au désespoir, mais continuer à chercher, à douter, à interroger. Même quand les réponses ne viennent pas. Surtout quand les réponses ne viennent pas.
Ce qu'il faut retenir
Le « dividende du menteur » : pas besoin de fabriquer un faux, il suffit de pouvoir dire « ce sera généré par l’IA » pour discréditer toute preuve authentique.
L’éducation aux médias ne suffit pas : les biais cognitifs ne se corrigent pas par l’instruction, et les algorithmes sont conçus par des esprits parmi les plus brillants pour les exploiter.
Ce n’est pas un problème technique réclamant une solution technique, c’est une transformation anthropologique qui exige de renégocier ce que nous considérons comme vrai.
Questions & réponses
Que veut dire « la vérité comme processus » et non comme état ?
Le passage d’une idée de vérité comme donnée objective (ce qui est ou n’est pas) à une idée de vérité comme issue d’un parcours de validation (ce qui a été vérifié, par qui, avec quelles sources, contre quelles objections). Ce n’est pas du relativisme : c’est reconnaître qu’à l’ère des LLM et de l’information infinie, la crédibilité ne tient pas au contenu mais à la chaîne de validation autour de lui.
Pourquoi les LLM rendent-ils cette distinction urgente ?
Parce qu’ils produisent des outputs fluides, grammaticalement parfaits, formellement assurés — indépendamment de la vérité. Un LLM peut vous expliquer avec autorité un fait inventé. Le registre stylistique n’est plus un indicateur fiable de véracité. Le lecteur doit revenir à l’évaluation de la chaîne de vérification : qui le dit, où c’est publié, qui a relu, avec quelle motivation.
Qu'est-ce qui distingue une source qui respecte le processus d'une qui ne le fait pas ?
Trois signaux concrets : (1) elle cite les sources primaires et permet la vérification indépendante ; (2) elle reconnaît explicitement quand elle ne sait pas ou quand il y a de l’incertitude ; (3) elle corrige publiquement ses erreurs, sans les effacer. Qui fait ces trois choses régulièrement peut se tromper et rester fiable. Qui n’en fait aucune a parfois raison, par hasard.
Comment retrouver une relation saine avec la connaissance, en pratique ?
En ralentissant la consommation. Lire moins de sources mais mieux. Attendre 24 heures avant de partager une nouvelle — le filtre du temps est l’antibiotique naturel de la désinformation. Privilégier ceux qui montrent leur travail (notes, sources, méthodologie) à ceux qui le cachent derrière l’assertivité. Ce n’est pas de l’ascèse, c’est de l’hygiène cognitive.
L'auteur
