Es gab einen genauen Moment, in dem ich verstanden habe, dass etwas in meinem Verhältnis zur Erkenntnis zerbrochen war. Ich sah ein Video auf YouTube, das Interview mit einem Politiker, der Dinge sagte, die mir absurd erschienen. Ich dachte: das muss ein Deepfake sein. Dann hielt ich inne. Ich hatte keinen wirklichen Grund, das zu denken, kein visuelles Glitch, keine Anomalie in der Lippenbewegung. Der Zweifel war einfach zu meiner Defaulthaltung geworden. Und das, wurde mir klar, ändert alles.
Ich habe Jahre lang Philosophie studiert, bevor ich mich der Informatik widmete, und diese Kombination hat mich immer zwischen zwei Welten gestellt, die sich schwer miteinander verständigen. Auf der einen Seite die abendländische epistemologische Tradition mit ihrer Obsession für die Übereinstimmung zwischen Denken und Wirklichkeit, jenes adaequatio rei et intellectus von Thomas von Aquin, das noch heute in unseren grundlegenden Intuitionen darüber, was es heißt, dass etwas wahr ist, nachklingt. Auf der anderen die Welt der Algorithmen, der statistischen Muster, der neuronalen Netze, die Texte und Bilder produzieren, ununterscheidbar von menschlichen, ohne die geringste Vorstellung davon, was sie tun. Zwei verschiedene Sprachen, zwei verschiedene Ontologien — und vielleicht zwei verschiedene Epochen, die sich im selben historischen Moment wiedergefunden haben.
Die Lügner-Dividende
Was mich am meisten beunruhigt, ist nicht, dass es Deepfakes gibt. Es ist, dass schon ihre bloße Existenz die Art, wie ich alles andere betrachte, verändert hat. Forscher nennen es die „Lügner-Dividende“: ohne ein einziges falsches Video zu erzeugen, erlaubt die Deepfake-Technologie jedem, jede echte Beweisspur zu diskreditieren, indem er einfach sagt: „das wird wohl von der KI erzeugt sein“. Genial, auf perverse Weise. Man muss eine Wahrheit nicht durch eine andere ersetzen. Man muss nur genug Rauschen erzeugen, um jede Gewissheit unmöglich zu machen.
Ich frage mich oft, ob uns die Postmoderne darauf vorbereitet hat oder uns nur verletzlicher gemacht hat. Lyotard verkündete 1979 das Ende der großen Erzählungen, Nietzsche schon ein Jahrhundert zuvor sprach von Wahrheiten als „Illusionen, von denen man vergessen hat, dass sie welche sind“. Es lag etwas Befreiendes in dieser Kritik, eine Art, die Macht zu entlarven, die sich hinter Objektivitätsansprüchen versteckte. Aber heute frage ich mich, ob wir nicht jene Werkzeuge zerschlagen haben, die wir bräuchten, um vorsätzliche Desinformation von legitimer Pluralität der Interpretationen zu unterscheiden. Ein Gedanke, der mich unbehaglich macht, weil er reaktionär klingt, und das bin ich, glaube ich, nicht. Aber vielleicht ist gerade das Unbehagen das Zeichen dafür, dass etwas zu verstehen ist.
Wenn ich lese, dass 2023 fast hunderttausend Deepfake-Videos erkannt wurden, ein Anstieg um 550 % gegenüber 2019, wenn ich erfahre, dass man heute einen Videocall in Echtzeit für unter zwei Euro manipulieren kann, wird mir klar, dass wir ein Gebiet betreten haben, in dem unsere epistemologischen Intuitionen nicht mehr greifen. Jahrtausende lang haben wir vorausgesetzt, sehen heiße glauben, ein Foto sei ein Beweis, ein Video zeige Realität. All das ist vorbei, und ich bin nicht sicher, ob wir uns dessen wirklich bewusst sind.
Algorithmen und Filterblasen
Ein Satz von Walter Quattrociocchi ist mir hängengeblieben: „im Zeitalter der Plattformen und der KI ist die Wahrheit nicht mehr objektiv, sondern vom Algorithmus geformt“. Beim ersten Mal kam mir das übertrieben vor, fast eine rhetorische Provokation. Aber je mehr ich darüber nachdenke, desto mehr scheint es eine genaue Beschreibung dessen, was wir leben. Empfehlungsalgorithmen sind keine neutralen Werkzeuge, die uns relevante Informationen zeigen. Sie sind aktive Akteure beim Aufbau unserer wahrgenommenen Realität. Sie entscheiden, was wir sehen, in welcher Reihenfolge, mit welcher Häufigkeit. Und sie tun das, indem sie Engagement-Metriken optimieren, nicht Wahrheitsmetriken.
Das Resultat sind die Filter Bubbles von Eli Pariser, jene Filterblasen, in denen wir nur Inhalte sehen, die zu unseren bestehenden Überzeugungen passen. Und die Echo Chambers, jene Echokammern, in denen unsere Meinungen von Menschen, die so denken wie wir, verstärkt werden. Eine Studie zu Twitter während der Pandemie zeigte, dass Nutzer mit rechter politischer Orientierung besonders dichte Echokammern bildeten, mit 80 % einer ihnen ähnlichen Audience. Aber das ist kein Problem nur der politischen Rechten. Es ist ein strukturelles Problem, eingelassen in die Architektur der Plattformen.
Was mich trifft, ist, wie unsichtbar dieser Prozess für jene ist, die ihn erleiden. Niemand sagt einem „du betrittst gerade eine Blase“. Dein Feed füllt sich einfach mit Inhalten, die dir gefallen, mit Meinungen, die du teilst, mit Menschen, die so denken wie du. Und du glaubst, die Welt zu sehen, während du in Wirklichkeit ein zunehmend verzerrtes Spiegelbild deiner selbst siehst.
Post-Wahrheit und gemeinsamer Boden
Ich habe viel über das Konzept der „Post-Wahrheit“ nachgedacht, jenes Wort, das das Oxford Dictionary 2016 zum Wort des Jahres gewählt hat. Die offizielle Definition spricht von einer Bedingung, in der „objektive Fakten weniger Einfluss auf die Meinungsbildung haben als Appelle an Emotionen und persönliche Überzeugungen“. Aber mir scheint, da fehlt etwas. Es geht nicht nur darum, dass Emotionen mehr zählen als Fakten. Es geht darum, dass das Konzept des „Faktums“ selbst anfechtbar geworden ist, dass die Möglichkeit eines gemeinsamen Bodens, auf dem Uneinigkeit errichtet werden könnte, erodiert ist.
Vielleicht ist genau das, was mir am meisten Angst macht. Eine Demokratie kann Uneinigkeit überleben, sie braucht sie sogar. Aber kann sie überleben, wenn es nicht einmal mehr Einigkeit darüber gibt, was ein Faktum ist? Wenn jede Aussage als Fake News abgewiesen werden kann, jeder Beweis als Manipulation, jede Expertin als Teil einer Verschwörung?
Ich denke oft an die COVID-19-Pandemie als ein natürliches Großexperiment. Wir hatten ein reales Virus mit realen Folgen und ein Wissenschaftssystem, das es in Echtzeit zu verstehen versuchte, mit allen Grenzen und Unsicherheiten, die das mit sich bringt. Und wir sahen, wie das digitale Informationsökosystem die Verwirrung verstärkt hat, legitime wissenschaftliche Unsicherheit in Material für Verschwörungstheorien verwandelt, Polarisierung selbst dort erzeugt hat, wo sie uns hätte einen sollen. Die WHO prägte den Begriff „Infodemie“ für diese Überflutung mit Informationen, manche zutreffend, manche nicht, die es den Menschen schwer machte, sich zu orientieren. Aber dieser Begriff unterschätzt vielleicht das Problem. Es war nicht nur zu viel Information. Es war ein Ökosystem, das Engagement statt Wahrheit, Polarisierung statt Verständnis belohnte.
Der Bestätigungsbias ist so alt wie die Menschheit. Wir tendieren dazu, Informationen zu suchen, zu interpretieren und zu erinnern, die bestätigen, was wir bereits glauben. Aber Algorithmen haben aus einer psychologischen Tendenz eine technologische Architektur gemacht. Sie haben den Bestätigungsbias automatisiert, industrialisiert. Was zuvor ein zu korrigierender kognitiver Defekt war, ist zu einem zu optimierenden Geschäftsmodell geworden.
Mich trifft die Geschwindigkeit, mit der Fake News sich gegenüber verifizierten Informationen verbreiten. Eine MIT-Studie zeigte, dass falsche Nachrichten auf X sechsmal schneller zirkulieren als wahre. Kein Zufall. Fake News sind so gestaltet, dass sie emotional fesseln, sensationalistisch sind, polarisieren. Sie nutzen unsere instinktiven Reaktionen, jene Hirnregionen, die antworten, bevor der präfrontale Kortex Zeit hat, kritisch zu analysieren. Eine Form kognitiven Hackings, die funktioniert, weil sie genau die Schwachstellen ausnutzt, die uns als Spezies überleben ließen.
LLMs und das Ende der Wahrheit als Zustand
Was mich, auf beunruhigende Weise, fasziniert, ist, wie KI nicht nur die Quantität, sondern die Qualität möglicher Desinformation verändert. LLMs wie GPT wissen nicht, was wahr ist. Sie haben keinen Zugang zu einer äußeren Realität, die sie überprüfen könnten. Sie sind statistische Maschinen, die das nächste Wort vorhersagen, basierend auf Mustern aus Milliarden menschlicher Texte. Aber das Ergebnis ist so überzeugend, so flüssig, so anscheinend abgewogen, dass es sehr leicht ist zu vergessen, was unter der Haube wirklich geschieht.
Ein Philosoph, den ich kürzlich las, stellte eine Frage, die mich lange beschäftigte: „was heißt es, dass ein System etwas ‚weiß’, wenn es weder Bewusstsein noch Intentionalität hat?“. Eine Frage, die den Kern dessen berührt, was wir immer für Wissen gehalten haben. Für Platon war Wissen wahre, gerechtfertigte Überzeugung. Aber kann es Überzeugung geben, ohne Subjekt, das überzeugt ist? Kann es Rechtfertigung ohne Verstehen geben? Sind wir Zeugen des Auftauchens eines „Wissens“, das rein inferentiell, funktional, statistisch ist, ohne jene Bindung an die Welt, die die abendländische Philosophie immer als wesentlich betrachtet hat?
Ich habe keine Antworten, nur Fragen. Aber vielleicht ist das richtig so. Vielleicht sind in diesem Moment die Fragen wichtiger als die Antworten.
Onlife und kognitive Hybridisierung
Es gibt einen Begriff, den Luciano Floridi eingeführt hat und der mir hilft, unsere Lage zu denken: „Onlife“. Die Idee ist, dass die Grenzen zwischen online und offline, digital und physisch, real und virtuell sich auflösen. Wir leben nicht mehr in der physischen Welt mit gelegentlichen Ausflügen ins Digitale. Wir leben in einem hybriden Raum, in dem die beiden Dimensionen sich durchdringen. Das verändert nicht nur, wie wir erkennen, sondern wer wir sind.
Ich erkenne mich in dieser Beschreibung wieder. Mein digitales Ich ist keine Maske, die ich anziehe, wenn ich online gehe. Es ist Teil von mir, ein Teil, der mit Algorithmen interagiert, sich durch Avatare ausdrückt, Teile der eigenen Identität an Profile auf Plattformen delegiert, die ich nicht kontrolliere. Eine Form der Hybridisierung, die meine Großeltern vielleicht schwer verstanden hätten, die für mich aber schlicht normal ist. Und das lässt mich daran denken, wie schnell wir uns an Veränderungen anpassen, die mit etwas Abstand betrachtet radikal sind.
Hybridisierung ist übrigens nicht nur digital. Millionen Menschen leben mit Herzschrittmachern, Prothesen, Implantaten. Unsere Evolution zum Cyborg ist längst im Gange und weit weniger Science-Fiction, als wir uns vorstellen. Aber während die physische Hybridisierung weitgehend als medizinischer Fortschritt aufgenommen wurde, weckt die kognitive mehr Ambivalenz. Vielleicht, weil sie etwas Intimeres berührt — etwas, das wir als den Kern unseres Wesens betrachten: Denken, Vernunft, Erkenntnisfähigkeit.
Was mich beunruhigt, ist nicht die Hybridisierung an sich. Es ist die Möglichkeit, dass wir den Maschinen zu viel delegieren, ohne zu verstehen, was wir verlieren. Es gibt ein Zitat von Hannah Arendt, das mich verfolgt, seit ich es gelesen habe:
Würde sich die Erkenntnis unwiderruflich vom Denken trennen, dann würden wir zu hoffnungslosen Wesen, Sklaven nicht so sehr unserer Maschinen als unserer Sachkenntnis, gedankenlose Geschöpfe, ausgeliefert jeder technisch möglichen Vorrichtung.
Arendt schrieb in den sechziger Jahren, lange vor dem Internet, vor sozialen Medien, vor generativer KI. Aber ihre Worte scheinen ein Risiko zu beschreiben, das heute viel konkreter ist als damals.
Studien zu Digital Natives zeigen besorgniserregende Tendenzen: oberflächliche Informationsverarbeitung, schneller Aufmerksamkeitswechsel, geringere Fähigkeit zu langer Reflexion. Kein moralisches Urteil, sondern eine Beschreibung, wie sich unsere Gehirne an ein Informationsumfeld anpassen, das eher Aufmerksamkeit fängt als Verständnis nährt. Und ich frage mich, ob wir die Bedingungen jener Trennung von Erkenntnis und Denken schaffen, von der Arendt sprach.
Aber vielleicht bin ich zu pessimistisch. Vielleicht hat jede Generation gedacht, die nächste verliere etwas Wesentliches, und jedes Mal hat die Geschichte diesen Pessimismus widerlegt. Oder dieses Mal ist es anders. Ich weiß es nicht. Intellektuelle Redlichkeit zwingt mich zuzugeben, dass ich es nicht weiß.
Vertrauen und die Grenzen der Medienkompetenz
Was ich weiß: eine Folge davon ist, dass die Daten zum institutionellen Vertrauen alarmierend sind. In Italien liegt das Vertrauen in das institutionelle System unter dem europäischen Durchschnitt. Nur jeder fünfte Bürger sagt, er habe Vertrauen in die politischen Parteien. Das Vertrauen ins Parlament liegt bei 37 %, in die Parteien bei 24. Selbst die Präsidentschaft der Republik, traditionell die geachtetste Institution, hat einen deutlichen Rückgang erlebt. Das sind keine abstrakten Zahlen. Es ist das Zeichen einer Bruchlinie zwischen Gesellschaft und Institutionen, die jede kollektive Aufgabe schwerer macht — von der ökologischen bis zur digitalen Transition.
Das Vertrauen in traditionelle Medien hat eine ähnliche Bahn beschrieben. Das schafft einen Teufelskreis: weniger Vertrauen in Medien heißt mehr Anfälligkeit für Desinformation, was wiederum das Vertrauen weiter erodiert. Ein selbstverstärkendes System, das ich ohne strukturelle Eingriffe nicht stabilisiert sehe.
Die EU hat mit dem AI Act zu antworten versucht — einer Verordnung, die Transparenzpflichten für KI-erzeugte Inhalte einführt, einschließlich Deepfakes. Die Idee ist einfach: wenn man die Erzeugung synthetischer Inhalte nicht verhindern kann, kann man wenigstens deren Hersteller zur Kennzeichnung verpflichten. Aber ich frage mich, wie sehr das in der Praxis greift. Wer Desinformation bewusst produziert, lässt sich gewiss nicht durch eine Kennzeichnungspflicht aufhalten. Und wer sie konsumiert, will oft gar nicht aufgeklärt werden.
Medienkompetenz wird oft als pädagogische Lösung des Problems genannt. Menschen beibringen, Quellen zu prüfen, Desinformationssignale zu erkennen, dem Bestätigungsbias zu widerstehen. Ein nobles, sicherlich notwendiges Ziel. Aber ich frage mich, ob es genügt. Kognitive Verzerrungen sind keine Fehler, die sich durch Bildung beheben lassen. Sie sind tief in unserer kognitiven Architektur verwurzelte Abkürzungen. Und Algorithmen sind von einigen der hellsten Köpfe des Planeten genau dafür gebaut, sie auszunutzen. Ein asymmetrisches Wettrüsten, von dem ich nicht sicher bin, dass Bildung es allein gewinnt.
Vielleicht ist das Wichtigste anzuerkennen, dass wir es nicht mit einem technischen Problem zu tun haben, das nach einer technischen Lösung verlangt. Wir haben es mit einer anthropologischen Verwandlung zu tun, die ein tiefes Neudenken dessen verlangt, was es heißt zu erkennen, zu kommunizieren, zu vertrauen. Das löst sich nicht durch eine App oder einen Schulungskurs. Das verlangt langfristige Kulturarbeit, eine kollektive Neuverhandlung dessen, was wir für wahr halten und wie wir dazu kommen, es so zu betrachten.
Die Wahrheit als Prozess
Es gibt einen Vorschlag, der mir vielversprechend erscheint, auch wenn ich nicht weiß, wie umsetzbar er ist: von einer Vorstellung der Wahrheit als Zustand zu einer Vorstellung der Wahrheit als Prozess überzugehen. Nicht mehr etwas, das man besitzt oder ein für alle Mal entdeckt, sondern etwas, das man fortlaufend durch Validierung, Überprüfung, Vergleich, Revision aufbaut. Kein Relativismus, in dem alles gleichviel gilt, sondern ein kritischer Realismus, der zugleich die Existenz einer unabhängigen Realität anerkennt und die mediatisierte, partielle, kontextgebundene Natur unserer Erkenntnis von ihr.
Eine schwierige Balance. Auf der einen Seite das Risiko eines naiven Objektivismus, der ignoriert, wie sehr unsere Begriffsraster prägen, was wir sehen. Auf der anderen das Risiko eines Relativismus, der jedes Kriterium auflöst, um zwischen verlässlicher Information und Desinformation zu unterscheiden. Den Mittelweg zu finden, verlangt eine Form epistemologischer Weisheit, die wir vielleicht erst zu kultivieren lernen müssen.
Quattrociocchi hat etwas geschrieben, das diese Idee gut einfängt:
Die Wahrheit der Zukunft wird kein fester Punkt sein, sondern ein Prozess fortlaufender Validierung, in dem Daten und Wissen transparenter und überprüfbarer aufgebaut werden.
Mir gefällt diese Formulierung, auch wenn ich nicht weiß, wie realistisch sie ist. Aber vielleicht ist genau das der Punkt: wir wissen nicht, was realistisch ist, weil wir mitten in einer Verwandlung stehen, deren Ausgang noch nicht entschieden ist. Wir können sie noch beeinflussen, wenn wir es wollen.
Wenn ich an dieses Video zurückdenke, das mir den Deepfake-Zweifel weckte, wird mir klar, dass das Problem nicht das Video an sich war. Das Problem war, dass der Zweifel zu meinem Default geworden war. Ich habe etwas verloren, von dem ich nicht einmal wusste, dass ich es hatte: ein Grundvertrauen in die Möglichkeit, Wahres von Falschem, Reales von Artefakt zu unterscheiden. Und ich frage mich, wie viele andere dasselbe erleben, vielleicht ohne es zu bemerken.
Ich weiß nicht, welcher Weg aus dieser Lage führt. Ich glaube nicht, dass es eine einfache Lösung gibt, einen Eingriff, der alles löst. Aber ich glaube, der erste Schritt ist, sich bewusst zu machen, wo wir sind, wie tief die laufende Verwandlung reicht, was auf dem Spiel steht. Und dann, vielleicht, gemeinsam etwas anderes zu bauen. Nicht in eine Vergangenheit zurückzukehren, die nicht zurückkehren kann, sondern eine Zukunft zu denken, in der die Wahrheit weder ein unantastbares Idol noch eine zu verabschiedende Illusion ist, sondern ein kollektives Projekt, an dem man teilnimmt.
Die Alternative — was manche „Hypnokratie“ genannt haben, ein Regime kognitiver Kontrolle durch algorithmische Manipulation — scheint mir weit schlimmer.
Und wir sollten lieber versuchen und scheitern, als gar nicht zu versuchen.
Und das ist vielleicht am Ende der einzige Weg, in einer Epoche menschlich zu bleiben, in der die Menschlichkeit selbst infrage steht. Nicht dem Zynismus nachgeben, nicht der Verzweiflung, sondern weiter suchen, zweifeln, fragen. Auch wenn die Antworten nicht kommen. Vor allem dann, wenn sie nicht kommen.
Was du mitnimmst
Die „Lügner-Dividende“: man muss kein Falsum erzeugen, es reicht zu sagen „das wird ja wohl von der KI erzeugt sein“, um jeden echten Beweis zu diskreditieren.
Medienkompetenz reicht nicht: kognitive Verzerrungen lassen sich nicht durch Bildung beheben, und Algorithmen sind von einigen der hellsten Köpfe genau dafür gebaut, sie auszunutzen.
Es ist kein technisches Problem, das nach einer technischen Lösung verlangt, sondern eine anthropologische Verwandlung, die verlangt, neu auszuhandeln, was wir für wahr halten.
Fragen & Antworten
Was meint „Wahrheit als Prozess“ und nicht als Zustand?
Den Übergang von einer Vorstellung von Wahrheit als objektivem Datum (etwas ist oder ist nicht) zu einer Vorstellung von Wahrheit als Ergebnis eines Validierungswegs (was wurde geprüft, von wem, mit welchen Quellen, gegen welche Einwände). Das ist kein Relativismus: es ist die Anerkennung, dass im Zeitalter der LLMs und der unendlichen Information Glaubwürdigkeit nicht im Inhalt liegt, sondern in der Validierungskette um ihn herum.
Warum machen LLMs diese Unterscheidung dringlich?
Weil sie flüssige, grammatisch perfekte, formal selbstsichere Outputs produzieren — unabhängig von der Wahrheit. Ein LLM kann dir mit Autorität einen erfundenen Sachverhalt erklären. Das stilistische Register ist kein verlässlicher Wahrheitsindikator mehr. Die Lesende muss zur Bewertung der Verifikationskette zurückkehren: wer sagt es, wo wurde es veröffentlicht, wer hat es geprüft, mit welchem Anreiz.
Was unterscheidet eine Quelle, die den Prozess respektiert, von einer, die das nicht tut?
Drei konkrete Signale: (1) sie zitiert Primärquellen und ermöglicht unabhängige Überprüfung; (2) sie räumt explizit ein, wenn sie etwas nicht weiß oder Unsicherheit besteht; (3) sie korrigiert Fehler öffentlich, ohne sie zu löschen. Wer das regelmäßig tut, kann sich irren und doch zuverlässig bleiben. Wer keines davon tut, hat gelegentlich recht — durch Zufall.
Wie stellt man in der Praxis ein gesundes Verhältnis zur Erkenntnis wieder her?
Indem man den Konsum verlangsamt. Weniger, aber bessere Quellen lesen. 24 Stunden warten, bevor man eine Nachricht teilt — der Zeitfilter ist das natürliche Antibiotikum gegen Desinformation. Jenen den Vorzug geben, die ihre Arbeit zeigen (Notizen, Quellen, Methodik), gegenüber jenen, die sie hinter Selbstgewissheit verbergen. Das ist keine Askese, das ist kognitive Hygiene.
Der Autor
