Andrea Margiovanni .it

Europa sagt genug: dein Gehirn ist kein KPI

Der DSA nimmt den Infinite Scroll von TikTok und den „Autopiloten“ der Aufmerksamkeit ins Visier. Derweil steht Meta in den USA vor Gericht. Design wird Politik.

Es gibt eine Geste, die wir alle hunderte Male am Tag machen, ohne nachzudenken. Vielleicht die meistwiederholte Geste unserer Zeit, häufiger als gehen, häufiger als „achtsam“ Wasser trinken. Der Daumen, der über einen Bildschirm nach oben streicht. Ein Scroll. Noch einer. Noch einer.

Am 6. Februar 2026 hat die Europäische Kommission etwas getan, das, zumindest wie ich es wahrgenommen habe, ein Davor und Danach setzt. Sie hat nicht gesagt: „Dieser Inhalt ist verboten.“ Sie hat nicht gefordert, einen Hashtag zu verbergen oder ein Video zu entfernen. Sie hat ein Interaktionsmuster in Frage gestellt. Eine Designentscheidung.

Laut den vorläufigen Findings unter dem Digital Services Act drängt der Infinite Scroll von TikTok die Nutzerinnen in einen „Autopilot Mode“ und nährt kompulsives Verhalten. Folglich, sagt Brüssel, müsse die Plattform das Grunddesign des Dienstes ändern: Endlosscroll deaktivieren, Pflichtpausen einführen, Empfehlungssystem überdenken. Wenn nicht, kann die Strafe bis zu 6 % des weltweiten Jahresumsatzes erreichen. Für ByteDance bedeutet das Zahlen, bei denen die Handgelenke zittern, im Bereich von Dutzenden Milliarden.

Zwei Wochen später, jenseits des Ozeans, sitzt Mark Zuckerberg in einem Gericht in Los Angeles. Es ist der erste Geschworenenprozess zur Social-Media-Sucht in der amerikanischen Geschichte. Eine zwanzigjährige Frau, identifiziert als K.G.M., schildert, wie sie als Kind von Instagram aufgesogen wurde und Depressionen sowie Suizidgedanken entwickelte. Im Hintergrund stehen über 1.600 ähnliche Verfahren in der Schlange.

Die Anwälte zeigen interne E-Mails von Meta. Ein Satz bleibt kleben: „IG ist eine Droge. wir pushen die Nutzer.“ Eine andere E-Mail legt nahe, das Unternehmen habe gewusst, dass mehr als 30 % der Kinder zwischen 10 und 12 Jahren Instagram nutzten — entgegen den eigenen Policies. Zuckerberg antwortet, das Ziel sei, den Dienst „nützlich“ zu machen, nicht die Verweildauer zu maximieren. Derweil warnt der Richter das Publikum, die Verhandlungen nicht mit KI-Brillen aufzuzeichnen. Einige aus Zuckerbergs Entourage waren angeblich mit Ray-Ban Meta erschienen.

Zwei Kontinente. Zwei Ansätze. Dasselbe Problem.

Design ist Politik

Es lohnt sich, kurz zu verweilen, denn was am 6. Februar passiert ist, ist radikaler, als es scheint.

Europa hat keinen Inhalt reguliert. Es hat gesagt, dass die Form selbst der Interaktion zwischen einer Person und einer App ein systemisches Risiko darstellen kann. Dass eine Daumenbewegung, wenn sie endlos angelegt ist, nicht „deine Schwäche“ sei. Es ist ein Problem der Plattform.

Es ist faktisch das erste Mal, dass eine Regulierungsbehörde versucht, einen rechtlichen Standard für das Suchtpotenzial von Design zu setzen. Es ist kein Gesetz „gegen Infinite Scroll“ im Abstrakten. Es ist ein größeres Prinzip: Suchtdesign ist ein Risiko, und der Infinite Scroll ist eine seiner offensichtlichsten Erscheinungen.

Interessant — und etwas beunruhigend — ist, dass das Prinzip nicht bei TikTok aufhört. Meta wird seit Mai 2024 aus ähnlichen Gründen geprüft. Der berühmte „Rabbit Hole“, der Tunnel, den man mit einem Inhalt betritt und in den der Algorithmus dich zu immer ähnlicheren, manchmal extremeren Inhalten drängt, ist im Visier. X hat bereits eine Strafe von 120 Millionen Euro wegen „täuschender Designpraktiken“ erhalten.

Der Ansatz der EU lautet zunehmend: Sie sagt nicht nur, was du nicht zeigen darfst, sondern auch, wie du Menschen nicht fühlen lassen darfst.

Und für jene, die Software bauen, verschiebt sich der Boden wirklich. Code war nie neutral, das wussten wir, aber jetzt wird er offiziell auch eine Frage rechtlicher Verantwortung. Die Product Liability Directive, die am 9. Dezember 2026 in Kraft tritt, schließt Software in den Produktbegriff ein. Der Cyber Resilience Act verlangt Sicherheit by Design. Der AI Act fordert Risikobewertungen. Und nun deutet der DSA an, dass auch die Art, wie du einen Feed organisierst, ein Verstoß sein kann.

Mir kommt ein einfaches Bild in den Sinn: die Türklinke, die dich nicht hinauslässt. Es ist kein Problem dessen, der hinaus will. Es ist ein Problem der Klinke.

Das Quartal gegen das Neuron

Die Frage bleibt: Wie sind wir hierhergekommen? Warum braucht es Gerichte und Kommissionen, um etwas zu sagen, das jeder, der ein Kind hat — oder einfach einen Daumen — bereits ahnt?

Eine Antwort liegt vielleicht in den internen Dokumenten, die in den US-Verfahren auftauchen. Es wirkt nicht wie Fahrlässigkeit. Es wirkt wie eine bewusste, wiederholte Wahl, geleitet von einer Metrik: Engagement. Und Engagement ist am Ende der Vorraum des Quartalsberichts.

Aus diesen Akten geht hervor, dass es kein Nebeneffekt war, die auf den Plattformen verbrachte Zeit zu erhöhen und unter Teens zu wachsen. Es war ein Ziel. E-Mails von 2015 und 2017 diskutieren, wie man Wachstum unter Jugendlichen priorisiert. Interne Studien notieren, dass manche Teens Instagram mit Worten beschrieben, die nahe an Verhaltenssucht heranreichen.

Und doch hört man nicht auf. Man misst weiter.

Adam Mosseri, der Instagram-Chef, hat ausgesagt, es handle sich seiner Meinung nach nicht um „klinische Sucht“, sondern um „problematische Nutzung“. Vielleicht ist die Unterscheidung im Gerichtssaal wichtig. Im realen Leben frage ich mich, was sie ändert. Der Punkt jedenfalls: Sie wussten es.

Sie wussten, dass Gesichts-Filter, die Schönheitsoperationen simulieren, Effekte auf Mädchen haben können — und nach interner Debatte wählten sie ein „gezielteres Verbot“ statt eines vollständigen. Sie wussten, dass Parental Controls leicht zu umgehen waren, und verkauften sie als Lösung. Sie wussten, dass Kinder unter 13 zu Millionen anwesend waren — und zählten sie weiter als Nutzer.

Hier kommt ein wirtschaftlicher Begriff ins Spiel, den ich nützlich finde, auch wenn er ein wenig erschreckt, so genau passt er. Externalität: Kosten, die der Produzent auf die Gesellschaft abwälzt, ohne sie zu zahlen. Verschmutzung ist das klassische Beispiel: Die Fabrik produziert, der Fluss zahlt.

Mit den Sozialen Medien hatten wir zwanzig Jahre lang eine neue Form von Externalität. Man könnte sie ohne Übertreibung Aufmerksamkeitsexternalität nennen: die Kosten, die die Gesellschaft trägt, wenn ein Unternehmen Aufmerksamkeit fördert wie eine Mine Kohle, ohne den Schaden zu kompensieren. Lungen werden Neuronen. Luft wird Zeit. Der Fluss wird die Kindheit eines Menschen.

Und der Unterschied zur industriellen Verschmutzung ist vielleicht dieser: Hier ist der Schaden nicht nur Nebeneffekt. In vielen Fällen wurde er entworfen. Er ist nicht der Abfall der Produktion. Er ist das Produkt.

Der Autopilot und die Würde

In den europäischen Findings steht ein Ausdruck, der mir hängengeblieben ist: „Autopilot Mode“. Bestimmte Funktionen, schreibt die Kommission, versetzen das Gehirn der Nutzerinnen in einen Autopilot-Modus und nähren den Drang, weiterzuscrollen. Die wissenschaftliche Forschung, fügen sie hinzu, zeige, dass diese Mechanismen die Selbstkontrolle reduzieren und zu kompulsivem Verhalten beitragen können.

Autopilot ist ein seltsames Wort, denn in anderen Kontexten ist es fast positiv. In der Luftfahrt ergibt es Sinn: Es entlastet kognitive Ressourcen für wichtigere Entscheidungen. Auf einem Social Network nimmt es dagegen die wichtigste kognitive Ressource, die wir in dem Moment haben: die Fähigkeit, zu entscheiden, wann wir aufhören.

Byung-Chul Han hat das zeitgenössische Unbehagen gut beschrieben, indem er von der Leistungsgesellschaft und der Selbstausbeutung sprach. Vereinfacht: Heute braucht es keinen äußeren Herrn. Wir pressen uns selbst — optimieren, performen, konsumieren — bis zum Burnout. Und das Smartphone ist das perfekte Werkzeug dafür.

Doch es gibt einen weiteren Schritt, den der TikTok-Fall unter dem DSA klarer macht. Selbstausbeutung ist nicht immer selbst erzeugt. Manchmal wird sie von jemand anderem entworfen und dann als Freiheit verkauft.

Der Infinite Scroll ist keine Entscheidung der Nutzerin. Er ist eine Entscheidung eines Produktteams, validiert in einem A/B-Test, abgesegnet von einem VP of Growth, gefeiert im Quarterly Business Review. Die Nutzerin beutet sich nicht selbst aus. Sie wird in einer Architektur ausgebeutet, die Wahl simuliert.

Hier könnte man, ohne Salonphilosophie, sogar Kant heranziehen. Menschen als Zweck behandeln, niemals nur als Mittel. Die Nutzerin-als-KPI ist die Nutzerin-als-Mittel, zum Geschäftsmodell erhoben. Du bist keine Person, die einen Dienst nutzt. Du bist eine zu fördernde Aufmerksamkeitseinheit, ein zu monetarisierendes Auge, ein zu bewegender Daumen.

Vielleicht ist das der Grund, warum das, was Europa tut, im Innersten wie eine Verteidigung der Würde wirkt. Nicht nur Verbraucherschutz. Die Idee, dass wir ein Recht darauf haben, nicht manipuliert zu werden — auch wenn die Manipulation elegant ist, gut entworfen und verpackt in eine farbige Oberfläche mit abgerundeten Ecken.

Zwei Weltmodelle

Der Kontrast zwischen Brüssel und Los Angeles erzählt zwei verschiedene Philosophien.

In den USA ist das System adversarial. Eine Familie verklagt ein Unternehmen, zeigt Dokumente, Zeugen, Gutachten. Eine Jury entscheidet, ob Instagram ein „wesentlicher Faktor“ für den Schaden einer bestimmten Person war. Ein Modell von Fall zu Fall, in dem die Beweislast vor allem auf den Geschädigten lastet.

Und in diesem Kontext wird alles mehrdeutig. YouTube versucht in derselben Klage, sich zu verteidigen, indem es behauptet, eher Netflix zu sein als ein Social Network. Meta sagt, das Problem sei nicht die App, sondern der Inhalt — oder vielleicht das Privatleben des Mädchens. Die Grenze zwischen „Schaden der Plattform“ und „Schaden des Inhalts“ ist schwer zu ziehen. Man streitet über die Definition von „Sucht“. Man verschiebt. Man verhandelt.

In Europa ist der Ansatz struktureller. Man wartet nicht auf den Schaden, man reguliert das Design. Man verlangt nicht von der Einzelnen, zu beweisen, dass der Infinite Scroll ihr Leben ruiniert hat. Man verlangt von der Plattform, zu beweisen, dass ihr Design nicht intrinsisch riskant ist. Der DSA behandelt Suchtdesign als systemisches Risiko, gleichrangig mit Desinformation oder Wahleinmischung.

Eine Asymmetrie, die zwei Vorstellungen von Freiheit spiegelt.

In den USA ist Freiheit oft Abwesenheit von Zwängen: Du bist frei, TikTok zu nutzen oder nicht — und wenn es dir schadet, ist das dein Problem, oder das deines Anwalts.

In Europa, zumindest in dieser Architektur, schließt Freiheit den Schutz vor Manipulation ein: Du bist nur frei, wenn die Bedingungen, in denen du operierst, nicht darauf entworfen sind, dir die Wahlfähigkeit zu nehmen.

Keines der beiden Modelle ist perfekt. Aber eines davon versucht heute, das Spiel zu ändern, bevor Millionen Menschen vor Gericht ihre Kindheit erzählen müssen.

Die Frage für jene, die bauen

Ich mache Software. Jeden Tag werden Designentscheidungen getroffen, die klein wirken und doch Gewicht haben. Wo ein Button platziert wird. Wie eine Benachrichtigung strukturiert ist. Wie leicht oder schwer ein Flow zu verlassen ist. Ob ein Counter, ein Badge, ein roter Punkt erscheint.

Ich mache keine Sozialen Medien. Ich arbeite an Plattformen für die öffentliche Verwaltung, E-Learning, B2B-Diensten, juristischen Werkzeugen. Meine Welt ist tausend Kilometer vom Infinite Scroll entfernt. Und doch wirkt das Prinzip, das Europa zu setzen versucht, universell: Design ist nicht neutral. Jede Schnittstellen-Entscheidung ist auch eine ethische. Und jetzt, ob man will oder nicht, eine mit rechtlichen Folgen.

Jahrelang hatten Social-Plattformen eine Art faktische Straflosigkeit, weil die Regulierung nicht Schritt hielt. Diese Zeit scheint vorbei. DSA, Product Liability Directive, Cyber Resilience Act, AI Act sind Steine eines Mosaiks, das das Verhältnis zwischen Tech-Hersteller und Tech-Nutzer neu zeichnet.

Tech-Erleidenden, möchte man sagen, nachdem man bestimmte interne E-Mails gelesen hat.

Am Ende habe ich eine Überzeugung, die hängenbleibt — und sich vermutlich jedes Mal verstärkt, wenn ich sehe, wie ein Produkt dank eines kognitiven Tricks „wächst“: Software, die ihre Nutzerinnen respektiert, ist bessere Software. Nicht weil Europa es uns vorschreibt, sondern weil es das Richtige ist.

Und das Radikalste heute ist vielleicht, etwas radikal Offensichtliches zu tun. Technologie zu bauen, die nicht erst von einem Gericht angeordnet bekommen muss, mit Schaden aufzuhören.

Der Infinite Scroll wird in der einen oder anderen Form enden. Die wirkliche Frage ist, was wir an seine Stelle setzen. Wenn es nur ein weiterer Trick ist, der dich klebt, mit anderem Namen und kaum subtilerem Mechanismus, dann haben wir nichts gelöst.

Wenn es dagegen ein Design ist, das von der Frage „Was braucht diese Person?“ ausgeht statt „Wie halte ich sie eine Minute länger hier?“, dann ist der 6. Februar 2026 vielleicht ein Datum, das es zu erinnern lohnt.

Nicht für den Scroll, den er in Frage gestellt hat, sondern für die Frage, die er zur Pflicht gemacht hat.

Was du mitnimmst

  • Design ist nicht neutral: Jede Schnittstellen-Entscheidung ist eine politische und nun auch rechtliche Wahl.

  • Die Aufmerksamkeitsexternalität ist die neue Verschmutzung — nur ist sie kein Nebeneffekt, sie ist das Produkt.

  • Zwei Modelle von Freiheit: Abwesenheit von Zwängen vs. Schutz vor designter Manipulation.

Fragen & Antworten

Was wirft die Europäische Kommission TikTok unter dem Digital Services Act vor?

Den Infinite Scroll und Designmechanismen, die kognitiven Autopilot erzeugen — kompulsive Nutzung, die nicht bewusst gewählt wird. Unter dem DSA müssen Very Large Online Platforms die systemischen Risiken ihres Designs bewerten und mindern, einschließlich Auswirkungen auf das mentale Wohlbefinden. TikTok steht im Zentrum der Durchsetzung, weil sein Algorithmus am wirksamsten unfreiwillige Aufmerksamkeitszustände erzeugt.

Warum wird Design zum Regulierungsgegenstand?

Weil Design nicht neutral ist: Eine Oberfläche ist eine Entscheidung darüber, wie Aufmerksamkeit, Zeit, Begehren verteilt werden. Jahrzehntelang tat man so, als sei das eine individuelle Wahl der Nutzerin („Wenn es dir nicht gefällt, schließ die App“). Forschung zu kompulsivem Verhalten und messbare Folgen für Jugendliche und öffentliche Gesundheit haben gezeigt, dass Design systemische Wirkungen hat — und was systemisch ist, fällt unter öffentliche Regulierung.

Was ändert sich für Tech-Unternehmen, die in Europa tätig sind?

Pflicht-Folgenabschätzungen, Bußgelder bis zu 6 % des globalen Umsatzes, Forscherzugang zu Daten zur Überprüfung der Behauptungen. Es geht nicht nur um TikTok: Der DSA gilt für Facebook, Instagram, X, YouTube, Snapchat, LinkedIn, Amazon, Booking. Wer Social Media oder E-Commerce für den EU-Markt entwirft, muss kognitiv wirksame Design-Entscheidungen dokumentieren und sie technisch verteidigen können.

Warum ist das ein Kulturkampf, nicht nur ein Regulierungsakt?

Weil er das Verhältnis zwischen Geschäftsmodell und öffentlicher Gesundheit neu fasst. Zwanzig Jahre lang hat die Attention Economy menschliche Aufmerksamkeit als zu förderne Ressource behandelt und „Engagement“ als KPI maximiert. Europa sagt: Das Gehirn der Nutzerinnen ist kein KPI deines Unternehmens. Eine moralische Aussage als technische Norm verkleidet — und deshalb politisch lauter, als eine Algorithmusdebatte sein müsste.

Der Autor

Andrea Margiovanni

Andrea Margiovanni

Aufmerksamkeit interessiert mich als zivilen Rohstoff. Ich entwerfe Produkte und Systeme im Wissen, dass sie mit der Lebenszeit der Menschen konkurrieren, und halte das zuerst für ein moralisches Faktum, nicht für ein gestalterisches.

Zum Weg
© 2026 Andrea Margiovanni Mit Sorgfalt, von Hand gemacht