Acht Uhr abends
Acht Uhr abends, mehr oder weniger. Das Abendessen ist eben zu Ende, das Geschirr im Spülbecken, der Tisch noch abzuräumen. Mein Sohn ist drei Jahre alt und versucht, mich zu überzeugen, ihm das Tablet noch ein bisschen länger zu lassen, was in seiner Zeitgrammatik einen Zeitraum zwischen zwanzig Minuten und der Unendlichkeit bedeutet. Ich sage nein. Nicht mit Wut, nicht mit pädagogischem Vortrag. Ich sage nein mit der präzisen Müdigkeit dessen, der dieselbe Szene jeden Abend wiederholt und weiß, dass die nächste gleich sein wird.
Bis hierhin ist es eine Szene, die jedes Elternteil wiedererkennt. Sie könnte in jedem Haus geschehen.
Ich weiß, wie dieses Tablet funktioniert
Der Unterschied ist der Grund, weshalb ich nein sage. Es liegt nicht daran, dass ich einen alarmierenden Artikel über Bildschirme gelesen habe, oder weil ich auf Instagram einem Kinderarzt folge, der Digital Detox empfiehlt, oder weil man zu meiner Zeit draußen gespielt hat. Der Grund ist, dass ich weiß, wie dieses Tablet funktioniert. Nicht im allgemeinen Sinn, nicht „die Technologie schadet den Kindern”. Ich weiß es im technischen Sinn. Ich weiß, wie die Software gebaut ist, die darauf läuft. Ich weiß, welche Designentscheidungen die Personen getroffen haben, die es gebaut haben, und ich weiß, warum sie sie getroffen haben. Ich weiß, was geschieht, wenn mein Sohn den Bildschirm berührt, welche Logik entscheidet, was ihm danach gezeigt wird, und welches Ziel diese Logik zu erreichen versucht. Dieses Ziel ist nicht sein Wohlergehen.
Das weiß ich, weil es mein Beruf ist. Ich baue Software seit fast zwanzig Jahren. Ich arbeite nicht für die großen sozialen Plattformen, ich hatte nie ein Büro in Menlo Park oder in Mountain View. Ich mache viel langweiligere Dinge: ERP-Systeme, Plattformen für die Ausbildung, Anwendungen, die Unternehmen helfen, Daten zu organisieren. Zeug, das niemals in einer journalistischen Recherche landen würde, weil es nicht interessant genug ist.
Man könnte einwenden, dass mich das Problem dann nicht betrifft, dass die Techniken zur Aufmerksamkeitserfassung Sache von TikTok, Meta, ByteDance sind, und dass zwischen einer sozialen Plattform und einem ERP-System der Unterschied besteht, der zwischen einer Formel-1-Strecke und einer Landstraße liegt. Es wäre ein vernünftiger Einwand, wenn er nicht falsch wäre. Die Techniken, um Menschen an einen Bildschirm zu kleben, sind kein Industriegeheimnis. Sie sind eine geteilte, dokumentierte, in den Konferenzen, die ich besuche, gelehrte Disziplin, in den Slack-Kanälen diskutiert, in denen ich meine Arbeitstage verbringe. Sie sind gemeinsames Erbe jedes Menschen, der digitale Produkte baut. Die Hebel, die TikTok einsetzt, um einen Fünfzehnjährigen am Bildschirm festzuhalten, sind enge Verwandte der Hebel, die ich nutzen würde, um einem Kunden zu helfen, die mittlere Sitzungszeit auf einer betrieblichen Lernplattform zu erhöhen. Der Kontext ändert sich, die Intensität ändert sich, der Nutzertyp ändert sich. Die Grundwerkzeuge heißen gleich, werden in denselben Konferenzen gelehrt, finden sich in denselben Designbüchern wieder.
Abends, zu Hause, lese ich den Grundriss des Tablets meines Sohnes, wie man den Plan eines Gebäudes liest: das dient dazu, jenes dient dazu, hier drängt dich das Design in diese Richtung, dort hindert es dich, in jene andere zu gehen. Morgens arbeite ich mit denselben Werkzeugen jener, die diesen Grundriss gezeichnet haben. Aus dieser Bruchlinie entsteht ein Buch, das ich geschrieben habe und das ich kostenlos verfügbar zu machen beschlossen habe. Es heißt I tuoi figli non sono i tuoi utenti (Eure Kinder sind nicht eure Nutzer) und versucht, eine sehr bestimmte Sache zu tun: ein Stück professionelles Wissen an jene weiterzugeben, die dieses Wissen nicht haben, weil der Unterschied zwischen es zu haben und es nicht zu haben, wenn es um die eigenen Kinder geht, riesig ist.
Skinner, die Taube, der Feed
Um eine Vorstellung davon zu geben, von welcher Art Wissen wir sprechen, nehme ich nur ein Beispiel unter vielen, jenes, das meiner Ansicht nach das wichtigste und das am wenigsten bekannte ist. Zwischen den vierziger und fünfziger Jahren führte der Psychologe B. F. Skinner eine Reihe von Experimenten mit Tauben in einem Käfig durch. Wenn die Taube eine Scheibe mit dem Schnabel pickte, erhielt sie Futter. Skinner entdeckte etwas Interessantes: Wenn das Futter jedes Mal kam, wenn die Scheibe gepickt wurde, pickte sie die Taube nur, wenn sie Hunger hatte. Wenn das Futter dagegen unvorhersehbar kam, alle drei, alle fünf, alle zwei Male, begann die Taube, die Scheibe ununterbrochen zu picken, in zwanghafter Weise, auch wenn sie keinen Hunger hatte. Die variable Belohnung, jener Mechanismus, ist der psychologische Motor der Spielautomaten. Er ist auch der psychologische Motor des Feeds eines sozialen Netzwerks, und nicht aus poetischer Analogie, sondern durch ausdrückliche Gestaltung.
Wenn euer Sohn zwanzig Minuten lang Instagram scrollt, ist der Großteil der Inhalte, die er sieht, banal, unbedeutend, vergessbar. Ab und zu jedoch kommt etwas Gutes, etwas, das ihn zum Lachen bringt, eine Nachricht, die ihn interessiert, ein Foto, das ihn betrifft. Er weiß nicht, wann es kommen wird. Er weiß nur, dass es früher oder später kommt, wenn er weiterscrollt. Sein Gehirn macht, in eleganter und digitaler Version, genau das, was die Taube von Skinner machte.
Personalisiertes Random
Es gibt einen wichtigen Unterschied, der die Sache verschlimmert und den, wer nicht in der Branche arbeitet, gewöhnlich nicht berücksichtigt. Die Spielautomaten in den Spielhallen verteilen die Gewinne zufällig, weil sie nichts über den Spieler wissen. Der Algorithmus eines sozialen Netzwerks weiß, was ihr mögt, worauf ihr eine Sekunde länger verweilt, was euch empört, was euch rührt. Er nutzt diese Informationen, um die Inhaltsverteilung so zu kalibrieren, dass die Wirkung der variablen Verstärkung speziell auf euch maximiert wird. Es ist nicht mehr Random, es ist personalisiertes Random, paradoxerweise wirksamer als reiner Zufall, weil es die Unvorhersehbarkeit aufrechterhält (ihr wisst nicht, wann der gute Inhalt kommt) und die Relevanz hinzufügt (wenn er kommt, ist er auf eure Interessen kalibriert). Für ein jugendliches Gehirn, dessen präfrontaler Kortex noch im Aufbau ist, ist dieser Mechanismus besonders mächtig.
Die anderen Mechanismen
Die variable Belohnung ist einer der Mechanismen, die das Buch beschreibt. Es gibt andere: das endlose Scrollen, das die Entscheidungspunkte beseitigt, das Autoplay, das das „weitergucken” zur Voreinstellung macht, die Benachrichtigungen, kalibriert, um eine unwillkürliche körperliche Reaktion zu erzeugen, die Dark Patterns, die das Anmelden einfach und das Aussteigen schwierig machen. Sie sind alle dokumentiert, alle gelehrt, alle ohne Altersunterschied auch auf jene Produkte angewendet, die euer Sohn auf dem Telefon hat. An all dem ist nichts Klandestines. Es ist offene Literatur, jedem zugänglich, der sie lesen will. Das Problem ist, dass jene, die sie lesen, fast immer jene sind, die diese Produkte bauen, selten jene, die sie erleiden.
Was die Entwickler wissen, und was sie mit den eigenen Kindern tun
Daraus entsteht die Frage, die dem Buch den Titel gibt und die einfachste ist, die ich zu der ganzen Sache kenne. Die Privatschulen im Silicon Valley, die Bildschirme im Klassenzimmer verbieten, sind keine Stadtlegende. Tim Cook, Apple-CEO, hat öffentlich erklärt, dass er seinem Neffen nicht erlauben würde, soziale Medien zu nutzen. Sean Parker, erster Präsident von Facebook, hat das Design der Plattform als bewusst darauf ausgerichtet beschrieben, eine Schwachstelle der menschlichen Psychologie auszunutzen, und hinzugefügt, nur Gott wisse, was es mit dem Gehirn unserer Kinder anstelle. Chamath Palihapitiya, ehemaliger Vizepräsident für Nutzerwachstum bei Facebook, hat öffentlich gesagt, dass seine Kinder dieses Zeug nicht benutzen durften. Die Zeugnisse von Insidern, die zugeben, die eigenen Kinder vor den Produkten zu schützen, an deren Bau sie beigetragen haben, sind nicht versteckt, sie sind nicht zweideutig, sie sind nicht spärlich. Es genügt, sie zu suchen.
Die Beobachtung, die ich im Buch mache, und die ich auch hier mache, ist kleiner und gewöhnlicher als diese berühmten Erklärungen. Unter den Kollegen, die in der Software arbeiten, mit denen ich regelmäßig spreche, sind jene mit Kindern in einer Sache fast einstimmig: restriktivere Regeln zur Telefonnutzung als der Durchschnitt der non-tech Eltern, verzögerter Zugang zu sozialen Medien, aufmerksame Kontrolle, welche Apps installiert werden, Gespräche mit den Kindern darüber, wie die Benachrichtigungen funktionieren und warum. Es ist kein wissenschaftliches Datum, es ist eine anekdotische Beobachtung. Aber sie ist kohärent, sie ist wiederkehrend, und ihre bloße Existenz beweist den Punkt: Wer den Mechanismus kennt, verhält sich anders.
Wenn die Personen, die diese Dinge bauen, die eigenen Kinder davon fernhalten, was wissen sie und wir nicht?
Informationelle Asymmetrie, und das Buch
Es ist keine rhetorische Frage. Es gibt keinen geheimen Raum, in dem die Tech-Führungskräfte planen, wie sie den Kindern der Welt schaden. Es gibt etwas viel Banaleres und viel Schwieriger zu Bekämpfendes, das die Ökonomen informationelle Asymmetrie nennen. Auf der einen Seite stehen jene, die verstehen, wie die digitalen Produkte funktionieren, wie sie entworfen sind, welche psychologischen Hebel sie verwenden und warum. Auf der anderen Seite stehen jene, die sie benutzen und sie ihre Kinder benutzen lassen, ohne diese Informationen zu haben. Diese Asymmetrie existiert, seit es Industrien gibt. Die Chemiker der Lebensmittelunternehmen wissen Dinge über das Essen, die die Verbraucher nicht wissen. Die Automobilingenieure wissen Dinge über Autos, die die Fahrer nicht wissen. Der Unterschied ist, dass in jenen Branchen mit der Zeit ein System aus Etiketten, Sicherheitsstandards, Transparenzpflichten gebaut wurde. Für die digitalen Produkte ist jenes System weitgehend noch zu bauen, und in der Zwischenzeit verbringen unsere Kinder dort Stunden jeden Tag.
Das Buch versucht, jene Lücke zu schließen. Nicht ganz, das wäre ein übertriebener Anspruch. Einen Teil. Es erklärt, wie die wichtigsten Mechanismen funktionieren, in einer Sprache, die keine technischen Kompetenzen erfordert, erzählt, was wir über die Wirkungen auf unsere Kinder wissen und was wir noch zu verstehen versuchen, und versucht zu skizzieren, was jeder in seiner Rolle tun kann: als Eltern, als Bürger, als Nutzer und auch, für jene, die wie ich in der Branche arbeiten, als Personen, die dieses Zeug bauen. Es ist kein Handbuch zum elterlichen Überleben, und es ist kein Buch gegen die Technologie. Es ist ein Versuch, einen kleinen Teil professionellen Wissens an jene weiterzugeben, die es normalerweise nicht erhalten.
Das Buch ist kostenlos, in epub und pdf, und ist auf ebook.margiovanni.it zu finden. Wenn ihr es lest und es euch nützlich ist, bitte ich euch nur darum, es einem anderen Elternteil weiterzugeben. Jene Weitergabe zwischen zwei Personen, die einander kennen, ist mehr wert als jeder Empfehlungsalgorithmus, und ist genau die Art von Sache, die die Mechanismen, von denen das Buch spricht, nicht zu tun vermögen.
Was du mitnimmst
Die Techniken zur Aufmerksamkeitserfassung (variable Belohnung, endloses Scrollen, Autoplay, Dark Patterns) sind kein Industriegeheimnis. Sie sind eine geteilte, dokumentierte, gelehrte Disziplin. Sie finden sich in denselben Büchern, denselben Konferenzen, den Slack-Kanälen jener, die irgendein digitales Produkt bauen, nicht nur soziale Netzwerke.
Die variable Belohnung, in den vierziger und fünfziger Jahren von B. F. Skinner mit Tauben entdeckt, ist der psychologische Motor der Spielautomaten und zugleich der psychologische Motor des Feeds eines sozialen Netzwerks. Nicht aus poetischer Analogie, sondern durch ausdrückliche Gestaltung.
Der Algorithmus eines sozialen Netzwerks weiß, was ihr mögt, worauf ihr eine Sekunde länger verweilt, was euch empört, was euch rührt. Er nutzt diese Informationen, um die Inhaltsverteilung so zu kalibrieren, dass die Wirkung der variablen Verstärkung speziell auf euch maximiert wird. Personalisiertes Random, paradoxerweise wirksamer als reiner Zufall. Bei einem jugendlichen Gehirn mit noch im Aufbau befindlichem präfrontalem Kortex ist es besonders mächtig.
Die Techniker des Silicon Valley, die diese Plattformen gebaut haben, schützen die eigenen Kinder vor ihren eigenen Produkten. Tim Cook, Sean Parker, Chamath Palihapitiya haben sich öffentlich geäußert. Die Kollegen aus der Branche, mit denen ich regelmäßig spreche, wenden, fast einstimmig, restriktivere Regeln an als der Durchschnitt der non-tech Eltern. Wer den Mechanismus kennt, verhält sich anders.
Das strukturelle Problem ist die informationelle Asymmetrie. Wer baut, weiß; wer nutzt, weiß nicht. Das Buch „I tuoi figli non sono i tuoi utenti” (Eure Kinder sind nicht eure Nutzer) versucht, einen kleinen Teil dieser Lücke in nicht technischer Sprache zu schließen. Es ist kostenlos (epub und pdf) auf ebook.margiovanni.it.
Fragen & Antworten
Warum sollte ein betriebliches ERP-System dieselben Techniken wie TikTok verwenden?
Der Kontext ändert sich, die Intensität ändert sich, der Nutzertyp ändert sich. Die Grundwerkzeuge heißen gleich. Die Hebel, die TikTok einsetzt, um einen Fünfzehnjährigen festzukleben, sind enge Verwandte der Hebel, die ich nutzen würde, um einem Kunden zu helfen, die mittlere Sitzungszeit auf einer betrieblichen Lernplattform zu erhöhen. Sie werden in denselben Konferenzen gelehrt, in denselben Büchern beschrieben, von denselben Designern angewendet, die alle zwei oder drei Jahre die Firma wechseln. Der Unterschied liegt in Intensität und Zielgruppe, nicht in der Natur.
Was ist die variable Belohnung, und warum zählt sie?
Die variable Belohnung ist ein psychologischer Mechanismus, untersucht von B. F. Skinner zwischen den vierziger und fünfziger Jahren. Wenn du einer Taube im Käfig jedes Mal Futter gibst, wenn sie eine Scheibe pickt, pickt sie sie, wenn sie Hunger hat. Wenn das Futter dagegen unvorhersehbar kommt, pickt sie sie ununterbrochen, auch wenn sie keinen Hunger hat. Es ist der psychologische Motor der Spielautomaten. Es ist auch der psychologische Motor des Feeds eines sozialen Netzwerks. Die meisten Inhalte sind banal, ab und zu kommt etwas Gutes, du weißt nicht, wann es kommt, aber du weißt, dass es früher oder später kommt, wenn du weiterscrollst. Es ist keine poetische Analogie, es ist ausdrückliche Gestaltung.
Was macht das personalisierte Random schlimmer als reinen Zufall?
Die Spielautomaten in den Spielhallen verteilen die Gewinne zufällig, weil sie nichts über den Spieler wissen. Der Algorithmus eines sozialen Netzwerks weiß, was ihr mögt, worauf ihr eine Sekunde länger verweilt, was euch empört, was euch rührt. Er nutzt diese Informationen, um die Inhaltsverteilung so zu kalibrieren, dass die Wirkung der variablen Verstärkung speziell auf euch maximiert wird. Er hält die Unvorhersehbarkeit aufrecht (ihr wisst nicht, wann der gute Inhalt kommt) und fügt die Relevanz hinzu (wenn er kommt, ist er auf eure Interessen kalibriert). Für ein jugendliches Gehirn, dessen präfrontaler Kortex noch im Aufbau ist, ist dieser Mechanismus besonders mächtig.
Schützen die Tech-Führungskräfte ihre eigenen Kinder wirklich vor jenen Produkten?
Ja, und es ist kein Geheimnis. Die Privatschulen im Silicon Valley, die Bildschirme im Klassenzimmer verbieten, sind keine Stadtlegende. Tim Cook hat öffentlich erklärt, dass er seinem Neffen nicht erlauben würde, soziale Medien zu nutzen. Sean Parker, erster Präsident von Facebook, hat das Design der Plattform als bewusst darauf ausgerichtet beschrieben, eine Schwachstelle der menschlichen Psychologie auszunutzen, und hinzugefügt, nur Gott wisse, was es mit dem Gehirn unserer Kinder anstelle. Chamath Palihapitiya, ehemaliger Vizepräsident für Nutzerwachstum bei Facebook, hat gesagt, dass seine Kinder dieses Zeug nicht benutzen durften. Die Zeugnisse sind öffentlich. Gewöhnlicher gesehen wenden, unter den Branchenkollegen, mit denen ich regelmäßig spreche, jene mit Kindern fast einstimmig restriktivere Regeln an als der Durchschnitt der non-tech Eltern. Wer den Mechanismus kennt, verhält sich anders.
Was schlägt das Buch vor, und wo findet man es?
Das Buch heißt „I tuoi figli non sono i tuoi utenti” (Eure Kinder sind nicht eure Nutzer) und versucht, einen kleinen Teil der informationellen Asymmetrie zwischen jenen, die bauen, und jenen, die erleiden, zu schließen. Es erklärt, wie die wichtigsten Mechanismen in nicht technischer Sprache funktionieren, erzählt, was wir über die Wirkungen auf Kinder wissen und was wir noch zu verstehen versuchen, und versucht zu skizzieren, was jeder in seiner Rolle tun kann: als Eltern, als Bürger, als Nutzer und, für jene, die in der Branche arbeiten, als Personen, die dieses Zeug bauen. Es ist kein Handbuch zum elterlichen Überleben und es ist kein Buch gegen die Technologie. Es ist ein Versuch, ein Stück professionelles Wissen an jene weiterzugeben, die es normalerweise nicht erhalten. Es ist kostenlos, in epub und pdf, auf ebook.margiovanni.it.
Der Autor
