Vingt heures du soir
Vingt heures du soir, à peu près. Le dîner vient de finir, les assiettes dans l’évier, la table encore à débarrasser. Mon fils a trois ans et il essaie de me convaincre de lui laisser la tablette encore un petit peu, ce qui dans sa grammaire du temps signifie une période comprise entre vingt minutes et l’infini. Je dis non. Sans colère, sans discours pédagogique. Je dis non avec la fatigue précise de quelqu’un qui répète la même scène chaque soir, en sachant que la prochaine sera identique.
Jusqu’ici, c’est une scène que n’importe quel parent reconnaît. Elle pourrait se passer dans n’importe quelle maison.
Je sais comment fonctionne cette tablette
La différence, c’est la raison pour laquelle je dis non. Ce n’est pas parce que j’ai lu un article alarmant sur les écrans, ni parce que je suis un pédiatre sur Instagram qui conseille la digital detox, ni parce que de mon temps on jouait dehors. La raison, c’est que je sais comment fonctionne cette tablette. Pas au sens générique, pas « la technologie fait du mal aux enfants ». Je le sais au sens technique. Je sais comment est fait le logiciel qui tourne dessus. Je sais quelles décisions de design ont prises les personnes qui l’ont construit, et je sais pourquoi elles les ont prises. Je sais ce qui se passe quand mon fils touche l’écran, quelle logique décide de ce qu’on lui montrera ensuite, et quel objectif cette logique cherche à atteindre. Cet objectif n’est pas son bien-être.
Cela, je le sais parce que c’est mon métier. Je construis du logiciel depuis presque vingt ans. Je ne travaille pas pour les grandes plateformes sociales, je n’ai jamais eu de bureau à Menlo Park ou à Mountain View. Je fais des choses beaucoup plus ennuyeuses : des ERP, des plateformes de formation, des applications qui aident les entreprises à organiser des données. Des trucs qui ne finiraient jamais dans une enquête journalistique parce que ce n’est pas assez intéressant.
On pourrait objecter qu’alors le problème ne me concerne pas, que les techniques de capture de l’attention sont l’affaire de TikTok, de Meta, de ByteDance, et qu’entre une plateforme sociale et un ERP, il y a la différence qu’il y a entre une piste de Formule 1 et une route de campagne. L’objection serait sensée si elle n’était pas fausse. Les techniques pour garder les gens collés à un écran ne sont pas un secret industriel. Ce sont une discipline partagée, documentée, enseignée dans les conférences que je fréquente, discutée dans les canaux Slack où je passe mes journées de travail. C’est un patrimoine commun à quiconque construit des produits numériques. Les leviers que TikTok actionne pour garder un adolescent collé à l’écran sont cousins proches des leviers que j’utiliserais pour aider un client à augmenter le temps moyen de session sur une plateforme de formation d’entreprise. Le contexte change, l’intensité change, le type d’utilisateur change. Les outils de base portent les mêmes noms, s’enseignent dans les mêmes conférences, se retrouvent dans les mêmes livres de design.
Le soir, à la maison, je lis le plan de la tablette de mon fils comme on lit le plan d’un bâtiment : ceci sert à cela, cela sert à autre chose, ici le design te pousse dans cette direction, là il t’empêche d’aller dans cette autre. Le matin, je travaille avec les mêmes outils que ceux qui ont dessiné ce plan. De cette fracture naît un livre que j’ai écrit et que j’ai décidé de rendre disponible gratuitement. Il s’appelle I tuoi figli non sono i tuoi utenti (Vos enfants ne sont pas vos utilisateurs), et il tente de faire une chose très précise : transférer un fragment de savoir professionnel à qui ne possède pas ce savoir, parce que la différence entre l’avoir et ne pas l’avoir, quand il s’agit de ses propres enfants, est énorme.
Skinner, le pigeon, le fil
Pour donner une idée du type de savoir dont je parle, je prends un seul exemple parmi beaucoup d’autres, celui qui me semble le plus important et le moins connu. Entre les années quarante et cinquante, le psychologue B. F. Skinner a mené une série d’expériences avec des pigeons en cage. Si le pigeon frappait un disque avec son bec, il obtenait de la nourriture. Skinner a découvert une chose intéressante : si la nourriture arrivait à chaque fois que le disque était frappé, le pigeon le frappait quand il avait faim, et c’était tout. Si en revanche la nourriture arrivait de manière imprévisible, une fois sur trois, sur cinq, sur deux, le pigeon se mettait à frapper le disque continuellement, de manière compulsive, même quand il n’avait pas faim. La récompense variable, ce mécanisme-là, est le moteur psychologique des machines à sous. C’est aussi le moteur psychologique du fil d’un réseau social, et pas par analogie poétique, mais par conception explicite.
Quand votre enfant scrolle Instagram pendant vingt minutes, la plupart des contenus qu’il voit sont banals, sans importance, oubliables. De temps en temps, pourtant, quelque chose de bon arrive, quelque chose qui le fait rire, une nouvelle qui l’intéresse, une photo qui le concerne. Il ne sait pas quand cela arrivera. Il sait seulement que s’il continue à scroller, tôt ou tard cela viendra. Son cerveau est en train de faire, dans une version élégante et numérique, exactement ce que faisait le pigeon de Skinner.
Random personnalisé
Il y a une différence importante qui aggrave les choses, et que ceux qui ne travaillent pas dans le secteur ne prennent généralement pas en compte. Les machines à sous des salles de jeux distribuent les gains au hasard, parce qu’elles ne savent rien du joueur. L’algorithme d’un réseau social sait ce que vous aimez, ce sur quoi vous vous arrêtez une seconde de plus, ce qui vous indigne, ce qui vous émeut. Il utilise ces informations pour calibrer la distribution des contenus de manière à maximiser l’effet du renforcement variable sur vous, spécifiquement. Ce n’est plus du random, c’est du random personnalisé, paradoxalement plus efficace que le pur hasard parce qu’il maintient l’imprévisibilité (vous ne savez pas quand le bon contenu arrivera) en ajoutant la pertinence (quand il arrive, il est calibré sur vos intérêts). Pour un cerveau adolescent, dont le cortex préfrontal est encore en construction, ce mécanisme est particulièrement puissant.
Les autres mécanismes
La récompense variable est l’un des mécanismes que le livre décrit. Il y en a d’autres : le scroll infini qui élimine les points de décision, l’autoplay qui rend le « continue à regarder » le défaut, les notifications calibrées pour produire une réponse physique involontaire, les dark patterns qui rendent simple l’inscription et difficile la sortie. Tous sont documentés, tous sont enseignés, tous sont appliqués sans distinction d’âge, y compris aux produits que votre enfant a sur son téléphone. Il n’y a rien de clandestin dans tout cela. C’est de la littérature ouverte, accessible à quiconque veut la lire. Le problème, c’est que ceux qui la lisent sont presque toujours ceux qui construisent ces produits, rarement ceux qui les subissent.
Ce que sait celui qui construit, et ce qu’il fait avec ses enfants
De là naît la question qui donne son titre au livre, et qui est la plus simple que je connaisse sur toute cette affaire. Les écoles privées de la Silicon Valley qui interdisent les écrans en classe ne sont pas une légende urbaine. Tim Cook, CEO d’Apple, a déclaré publiquement qu’il n’aurait pas permis à son neveu d’utiliser les réseaux sociaux. Sean Parker, premier président de Facebook, a décrit le design de la plateforme comme consciemment orienté à exploiter une vulnérabilité de la psychologie humaine, et a ajouté que seul Dieu sait ce qu’il fait au cerveau de nos enfants. Chamath Palihapitiya, ex-vice-président de la croissance utilisateurs de Facebook, a dit publiquement que ses enfants n’avaient pas le droit d’utiliser cette chose. Les témoignages d’insiders qui admettent protéger leurs propres enfants des produits qu’ils ont contribué à construire ne sont pas cachés, ne sont pas ambigus, ne sont pas rares. Il suffit de les chercher.
L’observation que je fais dans le livre, et que je fais aussi ici, est plus petite et plus ordinaire que ces déclarations célèbres. Parmi les collègues qui travaillent dans le logiciel avec qui je parle régulièrement, ceux qui ont des enfants sont presque unanimes sur une chose : des règles plus restrictives sur l’usage du téléphone par rapport à la moyenne des parents non-tech, accès retardé aux réseaux sociaux, contrôle attentif de quelles applications sont installées, conversations avec les enfants sur le fonctionnement des notifications et sur leur raison d’être. Ce n’est pas une donnée scientifique, c’est une observation anecdotique. Mais elle est cohérente, elle est récurrente, et son existence même démontre le point : ceux qui connaissent le mécanisme se comportent autrement.
Si les personnes qui construisent ces choses en tiennent leurs propres enfants à distance, qu’est-ce qu’elles savent et que nous ignorons ?
Asymétrie informationnelle, et le livre
Ce n’est pas une question rhétorique. Il n’y a pas de pièce secrète où les dirigeants de la tech planifient comment nuire aux enfants du monde. Il y a quelque chose de bien plus banal et de bien plus difficile à combattre, que les économistes appellent asymétrie informationnelle. D’un côté, ceux qui comprennent comment fonctionnent les produits numériques, comment ils sont conçus, quels leviers psychologiques ils utilisent et pourquoi. De l’autre, ceux qui les utilisent, et les font utiliser à leurs propres enfants, sans avoir ces informations. Cette asymétrie existe depuis qu’existent les industries. Les chimistes des entreprises agroalimentaires savent sur la nourriture des choses que les consommateurs ignorent. Les ingénieurs automobiles savent sur les voitures des choses que les conducteurs ignorent. La différence, c’est que dans ces secteurs, avec le temps, s’est construit un système d’étiquetages, de standards de sécurité, d’obligations de transparence. Pour les produits numériques, ce système est encore largement à construire, et entretemps nos enfants y passent des heures chaque jour.
Le livre tente de combler cet écart. Pas tout, ce serait une prétention excessive. Une partie. Il explique comment fonctionnent les principaux mécanismes dans un langage qui ne demande pas de compétences techniques, raconte ce que nous savons et ce que nous cherchons encore à comprendre sur les effets qu’ils ont sur nos enfants, et tente de tracer ce que chacun peut faire dans son rôle : comme parent, comme citoyen, comme utilisateur, et aussi, pour qui comme moi travaille dans le secteur, comme personne qui construit cette chose. Ce n’est pas un manuel de survie parentale, et ce n’est pas un livre contre la technologie. C’est une tentative de transférer une petite partie de savoir professionnel à qui ne le reçoit pas habituellement.
Le livre est gratuit, en epub et pdf, et se trouve sur ebook.margiovanni.it. Si vous le lisez et qu’il vous est utile, ce que je vous demande, c’est de le passer à un autre parent. Ce passage entre deux personnes qui se connaissent vaut plus que n’importe quel algorithme de recommandation, et c’est exactement le type de chose que les mécanismes dont parle le livre ne savent pas faire.
Ce qu'il faut retenir
Les techniques de capture de l’attention (récompense variable, scroll infini, autoplay, dark patterns) ne sont pas un secret industriel. Ce sont une discipline partagée, documentée, enseignée. On les retrouve dans les mêmes livres, les mêmes conférences, les mêmes canaux Slack que fréquentent ceux qui construisent n’importe quel produit numérique, pas seulement les réseaux sociaux.
La récompense variable, découverte par B. F. Skinner dans les années quarante et cinquante avec des pigeons, est le moteur psychologique des machines à sous, et c’est aussi le moteur psychologique du fil d’un réseau social. Pas par analogie poétique, par conception explicite.
L’algorithme d’un réseau social sait ce que vous aimez, ce sur quoi vous vous arrêtez une seconde de plus, ce qui vous indigne, ce qui vous émeut. Il utilise ces informations pour calibrer la distribution des contenus de manière à maximiser l’effet du renforcement variable sur vous, spécifiquement. Du random personnalisé, paradoxalement plus efficace que le pur hasard. Sur un cerveau adolescent dont le cortex préfrontal est encore en construction, ce mécanisme est particulièrement puissant.
Les techniciens de la Silicon Valley qui ont construit ces plateformes protègent leurs propres enfants de leurs propres produits. Tim Cook, Sean Parker, Chamath Palihapitiya l’ont dit publiquement. Les collègues du secteur avec qui je parle régulièrement, presque unanimes, appliquent des règles plus restrictives que la moyenne des parents non-tech. Ceux qui connaissent le mécanisme se comportent autrement.
Le problème structurel, c’est l’asymétrie informationnelle. Ceux qui construisent savent, ceux qui utilisent ne savent pas. Le livre I tuoi figli non sono i tuoi utenti (Vos enfants ne sont pas vos utilisateurs) tente de combler une petite partie de cet écart, dans un langage non technique. Il est gratuit (epub et pdf) sur ebook.margiovanni.it.
Questions & réponses
Pourquoi un ERP d'entreprise utiliserait-il les mêmes techniques que TikTok ?
Le contexte change, l’intensité change, le type d’utilisateur change. Les outils de base portent les mêmes noms. Les leviers que TikTok actionne pour garder un adolescent collé sont cousins proches des leviers que j’utiliserais pour aider un client à augmenter le temps moyen de session sur une plateforme de formation d’entreprise. Ils s’enseignent dans les mêmes conférences, sont décrits dans les mêmes livres, appliqués par les mêmes designers qui changent d’employeur tous les deux ou trois ans. La différence est d’intensité et de cible, pas de nature.
Qu'est-ce que la récompense variable, et pourquoi compte-t-elle ?
La récompense variable est un mécanisme psychologique étudié par B. F. Skinner entre les années quarante et cinquante. Si vous donnez à manger à un pigeon en cage chaque fois qu’il frappe un disque avec son bec, il ne le frappe que lorsqu’il a faim. Si en revanche la nourriture arrive de manière imprévisible, il se met à le frapper continuellement, même quand il n’a pas faim. C’est le moteur psychologique des machines à sous. C’est aussi le moteur psychologique du fil d’un réseau social. La plupart des contenus sont banals, de temps en temps quelque chose de bon arrive, vous ne savez pas quand cela viendra mais vous savez que si vous continuez à scroller, tôt ou tard cela viendra. Ce n’est pas une analogie poétique, c’est une conception explicite.
Qu'est-ce qui rend le random personnalisé pire que le pur hasard ?
Les machines à sous des salles de jeux distribuent les gains au hasard, parce qu’elles ne savent rien du joueur. L’algorithme d’un réseau social sait ce que vous aimez, ce sur quoi vous vous arrêtez une seconde de plus, ce qui vous indigne, ce qui vous émeut. Il utilise ces informations pour calibrer la distribution des contenus de manière à maximiser l’effet du renforcement variable sur vous, spécifiquement. Il maintient l’imprévisibilité (vous ne savez pas quand le bon contenu arrivera) en ajoutant la pertinence (quand il arrive, il est calibré sur vos intérêts). Pour un cerveau adolescent, dont le cortex préfrontal est encore en construction, ce mécanisme est particulièrement puissant.
Les dirigeants de la tech protègent-ils vraiment leurs propres enfants de ces produits ?
Oui, et ce n’est pas un secret. Les écoles privées de la Silicon Valley qui interdisent les écrans en classe ne sont pas une légende urbaine. Tim Cook, CEO d’Apple, a déclaré publiquement qu’il n’aurait pas permis à son neveu d’utiliser les réseaux sociaux. Sean Parker, premier président de Facebook, a décrit le design de la plateforme comme consciemment orienté à exploiter une vulnérabilité de la psychologie humaine, et a ajouté que seul Dieu sait ce qu’il fait au cerveau de nos enfants. Chamath Palihapitiya, ex-vice-président de la croissance utilisateurs de Facebook, a dit que ses enfants n’avaient pas le droit d’utiliser cette chose. Les témoignages sont publics. Plus ordinairement, parmi les collègues du secteur avec qui je parle régulièrement, ceux qui ont des enfants appliquent presque unanimement des règles plus restrictives que la moyenne des parents non-tech. Ceux qui connaissent le mécanisme se comportent autrement.
Que propose le livre, et où le trouve-t-on ?
Le livre s’appelle I tuoi figli non sono i tuoi utenti (Vos enfants ne sont pas vos utilisateurs) et tente de combler une petite partie de l’asymétrie informationnelle entre ceux qui construisent et ceux qui subissent. Il explique comment fonctionnent les principaux mécanismes en langage non technique, raconte ce que nous savons et ce que nous cherchons encore à comprendre sur les effets qu’ils ont sur les enfants, et tente de tracer ce que chacun peut faire dans son rôle : comme parent, comme citoyen, comme utilisateur, et pour qui travaille dans le secteur, comme personne qui construit ces choses. Ce n’est pas un manuel de survie parentale et ce n’est pas un livre contre la technologie. C’est une tentative de transférer un fragment de savoir professionnel à qui ne le reçoit pas habituellement. Il est gratuit, en epub et pdf, sur ebook.margiovanni.it.
L'auteur
