Andrea Margiovanni .it

L'Europe dit stop : ton cerveau n'est pas un KPI

Le DSA vise l'infinite scroll de TikTok et le « pilote automatique » de l'attention. Pendant ce temps, aux États-Unis, Meta passe en procès. Le design devient politique.

Il y a un geste que nous faisons tous, des centaines de fois par jour, sans y penser. Peut-être le geste le plus répété de notre époque, plus que la marche, plus que boire de l’eau « avec conscience ». Le pouce qui glisse vers le haut sur un écran. Un scroll. Un autre. Un autre encore.

Le 6 février 2026, la Commission européenne a fait une chose qui, du moins comme je l’ai perçue, marque un avant et un après. Elle n’a pas dit « ce contenu est interdit ». Elle n’a pas demandé de masquer un hashtag ou de retirer une vidéo. Elle a mis en cause un pattern d’interaction. Un choix de design.

Selon les findings préliminaires sous le Digital Services Act, l’infinite scroll de TikTok pousse les utilisateurs en « autopilot mode », nourrissant des comportements compulsifs. Et donc, dit Bruxelles, la plateforme doit changer le design de base du service : désactiver le scroll infini, introduire des pauses obligatoires, repenser le système de recommandation. Si elle ne le fait pas, la sanction peut atteindre 6 % du chiffre d’affaires global annuel. Pour ByteDance, cela représente des chiffres à faire trembler les poignets, de l’ordre de dizaines de milliards.

Deux semaines plus tard, de l’autre côté de l’océan, Mark Zuckerberg est assis dans un tribunal de Los Angeles. C’est le premier procès avec jury sur l’addiction aux réseaux sociaux dans l’histoire américaine. Une jeune femme d’une vingtaine d’années, identifiée comme K.G.M., raconte avoir été aspirée par Instagram enfant, et avoir développé dépression et idéations suicidaires. En toile de fond, plus de 1 600 affaires similaires en attente.

Les avocats montrent des e-mails internes de Meta. Une phrase reste collée à la peau : « IG est une drogue. nous poussons les utilisateurs. » Un autre e-mail suggère que l’entreprise savait que plus de 30 % des enfants de 10 à 12 ans utilisaient Instagram, en violation de ses propres policies. Zuckerberg répond que l’objectif serait de rendre le service « utile », pas de maximiser le temps passé. Pendant ce temps, le juge avertit le public de ne pas enregistrer les audiences avec des lunettes IA. Certains membres de l’entourage de Zuckerberg, semble-t-il, étaient venus avec leurs Ray-Ban Meta.

Deux continents. Deux approches. Le même problème.

Le design est politique

Cela vaut la peine de s’arrêter sur ce qui est arrivé le 6 février, parce que c’est plus radical qu’il n’y paraît.

L’Europe n’a pas régulé un contenu. Elle a dit que la forme même de l’interaction entre une personne et une app peut constituer un risque systémique. Qu’un mouvement du pouce, s’il est conçu pour ne pas avoir de fin, n’est pas « ta faiblesse ». C’est un problème de la plateforme.

C’est, de fait, la première fois qu’une autorité régulatrice essaie d’établir un standard juridique sur le potentiel addictif du design. Ce n’est pas une loi « contre le scroll infini » dans l’abstrait. C’est un principe plus large : le design addictif est un risque, et le scroll infini en est l’une des manifestations les plus évidentes.

Le plus intéressant, et un peu inquiétant, c’est que le principe ne s’arrête pas à TikTok. Meta est sous enquête depuis mai 2024 pour des raisons similaires. Le fameux « rabbit hole », le tunnel dans lequel on entre en regardant un contenu et où l’algorithme te pousse vers d’autres toujours plus semblables, et parfois plus extrêmes, est dans le viseur. X a déjà reçu une amende de 120 millions d’euros pour « pratiques de design trompeuses ».

L’approche de l’UE semble de plus en plus celle-ci : elle ne dit pas seulement « ce que tu ne peux pas montrer », mais aussi « comment tu ne peux pas faire sentir les gens ».

Et pour qui construit du logiciel, le terrain bouge vraiment sous les pieds. Le code n’a jamais été neutre, on le savait, mais il devient maintenant officiellement aussi une question de responsabilité juridique. La Product Liability Directive qui entrera en vigueur le 9 décembre 2026 inclut le logiciel parmi les produits. Le Cyber Resilience Act demande de la sécurité by design. L’AI Act impose des évaluations de risque. Et maintenant le DSA suggère que la façon même dont vous organisez un feed peut devenir une violation.

Une image simple me vient en tête : la poignée d’une porte qui ne te laisse pas sortir. Ce n’est pas un problème de qui essaie de sortir. C’est un problème de la poignée.

Le trimestriel contre le neurone

La question reste pourtant. Pourquoi en sommes-nous arrivés là ? Pourquoi faut-il des tribunaux et des commissions pour dire une chose que quiconque a un enfant, ou simplement un pouce, intuitionne déjà ?

Une réponse, peut-être, est dans les documents internes qui émergent des procès américains. Ce n’est pas de la négligence. Cela ressemble à un choix délibéré, répété, guidé par une métrique : l’engagement. Et l’engagement, au bout du compte, c’est l’antichambre du trimestriel.

De ces papiers ressort qu’augmenter le temps passé sur les plateformes et croître chez les ados n’était pas un effet collatéral. C’était un objectif. Des e-mails de 2015 et 2017 discutent de comment prioriser la croissance chez les adolescents. Des études internes notent que certains teens décrivaient Instagram avec des mots très proches de l’addiction comportementale.

Et pourtant, on ne s’arrête pas. On continue à mesurer.

Adam Mosseri, le patron d’Instagram, a témoigné qu’il ne s’agit pas selon lui d’« addiction clinique » mais d’« usage problématique ». La distinction est peut-être importante dans une salle d’audience. Dans la vie réelle, je me demande ce que ça change. Le point, en tout cas, c’est qu’ils savaient.

Ils savaient que certains filtres faciaux simulant la chirurgie esthétique pouvaient avoir des effets sur les adolescentes, et après un débat interne ils ont choisi un « ban plus ciblé » plutôt qu’une interdiction totale. Ils savaient que les contrôles parentaux étaient faciles à contourner, et ils les ont présentés comme solution. Ils savaient que des enfants de moins de 13 ans étaient présents par millions, et ils ont continué à les compter comme utilisateurs.

Entre ici un concept économique que je trouve utile, même s’il fait un peu peur tellement il colle. On l’appelle externalité : un coût que celui qui produit décharge sur la collectivité sans le payer. La pollution est l’exemple classique : l’usine produit, le fleuve paie.

Avec les réseaux sociaux, nous avons eu pendant vingt ans une nouvelle forme d’externalité. On pourrait l’appeler, sans exagérer, externalité attentive : le coût que la société paie quand une entreprise extrait l’attention comme une mine extrait le charbon, sans compenser le dommage. Les poumons deviennent des neurones. L’air devient du temps. Le fleuve devient l’enfance de quelqu’un.

Et la différence avec la pollution industrielle, peut-être, est celle-ci : ici le dommage n’est pas seulement un effet collatéral. Dans bien des cas, il a été conçu. Ce n’est pas un déchet de la production. C’est le produit.

Le pilote automatique et la dignité

Dans les findings européens, il y a une expression qui m’est restée en tête : « autopilot mode ». Certaines fonctionnalités, écrit la Commission, déplacent le cerveau des utilisateurs en mode pilote automatique, alimentant l’impulsion de continuer à scroller. La recherche scientifique, ajoutent-ils, montre que ces mécanismes peuvent réduire le contrôle de soi et contribuer à des comportements compulsifs.

Pilote automatique est un mot étrange, parce que dans d’autres contextes il est presque positif. En aviation, ça a du sens : il libère des ressources cognitives pour des décisions plus importantes. Dans un réseau social, en revanche, il enlève la ressource cognitive la plus importante qu’on a à ce moment-là : la capacité de choisir quand s’arrêter.

Byung-Chul Han a bien décrit le malaise contemporain en parlant de société de la performance et d’auto-exploitation. L’idée, simplifiée : aujourd’hui pas besoin d’un maître extérieur. Nous nous pressons nous-mêmes : nous optimisons, performons, consommons, jusqu’au burnout. Et le smartphone est l’outil parfait pour le faire.

Mais il y a un pas de plus, que le cas TikTok sous le DSA rend plus évident. L’auto-exploitation n’est pas toujours auto-générée. Parfois elle est conçue par quelqu’un d’autre puis vendue comme liberté.

L’infinite scroll n’est pas une décision de l’utilisateur. C’est une décision d’une product team, validée par un A/B test, approuvée par un VP of Growth, célébrée en quarterly business review. L’utilisateur ne s’auto-exploite pas. Il est exploité dans une architecture qui simule le choix.

Et là, on pourrait même convoquer Kant, sans faire de la philosophie de salon. Traiter les personnes comme une fin, jamais seulement comme un moyen. L’utilisateur-comme-KPI est l’utilisateur-comme-moyen érigé en business model. Tu n’es pas une personne qui utilise un service. Tu es une unité d’attention à extraire, un œil à monétiser, un pouce à faire bouger.

C’est peut-être pour cela que ce que fait l’Europe ressemble, en sous-main, à une défense de la dignité. Pas seulement une protection du consommateur. L’idée que nous avons droit à ne pas être manipulés, même quand la manipulation est élégante, bien conçue et emballée dans une interface colorée aux bords arrondis.

Deux modèles de monde

Le contraste entre Bruxelles et Los Angeles raconte deux philosophies différentes.

Aux États-Unis, le système est adversarial. Une famille porte une entreprise au tribunal, montre des documents, des témoins, des expertises. Un jury décide si Instagram a été un « facteur substantiel » dans le préjudice d’une personne précise. C’est un modèle au cas par cas, où la charge de la preuve pèse surtout sur qui a subi le dommage.

Et dans ce contexte, tout devient ambigu. YouTube, dans la même affaire, essaie de se défendre en disant être plus proche de Netflix que d’un réseau social. Meta dit que le problème n’est pas l’app, c’est le contenu, ou peut-être la vie personnelle de la jeune fille. Les frontières entre « dommage de la plateforme » et « dommage du contenu » sont difficiles à tracer. On débat de la définition d’« addiction ». On reporte. On négocie.

En Europe, l’approche est plus structurelle. On n’attend pas le dommage, on régule le design. On ne demande pas à la personne seule de prouver que le scroll infini lui a gâché la vie. On demande à la plateforme de prouver que son design n’est pas intrinsèquement risqué. Le DSA traite le design addictif comme un risque systémique, à l’égal de la désinformation ou des interférences électorales.

C’est une asymétrie qui reflète deux idées de la liberté.

Aux États-Unis, souvent, la liberté est absence de contraintes : tu es libre d’utiliser ou non TikTok, et si ça te fait du mal, c’est ton problème, ou celui de ton avocat.

En Europe, au moins dans cette construction, la liberté inclut la protection contre la manipulation : tu n’es libre que si les conditions dans lesquelles tu opères ne sont pas conçues pour te retirer la capacité de choisir.

Aucun des deux modèles n’est parfait. Mais l’un des deux, aujourd’hui, essaie de changer la donne avant que des millions de personnes n’aillent au tribunal raconter leur enfance devant un jury.

La question pour qui construit

Je fais du logiciel. Chaque jour, on prend des décisions de design qui semblent petites et qui pèsent. Où placer un bouton. Comment structurer une notification. À quel point rendre facile ou difficile la sortie d’un flux. Si afficher un compteur, un badge, une pastille rouge.

Je ne fais pas de réseaux sociaux. Je travaille sur des plateformes pour l’administration publique, le e-learning, des services B2B, des outils juridiques. Mon monde est à mille kilomètres de l’infinite scroll. Et pourtant, le principe que l’Europe essaie de fixer semble universel : le design n’est pas neutre. Chaque choix d’interface est aussi un choix éthique. Et désormais, qu’on le veuille ou non, c’est aussi un choix avec des conséquences juridiques.

Pendant des années, les plateformes sociales ont eu une sorte d’impunité de fait, parce que la régulation ne suivait pas. Ce temps semble fini. Le DSA, la Product Liability Directive, le Cyber Resilience Act, l’AI Act sont des morceaux d’une mosaïque qui redessine la relation entre qui produit la technologie et qui l’utilise.

Qui la subit, dirait-on, après avoir lu certains e-mails internes.

Au final, j’ai une conviction qui me reste collée à la peau, et qui se renforce probablement chaque fois que je vois un produit « croître » grâce à une astuce cognitive : le logiciel qui respecte ceux qui l’utilisent est un meilleur logiciel. Pas parce que l’Europe nous l’impose, mais parce que c’est la chose juste à faire.

Et la chose la plus radicale, aujourd’hui, est peut-être de faire quelque chose de radicalement évident. Construire de la technologie qui n’a pas besoin qu’un tribunal lui ordonne d’arrêter de faire du mal.

L’infinite scroll finira, sous une forme ou une autre. La vraie question est ce que nous mettrons à sa place. Si ce n’est qu’une autre astuce pour te garder collé, sous un autre nom et un mécanisme à peine plus subtil, alors nous n’aurons rien résolu.

Si en revanche c’est un design qui part de la question « de quoi cette personne a-t-elle besoin ? » au lieu de « comment puis-je la garder ici une minute de plus ? », alors peut-être que le 6 février 2026 sera une date qui mérite d’être retenue.

Pas pour le scroll qu’elle a remis en cause, mais pour la question qu’elle a rendue obligatoire.

Ce qu'il faut retenir

  • Le design n’est pas neutre : chaque choix d’interface est un choix politique et désormais aussi juridique.

  • L’externalité attentive est la nouvelle pollution, sauf qu’elle n’est pas un effet collatéral, c’est le produit.

  • Deux modèles de liberté : absence de contraintes contre protection contre la manipulation conçue.

Questions & réponses

Que reproche la Commission européenne à TikTok au titre du Digital Services Act ?

L’infinite scroll et des mécaniques de design qui produisent un pilote automatique cognitif — un usage compulsif non choisi consciemment par l’utilisateur. Sous le DSA, les very large online platforms doivent évaluer et atténuer les risques systémiques de leurs designs, y compris les effets sur le bien-être mental. TikTok est au centre de l’enforcement parce que son algorithme est le plus efficace à induire des états d’attention non volontaires.

Pourquoi le design devient-il une matière de régulation ?

Parce que le design n’est pas neutre : une interface est un choix sur la façon de distribuer attention, temps, désir. Pendant des décennies, on a fait comme si c’était un choix individuel de l’utilisateur (« si ça ne te plaît pas, ferme l’app »). La recherche sur le comportement compulsif et les conséquences mesurables sur les adolescents et la santé publique ont montré que le design a des effets systémiques — et ce qui est systémique tombe sous régulation publique.

Qu'est-ce qui change pour les entreprises tech opérant en Europe ?

Évaluations d’impact obligatoires, sanctions possibles jusqu’à 6 % du chiffre d’affaires global, accès des chercheurs aux données pour vérifier les claims. Pas seulement TikTok : le DSA s’applique à Facebook, Instagram, X, YouTube, Snapchat, LinkedIn, Amazon, Booking. Qui conçoit des réseaux sociaux ou de l’e-commerce pour le marché européen doit documenter les choix de design à impact cognitif et être prêt à les défendre techniquement.

Pourquoi est-ce une bataille culturelle au-delà du réglementaire ?

Parce qu’elle redéfinit la relation entre business model et santé publique. Pendant vingt ans, l’attention economy a traité l’attention humaine comme une ressource à extraire, en maximisant l’« engagement » comme KPI. L’Europe dit : le cerveau des utilisateurs n’est pas un KPI de votre entreprise. C’est une affirmation morale travestie en norme technique — et c’est pour ça que ça fait plus de bruit politique qu’une discussion sur des algorithmes ne devrait en faire.

L'auteur

Andrea Margiovanni

Andrea Margiovanni

L'attention m'intéresse comme matière première civique. Je conçois des produits et des systèmes en sachant qu'ils rivalisent avec le temps de vie des gens, et je pense que c'est d'abord un fait moral, avant d'être un fait de design.

Voir le parcours
© 2026 Andrea Margiovanni Fait avec soin, à la main