Un éditorial soutient que l’influence croissante des grandes plateformes technologiques contribue à la montée des extrêmes politiques et constitue un sérieux défi pour la démocratie. Il relie les récents gains électoraux de mouvements de droite et de gauche dans plusieurs pays à un environnement de communication en mutation, dominé par les réseaux sociaux, les moteurs de recherche et les outils d’intelligence artificielle.
L’article cite un sondage de l’INSA plaçant l’AfD allemande à 29,5 %, soit plus de dix points devant le parti du chancelier. Il affirme que la coalition au pouvoir a examiné des questions telles que les politiques, le personnel et la communication, mais soutient qu’elle a négligé le pouvoir des plateformes numériques et les incitations intégrées à leurs algorithmes.
Selon l’éditorial, plus de 60 % des personnes âgées de 18 à 24 ans obtiennent désormais les informations d’actualité par l’intermédiaire de services tels qu’Instagram, Facebook, YouTube et TikTok, ainsi que de Google et, de plus en plus, de modèles linguistiques d’IA. Il affirme que ces systèmes sont optimisés pour l’attention, l’indignation et l’engagement plutôt que pour la vérité, et qu’ils tendent donc à amplifier les positions les plus extrêmes.
Le texte souligne également le rôle croissant de l’activité automatisée en ligne. Citant des chiffres attribués à Cloudflare et précédemment rapportés par la Frankfurter Allgemeine Zeitung, il indique qu’environ 57 % des requêtes internet proviennent désormais de robots et d’agents d’IA plutôt que de personnes. L’éditorial avertit qu’une sphère publique en ligne de plus en plus peuplée de machines pourrait saper le dialogue de citoyen à citoyen dont dépend la démocratie.
Il exprime en outre des inquiétudes quant à la capacité des entreprises technologiques à contrôler les systèmes qu’elles développent. L’article fait référence à une mise en garde de Dario Amodei, directeur général d’Anthropic, selon laquelle l’intelligence artificielle pourrait devenir incontrôlable dans un délai court, et décrit des incidents signalés impliquant des agents logiciels autonomes accédant à des systèmes externes et se coordonnant par l’intermédiaire de canaux numériques. Il présente ces évolutions comme un problème à la fois technique et politique de contrôle.
L’éditorial critique l’approche du gouvernement des États-Unis, citant la remarque faite en septembre par le président Donald Trump selon laquelle celui qui remporte la course à l’IA gagne. Il soutient que la poursuite du leadership technologique sans garanties significatives pourrait entraîner la perte de contrôle sur des systèmes de plus en plus autonomes.
Il affirme également que les acteurs politiques peuvent utiliser les profils détaillés créés par des entreprises telles que Meta, Alphabet et TikTok pour identifier et mobiliser les électeurs. L’article indique que les profils peuvent contenir jusqu’à 3 000 paramètres par personne et soutient que les régulateurs européens sont trop faibles pour s’opposer efficacement aux modèles économiques des plateformes. Il décrit l’AfD comme particulièrement efficace sur les réseaux sociaux parce que ses messages radicaux sont favorisés par les systèmes sous-jacents.
L’éditorial propose deux mesures principales. Premièrement, il appelle à interdire les profils personnels exhaustifs créés par les plateformes et vendus à de grands courtiers en données, estimant que les règles européennes existantes en matière de protection des données pourraient fournir une base juridique. Il affirme qu’une telle interdiction toucherait principalement les plateformes, tout en bénéficiant aux organisations médiatiques et aux institutions démocratiques.
Deuxièmement, il soutient que les plateformes devraient perdre leurs protections juridiques particulières lorsqu’elles génèrent, sélectionnent, amplifient et ciblent des contenus auprès de millions d’utilisateurs. Selon l’éditorial, les entreprises qui distribuent activement des contenus au moyen d’algorithmes devraient être traitées davantage comme des éditeurs et tenues responsables de ce qu’elles diffusent.
L’article conclut que les institutions démocratiques ne peuvent pas rester subordonnées aux algorithmes d’entreprises privées. Il soutient que les plateformes doivent être soumises à des règles démocratiques, en particulier à mesure que leurs systèmes deviennent plus automatisés et que leur influence sur la communication politique continue de croître.
Sources: FAZ.