À l'approche des prochaines élections de mi-mandat, un réseau coordonné de sites web conçus pour ressembler à des organes de presse locaux promeut activement des candidats démocrates dans des courses clés à la Chambre des représentants américaine. Une enquête menée par NPR a révélé que lorsque les électeurs demandent à ChatGPT d'OpenAI des informations sur des districts compétitifs, le chatbot d'intelligence artificielle cite fréquemment ces sites comme des sources autoritaires. Dans un cas concernant le 4e district congressionnel du Michigan, ChatGPT a identifié le démocrate Sean McCann comme ayant le « plan de rentabilité publié le plus détaillé », en citant un site appelé Kalamazoo Beacon comme source.

Le Kalamazoo Beacon et neuf autres sites similaires font partie d'une opération plus large identifiée par la société de cybersécurité VisionHeight. Ce réseau se compose de 37 sites web qui promeuvent divers candidats, principalement des démocrates, pour des fonctions fédérales, étatiques et locales. Bien que ces sites étiquettent leur contenu comme « articles de presse » dans leur code source et se décrivent comme rapportant sur les communautés locales, ils fonctionnent comme des publicités politiques à peine déguisées. Par exemple, le Kalamazoo Beacon n'a publié que 16 histoires, toutes se concentrant exclusivement sur les positions politiques et le dossier législatif de McCann.

Plusieurs indicateurs suggèrent qu'un seul opérateur contrôle l'ensemble du réseau. Les données d'enregistrement montrent que les 37 sites web ont été établis le 15 septembre, la majorité étant enregistrée dans une fenêtre de huit minutes. Des centaines d'articles sont apparus par lots en septembre et octobre, amenant VisionHeight à spéculer que l'intelligence artificielle a pu être utilisée pour générer le contenu. Les sites sont optimisés pour la consommation par l'IA ; ils autorisent explicitement les principaux robots d'exploration d'IA à extraire leurs données et incluent des fichiers nommés « llms.txt » pour lister les articles en texte brut, une fonctionnalité peu courante parmi les organisations de presse standard.

L'impact de ce réseau varie considérablement selon la plateforme d'IA consultée. Dans des tests menés par NPR utilisant 37 invites différentes, ChatGPT a cité au moins un article du réseau dans environ la moitié des réponses. Dans 17 de ces cas, le chatbot a fait spécifiquement référence aux sites se faisant passer pour des organes de presse locaux. Le phénomène semble plus prononcé dans les courses en bas de bulletin où les reportages crédibles sont rares, une situation que les experts décrivent comme un « vide de données ». À l'inverse, les produits de Google se sont comportés différemment ; Gemini n'a cité aucun lien du réseau, et Google Search ne les a pas fait apparaître dans ses résultats de première page.

Les experts mettent en garde contre le fait que cette stratégie représente une nouvelle frontière pour la publicité politique trompeuse. Renée DiResta, professeure associée de recherche à l'Université Georgetown, a noté que si l'optimisation des messages pour l'IA est attendue, se faire passer pour des organes de presse franchit la limite de la tromperie. Elle a souligné la nécessité de transparence concernant le financement et les efforts liés. Le porte-parole de Google, Davis Thompson, a déclaré que l'entreprise avait détecté une violation de politique dans un cas et avait pris des mesures rapides, notant que leurs systèmes sont conçus pour bloquer le spam et les abus. Le porte-parole d'OpenAI, Nate Evans, a répondu que ChatGPT cite une gamme de sources pour permettre aux utilisateurs de porter leur propre jugement, bien qu'il reste incertain si des changements spécifiques ont été apportés après que NPR ait signalé les sites.

Les tentatives d'identifier les opérateurs de ces sites web ont échoué. NPR n'a pu ni localiser ni contacter les propriétaires des sites. Les candidats promus, dont JoAnna Mendoza de l'Arizona et Sean McCann, ainsi que les principaux comités de campagne démocrates et super PAC comme American Bridge 21st Century et House Majority PAC, ont nié toute implication ou n'ont pas répondu aux demandes de commentaire. Les articles du réseau lient souvent à des sources externes telles que les dossiers de vote du Congrès et des organes de presse partisans pour étayer leurs affirmations, tandis que les candidats opposés apparaissent rarement, généralement dans des contextes mettant en évidence d'éventuels passifs politiques.

Sources: NPR Politics.