Vor den bevorstehenden Zwischenwahlen ist ein koordiniertes Netzwerk von Websites, die so gestaltet sind, dass sie lokale Nachrichtenquellen ähneln, aktiv dabei, demokratische Kandidaten in wichtigen Wahlen zum US-Repräsentantenhaus zu fördern. Eine Untersuchung von NPR ergab, dass wenn Wähler OpenAIs ChatGPT nach Informationen zu umkämpften Wahlbezirken fragen, der KI-Chatbot diese Seiten häufig als autoritative Quellen zitiert. In einem Fall bezüglich des 4. Kongresswahlbezirks von Michigan identifizierte ChatGPT den Demokraten Sean McCann als den Kandidaten mit dem "am detailliertesten veröffentlichten Plan zur Erschwinglichkeit" und nannte eine Website namens Kalamazoo Beacon als seine Quelle.
Das Kalamazoo Beacon und neun weitere ähnliche Seiten sind Teil einer größeren Operation, die von der digitalen Sicherheitsfirma VisionHeight identifiziert wurde. Dieses Netzwerk besteht aus 37 Websites, die verschiedene Kandidaten fördern, überwiegend Demokraten, für Bundes-, Landes- und lokale Ämter. Obwohl diese Seiten ihren Inhalt in ihrem Quellcode als "Nachrichtenartikel" kennzeichnen und sich selbst als Berichterstattung über lokale Gemeinschaften beschreiben, fungieren sie als schlecht verkleidete politische Werbeanzeigen. Zum Beispiel hat das Kalamazoo Beacon nur 16 Geschichten veröffentlicht, von denen sich alle ausschließlich auf McCanns politische Positionen und seine legislative Bilanz konzentrieren.
Mehrere Indikatoren deuten darauf hin, dass ein einzelner Betreiber das gesamte Netzwerk kontrolliert. Registrierungsdaten zeigen, dass alle 37 Websites am 15. September gegründet wurden, wobei die Mehrheit innerhalb eines Zeitraums von acht Minuten registriert wurde. Hunderte von Artikeln erschienen im September und Oktober in Batches, was VisionHeight zu der Spekulation veranlasste, dass KI zur Generierung des Inhalts verwendet worden sein könnte. Die Seiten sind für den Konsum durch KI optimiert; sie erlauben großen KI-Crawlern ausdrücklich das Scraping ihrer Daten und enthalten Dateien mit dem Namen "llms.txt", um Artikel als Klartext aufzulisten, eine Funktion, die unter Standard-Nachrichtenorganisationen unüblich ist.
Die Auswirkungen dieses Netzwerks variieren erheblich je nach der konsultierten KI-Plattform. In von NPR durchgeführten Tests mit 37 verschiedenen Eingabeaufforderungen zitierte ChatGPT in etwa der Hälfte der Antworten mindestens einen Artikel aus dem Netzwerk. In 17 dieser Fälle bezog sich der Chatbot spezifisch auf die Seiten, die sich als lokale Nachrichtenquellen tarnen. Das Phänomen scheint bei Wahlen unterhalb des Präsidentenamtes (down-ballot races) ausgeprägter zu sein, wo glaubwürdige Berichterstattung knapp ist, eine Situation, die Experten als "Datenleerraum" beschreiben. Im Gegensatz dazu verhielten sich Googles Produkte anders; Gemini zitierte keine Links aus dem Netzwerk, und Google Search zeigte sie nicht in den Ergebnissen der ersten Seite an.
Experten warnen davor, dass diese Strategie eine neue Grenze für täuschende politische Werbung darstellt. Renée DiResta, assoziierte Forschungsprofessorin an der Georgetown University, stellte fest, dass zwar die Optimierung von Botschaften für KI erwartet wird, das Vorgeben, Nachrichtenquellen zu sein, jedoch in Täuschung übergeht. Sie betonte die Notwendigkeit von Transparenz bezüglich Finanzierung und verknüpfter Bemühungen. Der Google-Sprecher Davis Thompson erklärte, dass das Unternehmen einen Verstoß gegen die Richtlinien in einem Fall festgestellt und schnell reagiert habe, wobei er darauf hinwies, dass ihre Systeme darauf ausgelegt sind, Spam und Missbrauch zu blockieren. Der OpenAI-Sprecher Nate Evans antwortete, dass ChatGPT eine Reihe von Quellen zitiert, um den Nutzern zu ermöglichen, eigene Urteile zu fällen, obwohl unklar bleibt, ob spezifische Änderungen vorgenommen wurden, nachdem NPR die Seiten gemeldet hatte.
Versuche, die Betreiber dieser Websites zu identifizieren, waren erfolglos. NPR konnte die Website-Besitzer nicht finden oder kontaktieren. Geförderte Kandidaten, darunter JoAnna Mendoza aus Arizona und Sean McCann, sowie große demokratische Wahlkampfkomitees und Super-PACs wie American Bridge 21st Century und House Majority PAC, bestritten eine Beteiligung oder reagierten nicht auf Anfragen nach Kommentaren. Die Artikel des Netzwerks verweisen häufig auf externe Quellen wie Kongresswahlprotokolle und parteiische Nachrichtenquellen, um Behauptungen zu untermauern, während gegnerische Kandidaten selten erscheinen, meist in Kontexten, die potenzielle politische Schwachstellen hervorheben.
Quellen: NPR Politics.