KI kann heute nicht nur Inhalte fälschen, sondern auch die Personen, Medien und Institutionen dahinter. Drei reale Fälle zeigen, wie aus digitalen Vertrauenssignalen eine künstliche Expertenwelt entsteht – und warum bessere Detektoren das Problem nicht allein lösen werden.
Ich beschäftige mich gerade intensiv mit der Frage, warum manche Unternehmen bei Google und in den Antworten von ChatGPT, Claude oder Gemini sichtbar werden – und andere nicht. Mit MentionBee untersuche ich dafür Websites, Quellen und digitale Vertrauenssignale.
Je länger ich das tue, desto mehr beschäftigt mich die Kehrseite: Wenn Suchmaschinen und KI-Systeme aus digitalen Spuren ableiten müssen, wer glaubwürdig ist – was passiert dann, wenn jemand nicht nur die Inhalte fälscht, sondern gleich den Absender, seine Reputation und seine gesamte Expertenwelt?
Ein Fall aus der PR-Branche zeigt, wie wenig es dafür inzwischen braucht.
Die PR-Frau, die es nicht gab
Im Juli 2026 erhielt die Journalistin Maggie Harrison Dupré eine E-Mail von June Barton. Barton stellte sich als PR-Vertreterin einer Wellness-App vor, bot einen Testzugang an und versprach den Kontakt zum Gründer. Als die Journalistin nicht antwortete, hakte sie nach.
Eine ganz gewöhnliche PR-Mail. Bis Dupré das Profilbild vergrösserte.
Im Bild war noch das Wasserzeichen einer Website für KI-generierte Gesichter zu erkennen. Auch die Domain ihres vermeintlichen Arbeitgebers war merkwürdig: Sie leitete zur britischen Movchan Agency weiter.
June Barton existierte nicht.
Die Wellness-App hingegen schon. Ihr Gründer bestätigte Futurism die Zusammenarbeit mit Movchan. Von der erfundenen Persona habe er nichts gewusst.
15 falsche Namen – für reale Kunden
Dupré fand in ihrem Postfach Nachrichten von mindestens 15 Fake-Personas. Sie verwendeten unterschiedliche Domains und schrieben im Auftrag realer Unternehmen. Einige hatten KI-generierte Fotos, andere gar kein Bild – und waren dadurch schwieriger zu entlarven.
Movchan-Gründerin Nadya Movchan bestätigte die erfundenen Namen. Als Erklärung nannte sie Probleme mit der Reputation der eigenen E-Mail-Domain und zugekaufte, bereits «aufgewärmte» Postfächer. Bedient worden seien sie von realen Mitarbeitenden. Die Kunden waren jedoch nicht informiert. Movchan sprach von einer schlechten Entscheidung und kündigte an, die Praxis zu beenden.
Bemerkenswert ist, wie wenig es brauchte, um einen glaubwürdigen Absender zu erzeugen: Name, Gesicht, Domain, E-Mail-Adresse und professionelles Verhalten.
Die nächste Welle synthetischer Inhalte besteht nicht nur aus Texten und Bildern. Sie besteht aus Menschen, Medien und Institutionen, die es nie gegeben hat.
Wenn aus der Maske eine Biografie wird
Digitale Kommunikation verlangt einen Vertrauensvorschuss. Wir überprüfen nicht jede E-Mail, sondern nutzen Abkürzungen: Firmenadresse, Profilbild, Signatur, LinkedIn-Profil, frühere Veröffentlichungen.
Ich kenne diesen Mechanismus aus der anderen Richtung. Als wir watson.ch aufbauten, mussten wir einem neuen digitalen Medium Glaubwürdigkeit geben. Dabei halfen Journalistinnen und Journalisten, die bereits eine eigene Reputation und Leserschaft mitbrachten. Später kamen öffentliche Auftritte, Veranstaltungen und Begegnungen mit Leserinnen und Lesern hinzu. Das waren keine SEO-Tricks. Es waren Verbindungen zu einer Wirklichkeit ausserhalb unserer eigenen Website.
Heute lassen sich die sichtbaren Zeichen einer solchen Glaubwürdigkeit imitieren, lange bevor die dahinterliegende Erfahrung existiert.
KI macht diese Signale billiger. Porträt, Biografie, Posts und E-Mails entstehen in kurzer Zeit und im gleichen Stil. Im Movchan-Fall standen laut Agentur zwar echte Menschen hinter den falschen Identitäten. Doch eine solche Maske kann zur Biografie werden: Jede Mail, Erwähnung und Veröffentlichung erzeugt eine weitere Spur. Irgendwann liefert eine Suche eine lange Liste scheinbarer Beweise dafür, dass die Person existiert.
Die Reputation, die sich selbst bestätigt
Wie weit das gehen kann, zeigte eine Recherche über vier vermeintliche Finanzjournalisten. Gemeinsam sollen Nikolai Kuznetsov, Reuben Jackson, Luis Aureliano und Joe Liebkind mehr als 1’000 Beiträge in Forbes, HuffPost, CoinTelegraph, VentureBeat und Dutzenden weiteren Publikationen veröffentlicht haben. Die Profile wurden mit der Blockchain-PR-Firma MarketAcross in Verbindung gebracht. Ob dahinter einzelne Personen, Teams oder KI-gestützte Prozesse standen, liess sich nicht abschliessend klären. Die Indizien deuteten jedoch auf konstruierte Autorenidentitäten hin.
Eine einzelne falsche Autorenzeile mag unbedeutend wirken. Hunderte Veröffentlichungen erzeugen eine Historie: Wer den Namen googelt, findet Artikel. Wer die Autorenbiografie öffnet, findet weitere Artikel.
Jedes Element bestätigt das nächste.
Reputation wird so zu einem selbstreferenziellen System. Nicht weil eine Person tatsächlich über Jahre Kompetenz bewiesen hat, sondern weil genügend digitale Orte dieselbe Identität wiederholen.
Noch weiter trieb es offenbar die PR-Agentur Baden Bower. Sie wurde mit «Forbes LA» und «Forbes Liechtenstein» in Verbindung gebracht – Websites, die wie Ableger der Wirtschaftsmedienmarke wirkten, aber nicht zum echten Forbes-Netzwerk gehörten. Anschliessend konnte die Agentur solche Veröffentlichungen als Belege für Medienpräsenz anführen.
Die vermeintlich unabhängige Bestätigung stammte damit aus einem System, das die Bestätigung selbst erzeugt hatte.
Eine komplette Denkfabrik aus Versatzstücken
Das International Burke Institute ging noch einen Schritt weiter. Es präsentierte sich als Denkfabrik mit Adresse in Israel, zahlreichen Experten, Forschungsartikeln und einem eigenen «Sovereignty Index», der Russland positiv und westliche Staaten deutlich kritischer bewertete.
Im August 2026 berichtete OpenAI von ChatGPT-Konten, die sehr wahrscheinlich aus Russland betrieben wurden und das Institut mit Posts und Kommentaren bewarben. Die Untersuchung führte zu einer grösseren Infrastruktur: Von 36 geprüften Artikeln auf der IBI-Website waren laut OpenAI 34 aus anderen Quellen kopiert, einige davon falschen Fachleuten zugeschrieben.
So erschien ein Text des Migration Policy Institute unter dem Profil von Kate Howell, einer realen australischen Professorin für Lebensmittelchemie. Foto und akademischer Status waren echt – Artikel und Fachgebiet nicht.
Genau diese Mischung machte die Konstruktion überzeugend: Reale Personen, echte Texte und eine professionell wirkende Website wurden zu einer neuen Geschichte montiert. ChatGPT schrieb laut OpenAI nicht die kopierten Artikel, sondern half bei ihrer Verbreitung. Ausgerechnet diese Nutzung brachte die Betreiber auf OpenAIs Radar – nicht die Fassade selbst.
Nicht der Inhalt wird gefälscht, sondern die Herkunft
Die Fälle verfolgen unterschiedliche Ziele: Medienkontakte, publizistische Reputation, politische Autorität. Gemeinsam ist ihnen eine Verschiebung: Falsch oder irreführend ist nicht zwingend der einzelne Satz. Manipuliert wird der Kontext, in dem wir ihn bewerten.
Ein korrekter Artikel bekommt einen falschen Autor. Ein echtes Professorenfoto wird mit dem falschen Fachgebiet verbunden. Ein realer Kunde wird von einer erfundenen PR-Mitarbeiterin vertreten.
Für mich liegt genau darin die eigentliche Gefahr. Über KI-generierte Falschinformationen wird viel gesprochen. Aber eine einzelne falsche Behauptung kann man prüfen und widerlegen. Schwieriger wird es, wenn die Herkunft der Information selbst konstruiert ist.
Wir prüfen Informationen selten Satz für Satz. Wir fragen zuerst: Wer sagt das? Wo wurde es veröffentlicht? Wird die Quelle auch anderswo zitiert? Was finde ich über die Person?
Genau diese Orientierungspunkte werden Teil der Täuschung.
Vom Fake-Profil zur kompletten Welt
Eine künstliche Identität allein ist fragil. Sie kann an einem misslungenen Bild, einem widersprüchlichen Lebenslauf oder einer unachtsamen Signatur scheitern.
Ein Netzwerk künstlicher Identitäten ist stabiler. Die Profile folgen, zitieren und bestätigen einander: Ein erfundener Autor publiziert in einem scheinbaren Medium, das ein Institut zitiert, welches den Autor als Experten führt.
Jeder Baustein wirkt plausibel. Und bei einer gewöhnlichen Recherche fehlt die Zeit, das ganze Geflecht zu untersuchen. KI erleichtert zudem den Betrieb: Texte, Antworten, Übersetzungen und Reaktionen auf aktuelle Ereignisse.
Anthropic berichtete 2025 über den Missbrauch von Claude für eine «Influence-as-a-Service»-Operation. Dabei wurden mehr als 100 politische Fake-Personas auf Facebook und X unterstützt, die mit zehntausenden echten Accounts interagierten. Claude half nicht nur beim Formulieren, sondern auch bei Entscheidungen darüber, wann Profile liken, teilen oder kommentieren sollten.
Damit wird aus der statischen Fassade ein betreutes soziales System.
Wir sehen nur die Fälschungen, die Fehler machen
June Barton flog auf, weil ihr Bild ein Wasserzeichen trug. Andere Movchan-Personas verrieten sich durch ihre Domains oder widersprüchliche Signaturen. Das Burke-Netzwerk wurde entdeckt, weil die Betreiber ChatGPT nutzten und dadurch interne Muster hinterliessen.
Das sind Ermittlungserfolge. Aber sie sind noch kein Beweis dafür, dass die Erkennung insgesamt funktioniert.
Wir kennen zwangsläufig nur die künstlichen Identitäten, die jemand entdeckt hat. Eine Persona mit einem besseren Bild, einer länger gepflegten Vorgeschichte und weniger auffälligem Verhalten könnte jahrelang unbemerkt bleiben. Je mehr echte Menschen mit ihr interagieren, desto mehr reale Spuren entstehen um den künstlichen Kern.
Das ist der unangenehme Survivorship Bias dieser Geschichten: Wir untersuchen die Fälschungen, die einen Fehler gemacht haben. Über die erfolgreichen wissen wir nichts.
Ich halte es deshalb für naiv, darauf zu vertrauen, dass bessere Detektoren das Problem schon lösen werden. Fälschung und Erkennung werden sich gegenseitig weitertreiben. Und die Plattformen besitzen zwar interne Signale, die wir von aussen nicht sehen – aber auch sie entdeckten in diesen Fällen nur einen Teil eines viel grösseren Systems. Genau deshalb habe ich OpenAI bereits in einem anderen Beitrag elf unbequeme Fragen zu Macht, Kontrolle und Transparenz gestellt.
Was bleibt, wenn die Quelle selbst zur Behauptung wird?
Technische Prüfungen bleiben wichtig. Domains lassen sich zurückverfolgen, Bilder untersuchen, Textkopien finden und Publikationshistorien vergleichen.
Doch die grundsätzliche Schwierigkeit verschwindet nicht. Namen, Profilbilder, Autorenboxen und Publikationslisten sind keine Menschen. Sie sind Darstellungen von Menschen. Medienlogos sind keine redaktionelle Unabhängigkeit. Ein Institutstitel ist keine wissenschaftliche Autorität.
Glaubwürdiger wird eine Quelle, wenn ihre Geschichte nicht nur im eigenen System existiert: wenn unabhängige Menschen mit ihr gearbeitet haben, öffentliche Auftritte dokumentiert sind und Positionen wie Fehler über längere Zeit nachvollziehbar bleiben.
Auch ein solches Geflecht ist nicht absolut fälschungssicher. Aber der Aufwand steigt mit jeder unabhängigen Beziehung.
Wer garantiert euch also, dass dieser Text wirklich von Olaf Kunz stammt?
Kein Autorenprofil, kein Porträtfoto und keine strukturierte Information kann das abschliessend beweisen. Aber es gibt Menschen, mit denen ich watson aufgebaut habe. Kunden, mit denen ich gearbeitet habe. Texte, Projekte, Entscheidungen und Irrtümer, die sich über Jahre verfolgen lassen. Jede einzelne Spur wäre fälschbar. Das gesamte Geflecht deutlich schwerer.
Eine KI-Persona kostet Minuten. Eine Website vielleicht Stunden. Was sich nicht so leicht erzeugen lässt, ist eine über Jahre gewachsene Wirklichkeit, an die sich andere Menschen erinnern.
Stand: 10. September 2026. Dieser Beitrag unterscheidet zwischen dokumentierten Fällen, den Angaben der beteiligten Unternehmen und der persönlichen Einschätzung des Autors. Wo sich die Identität hinter einem Autorenprofil nicht abschliessend klären liess, ist dies im Text entsprechend gekennzeichnet.