Experten des Auswärtigen Amts haben auf dem Kurznachrichtendienst X systematische Desinformationskampagnen russischer Herkunft ausgemacht. Das Ziel: Wahlbeeinflussung.
Das deutsche Außenministerium hat Recherchen des Nachrichtenmagazins „Spiegel“ zufolge eine großflächige russische Desinformationskampagne auf der Online-Plattform X aufgedeckt.
Ziel der groß angelegten Kampagne sei es offenbar, Misstrauen und Unmut gegen die Regierung zu verstärken und die Unterstützung für die Ukraine zu schwächen. Experten des Ministeriums haben Tausende Fake-Accounts aufgedeckt, die gezielt und ausschließlich Desinformation verbreitet haben.
Mit modernen KI-Modellen ist es kein Problem (wie hier) den Papst in Rapperpose zu zeigen
Gefälschter Screenshot mit Desinformation
So wird beispielsweise ein echt wirkender Screenshot über die Konten verteilt: Angeblich habe das Außenministerium unter dem offiziellen X-Account @ABaerbock geschrieben, der „Krieg in der Ukraine ist in drei Monaten vorbei“. Alles wirkt authentisch, das Profilfoto der Ministerin, die Zahl der Follower, ihr bekanntes Nutzerkonto. Doch es handelt sich um einen Fake.
Die Betreiber der Kampagne – es werden russische Trollfabriken dahinter vermutet – haben darüber hinaus beliebte Hashtags wie #Oktoberfest, #Dirndl oder zu Fußballthemen verwendet, um von den Algorithmen der Plattform bevorzugt zu werden – was auch funktioniert hat. Die massenhaften Desinformationen haben sich rasant verbreitet und viele Menschen erreicht.
Mit Google Lumiere lassen sich bis zu 5 Sekunden lange Videos aus dem Nichts generieren
Desinformation auf X nimmt zu
Seitdem Elon Musk die Kontrolle über den Kurznachrichten übernommen hat, nehmen Desinformationskampagnen erkennbar und messbar zu. Dafür gibt es mehrere Erklärungen: Zum einen hat Elon Musk das Personal erheblich reduziert (mindestens 70%), zum anderen hat Musk angekündigt, auf dem von Twitter in X umgetauften Dienst „uneingeschränkte Meinungsfreiheit“ einführen zu wollen – und es auch umgesetzt.
Die Folge: Fake-Accounts, die Fake-News und Desinformation verbreiten, werden weder identifiziert, noch die Verbreitung solcher Desinformation eingeschränkt oder unterbunden. So konnten über 50.000 gefälschte Nutzerkonten mit mehr als einer Million Tweets Stimmung gegen die Regierung und deren Unterstützung für die Ukraine machen.
Wissenschaftliche Studie warnt vor KI-Fakes
Noch kommen Fake-Accounts und manipulierte Screenshots zum Einsatz. Doch in Zukunft werden für solche Kampagnen vermehrt mit KI generierte Inhalte verwendet, warnt die George Washington University. Demnach könnte KI „schon bald ein alltägliches Werkzeug zur Manipulation von Wahlen werden“. Darunter die Präsidentschaftswahlen in den USA, die Europawahlen in der EU, Landtagswahlen in Deutschland, Nationalratswahlen in Österreich und Volksabstimmungen in der Schweiz.
Tatsächlich wurden schon etliche Versuche unternommen: Eine Kapitulationserklärung des ukrainischen Präsidenten oder das Fake-Video des Bundeskanzlers, der die AfD verbietet, haben das Potenzial, die Gesellschaft zu spalten und für Unruhe zu sorgen.
Einige KI-Modelle erzeugen nicht mehr alles, was gewünscht ist
KI erzeugt zunehmend auch Videos
Die Qualität der mit KI erzeugten Fotos, Audio und Videos nimmt rasant zu. Gerade erst hat Google eine neue KI-Technologie namens „Lumiere“ vorgestellt, die aus dem Nichts bis zu fünf Sekunden lange Videos erzeugt – täuschend echt wirkend. Schon bald werden sich beliebige Videos erzeugen lassen, so wie heute schon mit KI echt wirkende Fotos erzeugt werden.
Konsequent verbieten lassen sich solche KI-Systeme nicht, jedenfalls nicht weltweit. Dazu bräuchte es eine globale Ächtung, wie beim Einsatz chemischer oder atomarer Waffen. Die Politik berät, derzeit auch in der EU, wie sich Manipulationen mit Hilfe von durch KI erzeugten Medien vor Wahlen eindämmen oder verhindern lassen.
OpenAI, das Unternehmen hinter ChatGPT und der Bild-generierenden KI Dall-E, hat von sich aus Maßnahmen angekündigt und auch bereits eingeführt, die das Erzeugen von Texten und Bildern, die zur Wahlmanipulation verwendet werden könnten, erschweren oder verhindern sollen.
