Künstliche Intelligenz ist das Trendthema des Jahres – und leider auch ein Magnet für Falschinformationen. Eine aktuelle Analyse von NewsGuard zeigt besorgniserregende Entwicklungen: Im Netz verbreiten sich massenhaft Fake News zu ChatGPT und anderen KI-Systemen. Was steckt dahinter und wie können wir uns schützen?
In den sozialen Medien überschlagen sich die Meldungen: „ChatGPT hat einen Menschen getötet!“ oder „Geheime KI-Armee übernimmt die Kontrolle über das Internet“. Solche Schlagzeilen klingen wie aus einem Science-Fiction-Film – und sind genau das: Fiktion. Dennoch werden sie millionenfach geteilt und geglaubt. Das Analyse-Team von NewsGuard hat nun systematisch untersucht, wie sich diese Falschinformationen im Netz verbreiten.
Eine Flut von KI-Mythen überschwemmt das Internet
Die Zahlen sind alarmierend: Allein im ersten Quartal 2023 hat NewsGuard mehr als 100 Websites identifiziert, die regelmäßig Falschinformationen über KI verbreiten. Die meisten dieser Seiten wurden erst kürzlich gegründet – offenbar, um den Hype um ChatGPT und ähnliche Systeme auszunutzen. Besonders perfide: Viele dieser Seiten geben sich einen seriösen Anstrich mit Namen wie „AI Research Journal“ oder „Tech Intelligence Today“.
Die verbreiteten Falschinformationen folgen dabei bestimmten Mustern. Das sind die häufigsten KI-Mythen, die derzeit kursieren:
- KI außer Kontrolle: Geschichten über KI-Systeme, die angeblich eigenständig handeln, Menschen bedrohen oder gar töten.
- Geheime KI-Projekte: Verschwörungstheorien über angeblich vertuschte KI-Entwicklungen von Tech-Giganten oder Regierungen.
- Übertriebene Fähigkeiten: Behauptungen über KI-Systeme, die weit über ihre tatsächlichen Möglichkeiten hinausgehen – vom Hacken von Atomwaffenarsenalen bis zur Manipulation des globalen Finanzsystems.
- Wirtschaftliche Falschmeldungen: Erfundene Geschichten über KI-Startups, die Milliarden-Investments erhalten haben, oder über KI-bedingte Massenentlassungen.
Warum verbreiten sich KI-Falschinformationen so rasant?
Die Analyse von NewsGuard zeigt, dass diese Falschinformationen aus verschiedenen Gründen besonders wirksam sind:
Technische Komplexität: Viele Menschen verstehen nicht im Detail, wie KI funktioniert. Das macht es einfacher, technisch klingende aber unsinnige Behauptungen zu verbreiten.
Angst und Faszination: KI weckt sowohl Hoffnungen als auch Befürchtungen. Diese emotionale Ambivalenz macht uns empfänglicher für sensationalistische Nachrichten.
Mangelnde Medienkompetenz: Die Fähigkeit, seriöse von unseriösen Quellen zu unterscheiden, ist nicht weit verbreitet. Gerade bei neuen Technologien fehlen vielen die Referenzpunkte zur Einordnung.
Finanzielle Interessen: Hinter vielen der identifizierten Websites stehen kommerzielle Motive. Sensationalistische KI-Geschichten generieren Klicks, die sich durch Werbung monetarisieren lassen. Einige Seiten verkaufen zudem zweifelhafte „KI-Investmenttipps“ oder „Schutzprogramme“ gegen angebliche KI-Gefahren.
KI als Teil des Problems – und der Lösung
Ironischerweise ist künstliche Intelligenz nicht nur Gegenstand dieser Falschinformationen, sondern wird auch zu deren Erstellung genutzt. NewsGuard hat festgestellt, dass viele der Fake-News-Artikel eindeutige Merkmale von KI-generiertem Text aufweisen.
„Wir sehen hier einen besorgniserregenden Trend“, erklärt Gordon Crovitz, Co-CEO von NewsGuard. „KI-Tools werden genutzt, um im industriellen Maßstab Desinformation zu produzieren. Die Kosten für die Erstellung überzeugend wirkender Falschinformationen sind drastisch gesunken.“
Gleichzeitig arbeiten seriöse Tech-Unternehmen und Forschungseinrichtungen daran, KI-Systeme zu entwickeln, die bei der Erkennung von Falschinformationen helfen können. Diese „Fact-Checking-KIs“ analysieren Texte auf Unstimmigkeiten, überprüfen Quellen und identifizieren typische Muster von Desinformation. Das Wettrüsten zwischen Fake-News-Produzenten und Faktenprüfern hat eine neue, technologische Dimension bekommen.
So schützen Sie sich vor KI-Falschinformationen
Angesichts dieser Entwicklung ist es wichtiger denn je, kritisch zu bleiben. Hier sind konkrete Tipps, wie Sie sich vor KI-bezogenen Falschinformationen schützen können:
Quellenprüfung: Achten Sie auf die Quelle der Information. Etablierte Technologiemedien und wissenschaftliche Publikationen sind vertrauenswürdiger als unbekannte Websites mit reißerischen Titeln.
Crosscheck: Suchen Sie nach mehreren unabhängigen Quellen, die über dieselbe Nachricht berichten. Wenn nur eine obskure Website eine „sensationelle KI-Entdeckung“ meldet, sollten die Alarmglocken läuten.
Technologieverständnis: Eignen Sie sich Grundwissen über KI-Technologien an. Je besser Sie verstehen, was aktuell technisch möglich ist und was nicht, desto leichter erkennen Sie übertriebene Behauptungen.
Emotionale Distanz: Wenn eine Nachricht starke emotionale Reaktionen auslöst – sei es Angst, Wut oder Euphorie – sollten Sie besonders vorsichtig sein. Emotionale Manipulation ist ein Kernelement von Falschinformationen.
Bildquellen prüfen: Bei vielen KI-Falschmeldungen werden dramatische Bilder verwendet. Eine einfache Rückwärtsbildsuche zeigt oft, dass diese Bilder aus völlig anderen Kontexten stammen oder selbst KI-generiert sind.
Medienkompetenz wird zur Schlüsselqualifikation
Die Flut an Falschinformationen zu künstlicher Intelligenz ist ein Symptom eines größeren Problems: In einer zunehmend digitalen und von Algorithmen geprägten Welt wird Medienkompetenz zur Schlüsselqualifikation. Die Fähigkeit, Informationen kritisch zu prüfen und einzuordnen, ist nicht mehr nur wünschenswert, sondern notwendig.
Die gute Nachricht: Es gibt eine wachsende Zahl von Ressourcen und Tools, die dabei helfen können. Von Faktencheckern wie NewsGuard über Browser-Erweiterungen bis hin zu Bildungsangeboten – die Gegenbewegung zur Desinformation gewinnt an Fahrt.
Letztlich geht es um mehr als nur die Aufklärung einzelner Falschmeldungen zu ChatGPT und Co. Es geht um die Grundlage unserer digitalen Gesellschaft: die Fähigkeit, auf Basis verlässlicher Informationen zu diskutieren, zu entscheiden und zu handeln. In einer Zeit, in der künstliche Intelligenz unsere Informationslandschaft grundlegend verändert, war diese Fähigkeit noch nie so wichtig wie heute.
