Die EU hat ein offizielles Verfahren gegen Meta (Facebook, Whatsapp) eröffnet. Stein des Stoßes: Verdacht auf Desinformation und Wahlmanipulation.
Dieses Jahr ist Super-Wahljahr: Nicht nur Europawahl, sondern auch Landtagswahlen in Thüringen, Brandenburg und Sachsen.
Da kommt es eigentlich ganz besonders darauf an, dass die Bürger, die Menschen gut und vor allem richtig informiert werden. Doch das Gegenteil ist der Fall. In Sozialen Netzwerken kursieren so viele Falschnachrichten wie noch nie.
Viele mit der Absicht, Stimmung zu machen – vor allem gegen Europa. Die großen Plattformen wie Google oder Meta können sich da nicht mehr einfach so aus der Verantwortung stehlen.
Vor genau 10 Jahren h at sich der Facebook Konzern den Messenger WhatsApp einverleibt
Digital Services Act
Die EU-Kommission hat ein Verfahren gegen Meta eröffnet, den Mutterkonzern von Facebook und Instagram.
Die EU-Kommission will unter anderem prüfen, ob sich das US-Unternehmen an europäische Regeln gehalten hat im Umgang mit irreführender Werbung und Desinformationskampagnen auf den Plattformen Facebook und Instagram.
Seitdem der Digital Services Act (DSA) da ist, gibt es klare Regeln dafür – und auch rigide Strafen, wenn sich ein Unternehmen nicht an diese Regeln hält.
Bei den mutmaßlichen Verstößen geht es unter anderem darum, ob Meta die Verbreitung von irreführender Werbung im politischen Umfeld und vor allem Desinformationskampagnen in der EU ausreichend bekämpft. Daran gibt es begründete Zweifel, denn solche Kampagnen gibt es zuhauf auf den Plattformen.
Weiterer Punkt: Es wird geprüft, ob es wirklich ausreichende und auch ausreichend einfache Möglichkeiten auf den Plattformen gibt, damit sich User über einzelne Beiträge oder wiederholt Fake-Nachrichten und Desinformationen verbreitende Konten beschweren können. Beides verstieße eindeutig gegen den Digital Services Act.
Apple wurde von der EU zu einem Bußgeld in Höhe von 1,8 Mrd. EUR verdonnert. Hintergrund sind Wettbewerbsrecht, der App-Store und die Provisionen bei Zahlungen.
Sind das also schon konkrete Vorwürfe?
Nein. Die Kommission betont, dass sie mit der Einleitung des Verfahrens lediglich einen Verdacht prüft, und dass die vorläufige Einschätzung der Behörde noch kein endgültiges Untersuchungsergebnis darstelle.
Weiterer Aspekt: Es ist mitunter schwierig, die genaue Lage zu untersuchen, denn der Meta-Konzern gewährt Forschern nicht genügend Daten und Informationen. Aber auch das verlangt der Digital Services Act ausdrücklich von einer Plattform dieser Größe. Meta muss da also nachliefern.
Wahlmanipulation auf Facebook und Instagram
Aber wie genau muss man sich denn Wahlmanipulation auf Social Media Plattformen vorstellen – es können ja nicht virtuelle Wahlplakate gemeint sein?
Es geht darum, dass auf den Plattformen massenweise Stimmung gemacht wird. Mit Falschinformationen, mit zugespitzten Behauptungen, aber auch und vor allem mit persönlicher Diffamierung von Politikern und Menschen aus deren Umfeld.
Und dabei geht es nicht um sachliche Kritik, sondern um überzogene oder unwahre Behauptungen, die aber oft leicht verfangen und das Meinungsbild der Bevölkerung verändern sollen – und es auch können.
Diesen Sommer wird das Europaparlament neu gewählt. Viele in der EU gehen davon aus, dass Russland versucht, Einfluss auf die Wahlen auszuüben. Französische Experten haben gerade erst ein russisches Desinformations-Netzwerk aufgedeckt, das kreml-freundliche Propaganda verbreitet hat.
All das läuft vor allem über die sogenannten „Sozialen Netzwerke“, denn das ist einfach und günstig.
Meta könnte bei Facebook und Instagram für werbefreie Netzwerke künftig Abogebühren verlangen
Facebook markiert künftig KI-Fotos
Wir sprechen hier in regelmäßig über KI und Deepfakes, die auch oft in diesem Zusammenhang benutzt werden. Die werden immer besser und es kursiert davon immer mehr im Internet.
Was tut ein Konzern wie Meta dagegen?
Bislang wenig bis gar nichts. Doch aufgrund der zunehmend strengen Richtlinien in Europa kommt einiges in Bewegung. Metas Ingenieure zum Beispiel arbeiten daran, mit Hilfe von KI erstellte fotorealistische Aufnahmen – und nur hier besteht ein Risiko der Verwirrung oder Täuschung – mit geeigneten technischen Maßnahmen (unter anderem mit KI) automatisch zu erkennen und zu kennzeichnen.
Obwohl Deepfakes heute oft verblüffend echt aussehen, ist das gar nicht so schwierig, wie es sich anhört. Viele KI-Systeme, die Fotos erzeugen, markieren die erstellten Bilder (unsichtbar) schon jetzt automatisch. Das machen KIs wie Midjourney, Dall-E3, Artbreeder, Dream und viele andere.
Sie kennzeichnen die erzeugten Bilder sowohl durch entsprechende Angaben in den Metadaten der Bilder als auch durch unsichtbare Wasserzeichen. OpenAI hat diese Maßnahme erst Mitte Februar eingeführt. Sie sollen ab Mai – also jetzt – in Facebook eine Kennzeichnung „Made with AI“ erhalten. ; später auch auf Instagram. Noch ist das nicht am Start.
Langt nicht
Die automatische Kennzeichnung der KI erzeugte Inhalte ist ein sinnvoller Schritt, allerdings sicher kein „Game Changer“. Das Problem ist ja die schiere Masse der gezielten Desinformation und Manipukation. Es gibt zu wenig Abwehr solcher Inhalte. Das nutzen russische Akteure aus.
Soziale Netzwerke sind heute die Öffentlichkeit. Es wäre früher undenkbar gewesen, solche Propaganda in die Zeitungen oder ins Radio zu bekommen. Doch über Social Media zu manipulieren ist kinderleicht und extrem günstig. Das muss aufhören.
Doch die EU scheint es ernst zu meinen: Die Plattformbetreiber müssen nachbessern. Sie müssen schneller reagieren, entschlossener durchgreifen, der Forschung mehr Daten liefern, sonst drohen Bußgelder. Die EU hat zuletzt mehrmals gezeigt, etwa bei Apple und Tiktok, das sie dazu willens und in der Lage ist.
Allerdings kommt das alles sehr spät. Schon im Juni sind Europawahlen.
Der Druck aus der US-Politik nimmt zu, dass die großen Plattformen deutlich mehr für den Jugendschutz tun. Der Meta-Konzern hat jetzt Verbesserungen bei der Verbreitung von Nacktbildern angekündigt. Die sollen künftig standardmäßig geblurt sein.
Instagram hat sich in den letzten Jahren zu einer der beliebtesten Social-Media-Plattformen entwickelt, insbesondere bei Jugendlichen und jungen Erwachsenen. Doch die Plattform birgt auch einige Risiken, vor allem für die jüngeren Nutzer. Die Diskussion um angemessenen Jugendschutz auf Instagram hat daher stark an Fahrt aufgenommen.
Anzeichen für Cybergrooming
Bislang unzureichender Jugendschutz
Eine der Hauptsorgen ist der potenzielle Zugang zu unangemessenen oder schädlichen Inhalten wie Gewalt, Mobbing, übermäßiger Sexualisierung oder der Förderung ungesunder Körperbilder. Jugendliche befinden sich in einer sensiblen Phase der Entwicklung und sind besonders anfällig für negative Einflüsse.
Die Probleme von Sextortion, Sexting und Cybergrooming sind bei Instagram besonders virulent.
Sextortion bezeichnet die Erpressung mit intimen Bildern oder Videos, oft nach dem ungewollten Teilen selbiger durch das Opfer.
Beim Sexting, dem Austausch anzüglicher Nachrichten und Fotos, besteht die Gefahr der Weiterverbreitung ohne Einwilligung.
Cybergrooming meint die gezielte Kontaktaufnahme durch Erwachsene zu Minderjährigen mit dem Ziel der sexuellen Ausbeutung.
Instagram ist hier ein bevorzugter Tummelplatz für Täter. All diese Praktiken können für Jugendliche auf der Plattform verheerende psychische und rechtliche Folgen haben. Präventionsmaßnahmen zur Sensibilisierung und Aufklärung der Gefahren sind daher unerlässlich – wurden aber bislang sträflich vernachlässigt.
Wenn Kids ein Smartphone nutzen, haben Eltern jede Kontrolle verloren
Der Meta-Konzern, der Instagram betreibt, hat sich als Maßnahme – nicht zuletzt aufgrund zunehmenden Drucks aus der US-Politik – nun dazu entschlossen, einige zusätzliche Sicherheitsfunktionen für Minderjährige einzuführen und diese in einem offiziellen Blogpost angekündigt.
Geplant ist, dass beim Senden und Empfangen von Nacktbildern künftig Warnhinweise erscheinen sollen. Außerdem – und das ist viel wichtiger – will Instagram Nacktbilder in Direktnachrichten bei Minderjährigen automatisch durch einen Unschärfefilter („Blur“) unkenntlich machen.
Unschärfefilter macht Nacktbilder unkenntlich
Empfänger solcher „Nachrichten“ sollen künftig die Wahl haben, ob sie ein solches Bild sehen möchten oder nicht, erklärt die zuständige Abteilung des Meta-Konzerns in Frankreich, die im Konzern für den Kinderschutz zuständig ist. Demnach sollen junge Menschen mit den neuen Maßnahmen vor „ungewolltem und potenziell gefährlichem Kontakten“ bewahrt werden.
Die Maßnahmen gegen unerwünschte Nacktbilder sollen bereits vor dem Versenden greifen. Falls jemand mit aktivierten Nacktbildschutz plant, ein solches Foto zu versenden, erscheint bereits ein Warnhinweis. Erst nach Bestätigung wird das Bild tatsächlich verschickt. Beim Empfänger erscheint das Bild dann durch Filter unscharf. Auf diese Weise soll niemand ungewollt mit solchen Aufnahmen konfrontiert werden.
Die Nacktbilder verschwinden nicht etwa total, sondern werden nur vorerst verwaschen dargestellt
Eine Hürde, keine Blockade
Die Empfänger können das Bild nach ausdrücklicher Bestätigung anschauen oder den sendenden Account direkt und konsequent blockieren. Außerdem erscheint ein ebenfalls ein Warnhinweis, sollte jemand versuchen, ein empfangenes Nacktbild weiterzuleiten.
Das alles ist eine Hürde, keine Blockade.
Im Vordergrund der Maßnahmen stehe der bessere Schutz vor sogenannter „Sextortion“, erklärt Meta. Hier bringen die Täter die zumeist minderjährigen Opfer durch Vorspiegelung falscher Tatsachen und psychologische Tricks dazu, Nacktbilder oder sogar -videos von sich zu erstellen und ihnen über die Plattform zu senden. Ist das erst mal geschehen, drohen die Täter häufig mit der Veröffentlichung des Materials.
Kontrolle erfolgt auf den Geräten selbst
Da Instagram seit Mai 2023 die direkte Kommunikation auf der Plattform durch eine Ende-zu-Ende-Verschlüsselung absichert, kann Meta die Inhalte nicht sehen und auch nicht überprüfen. Deshalb erfolgt die Überprüfung auf den Geräten von Absender und Empfänger. Die nötige Analyse ob nackt oder nicht erfolgt auf den Geräten selbst durch eine KI-Funktion.
Die neue Schutzfunktion soll zunächst in mehreren Ländern in Mittel- und Lateinamerika getestet werden und in den kommenden Monaten weltweit zum Einsatz kommen.
Konzern steht unter Druck
Der Meta-Konzern steht unter Druck: Whistleblowerin Frances Haugen, die früher bei Facebook gearbeitet hat, wirft dem Konzern vor, bei weitem nicht genug für Jugendschutz getan zu haben.
Facebook priorisiere Profit über das Wohlergehen der Jugendlichen. Interne Studien hätten gezeigt, dass Instagram der mentalen Gesundheit von Teenagern schade, das Unternehmen habe aber trotzdem nicht ausreichend reagiert. Seitdem hat insbesondere die US-Politik den Druck auf den Konzern verstärkt.
Bereits im Januar hatte Meta einen verstärkten Jugendschutz auf Instagram angekündigt. Jugendliche müssen seitdem die Zustimmung der Eltern einholen, um ein Konto von privat auf öffentlich zu setzen.
In den USA werden Plattformen wie Instagram, TikTok oder Snapchat zur Verantwortung gezogen: Sie alle unternehmen zu wenig, um Kinder und Jugendliche auf den Plattformen zu schützen. Das muss sich ändern.
Ein Social Media Post auf Instagram, Facebook oder LinkedIn ist nicht nur der Text und das zugehörige Bild, sondern auch die passenden Hashtags für eure Zielgruppe. Der Microsoft Designer erlaubt es, das alles zusammen per KI erstellen zu lassen.
Meta will seine User zur Kasse bitten – mit Abomodellen für Facebook und Instagram. Doch die User sind das gar nicht gewohnt – und erwartbar wollen nur die wenigsten zahlen.
Der Meta-Konzern bietet ab November in der EU die beiden Plattformen komplett werbefrei an – gegen entsprechende Gebühr. Was sich durch die neuen Abomodelle ändert.
Die Algorithmen sozialer Netzwerke wie Facebook sind mitverantwortlich für die oft rasante Verbreitung von Falschinformationen und die gesellschaftliche Polarisierung, sagt man. Aber stimmt das auch? Einige aktuelle Studien kommen zu einem anderen Ergebnis.
Instagram will auch in Deutschland kostenpflichtige Abomodelle einführen: Eine mögliche Einnahmequelle dfür Creator, die sich von ihren Followern für gute Inhalte bezahlen lassen. Kann das funktionieren?
