KI-Gesetz: Wie die EU die Bürger vor zu gefährlicher KI schützen will

KI-Gesetz: Wie die EU die Bürger vor zu gefährlicher KI schützen will

Die Mitgliedsstaaten der EU haben eine Regulierung von Künstlicher Intelligenz final zugestimmt. Spätestens in zwei Jahren gelten die Regeln verbindlich.

Künstliche Intelligenz (KI) ist das mit Abstand mächtigste Werkzeug, das die Menschheit jemals entwickelt hat. Noch ist nicht abzusehen, welche Möglichkeiten sich irgendwann ergeben – welche Chancen und Risiken die neue Technologie in Zukunft mit sich bringt.

Die EU-Staaten haben nun nach langer Zeit der Verhandlung ein „AI Act“ genanntes KI-Gesetz beschlossen, das bestimmten Einsatz von KI innerhalb der EU komplett verbietet.

Mit Gesichtserkennung lassen sich gute Dinge tun - aber es ist auch Missbrauch möglich
Mit Gesichtserkennung lassen sich gute Dinge tun – aber es ist auch Missbrauch möglich

Einteilung in Risikoklassen

Der AI Act der Europäischen Union ist ein bahnbrechender Gesetzesentwurf, der darauf abzielt, den Einsatz von Künstlicher Intelligenz (KI) umfassend zu regulieren.

Als weltweit erste Gesetzgebung dieser Art soll der AI Act einheitliche Regeln für die Entwicklung, den Vertrieb und die Nutzung von KI-Systemen in der EU schaffen. Ziel ist es, die Risiken von KI zu minimieren und gleichzeitig Innovation und Wettbewerbsfähigkeit zu fördern.

Der Entwurf sieht ein risikobasiertes Regelwerk vor, das KI-Systeme je nach ihrem Gefährdungspotenzial in vier Kategorien einteilt: von minimal bis unakzeptabel riskant.

Hochriskante Anwendungen, etwa in sensiblen Bereichen wie Gesundheit, Verkehr oder Strafverfolgung, sollen strengen Auflagen unterliegen. Dazu zählen Anforderungen an Datenqualität, Transparenz, menschliche Aufsicht und Cybersicherheit. Der AI Act könnte so weltweit Maßstäbe für einen verantwortungsvollen Umgang mit dieser Zukunftstechnologie setzen.

Mit dem Gesicht das Handy entsperren
Mit dem Gesicht das Handy entsperren oder mit KI erkennen lassen

Gesichtserkennung und Massenüberwachung per KI verboten

Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen vollständig verboten werden. So ist eine Massenüberwachung und auch eine massenhafte Gesichtserkennung im öffentlichen Raum ausdrücklich verboten, sowohl dem Staat wie Unternehmen.

Dabei gibt es allerdings Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum im Einzelfall nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verhindern oder zu verfolgen. Bürgerrechtler stoßen sich an dieser Ausnahme.

Diese Einschränkungen erfolgen wohl begründet: In China kommt KI bereits zum Einsatz, um die Bevölkerung engmaschig zu überwachen.

Gesichtserkennung identifiziert Personen, die sich in der Öffentlichkeit nicht regelkonform verhalten – und werden mit „Strafpunkten“ im sogenannten „Social Scoring“ bedacht. Eine albtraumhafte Vorstellung, die durch das KI-Gesetz innerhalb der EU verhindert werden soll.

Auch KI kann diskriminieren: Nicht durch falsche Programmierung, sondern durch kompromittiertes Datenmaterial
Auch KI kann diskriminieren: Nicht durch falsche Programmierung, sondern durch kompromittiertes Datenmaterial

Transparenzpflichten und Anpassungen

Aber auch KI-Systeme, die als besonders risikoreich gelten und in der kritischen Infrastrukture oder im Bildungs- und Gesundheitswesen zum Einsatz kommen, müssen künftig strenge Anforderungen erfüllen. KI-Systeme dürfen keine eigenständigen Entscheidungen fällen und müssen Transparenzpflichten erfüllen.

KI entwickelt sich derzeit rasant. Die Macher der KI-Gesetz sind sich darüber im Klaren, dass die Gesetze mit der Zeit immer wieder nachjustiert werden müssen, um Möglichkeiten nicht unnötig einzuschränken und mögliche neue Risiken einzudämmen. Denn niemand kann heute bereits absehen, welche Möglichkeiten KI in ein, zwei oder zehn Jahren bietet.

Vorteile für Verbraucher

Für Nutzer werden Auflagen und Einschränkungen durchaus spürbar werden. So müssen die Menschen über den Einsatz „hochriskanter“ KI-Systeme informiert werden. Außerdem muss gewährleistet bleiben, dass Menschen die Kontrolle behalten, etwa bei KI-gestützter Therapie in der Medizin.

KI-Systeme müssen außerdem so entwickelt sein, dass Risiken wie Fehler, Manipulationen oder Sicherheitslücken minimiert werden. Auch müssen durch KI erzeugte Inhalte gekennzeichnet werden. Facebook hat im Mai bereits damit begonnen, mit KI erzeugte fotorealistische Bilder mit dem Hinweis „Made with AI“ zu kennzeichnen.

Bitkom formuliert Kritik am KI-Gesetz

Der Branchenverband Bitkom kritisiert allerdings, das KI-Gesetz lasse wesentliche Fragen offen. Besonders problematisch sei, dass die eigentliche Regulierungsarbeit – also die Ausformulierung der Gesetze in Deutschland – erst jetzt erfolge. Es sei noch nicht klar, ob die KI-Industrie einen Schub erhalte oder jede Menge Hemmnisse.

In der Tat könnten zu strenge Regeln das Risiko bergen, dass in Europa keine oder weniger KI-Lösungen entwickelt werden. Denn Investoren müssten die Gewissheit haben, dass ungehindert geforscht und entwickelt werden kann – und neue KI-Lösungen getestet und eingesetzt werden können.

KI-Gesetz erst in zwei Jahren vollständig gültig

Das KI-Gesetz ist nun beschlossen. Nach der Bestätigung der EU-Länder werden die neuen KI-Regeln erst einmal im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann in allen EU-Staaten gelten; jedes einzelne Land muss sie auch in Gesetzgebung umsetzen.

Mehr Rechte und Transparenz: Digital Services Act (DSA) startet

Mehr Rechte und Transparenz: Digital Services Act (DSA) startet

Der „Digital Services Act“ (DSA) war von langer Hand vorbereitet – und soll die großen Plattformen regulieren. Nutzer bekommen mehr Rechte bei Social Media und Onlineshopping.

 

Was ändert sich durch die neuen Regeln für mich als Nutzer?

Wenn alle Regeln eingehalten werden, eine ganze Menge. Vor allem in „Social Media Diensten“. Nutzer bekommen mehr Kontrolle und Transparenz – beides ist dringend nötig. In Social Media Diensten wie Instagram oder Youtube zB. haben Nutzer künftig das Recht zu erfahren, warum bestimmte Inhalte im Feed landen.

Warum dieses Posting? Warum diese Werbung? Das basiert oft auf persönliche Daten. Aber auf welche? Wer das nicht möchte, bekommt eine Möglichkeit, diese „Empfehlungen“ aufgrund persönlicher Daten abzustellen (Optout). Werbung darf künftig nicht mehr auf Basis sensibler persönlicher Daten ausgespielt werden.

Dazu zählen etwa die politische Überzeugung, sexuelle Orientierung oder ethnische Zugehörigkeit. Und wenn die Plattformen die eigenen Postings blockieren oder löschen, dann dürfen sie das nicht mehr ohne Begründung. Sie müssen den betroffenen Usern ausdrücklich mitteilen, was und warum blockiert wurde – damit Betroffene dagegen auch Widerspruch einlegen können. Das verändert die Machtverhältnisse nicht vollständig, aber die User bekommen deutlich mehr Rechte als früher.

Es gibt aber auch neue Regeln für Onlineshops…

Online-Shops und -Handelsplätze müssen sicherstellen, dass Kunden leicht herausfinden können, mit wem sie ins Geschäft kommen. Das ist vor allem auf Amazon oder eBay oft ein Problem: Da kauft man etwas – es kommt am Ende aber aus China. Ohne ausgewiesene Mehrwertsteuer, oft mit Zoll bezahlt werden – und lange Lieferzeiten.

Anbieter auf Plattformen müssen daher künftig leicht auffindbare Kontaktdaten und ihre Einträge in Handelsregister sowie weitere relevante Informationen offenlegen.

Das ist ein großer Schritt nach vorne. Und: Onlineshops und überhaupt alle müssen auf „Dark Patterns“ verzichten, also Tricksereien durch Farbgebung oder Layout und Gestaltung, die Menschen dazu bringen, Dinge anzuklicken und vielleicht sogar zu kaufen, obwohl sie es gar nicht wollen.

In der EU behindern strenge Regeln die Einführung von Threads

Die EU-Kommission reguliert die Macht der großen Player

Große Konzerne müssen aktiv werden

Wie kooperativ zeigen sich die großen Konzerne – und welche sind eigentlich betroffen?

Der Digital Services Act gilt für alle Plattformen mit mehr als 45 Mio. Nutzern in Europa. Dazu gehören Instagram, Tiktok, Facebook, Youtube, Google, aber auch Amazon, Alibaba – und, als einziger nicht-kommerzielles Angebot, auch Wikipedia. Begeistert sind die Unternehmen natürlich nicht, darf man annehmen, da es ihre Positionen schwächt und empfindliche Bußgelder drohen.

Aber es sind schon viele Dinge in Bewegung. Meta hat bereits angekündigt, User in Zukunft umfassend zu informieren, wenn Beiträge gelöscht werden. Die Plattformen müssen aber auch kennzeichnen, wer Werbung schaltet: Google hat bereits seine Richtlinien für Werbekunden geändert. Insider befürchten allerdings, dass vor allem Twitter/X Probleme bekommen wird, die neuen Regeln einzuhalten, schließlich hat Elon Musk 80% der Beschäftigten vor die Tür gesetzt.

Es gibt gar nicht genug Personal, um allen Anforderungen gerecht zu werden. Die EU-Kommission hat bereits angekündigt, das genau zu beobachten. Sie ist entschlossen, die Regeln durchzusetzen.

Social Media ändert sich: Kommen jetzt mehr Payed Accounts?

Social Media ändert sich: Kommen jetzt mehr Payed Accounts?

Regeln für Verbraucher

„Digital Services Act“: Das ist ein typischer Beamtenbegriff… Wie gut sind die Regeln für Verbraucher?

Die EU hat die Regeln von langer Hand vorbereitet – und sie sind auch dringend nötig. Denn die Übermacht der –  (mit Ausnahme von TikTok) zumeist amerikanischen – Konzerne ist erdrückend.

Der DAS ist der Versuch, Verbraucherschutz durchzusetzen. Die Konzerne setzen die Regeln nur sehr verhalten um, müssen aber liefern. Damit ist nicht gleich alles gut, aber es wird doch deutlich besser. Keiner der großen Konzerne wird sagen: Das ist eine Zumutung, wir gehen raus aus Europa. Denn der europäische Markt ist wichtig, und es ist auch wichtig, dass nach Regeln der EU-Mitgliedsstaaten gespielt wird.

 

Wieviel Regulierung braucht KI?

Wieviel Regulierung braucht KI?

In den letzten Wochen ist wohl jedem klar geworden: KI ist gekommen, um zu bleiben. Wir werden mit KI-Systemen leben müssen, die alles Mögliche machen: Daten analysieren, Entscheidungen treffen, Dinge kontrollieren oder auch Medien erstellen. Wieso gibt es überhaupt die Forderung, so etwas zu kontrollieren oder regulieren?

(mehr …)