Künstliche Intelligenz hat kein Gesicht

Auf Künstlicher Intelligenz liegen viele Hoffnungen – es gibt aber auch eine Menge Befürchtungen. Die EU-Kommission hat nun ein Regelwerk vorbereitet, um die Möglichkeiten von KI einzuschränken – und den Einsatz bei Bedarf auf den Prüfstand zu stellen. Das scheint dringend erforderlich.

Künstliche Intelligenz (KI) ist zu einem regelrechten Modebegriff verkommen. Überall fällt das Buzzword – um Aufmerksamkeit zu generieren und/oder besondere Fortschrittlichkeit zu suggerieren. Das klappt auch häufig, denn noch verbinden die meisten Menschen mit KI etwas Positives. Sie glauben, die Dinge würden mit KI besser: Schnellere und bessere Entscheidungen.

“Social Scoring” soll in Europa verboten sein

Das ist allerdings ein Trugschluss. KI bietet enorme Chancen, etwa in Forschung, Wissenschaft, Medizin und Wirtschaft. Allerdings kann sich KI auch ganz leicht gegen uns wenden. Natürlich nicht à la “Terminator”, indem die Technik aus eigenem Willen aufbegehrt, sondern eher durch den bewussten Einsatz gegen die Interessen der Allgemeinheit. So eignet sich KI zum Beispiel wunderbar dazu, menschliches Verhalten zu überwachen.

In China gibt es das bereits in Reinkultur: “Social Scoring“, wird das genannt. KI überwacht jede Bewegung, bewertet sie und führt Buch.

Doch heute kommt KI in allen möglichen Bereichen unseres Lebens zum Einsatz. KI bestimmt, was in unserer Timeline auftaucht, welche Anzeigen wir zu sehen bekommen, antwortet auf unsere Sprachbefehle – selbst in Küchengeräten ist heute angeblich KI aktiv.

KI kommt aber auch zunehmend in sensiblen Bereichen zum Einsatz: Zur Überwachung öffentlicher oder privater Räume, um Kreditwürdigkeit zu berechnen oder Diagnosen in der Medizin zu stellen.

Allerhöchste Zeit, diesen Bereich zu regeln.

EU Kommissarin Margrete Vestager

Umfassendes Regelwerk

Die EU-Kommission hat deswegen einen umfassenden Vorschlag zur Regulierung von KI vorgelegt. Das Regelwerk soll vor allem Auswüchse wie in China verhindern.

So soll es in Europa zum Beispiel generell verboten sein, KI zur Massenüberwachung oder zur Manipulation einzusetzen. Auch Social Scoring soll ausdrücklich verboten werden.

Richtig so. Allerdings ist der Begriff “Manipulation” sehr unkonkret. Sind schon auf individuelle Bedürfnisse zugeschnittene Anzeigen eine Manipulation? Oder wenn passende Wahlprogramme präsentiert werden? Wo fängt Manipulation an, wo hört sie auf? Das ist noch nicht konkret genug formuliert.

Auch stören sich einige Experten daran, dass die Erfassung und Verarbeitung biometrischer Daten im öffentlichen Raum nicht generell verboten wird. Andere halten den Einsatz von Gesichtserkennung im öffentlichen Raum prinzipiell für sinnvoll, etwa um vermisste Kinder aufzuspüren oder Kriminalität zu verhindern. Auch hier gibt es den Bedarf, die Grenzen näher zu spezifizieren.

Vier Kategorien: Regeln und Kontrollen

Generell soll KI in vier Kategorien eingeteilt werden. Von “harmlos” (etwa, wenn KI im Spam-Filter unerwünschte Mails herausfiltert) bis hin zu “riskant”, etwa wenn KI in autonomen Fahrzeugen entscheidet, wann gebremst wird. Oder wenn KI Kredite bewilligt oder in der Medizin Diagnosen stellen. Hier sind strenge Vorschriften und Kontrollen geplant. Die Anbieter müssen die KI genau dokumentieren – und den Zweck definieren.

Das ist nicht einfach. Denn KI ist anders aufgebaut als ein gewöhnliches Computerprogramm. KI-Systeme lernen selbständig dazu, erkennen Muster und fällen Entscheidungen. Es kommt ganz wesentlich darauf an, mit welchen Daten die Systeme zu Training “gefüttert” werden. Das entscheidet darüber, wie gut die Systeme funktionieren – und ob sie möglicherweise diskriminieren.

Es ist gut, dass die EU das regeln will. Allerdings muss auch darauf geachtet werden, dass in Europa KI-Forschung möglich bleibt.