KI

Die Branche hat ein neues Buzzword: Künstliche Intelligenz. Kurz KI. Wie dramatisch die Lage ist, war auf der Internationalen Funkausstellung (IFA) zu sehen. Praktisch an jedem zweiten Stand gab es irgendwas mit KI. Der deutsche Hersteller Siemens zum Beispiel hat sich nicht gescheut, einen aufgestellten Backofen als „intelligent“ zu bezeichnen.  Warum? Weil ich über Alexa – zumindest theoretisch! – die Ofentür öffnen kann.

„Alexa: Sage Backofen – Türe auf!” Nur wer diesen Satz einigermaßen unfallfrei sagt, kann beobachten, wie – vielleicht – die Türe aufgeht. Ich musste es acht Mal probieren, damit das einmal passiert ist. In der Zwischenzeit wäre jeder Kuchen oder Braten hinüber gewesen.

Die dummen Kunden glauben alles

Ähnliche Erfahrungen bei der nagelneuen Espresso-Maschine. Ebenfalls Siemens. Der soll man sagen können, ob es Cappuccino, Espresso oder sonst was sein soll. Aber auch hier wollte die Technik nicht. Es prangte ein „Netzwerkdialogfehler!“ im Display. Nach 20 Minuten harter Technikerarbeit war der zwar beseitigt, doch Sprechen mit der Maschine war trotzdem nicht möglich. Völlig sinnloser Schnickschnack.

„Intelligente“ Küchengeräte? Wir sind blöd genug, das zu glauben. Beugen uns über die Alexas dieser Welt und sagen Sprüche auf, die uns beigebracht wurden. Und dann werden wir noch in Fehlertoleranz trainiert, denn selbst wer die Sprüche richtig aufsagt, darf sich nicht immer über Ergebnisse freuen.

Im Vergleich zu den Geräten sind wir also saudumm – und die damit intelligent.

KI

Der Begriff KI ist Etikettenschwindel

Offensichtlich meinen die Hersteller, sie könnten uns mit dem Begriff KI begeistern. Dabei ist der Begriff selbst schon Etikettenschwinden. Künstliche Intelligenz ist nicht intelligent. Niemals. KI-Systeme sind – wenn sie gut gemacht sind – zwar in der Lage, Muster zu erkennen und auf eine gewisse Weise zu lernen. Und sie können schnell Entscheidungen fällen. Aber das ist es auch schon. Intelligenz ist etwas völlig anderes.

„Die Fähigkeit, abstrakt und vernünftig zu denken und daraus zweckvolles Handeln abzuleiten“ – so definiert Wikipedia Intelligenz. Schon an diesen Ansprüchen scheitern KI-Systeme. Sie können weder denken, noch zweckvolles Handeln daraus ableiten. Sie können eben nur eins: Muster erkennen. Zugegeben: Sie können super Dinge unterscheiden. Und Regeln lernen. Das ist es aber auch schon.

Abgesehen davon fehlt KI-Systemen jede Sinnlichkeit. Angst. Freude. Nicht vorhanden. Das wiederum macht das Wesen des Menschen aus. Nur so sind kreatives Handeln, Kunst oder unser Gestaltungsdrang zu erklären. Wer etwas erschafft, besiegt den Tot. KI-Systeme werden so etwas nie können. Sie simulieren bestenfalls einen Teil unserer Intelligenz. Nicht mehr, aber auch nicht weniger.

Wir werden also für dumm verkauft, wenn uns KI als Intelligenz aufgeschwatzt wird. Das alles ist ein riesiger Etikettenschwindel. Wir sollten ab sofort von „sogenannter KI“ sprechen – damit klar ist, dass wir uns nicht an der Nase herumführen lassen wollen.

KI

Die vielen Probleme von KI

Ungeachtet dessen, bringt KI auch eine Menge Probleme mit sich, die wir nicht wegwischen sollten – und dürfen. Denn KI-Systeme versorgen Onlinedienste und Betreiber nicht nur mit erheblich mehr Daten, sie sind gleichzeitig das Gegenteil von transparent. Niemand kann wirklich wissen, welchem Zweck ein KI-System dient – und in welche Richtung es sich entwickelt. Experten fordern deshalb, dass ethische Prinzipien für Software eingeführt werden müssten. In der Wissenschaft und in der medizinischen Forschung gibt es das durchaus.

Außerdem können KI-Systeme die Abhängigkeit erhöhen: Wenn erst mal KI-Systeme die Kontrolle über ein Smart Home, ein Office, eine Industrieanlage übernommen haben – wie diese Kontrolle wiedererlangen? Fällt so ein System aus, entstehen schnell riesige Probleme. Werden keine Lichtschalter mehr eingebaut, weil sich das Licht im Haus per Sprache steuern lässt, wird es schwierig, im Falle eines Systemausfalls das Licht zu dimmen. Außerdem weiß niemand, wer all die anfallenden Daten erhält und verarbeitet. Ganz zu schweigen von Manipulationsmöglichkeiten.

Es stecken Chancen in der sogenannten KI – keine Frage. Aber wohl eher, wenn es darum geht, in der Forschung weiterzukommen oder große Datenmengen zu verarbeiten. In vielen Bereichen des Lebens haben KI-Systeme eher nichts verloren. Zumindest so lange nicht, wie die beschriebenen Risiken nicht ernsthaft eingedämmt worden sind.

KI hilft bei der Massenüberwachung

Ein Bereich, in dem KI zweifellos sehr effektiv ist: Gesichtserkennung.

KI-Systeme erkennen mit einer vergleichsweise hohen Trefferquote Menschen im Vorübergehen…. Ein paar installierte Kameras reichen aus. KI erkennt aber auch „verdächtiges Verhalten“: Bewegt sich jemand ungewöhnlich auf dem Bahnsteig, wirkt jemand nervös, steht jemand in einer verdächtigen Ecke? KI ist gewissermaßen die ideale Technologie für alle mit Überwachungsphantasien: Blitzschnell, lernfähig, recht zuverlässig und 24/7 im Einsatz

Und diese Technologien werden immer häufiger eingesetzt. Nun gibt es eine Studie, die untersucht hat, wie häufig solche Technologie zum Einsatz kommt. Das Ergebnis ist erschreckend.

Die Denkfabrik „Carnegie Endowment for International Peace“ hat das untersucht. Mindestens 75 von 176 untersuchten Ländern verwenden KI-Systeme, um breite Bevölkerungskreise zu überwachen. 64 Länder nutzen demnach Videoüberwachung mit biometrischer Gesichtserkennung. Am Berliner Bahnhof Südkreuz gibt es auch eine Testanlage in Deutschland. Außerdem setzen 52 Länder auf „intelligente Unterstützung“ der Polizeiarbeit. Gemeint ist damit „Predictive Policing“: Hier wird KI eingesetzt, um mögliche Schwerpunkte von Kriminalität vorherzusagen: Indem aktuelle Geschehnisse ausgewertet werden. Vorreiter ist China.

China Vorreiter

In China kommen verschiedene Aspekte zusammen. China investiert sehr viel Geld in KI, mehr als alle anderen Nationen. Gleichzeitig finden Unternehmen hier ideale Bedingungen vor, um ihre Systeme auszuprobieren: China führt eine Massenüberwachung in den Städten ein. Überall Kameras, die mit Gesichtserkennung verbunden sind. Niemand wagt in China, sich dagegen zu wehren.

Dadurch können die Unternehmen in China perfekt experimentieren und ihre Systeme verbessern. In China werden Systeme eingeführt, um die Bevölkerung komplett zu überwachen: Wer bei rot über die Ampel geht, wird öffentlich diffamiert – und bekommt Strafpunkte aus seinem Sozialkonto (Social Scoring). Diese Systeme werden „immer besser“ – und nun auch weltweit verkauft und eingesetzt. Solche Systeme chinesischer Firmen wie Huawei oder ZTE sind bereits in 63 Staaten weltweit im Einsatz. Aber auch US-Unternehmen sind nicht untätig und rüsten auf.

Bei uns im Europa kommt so etwas bislang nur vereinzelt zum Einsatz – und eher nicht zur Massenüberwachung. Aber experimentiert wird bereits, etwa am Bahnhof Südkreuz in Berlin. Außerdem sollten wir unsere Digitalen Assistenten nicht vergessen. Unternehmen wie Amazon, Google, Apple und Microsoft bieten solche Assistenten an – und sie werden immer häufiger genutzt. KI soll unser Leben erleichtern. Doch in Wahrheit werden Daten en masse gesammelt – zur Geschäftsoptimierung, zumindest bei Amazon und Google ist das so. Auch eine Art von Massenüberwachung.

Na: Immer noch ein Fan von KI?