KI-Systeme sind so mächtig wie der Mensch es zulässt

Künstliche Intelligenz: Ethikrat empfiehlt klare Regeln für den Einsatz

Künstliche Intelligenz (KI) übernimmt immer mehr Aufgaben in unserem Alltag. Der Deutsche Ethikrat fordert jetzt klare Regeln für den Einsatz von KI. Die wichtigste: KI darf den Menschen nicht ersetzen.

Künstliche Intelligenz (KI) begegnet uns in immer mehr Lebensbereichen. Wenn KI in großen Konzernen zur Verarbeitung großer Datenmengen (Big Data) oder in Sozialen Medien zum Einsatz kommt, etwa um Inhalte zu kuratieren oder die Timeline zu befüllen, bekommen wir das in der Regel kaum mit. Doch durch die rasante Verbreitung von KI-Systemen wie den populären Chatbot ChatGPT dringt Künstliche Intelligenz auch immer mehr in unseren Alltag vor – und wird damit erkennbarer.

Die komplette Stellungnahme mit dem Titel „Mensch und Maschine“ könnt Ihr hier als PDF downloaden.

Die Stellungnahme „Mensch und Maschine“ des Deutschen Ethikrats beschäftigt sich mit der ethischen Bewertung von Künstlicher Intelligenz (KI) und deren Anwendungsbereichen. Die Autoren der Stellungnahme betonen, dass die Entwicklung von KI in Einklang mit den Werten der Gesellschaft erfolgen sollte.

Es wird empfohlen, dass die Verantwortung für die Entwicklung und Anwendung von KI auf mehrere Schultern verteilt werden sollte, um eine breitere Diskussion zu ermöglichen. Die Stellungnahme fordert auch eine stärkere Regulierung von KI-Anwendungen, insbesondere im Hinblick auf Datenschutz und Diskriminierung

Stellungnahme des Deutschen Ethikrats: "Mensch und Maschine"
Stellungnahme des Deutschen Ethikrats: „Mensch und Maschine“

Stellungnahme: „Mensch und Maschine“

Aber welche Regeln sollte für den Einsatz von KI gelten? Dazu hat der Deutsche Ethikrat nun ausführlich Stellung bezogen: In einem rund 290 Seiten umfassenden Bericht versucht das aus mehr als zwei Dutzend Mitgliedern bestehende Gremium den Rahmen zu stecken, in dem sich KI aus Sicht des Gremiums bewegen sollte.

Es geht dabei vor allem um die Frage: Wo und unter welchen Umständen kann KI sinnvoll eingesetzt werden, und wo gibt es begründete Bedenken. Es gilt, Chancen und Risiken zu kennen und auzuloten. Die Stellungnahme des Ethikrate war im Oktober 2020 vom damaligen Bundestagspräsidenten Wolfgang Schäuble (CDU) in Auftrag gegeben worden.

Ethikrat fordert Begrenzung der Verwendung

Der Ethikrat spricht sich für strikte Begrenzungen bei der Verwendung von Künstlicher Intelligenz aus. „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern“, fordert Alena Buyx, die Vorsitzende des Deutschen Ethikrates. Sie fordert im Gespräch außerdem: „KI darf den Menschen niemals ersetzen“. Faktisch tut KI das allerdings schon, etwa wenn KI-Systeme anstelle von Moderatoren aus Fleisch und Blut Inhalte auf Social Media durchforsten.

KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen, so die einhellige Meinung des Rats. Trotzdem wird genau das versucht. Denn mit Künstlicher Intelligenz lassen sich viele Aufgaben schneller und effizienter erledigen.

Durch die mittlerweile breitere Verfügbarkeit von KI-Systemen, selbst in Office-Anwendungen oder Apps, kommt KI auch im Alltag zum Einsatz. Gerade erst haben Google und Microsoft angekündigt, ihre Office-Anwendungen mit KI-Funktionen auszurüsten. Schon bald werden KI-Chatbots E-Mails beantworten oder Meetings protokollieren – technisch ist das kein Problem mehr.

Prof. Buyx ist die Vorsitzende des Deutschen Ethikrats
Prof. Buyx ist die Vorsitzende des Deutschen Ethikrats

KI in Schule und Bildung

Heikel wird es aus Sicht des Ethikrats, wenn vormals von Menschen ausgeübte Tätigkeiten auf Technologiesysteme übertragen werden, „die Möglichkeiten anderer Menschen beeinflusst, vor allem von jenen, über die entschieden wird“. Ein Beispiel sindwären KI-Systeme in der Medizin: Sie können bei der Diagnostik eine riesige Hilfe sein, sollten aber nicht über Therapien entscheiden. Doch für den Patienten mag es am Ende nicht mehr erkennbar, wer die Entscheidungen fällt. Solche Prozesse müssten daher transparent gestaltet. Zu groß dürfe der Einfluss der KI aber auch nicht werden, warnt der Ethikrat.

Offen zeigt sich der Ethikrat für den Einsatz KI-basierter Lösungen an Schulen. So könnte KI-Software etwa Schüler individuell trainieren, auf ihre Stärken, Schwächen und ihr Lerngeschwindigkeit eingehen. Auch Lehrer könnten auf KI zurückgreifen, um bei Bedarf ihre subjektiven Eindrücke datenbasiert zu untermauern oder korrigieren. Bei all dem müsse aber auch auf Datenschutz geachtet werden.

Die Stellungnahme des Deutschen Ethikrats „Mensch und Maschine“ empfiehlt, dass KI in Schulen und Hochschulen eingesetzt werden sollte, um das Lernen zu unterstützen. Es wird jedoch betont, dass der Einsatz von KI in der Bildung ethisch verantwortlich erfolgen sollte. Die Stellungnahme fordert auch eine stärkere Regulierung von KI-Anwendungen im Bildungsbereich, insbesondere im Hinblick auf Datenschutz und Diskriminierung. Es wird empfohlen, dass die Verantwortung für die Entwicklung und Anwendung von KI auf mehrere Schultern verteilt werden sollte, um eine breitere Diskussion zu ermöglichen.

Snapchat führt einen KI-Chatbot ein: "My AI" soll zum neuen Freund der User werden
Snapchat führt einen KI-Chatbot ein: „My AI“ soll zum neuen Freund der User werden

Regeln umsetzen

So wichtig klare Regeln ohne jede Frage sind, so schwierig sind sie auch umzusetzen. Die meisten KI-Systeme werden in den USA entwickelt. Dieser Trend wird sich eher verstärken. Deshalb ist es wichtig, Regeln nicht nur national zu denken, sondern idealerweise EU-Weit – oder noch besser international. Klarer Missbrauch von KI, etwa zur Verbreitung von Fake News oder für Deep-Fake-Videos, die zu gesellschaftlichen Verwerfungen führen könnten, müssten idealerweise international auf UN-Ebene geächtet werden.

Bis dahin ist es aber noch ein weiter Weg.

 

SCHIEB+ Immer bestens informiert

Schieb+ Tarife
Nach oben scrollen