Der Deutsche Ethikrat hat bereits 2023 wegweisende Empfehlungen für den KI-Einsatz formuliert. Während die EU inzwischen den AI Act verabschiedet hat, bleiben die Kernforderungen aktueller denn je: KI soll den Menschen unterstützen, nicht ersetzen.
Künstliche Intelligenz hat seit 2023 einen beispiellosen Boom erlebt. Was mit ChatGPT begann, ist heute Realität in fast allen Lebensbereichen: Von Microsoft Copilot in Office-Anwendungen über Claude und Gemini bis hin zu KI-Assistenten in Smartphones und Smart Homes. Doch während die Technologie rasant voranschreitet, werden ethische Leitlinien immer wichtiger.
Die komplette Stellungnahme mit dem Titel „Mensch und Maschine“ könnt Ihr hier als PDF downloaden.
Die Stellungnahme „Mensch und Maschine“ des Deutschen Ethikrats aus dem Jahr 2023 hat an Relevanz gewonnen, seit die EU im Dezember 2024 den AI Act vollständig implementiert hat. Die ethischen Grundsätze sind heute wichtiger denn je, da Generative KI-Systeme wie GPT-4, Claude 3 und Gemini Ultra in fast allen Bereichen eingesetzt werden.
Die Empfehlung, dass Verantwortung bei KI-Entwicklung auf mehrere Schultern verteilt werden sollte, zeigt sich heute in der Praxis: OpenAI, Google, Anthropic und andere Anbieter haben mittlerweile eigene Ethics Boards etabliert. Die Forderung nach stärkerer Regulierung von KI-Anwendungen wurde mit dem EU AI Act teilweise umgesetzt.
Stellungnahme des Deutschen Ethikrats: „Mensch und Maschine“
EU AI Act: Erste konkrete Regeln in Kraft
Seit August 2024 ist der EU AI Act in Kraft getreten – die erste umfassende KI-Regulierung weltweit. Die Verordnung teilt KI-Systeme in Risikokategorien ein: Von „minimalem Risiko“ bei einfachen Chatbots bis hin zu „unannehmbarem Risiko“ bei Social Scoring-Systemen, die komplett verboten sind.
Besonders relevant sind die Regelungen für „hochriskante“ KI-Systeme in Bereichen wie Medizin, Bildung und Personalwesen. Diese müssen strenge Auflagen erfüllen: Transparenz, menschliche Aufsicht und Dokumentation der Entscheidungsfindung. Genau das, was der Ethikrat bereits 2023 gefordert hatte.
Die ursprüngliche Stellungnahme war im Oktober 2020 vom damaligen Bundestagspräsidenten Wolfgang Schäuble (CDU) in Auftrag gegeben worden – heute zeigt sich, wie weitsichtig diese Initiative war.
Menschliche Kontrolle bleibt zentral
Der Grundsatz „KI darf den Menschen niemals ersetzen“ von Alena Buyx, der ehemaligen Vorsitzenden des Deutschen Ethikrates, ist aktueller denn je. In der Praxis bedeutet das: KI soll als „Copilot“ fungieren, nicht als autonomer Entscheider.
Dieses Prinzip zeigt sich in modernen KI-Implementierungen: Microsoft Copilot macht Vorschläge für E-Mails und Dokumente, die finale Entscheidung liegt beim Nutzer. GitHub Copilot schreibt Code-Vorschläge, Entwickler müssen diese aber prüfen und freigeben. Auch ChatGPT und andere Large Language Models geben regelmäßig Hinweise, dass ihre Antworten überprüft werden sollten.
Prof. Buyx ist die Vorsitzende des Deutschen Ethikrats
KI in Bildung: Von der Theorie zur Praxis
Die optimistische Haltung des Ethikrats zum KI-Einsatz in Schulen hat sich bewährt. Heute nutzen Bildungseinrichtungen weltweit KI-Tools für personalisiertes Lernen. Systeme wie Khan Academy’s Khanmigo oder Duolingo’s KI-Tutor passen sich individuell an Lerngeschwindigkeit und -stil an.
In deutschen Schulen etablieren sich Tools wie ChatGPT für Lehrerfortbildung oder Grammarly für Sprachkorrekturen. Wichtig dabei: Die Datenschutz-Grundverordnung (DSGVO) sorgt für strengere Auflagen als in anderen Ländern.
Problematisch bleibt der Umgang mit KI-generierten Inhalten in Prüfungen. Während manche Hochschulen KI-Detektoren einsetzen, gehen andere den umgekehrten Weg und integrieren KI bewusst in den Lehrplan. Die Kultusministerkonferenz arbeitet an einheitlichen Richtlinien, die 2026 vorliegen sollen.
Snapchat führt einen KI-Chatbot ein: „My AI“ soll zum neuen Freund der User werden
Medizin: KI als Diagnose-Unterstützung
Im Gesundheitswesen zeigt sich die Balance zwischen KI-Unterstützung und menschlicher Verantwortung besonders deutlich. Systeme wie Google’s Med-PaLM oder IBMs Watson for Oncology analysieren Symptome und schlagen Behandlungen vor – die finale Entscheidung bleibt aber beim Arzt.
Radiologie-KI erkennt heute Tumore oft präziser als menschliche Experten, ersetzt diese aber nicht. Stattdessen fungiert sie als „zweite Meinung“, die Ärzte in ihrer Diagnose bestärkt oder auf übersehene Details hinweist. Genau das hatte der Ethikrat als Idealfall beschrieben.
Internationale Koordination wird Realität
Die Forderung nach internationaler Zusammenarbeit nimmt Gestalt an. Nach dem EU AI Act arbeiten USA, Großbritannien und Kanada an eigenen Regulierungen. Die G7-Staaten haben sich 2024 auf gemeinsame KI-Prinzipien geeinigt.
Besonders bei kritischen Bereichen wie autonomen Waffen oder Deepfakes zeichnet sich internationale Koordination ab. Die UN hat eine KI-Arbeitsgruppe eingerichtet, die bis Ende 2026 globale Mindeststandards erarbeiten soll.
Herausforderungen bleiben
Trotz aller Fortschritte bleiben zentrale Probleme ungelöst: Algorithmische Verzerrungen in Bewerbungsverfahren, intransparente Empfehlungsalgorithmen in sozialen Medien und die Gefahr von Massenüberwachung durch KI-Gesichtserkennung.
Der Ethikrat hatte vor „zu großem KI-Einfluss“ gewarnt – eine Mahnung, die angesichts von KI-generierten News, Deepfake-Videos und automatisierten Entscheidungen in Kreditvergabe oder Personalpolitik hochaktuell bleibt.
Fazit: Die Empfehlungen des Deutschen Ethikrats von 2023 haben sich als wegweisend erwiesen. Mit dem EU AI Act existiert nun ein rechtlicher Rahmen, der die ethischen Grundsätze in verbindliche Regeln übersetzt. Der Weg zu einer menschenzentrierten KI-Entwicklung ist eingeschlagen – auch wenn noch viel Arbeit vor uns liegt.
Zuletzt aktualisiert am 19.02.2026
