Der EU AI Act ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz – und er betrifft euch direkter, als viele denken. Ob ihr ChatGPT nutzt, mit einer KI-Hotline telefoniert oder eure Bewerbung von einem Algorithmus vorsortiert wird: Die neuen Regeln greifen schrittweise und ändern, was Anbieter dürfen und was nicht.
Besonders spannend wird es bei der Frage: Wer haftet eigentlich, wenn eine KI Mist baut? Wenn der Chatbot falsche Auskünfte gibt, das Bewerbungssystem diskriminiert oder ein KI-Tool euch finanziell schädigt? Ich erkläre euch, was schon gilt, was kommt – und wie ihr eure Rechte konkret durchsetzt.
Was regelt der EU AI Act? Geltungsbereich erklärt
Der EU AI Act wurde 2024 verabschiedet und tritt gestaffelt in Kraft. Der Ansatz: KI-Systeme werden nach Risiko eingestuft – von minimalem Risiko (etwa Spam-Filter) bis zu inakzeptablem Risiko (etwa Social Scoring durch Behörden). Je höher das Risiko, desto strenger die Pflichten der Anbieter.
Bereits seit Februar 2025 sind bestimmte KI-Praktiken in der EU komplett verboten. Dazu zählen etwa manipulative Systeme, die Menschen gezielt unterbewusst beeinflussen, sowie das ungezielte Auslesen von Gesichtsbildern aus dem Internet zum Aufbau biometrischer Datenbanken. Auch Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist stark eingeschränkt.
Für General-Purpose-KI wie große Sprachmodelle gelten seit August 2025 zusätzliche Transparenz- und Dokumentationspflichten. Anbieter müssen offenlegen, womit ihre Modelle trainiert wurden, und Risiken systemisch wichtiger Modelle bewerten. Die meisten Pflichten für Hochrisiko-Systeme – etwa in Personalwesen, Kreditvergabe oder Strafverfolgung – greifen vollständig ab August 2026.
Wichtig zu wissen: Der AI Act selbst ist primär ein Marktregulierungsgesetz. Er sagt, welche KI auf den EU-Markt darf und welche Pflichten Anbieter haben. Die klassischen Haftungsfragen – wer zahlt bei Schäden? – regeln weiterhin nationales Recht und ergänzende EU-Vorhaben.
Haftung bei KI-Fehlern: Wer zahlt für Schäden?
Hier wird es kompliziert – und ehrlich gesagt: Die Lage ist noch nicht endgültig geklärt. Die ursprünglich geplante KI-Haftungsrichtlinie, die Verbrauchern Schadensersatz bei KI-Fehlern erleichtern sollte, wurde von der EU-Kommission Anfang 2025 zurückgezogen. Damit fehlt ein wichtiges Puzzleteil.
Was aber bereits gilt: Die überarbeitete Produkthaftungsrichtlinie der EU bezieht ausdrücklich Software und KI-Systeme mit ein. Wenn euch ein fehlerhaftes KI-Produkt schädigt, könnt ihr grundsätzlich den Hersteller in Anspruch nehmen – ähnlich wie bei einem defekten Toaster. Die Mitgliedstaaten müssen die Richtlinie bis Ende 2026 in nationales Recht umsetzen.
Daneben greifen klassische deutsche Rechtsinstrumente: Vertragsrecht bei kostenpflichtigen KI-Diensten, Deliktsrecht bei Schäden durch Dritte, DSGVO bei Datenschutzverstößen. Wer also durch eine falsche KI-Auskunft einer Bank einen Kredit nicht bekommt, kann sich auf bestehende Verbraucherschutzgesetze stützen – auch ohne spezielles KI-Haftungsgesetz.
Verbraucherschutz KI: Welche Rechte habt ihr jetzt?
Der AI Act stärkt eure Position als Nutzer in mehreren Punkten. Zum einen müsst ihr informiert werden, wenn ihr mit einer KI interagiert. Ein Chatbot muss sich also als solcher zu erkennen geben. Auch Deepfakes und KI-generierte Inhalte müssen gekennzeichnet werden – das soll euch helfen, manipulierte Medien zu erkennen.
Bei Hochrisiko-KI – etwa wenn ein Algorithmus über eure Bewerbung, eure Kreditwürdigkeit oder eure Sozialleistung mitentscheidet – habt ihr künftig das Recht auf eine Erklärung. Ihr könnt verlangen, dass euch nachvollziehbar gemacht wird, wie die Entscheidung zustande kam. Außerdem dürft ihr bei betroffenen Behörden und Anbietern Beschwerde einlegen.
In Deutschland wird die Bundesnetzagentur voraussichtlich eine zentrale Rolle bei der Aufsicht übernehmen. Auch die Datenschutzbehörden bleiben zuständig, soweit es um personenbezogene Daten geht.
Checkliste: Eure Rechte bei KI-Anwendungen durchsetzen
Theorie ist schön, Praxis ist besser. Diese Punkte solltet ihr beherzigen, wenn ihr KI-Dienste nutzt oder von KI-Entscheidungen betroffen seid:
- Dokumentiert KI-Interaktionen: Screenshots von Chatbot-Antworten, E-Mails mit automatisierten Entscheidungen, Zeitstempel – das ist eure Beweisgrundlage
- Fragt nach: Bei automatisierten Entscheidungen habt ihr nach DSGVO und AI Act ein Recht auf Auskunft und Erklärung. Nutzt es
- Prüft die AGB: Viele KI-Dienste schließen Haftung weitgehend aus – manche dieser Klauseln sind in Deutschland unwirksam
- Keine sensiblen Daten in öffentliche KI-Tools: Gesundheitsdaten, Finanzen, Geschäftsgeheimnisse gehören nicht in ChatGPT & Co.
- Bei Schäden: Verbraucherzentrale einschalten: Die helfen kostenlos bei der Einschätzung eurer Ansprüche
- Kennzeichnungspflicht einfordern: Wenn ihr KI-generierte Inhalte ohne Hinweis entdeckt, könnt ihr das melden
Besonders wichtig für Selbstständige und kleine Unternehmen: Wer KI-Tools im Geschäftsbetrieb einsetzt, wird unter Umständen selbst zum „Betreiber“ im Sinne des AI Act – mit eigenen Pflichten. Wer etwa einen KI-Bewerbungsfilter nutzt, muss sich um Transparenz, Aufsicht und Dokumentation kümmern. Hier lohnt sich rechtliche Beratung.
KI-Gesetz Deutschland: Die wichtigsten Änderungen
Der EU AI Act ist ein Meilenstein – aber kein Wundermittel. Er bringt klare Spielregeln für Anbieter, mehr Transparenz und ein Stück Verbraucherschutz. Gleichzeitig bleiben bei der konkreten Haftung Lücken, solange die zurückgezogene KI-Haftungsrichtlinie nicht ersetzt wird.
Für euch heißt das: Verlasst euch nicht blind auf KI – und kennt eure Rechte. Wenn ein KI-System euch schädigt, gibt es bereits heute belastbare Wege, dagegen vorzugehen. Die kommenden Monate werden zeigen, wie Aufsichtsbehörden und Gerichte die neuen Regeln auslegen. Wer als Nutzer aufmerksam bleibt, dokumentiert und nachfragt, ist klar im Vorteil.
Und wer KI einsetzt, sollte spätestens jetzt prüfen, ob das eigene Setup den neuen Anforderungen standhält.
