Wer einen KI-Chatbot auf seiner Website einsetzt, sollte sich besser nicht darauf verlassen, dass die Maschine schon das Richtige sagen wird. Ein aktuelles Urteil eines Oberlandesgerichts macht deutlich: Spuckt der Bot Unsinn aus, haftet das Unternehmen dafür — und zwar so, als hätte ein Mitarbeiter die Aussage selbst getroffen.
Im konkreten Fall hatte der Chatbot einer Klinik falsche Qualifikationen von Ärzten ausgegeben. Das Gericht bewertete das als unzulässige geschäftliche Handlung. Für alle, die KI-Assistenten auf ihren Seiten betreiben, ist das ein deutliches Warnsignal. Ich erkläre euch, was das Urteil bedeutet, warum es wegweisend ist und worauf ihr jetzt achten solltet.
Was ist passiert? Der Klinik-Chatbot-Fall im Detail
Eine Klinik hatte auf ihrer Website einen KI-Chatbot eingebunden, der Patientenanfragen beantworten sollte. Klingt nach Service, ging aber schief: Der Bot machte falsche Angaben zu den Qualifikationen einzelner Ärzte. Genau das wurde rechtlich relevant — denn falsche Qualifikationsangaben im medizinischen Bereich können Patienten in die Irre führen und Vertrauen erschleichen, das so nicht gerechtfertigt ist.
Das zuständige Oberlandesgericht stufte die Chatbot-Aussagen als unzulässige geschäftliche Handlung nach dem Gesetz gegen den unlauteren Wettbewerb (UWG) ein. Die Argumentation: Wer einen Chatbot als Kommunikationskanal einsetzt, übernimmt Verantwortung für dessen Aussagen. Es spielt keine Rolle, ob ein Mensch die Information geprüft hat oder ob die KI sie autonom „halluziniert“ hat.
Damit reiht sich das Urteil in eine Linie ein, die Gerichte international zunehmend einschlagen. Bereits in anderen Ländern mussten Unternehmen für Fehlauskünfte ihrer Chatbots geradestehen — etwa bei falschen Preisangaben oder erfundenen Rückerstattungsregeln. Die Botschaft ist überall dieselbe: Der Chatbot ist juristisch verlängerter Arm des Unternehmens, kein eigenständiger Akteur, auf den man die Schuld abwälzen könnte.
Warum ist das KI-Urteil so wichtig für euch?
Bislang konnten sich Unternehmen bei Chatbot-Pannen gern hinter Formulierungen wie „Das war die KI, nicht wir“ verstecken. Diese Ausrede zieht nicht mehr. Das Gericht stellt klar: Wer eine Technologie einsetzt, trägt auch das Risiko ihrer Fehlfunktion. Das ist juristisch konsequent — und für die Praxis enorm wichtig.
Denn KI-Chatbots auf Basis großer Sprachmodelle sind notorisch anfällig für sogenannte Halluzinationen. Sie erfinden Fakten, kombinieren Informationen falsch oder geben veraltete Daten als aktuell aus. Wer einen solchen Bot ungefiltert auf seine Kundschaft loslässt, riskiert nicht nur den Imageschaden, sondern jetzt auch handfeste rechtliche Konsequenzen: Abmahnungen, Unterlassungsansprüche, Schadensersatzforderungen.
Für Verbraucher ist das eine gute Nachricht. Sie müssen sich nicht ärgern lassen, wenn eine KI ihnen Blödsinn erzählt — sie können sich auf die Aussagen verlassen oder zumindest Konsequenzen einfordern, wenn Schaden entsteht. Gleichzeitig sendet das Urteil ein Signal an den gesamten Markt: KI ist kein rechtsfreier Raum.
Was müssen Unternehmen bei KI-Einsatz beachten?
Wenn ihr selbst einen Chatbot betreibt oder den Einsatz plant, solltet ihr ein paar Dinge dringend überprüfen. Es geht nicht darum, KI komplett zu meiden — sondern darum, sie verantwortungsvoll einzusetzen.
- Themen begrenzen: Lasst den Bot nur über Bereiche sprechen, in denen ihr die Datenbasis kontrolliert. Keine offenen Fragen zu Personen, Qualifikationen oder rechtlich heiklen Themen.
- Quellen anbinden: Nutzt Retrieval-Augmented-Generation-Ansätze, bei denen der Bot auf verifizierte interne Dokumente zugreift, statt frei zu generieren.
- Disclaimer einbauen: Weist transparent darauf hin, dass es sich um einen KI-Assistenten handelt und Auskünfte keine rechtsverbindliche Beratung ersetzen.
- Logging und Monitoring: Protokolliert die Antworten und prüft sie stichprobenartig. So entdeckt ihr Probleme, bevor sie zum Fall werden.
- Eskalationspfad: Bei sensiblen Fragen sollte der Bot an einen Menschen übergeben — nicht selbst antworten.
Besonders heikel sind Branchen mit hohem Vertrauensbedarf: Medizin, Recht, Finanzen, Bildung. Hier können Falschaussagen direkten Schaden anrichten. Ein Chatbot, der einem Patienten die falsche Facharztrichtung empfiehlt oder erfundene Spezialisierungen behauptet, ist nicht nur ein PR-Desaster — er ist eine juristische Zeitbombe.
Künstliche Intelligenz Gesetz: Die Rechtslage in Deutschland
Das Urteil passt in das größere Bild der europäischen KI-Regulierung. Mit dem EU AI Act kommt ohnehin ein Rechtsrahmen, der KI-Anwendungen je nach Risikoklasse strenger reguliert. Auch die DSGVO spielt mit, wenn Chatbots personenbezogene Daten verarbeiten oder ausgeben.
Deutsche Gerichte zeigen mit Entscheidungen wie dieser, dass sie bestehendes Recht — etwa das UWG — auch auf KI-Sachverhalte konsequent anwenden. Es braucht also gar keine völlig neuen Gesetze, um Unternehmen in die Verantwortung zu nehmen. Das Wettbewerbs- und Verbraucherschutzrecht reicht oft aus. Wer als Anbieter glaubt, KI sei eine rechtliche Grauzone, dürfte zunehmend Schiffbruch erleiden.
Künstliche Intelligenz Gesetz: Was kommt jetzt?
Das Klinik-Urteil ist mehr als ein Einzelfall. Es markiert einen Punkt, an dem die rechtliche Realität bei der KI-Praxis ankommt. Unternehmen werden umdenken müssen — weg vom „Hauptsache, wir haben auch einen Bot“-Aktionismus hin zu durchdachten, abgesicherten KI-Implementierungen.
Für euch als Nutzer heißt das: Ihr habt Rechte, wenn ein Chatbot euch falsche Auskünfte gibt. Dokumentiert solche Fälle — Screenshots, Datum, Uhrzeit — und scheut euch nicht, sie zu reklamieren. Für Unternehmer heißt es: KI ist ein mächtiges Werkzeug, aber kein Spielzeug. Wer sie produktiv einsetzen will, muss in Qualitätssicherung investieren.
Die Zeiten, in denen man einen Bot einfach „mal so“ auf Kunden loslässt, sind vorbei. Und das ist auch gut so — denn nur wenn KI verlässlich funktioniert, kann sie langfristig das Vertrauen gewinnen, das sie für ihren Erfolg braucht.
