EU AI Act & Regulierung
Ein KI-Chatbot ist rechtlich kein Dritter, sondern Ihr Werkzeug. Das OLG Hamm hat das im Mai 2026 klargestellt. Was das für Betreiber jedes KI-Chatbots bedeutet.
Der Betreiber haftet. Punkt. So hat das OLG Hamm am 12.05.2026 entschieden (Az. 4 UKl 3/25) – auch wenn die KI halluziniert, auch wenn der Chatbot ausschließlich mit korrekten Daten gefüttert wurde, auch wenn der Betreiber selbst nichts dafür kann. Der Senat hat klargestellt: Ein KI-Chatbot ist rechtlich kein Dritter, sondern ein Werkzeug des Unternehmens. Seine Aussagen sind dem Betreiber zuzurechnen. Das Urteil betrifft nicht nur die Klinik im konkreten Fall, sondern jede Organisation mit Chatbot – jede Behörde, jeden Shop, jede Beratungsfirma. Behauptet die KI auf Ihrer Webseite etwas Falsches über Ihr Angebot, Ihre Qualifikationen oder Ihre Preise, ist das nach § 5 UWG eine irreführende geschäftliche Handlung. Egal welches Modell, egal wie gut der Prompt. Dieser Beitrag erklärt den Fall, warum ein „besseres Modell" das Problem nicht löst, welche zweistufige Architektur heute die Mindestanforderung ist – und mit einer 11-Punkte-Checkliste, was Sie diese Woche noch prüfen sollten.
Rick und Nick, zwei Mediziner, bundesweit aus Beauty-TV-Sendungen bekannt, betrieben auf ihrer Klinik-Webseite einen KI-Chatbot. Jemand fragte ihn: „Welche Facharztausbildung haben Rick und Nick eigentlich?" Die KI antwortete: „Fachärzte für plastische und ästhetische Chirurgie" beziehungsweise „Fachärzte für ästhetische Medizin." Klingt seriös. Nur: Diese Facharztausbildungen gibt es in Deutschland gar nicht.
Die Verbraucherzentrale NRW klagte. Das OLG Hamm entschied: Der Betreiber haftet, unabhängig davon, ob er die Halluzination verschuldet hat. Die Revision zum BGH ist zugelassen, bis zu einer höchstrichterlichen Klärung gilt das Urteil aber als Wegmarke. Es ist zudem nicht der erste Fall dieser Art: Das LG Hamburg hatte Ende 2025 im sogenannten Grok-Fall ähnlich entschieden (Az. 324 O 461/25).
Zur Einordnung: Das Urteil betrifft nicht nur Ärzte oder Kliniken. Es trifft jede Organisation mit Chatbot. Jede Behörde. Jeden Shop. Jede Beratungsfirma. Wenn die KI auf Ihrer Webseite etwas Falsches über Ihr Angebot, Ihre Qualifikationen oder Ihre Preise behauptet, ist das nach § 5 UWG eine irreführende geschäftliche Handlung – egal welches Modell, egal wie gut der Prompt geschrieben ist. Die Vorschrift kennt keine Ausnahme für „die KI hat sich das ausgedacht, nicht wir". Genau das hat das OLG Hamm jetzt gerichtsfest gemacht: Was der Chatbot sagt, sagt rechtlich das Unternehmen.
Damit verschiebt sich auch die Beweislast im Streitfall. Bislang argumentierten viele Betreiber, ein Halluzinations-Fehler der KI sei kein eigenes Verschulden. Diese Verteidigungslinie trägt seit dem 12.05.2026 nicht mehr. Wer einen Chatbot betreibt, trägt die volle Verantwortung für dessen Aussagen – so, als hätte ein Mitarbeitender sie getätigt.
Es spielt keine Rolle, ob Sie GPT-5.5, Opus 4.7 oder ein Open-Source-Modell einsetzen. Es spielt keine Rolle, wie gut Ihr Systemprompt geschrieben ist. Es spielt keine Rolle, ob im Hintergrund eine RAG-Vektordatenbank läuft oder wie sauber Sie das System gefüttert haben. KI-Systeme halluzinieren strukturell. Und für jede Halluzination sind Sie seit diesem Urteil haftbar.
Das ist der Sargnagel für die naive „Wir packen einfach ChatGPT auf die Webseite"-Architektur, die in den letzten zwei Jahren in fast jeder zweiten Mittelstands-Site verbaut wurde. Ganz ehrlich: Wer heute noch einen ungeprüften Chatbot live hat, sitzt auf einem Risiko, das er sich selbst nicht beziffern kann.
Ein einzelnes KI-System reicht nicht mehr aus. Was Sie brauchen, ist eine zweistufige Architektur. Ebene 1 generiert die Antwort auf die Nutzerfrage. Ebene 2 prüft diese Antwort, bevor sie rausgeht. Diese zweite KI-Instanz stellt drei Fragen an die Antwort der ersten:
Ist die Antwort sauber, geht sie an den Nutzer raus. Ist sie unsauber, wird sie neu generiert, mit dem Hinweis, was zu vermeiden ist. Das ist teurer, langsamer und administrativ deutlich anspruchsvoller als ein einfacher Chatbot. Aber es ist die Mindestanforderung, wenn Sie heute einen KI-Chatbot auf Ihrer Webseite lassen wollen. Wie ein solches Setup konkret aufgebaut wird und was es kostet, zeige ich im Beitrag KI-Chatbot für Unternehmen erstellen.
Die ersten fünf Punkte sind nicht verhandelbar. Wenn Sie schon einen Chatbot live haben: Gehen Sie die Liste heute noch durch. Sind drei oder mehr Punkte rot, gehört das Ding vom Netz, bis Sie nachgebessert haben.
Auf stefanai.de finden Sie keinen Chatbot. Aus genau diesem Grund. Ich will keine Screenshots auf LinkedIn sehen, in denen mein Chatbot etwas behauptet, was meinem Geschäft schadet – und ehrlich gesagt, meine Webseite braucht ihn nicht. In sehr vielen Fällen gibt es bessere, günstigere, sicherere Alternativen: ein gut strukturierter FAQ-Bereich, gerne KI-redaktionell erstellt, aber von Menschen freigegeben; eine bessere Navigation, die Nutzer schneller zum Ziel bringt; ein konkretes Kontaktformular mit klaren Auswahloptionen statt Plauder-Chat. Diese Lösungen sind sofort einsatzbereit, juristisch unkritisch und oft effektiver als ein Chatbot, der den Nutzer im Kreis schickt. Was genau dafürspricht, einen Chatbot zu bauen, und wann ein FAQ-Bereich die bessere Wahl ist, rechne ich im Beitrag KI-Chatbot für Unternehmen erstellen im Detail durch.
Für Unternehmen mit hohem Routine-Kommunikationsaufkommen – Versicherer, Shops, große Behörden – kann sich ein Chatbot weiterhin lohnen. Dann aber nur zweistufig abgesichert, und budgetieren Sie spürbar mehr ein, als der initiale Angebotspreis vermuten lässt. Für Mittelstand, Beratung und Fachpraxen lautet die ehrliche Antwort meist: eher nein. Erst FAQ und Navigation aufräumen, dann über einen Chatbot nachdenken. Für alle, die schon einen Chatbot live haben, gilt: heute noch die Checkliste durchgehen.
Positives Beispiel gibt es auch: Die Stadt Bonn macht es vorbildlich vor. Ich habe deren Chatbot sehr gründlich versucht, in Quatschantworten zu provozieren – er ist nicht eingeknickt. Sauber gebaut. Aber: Sowas ist nicht zum Nulltarif zu haben. Wer beim Aufbau seiner KI-Infrastruktur ohnehin über Datenschutz und Unabhängigkeit von US-Anbietern nachdenkt, findet im Beitrag DSGVO-konforme KI als ChatGPT-Alternative die passende Ergänzung.
Ich bin kein Jurist, sondern Praktiker, der seit Jahren KI-Projekte in Unternehmen und Verwaltung begleitet. Meine Einordnung ersetzt keine Rechtsberatung im Einzelfall, gerade wenn Ihr Chatbot in einem regulierten Bereich wie Medizin, Finanzen oder Recht unterwegs ist. Was ich aus der Praxis aber klar sagen kann: Die Zeiten, in denen ein Chatbot als reines Marketing-Gimmick ohne Aufsicht laufen durfte, sind mit diesem Urteil endgültig vorbei.
Haftet mein Unternehmen wirklich auch, wenn die KI ohne mein Zutun halluziniert? Ja. Das OLG Hamm hat entschieden, dass ein KI-Chatbot rechtlich kein Dritter ist, sondern ein Werkzeug des Unternehmens. Seine Aussagen werden dem Betreiber zugerechnet, unabhängig vom Verschulden.
Reicht ein besseres oder teureres KI-Modell, um das Risiko zu senken? Nein. Halluzinationen sind ein strukturelles Merkmal aller aktuellen Sprachmodelle, unabhängig vom Anbieter. Nur eine zweite, prüfende KI-Instanz reduziert das Risiko spürbar.
Ist das Urteil des OLG Hamm bereits rechtskräftig? Die Revision zum BGH ist zugelassen. Bis zu einer höchstrichterlichen Klärung gilt das Urteil als Wegmarke, an der sich auch das LG Hamburg mit dem Grok-Fall bereits orientiert hat.
Was passiert, wenn ich meinen Chatbot einfach abschalte? Rechtlich der sicherste Weg, wenn eine zweistufige Absicherung aktuell nicht leistbar ist. Ich empfehle das explizit, wenn bei der 11-Punkte-Checkliste drei oder mehr Punkte rot sind.
Betrifft das Urteil nur Gesundheitsanbieter? Nein. § 5 UWG gilt branchenübergreifend. Jede irreführende geschäftliche Handlung durch einen Chatbot – zu Qualifikationen, Preisen, Verfügbarkeiten oder Leistungen – ist betroffen, egal ob Behörde, Shop oder Beratungsfirma.
Stefan Müller ist Referent, Berater und Software-Entwickler bei StefanAI – Research & Development. Er unterstützt Unternehmen und öffentliche Einrichtungen beim sicheren und produktiven Einsatz von KI. www.stefanai.de
"Ich schicke regelmäßig kostenlose Updates zum Thema KI, Sicherheit und Anwendungen."
Wählen Sie direkt einen freien Slot in meinem Kalender.
Schreiben Sie mir Ihr Anliegen — ich melde mich zeitnah.
