Folge 80 – Chatbots und Haftung | Wer steht für KI‑Antworten gerade?

0:01 Viele kleine und mittlere Unternehmen nutzen inzwischen Chatbots- und KI Tools für den Kundenservice, für E-Mails, für Terminabfragen. Schnell, praktisch und oft ohne große Vorbereitung! Was passiert eigentlich wenn ein Chatbot was Falsches sagt? Was wenn er Zusagen macht die niemand geprüft hat oder wenn mitarbeitende KI Antworten einfach übernehmen?

0:24 Wer trägt dann die Verantwortung und wer haftet im Zweifel? Herzlich willkommen zu einer neuen Folge von DigiNews auf die Orn, dem Podcast des Mittelstand Digitalzentrums Wertnetzwerke. Mein Name ist Martina Schähberg und wir sprechen heute über Haftung und Verantwortung beim Einsatz von Chatbots im Mittelstand.

0:45 Meine Gästein heute ist Ines Takke, Vormittelstand Digitalzentrum Chemnitz. Sie beschäftigt sich mit Innovations- und Technikrecht und begleitet kleine und mittlere Unternehmen dabei, KI rechtssicher im Alltag einzusetzen. Hallo Ines! Schön dass du heute da bist. Hallo, es freut mich auf jeden Fall hier zu sein.

1:13 Ihnen viele Unternehmen sagen ja das ist doch nur ein Tool der Chatbot, der hilft halt ein bisschen. du sagst sobald dein Chatbot mit Kundinnen kommuniziert sind wir eigentlich schon mitten in der Verantwortung. warum ist der Einsatz von Chatbots aus rechtlicher Sicht gar kein harmloses Technikthema?

1:31 Ja also bevor ich zu der Frage komme wollte ich kurz noch mal natürlich mein kleines Disclaimer los werden. Dieser Podcast ist natürlich ausschließlich zur allgemeinen Information und stellt keine Rechtsberatung darab. Wir besprechen jetzt so ein bisschen vereinfacht und verkürzt verschiedene rechtliche Themen und Fälle, vor allen Dingen auch Fälle die schon von deutschen Gerichten zum Thema Haftung und Chatbots entschieden worden sind.

1:53 Trotzdem ist eine rechtliche Bewertung immer vom konkreten Einzelfall abhängig und daher ersetzt dieser Podcast auf gar keinen Fall die individuelle Rechtsberatsung. Danke dir auch nochmal für die Einordnung, also das ist total wichtig. Wir geben hier Orientierung. aber wenn wir noch mal auf die Frage zu sprechen kommen, warum ist der Einsatz von Chatbots aus rechtlicher Sicht kein harmloses Technikthema?

2:16 Also grundsätzlich würde ich sagen, es ist natürlich der Einsatz vom Chatbot immer auch ein Technikthema und man soll ja auch nichts übertramatisieren. Aber es ist beim Einsatz von IT insbesondere auch Beim Einsatz von künstlicher Intelligenz und Chatbots, die dann auch nach außen kommunizieren können unter Umständen.

2:34 Immer wichtig das Rechtliche mitzudenken! Und wenn wir jetzt mal ganz konkret direkt in den Fall einsteigen, euren Workshops arbeitet ihr ja mit realen Beispielen aus der Rechtsprechung. Ein Fall ist zum Beispiel gewesen einen KI-gestützter Dienst veröffentlicht falsche Informationen über ein Unternehmen mit echten wirtschaftlichen Folgen.

2:55 Was ist in dem Fall genau passiert und warum war das auch haftungsrechtlich relevant? Obwohl es einen Haftungsausschluss gab? Ja, also das ist ein Fall der schon im Jahr zwanzig vierundzwanzig vor dem Landgericht Thiel stattgefunden hat. Und da ging es um einen Wirtschaftsinformationsdienst und er hat auf Anfrage von nutzenden Angaben zu Unternehmen veröffentlicht.

3:18 Dafür hat eine KI-Angabe aus öffentlichen Registern vollautomatisiert ausgewertet und diese Ergebnisse wurden dann interaktiv visualisiert und auf der Webseite dieses Wirtschaftsinformationsdienstes dargestellt. In den Nutzungsbedingungen hat sich der Wirtschaftsinformationsdienste auch als Urheber der Grafiken bezeichnet, Urhebern hier auf jeden Fall in Anführungszeichen denn das ist natürlich rechtlich so nicht ganz korrekt.

3:45 es gab dann auch noch was du ja schon angesprochen hast diese Nutzung bedingungen in denen dann auch ein Haftungsausschluss enthalten war die Angaben durch vollautomatisierte Analyse gewonnen werden und deswegen teils oder auch weitgehend fehlerbehaftet sein können. Es kam dann, auch tatsächlich so das Gericht hat festgestellt wegen unzulänglicher KI-Programmierung kam es dann zu einem Zuordnungsfehler und so kam es zur Veröffentlichung der falschen Angabe dass ein bestimmtes KMU wegen Vermögenslosigkeit aus dem Handelsregister gelöscht werden sollte.

4:22 Das ist natürlich, wenn das nicht stimmt eine schädigende Falschaussage die dann auch das Unternehmenspersönlichkeitsrecht betrifft. Und deswegen hat das Gericht hier auch entschieden dass auf jeden Fall dieser Wirtschaftsinformationsdienst diese Falschasage löschen muss ganz klar und solche Aussagen für die Zukunft zu unterlassen hat und die Abgabe einer strafbewertenden Unterlassungserklärung hier auch notwendig war.

4:45 Und das ist, glaube ich auch noch mal ein ganz wichtiger Punkt für KMU. Warum reicht es nicht aus einfach irgendwo hinzuschreiben? Keine Gewehr, KI kann Fehler machen! Also die AGB, also diesen Haftungsausschuss hat das Gericht hier gar nicht weiter thematisiert. Wir sehen in einem vorliegenden Fall dass zumindest für die Störerhaftung das gar keinen Unterschied macht.

5:07 wenn man stört oder an einer Störung beteiligt ist dann muss man diese Störungen abstellen. auch klauseln dazu dass KI-Mumalfehlermacht ändern das nicht. Zur Verantwortung für KI-Aussagen habe ich vielleicht auch noch einen anderen Fall mitgebracht, der jetzt gerade im Mai XXV vor dem Oberlandsgericht Hamm gelaufen ist.

5:26 Da ging es darum dass zugerechnet werden sollte so eine irreführende KI Chatbot Aussage über eine angebliche Facharztqualifikation. Das war ein Unternehmen das minimalinvasive Beautybehandlungen angeboten hat unter anderem eben auch über die Webseite. Die Geschäftsführer, die waren tatsächlich Ärzte.

5:47 Aber eben keine Fachärzte für plastische und ästhetische Chirurgie. Das und ähnliches hat aber der KI Chatbot mehrfach auf Fragen von Nutzenden behauptet, frei halluciniert. also diese Angaben waren auch nirgends wo in den Trainingsdaten enthalten sondern sie sind einfach vom Chatbot hier falsch behaupten worden.

6:08 Und da kam es dann auch zur Abmahnung durch einen Verbraucherverband wegen unzulässiger geschäftlicher Handlung. Da hat das Unternehmen nach der Abmahnung den Chatbot deaktiviert und später noch mal technisch verbessert auf verschiedene Art und Weise mit so einer Promtanweisungen, Ja, Fragen mit dem Begriff Facharzt.

6:29 Neutrale Antwort gegeben werden soll und es wurde nach gelagerter Keyword-Filter noch integriert der dann automatisch unterdrücken sollte eben insbesondere diesen Begriff Facharzt. Das Unternehmer hat aber keine Unterlassungserklärung abgegeben Und auch nicht die Abmahnkosten bezahlt. und deswegen kam's dann auch hier eben zu der Klage vor Gericht hatte das Unternehmen sich dann auf die Autonomie des Chatbots berufen vertreten, dass ja die Antwort des Chatbots eben keine geschäftliche Handlung des Unternehmens sei und das das angesprochene Publikum hier schon wisse.

7:06 Dass eben solche Chatbot-Antworten, Chatbot Aussagen durchaus fehleranfällig sind und dass es da eben zu Halluzination kommen kann. Und deswegen hat das Unternehmen gesagt würden sich Leute die mit Chatbots kommunizieren, also der Kunde, der Verbraucher. Der würde sich zusätzlich noch über die Webseite informieren und auf der Webseiten war ja immer klar, dass es sich eben nicht um Fachärzte handeln würde.

7:33 Das Gericht hat das aber anders gesehen tatsächlich! Das hat nämlich gesagt, so KI-Chatbot Antworten, die genießen in der Bevölkerung schon den Ruf als vertrauenswürdig. Sonst würden auch Unternehmen chatbots gar nicht einsetzen. Und das Gericht hat gesagt, die Betreiberin dieser Webseite also das Unternehmen haftet hier auf jeden Fall für die irreführenden Aussagen des Chatbots.

7:57 Die Antworten des ChatBots sind auch eine geschäftliche Handlung auf jeden fall des Unternehmens weil das Unternehmen diesen Chatbot als technisches Hilfmittel zur Kommunikation eben einsetzt. und das Unternehmen hat auch Einfluss über den Bot- und Steuerungsgewalt. Das hat man gesehen insbesondere daran, dass es ja möglich war im Nachgang noch diese Anpassungen vorzunehmen.

8:20 Jetzt mit Blick auf den ersten Fall. wenn wir nochmal zu diesem Wirtschaftsinformationsdienst zurückgehen da hatte der Wirtschaftsinformation Dienst eben vor dem Gericht Kiel gesagt das ist überhaupt gar keinen Einblick darin hat wie die KI zu diesen Ergebnissen kommt und Hatte das aber auf jeden Fall auch nicht geholfen vor Gericht?

8:44 Denn da hatte das Gericht gesagt, umso schlimmer wenn es keinerlei Einblick gibt dann bekräftigt das ja noch die Wiederholungsgefahr. Also ich würde sagen man kann auf jeden fall festhalten hier hilft einem weder aus der Haftung dass man Steuergewalt hat noch dass man keinen Einblick hat. Also können wir eigentlich zusammenfassen ein Chatbot ist kein neutraler Dritter und seine Aussagen wirken wie Aussagen des Unternehmens selbst.

9:14 Du hattest gerade schon das Thema Halluzination mal angesprochen, also das sind ja KI-Antworten die überzeugend klingen, die aber schlicht einfach falsch sind. Warum sind Halluzion rechtlich problematisch auch wenn sie gar nicht beabsichtigt sind? Ja bei Halluzination ... Auch Halluzinationen, die man dann technisch gar nicht verhindern kann, haftet man unter Umständen.

9:35 Und wenn wir noch mal an diesem Facharztfall denken, da hat das Unternehmen ja Abfrage Daten der Nutzer in einem eigenen Programm diesen Chatbot bearbeitet und deswegen kam es dann zu einer Zurechnung der Erarbeitung der Antworten zum Unternehmen. Für die Erarbeitungen der Antwort ist das Unternehmen also grundsätzlich verantwortlich.

9:58 Das Gericht hatte da auch noch angesprochen, dass das Unternehmen hätte vorhersehen können, dass der BOT zur Facharztfrage haluziniert. Allgemein kann man also sagen, die Betreiberinnen eines Accounts oder einer Webseite auf der Falschinformation veröffentlicht sind Die haftet häufig als Störer oder Störerin nach der sogenannten Störerhaftung.

10:21 Und Störe ist unabhängig von dem Verschulden jeder, der die Störung adäquatkausalsachter Jurist herbeiführt hat oder dessen Verhalten eine Beeinträchtigung befürchten lässt. Wichtig ist jeder Teil unabhängig von einem Verschulten. auf einer Absicht kommt es also eben grad nicht an in diesem Fall Okay.

10:42 Und jetzt noch mal ganz praktisch gefragt, welche Pflichten haben Unternehmen denn wenn ihr Chatbot falsche Tatsachen über Personen oder auch Unternehmen verbreitet? Natürlich zum einen grundsätzlich dass man eben KI Antworten nochmal überprüft. Außerdem sollte man natürlich, wenn man Chatbot einsetzt eine Risikoanalyse vor Einsatz durchführen in der dann festgestellt wird welche Risiken bestehen, welche Schäden eintreten können.

11:09 und hier spielt natürlich auch die KI-Kompetenz der Geschäftsführung ne wichtige Rolle damit eben erforderliche Prozesse und Verantwortlichkeiten vorher schon etabliert werden. An den Ergebnissen dieser Risikoanalyse sollte man dann natürlich die weiteren Maßnahmen orientieren. Wichtig ist, dass man da immer geeignete und angemessene Risikominderungsmaßnahmen für den speziellen Einzelfall ergreift.

11:33 Was ich jetzt daran spannend finde es geht eigentlich weniger um Perfektion sondern hier geht's wirklich um Sorgfalt. Viele Fehler entstehen ja nicht, weil die KI böse ist. Sondern weil die Menschen hier einfach zu viel zutrauen. Mitarbeiter übernehmen dann einfach KI-Antworten, kopieren Texte, schicken sie weiter... Wann haften denn auch Mitarbeitende und wann haftet am Ende immer das Unternehmen?

11:57 Also grundsätzlich haftet zunächst immer das Unternehm. Mitarbeiter haften dann insbesondere wenn ihnen eine Pflichtverletzung vorzuwerfen ist und wenn Sie diese Pflicht Verletzung auch vertreten müssen. Das aber immer auch nur im Verhältnis zum Arbeitgeber. Wenn wir uns da erstmal diesen Teil der Pflichtverletzung angucken, dann kann es zum einen zur Pflicht-Verletzung bei der Bedienung dieser KI Anwendungen also beim Prompt, beim Arbeitsauftrag kommen und zum anderen zur Pflichtverletzung bei der Überprüfung des Outputs.

12:28 Wenn man jetzt die Bedienungen erstmal anguckt, da schuldet der Arbeitnehmer die erwartbare Leistung eines Durchschnittsmenschen. Eine Pflicht Verletzung liegt also immer vor wenn Arbeitnehmer hinter dieser Erwartung zurückbleiben. wahrscheinlich häufiger denke ich ist sind so Pflichtverletzungen bei der Überprüfung des Outputs, also der KI-Inhalte und der KI Ergebnisse.

12:51 Und da schuldet der Arbeitnehmer das Erkennen vor allen Dingen von offensichtlichen Fehlern. Wichtig ist aber dass diese Pflicht auch durch den Arbeitgeber konkretisiert werden kann im Weg von Dienstanweisungen zum Beispiel über KI-Lightlinien in denen man dann festhalten kann, dass Inhalte eben nur übernommen werden dürfen wenn KI Aussagen tatsächlich verifizierbar sind.

13:14 Da ist aber dann natürlich wichtig, dass zum einen eben im Unternehmen es noch eine andere Informationsquelle gibt außer diesen KI Chatbot. Sodass es eine weitere Quelle gibt aus der Arbeitnehmer auch wirklich diese Aussagen verifizieren können und zum anderen natürlich das Arbeitszeit dafür zur Verfügung ist.

13:33 also Bearbeitungszeiten dürfen durch den KI Einsatz nicht so verkürzt werden Überprüfung der KI-Inhalte nicht mehr realistisch durchführbar ist, durch den Arbeitnehmer. Wenn man jetzt annimmt das dann so eine Pflichtverletzung vorliegt also zum Beispiel weil der Arbeitnehmer offensichtlich einen Fehler nicht erkannt hat und dann ist eben wie gesagt noch wichtig im Rahmen der Haftung dass er diese Pflicht Verletzung auch zu vertreten hat.

14:02 Ob das der Fall ist oder nicht, muss grundsätzlich im Verhältnis vom Arbeitgeber und Arbeitnehmer immer den Arbeitgebern auch noch mal darlegen. Und wenn er das eben dargelegt hat und auch beweisen kann, dann greift die Rechtsprechung zum innerbetrieblichen Schadensausgleich. Nach der haftet der Arbeitnehmer nur bei Vorsatz- und Groberfahrlässigkeit voll also nur, wenn er beispielsweise die Pflichtverletzung mit Absicht begangen hat Oder wenn ein Grupp fahrlässig gehandelt hat, also die im Verkehr erforderliche Sorgfalt in einem ungewöhnlich hohen Grad verletzt hat und außer Acht gelassen hat was in der Situation wirklich jedem hätte einleuchten müssen.

14:42 Okay daraus ergibt sich ja eine ganz zentrale Frage für den Mittelstand. Warum sind KI-Leitlinien und klare Regeln nicht nur nice to have sondern wirklich haftungsrelevant? Kannst du das nochmal erklären? In KI-Lighting kann man natürlich zum einen Prozesse für das Monitoring von Chatbots und die Überprüfung von KI-Inhalten noch einmal festhalten, die dann auch mitarbeitenden Orientierungen geben.

15:05 Gerade auch was die verantwortungsvolle Verwendung von künstlicher Intelligenz angeht. Außerdem kann man dem Maßstab für die Sorgfalt festlegen. haben wir eben drüber gesprochen. Durch diese Anpassung des Sorgfaltsmaßstabs der Mitarbeitenden bei der Überprüfung von KI-Inhalten kann man eben auch auf die Risikolage des Chatbots nochmal genauer eingehen und in Verbindung mit der angefertigten Dokumentation über die Prüfprozesse, die man festgehalten hat, kann man dann eben auch den Nachweis der entsprechenden Sorgfalt führen.

15:38 Außerdem helfen solche Leitlinien natürlich ganz klassisch bei der Eindämmung von Schatten-KI, also das Mitarbeitende einfach beispielsweise private Accounts oder ähnliches verwenden ohne dass das im Unternehmen irgendjemand auf dem Schirm hat. Lass uns das zum Schluss nochmal ganz greifbar machen. viele kleine Unternehmen fragen sich ja wir wollen KI nutzen aber wir wollen halt auch... AI nutzen ohne Bauchschmerzen dabei zu haben.

16:03 Was sind jetzt aus deiner Sicht drei Dinge, die jedes kleine und mittlere Unternehmen beim Einsatz von Chatbots sofort als erstes regeln sollte? Also zuerst sollte man sich voreinsetztes Chatbotz denke ich Gedanken machen wofür man den genau verwenden will und welche Risiken mit diesem Einsatz verbunden sind Und dann sollte man darauf achten dass der Bot für den Einsatz zweck auch wirklich gut geeignet und ausreichend programmiert ist und Verantwortlichkeiten- und Prüfprozesse im Fall vom KI-Federn eingerichtet werden.

16:35 Wenn Mitarbeiter mit den Bot-Ergebnissen arbeiten, sollte man außerdem noch Unternehmensleitlinien festlegen in denen dann geregelt wird wie man mit den KI Ergebnissen sorgfältig umgeht. Und wenn wir jetzt als MiniCheck nochmal zusammen fassen welche Fragen sollte man sich stellen bevor ein Chatbot letztendlich live geht?

16:57 Ich würde sagen, erstens. Für welchen Zweck möchte ich den Bord einsetzen? Zweitens, welche Risiken sind mit dem Einsatz verbunden? und drittens habe ich alle Risiken ausreichend adressiert. Perfekt! Ines vielen Dank für die Einblicke und auch für die einordnung der echten Fälle. Vielen dank unseren Hörerinnen und Hörern.

17:19 was ich heute mitnehme KI-Spartzeit aber Verantwortung spart auch Ärger. Chatbots sind wirklich kein Selbstläufer. Sie brauchen Regeln, sie brauchen Zuständigkeiten und Menschen die hinschauen! Vielleicht ist die wichtigste Frage für KMU nicht welchen Chatbot setzen wir ein sondern wer steht eigentlich für seine Antworten ein?

17:42 Das Mittelstand Digitalzentrum Wertnetzwerke unterstützt ihr kostenfrei Anbieter neutral und praxisnah bei ihren Digitalisierungsvorhaben. Wenn Sie Fragen haben, schreiben sie uns gerne an geschäftsstelleetwertnetzwerke.de. Wir freuen uns von Ihnen zu hören! Noch ein kurzer Tipp am fünfundzwanzigsten August findet unser KI-Wissensaustausch statt Ein interaktiver praxisner KI Austausch für KMU in kleiner Gruppe mit Expertinnen.

18:11 Alle Infos dazu finden Sie auf wertnetzwerk.de und in unseren Shownotes. Das Mittelstand-Digitalzentrum Wertnetzwerke gehört zu Mittelstand Digital. Mit Mittelstand digital unterstützt das Bundesministerium für Wirtschaft und Energie die Digitalisierung in kleinen und mittleren Unternehmen und dem Handwerk.

18:33 Das Mittelstanddigital-Netzwerk bietet mit den Mittelstanddigitalzentren unter Initiative IT Sicherheit, in der Wirtschaft umfassende Unterstützung bei der Digitalisierung. Kleine und mittlere Unternehmen profitieren von konkreten Praxisbeispielen und passgenauen Anbietern neutralen Angebot zur Qualifikation und IT-Sicherheit.

18:53 Das Bundesministerium für Wirtschaft und Energie ermöglicht die kostenfreien Nutzungen der Angebote für Mittelstand digital. Weitere Informationen finden Sie unter mittelstand-digital.de.