Kann KI Ethik?

0:14Prof. Dr. Volker Skwarek Moin Moin und herzlich willkommen zum Podcast die Sicherheitslücke. Aktuell sind Cyberangriffe mithilfe von KI-Tools und zwar insbesondere agentischen LLMs ein bestimmtes Thema, was die Intensität und auch die Komplexität und Umfang und Geschwindigkeit der Angriffe angeht. Und daher wollen wir uns in den nächsten Folgen, also erstmal mit Fokus auf dieser, aber wahrscheinlich dann auch noch ein paar weitere Folgen, mal technische und auch ethische Überlegungen dazu machen.

0:43Prof. Dr. Volker Skwarek Insbesondere in dieser Ausgabe befassen wir uns eher mit technikphilosophischen Gedanken. Das heißt, daraus könnt ihr jetzt nicht als Hörerinnen und Hörer unmittelbar ableiten, wie ihr irgendwelchen Cyberrisiken begegnet, sondern es geht eigentlich vielmehr um die Frage, kann, KI eigentlich ethisch handeln oder kann sie Ethik?

1:07Prof. Dr. Volker Skwarek Und wir, das sind wie immer Volker Skwarek von der HW Hamburg und.

1:12Monina Schwarz Monina Schwarz vom LSI Bayern.

1:14Prof. Dr. Volker Skwarek Ja, und leider heute nicht mit Ingo. Deswegen grüßen wir hier aus der Ferne noch mal den Dritten in unserer Runde, Ingo Timm von der Uni Trier und dem DFKI, der sich im Moment aufgrund einer sehr, sehr großen Anzahl von Forschungsprojekten für ein paar Ausgaben voll auf seinen Institutsbetrieb fokussieren will.

1:33Prof. Dr. Volker Skwarek Und ja, das finden wir einerseits natürlich schade, weil Ingo gerade, was solche philosophischen Themen angeht, immer ganz vorne mit dabei ist, aber auch vollkommen verständlich. Denn ja, diese Projekte und die Mitarbeitenden und die ganzen Promotionen, die da dran hängen, haben natürlich auch ganz, ganz großen Vorrang.

1:54Prof. Dr. Volker Skwarek Also Ingo, wir hoffen dich hier bald mal wieder in unserer Runde begrüßen zu dürfen. Uns hat ganz stark motiviert für diese Ausgabe, dass es in den letzten Monaten nahezu im Wochenrhythmus irgendwelche Pressemeldungen zu wie schlimm doch KI ist, gegeben hat. Und das Blöde ist allerdings, es war nicht die eine Pressemeldung, die von irgendwie 70 Medien auseinandergenommen wird und extrapoliert.

2:23Prof. Dr. Volker Skwarek Nein, in diesem Fall sind es tatsächlich sich steigernde Pressemeldungen. Und ich bringe hier nur mal so ein paar Beispiele. Am 17.06. Anthopic sperrt den Zugang zum Top-KI-Modell Faible. Ja, aufgrund von Cyber-Vorfällen und einfach. Was man damit alles tun kann. Und das war ja noch auf Anordnung der US-Regierung.

2:50Prof. Dr. Volker Skwarek Es ging ja eigentlich um Exportverbot. Und dadurch, dass aber die Nutzerursprünge, die Nutzerländer. Oder sonst was nicht klar zu definieren sind, man kann sich auch schlicht und einfach über einen VPN dann da einloggen und sagen, man kommt zwar aus dem Land A, aber ist dann im Land B oder sowas. Und deswegen hat Antroffic einfach mal komplett Fable gesperrt für eine Zeit.

3:15Prof. Dr. Volker Skwarek Dann gab es am 30.06. einige Inzidenz, dass auch ein Modell dann bei Antraffic ausgebrochen ist. Und da hat man auch erst überlegt, Mensch, ist das eigentlich ein guter Marketing-Gag? Weil wie kann ich eigentlich besser, gerade bei anstehenden Börsengängen und sowas, meinen Unternehmenswert steigern, indem ich mal so tue, als hätte ich eine fürchterlich brutale KI.

3:40Prof. Dr. Volker Skwarek Und, naja, sie ist eigentlich gar nicht da, aber die Pressemeldung ist da. Und ja, wie das halt so mit Shareholder Value ist, der steigt natürlich unabhängig davon, ob es die Technologie wirklich gibt. War immer so ein Hin und Her und konnte auch nie wirklich dann belegt werden. Aber leider, leider geht es halt dann weiter mit diesen Meldungen, dass zum Beispiel ein Missbrauch von dem Antropic KI-System im September festgestellt wurde.

4:08Prof. Dr. Volker Skwarek Da gibt es auch einen ganz, ganz langen Cyber Report, dass Dinge ausprobiert wurden und zwar erfolgreich ausprobiert wurden, wie Cyber Operations direkt aus den Modellen heraus oder das, Conventional Weapons steht hier oder auch biologische Waffen aus dem KI-System heraus entwickelt wurden. Da waren dann auch fünf Länder oder es gibt um sieben Vorfelder irgendwie aus fünf Ländern.

4:35Prof. Dr. Volker Skwarek Pressemeldung verlinken wir euch von Anthropic. Und das ist ja schon etwas, ich glaube, das veröffentlicht man nicht einfach so aus Spaß. Dann am 11.9. konkret Entropic blockiert Biowaffenrecherchen, da wurde also ganz direkt, das Ganze nachvollzogen und dann wurde dann auch der Stecker gezogen aus dem Modell, beziehungsweise für diesen Nutzer mit den Anfragen.

5:02Prof. Dr. Volker Skwarek Und ganz plötzlich, drei Tage später, wollten dann die KI-Bosse mehr Regulierung. Und es ist ja schon mal ganz interessant, wenn die Leute, die das System, die Systeme entwickeln, diese Regulierung dann auch einfordern. Das heißt, sie haben Angst, sich selbst zu regulieren und fordern externe Regulierung.

5:23Prof. Dr. Volker Skwarek Und möglicherweise, ein Schelm sei, wer Schlimmes tankt, steht dahinter aber auch einfach die Tatsache, dass wenn ich die Regulierung definiere mit den anderen KI-Bossen, dann haben andere Unternehmen, die es nicht regulieren, natürlich noch viel, viel schwerer, in den KI-Markt reinzukommen. Also hier auch wieder die Frage, hatten die vielleicht schon eine Regulierung in der Schublade liegen, die sie untereinander auch abgestimmt haben und wollten sie quasi in ein offizielles, legislatives Verfahren bringen, um andere vom Markt abzuhalten, oder haben sie wirklich Angst vor sich selbst gehabt und, wollten sie diese KI, die sie bauen, einschränken.

6:01Prof. Dr. Volker Skwarek Naja und dann jetzt noch zwei weitere Meldungen. Erster Hack eine Regierungsbehörde durch KI am 24.09. Und dort wurde schlicht und einfach ein Suchauftrag angeblich in eine KI gegeben, australische Medizindaten, Statistiken einfach zusammenzusammeln. Ja und eine Statistik liegt halt auch in der Datenbank einer Regierungsbehörde von Australien und diese Datenbank wurde einfach mal gehackt, um an die Daten zu kommen.

6:32Prof. Dr. Volker Skwarek Eigentlich nur auftragsgemäß und wir kommen dann später auch nochmal auf dieses, Boströmen-Paperclip-Theorem, das genau solche Sachen abdeckt. Die KI hat eigentlich nur gemacht, was sie machen sollte, nämlich Daten zusammen zu sammeln. Und wie sie an die Daten kommt, ob sie nun eine Datenbank ausliest oder sie sich zugänglich macht, ist der KI erstmal egal.

6:54Prof. Dr. Volker Skwarek So, das war am 24.09. und am 30.09. gab es dann noch den amerikanischen Präsidenten namens Trump, der sagt... Das lag jetzt schon mal ein bisschen flapsig, weil da kommt so ein bisschen Resignation durch. Auch das macht ihr schon. Also Trump setzt bei KI auf die Selbstkontrolle der Tech-Branche. Ich wiederhole nochmal, diese Tech-Branche, die eben noch, also zwei Wochen vorher, eine Regulation durch Gesetzgebungsverfahren erbeten hat.

7:25Prof. Dr. Volker Skwarek Und ja, das Ganze kann ich jetzt ein bisschen offen lassen an Kommentaren, aber bevor ich jetzt stundenlang weiterrede, nehme ich doch einfach mal Monina hier nochmal mit ins Boot und frage sie, du, wenn wir über KI reden, worüber reden wir jetzt konkret und liebe Monina, wie würdest du denn Ethik in eine KI reinbringen?

7:54Monina Schwarz Ich fange erst mal an mit, worüber reden wir, wenn wir über KI sprechen. In diesen Artikeln ist das oft relativ emotional beschrieben, die KI, diese eine Instanz, die KI, die denkt und sich hier unrechtmäßig verhält. Das ist aber eigentlich viel zu vermenschlich, wie du schon gesagt hast, eine KI macht, was man ihr sagt. Und das ist auch nicht nur die KI, sondern das sind im Prinzip unterschiedliche Modelle. Wir kennen ein paar große.

8:20Monina Schwarz Wir kennen CLOAT, ChatGPT, Stable Diffusion, Mistral, so als ein paar Beispiele zu nennen, die man schon oft gehört hat, die man oft sieht. Und man weiß so ganz grob, was die tun. Die haben alle so ein bisschen ihren Schwerpunkt. Gerade ChatGPT und Load benutzt man eigentlich, sie suggerieren einem, dass sie alles mögliche auf einmal können. Sie können auch Bilder generieren und können programmieren und können mit einem reden.

8:44Monina Schwarz Aber letztendlich, was sie im Kern erstmal sind, das sind KI-Modelle und zwar Large Language Models. Hat man auch schon mal gehört. LLM ist die Abkürzung. Aber auch hier wieder, was bedeutet denn eigentlich ein LLM? Das sind im Prinzip, wie es auch schon im Namen steckt, sind das erstmal Sprachmodelle.

9:01Monina Schwarz Und zwar grob gesprochen oder abstrakt gesprochen sind das Wortvorhersagemodelle. Da werden Wörter genommen oder Satzteile und die werden nach einer statistischen Wahrscheinlichkeit und nach Gewichten aneinandergereiht und werden dann als Antwort einem letztendlich gegeben. Das heißt, wir haben hier.

9:19Monina Schwarz Keine menschengleiche Intelligenz, die mit einem redet, sondern es ist eine Aneinanderreihung von Worten aufgrund von irgendwelchen Werten oder Gewichten, die gesetzt worden sind.

9:27Prof. Dr. Volker Skwarek Aber da habe ich mal eine Frage. Machen wir das nicht eigentlich genauso? Also zumindest fühlt sich es an als Mensch, dass wir es genauso täten, oder?

9:37Monina Schwarz Den Part würde ich dir dann gleich nochmal geben mit dem, wie kommt denn ein Mensch überhaupt zu Entscheidungen in KI. Wir können ihn gerne auch direkt ansprechen. Da kommt ja nochmal viel mit rein. Als erstes müssen wir eigentlich dazu verstehen, wie funktioniert dieses Verarbeiten von so einem Input, der in so eine KI reinkommt, was passiert damit und wie kommt dann der Output zustande.

9:59Monina Schwarz Also LLM, Large Language Model, aber da fehlen irgendwie noch diese Zwischenstritte. Um da jetzt ein bisschen weiter das Ganze aufzubrechen und weiter reinzugehen, so diese Modelle, die wir haben, sind Generative Pre-Train Transformer, kurz GPT. Kommt einem möglicherweise bekannt vor aus dem Namen Chat-GPT.

10:16Monina Schwarz Das weist darauf hin, dass das irgendwie da mit drinnen steckt. Wir haben da diese Transformer. Das sind abstrakt gesprochen irgendwie Decoder oder Encoder. Und dazwischen steckt meistens ein neuronales Netz. Ein neuronales Netz kennt man vielleicht auch. das ist so letztendlich so ein bisschen die Nachbildung, von einem Gehirn. Man hat mehrere Knoten und dazwischen hat man, also das sind so die, Synapsen, die miteinander reden. Dazwischen hat man diese Linien, die feuern quasi.

10:43Monina Schwarz In der Darstellung wird das oft mit einem Netz dargestellt, wo man von links nach rechts geht, hat mehrere Ebenen, in denen verschieden viele Knoten sind. Und jeder Knoten einer Ebene beeinflusst jeden Knoten der nächsten Ebene zu einem gewissen Gewicht.

10:54Prof. Dr. Volker Skwarek Du sagst ja genau ganz richtig, so wie ein menschliches Gehirn so nach unserem Verständnis funktioniert. Aber das ist halt nur ein sehr vereinfachtes Modell eines menschlichen Gehirns. Und wir sind halt, also nicht wir, aber die Medizin und die Hirnforschung ist viel, viel weiter, sodass sie sagen kann, so funktioniert ein menschliches Gehirn definitiv nicht.

11:15Prof. Dr. Volker Skwarek Wie genau, weiß ich auch noch nicht, ob sie da soweit sind, aber so eben nicht. Aber Cliffhanger, später dazu.

11:22Monina Schwarz Dann lass es mich konkretisieren und genauer ausdrücken, so wie man sich ganz abstrakt früher vorgestellt hat, wie man ein menschliches Gehirn nachbilden kann. Das soll nicht wirklich eine genaue Nachbildung sein, aber so eine ganz abstrakte Nachbildung, von dem man sich früher ein menschliches Gehirn vorgestellt hat, das ist es. Deswegen heißen die auch neuronale Netze.

11:38Monina Schwarz Man hat diese Neuronen, diese Verbindungen zwischeneinander, die feuern mit einem gewissen Gewicht, dass das beeinflusst, wie sehr welche Ebene welche beeinflusst. Da fängt es auch tatsächlich schon an, dass das, wenn das ein bisschen mehr als eine Ebene hat, super schwer nachzuvollziehen ist. Deswegen ist das eigentlich immer so als Blackbox zu betrachten, wenn man dann nicht mehr wirklich auf einer logischen Ebene verstehen kann, warum eine Entscheidung getroffen wird.

11:59Monina Schwarz So ein neuronales Netz an sich ist erstmal deterministisch. So in der Theorie. Jetzt haben wir aber wieder vom neuronalen Netzwerk weg zu dem Generative Pre-Trained Transformers. Da haben wir dann davor noch irgendeine Form von N- und Decoder, die die Eingaben, die reinkommen, zerlegen und die einzelnen Teile davon, zum Beispiel die Wörter in einem Satz, zueinander gewichten und irgendwie die Beziehung dann untereinander ausdrücken.

12:24Monina Schwarz Das wird mathematisch oder in Vektordarstellung zum Beispiel dargestellt und dann weitergegeben an dieses neuronale Netz, also irgendeine Form, die das Netz verstehen kann. Dann läuft das da durch, dann fallen da putzende Werte raus und die werden dann wieder durch so einen End- oder Decoder gejagt und dann kommt daraus wieder irgendeine Form von Sprache raus, die Sinn ergibt.

12:42Monina Schwarz Das ist jetzt auch vereinfacht, da kann es noch mehrere Schritte dazwischen sein, nochmal irgendwie eine Überprüfung, ob die Sprache, die am Ende rauskommt, auch stimmt. Da kommen wir vielleicht noch drauf. Aber so kann man sich das ganz abstrakt mal vorstellen. Diese Transformer sind 2017 in einem Paper von Google veröffentlicht worden.

12:58Monina Schwarz Das hat das Ganze auch relativ beschleunigt und dem Ganzen viel Gewicht gegeben. Also ist in den aktuellsten Modellen überall nicht zu finden, diese Architektur. Und jetzt gehen wir wieder nochmal einen Schritt weiter nach oben, wieder zurück zu den Modellen. Zum Beispiel, wie schon erwähnt, diese großen Modelle sind meistens nicht nur ein LLM, sondern es sind ja auch noch mal mehrere Bestandteile, die dann wiederum miteinander agieren oder nacheinander agieren.

13:24Monina Schwarz Und wir vertrauen den Sachen an. Wir übergeben denen, also diesen Ökosystemen oder diesen Modellen, diesen Chats. Zugriff auf unsere Ressourcen, zum Beispiel Zugriff zu unserem Mail-Programm und sagen dann, ja, ich hätte gern eine Mail formuliert, vielleicht auch gleich geschrieben und abgeschickt an meinen Chef mit einer Zusammenfassung von meiner heutigen Arbeit.

13:44Monina Schwarz Ein total generisches Beispiel, es wird aber bestimmt schon vorgekommen sein bei Leuten. So, damit habe ich aber schon aus dieser Aufgabe, die aus vielen kleinen Aufgaben besteht, gefährliche Zugriffrechte vergeben eventuell. Eine Mail zu schreiben von meinem Mailprogramm aus ist schon mal was, was ich als durchaus eine gefährliche Berechtigung ansehen würde, weil so eine Mail, die auch noch von einem Konto, vielleicht sogar irgendwie mit einer Signatur, kommt, ist ein vertrauenswürdiges Element und das kommt dann aber vielleicht gar nicht mehr von mir selber oder das wurde vorformuliert und ich schicke die Mail zwar selber ab, aber ich habe mir gar nicht so genau durchgelesen, was da drin steckt.

14:17Monina Schwarz Sondern habe ich vielleicht aus Versehen, meinen Chef beleidigt. Oder ich habe in dem Prozess diese internen Dokumente noch irgendwie auf einer Datenaustauschplattform liegen, weil, das KI-Modell der Agent zum Lösen dieser Aufgabe, die ich diesem Programm oder diesem Tool gestellt habe. Nochmal um irgendwas zu evaluieren, die Daten in irgendeinem Chatform gegeben hat, geschaut hat, was für Antworten kommt und diese Antworten genommen hat.

14:42Prof. Dr. Volker Skwarek Und den Gedanken finde ich total spannend, weil vielleicht hast du ja nicht mal aus Versehen deinen Chef beleidigt, sondern das, KI-System liest ja deine ganzen Chats mit und liest ja auch, wie du mit deinen Kollegen und sonst was überall deine Chefs herziehst. Natürlich jetzt rein hypothetisch, ja, das ist jetzt kein Realitätsbezug, aber, aus diesen gespeisten Daten generiert halt das KI-System irgendeine Mail, die natürlich deiner wahren Intention entspricht, aber total, unethisch ist, weil es nicht das Handeln ist, das du gerne an den Tag legen möchtest.

15:20Prof. Dr. Volker Skwarek Finde ich schon mal spannend. Also wie eine KI, das ist so wie so ein kleines Kind, das sagt, Mama, aber du hast doch vorhin auch gesagt, dass die Nachbarin eine fette Kuh ist.

15:30Monina Schwarz Genau, also da an dem Punkt, und das ist, finde ich, sehr wichtig, dass es Leuten bewusst wird. Eine KI hat per Definition erstmal, es ist ein trainiertes Modell, das auf Daten trainiert worden ist und nach einem gewissen Schema die Worte wählt, die da am Ende rausputzen und mir sagen, was ich tun soll oder dann wiederum eine Aktion auslösen.

15:49Monina Schwarz So, das heißt, da steckt erst mal kein Gut und Böse drin und auch keine Ethik. Und deswegen, also da unterscheidet sich das schon mal klar von einem Menschen. Also wenn ich jetzt mit einem, es gibt ganz viele Leute, die chatten mit Chatbots, um gedankenlos zu werden, die sich beschäftigen, einen Rat zu bekommen.

16:05Monina Schwarz Und die KI antwortet dann eine Antwort und Menschen nehmen sich das zu Herzen, bewusst oder unterbewusst. Aber man muss sich bewusst sein, egal ob das jetzt eine Mail beschreiben ist, mit einer KI reden, aus welchen Gründen auch immer, dass das kein Gut und Böse kennt und in dem Sinne nicht die Ethik hat, wie Menschen Ethik haben.

16:24Monina Schwarz Aber dazu jetzt die Frage, und die gebe ich jetzt an dich weiter, wie Ethik bei Menschen entsteht, was das so definiert. Was ist eigentlich Ethik in dem Sinne?

16:34Prof. Dr. Volker Skwarek Ja, es ist tatsächlich ziemlich schwer, so richtig in Worte zu fassen. Bevor ich auf die Ethik nochmal komme, vielleicht doch nochmal ein Gedanke. Warum eigentlich KI-Systeme zwar vordergründig so funktionieren wie Menschen, aber hintergründig eben nicht. Das ist so ein bisschen, also ich habe mich hier sehr stark an einem ganz, ganz brandaktuellen Paper orientiert.

17:04Prof. Dr. Volker Skwarek Es gibt also tatsächlich Journale, die sich über Human Behavior Sciences und KI beschäftigen. Das verlinken wir euch mit hier rein. Und das ist ein Paper, gerade relativ frisch erschienen in 2026, das ein Metapaper ist, also das eine Studie über andere Studien ist, was andere Leute jetzt herausgefunden haben.

17:27Prof. Dr. Volker Skwarek Jetzt heißt so in den letzten, keine Ahnung, fünf Jahren im Schwerpunkt. Und zunächst einmal in diesem psychologischen Magazin oder Journal wird ganz klar herausgestellt, dass menschliche Gehirn basiert oder funktioniert reizorientiert. Und Reize heißt, wir haben die ganzen sensorischen Reize wie Riechen hören sehen, was auch immer.

17:52Prof. Dr. Volker Skwarek Und daraus werden dann erstmal in der, ich glaube Amygdala, irgendwelche Reize rausgegeben und die werden dann im Großhirn in Handlungen übersetzt. Das heißt also, wenn wir wie eine KI funktionieren würden oder eine KI wie wir, dürfte es nicht nur auf Sprach-Input oder auf Text-Input, also auf eigentlich optische Reize dort reagieren, sondern es müsste auch, hören können und fühlen und ein Unterton und vielleicht den Geruch und den Lärmpegel und was nicht alles, die Temperatur, ob ich gerade friere oder nicht.

18:30Prof. Dr. Volker Skwarek Und zunächst einmal diese ganzen sensorischen Inputs fehlen. Zweitens setzt der Körper sie nicht immer gleich um. Also wenn zum Beispiel, es im Sommer regnet, werden wir mit Sicherheit das anders empfinden, auch hinsichtlich Abkühlung und Temperatur, als wenn es im Winter regnet. Also selbst derselbe Effekt wird nicht zum selben Ergebnis führen, sodass wir Menschen viel, viel indeterministischer sind, als es eine KI wäre.

19:00Prof. Dr. Volker Skwarek Und das ist schon mal eine wesentliche Erkenntnis, um zu sagen, das Gehirn funktioniert anders. Oder die Reizverarbeitung im Gehirn funktioniert anders als in einem neuronalen Netzwerk. Und dazu gibt es auch einen Namen. Und zwar ist das das Moravec-Paradoxon, das aussagt, dass Dinge, die für einen Menschen leicht zu verarbeiten sind, nämlich sensorische Reize, für eine KI unendlich viel Rechenleistung brauchen.

19:41Prof. Dr. Volker Skwarek Und alles das, was für eine KI leicht ist, nämlich irgendwie parallele Mustererkennung und Vergleiche und hohe Datenverarbeitung, das ist für einen Menschen unendlich schwer. Und alleine aus diesem, zumindest erstmal als irgendwie Axiom, also als unverrückbare Wahrheit dargestelltes Paradoxon. Sind KI-Systeme und menschliche Systeme komplett anders.

20:10Prof. Dr. Volker Skwarek Es ist also schon mal schwierig, bei einer KI von einer Intelligenz zu sprechen. Ohne jetzt mit einer Intelligenz irgendwas Superpower zu meinen, sondern einfach nur den faktischen, abstrakten Begriff, wie wir Intelligenz verstehen und wie eine KI funktioniert. Es ist schon mal relativ spannend, sich das einzu- oder zu überlegen haben, wie es wirklich mit intelligenten Systemen zu tun.

20:37Prof. Dr. Volker Skwarek Und dabei ist nicht die Qualität des Reasoning gemeint, sondern die Art, wie wir zu Ergebnissen kommen. Und jetzt kommen wir eigentlich in diesen Bereich der Ethik. Ja, dazu sollten wir uns erstmal überlegen, was Ethik ist. Und ja, als Wissenschaftler greife ich da immer ganz gerne in die Trickkiste der Definition.

21:02Prof. Dr. Volker Skwarek Und idealerweise, wenn es nicht meine eigene Wissenschaft ist, nutze ich die der anderen. Und wenn wir so in die Philosophie, Wissenschaft reingehen, dann geht die Ethik davon aus, dass sie sich. Mit dem menschlichen Handeln befasst und sich Gedanken darüber gemacht, wie ein Mensch handeln soll, welche Werte dem zugrunde liegen und was ein gutes und was ein schlechtes Handeln ist.

21:29Prof. Dr. Volker Skwarek Also Ethik kann auch schlechtes Handeln sein. Es ist lediglich erstmal überhaupt die Differenzierung. Was ist jetzt hinderlich oder förderlich? Was ist gut? Was ist schlecht? Und da kommen wir eigentlich schon an das erste Problem. Diese Ethik ist halt, ein Diskussionsprozess, das Ergebnis einer Abstimmung.

21:58Prof. Dr. Volker Skwarek In der Gedanken gemacht werden. Das bedeutet, sieben Leute, die sich zusammensetzen und über Ethik diskutieren, können zu einem völlig anderen Ergebnis kommen als sieben andere Leute, die sich zusammensetzen und über Ethik diskutieren.

22:11Monina Schwarz Das heißt, Ethik ist auch kontext- und gesellschaftsabhängig dann?

22:15Prof. Dr. Volker Skwarek Mit Sicherheit. Also es gibt immer irgendwelche Rituale, die dann aus irgendwelchen, Völkern, eingeborenen Völkern berichtet werden, wo wir dann sagen, oh, kannst du doch nicht machen. Oder irgendwelche eingeborenen Völker, die sagen, es ist doch nicht ethisch, für Getreide ein Stück Papier hinzugeben.

22:39Prof. Dr. Volker Skwarek Und derjenige, der das Stück Papier bekommen hat, wir würden es als Geld bezeichnen, kann ja zusehen, was er damit anfangen kann. Ohne Getreide verhungerst du doch. Also klar, sind die Ethikmaßstäbe natürlich gesellschaftsabhängig, wobei es ja eben diese Grundrechte, also nicht diese, sondern es gibt ja Grundrechte, also es gibt, jetzt habe ich den Begriff vergessen, das ist ein bestimmter juristischer Begriff, wo es um eine Gesetzesform geht, die eigentlich unverrückbar ist.

23:11Prof. Dr. Volker Skwarek Also wie das Recht zu leben zum Beispiel, ist ein indiskutables juristisches Grundstatement, das keiner weiteren Begründung braucht. Und da gibt es irgendwie so, ich meine jetzt nicht Menschenrecht.

23:22Monina Schwarz Das ist ja ein Aktion.

23:23Prof. Dr. Volker Skwarek Ja genau, mathematisches ist ein Aktion. Das hat auch in die UN-Menschenrechte natürlich alles Einzug gefunden. Aber es gibt da so einen juristischen Begriff dafür, die eigentlich weltweit, menschheitsweit akzeptiert sind als Grundwerte. Und das ist jetzt eigentlich ein Kernbegriff, nämlich Wert. Und zwar innerer Wert, also die Basis zu handeln.

23:49Prof. Dr. Volker Skwarek Da zweifle ich dran, und ich weiß nicht, wie du das siehst, Mo, da zweifle ich dran, dass KI-Systeme irgendwie Werte einprogrammiert bekommen können. Monia, was sagst du?

24:03Monina Schwarz Also es gibt da als schönes, ich sag mal zumindest plakatives oder plakatives Gegenbeispiel, es gibt gewisse Wertekodexie, die veröffentlicht werden. Zum Beispiel hat Antrophic da, die Constitution von Claude veröffentlicht, wo sie auch beschrieben haben, dass es durchaus verschiedene ethische Grundwerte gibt, die sie versuchen da oder die sie laut eigener Aussage mit in Claude reinbringen.

24:32Monina Schwarz Und da gibt es also, das ist ein bisschen schwer nachzuvollziehen teilweise, wie weit, wo, welche ethischen Grundlinien mit veröffentlicht wurden oder verinnerlicht worden sind in die KI-Systeme. Ich würde sagen, das hängt andererseits an den Daten, die man reinführt zum Lernen. Also man kann durchaus durch gewisse Lernmethoden bestimmte Konzepte von Werten zumindest, verankern oder auch durch sowas wie Guardrails, dass man sagt, okay, wenn eine KI eine Antwort fertig hat, läuft nochmal ein anderes Modell drüber und prüft die Antwort auf gewisse Parameter, beispielsweise ob Beleidigungen drin vorkommen und kann das dann nochmal korrigieren oder die Antwort ersetzen durch einen, tut mir leid, ich kann darauf so nicht antworten.

25:11Monina Schwarz Also es gibt dadurch auch Elemente, mit denen man sowas zumindest versucht, dem nahe zu kommen.

25:16Prof. Dr. Volker Skwarek Und die Elemente sind allerdings ja nur rein programmiert. Also sie sind an sich ja statisch. Das heißt jetzt nicht, dass sie sich irgendwie vielleicht verändern lassen, weil es irgendwie dynamische Daten sind, die auch variabel gestaltet werden können. Nur die Grundfrage, die sich hier eben ergibt, also wenn Ethik auf einer Basis von Werten basiert, und wir gleichzeitig Ethik auch als ein Diskussions- und Abgleichprozess sehen, die dann diese Werte und das daraus folgende Handeln in gute und schlechte Handlungen übersetzt, dann frage ich mich, ob sowas programmatisch überhaupt möglich ist.

26:00Prof. Dr. Volker Skwarek Und ich will jetzt da gar keinen Zufallsfaktor reinbringen. Natürlich wirkt ein menschliches Handeln sehr randomisiert. Ich sage mal, wenn zum Beispiel in den USA heute diskutiert wird, über die Freiheit, Waffen zu tragen, morgen wieder ein Riesenmassaker an irgendeiner Institution passiert, die Leute dann, völlig hektisch aufschreien, dass das wieder alles nur wegen der Waffen da ist und übermorgen wieder die Waffen natürlich hohes Heiligtum sind.

26:26Monina Schwarz Da ist vielleicht die Frage aber ja auch, ob wir einfach nur so wahnsinnig viele Parameter mitberechnen müssten, um ein menschliches Verhandeln deterministisch zu verstehen, die wir einfach nicht haben. Beispielsweise jedes Hormon, das sich bewegt im Umkreis des Menschen, jeden Wettereinfluss, jeden sensorischen Reiz, jede Erinnerung des Menschen, die man mit einbringen muss in den Kontext und die gesellschaftlichen Einflüsse.

26:49Monina Schwarz Aber wenn man diese Daten alle hätte, ob man dann nicht doch tatsächlich deterministisch das Handeln oder die Entscheidungen vorher sagen könnte.

26:56Prof. Dr. Volker Skwarek Ja, und da kommt halt ganz was Interessantes. Werte sind halt bewusste sowie unbewusste Leitvorstellungen. Das ist ja auch mit so einem Kern dieser, zum Beispiel der Verhaltenspsychologie, wo erstmal herausgearbeitet wird, was sind denn deine Werte? Es gibt so einen Wertekatalog von über den Daumen 100 Werten Und wenn ich dich jetzt frage, keine Ahnung, wie stehst du zu Umweltschutz?

27:31Prof. Dr. Volker Skwarek Ich muss jetzt gar nicht beantworten, aber könntest du so schnipp zu diesem Thema sagen? Finde ich gut.

27:39Monina Schwarz Also in dem Fall ja, in anderen vielleicht weniger einfach.

27:43Prof. Dr. Volker Skwarek Okay, Umweltschutz ist vielleicht ein bisschen Selbstfürsorge. Der Wert der Selbstfürsorge, wie hoch ist er ausgeprägt? Wie gesagt, musst du auch wieder nicht beantworten, aber ich glaube, jeder kann in sich selbst reingucken, wenn er jetzt schon wieder die siebte Überstunde in der Woche schiebt und sich fragen, also wenn es mir gut geht, sage ich, oh ja, hohe Ausprägung an Selbstfürsorge.

28:06Prof. Dr. Volker Skwarek Wenn ich jetzt aber gerade wieder vor dem inneren Kollaps bin, ist die Selbstversorge möglicherweise nicht so hoch ausgeprägt. Dabei ist Selbstversorge ein Wert. Und das sind dann die unbewussten Leitvorstellungen. Und genau das, also das eine ist halt das Randomisierte, dass ich nicht zu jeder Sekunde dasselbe Wertegerüst habe.

28:25Prof. Dr. Volker Skwarek Aber das andere ist eben noch dieser unbewusste Teil. Und da fällt es mir schwer, irgendwie zu einer Idee zu generieren, wie wir das in eine KI reinkriegen.

28:34Monina Schwarz Ich denke, das wäre zumindest zu einem Teil aus den Trainingsdaten. Also die Trainingsdaten, ein Mensch hat ja auch im Prinzip seine ganzen Trainingsdaten, so der Vergleich sind die Erinnerungen, die Erfahrung, die ein Mensch gemacht hat, das, was ein Mensch gehört hat von außen, was gut und was schlecht ist, was, ethisch, was unethisch ist, wie man sich verhalten soll, also die gesellschaftlichen Normen, die einem beigebracht werden, das sind ja sozusagen, könnte man fast sagen, die Trainingsdaten eines Menschen.

29:00Monina Schwarz KI lebt ja auch oder basiert ganz viel davon, dass es Unmengen an Trainingsdaten gibt, die da reinfließen, diese Modelle, um diese Modelle anzulernen. Man kann sagen, die Daten, wenn die ein Bias beinhalten, wirkt sich das auf die Antwort von der KI aus. Vielleicht können wir da einen technischen Exkurs machen.

29:17Monina Schwarz Was gibt es so für ganz grobe Lernmethoden von KI? Es gibt so drei große Überbegriffe, die man kennt. Das ist supervised, nennt sich überwachtes Lernen. Unsupervised, unüberwachtes Lernen und Reinforcement Lernen. Das ist bestärkendes Lernen. Es gibt auch viele Mischformen. Im Prinzip, also früher hatte man das supervised Lernen sehr oft, supervised Learning, das überwachte Lernen sehr oft, das sind gelabelte Daten.

29:40Monina Schwarz Das heißt, man muss seinen Datensatz irgendwie beschreiben und für jedes Datum, das da drin enthalten ist, jeweils irgendwie auch die Antwort sozusagen wissen. Also wenn ich jetzt Bilder erkennen möchte, ist da ein Pferd drauf, dann frage ich die KI, ist da ein Pferd drauf, weiß aber vorher schon, ob das drauf ist oder nicht und dann prüfe ich die Antwort mit der KI gegen.

29:58Monina Schwarz So grob im Abstrakten gesprochen, da gab es früher sehr lustige Beispiele, dass die KI dann zum Beispiel nicht gedacht hat, dass da ein Pferd drauf ist, sondern nur, dass jedes Bild mit einem Pferd drauf an dem Regentag aufgenommen worden ist. Das ist so der Klassiker von Supervised Learning. Dann unüberwachtes Lernen und Unsupervised Learning ist im Prinzip, dass auf den Daten Clustering aus verschiedenen Methoden erfolgt.

30:24Monina Schwarz Dass man da dann beispielsweise Clustering nach verschiedensten Ähnlichkeiten oder gleichen Werten von den Daten in verschiedenen Ebenen, mathematischen Berechnungen nach verschiedenen Methoden Gruppen bildet und daraus dann die Informationen ableitet. Und das Dritte, was man hat, ist das Reinforcement-Lernen, das bestärkende Lernen.

30:43Monina Schwarz Das bilde ich mir ein auch in den Berichten über aktuelle KI-Modelle, die sich daneben benommen haben, wie man das so schön vermenschlicht sagen würde, vorgekommen. Da hat man eine Trial-and-Error-Umgebung, in der KI-Agenten oder die KI sozusagen immer wieder dieselbe Aufgabe lösen soll und dabei eine Kontrollinstanz hat, die eine Bewertung abgibt, wie gut die Lösung war.

31:06Monina Schwarz Und das wird nach der Bewertung optimiert. Also am Ende soll die Bewertung hoch sein. Also kann man sich so vorstellen, beantworte mir die Frage oder löse diese Aufgaben. Und wenn ich halt antworte, ja, meine Trainingsdaten reichen aber auch nicht aus, um diese Aufgabe zu erreichen, bekomme ich keine Punkte.

31:24Monina Schwarz Wenn ich mir irgendeine Lösung ausdenke, was in dem Fall auch mal passiert ist, also in manchen Fällen gerne passiert, wenn man dann halluzinierende KIs hat, und dass der Bewertungseinheit aber nicht auffällt, habe ich hier mehr Punkte drinnen, weil ich habe eine Antwort gegeben und sie schienen der Kontrollinstanz gereicht zu haben.

31:41Monina Schwarz Aber genau so kann man sich bestärktes Lernen vorstellen. Also ich gebe eine Antwort ab und bekomme dafür dann eine Bewertung und versuche, diese Bewertung hoch zu haben. Ich bilde mir ein, das war in den ganzen. Kontexten von den Angriffen von KI-Modellen, die aus Trainings ausgebrochen sind, oft der Fall, dass die eben versucht haben, eine Aufgabe zu lösen, die recht schwer war und deswegen geschummelt haben.

32:02Monina Schwarz Und da haben sie ja auch nur getan, was ihnen gesagt wurde. Sie sollten die Aufgabe lösen, um eine hohe Bewertung zu erzielen. Genau, aber das sind die Lernmethoden. Dafür sind Trainingsdaten extrem wichtig. Umso mehr Trainingsdaten, umso mehr kann man daraus lernen. Und da gab es, wer sich erinnert, das ist schon lange her, inzwischen Datenskandale, dass Daten gerade aus Chats oder großen Social-Media-Plattformen zum Lernen benutzt wurden von Modellen. Denn mittlerweile interessiert es eigentlich auch keinen mehr so richtig, dass das passiert ist.

32:29Monina Schwarz Es werden von Bots Daten gescrapt im Internet, um die Informationen da rauszuziehen. Es werden Bücher aufgekauft und eingescannt, um die KI damit zu füttern. Da haben wir einen ganzen großen Datenschatz dann dahinter, aus dem du es lernt. Natürlich dann irgendwie nochmal vielleicht filtert und sortiert und normiert, weil das, wie jeder weiß, das Internet ist recht groß und ein Quell von offener und freundlicher und vorurteilsfreier Kommunikation.

32:53Monina Schwarz Und natürlich auch korrekter, korrekten Darstellung von Dingen. Also man muss eine Vorfilterung haben, aber wie stark die ausfällt, kann man jetzt für die großen Modelle, glaube ich, gar nicht so genau sagen. Ich glaube, das ist nicht so weit bekannt.

33:06Prof. Dr. Volker Skwarek Da kann ich da einmal einhaken, weil nochmal wieder auf diesen Punkt Werte. Wir haben ja jetzt ein bisschen rausgearbeitet, dass Werte, nach denen wir Menschen handeln und auf denen unsere Ethik basiert, durchaus sowohl kontextsensitiv sind. Also Werte ist jetzt nicht, ist quasi wie Klima im Wetter, ja, also das ist schon beständig und prägt sich aus, aber verändert sich eben auch.

33:32Prof. Dr. Volker Skwarek Und Werte sind aber gesellschaftsabhängig und da ist schon mal schwierig, wenn ich, sagen wir mal, das gesamte Internet als Trainingsdaten nehme, dann bilde ich eine Globalethik. Und diese Globalethik gibt es abgesehen von diesen natürlichen Rechten, ich glaube so heißen die, natürliche Rechte, gibt es keine Globalethik.

33:58Prof. Dr. Volker Skwarek So Punkt 1 also, es wird eine Ethik gebildet, die so gar nicht existiert. Zweitens, also aus Menschlichem dafür halten. Zweitens, diese Daten werden ja klassifiziert und gereviewt, um möglichst so ein Bias da nicht rauszukriegen. Jetzt ist die Frage, wenn ich Leute an etwas arbeiten lasse, also biased people, lasse ich daran arbeiten, um unbiased data zu bekommen.

34:21Prof. Dr. Volker Skwarek Das ist irgendwie total schwierig, aber wir haben ja auch schon gehört, dass die unter prekären Verhältnissen in Niedriglohnländern möglicherweise gebildet werden. Das heißt, wir haben also eine globale Wertedatenbank, die von biased people, einer bestimmten Ethikgruppe mit bestimmten Werten, nach allgemeinen Regeln gereviewt werden, um dann unbiased data daraus zu kriegen.

34:48Prof. Dr. Volker Skwarek Verstehst du mein Problem gerade?

34:50Monina Schwarz Ja, Bias ist ein relativ großes Problem in Trainingsdaten. Da gibt es auch Schlagworte wie zum Beispiel ethische KI, wo man dann versucht, das rauszubekommen. Aber dann, um das noch weiterzuführen, man hat ja nicht nur einen unabsichtlichen Bias, dann kommen auch noch Sachen dazu, wie zum Beispiel, es gibt gewisse Formen von Poisoning.

35:07Monina Schwarz Da kann man als Angreifer versuchen, Daten mit reinzubekommen in eine KI. Sei es jetzt, wenn die KI mit einem Prompt irgendwas ausliest, zum Beispiel, dass man auf Seiten Text mit draufschreibt, der nicht lesbar ist für den Benutzer, aber eine Message beinhaltet oder ein Prompt. Aber es kann auch eine Message sein, wenn die ganz oft da steht, dann ist das einfach etwas, was öfters vorkommt und was erstmal sozusagen auch rausgefiltert werden müsste. Wenn man sich vorstellt, dass es da schon Kampagnen mit Bots gab, die gewisse Meinungen verbreitet haben, dann hat man diese Nachricht möglicherweise sehr oft irgendwo stehen.

35:38Monina Schwarz Das ist zum Beispiel dann ein Angriff, der sowas beeinflussen kann oder zum Beispiel auch mittlerweile haben wir sehr viel Inhalt im Internet, der von KI selber erzeugt worden ist. Und dann gibt es was, das nennt sich, ich glaube es ist mehr so ein allgemeiner Begriff als ein Fachbegriff, man kann es als KI-Inzucht beschreiben, wenn KI-Modelle auf Daten lerne, die von KI-Modellen erzeugt worden sind.

35:58Monina Schwarz Also gar nicht mehr wirklich sozusagen das abbilden, was die KI lernen möchte, nämlich irgendwie menschliche Aussagen oder Texte der Grundsatz. Irgendwann mal geschrieben worden ist nach menschlichen Definitionen, sondern möglicherweise auch schon fehlerhafter KI-Text. Das sind weitere Probleme, die dazukommen zu diesem, dass wir eh schon einen Bias in Sachen drin haben.

36:19Monina Schwarz Auch gerade bedacht daran, was sind denn die Informationen, die so im Internet, viel zu lesen sind. Das ist ja auch kein Durchschnitt oder kein Eins-zu-eins-Abbild von der Gesellschaft, sondern es ist auch schon sehr gebiased, was überhaupt im Internet landet.

36:33Prof. Dr. Volker Skwarek Mein Horrorszenario ist ja, also noch sind wir vorwiegend die Generation, die selbst gelernt hat, zu recherchieren und auch selbst gelernt hat, unter schwierigen Bedingungen schwierige Inhalte zu erzeugen, weil wir eben keinen automatischen Assistent hatten, der wunderbar in Syntax und Semantik tolle Sätze rausbringen kann, die man eigentlich nur noch abschreiben muss.

36:56Prof. Dr. Volker Skwarek Ich frage mich, wie es halt in zwei Generationen sein wird, wo KI-geschriebene Artikel in Wikipedia oder wie es dann auch immer heißen mag, vielleicht KIPedia, dann drinstehen, die Quellen sogar alle schon im Internet auch erzeugt wurden, weil das Internet schon völlig verseucht ist von irgendwelchen da sind es dann Fehlinformationen, also es ist ja eine echte Quelle, wenn eine KI etwas generiert aus anderen Daten, dann ist das ja eine Quelle und wenn das Internet nur noch voll von solchen Quellen ist und daraus dann wieder Texte entstehen aus KIs, die dann, äh ich.

37:32Monina Schwarz Ja Da hast du dann die spannende Anschlussfrage, die jetzt aber wirklich meinem Verständnis nach sehr philosophisch wird. Wenn die KI dann behauptet, dass etwas wahr ist, was erfunden ist und dass alle Leute glauben, weil sie diesem KI-Pedia-Eintrag vertrauen, ist das dann die neue Wirklichkeit, die dadurch entsteht? Weil das glauben jetzt ja alle dran, dass das so ist.

37:54Prof. Dr. Volker Skwarek Ja, das ist ja so wie die Aussage, die einem IBM-Gründer unterstellt wird. Ich muss das dann nochmal recherchieren, da schreiben wir euch in die, war es IBM, ich weiß es gar nicht mehr, aber zumindest, die Welt braucht nur fünf Computer oder sowas. Das ist ja so eine Aussage, die in Informatikgrundlagenvorlesungen immer gern gebracht wird, um zu zeigen, wie falsche Einschätzungen sein können.

38:18Prof. Dr. Volker Skwarek Das hat er aber nie gesagt. Also es wurde dann recherchiert und die wird ihm immer in den Mund gelegt und er hat wohl was ähnliches gesagt, aber nie das. Dabei ist das dann die neue Wahrheit, also die neue falsche Wahrheit, weil die Welt braucht auch mehr als fünf Computer, aber es hat auch nie jemand behauptet.

38:33Monina Schwarz Ja, gibt es ja gerne so. Man muss die Sicht in der Allgemeinung verbreiten und dann entsprechend für die Leute als wahr gelten, obwohl es gar nicht der ursprünglichen Wahrheit entspricht. Das heißt, wir haben sowohl die Probleme von unabsichtlicher als auch von absichtlicher Beeinflussung von Daten. Also ich meine, das kann ja auch durchaus die Werteverstellung von der Firma sein, die KI erzeugt, die mit in der KI landet.

38:56Monina Schwarz Ob die dann für alle anderen, die die KI benutzen in anderen Ländern, ethisch ist, hast du ja auch schon ein bisschen zum Ausdruck gebracht, ist auch eine relevante Frage. Ich würde sagen, aber zu dem, was die KI schon an Ethik mitbringt, es ist nicht leicht, in einer Antwort, die man von der KI bekommt, einen Bias rauszulesen, wenn man nicht bewusst darauf achtet oder dass irgendwas ist, was sehr subtil ist.

39:17Monina Schwarz Aber zumindest manche Probleme kann man vielleicht auch nochmal damit angehen, dass man als User einen Prompt sehr viel klarer definiert. Also zum Beispiel, um auf das Beispiel von vorher zurückzukommen, wenn ich eine E-Mail schreiben möchte an eine andere Person und möchte da irgendwie was zusammenfassen, was ich vielleicht davor schon mal geschrieben habe und dann würde mir die KI vorschlagen, die Person zu beleidigen in der Antwort.

39:39Monina Schwarz Dann habe ich vielleicht meinen Prompt auch nicht ausführlich genug formuliert. Also das ist vielleicht dann auch nochmal ein Punkt, wie man dem Ganzen zumindest ein bisschen entgegentreten kann.

39:48Prof. Dr. Volker Skwarek Also sprich, wir verlagern die Ethik in einem System, wo wir ja schon jetzt ein bisschen rausgearbeitet haben, die kann es gar nicht geben, weil Ethik ja bewusste und unbewusste Wertmaßstäbe sind und Wertmaßstäbe, teilweise lokal sind und, Bla, bla. Die Verlage haben wir jetzt wieder auf den User durch Prompting.

40:08Prof. Dr. Volker Skwarek Das heißt, der muss jetzt indirekt Ethik reinbringen. Habe ich das richtig verstanden?

40:12Monina Schwarz Nee, ich würde sowieso weder die Sicherheitsvorkehrung, noch die Ethik dem User alleine in die Hand geben. Da kann man KI ja nicht betrachten wie ein Werkzeug. So mit einem Hammer kann ich Nägel gut einschlagen. Ich kann damit Schmiedesachen bearbeiten, Metall bearbeiten. Ich kann aber auch Leute verletzen.

40:29Prof. Dr. Volker Skwarek Aber Schrauben kann ich auch einschlagen, ne?

40:31Monina Schwarz Das stimmt. Ich kann das auch falsch verwenden. Ich kann auch Schrauben einschlagen. Ich kann auch ein Bild mit einem Hammer an die Wand hauen. Und wenn ich lang genug hau, hält das auch ohne Nagel in der Wand, wenn die Wand nachgibt. Aber genau, also ich kann ein Tool richtig verwenden, wie es initial gedacht war.

40:47Monina Schwarz Ich kann es falsch verwenden, aber es funktioniert trotzdem irgendwie und ich kann es auch verwenden, um damit Schlechtes zu machen. KI ist letztendlich auch nur so, wie wir es jetzt haben in Form von diesen ganzen Modellen, die wir irgendwie benutzen können, ist es auch ein Tool. Das heißt, es liegt auch durchaus in der Hand des Benutzenden, was man damit tut.

41:05Monina Schwarz Aber nichtsdestotrotz, ja, es ist natürlich auch in der Verantwortung der KI-Hersteller, da drauf irgendwie einen Wert zu legen, das vielleicht klar zu kommunizieren, was es für Wertevorstellungen gibt, zu versuchen, da entsprechend Werte reinzubekommen, eine Ethik reinzubekommen in dem Maße, in dem das geht.

41:21Monina Schwarz Zum Beispiel oder auch bei den Aktionen, die KI dann machen darf oder bei den Antworten, die sie gibt, dann zum Beispiel eben mit Guardrails, also mit irgendwelchen, Schutzmechanismen nochmal drauf zu achten, dass vielleicht Zugriffe mit Daten, die ich der KI zur Verfügung gestellt habe, die nicht irgendwo hingepostet werden, dass Ausdrücke in Antworten verboten werden oder vielleicht auch schon Antworten ausdrücke, wenn ich die KI was frage, schon verboten werden.

41:43Monina Schwarz Also dass sowohl, wenn ich was als Prompt der KI übergebe, schon mal eine Prüfung läuft, als auch nachdem die KI was ausgespuckt hat, noch mal eine Prüfung läuft. Das wären alles Sachen, die zum Beispiel denkbar wären. Zusätzlich dazu, dass man prüft, welche Daten man in die KI reinfüttert als Lerndaten und auch noch mal explizit der KI vielleicht auch Dokumente über Werte mitgibt.

42:04Prof. Dr. Volker Skwarek Aber da sind wir ja wieder bei der programmierten Ethik. Ja. Ich unterstelle dir jetzt mal, damit wir hier ein bisschen Power in den Podcast auch reinbringen. Ich unterstelle dir erstmal, dass du sagst, Ethik kann man programmieren. Ich sage, Ethik kann man nicht programmieren. Ich weiß, dafür kriege ich nachher gleich wieder einen ranzigen Kommentar, weil du das auch nicht sagst, aber ich unterstelle es dir jetzt einfach mal.

42:28Prof. Dr. Volker Skwarek Wie würdest du jetzt mit Sachen umgehen, die mir gar nicht bewusst sind?

42:32Monina Schwarz Wenn ich Ethik programmieren kann, dann muss ich eigentlich nur ein groß genuges Set an Situationsbeschreibungen und Daten haben, die ich meiner KI, die ich trainieren möchte, fütter, die für alle möglichen Situationen, vielleicht auch nach Möglichkeit mit Rückfrage an den Benutzer, gibt es da bei KI-Modellen, also unter Berücksichtigung der Umstände des Benutzers, wenn möglich, und unter Berücksichtigung der Nationalität oder sonstigen gesellschaftlichen Umständen des Benutzers, dann die entsprechende Ethik auswählen.

43:04Monina Schwarz Lässt sich ja bestimmt irgendwie zumindest grob beschreiben und abbilden, wie sich diese ethischen Grundsätze unterscheiden. Und dann kann ich aufgrund dessen dann sozusagen programmiert die Ethik in das Modell gefüttert haben und dann auch ausgeben.

43:15Prof. Dr. Volker Skwarek Aber dann, ja, okay. Also das kann ich alles nachvollziehen. Ich würde trotzdem behaupten, dass mir immer Randbedingungen fehlen werden. Also so wie es kein einheitliches ethisches Weltbild gibt, Sondern das im Prinzip aus einem Experten-Diskussionsprozess kommt, wobei der Begriff Experte jetzt nicht heißt irgendwie sonderlich superintelligent, sondern einfach nur für einen bestimmten Themenbereich, kompetente Aussagengeber oder auch Repräsentative. Das kann auch Oma Erna sein.

43:46Prof. Dr. Volker Skwarek Das muss jetzt nicht irgendwie ein studierter Wissenschaftler sein.

43:50Monina Schwarz Oma Erna hat bestimmt gutes Verständnis von Ethik.

43:52Prof. Dr. Volker Skwarek Ja, aber das, und jetzt kommt genau das Spannende. Wenn ich mit meiner Oma Erna, die ja beide nicht mehr leben, diskutiere, über wie siehst du denn das, dann käme sowas wie, ach Jungchen, ich muss dir mal erzählen, wie das damals war. Und das ist ja schon diese Spannende. Es ist ja nicht falsch, was sie sagt, sondern sie repräsentiert ja nur eine bestimmte Gesellschaftsgruppe, um zu sagen, was gut oder was ihrer Meinung nach schlecht ist und jetzt wieder aus dem Abgleichprozess entsteht dabei was.

44:28Prof. Dr. Volker Skwarek Und deswegen bin ich der Meinung, dass das Netz als Trainingsdaten mit einem, biased, unbiased learning fernab jeglicher Ethik ist. Ist aber meiner Meinung.

44:44Monina Schwarz Also unabhängig der Meinung, die ich gerade versuche zu vertreten, dass man Ethik programmieren kann oder mathematisch dann sozusagen letztendlich darstellen kann, da muss ich dir auf jeden Fall recht geben. Also, das Internet lässt sich nicht, glaube ich, auf irgendeine gesunde Ethik runterbrechen, die für einen Großteil der Menschen funktioniert und eine gute Gesellschaft hervorbringen kann.

45:08Prof. Dr. Volker Skwarek Ja, und dementsprechend müsste man eigentlich solche, also mindestens, um jetzt mal auf Lösungen zu kommen, und wir gehen ja vielleicht auch in Richtung mal Unternehmenslösung, müssten wir mindestens ein KI-System guardrailen. Also wir müssen gucken, wenn wir ein Unternehmen haben, Sind denn da die Unternehmenskodizes hinterlegt zum Beispiel?

45:32Prof. Dr. Volker Skwarek Und da auch wieder die Bewussten und die Unbewussten, gelten die für alle Regionen? Was ich sehr, sehr schwierig fände, ist zum Beispiel Ethikregeln für Rüstungsunternehmen festzulegen, wenn sie dann eine KI haben. Da sind dann zum Beispiel die natürlichen Rechte von Menschen, das Recht auf Leben, erstmal ausgeklammert, weil das ist schwierig mit dem Geschäftsmodell eines Rüstungsunternehmen zu vereinbaren.

45:59Monina Schwarz Das heißt, da ist wieder, Ethik muss auch bei den KI-Modellen sinnvollerweise im Kontext der Benutzung stehen. Also sprich dann, jedes Unternehmen wird dann seine eigene Ethik haben, die in das Modell reingepackt wird und sollte aber irgendwie auch transparent dem Benutzer klar sein. So unsere ethischen Grundleitsätze, die unsere KI gelernt hat, ist das und das.

46:17Monina Schwarz Wobei man das vermutlich auch gar nicht, selbst aus Sicht von diesen großen Unternehmen, gar nicht so klar sagen kann. Gerade bei diesen allgemeinen LLMs, wie wir vorhin welche genannt haben, ist das vermutlich sehr, sehr schwer zu definieren, welche ethischen Werte generell das System vertritt und welche nicht oder welche man erwarten kann am Ende und welche man nicht erwarten kann.

46:37Prof. Dr. Volker Skwarek Ja, ich kann einfach nur ja sagen. Wir müssten, also ja sage ich zu diesen ganzen Konjunktiven und ich glaube, da können wir beide, wir haben uns ja auch gemeinsam auf die Sendung vorbereitet und, haben eigentlich gar keine abweichende Meinung zu, wie man Ethik oder eben auch nicht in solche Systeme reinkriegt.

46:54Prof. Dr. Volker Skwarek Es ist mindestens schwer, vielleicht unendlich schwer oder wie Informatiker sagen würden, exponentiell komplex. Das heißt, wahrscheinlich würde es uns nicht gelingen, über statische Regeln, die wir reinprogrammieren, selbst wenn sie sich verändern dürften, diese Regeln, aber sie sind erstmal in dem Moment statisch.

47:19Prof. Dr. Volker Skwarek Ethik abzubilden, so wie ein Mensch sie verstehen würde und wie sie als menschliche Ethik aus dem Diskussionsprozess rauskommt.

47:27Monina Schwarz Das heißt, uns muss als Benutzern immer klar sein, dass wir nicht mit einem System kommunizieren, das ethische Regeln in unserem Verständnis besitzt.

47:33Prof. Dr. Volker Skwarek Ja, genau. Wir bringen als Nutzerinnen und Nutzer, wir bringen die Ethik in das Ergebnis. Und das würde ich sagen, fällt mir im Moment schwer zu glauben, wenn ich die Inflation der KI-Systeme und der KI-Nutzung sehe. Oder wie siehst du das, Mundino?

47:56Monina Schwarz Ja, also ich finde eigentlich, dass wir bringen als Endbenutzer Ethik in ein KI-System durch die Benutzung. Das ist eigentlich ein schönes Endwort, aber es birgt die große Gefahr, dass viele Leute vermutlich nicht sich entweder, weil sie es unabsichtlich dessen nicht bewusst sind, nicht anwenden oder weil sie absichtlich böse Intentionen haben.

48:16Monina Schwarz Oder eine Ethik, wie du vorhin gesagt hast, Ethik muss ja nicht gut sein in dem Sinne, eine Ethik haben, die dem Wohl der Gesellschaft entgegensteht.

48:24Prof. Dr. Volker Skwarek Das sind möglicherweise sogar die Subminimalperzentilen. Also die allerwenigsten Nutzer, wenn wir mal so auf Prompting-Analyse gehen, werden ernsthaft bewusst unethische Handlungen provozieren wollen oder aussagen. Wobei auch das ist ja spannenderweise dann Ethik, weil es ja die Unterscheidung, in gut und schlecht schon in sich birgt.

48:52Prof. Dr. Volker Skwarek Das muss man einfach mal so da stehen lassen. Also die Ethik ist ja erstmal die Unterscheidung gutes und schlechtes Handeln. Was mir viel mehr Sorgen macht, sind eigentlich die viel, viel größere Zahl der ohne Ethik handelnden Nutzer. Also ich nutze bewusst den Begriff unethisch jetzt nicht, sondern der ohne Ethik.

49:11Prof. Dr. Volker Skwarek Das heißt, die gar keine Überlegung daran verschwenden, ob das Handeln gut oder schlecht ist, sondern die einfach die KI fragen und dann sehen, was dabei rauskommt.

49:21Monina Schwarz Und auch danach agieren. Das ist ja dann, glaube ich, der schwerwiegendere Part.

49:25Prof. Dr. Volker Skwarek Ja, genau. Und sei es, dass es Schüler sind, die ein bisschen Prompting ausprobieren wollen, Scriptkiddies, wie wir es in meiner früheren Folge genannt hätten, tatsächlich rauskitzeln, wie man, keine Ahnung, Molotow-Cocktail oder eine Handgranate bastelt.

49:39Monina Schwarz Oder aus Versehen die Gesundheitsdaten von irgendwelchen Leuten abrufen.

49:42Prof. Dr. Volker Skwarek Genau, einfach aus Versehen. Und das ist genau der Fehler, dass die aus Versehen sowas machen. Weil ethisches Handeln würde von vornherein voraussetzen, dass wenn ich mir nicht sicher bin, ob ein System sowas kann, ich das gar nicht in dieses System reingebe. Und das finde ich, also ich will jetzt nicht sagen ein gutes Schlusswort, aber ich sage mal ein gutes Schlussgedanken an dieser Ethiküberlegung.

50:12Prof. Dr. Volker Skwarek Es liegt eigentlich im Wesentlichen an uns, und zwar während des Promptings schon mittlerweile bei diesem agentischen System festzustellen, ob das, was wir von dem System haben wollen, möglicherweise unethische Ergebnisse haben kann. Also siehe zum Beispiel den Angriff auf die australische Datenbank des Gesundheitsministeriums oder was das war.

50:35Prof. Dr. Volker Skwarek Und das war ja nicht die Frage, werte ich die Daten aus, sondern das ist die Frage, habe ich ein System, das ich so die Daten sogar beschaffen könnte, also dürfte ich das System gar nicht fragen oder müsste es ihm aktiv verbieten. Dazu ist für uns der KI-Nutzung mittlerweile schon zu Commodity geworden, dass wir ernsthaft überlegen, ob diese Tafel Schokolade, die wir jetzt kaufen, fair gehandelt wurde.

50:59Prof. Dr. Volker Skwarek Wir wollen Schokolade haben und kaufen sie. Wir wollen Gesundheitsdaten haben und fragen die KI und machen uns null Gedanken darüber, welche Auswirkungen das haben könnte.

51:09Monina Schwarz Ich möchte nochmal kurz ergänzen, dass wir uns in dem Kontext, nochmal um jetzt zurück zum Anfang zu kommen, auch bewusst sein sollten, dass wir, obwohl es KI heißt oder jetzt auch gerne AI oder Superintelligence, jetzt neu SI, dass es trotzdem aktuell nicht unserem Maßstab von einem intelligenten Wesen entspricht, mit dem wir da reden, sondern dass es immer noch ein System ist, das in irgendeiner Form abstrakt und ohne Werte zu kennen, die wir kennen, agiert.

51:37Monina Schwarz Und das ist ganz wichtig, dass wir das im Hinterkopf behalten, wenn wir mit KI interagieren. Dann sind wir damit auch durch diese Folge durch und das war unsere Sicherheitslücke zu der Frage, kann KI-Ethik? Ihr könnt die Sicherheitslücke überall finden, wo ihr Podcasts hört und auch auf unserer Webseite www.sicherheitslücke.fm.

51:53Monina Schwarz Den Link zu unserer Webseite und zu den weiterführenden Inhalten dieser Folge findet ihr in den Shownotes, genau wie die Links zu die Sicherheitslücke in den sozialen Medien. Empfehlt uns gerne weiter und bewertet uns dort, wo ihr uns hört, damit auch andere uns leichter finden können. Die Sicherheitslücke ist ein Podcast der Hamburg Open Online University und die Kapitelbilder zu der Folge kommen von Anne Vogt und die Produktion übernimmt Christian Friedrich. Vielen Dank an alle dafür.

52:14Monina Schwarz Wir verabschieden uns und bis zur nächsten Folge.

52:16Prof. Dr. Volker Skwarek Monina Schwarz und Volker Skwarek.