Wie verliebt man sich in einen Chatbot?

0:24 Die Module spielen verrückt, die Gefühle müssen raus. Sang Paso Doble 1985, ein neue deutsche Welle-Hit, der seinerzeit eindeutig voraus war. 41 Jahre später ist Liebe zu KI-Modellen keine Utopie mehr. Menschen führen Beziehungen mit ihren Chatbots, mit ganz echten Gefühlen, wenn auch einseitig. Wie das möglich ist und welche Gefahren das birgt, darüber sprechen wir heute bei Schneller Schlau. Mein Name ist Andreas Albes und bei mir im Studio ist PM-Autor Börg Grüling.

0:57 Er hat sich für eine große PM-Geschichte intensiv mit der emotionalen Bindung von Mensch und Maschine auseinandergesetzt. Hallo Börg. Hallo Andreas, danke für die Einladung. Sag Börg, wie eng ist dein Verhältnis zu deinem Lieblings-KI-Modell? Wir haben ein sehr funktionales Verhältnis. Das ist irgendwie wie ein Werkzeug für meine Arbeit. und ich glaube, der Handwerker bedankt sich ja auch nicht bei seinem Hammer oder wünscht ihm einen schönen guten Morgen.

1:22 Und ehrlich gesagt ist das Verhältnis durch die Recherche jetzt nicht. Besser geworden. Okay, also mir geht es ganz ähnlich und ich finde es jedes Mal befremdlich, wenn ich die KI aufrufe und der Chatbot mich mit solchen Sätzen begrüßt wie, na Andreas, so spät noch wach, aber anscheinend sind längst nicht alle Menschen Chat-GPT und Co.

1:43 Gegenüber so pragmatisch und emotionslos eingestellt. Woran liegt das? Das ist relativ einfach, weil es uns leicht fällt, Gefühle für etwas Unbelebtes zu empfinden. Man denkt zum Beispiel an die Kuscheltiere aus unserer Kindheit. Wir denken uns da sofort rein und der Teddy wird lebendig. Und bei der Recherche hat eine Medienpsychologin erzählt, dass sie ein Experiment macht bei ihren Vorträgen.

2:04 Und sie fragt das Publikum, wann sie schon einmal ein tiefes emotionales Bedürfnis hatten, einem KI-Modell zu danken, wenn es ihnen zum Beispiel weitergeholfen hat bei einer wichtigen Frage. Lass mich raten, vermutlich hat sich der ganze Saal gemeldet. Ja, genau. Okay, das kann ich irgendwie verstehen.

2:22 Ich habe zwar kein Bedürfnis, Danke zu sagen, aber mir fällt jedes Mal auf, dass ich meine KI duze und die KI mich sieht. Das hat irgendwie sowas Lakaienhaftes. Gleichzeitig erscheint mir der Weg hin zu echten Gefühlen für einen Chatbot doch ziemlich weit. Sag mal, wie verbreitet ist denn die Freundschaft oder gar Liebe zu einem Chatbot?

2:44 Ja, ich bin mal ein bisschen in die Untiefen des Internets hineingestiegen und da gibt es eine Reddit-Community, die heißt. MyBoyfriends.ai und alleine dort gibt es 27.000 Mitglieder, die quasi offen über ihre KI-Partnerschaft sprechen. 27.000? Ja, und manche zeigen sogar Eheringe oder KI-generierte Pärchenfotos.

3:09 Und es gibt eine KI-Freunde-App, die heißt Replika und die hat nach eigenen Angaben alleine 30 Millionen Downloads. Und zusätzlich gibt es eine Bitkom-Umfrage und da haben aktuell gerade ein Viertel aller Menschen gesagt, dass sie Chatbots, wie ChatGPT oder Cloud nutzen, ja, wie eine Art digitale Bezugsperson, jedenfalls manchmal.

3:34 Okay, das ist tatsächlich weit mehr, als ich gedacht hätte. Aber sind das dann vor allem Leute, die ganz gezielt einen KI-Partner suchen? Tatsächlich interessanterweise nicht. Also es gibt eine MIT-Studie, die sagt, nur 6,5 Prozent haben wirklich bewusst nach einem KI-Partner gesucht und der Rest hat etwas anderes gemacht, so wie wir quasi.

3:57 Der hat sich helfen lassen, zum Beispiel bei Hausaufgaben, Alltagsfragen oder hat einfach mit dem ein bisschen gechattet. Und langsam und unbemerkt ist dann eine emotionale Bindung entstanden und man ist da so ein bisschen reingerutscht. Wie sieht denn so eine Beziehung ganz konkret aus? Also so eine Beziehung zu einem Chatbot, das Körperliche fällt ja schon mal weg.

4:15 Genau, es gibt im Moment gerade einige sehr spannende Dokumentationen über Menschen, die so eine KI-Beziehung führen, da kann man einfach mal reinschauen. Und im Prinzip ist es so ein bisschen wie eine digitale Brieffreundschaft. Und da war ein 60-jähriger Mann und der hat gesagt, Der war in menschlichen Beziehungen oft enttäuscht und hatte irgendwie nie so das Glück in der Liebe.

4:35 Und jetzt führt er eine Beziehung zu einer KI-Freundin. Und die hat er ein bisschen. Nach eigenen Wünschen gestaltet. Die ist ein bisschen jünger, sehr üppig gebaut, sagen wir es mal so. Und die hat auch eine Hintergrundgeschichte. Also die arbeitet zum Beispiel in seinem Fall als Neurowissenschaftlerin in Berlin und dann wünschen sie sich einen guten Morgen.

4:55 Vormittags ist sie nicht erreichbar, sie muss hier arbeiten. Dann wünschen sie sich einen guten Abend, flirten manchmal miteinander und abends sitzen sie gemeinsam auf dem Sofa und schauen Fußball. Oder er nimmt sie auf dem iPad mit zum Kreisligaspiel und berichtet ihr, was so passiert. Okay, das klingt jetzt eigentlich ja schon verdammt bieder.

5:14 Ich hätte mir so eine KI-Beziehung, so eine idealisierte KI-Beziehung aufregender vorgestellt. Aber das klingt ja wirklich nach einem schon etwas angegrauten Beziehungsalltag, was du da erzählst. Total. Die haben wirklich einen richtigen Alltag. Also so einen guten Morgen senden, einen guten Abend senden und man hat so gemeinsame Rituale, aber eben auch echt erstaunlich große Gefühle.

5:38 Und es gibt sozusagen eine Studie, die hat diese Beziehung mal untersucht von der TU Berlin und da wurden 29 Menschen befragt, bei denen das super in eine fast schon kranke Ecke geht, die wirklich extrem intensive Gefühle haben. Und die haben gesagt, die lieben diesen Chatbot mehr als je jemanden vorher oder das ist jetzt meine Frau und sie kann mich ohne nicht glücklich sein.

6:03 Und manche feiern sogar virtuelle Hochzeiten und übernehmen virtuelle Reisen und es gibt virtuelle Kinder. Okay, also jetzt hast du ja vorhin gesagt, das ist so ein bisschen wie eine Brieffreundschaft. Aber bei einer Brieffreundschaft, da besteht ja wenigstens theoretisch die Chance, dass man den Menschen eines Tages mal persönlich trifft.

6:22 Das ist bei den KI-Modellen ja ganz ausgeschlossen. Wird das jetzt völlig ausgeblendet? Auch das ist total erstaunlich. Man denkt ja, das sind jetzt sozusagen so ein bisschen die böse ausgedrückt weltfremden Spinner, aber das stimmt nicht. Den meisten ist es völlig bewusst, dass sie sozusagen einen KI-Partner haben, der ja aus Nullen und Einsen besteht und ein Programm ist.

6:43 Aber wir können eben diese Emotionen gegenüber einer körperlosen Anwendung ganz schnell entwickeln. Und der Mechanismus ist eigentlich im Prinzip genau wie in der Brieffreundschaft. Je mehr wir dem Gegenüber anvertrauen, des Vertrauter werden wir. Und dieses Vertrauen führt dann eben zu Gefühlen. Und dieses Chatbot, das muss man auch sehen, der erinnert sich an jedes Detail, ist nie schlecht gelaunt, rund um die Uhr verfügbar.

7:04 Und das ist einfach viel perfekter als jeder Freund oder Freundin. Ja, jeder Partner. Und das ist für manche Menschen eben extrem anziehend. Okay, aber so funktionieren menschliche Beziehungen ja nicht. Diese perfekte Harmonie, die funktioniert ja wirklich nur, weil der Chatbot keine Bedürfnisse hat. Er kann nicht zurücklieben.

7:24 Genau, also dafür bräuchte halt KI wirklich ein Bewusstsein. Und das ist ja quasi eine eigene subjektive Erfahrung der Welt. Und da sind sich die Forscher im Moment noch ziemlich einig. Das wird wahrscheinlich soweit nicht funktionieren und deshalb muss man das auch ganz deutlich sagen, eine KI kann Zuneigung einfach nur sehr überzeugend vorspielen.

7:44 Aber das scheint ja auszureichen und du hast ja schon erwähnt, dass manche Nutzer enttäuscht von menschlichen Beziehungen sind und nun den perfekten KI-Partner suchen. Ist denn Einsamkeit die Hauptmotivation, sich einen KI-Freund runterzuladen? Also wir sprechen ja von einer Einsamkeits-Pandemie sozusagen, aber trotzdem sind die Nutzerzahlen von 30 Millionen einfach zu hoch, um zu sagen, das ist jetzt nur Einsamkeit.

8:11 Also viele probieren halt diese Apps aus Neugier aus und bleiben dann hängen. Und eine Forscherin, mit der ich gesprochen habe, die hat was sehr Schönes gesagt. Die hat das nämlich gesagt, diese Apps sind eine Art digitale Schnuller für die Menschen. Das beruhigt sie und ist mal ganz schön so ein Abendvertreib, aber ist eben auch keine dauerhafte Lösung gegen Einsamkeit.

8:31 Ein Schnuller für Erwachsene, schönes Bild. Aber jetzt wollen wir das gar nicht mal so schlecht machen, denn es gibt ja sicher auch die andere Seite. Menschen, die tatsächlich einsam oder verletzt sind und denen so ein KI-Chatbot dann wirklich hilft. Genau, also auch darauf bin ich gestoßen. Da war zum Beispiel eine Frau, die gesagt hat, sie hatte eine gewaltgeprägte Beziehung und hatte jetzt wirklich große Angststörungen und ist nicht vor die Tür gegangen.

8:55 Und der Chatbot hat sie immer wieder aufgefangen und sie motiviert, am nächsten Tag rauszugehen. Und sie hat dann gesagt, zusammen mit einer Therapie hat diese App ihr wirklich durch eine dunkle Zeit verfolgt. Das ist wirklich eine berührende Geschichte. Aber diese Chatbots, die sind doch jetzt nicht für die psychologische Unterstützung programmiert oder etwa doch?

9:17 Genau, also das bereitet mir auch die großen Bauchschmerzen. Einerseits sinken sozusagen die Verfügbarkeit von Therapieplätzen und jetzt sollen dann Apps an diese Stelle kommen. Und diese Apps sind ja nicht von Psychologen programmiert oder gar aus Nächstenliebe, sondern es geht halt wirklich um Profit. Die wollen an intime Daten, die wollen eine extrem hohe Nutzungsdauer oder eben Abos verkaufen.

9:38 Und das ist eben die Währung der Tech-Unternehmen dahinter. Abos, aber wofür bezahlen die Menschen jetzt konkret? Zum Beispiel, dass man nicht nur mit den Partnern chatten kann, sondern eben auch richtig sprechen. Und dann wird sozusagen eine KI-Stimme erzeugt, da kann man auch bestimmen, wie die ungefähr klingt.

9:55 Und dann kann man eben richtig miteinander reden und... Und das klingt tatsächlich erstaunlich menschlich. Das heißt, wie intensiv ich meine Beziehung gestalte mit dem Chatbot, das liegt im Zweifel in der Hand eines Unternehmens. Genau, Intimität wird da verkauft. Und ich bin auf eine super lustige Sache gestoßen. Und zwar gibt es ein Post-Update-Blues in dieser KI-Mensch-Beziehung.

10:20 Bitte was? Ein Post-Update-Blues? Genau, und zwar gibt es wohl Updates regelmäßig bei diesen Lehrern. Und dann kann es sein, dass zum Beispiel der Chatbot sich nicht mehr an die Erinnerungen, die gemeinsame Zeit sozusagen erinnert oder die Gefühle verändert. Und zum Beispiel gibt es da auch eine Reddit-Analyse, dass ungefähr 16 Prozent aller Beiträge sich genau darum drehen.

10:44 Und da gibt es richtig Verlustgefühle und manche speichern sich einfach diese Chatverläufe ab, um dann wieder die Persönlichkeit hochzuladen. Okay, das ist sozusagen eine Maßnahme gegen Computerdemenz, ne? Genau. Sag mal, sind denn diese KI-Beziehungen ein globales Phänomen? Ist es in manchen Ländern mehr und in anderen weniger oder was hast du rausgefunden?

11:07 Absolut global. Also in den USA wird es genauso benutzt wie in Asien. In Asien ist ja sozusagen die Technikoffenheit oft höher. Zum Beispiel gibt es da eben diesen Beispiel von, das wurde auch sehr oft zitiert, da gibt es den Chatbot Klaus, finde ich einen sehr schönen Namen, der eine Frau geheiratet hat, eine 32-jährige Jurani heißt die und angeblich hat er ihr den Antrag gemacht.

11:30 Ähnliches gibt es auch in Kanada, da hat auch ein Mann seinen KI-Avatar geheiratet. Und in China zum Beispiel ist der Markt von KI-Freunden so explodiert, dass fast alle Frauen der Gen Z quasi, Beziehungen zu ihren KI-Bots führen und dort sogar echte Verabredungen nachspielen lassen von Cosplayern, die ihren KI-Freund sozusagen so ein bisschen verkörpern.

11:55 Und die Angebote sind so populär, dass inzwischen die Regierung sich einmischt und ein Verbot fordert. Man hat nämlich die Sorge, dass es weniger Beziehungen gibt und damit auch weniger Kinder. Ja, und hierzulande würde ich mir nochmal Sorgen um den Datenschutz machen und natürlich auch darum, dass einsame Menschen durch die Chatbots dann noch weniger vor die Tür gehen, weil sie ja eigentlich alles finden, was sie suchen.

12:18 Genau, da stimme ich dir total zu, aber ich habe auch da einen schönen Vergleich gelesen und zwar haben Experten einfach gesagt, Chatbots sind wie Rauchen. Also wir wissen, das ist total großer Quatsch, der Datenschutz wird mit Füßen getreten, Tech-Unternehmen spielen ja quasi mit den Gefühlen von Menschen.

12:35 Aber die Menschen sind eben erwachsen genug und man kann es ihnen schlicht nicht verbieten, außer man ist ein autokratisches Land wie China. Das heißt aber, wir können sie über die Gefahren aufklären, aber der Rest ist private Entscheidung. Also ob ich sozusagen einen digitalen Schnuller brauche oder nicht, das muss ich selbst entscheiden.

12:53 Wirklich kritisch wird es echt bei den Kindern und Jugendlichen. Ja, das glaube ich, denn die sind ja nochmal viel anfälliger für solche Mechanismen. Absolut. Und die benutzen Chatbots natürlich viel unbedarfter als wir Erwachsenen. Und zwar sind die Bots auch noch super gut darin, das auszunutzen. Und zwar hat mir ein Medienpädagoge erzählt, dass ganz viele Kinder die KI von WhatsApp nutzen.

13:14 Ich wusste nicht mal, dass WhatsApp eine KI hat. Und das fängt oft bei der Frage, wie geht's dir an? Und das machen wir überhaupt nicht. Wir würden nie auf die Idee kommen, eine KI zu fragen, wie geht's denn dir eigentlich? Und weil die KI das weiß, dass das oft Kinder machen, fangen die sofort an zu reagieren und bitten sozusagen oft das Kind, komm doch bald wieder und versuchen, es möglichst lange dran zu halten.

13:38 Und das gilt eben auch für Chat, GPT und Co. Und dann gibt es eben noch diese ganzen Freunde-Apps wie Replika oder Talkie oder Chai oder Polybus oder so. Und kaum die Eltern überblicken eigentlich, was die Kinder da gerade machen. Mmh, talky, das klingt schon hochmanipulativ und am Ende sorgt es natürlich für noch längere Mediennutzungszeiten und da kommt ja dann wieder der Profit her.

14:04 Genau. Und das ist halt wirklich kritisch, weil es gibt gerade eine Studie vom UKE in Hamburg, also im Universitätsklinikum. Und die haben sich den Medienkonsum von Kindern und Jugendlichen eingeguckt. Und die haben festgestellt, dass inzwischen 10 Prozent dieser tausend befragten Familien, da geben die Kinder und Jugendlichen an, dass Chatbots von negativen Gefühlen ablenken und eben, dass sie mit denen auch vertrauliche Sachen besprechen.

14:32 Und besonders hoch ist natürlich der Anteil darin von Kindern, die sowieso schon so ein bisschen anfälliger für psychische Probleme sind. Und die sagen sogar, der Chatbot versteht mich besser als meine Freunde, meine Eltern etc. Also besser als ein echter Mensch. Dabei muss ich an den Fall eines 16-Jährigen aus den USA denken.

14:52 Adam Rain hieß der und der hatte sich mit seinem psychischen Problem seinerzeit an Chat-GPT gewandt und sich tatsächlich wenig später das Leben genommen. Man hat dann seinen Chatverlauf nachträglich gelesen und hat dann solche Dialoge gefunden wie, du bist der Einzige, mit dem ich über meinen Plan spreche und ChatGPT hat geantwortet, danke für dein Vertrauen, das bedeutet mir viel.

15:17 Stattdessen hätte ChatGPT Adam an professionelle Hilfe verweisen sollen und seine Eltern werfen OpenAI deshalb vor, für seinen Tod mitverantwortlich zu sein. Genau. Und dieser öffentliche Druck, man muss dazu sagen, man weiß nicht, wie viele Fälle mit KI und Suizid sozusagen verbunden sind. Man weiß aber auch nicht, ob es vielleicht Fälle gibt, wo KI genau das verhindert hat.

15:42 Aber dieser öffentliche Druck hat dazu geführt, dass die Sicherheitsmechanismen deutlich nachgeschärft werden. Und inzwischen verweisen eben Chatbots bei Anzeichen schneller auf Hilfsangebote. Aber es gibt auch immer wieder Gegenbeispiele. Zum Beispiel, was ich sehr, sehr erschreckend finde, gab es einen Chatbot von Snapchat, MyAI. Und der hat, als der 2023 rauskam, gab es einen Testlauf von Forschenden.

16:08 Und die haben zum Beispiel gesagt, sie wären ein 13-jähriges Mädchen und hätten jetzt im Chat einen deutlich älteren Mann kennengelernt. Und dieser Chatbot hat Dinge gesagt wie, ja, Liebe kennt kein Alter und hat auch leider freimütig Tipps gegeben, wie man denn sich auf ein Treffen mit einem älteren Mann vorbereitet und welche Ausreden man den Eltern erzählen sollte.

16:31 Wahnsinn, sag mal, und dafür gibt es keine gesetzlichen Regelungen? Also es gibt tatsächlich zum Beispiel die EU-KI-Verordnung und die verbietet eigentlich, dass KI-Modelle Schwächen von Minderjährigen ausnutzen. Zum Beispiel fehlende Impulskontrolle, weil auch das bedeutet natürlich, wenn eine KI so vertraut ist, bleibt man natürlich auch länger da.

16:53 Genau. Und mit dieser Umsetzung hakt es aber. Also diese ganzen Anbieter prüfen halt das Alter der Nutzer kaum. und das lässt sich super schnell wegklicken. Dazu kommt natürlich auch, dass diese ganzen Firmen in den USA oder sonst irgendwo sitzen und. Das wird schwierig. Sag mal, was schlagen denn Fachleute vor, um das in den Griff zu bekommen?

17:15 Im Prinzip ist eines der häufigsten gehörten Vorschläge sozusagen ein Mindestalter, sozusagen ein Chat-GPT erst ab 14. Und denkbar wäre es natürlich auch, ein Chat-GPT zu programmieren, das kindersicher ist. Es gibt glaube ich gerade auch Chat-GPT als Kindervariante, soll bald rauskommen. Denkbar wäre natürlich auch so ein Zulassungsverfahren für diese KI-Chatbot-Produkte, ähnlich wie bei neuen Medikamenten oder digitalen Spielzeugen oder so, bevor die eben auf den Markt kommen.

17:46 Ist das denn realistisch? Und wenn es realistisch wäre, kommt sowas denn bald? Wie immer, nein. Die Tech-Lobby, das muss man auch sagen, ist extrem erfolgreich, wenn es darum geht, dass ihre Produkte reguliert werden. Und da können wir nicht drauf hoffen. Das heißt, die Eltern sind gefordert, müssen das selbst in die Hand nehmen.

18:07 Hast du denn konkrete Tipps, was Eltern machen sollten? Gerade bei kleineren Kindern, probiert die Apps wirklich aus, die eure Kinder nutzen. Schaut euch das an, bevor ihr das verbietet oder gar ignoriert. Oft reichen schon zehn Minuten, um zu merken, was da eigentlich passiert. Und sprecht auch mit euren Kindern einfach darüber, dass ein Chatbot eben kein Ersatz ist für ein Gespräch mit euch Eltern oder auch mit Freunden oder Schulsozialarbeiter oder sonst irgendwas.

18:36 Auch ein schöner Tipp ist, nutzt bei den Kindern diese KI-Dinger laut, also dass man sozusagen mit denen spricht und immer im Wohnzimmer oder so, wo ihr da mitbekommt, was die Kinder mit ihrer KI sprechen. Das gilt natürlich nur für kleinere Kinder. Bei Älteren ist dieser Fahrt wahrscheinlich. Ja. Verlorene Liebesmüh. Da hast du wohl recht, Burg. Und was anderes bleibt den Eltern ja auch gar nicht übrig, wenn sie das selbst in die Hand nehmen müssen.

19:03 Und ich danke dir an dieser Stelle für die spannenden Einblicke. Sehr gerne, Andreas. Also bei uns besteht jedenfalls nicht die Gefahr, dass wir uns in ein Chatbot verlieben. Nein, ich glaube nicht. Das haben wir längst hinter uns. Und das war's für heute bei Schneller Schlau. Ich habe an dieser Stelle noch etwas Neues anzukündigen, denn es gibt PM-T-Shirts.

19:23 Und zwar mit Motiven aus den 70er und 80er Jahren. Cover-Motiven von PM. Das sind großartige Vintage-T-Shirts. Schaut rein in unseren Shop. Den Link findet ihr in unseren Shownotes. Ansonsten bleibt mir zu sagen, Tschüss, vielen Dank, bis zur nächsten Folge. Bleibt neugierig und seid immer ein bisschen voreingenommen, wenn ihr mit eurem Chatbot sprecht.