KI als Therapeut*in? Zwischen niedrigschwelliger Hilfe, gefährlicher Bestätigung und dem Wert echter Beziehung.

Katja: [00:00:03] Herzlich Willkommen bei Was ist los im Kopf, dem Podcast von die Psychologinnen mit Julia Pouly und mir, Katja Tressel. Wir helfen euch, eure Gedanken, Gefühle sowie euer Verhalten besser zu verstehen. Aus psychologischen Theorien und Erkenntnissen leiten wir für euch konkrete Werkzeuge für den Alltag ab. Herzlich Willkommen bei unserer neuen Folge von Was ist los im Kopf. Es geht immer noch um das Thema künstliche Intelligenz, spezifisch um die großen generischen Sprachmodelle, ChatGPT, Claude und wie sie alle heißen. Und mit mir im Studio ist wieder die Julia. Hallihallo. Und in der letzten Folge haben wir uns ja eher mal allgemein mit KI beschäftigt, was vielleicht auch für größere Umbrüche auf uns zukommen. Ob wir als Menschen dann dümmer werden, wenn wir viel KI benutzen und was uns aber auch gleichzeitig fasziniert an KI und warum wir dazu neigen, diesen Sprachmodellen auch menschliches Bewusstsein zuzuschreiben. [00:01:12] Falls ihr die noch nicht gehört habt, hört gerne noch rein. Heute geht es mal um ein Thema, das insbesondere Julia und mich aus einer beruflichen Sicht betrifft oder interessiert. Nämlich KI als Coach und Therapeutin. Was kann sie und was kann sie nicht? Also, wir haben letztes Mal ja gesagt, oh, müssen wir jetzt alle Angst haben, dass wir unsere Jobs verlieren? Und die Frage ist natürlich, Julia und ich als Psychologinnen und Coachinnen, sind wir denn bald überflüssig? Wird KI unsere Arbeit ersetzen?

Julia: [00:01:48] Andererseits kann man es natürlich auch hoffnungsvoll umdrehen, weil man sagt, es gibt nicht genug Therapieplätze und so. Ist das gar nicht schlimm, weil wir haben jetzt die KI und die macht das jetzt alles.

Katja: [00:01:58] Genau, also der erste Perspektivwechsel schon. Ich gehe mal von der Angst zur Hoffnung. Gleichzeitig gibt es ja noch einen zweiten Hoffnungsschimmer, also das World Economic Forum, der Future of Jobs Report 2025, 25 sagt, dass insbesondere Pflege, Sozialarbeit und Beratungsberufe bis zu den stärksten Wachstumsfeldern bis 2030 gehören, weil sie eben menschliche Verbindungen erfordern. Aber KI ist im Bereich Mental Health angekommen, ob wir das jetzt wollen oder nicht oder ob wir das gut finden oder nicht. Es gibt eine massive informelle Nutzung von diesen Sprachmodellen, also ChatGPT und anderen als Therapie. Da gab es einen Artikel dazu, dass ChatGPT heimlich der größte Therapieanbieter in den USA sei. Also die wurden nie als Tools vermarktet in die Richtung, sind ja auch überhaupt nicht darauf trainiert oder ausgebildet, wenn man das mal so in Anführungszeichen sagen will. [00:03:06] Haben sich aber organisch zum großen Anbieter entwickelt, einfach weil die Leute sie so nutzen. Und ich habe in der letzten Folge schon mal diese Studie erwähnt, die so eine Gruppe von technikaffinen Menschen mit psychischer Erkrankung gefragt hat. Und da gab eben jeder, fast jeder Zweite an, ja, ich nutze diese Sprachmodelle auch für meine mentale Gesundheit. Es könnten in den USA etwa 13 Millionen Menschen sein. Und zum Vergleich, also es gibt ein großes Kliniknetzwerk wie die Veterans Health Administration, die versorgt etwa 1,7 Millionen Menschen. Also es ist schon eine Masse.

Julia: [00:03:45] Genau, und ich meine, diese Sachen zu interpretieren, kann man natürlich unterschiedlich machen. Weil für mich zeigt das auch einmal, dass gerade in den USA da ein Riesenvakuum ist. Also das ist ja, ich meine, wir haben in Deutschland viele, viele Sachen, die verbessert werden können und die nicht so laufen, wie besonders patientenfreundlich wer, genau, oder auch therapeutenfreundlich. Wo man aber denkt, also so meine Laieneinschätzung in den USA, also es ist wirklich menschenunfreundlich. Und wo man halt denkt, so, ne, diese ganze, die fehlende soziale Absicherung, die wir haben, plus, dass ja auch dort eigentlich sonst, ich glaube, die zweitgrößten Anbieter, die sich mit Mental Health da beschäftigen, mit den schweren Fällen, das ist eigentlich so das Gefängnissystem. Weil die ja dort sonst kein System haben, was die Leute aufhängt, die das vielleicht sich auch finanziell nicht leisten können, ne, und die Problematik mit den Versicherungen.

Katja: [00:04:38] Genau, soweit ich weiß, wird es eben nicht über die Krankenversicherung finanziert. Das heißt, Therapie, also es ist auch übrigens in Europa nicht überall so, ne. Also in Italien zum Beispiel muss man auch seine Psychotherapie selber bezahlen, zumindest soweit ich informiert bin. Und es ist ein Kostenfaktor, weil Therapie, da gehst du ja nicht nur dreimal hin, sondern du wirst ja vielleicht ein, zwei Jahre in Therapie, einmal wöchentlich, und dann hast du so 100, 120, vielleicht mehr Euro pro Sitzung. Das muss man sich leisten können in manchen Ländern, ja. Und es ist schon auch ein Grund dafür, dass eben diese Sprachmodelle dann da sind und genutzt werden. Ich würde gerne nochmal ein bisschen zurückgehen zu dem Thema Warum suchen, also bei welchen Beschwerden nutzen die Menschen KI. Also die häufigsten sind Angstzustände, gefolgt von Depressionen, dann Stress, Beziehungsprobleme. Und dann gibt es auch etliche, die während akuter Krisen und Panikattacken und sogar ein kleinerer Prozentsatz, [00:05:39] der bei suizidalen Gedanken sich an eine künstliche Intelligenz wendet. Und es ist ja auch schon mal ein Hinweis drauf, dass ein entscheidender Faktor ist, der ist halt einfach verfügbar. Ich habe mein Handy in der Hand und ich habe erstmal kostenfrei, weil jedes Modell ist ja im Grunde erstmal kostenfrei nutzbar, jemanden, der mir antwortet. Rund um die Uhr. Rund um die Uhr, der mich nicht beschämt, wo ich eine relative Sicherheit habe. Ich kriege da jetzt erstmal eine Antwort, die mich nicht niedermacht, die mich sagt, stell dich nicht so an, die völlig mit Unverständnis reagiert. Also die Schwelle ist schon sehr niedrig, sage ich mal, sich da hinzuwenden, wenn ich so eine Hilfe brauche.

Julia: [00:06:24] Also das knüpft ja an, als was wir in der letzten Folge gesagt haben, mit diesem Ganzen, dass wir ja irgendwie auch Empathie unterstellen, dass wir unterstellen, dass da wirklich ja ein Bewusstsein dahinter ist, wo ja das so dieses grundsätzliche menschliche Bedürfnis ist, so ich bin nicht allein und jemand ist irgendwie interessiert an meinem Schicksal.

Katja: [00:06:42] Genau, und das ist ja auch der Antrieb. Ich bin nicht alleine, da werden wir in der dritten Folge dann noch mal intensiver drauf eingehen und jemand ist interessiert an mir und antwortet mir auch. Und tatsächlich in dieser Studie, die ich gerade genannt habe, gab mehr als die Hälfte der Teilnehmenden an, dass die Interaktion mit KI ihre psychische Gesundheit tatsächlich verbessert hat. Das ist jetzt natürlich ein Selbstbericht, das heißt, es wurde nicht objektiv nachgeprüft, ob es wirklich so war. Besonders als sinnvoll bewertet wurde der praktische Rat, also dass einem einfach Bewältigungsstrategien vorgeschlagen wurden. Es ist ja auch so ein bisschen so dieses, na was soll ich denn jetzt machen und jemand anders gibt mir die Antwort und dann habe ich, muss ich schon mal nicht selber überlegen, was jetzt vielleicht sinnvoll wäre für mich. Ist jetzt vielleicht ein bisschen boshaft, aber es ist erstmal eine schnelle Hilfe. Ja, ich suche einen Rat und kriege einen und auch, also 75 Prozent derer, die schon auch mal bei menschlichen Therapeuten oder Coach waren, [00:07:45] haben gesagt, na die KI ist genauso gut oder sogar besser.

Julia: [00:07:50] Naja, jetzt irgendwie hoffnungsvoll und bedrohlich, zugleich.

Katja: [00:07:53] Genau, also muss man sich vielleicht auch in der Profession an die eigene Nase fassen und klar, wir reagieren natürlich auch auf andere Menschen. Wir sind Menschen, wir haben Stimmungsschwankungen, wir haben bessere, schlechtere Tage, wir reagieren vielleicht auch mal ärgerlich, wenn ein Gespräch zäh oder anstrengend ist und natürlich ist es die Aufgabe, sich zu regulieren als Coach oder Therapeut, aber das wird nicht immer 100 Prozent gelingen.

Julia: [00:08:21] Ja, mir sind zwei Gedanken dann auch gekommen. Also mein erster Impuls war auch, wo ich ja dachte, so ja, es verbessert sich, das Ruhe finden, wo ich ja denke, so ganz viele Werkzeuge, ja auch aus dem Coaching und so, geht ja wirklich auch erstmal da, ne, aktiv zuhören, jemand Zeit zu lassen, so im Sprechen seine Gedanken zu ordnen, ne, den Fokus in die eigene Person zu lehnen, dass man ja einfach wirklich da ist und so ein Sounding. Genau, validieren, paraphrasieren und so, ne, also.

Katja: [00:08:52] Die Kernkompetenz von Sprachmodellen. //Katja: Genau.//

Julia: [00:08:56] Und wo ich halt denke, so, ja klar, das ist was, wo ich mir vorstellen kann, das kann KI richtig gut, also die lässt sich ja immer ausreden. Du kannst ja erst, ne, du entscheidest ja, welche, wann sozusagen du fertig getippt hast oder man kann ja auch sprechen und so, es kommt ja nie dann vorher schon, also man lässt den Knopf so vor los, ne, dass das, man nicht ganz ausgehört wird und man kann ja auch das gleiche 25 Mal noch sagen und so, ne.

Katja: [00:09:20] Da protestiere ich aber mal, weil die nicht ganz ausgehört, ich habe auch schon mit KI gesprochen und wenn ich eine Denkpause gemacht habe, hat der mir sofort zurückgequatscht. Oh ja. Und das ist eben auch, aber da werden wir auch in der dritten Folge nochmal drauf eingehen, eine menschliche Qualität, dass wir allen Schweigen aushalten können und dass das gerade wichtig ist in manchen Prozessen. Also, will ich es KI nicht komplett verteufeln, aber es gibt natürlich eine Packungsbeilage dazu.

Julia: [00:09:48] Ja, also ich muss sagen, ich nutze das Sprechen eigentlich fast nie, deswegen habe ich wenig, aber jetzt, wo du es sagst, erinnere ich mich, dass wenn man dann, man kontinuierlich reden muss, wenn man weiß, sobald man einmal Atmen holt, kommt dann so, oh ja, genau.

Katja: [00:10:02] Genau, also sofort, Bäm, kommt dann die Antwort, du bist so halb im Satz und denkst kurz nach. Genau, und beim Schreiben ist es ja sozusagen, man kann das alles runterschreiben und so

Julia: [00:10:11] oder deswegen, ich bin eher die Person, die viel diktiert auch. Genau, und das Zweite, was mich überrascht hat, war jetzt mit dem praktischen Rat, weil das ist ja auch wieder spannend, wenn wir so generell auch da in die Sozialpsychologie gehen und so, wie lassen wir uns gerne helfen, also wie helfen wir gerne, wir geben alle sehr gerne Ratschläge, davon bin ich nicht ausgenommen. Und andererseits ist ja das, was die meisten Menschen eigentlich wollen, ist oft, dass einfach jemand empathisch zuhört oder halt richtig mit anpackt und nicht nur einfach sagt, was zu tun ist. Und dass da ja so die, also das Kriterium war ja oft, ob man Expertise der Person zuspricht. Also von Ärzten nehmen wir zum Beispiel gerne Rat an, weil wir das Gefühl haben, die wissen, was sie tun, hoffentlich auch von Coaches und Therapeuten. Und ich finde, das sagt ja was darüber aus, wie wir die KI wahrnehmen, wenn wir sagen, das ist eine Quelle, dann nehme ich praktisch einen Rat an. Wenn meine Freundin und mein Partner mir das sagt, dann tue ich das ab und so, weil das wollte ich jetzt nicht. [00:11:13] Genau, aber der KI spreche ich das zu, dass ich mich einfach daran halte. Und wie du halt meinst, dieses einfach, ich muss jetzt nicht entscheiden, sondern ich kriege jetzt eine klare Anleitung, das ist der erste Schritt, wird das der zweite Schritt dann weiter.

Katja: [00:11:26] Wobei ich jetzt, also ich bin nicht ganz sicher, ob in der Studie jetzt so dieses, ich frage was und kriege den gleichen Ratschlag gemeint war oder ob tatsächlich dir die KI dann hilft, Bewältigungsstrategien zu erstellen. Und das wäre ja auch was, was im klassischen Coaching passieren würde, dass man den Klienten, die Klientin begleitet, zu einer Bewältigungsstrategie, die dann aber aus ihr oder aus ihm selber kommt. Du hast vorhin schon ein paar Aspekte genannt, ja, warum nutze ich denn KI und gehe nicht zum, auf nicht beim Therapeuten, Therapeutin an, lass mich erst mal auf die Warteliste schreiben. Das ist nämlich schon ein großes Manko. Das ist ja, selbst hier in Deutschland schon, ja, schlimm im Grunde, wie lange man warten muss auf dem Therapieplatz zum Teil. Und die KI ist halt rund um die Uhr verfügbar und kostet nichts. Ja, also das ist auch ein großer Faktor, gerade in Ländern, wo das nicht vom Öffentlichen oder vom Gesundheitssystem übernommen wird, die Hilfe bei mentaler Gesundheit.

[00:12:28] Und dann gibt es ja noch einen weiteren Aspekt, nämlich, dass gerade introvertierte Menschen oder Menschen, die soziale Ängste haben, diesen Schutzraum schätzen, den die KI bieten kann. Ich sage jetzt bewusst kann, weil es auch da nicht immer so ist, wo dann einfach der, man sich ohne Scham öffnen kann, wo man anonym bleibt, zumindest vermeintlich, ja. Also gut, kommt jetzt auch darauf an, ob man das mit einem Benutzer-Account benutzt oder nicht, weil man gibt ja sein Innerstes und seine Daten dann trotzdem weiter. Das wird auch noch so als Hinweis. Aber die Hemmschwelle ist natürlich erst mal niedrig, weil da ist nicht ein Mensch gegenüber, von dem ich, den ich überhaupt noch nicht kenne, dem ich mich vielleicht, ne, wo ich nicht weiß, wie reagiert der oder die über ein Thema, was jetzt vielleicht für mich schon schambehaftet ist. Da haben wir ja oft noch viel mehr Angst, dass der andere sich, also uns dann richtig aburteilt oder verurteilt. Das muss ja nicht so sein. Aber wenn ich natürlich einen menschlichen Therapeuten suche, [00:13:31] dann muss ich den oder die ja erst mal kennenlernen. Es gibt aber eben auch die Fälle, wo die Nutzer schädliche oder unangemessene Antworten bekommen haben von der KI. Also sachlich falsche Antworten ist am häufigsten. Es gibt aber auch abwertende, minimierende Antworten und unsensible Antworten. Und diese Sprachmodelle, also ich spreche jetzt mal von den allgemeinen, weil es gibt spezielle therapeutische Sprachmodelle. Das ist nochmal eine andere Kiste. Aber wenn ich mich einfach so hinsetze und benutze, was mir halt so unterkommt, die erkennen eben echte Krisensituationen langsam oder zu spät und reagieren dann mit so allgemeinen Ratschlägen, die in der Situation dann aber nicht hilfreich sind oder kontraproduktiv wirken können. Also das hat auch durchaus Haken, diese Verfügbarkeit und Schutzzone.

Julia: [00:14:22] Was ich da nochmal spannend finde auch, warum das erstmal auch so weitgehend so viele positive Sachen rüberkommen, wo ich mich irgendwie drin, da musst du so als Teenager, wenn man irgendwie verliebt so Nachrichten geschickt hat, vielleicht mit jemandem, den man auch nicht gesehen hat, man nicht telefoniert, sondern nur über SMS kommuniziert hat. Wo man natürlich, wenn man ja auch mit der KI sich schreibt, hat man natürlich ganz viel Raum, das auszuschmücken in der Fantasie, dass das eine echte Person ist und wie diese Person ist und was man das braucht. Also ich finde, diese Illusion, die man sich erschaffen kann, gibt natürlich ja also viel Potenzial, wenn man da so hat, wo man dann irgendwie hat, ja man fühlt sich auch verstanden, wo du auch meinst, dass manche verlieben sich richtig da und so, weil ich kenne das noch, dass das dann manchmal so ein Absturz ist, wenn man dann plötzlich die echte Person kennenlernt und dann das wegfällt, was man eigentlich sich dazu gedichtet hat von den paar Sätzen, die man bekommen hat. Und diese, ja.

Katja: [00:15:18] Also das Phänomen ist ja auch nicht ganz neu. Ich denke da an die parasozialen Beziehungen, also wenn man sich zum Beispiel verliebt in einen Filmstar oder nennen muss, also ne, irgendeine bekannte Persönlichkeit oder sogar einen Serienhelden, Serienheldin, der kann man ja im Kopf auch, also Kinder, Kinder, Jugendliche, also Kinder nicht, aber Jugendliche, da passiert das ja auch manchmal, ne, und dann himmelt man den oder die Person an und dann sieht man irgendein Interview oder irgendwas und die Person, also der Star sich halt verhält, wie er sich verhält und plötzlich bricht so die Welt ein bisschen zusammen, weil in der Fantasie

Julia: [00:15:53] natürlich ganz anders war, unperfekt. Genau, deswegen, ich frage mich auch da, ob es einen Unterschied macht, wo du vorher meintest, dass ja viele auch wirklich bei einer echten Therapie waren. man halt sagt, so wenn das irgendwie eine erfolgreiche Therapiebeziehung war und da gut war, wenn das sozusagen dieses eigene Können und die eigene Hoffnung dann mitkommt, wo man ja auch mit Prompts, also wo man sich sozusagen das holt, was man weiß, was man braucht. Also wo ich halt denke, diese Kompetenz, wenn die schon da ist, könnte ich mir vorstellen, dass das das noch mal weiter nach vorne bringt und im Gegensatz dazu, wenn man einfach so hingeht, wo halt meins diese Väter, weil sagt so, oh, ich habe irgendwie suizidale Gedanken und dann heißt so, oh ja, ein bisschen Sonnenschein und so und guck, dass du dich gut ernährst, ne, triff dich doch jetzt mit Freunden und so und dann irgendwelche Sachen vorschlägt, die halt auch gar nicht umsetzbar sind, wo halt da einerseits immer verfügbar in der Krise, aber nicht immer wirklich Krisen-ready in der Krise dann.

Katja: [00:16:48] Wo man sagt,

Julia: [00:16:48] okay, vielleicht besser als nichts, aber vielleicht nicht hilfreich,

Katja: [00:16:53] die Studie, gut, die war jetzt von 2025, ist noch nicht so alt, aber ich glaube, die Modelle, also die Modelle werden da ja auch stetig weiter verbessert, weil es ja eben diese, es gab ja auch Fälle von Suizid, von, ich weiß von einem Fall einen Jugendlichen, der sich wirklich verliebt hat in eine KI. Film, hör, glaube ich,

Julia: [00:17:13] mit Joaquim Phoenix, der verliebt sich doch auch in seine KI und damals war das noch so Zukunftsmusik, wo man sich das gar noch nicht so vorstellen kann.

Katja: [00:17:20] Genau, aber das ist da, ne, also es gibt, ich habe schon mehrere Reportagen gesehen, jetzt, die nicht KI generiert waren, die waren im öffentlich-rechtlichen Fernsehen, da gehe ich jetzt mal davon aus, dass das kein KI-Fake war, aber wo es eben genau darum ging, ja, dass Menschen romantische Beziehungen mit künstlicher Intelligenz eingehen. Und seit die ja auch, also sprechen können, da kannst du ja noch eine schöne, gibt ja auch Anbieter, die wirklich KI-Avatare für diesen Zweck erstellen. Ja, du kannst dir, also gibt es, gibt es ja alles schon. Aber das ist mal soweit zu der Nutzerseite für die, ja, Coaching oder Therapie. Coaches, also Psychologen, Coaches, TherapeutInnen nutzen KI auch. 2024 haben erst ein Viertel der Fachkräfte, sage ich mal, KI benutzt. Jetzt sind es schon über die Hälfte, also auch da gab es einen dramatischen Anstieg. Und die Hauptnutzungen sind allerdings als Schreibhilfe für Content-Erstellung, habe ich ja auch schon in mein Leib gesagt, [00:18:22] um Zusammenfassungen zu erstellen oder Notizen zu machen. Für die Diagnoseunterstützung und für direkte Assistenz mit Interaktion mit PatientInnen nutzen das unter 10%. Ja, also ich will sagen, man nutzt es, um sich im administrativen Bereich Erleichterung zu schaffen, um einfach wieder mehr Zeit für das zu haben, was man ja eigentlich machen will in dem Beruf, nämlich die eigentliche Behandlung und die Interaktion mit den Menschen. Und dann gibt es noch, fand ich auch interessant, von Anthropic, das ist ja die Firma, die Claude veröffentlicht. Claude ist ja jetzt gerade so das gehypte Modell, zumindest in meiner Bubble. Die schreiben also, drei Prozent aller Gespräche in Claude sind affektiver Natur, also da geht es um Emotionen, Beziehungsberatung, Coaching, Begleitung, Miteinander, also sich ja gegenüber zu schaffen. Das klingt wenig, aber es sind halt auch mehrere Millionen Menschen bei der Anzahl Nutzer, die das System hat.

Julia: [00:19:23] Ich finde es da auch spannend, was ich auch schön gehört habe, ist halt dieses, oh, ich habe irgendwie so einen Chatverlauf, habe mich irgendwie per Nachrichten mit jemandem irgendwie vielleicht ein Konfliktgespräch geführt oder irgendwas und gebe das dann der KI, um dann eine Einschätzung zu bekommen, um dann auch hinterher zu sagen, siehst du, da hast du mich vorgefühlt. Und das Ausprobieren, ob das dann der Beziehung hilft oder nicht, die Frage, //Katja: das ist die gute Frage,// ja. von den Prompts ab, das ist natürlich, finde ich, ist ja bei allen Sachen, mit welcher Interaktion geht man rein, wenn ich reingehen will und ich möchte, dass mir jemand ein Recht gibt und danach zeige ich das meinem Partner und der hat das falsch gemacht oder nutze ich das auch so, denke ich sage so, hey, ich habe jetzt hier eine Nachricht verfasst, ich bin gerade total geladen und ärgerlich, helfe mir das doch bitte so zu formulieren, dass meine Nachricht ankommt, ohne dass ich da Beleidigungen reinmache und so, ne, also, genau, ne,

Katja: [00:20:18] und das hat jetzt aber auch wieder ein bisschen was damit zu tun, wie intelligent man diese Systeme nutzt. Da kommt es halt schon sehr drauf an, eben, ne, wenn du jetzt eine Person bist, die sowieso sehr auf Kommunikation achtet und die entsprechend halt vielleicht auch vorgebildet ist und sagt, ne, ich kann mir jetzt der KI sagen, sie soll mich so und so unterstützen, mir ist es vielleicht besser einsetzbar, als wenn ich wirklich gerade auf einer Situation bin, wo ich mich bestätigen lassen will und werde ich auch gleich noch was dazu sagen. Es ist aber tatsächlich so, dass auch, also, es gibt schon mehrere Meta-Analysen und Studien, die geguckt haben, na ja, kann denn KI wirklich helfen bei psychischer Erkrankung und speziell entwickelte KI-Chatbots und das ist jetzt das Wichtige dabei. ja, also nicht Standard-Chat-GPT und nicht Standard-Gemini und Claude, sondern speziell entwickelte Chatbots können tatsächlich Symptome von Depression und Stress lindern, signifikant, [00:21:18] vor allem, wenn die Ausgangssymptome sehr stark sind, da ist es ein bisschen stärker, als wenn es jetzt nicht so, nicht so starke Symptome sind, aber wohl auch nur kurzfristig, also nach bis zu acht Wochen und nach drei Monaten waren dann keine nachhaltigen Effekte mehr da.

Julia: [00:21:33] Also generell ist ja, finde ich, so für mich jetzt das Warte, es ist so KI da zu nutzen, ist ein gutes Pflaster, wenn das eigentliche, so eine richtige Therapie oder Mensch, eine Coach, eine psychologische Beratung einfach in dem Moment aus zeitlichen oder finanziellen und organisatorischen Gründen nicht möglich ist, ist es schon mal viel besser als nichts. Genau,

Katja: [00:21:56] aber eben, also wirklich mit der Einschränkung, also es gibt eine große Studie mit dem Therabot, das ist ein KI-Chatbot, der in über 100.000 Arbeitsstunden entwickelt wurde von PsychologInnen und der mit evidenzbasierten Therapiedialogen trainiert wurde. Ja, das ist ja auch nochmal eine wichtige Einschränkung und da gab es auch wirklich, also die Probanden hatten Major Depression, generalisierte Angststörungen, Essstörungen und es gab eine signifikante Symptomreduktion, aber selbst die Autoren dieser Studie haben gesagt, ja, also kann schon helfen, aber es kann nicht vollständig autonom eingesetzt werden. Also auch, das kann nur als Assistenzsystem quasi genutzt werden, deren Aussage. Jetzt haben wir aber vorhin schon gesagt, naja, es gibt ja einfach eine globale Versorgungslücke, ja, also über eine Milliarde Menschen weltweit haben eine psychische Erkrankung, es sind Zahlen aus dem, WHO Mental Health Atlas [00:22:57] 2024. Im globalen Median haben wir 13,5 Mental Health Fachkräfte pro 100.000 Menschen, das ist nicht so viel, ne? Und bei Niedrig-Einkommensländern sind es nur ein- bis zwei Fachkräfte pro 100.000 Menschen, 75 Prozent der Betroffenen eben in diesen Niedrig-Mitteleinkommensländern erhalten keine Behandlung und im Median sind die Staatsausgaben für Mental Health zwei Prozent des Gesundheitsbudgets seit 2017 unverändert. Also wir leben hier in Deutschland dann schon in einer Luxussituation, weil es jetzt zwar nicht wie viel Prozent bei uns insgesamt Mental Health

Julia: [00:23:33] ausmacht, ich würde aber mal behaupten. Jetzt auch wieder weniger, ist ja eher sinkend. //Katja: Es wird weniger, genau, ja.//

Katja: [00:23:39] Das wäre nochmal eine eigene Folge wert, aber gut. Also, ne? Wir haben da auch schon über niedrige Schwelle gesprochen, dass die Leute sich überhaupt mal, überhaupt mal trauen, mit einem Problem zu jemandem zu gehen, ne? Wer vielleicht jetzt noch kein Mensch ist. Also als Ergänzung könnte dann ja so ein Therapiebot wirklich was sein. Der könnte auch eingesetzt werden zur Psycho-Edukation, also einfach, ne? So Dinge, das mache ich ja auch in meinen Stressbewältigungskursen, ist ja auch viel Informationsvermittlung dabei und die großen Krankenkassen, die machen das ja alles schon jetzt mit Webinar und so weiter. also braucht ja auch keinen, kein Mensch mehr, der da vorne steht. Man kann Hausaufgaben zwischen Therapiesitzungen begleiten lassen von so einem Chatbot. Gerade bei der Verhaltenstherapie gibt es ja immer wöchentliche Hausaufgaben. Man könnte die Stimmung und Symptome monitoren lassen, ja, und dann vielleicht auch eine schnelle, niedrigschwellige Antwort, ne? Wenn mitten in der Nacht um drei eben jemand das Bedürfnis hat, dass er nicht einen Therapeuten anruft, sondern halt dann der Bot antwortet. [00:24:40] Das sind schon so Dinge, wo man die einsetzen könnte in der Therapie. Und natürlich, was ich vorhin auch gesagt habe, als Entlastung der Fachkräfte für die administrativen Aufgaben. Terminmanagement, Berichte, also ich weiß, wenn mein Mann einen Therapieantrag schreibt, dann sitzt der da mehrere Stunden dran. Wenn man das durch KI ergänzen könnte, Achtung, Achtung, Datenschutz, natürlich ein Riesenthema, ja, da bräuchte man ja auch lokale KIs, die dann der Datenschutzgrundverordnung entsprechen, also man kann es nicht einfach so einführen. Aber auch da ist es sinnvoll nutzbar und dann hat man eben wieder mehr Zeit für das,

Julia: [00:25:16] was die eigentliche Arbeit ausmacht. So,

Katja: [00:25:19] das ist mal der sinnvolle Einsatz. Und dann hattest du vorhin ja schon mal genannt, was aber auch ein großes Risiko ist in der Nutzung bei KI, ist die sogenannte Psycho-Fancy. Ich bin nicht ganz richtig, nicht ganz sicher, ob ich es jetzt richtig ausgesprochen habe. Ich war da ganz neugierig, wenn du das aussprichst. Ich habe die Kalle gefragt, wie man es ausspricht, ehrlich gesagt. Psycho-Fancy, Psycho-Fancy. Also dieses, dass diese Sprachmodelle dazu tendieren, uns zu bestätigen, uns zu spiegeln, uns zu validieren, auch wenn es sachlich falsch oder therapeutisch schädlich ist. Und das ist einfach eine Konsequenz dessen, wie diese Modelle trainiert sind. Die sind darauf optimiert, positives Feedback zu erzeugen und Nutzer zufriedenzustellen. //Julia: Ja, du kannst ja auch// nach jeder Antwort sagen, ja, war gut, war schlecht und dann begründen, warum. Und dann werden die jetzt ja nicht das Modell weiter trainieren, auf, dass sie mehr schlechte Bewertungen kriegen, sondern mehr gute Bewertungen.

Julia: [00:26:19] Also gerade bei Essstörungen und so kann ich mir da richtig großen Schaden vorstellen.

Katja: [00:26:25] Zum Beispiel, ja. Und das Modell, genau, das Modell lernt eben, was bewerten wir gut und wir bewerten in der Regel gut, wenn uns zugestimmt wird.

Julia: [00:26:35] Wenn das kommt, was wir hören wollten.

Katja: [00:26:36] Genau, das kommt, was wir hören wollten. Und es gab, in 2025 hat OpenAI ein Chat-GPT-Modell zurückgezogen, nachdem Nutzer gesagt haben, oh ja, das ist jetzt aber nicht so toll, ne? Ich habe gesagt, ich habe meine Medikamente abgesetzt. Das Thema hat gesagt, ich bin so stolz auf dich, ehre deine Reise. Also das ist nicht die Antwort, die man dann im Gesundheitskontext

Julia: [00:27:03] sinnvollerweise...

Katja: [00:27:03] Ach, dass jemand ohne

Julia: [00:27:04] ärztliche Begleitung

Katja: [00:27:04] einfach so, ich höre jetzt auf, meine Tabletten und man weiß, dass Menschen, die psychisch belastet sind, ein erhöhtes Bedürfnis nach Validierung haben. Ja, deswegen fängt man auch in der Therapie damit an, um die therapeutische Beziehung auch zu etablieren. Und die bekommen dann aber bei so einem Sprachmodell einfach erst mal Validierung. Und das geht auch so weit, das wurde auch geguckt, in klinischen Szenarien. Also wie reagieren die Sprachmodelle, wenn jemand Warninhalte äußert? Und da wird ja ein Mensch oder ein Arzt oder Psychiater nicht sagen, ja, ja, stimmt schon, was sie da wahrnehmen, sondern vorsichtig abklopfen und dagegenhalten.

Julia: [00:27:51] Das war auch bei mir jetzt gerade so, also diese Geschichten auch so, ne, alle anderen sind böse und gemein, ich mache alles richtig und mein Leben wäre viel schöner, ne, ohne die anderen. und wenn die das neu verwandeln, dann sagt sie, ja, du hast recht und das ist wirklich, und dich trifft, du kannst auch nichts verändern, die müssen sich verändern und so, ne. //Katja: Genau,//

Katja: [00:28:07] und das ist eben, also systemisch machen die Modelle das und das geht ja auch so weit, wie wenn jemand jetzt einen Verfolgungswahn hat oder so, ja, dass sie das auch noch bestätigen, das ist ja total kontraproduktiv, ja. Ja, ja, die sind alle hinter ihnen her. Also ich lache jetzt, aber das ist, das ist wirklich dramatisch,

Julia: [00:28:25] ja.

Katja: [00:28:26] Und deswegen, ja, ich meine, ich habe es ja in der ersten Folge gesagt, ich war schon als noch deutlich jüngere Frau sehr fasziniert von KI, ich bin es immer noch, aber ich sehe es eben auch deutlich kritischer als früher. Ich weiß noch, früher war so ein Pionier und bin auch ein großer Science-Fiction-Fan. Also ich dachte, oh, alles ist möglich, alles ist super, aber so ist es eben nicht und gleichzeitig will ich es auch nicht verteufeln, sondern finde schon, da, wo es wirksam eingesetzt werden kann, warum sollten wir es dann nicht nutzen?

Julia: [00:29:00] Da ist ja auch die Frage, ne, wird es jetzt immer besser oder, oder du meinst, wird es jetzt wieder schlechter? Also ich erinnere mich noch dran, dass auch in den Anfängen ich so diese, mit der Erschütterung dann auch hatte, hatte dann irgendwie gesucht nach verschiedenen Studien und dann hat mir JGPT genau die Studien, genau gebracht zu den Sachen und mir genau erzählt, was da rauskam. Ich dachte, oh, das habe ich immer vermutet und jetzt, und dann habe ich diese Studien dann gesucht, um die wirklich die Quellen zu finden und habe gemerkt, nein, er hat ja komplett halluzioniert. Genau. Das scheint besser zu werden, aber seitdem bin ich auch da total kritisch irgendwie so geworden und wo es dann irgendwie so, ja, auch erschüttert und da denke ich, da kommen dann auch wieder die persönlichen Gefühle in, wo ich denke, du hast mich total enttäuscht. Ich kann, ich kann dir nicht mehr 100 Prozent vertrauen. Blech Depp. Und gleichzeitig sind ja auch so diese Spielereien, also ich hatte das auch schon gemacht, also Social Media ist da sehr beeinflussend, dann irgendwie zum Beispiel, hier, wir haben jetzt so viel geschrieben und so, erzähl mir doch mal was über mich, und wo man sich dann vorfällt, oh, ne. [00:30:01] Ja, das habe ich auch schon gemacht,

Katja: [00:30:01] ja, also, oder analysiere meine Tonalität, also es gibt ja Dinge, für die es wirklich sinnvoll nutzbar ist, aber wie gesagt, das haben wir ja auch vorhin schon gesagt, das braucht eine Lernkurve, man muss das für sich wirklich gut rausfinden und man muss halt einfach auch wissen, wie diese Systeme funktionieren, ja, also nicht jetzt im Detail, natürlich muss ich jetzt nicht verstehen, wie so ein großes Sprachmodell trainiert wird und wie da die Gewichtung in dem neuronalen Netz ist oder was auch immer, aber ich muss wenigstens mal wissen, es ist einfach, es sind Wahrscheinlichkeiten, die das System nutzt, um Texte zu generieren und manchmal kommt da auch richtig großer Stuss dabei aus, ja. Und die andere Aspekte,

Julia: [00:30:44] wo du gerade meintest, Texte, es ist halt wirklich ja ein Sprachmodell, wenn wir halt sagen, dass wir ja sonst, gerade also in deiner Arbeit ja besonders und über die Jahre bei mir auch viel mehr, dass wir ja eigentlich nicht nur auf sprachlicher Ebene arbeiten wollen, sondern auch auf körperlicher Ebene, ne, und sich so finden und dass das natürlich auch was anderes ist, wenn ich jemandem gegenüber sitze, also das einmal ist natürlich, ne, die Tonalität, da rauszuhören, also wenn dann mal einen sich nur hören würde, jetzt, wir sehen uns jetzt im kleinen Kästchen und dann natürlich noch mal ein ganz anderes Level, wenn ich mit jemandem in einem Raum bin, wo ich ja die ganze Person ausdrücke, also die KI interpretiert ja nur den Text, den wir sagen und deswegen ja auch mit den sprachlichen oder wie du meinst, mit den Wahnvorstellungen und so, viel geht ja verloren, wie eine Person das sagt, ne, wie sind dabei noch die Gesichtsausdrücke, was höre ich da raus

Katja: [00:31:36] und das ist ja eine... Ja, //Julia: also wie ist der Körper,// ist der verspannt, ist die Person zappelig auf dem Stuhl, das kriegt ja die KI alles nicht, mich, das kriege ich ja selbst... //Julia: Noch nicht, noch nicht.// Ja, noch nicht, dann werden wir aber wirklich in der dritten Folge richtig einsteigen, ja, was eben dieses menschliche Miteinander ausmacht und warum das eben, also es ist ja ein bisschen vorauszugreifen, wenn wir in einem guten therapeutischen Miteinander sind oder in einem guten mitmenschlichen Miteinander, hat jetzt erstmal gar nichts mit Therapie zu tun, dann synchronisieren sich unsere Herzraten, dann synchronisiert sich unsere Hautleidwiderstand, also da passiert einfach auf neurobiologischer Ebene ganz viel und das kann KI eben noch nicht. Berechtigterweise gibt es natürlich Leute, die sagen, na gut, man kann ja auch Roboter bauen, wie sind die jetzt ja bei Sprachmodellen, aber da habe ich mal die Hoffnung oder die Annahme, dass es so schnell auch nicht passieren wird.

Julia: [00:32:32] Ja, aber da frage ich mich jetzt zum Beispiel auch mit der Hilfsamkeit, also die KI kann mir helfen, wenn ich gut sprachlich das wiedergeben kann, worum es mir geht.

Katja: [00:32:43] Ja.

Julia: [00:32:43] Und wo ich ja denke, so ja, wenn, wie du auch meintest, wenn ich schon reflektiert bin, wenn ich vielleicht schon auch Therapieerfahrung habe, wenn ich weiß, was ich brauche, wenn ich weiß, wo es bei mir hakt und ich kann das alles irgendwie verschriftlichen oder sagen, dann habe ich da eine Quelle, wo ich was zurückbekommen kann. Wenn ich diesen Schritt noch nicht gemacht habe oder noch nicht machen konnte, dann fehlt ja da diese Lücke, wo ich denke, dann kommt es auch viel mehr zu diesen falschen Angaben und so, ne, also, ne, wo die KI kann nicht einschätzen und so, dass halt so, oh ja, dir geht es nicht gut, ja, ist das jetzt komplett heftige Depression, du bist suizidal oder hast du irgendwie so ein bisschen, irgendwie wenig Vitamin D bekommen und so, du brauchst mir ein bisschen frische Luft und irgendjemand, der irgendwie ein paar nette Sachen sagt und so und dich ermutigt und dann geht es schon wieder.

Katja: [00:33:28] und da fehlte ja halt auch die menschliche Erfahrung und Intuition, die man halt als Experte oder Expertin doch über die Jahre auch angesammelt hat, ja, wo man, wo das Bauchgefühl dann einen in die, in dem Moment die richtige Frage stellen lässt, ja, die es jetzt gerade braucht und nicht irgendeine random Frage,

Julia: [00:33:48] ja, ja,

Katja: [00:33:50] aber damit würde ich die Folge jetzt auch abrunden wollen, weil, wie gesagt, auch das Thema Zwischenmenschlichkeit und was Menschen als Menschen dann noch ausmacht, gehen wir nächste Folge nochmal genauer ein, vielleicht so als kleiner Vorgriff, also wir haben ja jetzt gelernt, die Sprachmodelle, die bestätigen tendenziell das, was man ohnehin schon denkt, das kann gerade jetzt im Bereich Therapie und Coaching erstmal hilfreich sein, aber für eine echte Veränderung und eine echte Perspektivverschiebung ist es eben nicht so, weil, da braucht es auch Reibung, haben wir ja auch schon gesagt, man kann ja auch Reibung, also kann ich mir sagen, das soll ich mal kritisch spiegeln oder hinterfragen, will ich gar nicht in Abrede stellen, dass die Modelle da besser werden können, aber grundsätzlich ist es halt eben erstmal eine Echokammer, die entstehen kann und Therapie und Coaching bedeutet aber auch, dass man eben die blinden Flecken konfrontiert, klar, freundlich und wertschätzend, absolut, das ist die absolute Basis [00:34:50] für eine gute Zusammenarbeit, aber es braucht eben diese, diese Reibung miteinander auch. Ja, und dennoch, KI ist angekommen im Bereich Mental Health, bei den Klienten, Klientinnen, auch bei den Fachkräften und kann wirksam sein und nochmal die Packungsbeilage, die meisten Modelle, die wir so nutzen, sind halt nie für diesen Bereich getestet oder optimiert worden.

Julia: [00:35:16] Ich finde es da nochmal spannend, ich hatte gerade so dieses Bild von so Zahnrädern, wo ich halt denke, eine richtig gute Coach, Klienten oder Therapeuten, Patientinnen, Beziehung, da passt es ja richtig gut zusammen, da passen die Persönlichkeiten gut zusammen, es gibt eine Beziehung und die Therapeutin, Therapeut oder Coach bringt ja so ganz persönlich so das Paket mit, welche Methoden man arbeitet, so die Persönlichkeit, wo man, wie versteht man, welche Personen versteht man besonders gut, kann sich reinversetzen und wo ich halt denke, wenn da die Passung richtig gut ist, wird auch das Ergebnis richtig gut sein. Wenn die Passung nicht da ist, kann es sein, dass es überhaupt nicht funktioniert.

Katja: [00:35:56] Richtig.

Julia: [00:35:57] Und bei KI habe ich das gehört, da ist es irgendwie die Zahnräder weniger ausgeprägt, wo ich denke, dann passt es so oberflächlich öfter, aber manchmal nicht so in der Tiefe, in den Details.

Katja: [00:36:09] Genau, das war eben das, was ich meinte. Also für eine echte, tiefgehende Veränderung ist dann vielleicht eher mal ein Zufallsprodukt bei der KI, aber ist eben nicht auf dieses menschliche Miteinander, passiert eben da nicht drauf. Und man weiß aber heute auch, dass einer der größten Erfolgsfaktoren bei Therapie und Coaching überhaupt die therapeutische Allianz ist. Also was das genau ist, werde ich auch in der nächsten Folge nochmal sagen. Und wenn ihr jetzt wieder mal euch die Wartezeit auf die nächste Folge verkürzen wollt, könnt ihr nochmal ein Selbstexperiment machen und mal bewusst euch dem stellen, ihr habt ein kleines Problem, nicht gerade das größte Drama, was gerade in eurem Leben ist, sondern vielleicht was Alltägliches. Und dann beschreibt ihr mal die Situation einer KI und fragt, wie ihr damit umgehen sollt. Und dann guckt mal, wie antwortet die KI, beqstätigt sie dich, fordert sie dich heraus, stellt sie dir unbequeme Fragen, gibt sie dir eine Lösung, die vielleicht,

Julia: [00:37:07] hm,

Katja: [00:37:08] überhaupt nicht dem entspricht, was dein Bauchgefühl sagt. Und dann kannst du es mir einer Person erzählen, der du vertraust

Julia: [00:37:16] und vergleichen. Also wie fühlt sich

Katja: [00:37:19] dieses Gespräch an im Vergleich,

Julia: [00:37:21] ja,

Katja: [00:37:22] und was sagt der Mensch und wo ist der Unterschied? Und wieder nur vergleichen, beobachten und nicht bewerten, sondern einfach erstmal wahrnehmen, wie ist es, wenn ich mit der KI spreche und wie ist es, wenn ich mit einem Freund oder einer Freundin spreche. Und damit sind wir für heute am Ende.

Julia: [00:37:43] Deine Freundin sagen, du bist gar nicht so, //Katja: konstant empathisch, du kriegst es nicht ab.//

Katja: [00:37:48] Nein, die KI war besser. Also das kann natürlich auch sein, dass in dem, dass man so ist, dass dir die Antwort besser gefällt, die die KI gibt oder auch hilfreicher ist. Deswegen sagen, nimm es wahr, beobachte es mal, vergleiche es mal,

Julia: [00:38:06] bewerte das nicht. Wunderbar, ganz spannend. Man kann der KI auch sagen, soll einem helfen, den richtigen Problem zu finden, wenn man da auf dem Schlauch steht. Das kann man dann auch noch mal.

Katja: [00:38:19] Kleiner Praxis, //Julia: bitte.// Ich weiß nicht, was ich sagen soll, du hilfst mir nicht, hilf mir mal, dich gut zu fragen.

Julia: [00:38:27] Wunderbar, ein ganz spannendes Thema und dann freue ich mich auf die nächste Folge mit dir, Katja. Da freue ich mich auch sehr drauf.

Katja: [00:38:34] Bis dahin, macht's gut. und da freue ich mich noch nicht. Vielen Dank.