16% ignorieren ärztliche Empfehlungen wegen ChatGPT! Die Wahrheit über KI in der Medizin!

0:00 83% der Deutschen sind immer noch der Meinung, dass Sterbehilfe in Deutschland verboten ist. Ja, ist das nicht Wahnsinn? Ich glaube, das liegt daran, dass es unterschiedliche Formen von Sterbehilfe gibt. Und die Leute denken an die Giftspritze. Sagen wir es mal ganz offen. Die ist verboten. Nur, das ist ja nur eine Form von Sterbehilfe.

0:20 In dieser Folge sprechen wir mit Frau Prof. Alena Büx, Professorin für Medizin, Ethik und ehemalige Vorsitzende des Deutschen Ethikrates, über zentrale Herausforderungen an den Schnittstellen von Medizin, Gesellschaft und Technologie. Wir sprechen ja nicht viel über das Sterben. Das ist ja ein Thema, darüber redet niemand so richtig gerne.

0:37 Und ich wollte tatsächlich die Patientinnen und Patienten ermutigen, sich mit dem Thema zu befassen, damit es die nicht so eiskalt erwischt. Ich möchte mit Ihnen auf jeden Fall auch noch ein bisschen über KI reden. Das ist ja das Hauptthema unserer Zeit. Es gibt sozusagen so zwei Bereiche, in denen man KI bereden kann.

0:54 Das ist einmal die ganz große Ebene, das ist eine geopolitische Ebene. Wollen wir es so machen wie die USA, im Prinzip ganz unreguliert? Wollen wir es so machen wie China mit staatlich massiven Druck und staatlichen Subventionen? Oder wollen wir das so machen wie wir es in Europa machen, dass wir sagen, wir wollen das auch und dann müssen wir schneller werden?

1:11 Wir wollen es aber schon irgendwie verantwortlich machen, wir wollen die Leute mitnehmen. Wenn wir ein bisschen enger gucken in die Medizin, bin ich ja ein Riesenfan der Technologie, weil ich sage, ohne geht es gar nicht. In dem Zusammenhang, 16 Prozent der Deutschen ignorieren bereits ärztliche Empfehlungen, weil JetGPT was anderes sagt als der Arzt.

1:31 Ist das doch ein bisschen so der Anfang vom Ende von der Arztvertrauenssituation? Zu Ihrer Frage, ist das der Anfang vom Ende? Ich glaube... Frau Büch, Sie sind Ärztin, Philosophin, waren vier Jahre lang Vorsitzende des Deutschen Ethikrates. Sie haben also in Ihrem Leben viel über Leben und Tod nachgedacht.

1:57 Gab es einen Moment in Ihrem Leben, der Sie ganz persönlich dazu gebracht hat, final dann in die Medizinethik zu gehen? Oh, das ist eine gute Frage. Einen im Studium, im späten Studium kann ich mich erinnern an eine Patientin, die ganz multimorbide war und der es ganz, ganz schlecht ging und bei der es in der Entscheidungsfindung ganz offenkundig wurde, dass es nicht um medizinische Fragen mehr ging, sondern darum, wie sie ihr Lebensende gestalten möchte.

2:30 Und das war das erste Mal, dass ich das so live mitgekriegt habe. Das hat mich unheimlich angerührt und berührt. Und das zweite war tatsächlich, dass ich festgestellt habe, dass man Medizinethik überhaupt machen kann, weil ich jemanden getroffen habe, der es gemacht hat. Aber das waren viele Zufälle.

2:49 Ich habe auch eine ganze Weile gedacht, ich gehe in die klinische Medizin. Und dann gab es einfach viele Zufälle, die dazu geführt haben, dass ich gemerkt habe, das ist wirklich das, was mich am allerstärksten beschäftigt. Aber ich dachte, oder während jeder Station auf dem Weg in der Wissenschaft, dachte ich immer, ich gehe doch zurück und mache einen Facharzt.

3:11 Bis dann die Professur kam. Da habe ich dann gedacht, na gut, dann bleibst du da jetzt bei. Aber es ist ja ein interessanter Werdegang. ist ja auch was, was man im Studium nicht unbedingt so primär mitbekommt. Und das ging bei Ihnen ja dann trotzdem, wie ich das verstande, direkt nach dem Studium los.

3:25 Das ist natürlich außergewöhnlich. Schon vorher. Schon vorher. Ich hatte, das sollte ich vielleicht noch sagen, ich würde das nicht machen heute, wenn ich nicht zufällig in der Schule im Leistungskurs Philosophie und Biologie hatte. Philosophie gab es damals in Nordrhein-Westfalen zum ersten Mal seit 25 Jahren.

3:43 Das gab es eigentlich nicht. und die ersten medizinethischen Texte, weil Philosophie und Medizin berühren sich ja in der Medizinethik, die ersten medizinethischen Texte habe ich schon vor dem Abitur gelesen in diesem Leistungskurs. Das ist tatsächlich ein großer Zufall und auch was Ungewöhnliches gewesen.

4:03 Deswegen ging es bei mir sehr, sehr früh damit los. Also ich ging schon ins Studium mit diesem leichten Wunsch, du möchtest nicht nur Medizin machen, das wusste ich immer, ich will Medizin machen, sondern du willst auch gucken, kannst du die Philosophie da irgendwie drum wickeln. Dann habe ich ja noch Magister gemacht in Philosophie.

4:19 Und schon während des Studiums war klar, eigentlich will ich das gerne machen. Und dann kam eben auch eine der Pionierinnen an meine damalige Universität und hat mir eine Stelle angeboten. Also es waren so Zufälle, aber es fing wirklich richtig früh an. Gut, also war der Weg schon ein ganz klein bisschen geprimed sozusagen in diese Richtung.

4:37 Ja, das ist natürlich dann verständlicher. Sie haben ja Ihr neues Buch, Leben und Sterben. Ein großer Titel. Sie waren ja auch bei Markus Lanz, der gesagt hat, ein sehr gutes und vor allem ein sehr kluges Buch, No Wonders. Wann haben Sie denn gemerkt, dass Sie nicht nur wissenschaftlich Ihren Weg bestreiten wollen, sondern dass Sie quasi auch das, was Sie in der Wissenschaft lernen, der Allgemeinheit zur Verfügung stellen wollen?

5:04 Auch eine wirklich gute Frage. Das ist mir wirklich wichtig. Denn Sie wissen ja, wenn man Wissenschaft macht, dann schreibt man Fachartikel. Die sind auf Englisch, die sind in Journalen, die gehen durch ein Peer Review und die sind hochgetunt, hoch fein zeseliert. Da geht man auf ganz, ganz spezifische Themen ein.

5:24 Man setzt extrem viel schon voraus. In dem Buch spreche ich ja über ganz fundamentale Fragen. Die kannst du ja in der Forschung nicht mehr besprechen. Das ist ja, also, sondern da ist man ja wirklich ganz woanders. Und ich habe einfach gemerkt, ich möchte gerne, ich habe an so vielen, ich kann gar keinen einzelnen Moment ausmachen, ich habe an so vielen Stellen gemerkt, das, was ich und was wir in meinem Fach in der Forschung machen, das ist immer noch total relevant.

5:54 Nicht nur für Ärztinnen und Ärzte im Krankenhaus. Das war so mein allererster Gedanke, sondern tatsächlich eigentlich für alle. Das ist für alle Menschen. Alle Menschen haben jemanden, den sie lieben, der krank werden kann, der sterben kann. Fragen am Lebensanfang betreffen so viele von uns. Wie gehen wir mit neuen Technologien im Alter, aber auch in der Medizin um?

6:16 Das ist so breit. Und das habe ich immer und immer wieder gemerkt. Und dann war es natürlich so, dass die Tatsache, dass ich eine gewisse Sichtbarkeit bekommen habe, da habe ich gemerkt, man kann Menschen erreichen. Und es hat mir Spaß gemacht und dann habe ich gedacht, naja, schreibst du mal dieses Buch, ich wollte das schon zehn Jahre schreiben und hatte halt nie die Zeit.

6:40 Ich weiß nicht, wie es Ihnen geht, aber bei uns in der Medizin, wenn man in der universitären Medizin ist, kriegt man ja eher Ärger, wenn man was für die breite Öffentlichkeit schreibt. Ich weiß nicht, ob Sie, also wenn Sie so Kapitel schreiben, Sie haben ja sicherlich auch Bücher oder Buchkapitel, die für ein breites Publikum gedacht sind.

6:58 Und das ist ja jetzt nicht unbedingt was, wofür man von allen beklatscht wird. Absolut, aber ich verstehe das natürlich sehr, sehr gut. Und das ist auch unheimlich wichtig, dass man das macht. Ich finde, man merkt es erst, wie wichtig es ist, wenn man es wirklich tut. Weil man ist ja in so seiner universitären oder klinischen Bubble und denkt, das ist eh alles selbstverständlich und klar.

7:23 Aber plötzlich merkt man, aber die da draußen, außerhalb der Klinik, die kriegen das eigentlich alles gar nicht so mit. Weil sie machen das ja hier auch. Ich mitbeschäftige. Und das ist auch ein bisschen der Grund von dem Podcast hier. Ja klar. Deshalb sind wir auch dankbar, dass Sie dabei sind. Die Wissenschaftler in Deutschland, die Kliniker, ich sage es immer wieder, die haben zu wenig Standing.

7:44 Ich meine, wir haben da die Hochglanzbroschüren mit den Schauspielern und den Sängern und die haben einen Film gemacht. Aber die tollen Wissenschaftler, jetzt im Rechtssaal, Isao Grosshadern oder Martinsried und Helmholtz, die jetzt zum Beispiel ein neues Mittel gegen Krebs gefunden haben und die tausende Menschen damit heilen, die haben überhaupt kein Standing, die kennen keinen Mensch, die haben keine Bühne, die sind bei ihrem Kongress und dann kriegen sie vielleicht auch eine Medaille.

8:12 Aber das kriegt da draußen keiner mit. Ja, und deswegen finde ich das so toll. Und deswegen bin ich bei Ihnen. Deswegen finde ich das so toll, dass Sie diesen Podcast machen. Und Sie sind damit ja auch sehr erfolgreich. Es gibt ja das Bedürfnis. Die Leute wollen das ja. Und ich sehe das genauso. Ich glaube, wir haben auch als Wissenschaftlerinnen und Wissenschaftler eine gewisse Verpflichtung, nicht nur miteinander zu sprechen oder vielleicht mal irgendwie in eine Kommission zu gehen und die Politik zu beraten, sondern auch mit den Menschen, die die Steuern zahlen, für die Wissenschaft.

8:46 Ich finde, nicht jeder Wissenschaftler hat die Verpflichtung. Ich glaube, das ist ganz wichtig einmal zu betonen. Wissenschaftlerinnen und Wissenschaftler und auch Klinikerinnen und Kliniker haben einen anderen Job. Der Job ist es, die beste Wissenschaft zu machen, beziehungsweise ihre Patienten optimal zu versorgen.

9:03 Aber diejenigen, die das machen können und wollen, und wir als organisierte Wissenschaft und wir als organisierte Medizin, ich finde, wir haben eine Verpflichtung, insgesamt auch in die Gesellschaft zurückzugehen und zu sagen, guck mal, das sind die tollen Sachen, die wir machen. Und sie sagen es ja, ich meine, in der Medizin geht ja die Post ab gerade.

9:25 Also ich meine, die geilsten Sachen. Entschuldigung, aber ich bin ja auch auf den Kongressen und ich lese ja die Paper und so. Boom, boom, boom. Was da im Moment abgeht, ist ja einfach wirklich ganz fantastisch. So richtige Revolutionen unterwegs. und trotzdem, also ich gebe Ihnen mal ein ganz konkretes Beispiel.

9:45 Ich habe einen Podcast gemacht mit Anne Will zu Social Media und Kindern und Jugendlichen. Ich bin keine Expertin für die Gesundheit von Kindern und Jugendlichen, aber als Medizinethikerin mache ich lange schon Digitalethik und wir haben uns auch als Ethikrat vor ein paar Jahren schon beschäftigt mit der Frage, was passiert auf diesen digitalen Plattformen, was sind die gesellschaftlichen Folgen und natürlich kann ich mir schon auch Studien zum Suchtpotenzial angucken.

10:12 Und dann habe ich das kommuniziert, dann habe ich das erklärt und jetzt hat mich heute eine Redakteurin von einem anderen Medienhaus angerufen und hat mir so eine Reihe Fragen gestellt und ich habe gesagt, naja, ich kann Ihnen die ethischen Fragen beantworten, aber eigentlich bräuchten Sie Expertin oder Expertin für Kinder- und Jugendgesundheit.

10:28 Da sagt sie mir, naja, ich habe heute zehn angeschrieben, Sie sind die Einzige, die sich gemeldet hat. Und ich verstehe die Kollegen. Ich verstehe die Kollegen. Wir haben die Zeit nicht. Wir haben genau zu dem Thema einen Podcast gemacht mit dem Dr. Thomas Fuchs. Der ist Kinderpsychologe. Und der hat faszinierend aus seiner Praxis erzählt.

10:53 Der hat die Kinder, der hat die Eltern jeden Tag, also die 11, 12-Jährigen mit den Eltern, wo es überhaupt nicht funktioniert. Im Großteil auch wegen Social Media. und also das war da für uns ein sehr guter, sehr wertvoller und vor allem sehr authentischer Podcastgast. Also für alle, die das interessiert, könnten da auch nochmal nachhalten.

11:14 Ich möchte jetzt nochmal kurz auf Ihre Kernprofession zurückgehen. Also für unsere Zuschauer, Zuhörer draußen, wie erklären Sie denn jetzt Ihrer Nachbarin am Gartenzaun, was eine Medizinethikerin denn so den ganzen Tag tut? Das ist ja ein Begriff, der ist für viele ganz abstrakt und es ist, glaube ich, für die meisten schwer nachzuvollziehen, was ist das eigentlich für eine tägliche Arbeit?

11:38 Was sind da meine Inhalte? Sehr gern. Also die Medizinethik denkt nach über das gute und richtige Handeln in der Medizin. Ethik beschäftigt sich ja mit der Moral also mit den unterschiedlichen moralischen Überzeugungen die Menschen haben, diese ganzen Bauchgefühle die Regeln nach denen Menschen sich verhalten was wir so in der Gesellschaft uns an Regeln geben und die Ethik untersucht das weil die ja oft gegeneinander stehen weil die ja oft in Konflikt sind oder weil man nicht neue Embryonenforschung vor 20 Jahren da musste man völlig neu nachdenken das gab es vorher gar nicht dazu gab es gar keine moralischen Positionen initial Und dann gab es ganz viele, das muss ja jemand sortieren, das macht die Ethik.

12:20 Die Ethik ist die Wissenschaft der Moral. Und in der Medizinethik machen wir das eben mit Blick auf Medizin. Also die ethischen Entscheidungen in der klinischen Praxis, das wissen Sie viel besser als ich, wie viele es da gibt. Ich meine, ich bin auch noch am Krankenhaus angeschlossen und ständig auf Intensiv und so unterwegs.

12:37 Aber Sie wissen gerade, wenn es um schwierige Entscheidungen am Lebensende geht oder auch welche Art von Behandlung wähle ich bei einer Erkrankung. Da geht es nicht nur um Medizin, sondern auch um das, was will der Mensch? Was ist gut für den Menschen? Was ist vielleicht auch gut nicht mehr zu machen?

12:56 Das sind so Fragen. Und wir beschäftigen uns in der Medizin natürlich auch mit dem gesamten Bereich der biomedizinischen Forschung und des Fortschritts. Also wir fragen, soll die Medizin all das machen, was sie eigentlich kann? Das ist so auch eine ganz kernige Frage. Und ich beschäftige mich damit wissenschaftlich.

13:16 Also ich schreibe eben auch diese Paper, die nur 20 Leute verstehen. Das ist halt so. Das ist der Hauptteil meiner Arbeit. Ich habe ein Institut mit vielen Leuten. Ich bilde Doktorandinnen und Doktoranden aus. Wir haben viele Forschungsprojekte, große Studien, auch empirische Studien. Also nicht nur denken und analysieren und Texte schreiben, sondern wir haben auch viel, wo wir Patientinnen und Patienten befragen oder wo wir mit der Pflege arbeiten, wo wir mit den Robotikern zusammen an Robotern arbeiten oder wo wir Algorithmen mitentwickeln.

13:49 Also TU München, da ist man natürlich voll im Saft, wenn es um solche Sachen geht. Also ganz praktisch auch. Und ich habe eben noch zusätzlich dieses Stand, also Lehre natürlich auch. Ich bilde die Studierenden aus, die ja dann zukünftig Ärzte werden, damit die in die Klinik kommen und so ein bisschen schon eine Antenne für sowas haben.

14:07 Und dann mache ich eben wirklich sehr gerne, deswegen stehe ich hier mit Ihnen. Mir ist wichtig, und das mache ich jetzt eben schon seit einiger Zeit, auch in die Öffentlichkeit zu wirken. Weil ich eben finde, jeder kann Patient werden. Jeder kann von neuer Forschung profitieren. Vielleicht, das wissen wir alles nicht.

14:29 Und deswegen sollte es oder wäre es schön, wenn mehr Menschen mit Ruhe und nicht erst, wenn das Kind sozusagen schon im Runden gefallen ist, wenn ich schon krank bin oder wenn ich schon für meine Mutter oder meinen Vater jetzt überlegen soll, oh Gott, oh Gott, was wollen die denn? Wollen die die lebenserhaltenden Maßnahmen ja oder nein?

14:47 Da sind viele Menschen total überfordert. Das wissen sie ja aus ihrer alltäglichen Praxis. und das kann man aber ein bisschen vorbereiten und man kann da ein bisschen drüber nachdenken und da versuche ich, so eine Art kleines Handwerkszeug anzubieten. Wie ist es dann aber in der praktischen Umsetzung?

15:06 Also ich verstehe das natürlich sehr gut, da werden dann entsprechend Schreiben aufgesetzt, teils wissenschaftlich, teils aber auch von der Bundesregierung vielleicht eingeordnet, dass man da auf ihr Urteil wartet. Wie können Sie denn dann die Sache sozusagen insofern kontrollieren, als das, was Sie mit Ihren Forschungskollegen empfehlen, denn auch umgesetzt wird?

15:36 Das kann man nicht. Das kann man nicht, wirklich. Aber ist das nicht, das würde mich umgehen. Also wenn ich jetzt irgendwie ein Krebsmedikament erfinde, dann geht das irgendwann in die Produktion und dann können die Menschen davon profitieren. Aber wie können Sie in diesen, sagen wir mal, auch dann mit so ein bisschen theoretischen Sachen versuchen, das Ding festzumachen?

16:02 Wissen Sie, wie ich meine? Dass man sagt, okay, das haben wir jetzt hier mit vielen Experten entschieden und so ist es, auch wenn es da nie schwarz-weiß gibt, klar. Aber so ist eigentlich die ethische Beurteilung der Situation. Und das müsst ihr irgendwie umsetzen. Also was ich immer, das mache ich im Buch übrigens auch und was ich in dieser, das ist ja, Ihre Frage zielt ja jetzt erstmal auf die Politikberatung, aber im Buch mache ich das auch mit Fallbeispielen arbeiten, ist super, weil auch Politikerinnen und Politiker müssen überhaupt mal verstehen, worum es geht.

16:35 und da ist eine Patientengeschichte ein super Weg, dass man mal erklärt, worum geht es eigentlich. Oder auch, dass man erklärt bei einer neuen Technologie, was kann die eigentlich. So richtig plastisch. Dann gibt man, also nachdem man das alles ausgearbeitet hat, ist das in der Ethik häufig so, man empfiehlt mehrere Optionen.

16:58 Man empfiehlt oft ein Vorgehen, wo man durchaus sagt, es kann unterschiedliche Wege geben. Manchmal aber auch nicht. Manchmal sagt man ganz klipp und klar, also das finden wir, das empfehlen wir jetzt, dass man das tut oder nicht. Und die Politik dazu zu kriegen, dass sie das wirklich macht, ist extrem schwierig.

17:13 Deswegen habe ich gleich sofort gesagt, das kann man nicht kontrollieren. Das ist auch richtig so. Denn die Politik hat das Recht, weil die Politik hinterher entscheidet, ja, wir fördern jetzt dies, wir wollen jetzt das, wir entscheiden uns, was weiß ich, für diese Maßnahme, für jede Maßnahme. Die übernehmen ja dann auch die Verantwortung dafür.

17:32 Und es ist das Recht der Politik, sich ganz viel unterschiedliche Beratung zu holen. Und manchmal sagen die, ja, das ist ganz schön, was ihr uns erzählt, aber wir haben uns jetzt noch dies und das angeguckt und wir entscheiden das jetzt ein bisschen anders. oder es ist gerade ein Thema, das die nicht interessiert, weil sie gerade andere Sorgen haben.

17:53 Und es gibt keine Garantie in der Politikberatung, dass die Dinge, die man ausarbeitet, und das ist für viele Kolleginnen und Kollegen wirklich frustrierend, man setzt sich hin, schreibt eine Stellungnahme von 400 Seiten, macht eine schöne Zusammenfassung von 20 Seiten, damit das auch irgendwer liest, macht noch eine Pressekonferenz und bereitet ihr wie tolles Material vor, damit es schön anschaulich ist, apropos Fallbeispiel.

18:19 Und dann interessiert es niemand. Und da ist tatsächlich meine Erfahrung, eine gute Medienarbeit ist wichtig, dass man wirklich versucht, das so aufzubereiten, dass das auch für Medien interessant ist. Denn Politikerinnen und Politiker, das muss man leider so, ist die Logik, interessieren sich für ein Thema besonders dann, wenn es auch eine öffentliche Aufmerksamkeit dafür gibt.

18:42 Das heißt, da hängt auch viel vom Timing ab. Und ansonsten denke ich immer, wir aus der Wissenschaft müssen immer und immer wieder einfach dranbleiben, uns klar machen, insbesondere die höchste Politik, die hat am Tag, haben die x Themen, die die besprechen. Und wie man es schafft, da durchzukommen und zu sagen, das hier ist eine Empfehlung, das wäre toll, wenn ihr das machen würdet.

19:08 Da muss man auch ein bisschen hartnäckig bleiben. Aber man muss sich immer klar machen, am Ende hat man das wirklich nicht in der Hand. Und das kann echt frustrierend sein. Meine Güte, habe ich das oft erlebt, dass man jahrelang an was arbeitet und dann dringt es nicht durch. Und dann wiederum andere Sachen, also zum Beispiel diese Stellungnahme, erwähne ich auch im Buch, die Stellungnahme zur künstlichen Intelligenz, die war ein totaler Bringer.

19:34 Die stelle ich bis heute vor. Aber das ist auch ein bisschen Glückssache, weil die war gerade fertig, da kam Chachipiti. Ja, auf einmal reden alle über künstliche Intelligenz und alle Politiker brauchen Rat und Orientierung. Ich sage, hallo, hier, ich habe eine Stellungnahme, bitteschön. Das weißt du aber vorher nicht.

19:51 Also ich weiß nicht, ihr Bereich ist ja auch so einer, wo es auch darum geht, dass man sozusagen vielleicht mal eine Förderlinie aufzieht, dass man mal sagt, guck mal, wir sind da so toll in Deutschland, wir bekommen das so viel. Vielleicht wollen wir das mal ein bisschen stärker nach vorne stellen. Aber da musst du echt auch ein bisschen Glück haben manchmal fast, ist mein Eindruck.

20:12 Also sorry, dass ich das so oft sage. Absolut. Ich könnte natürlich, ich will jetzt nicht so viel von mir oder von uns reden, aber das ist natürlich was, was uns täglich umgeht. Und das ist auch ein Grund, warum wir jetzt mehr in die Öffentlichkeit gehen. Dass wir jetzt die meisten Hirntumore sozusagen in 20 Minuten ambulant einmal behandeln können, hat ja trotzdem auch noch nicht jeder mitbekommen.

20:32 Und trotzdem wird jeden Tag fünf Stunden operiert in Intensivstationen und, und was man ganz oft sich sparen kann. Das will nicht jeder hören. Da gibt es natürlich viele Interessensgemeinschaften. Das führt jetzt ein bisschen zu weit. Aber ich glaube, bei Ihnen mehr vielleicht noch als bei uns, weil wir sind mehr im Nischenbereich.

20:49 Aber Ihre Arbeit ist da enorm wichtig. Wenn wir jetzt zu Ihrem Blockbuster-Thema zum Beispiel Sterbehilfe mal kommen. 83 Prozent der Deutschen, habe ich gelesen, ist immer noch der Meinung, dass Sterbehilfe in Deutschland verboten ist. Ja, ist das nicht Wahnsinn? Und das ist natürlich ein Thema, wo sich auch die Politiker nicht unbedingt so gerne mit beschäftigen, weil das ist natürlich gleich auch sehr emotional aufgeladen und das gibt dann wieder die Hater da und die Kritiker da.

21:19 Das würden die ja vielleicht, wie andere Themen, auch ganz gerne ausklammern. Aber da ist jemand wie Sie ja extrem wichtig, der mal auch mit ihrem Buch die entsprechende Aufklärungsarbeit leistet, dass den Leuten mal klar wird, dass das überhaupt nicht stimmt. Wie ist denn der Stand der Dinge? Genau, ich wollte es gerade sagen.

21:35 Ich glaube, das liegt daran, dass es unterschiedliche Formen von Sterbehilfe gibt. Und die Leute denken an die Giftspritze. Sagen wir es mal ganz offen. Wenn die Leute Sterbehilfe hören, das verstehe ich auch. Wenn ich mit der Medizin nichts zu tun habe, dann denke ich bei Sterbehilfe an Sokrates mit dem Schierlingsbecher, der sich ein Gift runterkippt.

21:55 Der ist topfit und gesund. Oder ich denke an die Giftspritze, wo der Arzt eine Giftspritze setzt und den Patienten tötet. Das ist sogenannte aktive Sterbehilfe. Die ist verboten. Nicht überall, es gibt Länder, da darf man auch eine bestimmte Form von aktiver Sterbehilfe, aber die sind deutschlandverboten.

22:14 Von daher haben da die 83% recht. Nur, das ist ja nur eine Form von Sterbehilfe, nämlich diese krasseste. Es wird ja unter dem Begriff der Sterbehilfe werden ja auch andere Formen gepackt. Ich blätter das im Buch ja auf. Es gibt die sogenannte passive Sterbehilfe, dass ich einfach sage, ich stelle mich dem Tod nicht mehr in den Weg.

22:38 Ich lasse zu, dass ein Patient verstirbt, der auf jeden Fall versterben würde, wenn ich jetzt nicht was machen würde und ich unterlasse das. Ich zum Beispiel beatme den nicht mehr künstlich oder ich mache nicht mehr die Herzdruckmassage, die Reanimation und so weiter und so fort. Oder es gibt diese Fälle, dass Patientinnen und Patienten in der allerletzten Lebensphase sagen, ich halte die Schmerzen nicht aus, ich mache das jetzt alles sehr mit dem Holzhammer, ich halte die Schmerzen nicht aus, ich brauche mehr Behandlung und das kann manchmal wobei, das wissen Sie besser als ich, die Kolleginnen und Kollegen sagen mir das ist extrem selten eigentlich, aber das kann manchmal dazu führen, dass jemand ein bisschen schneller

23:24 verstirbt. Das nennt man indirekte Sterbehilfe. Eigentlich ist das eine Schmerzbehandlung am Lebensende, aber es wird auch noch indirekte Sterbehilfe genannt. Und dann gibt es auch noch das, was ganz intensiv diskutiert wurde, jetzt auch die letzten Jahre. Und dazu gibt es ein Urteil des Bundesverfassungsgerichts, dass das zulässig ist, der sogenannte assistierte Suizid.

23:50 also das ist in der Schweiz erlaubt und in Belgien und in den Niederlanden und so weiter, dass mein Arzt oder meine Ärztin mir die Mittel zur Verfügung stellt und ich darf, wenn ich sage, ich habe eine ganz schwere Krebserkrankung im Endstadium und ich möchte diese letzte Phase nicht mehr erleben, ich darf dann selbst dieses Mittel nehmen.

24:13 All das wird unter dem Begriff Sterbehilfe diskutiert. Und ich kann die Leute verstehen, das sind wirklich unterschiedliche Sachen. Und Sie und ich wissen, dass der Bundesgerichtshof schon vor weit über 20 Jahren gesagt hat, natürlich darf ein Mensch entscheiden am Lebensende, dass er nicht mehr alles will.

24:30 Selbstverständlich dürfen Menschen medizinische Maßnahmen ablehnen, wenn sie das nicht mehr möchten. Und das darf man auch vorausverfügen. Darum geht es ja auch viel in dem Buch. Aber es ist, in der Öffentlichkeit geht das ein bisschen wild durcheinander. Und wissen Sie was, das ist der Grund, weshalb ich das Buch geschrieben habe.

24:50 Seien wir ehrlich. Ich habe das Buch geschrieben, weil ich weiß, 70 Prozent der Deutschen sterben da, wo wir rumlaufen. In Einrichtungen des Gesundheitswesens. 11% der Deutschen sterben künstlich beatmet. Das will eigentlich niemand. Wir müssen künstlich beatmen. Die künstliche Beatmung ist ein großer Segen.

25:08 Aber sterben an der künstlichen Beatmung ist nicht so schön. Das will man eigentlich vermeiden. Das kann man nicht nur den Medizinerinnen und Medizinern aufladen. Sondern da müssen die Leute selber ran. Entschuldige, dass ich das so deutlich sage. Aber mein Buch zielt darauf, die Menschen zu befähigen, selber über diese schwierigen Dinge nachzudenken.

25:31 Weil was nicht geht in einem Gesundheitswesen, das so belastet ist wie unseres, wo so die Arbeitsverdichtung stattgefunden hat, wo wir so einen Fachkräftemangel haben, dass alle da reinkommen und irgendwie die Erwartung ist, na ja, die Ärztinnen und Ärzte werden es schon alles richten. Weil die sind natürlich gehalten, nur um den Satz zu Ende zu führen, wenn die es nicht genau wissen, dann müssen die immer behandeln, wenn man es nicht weiß.

25:59 Also außer es ist völlig aussichtslos. Aber Sie wissen, das ist viel besser, wenn Sie eine klare, gut dokumentierte Vorausverfügung haben, wenn Sie jemanden haben, der bevollmächtigt ist, mit dem Sie das besprechen können, das Vorgehen. Das gibt es ja alles. Das ist alles längst eingeführt und erlaubt und vom Bundesgerichtshof und vom Bundesverfassungsgericht mehrfach unterstrichen.

26:25 Aber in der Praxis machen das, finde ich, jedenfalls noch zu wenig Leute. Und das war der Grund, weshalb ich das Buch geschrieben habe. Seien wir ehrlich. Ist natürlich extrem wichtig. Also meine praktische Erfahrung, ich habe ja länger auf Intensivstationen gearbeitet, im Klinikum Großhadern. Das ist immer gut gelaufen.

26:43 Ich möchte gerne die Message rausgeben, und das implizieren Sie auch in Ihrem Buch, dass man sich eigentlich keine Sorgen machen muss. Die Kolleginnen und Kollegen haben das immer mit äußerster Sorgfalt im sehr guten Gespräch mit den Angehörigen, auch wenn es keine Patientenverfügung gab, was jetzt vor 20, 25 Jahren noch viel weniger der Fall war als heute, ist das immer im Sinne der Angehörigen und des Patienten am Ende des Tages, ich sage mal in Anführungszeichen, gut gelaufen oder so, dass alle damit fein waren.

27:17 Und da braucht man sich überhaupt keine Sorgen machen, dass jetzt da jemand quasi gegen seinen Willen weiter behandelt wurde und dass der wochenlang, vielleicht hat jemand mal so eine Erfahrung gemacht, aber jetzt meine persönliche Erfahrung ist, dass man das natürlich auch mit einem gesunden Menschenverstand und einer rationalen Herangehensweise immer gut gelöst hat.

27:42 Das ist, glaube ich, mal wichtig zu sagen, dass nicht so starre Mechanismen, wo dann, das sind ja die Menschen, die da arbeiten, das sind ja keine Roboter, die wissen ja genau, wie es ist. Das ist ja zutiefst menschlich und geht natürlich irgendwo an die Nieren und an die ultimative Existenz. Und das ist auch allen Beteiligten bewusst.

28:04 Aber man kann alles noch verbessern. Also meine Erfahrung ist auch, der weit, weit überwiegende Teil dieser Fälle, die sind durchaus manchmal aufreibend, aber die lassen sich wunderbar lösen. Aber es gibt schon hier und da mal einen Konflikt. Es gibt auch einfach Gesprächsbedarf. Es gibt Informationslücken.

28:24 Durchaus manchmal auch bei den Kolleginnen und Kollegen. Dafür gibt es ja eine klinische Ethikberatung. Und ab und zu, also das war bei meiner früheren Position, weil das auch schon ein paar Jahre her ist, da haben schon ab und zu mal Leute angerufen und haben mich gefragt, ist das was wir hier machen dürfen wir das und ich so ja klar selbst bei uns hilft das ab und zu das sehr explizit mal in Ruhe zu besprechen und ich wollte tatsächlich, da bin ich völlig bei Ihnen die Patientinnen und Patienten ermutigen sich mit dem Thema zu befassen, damit ehrlich gesagt vor allem damit es die nicht so eiskalt erwischt denn das Lustige ist ja Aber das ist nicht lustig, sondern es ist eigentlich ja, ich will nicht sagen traurig,

29:08 aber es ist jedenfalls etwas, was man festhalten muss. Der Tod spielt in unserem Alltag. Wir sprechen ja nicht viel über das Sterben. Das ist ja ein Thema, darüber redet niemand so richtig gerne. Sie haben es gerade gesagt, Politikerinnen und Politiker reden darüber nicht gerne. Aber es ist ja schon so, dass die meisten Menschen nicht so gerne, das kann ich auch verstehen, dass man sich jetzt nicht mit der eigenen Endlichkeit ständig befasst.

29:31 Das hat aber ein bisschen dazu geführt, weil wir in der Medizin die Situation haben, dass die Medizin so tolle Fortschritte gemacht hat. Wir können ja so viel. Und deswegen gibt es da ein bisschen mehr zu entscheiden hier und da. Und das hat ein Stückchen dazu geführt, dass, wie ich finde, zu wenig Menschen sich damit bewusst befassen.

29:53 Und ich sage immer, und das ist auch was sehr Positives, also da möchte ich mich einreihen bei dem, was Sie gesagt haben. Ich sage immer, ich habe es immer und immer wieder erlebt, dass Menschen mir gesagt haben, wenn sie sich damit beschäftigt haben, wenn sie gesagt haben, weißt du was, ich setze mich jetzt mal, ich rede jetzt mal mit meinem Mann, ich rede mal mit meiner Frau, ich rede mal mit meinen Eltern.

30:15 Was ist euch wichtig? Wollen wir mal darüber nachdenken? Weiß nicht, jemand hat eine Diagnose bekommen, einer schweren Erkrankung. Was stellst du dir vor? Vielleicht auch mit der Hausärztin mal hinsetzen oder mit dem behandelnden Arzt hinsetzen. Das tut gut. Das entlastet. Das hat auch was Befreiendes, dass du tatsächlich mal drüber nachgedacht hast, na ja, was machen wir denn zum Beispiel, wenn diese Krankheit ganz fürchterlich fortschreitet?

30:41 Und wenn es vielleicht nicht mehr möglich ist, das zu heilen? Oder wenn es sich ganz schlimm verschlechtert? Was sind dann die möglichen Optionen? Und ich weiß, man schreckt davor zurück. Das kann ich total gut verstehen. Aber ich versuche eben darauf hinzuwirken, zu sagen, das geht. Man kann das machen.

30:59 Also Patientenverfügung ist absolut wichtig. Ist nicht nur, konnte man überlegen, sondern sollte jeder machen. Vielleicht können wir hier mit unserem kleinen Podcast dafür sorgen, dass es ein paar mehr machen. Wir können jetzt nicht mehr in angedachter Zeit so viel über Organspende reden, was ja auch für Sie und insgesamt ein ganz wichtiges Thema ist.

31:22 Manche stellen das aber so ein bisschen kontrovers dar, dass irgendwie ich habe zwar eine Patientenverfügung, aber eigentlich auch einen Organspendeausweis. Spricht es denn nicht irgendwie gegeneinander? Also gar nicht. Beides ist wichtig. Wir können da denke ich auch in anderen Ländern lernen. Ja, und man kann das beides sozusagen zusammen ausfüllen, ablegen und so.

31:46 Also da gibt es auch Dokumente, die beides beinhalten. Also das ist überhaupt kein Widerspruch. Ich möchte mit Ihnen auf jeden Fall auch noch ein bisschen über KI reden. Sie haben es vorhin schon angedeutet, das ist ja das Hauptthema unserer Zeit. Und was mich umgeht in dem Zusammenhang, wir haben jetzt ein bisschen auch über Politik gesprochen, ich finde bei uns in der Politik, in der täglichen Kommunikation spielt KI eine viel zu untergeordnete Rolle.

32:16 Es ist eigentlich das wichtigste Thema überhaupt. Aber wir haben Rentenreform und wir haben natürlich Ukraine und das sind alles ganz wichtige Themen. Aber die KI wird unser aller Leben ja die nächsten Jahre massiv ändern. ändern. Und da kommt natürlich dann auch Ihr Fachgebiet jetzt ganz extrem rein, weil wir tun uns ja noch ein bisschen schwer, vielleicht auch ein bisschen besonders schwer in Deutschland, wo wir da noch nicht so ganz die Akzeptanz haben, wo andere Länder natürlich jetzt gerade USA und China da viel aggressiver vorangehen.

32:53 Und was ich wirklich interessant fand, dass Sie diesen Begriff Embedded Ethics geprägt haben. Also dass Sie sagen, wenn wir uns mit KI auseinandersetzen, müssen wir im Prinzip von Anfang an auch die ethischen Fragen da mit einbauen. Und können Sie nochmal kurz erläutern, wie Sie das meinen und wie man das auch dann irgendwo praktisch anwenden kann?

33:20 Vielen Dank. Also ich muss kurz sagen, es gibt sozusagen so zwei Bereiche, in denen man KI bereden kann. Das ist einmal die ganz große Ebene, das haben Sie aufgerissen, das ist eine geopolitische Ebene. Wollen wir es so machen wie die USA, im Prinzip ganz unreguliert? Wollen wir es so machen wie China mit staatlich massiven staatlichen Druck und staatlichen Subventionen?

33:42 Und wo uns auch so ein bisschen egal ist, wie es der Bevölkerung damit geht, oh, wollen wir das so machen, wie wir es in Europa machen, dass wir sagen, wir wollen das auch und dann müssen wir schneller werden. Wir wollen es aber schon irgendwie verantwortlich machen. Wir wollen die Leute mitnehmen. Und dann kann man, und darüber kann man intensiv diskutieren, also dieser Konkurrenz, dieser fällt Europa da zurück.

34:07 Müssen wir jetzt hinterherrennen und auch alle die großen Sprachmodelle noch trainieren? Das sehe ich übrigens nicht so. Ich glaube, wir haben in Europa andere Chancen, auf dieser großen Ebene, in denen wir sehr, sehr gut und sehr viel machen können und müssen jetzt nicht hinterherrennen. Das ist aber, wie gesagt, ein großes, großes geopolitisches Thema.

34:26 Aber wenn wir ein bisschen enger gucken in die Medizin, bin ich ja ein Riesenfan der Technologie. Weil ich sage, ohne geht es gar nicht. Und da ist so viel zu tun. Also ich meine, es hat gerade wieder einen Nobelpreis gegeben für die Proteinfaltung. Sie wissen, was das bei uns in der Wissenschaft bedeutet hat für neue Medikamente, neue Moleküle.

34:48 2024 völlig zu Recht der Nobelpreis. Also da geht ja die Post ab. und bei uns an der TU und bei Ihnen auch. Also gerade auch in Ihrem Bereich, also im Bereich der Neurochirurgie, im Bereich der Neurowissenschaften breiter verstanden. Also die dollsten Sachen. Und wir sind in der Medizin in dem Bereich, wo wir aufpassen müssen, weil wir eben Menschen vor der Flinte haben, weil es bei uns um wirklich wichtige Sachen geht.

35:18 Und deswegen muss man es verantwortlich machen. Und ich mache mir da auch keine Sorgen. Wir sind das gewohnt. Technologien in die Medizin verantwortlich reinzuholen. Jetzt ist es so, dass bei den Algorithmen, ich spreche jetzt mal so beim maschinellen Lernen und auch bei der generativen KI, also dieser neuen Form der künstlichen Intelligenz, da gibt es schon noch mal ein paar neue Fragen, die aufkommen.

35:40 Und da haben wir entwickelt so einen ganz interdisziplinären Ansatz, wo wir gesagt haben, die Ethikerinnen und Ethiker sind Teil des Entwicklungsteams. Die sind dabei und die denken einfach mit. und stellen sozusagen an der richtigen Stelle mal eine Frage. Man überlegt gemeinsam, wie kann man diese Technologie so designen, dass sie möglichst gut ist für Patientinnen und Patienten.

36:08 Woran muss man denken? Ich gebe Ihnen mal ein Beispiel, ein ganz konkretes Beispiel aus einem etwas anderen Bereich. Da geht es um die Versorgung alter Menschen, die man möglichst lange selbstständig haben möchte. Die sollen ja möglichst lange eigentlich bei sich zu Hause sein. Und dann wird in der Nähe von München entwickelt ein Roboter, so eine Art Pflegeroboter, der auch telemedizinische Anwendungen kann, bis hin zu einem Ultraschallkopf auf den Bauch legen.

36:38 Und so ist das schon richtig cool. Und aber eben auch Spülmaschine ein- und ausräumen und wie mal ein Getränk anreichen und die Schlappen anheben und helfen von der Toilette aufzustehen und so weiter und so fort. So, und da gibt es so Modellwohnungen, die gebaut wurden an so einem Campus, wo diese Geräte entwickelt werden.

36:58 Und wir waren bei dem ersten Meeting dabei als Embedded Ethica, also Ethicists, und haben diese Pläne gesehen, die allerersten. Und die waren, das war ganz überraschend, es war toll, es sah super aus, aber das waren Wohnungen für hochalte Menschen, auch schon mit körperlichen Einschränkungen. und es gab keine Wand.

37:23 Nirgendwo. Weil dann der Roboter da besser durchfahren konnte. Da haben wir gesagt, also das ist toll, aber die älteren Menschen haben Schamgefühle. Die brauchen vielleicht auch eine Wand an ihrem Bett. Aber ganz sicher im Bad oder in der Toilette. Und das muss man mitdenken. Das war überhaupt kein Problem.

37:46 Da kannst du mit mit Modulstellwänden und so. Man muss das ja nicht alles mauern. Man kann ja weiter dafür sorgen, dass der Roboter da gut um die Ecke kommt. Dann hast du halt sehr breite Türen. Aber du hast hier und da auch so mobile Wände und das kannst du alles machen. Aber ich erzähle diese Geschichte gerne als ein Beispiel, dass du an der Stelle einen anderen Blick gebrauchen kannst.

38:06 Weil der Robotiker denkt, wie funktioniert der Roboter am besten? Wie kriegt das am besten hin? Und das ist nur ein Beispiel von ganz vielen. und wir sind in diesem Entwicklungsprozess dabei. Da geht es auch viel um Datennutzung. Können Sie sich vorstellen, da geht es sehr viel darum, wie können Daten optimal kuratiert werden?

38:28 Wie kriegt man das hin, dass man das sicher macht und trotzdem eine gute Nutzung hat und auch richtig was hinkriegt? Wie kriegt man die Akzeptanz hin, auch von denen, die das nutzen? Also ganz, ganz viele super spannende Fragen. Und wir haben das schon, wir haben das in der Radiologie gemacht, Wir haben es in der Dermatologie gemacht, in der Genomik, also mit ganz, ganz vielen Kolleginnen und Kollegen.

38:49 Und ich muss sagen, das funktioniert wirklich toll und es kommt am Ende dann immer das, glaube ich, hoffe ich, bestmögliche Produkt dann auch raus, wo man sagen kann, da hat man auch dran gedacht, nicht nur sozusagen das technisch so toll wie möglich zu machen, medizinisch so toll wie möglich, sondern auch noch mitgedachtes ethisch und sozial.

39:11 das denken wir auch mit, optimal zu machen, so gut es geht. Es gibt eine aktuelle JAMA-Studie. Es gibt 1250 KI-Medizinprodukte mittlerweile weltweit zugelassen. Davon wurde aber nur die Hälfte, anders als Sie es gerade beschrieben haben, überhaupt klinisch getestet. Das ist natürlich ein Problem. Und da kommt natürlich sofort die Frage der Haftung.

39:41 Sie haben es natürlich schon geahnt. Wenn jetzt die KI falsch diagnostiziert, wer ist nun schuld? Der Arzt oder der Hersteller oder niemand? Das sind ja ungeklärte Fragen so ein bisschen. Und deswegen kann ich die auch nicht beantworten, weil das sind am Ende juristische Fragen. Da geht es um eine geteilte Verantwortung.

40:06 Ich bin da übrigens zuversichtlich, das kriegen wir hin, weil das haben wir ja in der Medizin auch häufig und wir haben häufig so geteilte, auch was Haftung anbelangt, haben wir so komplexe Situationen und die Juristinnen und Juristen beschäftigen sich damit schon. Also da bin ich relativ zuversichtlich.

40:26 Der Ethikrat hat dazu gesagt in der Stellungnahme die Letztverantwortung. Die Letztverantwortung, also nicht eine einzelne Aufgabe. Sagen wir mal, ich habe einen Algorithmus, der mir jetzt die Röntgenbilder befindet. Und diese eine spezifische Aufgabe, der ist total super untersucht und da hat sich wirklich gezeigt, der ist weit über Facharztniveau präzise und so weiter.

40:50 Da kann man irgendwann, wenn der ordentlich überprüft ist, kann man sagen, okay, da verlasse ich mich als Arzt, als Ärztin wirklich drauf. Und wenn der dann was falsch macht, dann muss man schon mal gucken, was ist denn da schiefgelaufen. Aber das ist dann sozusagen eine einzelne Teilaufgabe. Da kann man solche geteilte Verantwortung machen und da wäre dann die Haftung vermutlich beim Hersteller.

41:15 Aber für die gesamte Behandlung muss immer Arzt oder Ärztin verantwortlich sein. sozusagen, was ist insgesamt die Behandlungsentscheidung bei einem Patienten oder bei einer Patientin. Und deswegen haben wir gesagt, dass man diese Instrumente tatsächlich nicht mal so einfach in die klinische Praxis reinlassen darf, sondern eben wirklich sehr, sehr sorgfältige Dinge machen muss.

41:40 Da gibt es ganz verschiedene Anforderungen und die sollten auch höher sein als in anderen Bereichen der Gesellschaft, weil es bei uns in der Medizin halt um was geht. und ich rede jetzt nicht von irgendwelchen Sachen, die die Arztbriefe leichter machen, also die da irgendwie bei der Dokumentation oder sowas helfen, sondern wenn es wirklich an den Patienten, an die Patientin geht, darf man das niemals, die Letztverantwortung einer Maschine überlassen, weil die immer Fehler machen werden.

42:09 Das ist ja eine Geschichte, die uns allen erzählt wurde, die KI würde ja irgendwann, das würde aufhören mit den Fehlern, das wird niemals aufhören, die wird immer Fehler machen, Das steckt in der Technologie drin und sie hat kein Verständnis von der Welt. Das ist kein Wesen, das uns da gegenübersteht, das wirklich ein Verstehen, ein Denken, ein planvolles Handeln hat.

42:38 Das ist Statistik. Und deswegen in der Medizin, wo Technologie, aber auch ärztliche Kunst ja zusammenkommen, um den Patient, die Patientin optimal zu versorgen, wo Mensch zu Mensch miteinander agieren, darf eine Letztverantwortung nicht bei einer Technologie liegen. Da waren wir relativ klar. Ich verstehe die Frage, aber ich finde es trotzdem unfassbar schwer und komplex im Detail.

43:08 Ich war vor ein paar Wochen hier in der Bayerischen Akademie der Wissenschaften bei dem Vortrag von Eric Topol, den Sie wahrscheinlich auch kennen. Ja, klar. Screen Liberation. Genau, dem bekannten Kardiologen, der sich auch sehr viel mit Medizin und KI beschäftigt. und das war übrigens extrem, also einer der interessantesten Vorträge, muss ich sagen, die ich überhaupt jemals gehört habe und der hat drei unabhängige Studien zitiert und in allen drei Studien wurden komplexe medizinische Fragestellungen, einmal der KI alleine, einmal KI und Arzt und einmal Arzt alleine antwortet.

43:44 In allen drei Studien ist dasselbe Ergebnis rausgekommen. Am besten KI und Arzt. Ja, das würde jeder denken. Nein, in jeder Studie kam raus, KI alleine war am besten. Dann muss ich kurz nachfragen, waren das Studien unter Optimalbedingungen oder war das tatsächlich sozusagen das saftige, chaotische, klinische Setting?

44:08 Denn da gibt es einen enormen Unterschied in diesen frühen ersten Studien ist die KI immer viel besser unter sozusagen, wenn man will, kontrollierten Bedingungen, als wenn man sie tatsächlich in der Klinik so richtig einsetzt. Und das hat der Ethikrat nämlich unterschieden Und da stellt sich die Studienlage meistens anders dar.

44:26 Aber auch da haben wir übrigens gesagt, sollte es soweit kommen, dass wirklich dann die KI besser ist, gibt es eine Verpflichtung, sie zu nutzen, aber niemals die Letztentscheidung alleine treffen zu lassen. Also das haben wir mit eingeflochten. Aber ich gebe Ihnen recht, das ist echt schwierig und da wird sich auch vielleicht noch was verändern.

44:47 In dem Zusammenhang, 16 Prozent der Deutschen ignorieren bereits ärztliche Empfehlungen, weil Jet-GPT was anderes sagt als der Arzt. Das ist ja auch, sagen wir mal, irgendwo bedenklich. Ist das doch ein bisschen so der Anfang vom Ende von der Arztvertrauenssituation? Das ist eine gute Frage. Also ich weiß jetzt, apropos Eric Topol, weil Eric Topol spricht ja immer auch, also das sind ja oft dann spezifisch trainierte Tools.

45:18 Da ist auch nochmal ein Unterschied, ob sie sozusagen die Feldwald- und Wiesen-KI, die alle irgendwie in Google oder bei JetGPT haben, oder ob sie ein spezifisch trainiertes Tool haben. Die spezifisch trainierten Tools sind sehr viel besser. Aber auch JetGPT ist ja sehr gut. Also das haben wir ja alle ausprobiert, ja.

45:33 Nur JetGPT hat auch schon Leute in den Suizid getrieben. Jet GPT, darf ich Ihnen meine Lieblingsgeschichte aus der Medizin erzählen? Das ist in den Annals of Internal Medicine vor drei oder vier Monaten publiziert. Da gab es eine Fallstudie, da kommt jemand auf die Intensiv-, also in die Notaufnahme.

45:55 Floride Psychose, ganz heftig und die haben alles angeguckt und war irgendwie ganz schwer zuzuordnen. Stellt sich raus, ich mache es kurz. Der wollte den Salzgehalt in seiner Ernährung reduzieren, weil sein Arzt gesagt hat, du bist da sensitiv und mir gefällt deine Herzgesundheit nicht so, reduziere mal Salzaufnahme.

46:15 Und dann hat er mit Chetjipiti gesprochen und gefragt, womit könnte ich Salz denn in der Nahrung ersetzen? Da hat Chetjipiti gesagt, Bromsalz. Und dann haben die über Wochen gechattet und haben in allem Essen, das dieser arme Mensch zu sich genommen hat, immer schön, also die Empfehlung von Chetjipiti war immer Bromsalz zu nehmen, statt normalem Salz.

46:37 Und das muss ich Ihnen nicht sagen, Brom führt natürlich zu einer Psychose. Und der Kerl hatte eine Floride-Brom-Psychose. Also das kann eben passieren. In den meisten Fällen passiert das nicht. Insbesondere, wenn die Nutzerinnen und Nutzer da verantwortlich sind. Und jetzt ganz kurz noch zurück zu Ihrer Frage, ist das der Anfang vom Ende?

46:56 Ich glaube, wir haben hier eine wirklich neue Situation. Wir hatten bisher eine Duade, eine Zweierbeziehung, Arzt, Patient. Jetzt haben wir eine Triade. Arzt, Patient, künstliche Intelligenz, die kommt da rein, ob wir es wollen oder nicht. Das ist so. Und ich glaube, wir Ärztinnen und Ärzte müssen jetzt rapide uns damit befassen und ausbilden.

47:19 Das sage ich immer den Fachgesellschaften. Ich sage, Leute, bringt das in eure Curricula rein, ertüchtig die jungen Kolleginnen und Kollegen, mit den Patienten zu arbeiten. Ihr müsst die Tools selber kennen, ihr solltet sie nutzen, ihr solltet sagen können, pass mal auf. Also dafür ist okay, für allgemeine Gesundheitsinfo okay.

47:35 von mir aus, immer aufpassen, mal gegenchecken, weil könnte auch eine Brom-Idee sein, weißt du nicht, bei Chet-GPT. Aber wenn es um wichtige Sachen geht, bitte, bitte, bitte verlasst euch nicht drauf. Das ist einfach zu gefährlich, dann machen wir das gemeinsam. Das kann ja toll sein. Es gibt die tollsten Tools inzwischen in der Medizin, die für das Management chronischer Erkrankungen spezifisch gebaut sind.

47:59 Wo die Patientinnen und Patienten so eine Art Tutor haben, das ist total toll. Also die ganzen Sachen wie Sekundärprävention, wie kriege ich das hin, dass die Erkrankung möglichst optimal bei mir verläuft, dass ich meine Medikation nicht vergesse, dass ich all das im Lebensstil mache, was ich zusätzlich machen kann und so weiter und so fort.

48:17 Da gibt es die tollsten Sachen, da können wir ja mit zusammen arbeiten. Aber ich und der Ethikrat haben immer dafür plädiert, wir müssen am Ende des Tages im Sattel bleiben und ich würde es für sehr gefährlich halten, wenn zum Beispiel, so wie in den USA, aus Kostengründen manche Krankenhäuser sagen, also diese ganzen Therapeuten hier, Psychotherapeuten, brauchen wir nicht.

48:40 Wir machen jetzt nur noch KI-basierte Therapie. Das würde ich schlimm finden. Da würde ich sagen, das geht nicht. Sondern man muss, die Faustregel, vielleicht zum Abschluss diesen Satz, die Faustregel des Ethikrats ist, KI muss menschliche Handlungs- und Entfaltungsmöglichkeiten erweitern erweitern und darf sie nicht verringern.

48:59 KI darf den Menschen nicht ersetzen. Also den Arzt, die Ärztin ersetzen, nein. Aber mithelfen, unterstützen, assistieren und das auch durchaus viel. Da können wir noch viel mutiger werden. Mit den Patientinnen und Patienten, mit denen das geht. Es gibt auch welche, die sagen, bleib mir bloß weg mit dem Zeug.

49:17 Aber ich glaube, wir müssen da jetzt voran, denn die Leute machen es sowieso und dann verlieren wir die. Weil die uns dann immer nicht mehr vertrauen, wenn der Arzt immer nur sagt, dieses ganze KI-Teufelszeug und die Leute haben es aber auf dem Handy und es ist super praktisch und es klingt ja auch irgendwie total nachvollziehbar, dann kriegst du da so ein Mismatch.

49:34 Deswegen würde ich immer sagen, fesse drauf, vorneweg, ganz viel nutzen und selber darauf vorbereiten, das in die Curricula bringen, mit den Patientinnen und Patienten reden, klare interne Überlegungen haben, wie nutzen wir das bei uns auf Station, wie nutze ich das in meiner Praxis, die Fachgesellschaften, alle müssen ran und dann bin ich total zuversichtlich.

49:57 Also ich würde so weit gehen, dass Ärzte, die heutzutage nicht mit KI arbeiten, mit denen würde ich eigentlich mich nicht mehr austauschen wollen, weil die haben inhärent, die haben einen Nachteil. Aber lassen wir es mal vielleicht so stehen. Einen letzten Aspekt wollte ich noch kurz bei Ihnen ansprechen.

50:13 Der Alexander Wang, der Erfinder von Scale AI und jetzt mittlerweile bei Meta, hat eine sehr interessante Aussage letztens gemacht bezüglich Nachwuchs. Er ist ein paarundzwanzig Jahre alt, absoluter KI-Experte. Er sagt, aktuell will er noch keine Kinder, weil er möchte erst quasi die Endentwicklung von Neuralink, also den Chip von Elon Musk, abwarten.

50:41 weil erst wenn das ein gutes Produkt ist, will er Kinder bekommen, weil das Kind soll dann gleich so einen Chip bekommen. Und wenn es den Chip hat, dann kann es sozusagen auch in der zukünftigen Welt gut operieren. Weil wenn er jetzt ein Kind bekommt und die Kinder in fünf Jahren, die haben dann alle einen Chip, dann hat ja sein Kind so große Nachteile und das will er auf keinen Fall, dass das bei seinem Kind so kommt.

51:05 Ich meine, das klingt für uns hier so ein bisschen als absolut vielleicht Future-Horror-Szenario, Nö, aber der arme Kerl. Ich finde das mal interessant. Wie schätzen Sie das ein? Da gibt es ganz, ganz viel Arbeit in der Technikethik. Auch mit solchen Szenarien. Also darüber denkt die Technikethik ja auch schon lange nach.

51:24 Das wird ja auch über KI schon sozusagen mit... Früher waren es Science-Fiction-Szenarien, die jetzt sozusagen wahr werden. Aber nachgedacht wurde darüber ja schon seit Jahrzehnten. Du rennst immer hinterher. Also es ist total absurd. Sorry, diese individuelle Planung ist totaler Quatsch. Ja, weil es mag sogar mit Neuralink sein.

51:42 Ja, und dann fünf Jahre später gibt es eine noch geilere Sache. Ja, dann haben die wieder einen Freund. Also das ist sozusagen so eine Spirale, die sich da auf... Und der tut mir leid. Also da habe ich ganz viel Empathie dafür. Da denke ich mir, ach je, du hast noch nicht verstanden, dass du ins Ungewisse gehst, wenn du Kinder kriegst und niemals weißt, was kommt in der...

52:00 Ja, ich meine, du weißt es nicht. Die Geburt geht schief. Da kann dir die beste KI nicht helfen. Oder dann hast du vielleicht ein Kind mit einem Geburtsschaden. Ja, da kannst du dir dein Neuralink sonst wohin backen. Entschuldigung, dass ich da jetzt so relativ flapsig spreche. Also das ist ein Versuch einer Kontrolle von etwas, was nicht kontrollierbar ist.

52:18 Aber das ist genau, ich halte das für PR und ich halte das für ein bisschen gefährlich. Ich glaube, das ist die Verheißung. Da wird uns erzählt, die zukünftige Technologie könnte all diese Dinge kontrollieren. Das ist natürlich Quatsch. Die Wechselfälle des Lebens kannst du nicht kontrollieren und auch die Technologieentwicklung nicht.

52:37 Weil wie gesagt, fünf Jahre später gibt es vielleicht was viel Geileres und das hat dein Kind dann auch nicht. Vielleicht kriegt er dann noch ein Kind damit, dass das dann hat und so. Aber ich meine, das ist ja absurd. Ich halte das eher für so eine markige Werbegeschichte, so nach dem Motto, hier die große Verheißung der KI und ich glaube, da würde ich ruhig und vernünftig bleiben.

52:58 aber natürlich, das muss man schon sagen ich glaube wir haben in Deutschland viele Berührungsängste und ich würde uns alle ein bisschen ertüchtigen und ermutigen wollen und auch deswegen habe ich dazu ein dickes Kapitel geschrieben, das ja durchaus kritische Punkte macht, aber wo hoffentlich auch meine Begeisterung durchkommt für diese Technologie ich glaube wir können da einfach wir sollten da auf die Art wie wir das machen, auch eine verantwortliche Art und Weise sollten wir da ein bisschen Gas geben.

53:29 Absolut. Zum Abschluss bitten wir immer unsere Gäste, einen kurzen Satz zu vervollständigen. Für Sie wäre der Satz, drei konkrete Dinge, die jeder Zuschauer heute noch tun kann, um ethisch verantwortungsvoller mit seiner Gesundheit umzugehen, sind? Ein Spaziergang. Ein Gespräch führen mit einer lieben Person, der man vertraut.

53:56 Vielleicht ein allererstes darüber, wie das Leben sein kann, wenn man vielleicht schwer erkrankt, was man sich dann wünschen könnte. Es muss nur das erste Gespräch sein. Das ist ein Prozess. Und sich freuen daran, dass es Menschen gibt, mit denen man über so etwas sprechen kann. Und wenn man sie nicht hat, dann sich mit den Profis vielleicht einen Termin machen.

54:24 Vielen Dank, Frau Prof. Bix. Ganz herzlichen Dank, lieber Herr Prof. Młodziewicz und uns Kollegen. Machen wir es einmal ordentlich, hat mir sehr viel Spaß gemacht. Danke.