Highlightstudie KI: Wie autonome Agenten die Medizin verändern können

0:04 Willkommen zu Gastrogeplauder, dem gastroenterologischen Wissenspodcast der DGVS. Hallo und herzlich willkommen zu einer neuen Folge von Gastro Geplauders. KI ist für mich inzwischen wie das Internet oder das Smartphone. Ich nutze sie jeden Tag, macht meine Arbeit schneller, ich bin bei Recherchen besser und übernimmt Routine- und Sparzeit.

0:26 Gleichzeitig habe ich aber auch das Gefühl die KI funktioniert nicht ohne mich. umgekehrt – ich weiß vielleicht gar nicht so genau was die KI alles noch kann, was ich noch gar nicht begriffen hab! Wie weit die Entwicklung aber inzwischen geht? Das zeigt eine aktuelle Studie im Nature publiziert im Juni dieses Jahres.

0:40 Darin geht es nicht mehr um KI die Fragen beantwortet sondern um einen medizinischen KI-Agenten selbstständig klinische Entscheidungen treffen kann. Ich bin Petra Lühnen und ich freue mich heute auf einen der Autoren dieses Papers, herzlich willkommen Jakob Kater! Hallo Herr Kater, ich habe mir ganz viele Sachen zu Ihnen notiert.

0:57 Sie haben ja diverse berufliche Schleifen schon gedreht. sie sind Gastroenterologe aber eben schon glaube ich von Anfang an eine große Affinität zur KI-Entwicklung gehabt. Ich würde Sie eigentlich bitten, sich selber mal ein bisschen vorzustellen und zwar schlaglich zu werfen wo sie eigentlich ihre beruflichen Hauptstationen gesehen haben so in den letzten Jahren.

1:14 ich weiß die sind gerade auf dem Sprung nach Heidelberg. erzählen Sie uns einmal ein bisschen über sich. Ja vielen Dank also. Ich bin aktuell Professor für KI in der Medizin an den TU Dresden, an der Medizinfarktität und Informatikfakultät. Und auch noch zum kleinen Teil des Ärztlich-Tätigen. meine beruflichen Stationen waren in der Onkologie dann in der Gastroenterologie und wieder in der onkologie.

1:35 also da habe ich einige unterschiedliche Blickweisen gesehen. parallel zur medizin habe mich immer mit KI auseinandergesetzt. schon im Studium habe ich nebenbei Computerprojekte gemacht in meiner medizinischen Doktorarbeit auch KI eingesetzt für die Auswertungen von Bilddaten und dann habe ich noch ein Master of Science gemacht in einem Ingenieursfach.

1:53 Und das vertieft, dass alles war bevor KI in aller Munde war. Damals war es eher noch ein nischen Thema und natürlich jetzt ist das absolut im Rampenlicht um das auch zurecht. Und natürlich ganz toll was KI jetzt Holstein bekommt. Ja absolut! Ich bin froh, dass ich diesen Lebenslauf nicht vorstellen musste, dass sie das für mich übernommen haben.

2:10 Sie sind auf dem Sprung nach Heidelberg. wie wird da ihre neue Aufgabe sein? Darf man das schon verraten? Ich kann schon jetzt sagen, dass ich ab dem ersten Oktober am Uniklinikum Heidelberg sein werde und dort ein neues KI-Institut aufbauen werde. Also wir müssen nicht nur weiter KI Forschung machen sondern KI auch in die Klinik bringen und da gehört eben ganz viel dazu, dass wir uns die nächsten Jahre angehen möchten.

2:32 Absolut sehr, sehr spannend. Sie haben es gerade schon angedeutet sie haben begonnen da hat man KI vor allem genutzt für Mustererkennung Bilderkennungen. das war so für mich zwei tausend neunzehn würde ich sagen ging's damit so richtig los. dann kam ChatGPT Das war ja erstmalig KI so für jedermann. Dann kamen die Co-Piloten die ein bisschen mehr noch organisatorische Aufgaben auch übernehmen konnten.

2:53 Und jetzt sprechen wir über Agenten. Bevor wir in das Paper gehen und ganz konkret sagen, was die Medizin einen KI-Agent kann, wie ist diese Entwicklung technologisch passiert? Was genau macht aus einer KI einen Agenten? Vielleicht können Sie das mal so als auf der Metaebene kurz erklären! Ja, in der Tat hat sich da ganz viel getan.

3:12 und vielleicht noch mal eine kleine Anekdote als ich nach dem Studium mich beworben habe auf meine erste Assistenzarztstelle. Bin auch zu verschiedenen Gastroenterologien gegangen und hab gesagt, ich habe ein Interesse an computerbasierter Datenauswertung und irgendwie GI-Tumoren. gibt es da eine Nische?

3:32 Tatsächlich war es noch gar nicht so einfach, positive Rückmeldung zu finden. Also ich hab da viel gehört von. machen sie doch nicht so Forschung die einfach nur eine Core Facility ist und man sollte sich darin richtige Maus suchen und daran forschen. also das war noch ne ganz andere Zeit Und heutzutage ist klar dass man auch mit KI Forschen kann und muss und letztlich gar nicht umrum kommt und dass es auch im ärztlichen Alltag natürlich angekommen ist.

3:59 Gleichzeitig haben wir natürlich gesehen die letzten Jahre, wie rasant die technische Entwicklung ist. Vor zehn Jahren waren KI-Systeme eben noch spezialisierte Systeme, die man in einzelnen ganz klar definierten Fragestellungen eingesetzt hat und wurden dann immer mächtiger. aber jetzt natürlich seit Jahrzehntig drei und zwanzig Seit dem Erfolg der großen Sprachmodelle sehen wir alle ganz plastisch dass man eben KI-Stäme nutzen kann die nicht nur eine einzige Aufgabe erfüllen können, sondern die man letztlich zu allem fragen kann.

4:31 Und heutzutage kann man ja ein KI-System wie ChatchiBiti oder ein anderes großes Sprachmodell fragen. Mach mir einen Ernährungsplan mit mediterraner Diät für die nächsten sechs Wochen, mit dem ich bei einem Ballaststoffzufuhr erhöhen kann. oder man kann fragen mach mir einen Lernplan Facharztprüfung, Gastroenterologie.

4:48 oder hilft mir andere Konzepte zu verstehen. Also Menschen benutzen das für ganz unterschiedliche Aufgaben, obwohl die Systeme gar nicht explizit darauf trainiert wurden und das kann natürlich auch manchmal schiefgehen, ganz klar aber prinzipiell bekommt man da in vielen Fällen hilfreiche und halbwegs sinnvolle Rückmeldungen ja?

5:05 Und das ist also schon im Allgemeinwissen angekommen. und jetzt sagen den nächste Schritt ist aber die KI-Agenten von dem reinen Dialog weggehen hin zu Handlungen. Und KI-Agenten können also beispielsweise die Steuerung über ein Computer übernehmen und dort letztlich alle Aktivitäten durchführen, die auch einen Menschen mit einem Computer macht.

5:24 Das ist natürlich ganz viel und hat Auswirkungen auf die Medizin. In dieser technologischen Entwicklung bewegt sich unsere Forschung. Wir nutzen dann Techniken, die außerhalb der Medizin entwickelt wurden. Passen Sie auf die medizin an oder stellen Fragen was? Können wir damit in der Medizin erreichen?

5:40 Ich glaube es liegt ein bisschen auch daran, wenn man über das Thema KI spricht. Das ist einfach komplett neu und wir alle brauchen erstmal eine Vision oder Verständnis. und was geht damit über? Was ist das eigentlich? Und ich fand deswegen auch ihr Paper spannend, weil ich glaube beim Lesen des Papers auch zum ersten Mal so ein bisschen verstanden habe.

5:57 Was kann KI eben mehr als Fragen beantworten? Sie schreiben über MIRA. MIRA steht für Medical Intelligence for Reasoning and Action! Was kann MIRA denn jetzt was die klassischen Large Language Modelle nicht können? Ja unser KI-Agent. MIra kann eine Sache, die Standard Large Language models nicht können und zwar Mit anderer Software interagieren und zwar haben wir ja im Rahmen dieser Studie und das hat auch.

6:23 hat mein Mitarbeiter Dijk Ferber federführend gemacht, letztlich ein klinisches Informationssystem wie man es im Krankenhaus kennt. Im Computer nachsimuliert. also wir haben einen komplett abgeschlossenes klinische Informations-System mit Patientendaten drin und unser KI-Agent kann dort nicht nur die Daten lesen sondern auch Handlungen ergreifen zum Beispiel für einen Patienten Laborwerte anfordern dann die Ergebnisse angucken.

6:46 Ein Ultraschall anfordert die Ergebnisse angucken Also verschiedene Handlungen treffen. und das ist ja letztlich so wie wir Ärzte auch in der Klinik arbeiten, wir machen nähern uns schrittweise ein Problem. In den vielen Fällen sitzt man wird das eben koordiniert durch das klinische Informationssystem indem man Anforderungen stellt und dann die Ergebnisse sich anschaut.

7:06 und genau das kann eben einen KI Agent auch und wir haben denen Agenten eben evaluiert auf verschiedene Differenzialdiagnostische Probleme. Und zum Beispiel jemand kommt mit Bauchschmerzen in die Notaufnahme, was hat die Person? Das ist natürlich keine Frage, die einem so Chatchivity beantwortet, sondern man muss dann untersuchen sich die Ergebnisse anschauen, Laborwerte anfordern, die Ergebnisse anschauen und Ultrischallanfordern sich die Ergebnisse anschaut und nähert sich somit schrittweise in einer Stufendiagnostik dem Problem.

7:32 Genau das konnte unser KI-Agent Mira eben auch im Vergleich mit menschlichen Ärztinnen und Ärzten excellent lösen. Sie haben ja mehr als fünfhundertsechzig reale Patientenfälle gehabt. die sie mit Mira haben kommunizieren lassen. Vielleicht kann ich mir das so vorstellen, dass eigentlich zwei KI's miteinander korrespondieren?

7:49 Also die Patienten-KI, die alle in Patientininformation zur Verfügung hat und das andere System Mira, das dann wieder einen Werkzeugkasten zur Verfügung hatte von Ich kann jetzt irgendwie Laborwerte anfordern oder ein Bildgebung beantworten usw., ist das so ein bisschen so ganz runtergebrochen richtig erklärt?

8:05 Ganz genau so ist es! Und das ist auch letztlich ein Prinzip, das wir in der KI Entwicklung allgemein haben. man braucht eben eine Umgebung die eben auch komplex sein kann. Eine simulierte Umgebung und dann eine KI, die sich in dieser Umgebungen bewegt und lernt und Handlungen trifft. Jetzt gleich mal zu den Ergebnissen.

8:23 Mira hat bei ihren mehr als fünfhundertfünfhundertvier- und sieben Patientenfälle waren, ich habe es mir genau aufgeschrieben... ...und hat in fast neun-achtzig Prozent der Fälle die richtige Diagnose gestellt also erst einmal eine Anamnese gemacht, den Patienten gefragt wo tut's dir weh wie lange schon was hast du schon gemacht?

8:37 usw. Und dann Blutwerte angeordnet, Bildgebungen angeordneten bis hin zur fertigen Diagnosis. Neun-Achtzig Prozent das ist irgendwie ziemlich gut. oder hat Sie das überrascht? haben Sie mehr erwartet? Vielleicht ordnen Sie das mal ein. Sie haben ja auch gesagt, sie haben nicht nur einen Krankheitsbild sondern verschiedene Untersuchte.

8:54 gibt es Krankheitsbilder wo die KI besonders gut war, wo sie schlechter war? Ja genau. also in der Tat waren wir überrascht wie gut das letztlich auf Anhieb funktioniert und diese Prozentzahlen sind gar nicht so unbedingt das Wichtigste aus unserer Sicht sondern der Vergleich mit den menschlichen Ärzten denn das sehen wir überall wo wir KI-Systeme evaluieren.

9:14 Wir nehmen den menschen Experten als Goldstandard in vielen Fällen Aber dann gibt es eben auch immer Fälle, wo das vielleicht gar nicht unbedingt stimmt oder wo auch mehrere Antworten richtig sein können. Also am Ende kommt man eigentlich nie auf hundert Prozent weil es immer irgendwelche Grenzfälle gibt trotz natürlich hochqualitativen Daten die man reingibt.

9:35 aber was wir eben gesehen haben ist dass das System ungefähr auf vergleichbare Leistung erbringt wie menschliche Ärzte. Und das ist auch letztlich nicht überraschend im Gesamtfeld, wir sehen die Evidenz es da! Es gibt über medizinische Fachbereiche hinweg gute Evidenzen dass große Sprachmodelle diagnostischer Qualität haben wie menschliche Experten in der Onkologie und der Rheumatologien der Psychiatrie.

9:58 Über alle Bereiche hin weg. was für uns halt spannend war, dass wir uns jetzt auch visualisieren können welchen Lösungsweg nimmt die KI auf dem Weg zur Diagnose. Es geht ja nicht nur darum am Ende die richtige Diagnosis zu stellen sondern auch wie man dort hinkommt. und das können wir mit unserem System eben untersuchen und visualisierend und auch vergleichen mit menschlichen Experten.

10:19 und für mich persönlich war es auch aus ärztlicher Sicht jetzt das große Thema diese Studien aufwerfen. was ist denn überhaupt der optimale zu einer Diagnose. Natürlich könnte man auch sagen, jeder Patient der mit Bauchschmerzen in die Notaufnahme bekommt alle Blutwerte abgenommen, die es gibt und ein Ganzkörper-MRT.

10:38 Und damit könnte man vermutlich auch viele Bauchsschmerzfälle aufklären. aber das ist aus verschiedenen Gründen nicht der optimale Lösungsweg. Aus Kostengründen, aus Gründen der Patientenbelastung, aus zeitlichen Gründen so dass wir jetzt auch die Frage stellen können mit solchen Systemen Was ist denn überhaupt ein optimaler Lösungsweg?

10:56 Ist es der, der am schnellsten geht. Es ist der, die am wenigsten Geld kostet. Das ist der Am wenigsten, der Am komfortabelsten ist für die... Patienten oder es ist eine Mischung aus all dem zusammen. Und diese Dinge müssen wir eben auch klar definieren, wenn wir messen wollen wie gut ein KI-System ist, dass so einen Stufendiagnostik durchführt.

11:15 So habe ich das Paper gar nicht gelesen, würde ich sagen. Sie haben gesagt, es gibt einen Unterschied. die KI war besser vor allem bei bestimmten Prozeduren gerade den chirogischen Eingriffen oder den chirurgischen Krankheitsbildern Appendicitis, Cholizistitis und so weiter. Besser als Fachärztin oder Fachärzte oder auch Arzt in Weiterbildung, die sie untersucht haben.

11:31 aber Sie wollen das gar nicht so deterministisch sagen, da sind jetzt so und zu viel Prozent Unterschied. Sondern sie wollen es einfach nur vergleichen. Und ich verstehe sie jetzt schon so dass die KI-Mira auch schon immer verschiedene Lösungswege gesucht hat also nicht bei jeder Appendizitis den gleichen Lösungsweg gegangen ist sondern auch da variiert hat.

11:47 Ich habe mich nämlich gefragt Ist die KI deswegen so gut weil sie natürlich ohne ökonomischen Druck einfach pauschal viel mehr Laborparameter anfordert als man das im wirklichen klinischen Alltag vielleicht machen würde? Ganz genau! Das ist die richtige Frage. und genau das haben wir auch untersucht und das ist auch vergraben natürlich in den erweiterten Ergebnissen, also da haben wir uns genau angeguckt.

12:11 Lösungsweg der KI eben vernünftig und auch ökonomisch vernünftig war, wobei wir dann. Und man kann das sogar am Ende bepreisen ja? Man kann ja sagen ein abdominelles Ultraschall kostet. Dreiundachtzig Euro oder wieviel und einen CRP-Wert kostet vierhundertfünfzig. Das kann man dann sozusagen aufadieren und gucken, wie viel Geld hat die KI und die menschlichen Ärzte ausgegeben auf dem Weg zur Diagnose.

12:34 Ja, man kann es natürlich zeitlich messen. Wie lange dauert ein Bauch CT gegen ein Ultraschlag? Und kann man das eben vergleichen? Auch was uns aufgefallen ist in der Interaktion mit internationalen Reviewern, die natürlich unsere Arbeit begutachtet haben. Dass es da auch kulturelle Unterschiede gibt.

12:51 beispielsweise und den USA bekommt denke ich mal fast jeder Patient, der mit Bauchschmerzen ins Krankenhaus kommt im CT allein aus Haftungsgründen und verschiedenen anderen kulturellen Gründen wurden gegen in Deutschland Ja, selten. Viele Patienten das auch nicht bekommen aus und dann zum Beispiel andere Bildgebungen bekommen oder andere Untersuchungen.

13:09 also auch da gibt es kulturelle Rahmenbedingungen die man im Blick halten muss. und für uns in der Entwicklung dieser KI-Agenten ist dann die Frage ja was ist denn überhaupt der? optimale Lösungsweg, den wir so einer KI an die Hand geben. Und für mich ist das sehr spannend, weil hier geht es jetzt dann auch wieder um medizinische Fragen und medizinischen Sachverstand also in der Entwicklung von KI-Agenten, die uns in der Stufendiagnostik im Krankenhaus helfen.

13:33 Da müssen wir uns überhaupt erst mal klarer werden. was ist denn eine optimale Herangehensweise an einen klinischen Fall? Ja und das wirst du eigentlich gleich meine Anschlussfrage. Das ist ja jetzt ein konstruierter Raum gewesen indem Sie gearbeitet haben. Trotzdem sind es total spannende Ergebnisse, die man natürlich jetzt wie Sie gerade gesagt haben an vielen Parameter noch weiter optimieren kann.

13:50 Da kann man ja auch eine KI entsprechend trainieren, macht den zeitgünstigsten ökonomischsten oder sichersten Weg was auch immer. aber wenn sie aus jedem Großes praktische komplette Notaufnahme, die Sie simuliert haben das in die Klinik ist ein weiter Weg denke ich mal wo sehen Sie denn so unmittelbaren Input für die klinische Versorgung?

14:07 Aus so einem Modell gibt's da so Schritte in der Klinique wo Sie sagen da kann man wirklich zeitnah KI. Ja, vielen Dank. Wir haben also in unserer Studie einfach nur mal gezeigt es funktioniert. Wir KI-Agenten funktionieren sogar für die Stufen Diagnostik. man kann sie im Klinik Informationssystem einsetzen und das war sozusagen unsere wissenschaftliche Einsicht.

14:29 Und daraus ergibt sich natürlich die Frage, wie sie sagen wo sollten wir das jetzt einsetzen? Und da ist aus meiner Sicht ganz klar natürlich soll nicht die ärztlich gesteuerte Stufendiagnostik im Krankenhaus ersetzt werden durch so etwas sondern wir müssen uns eben die klinischen Arbeitsabläufe anschauen.

14:45 Wo gibt es denn Bereiche, die viel menschliche Arbeitskraft binden? Weil sie eben stufenweise Prozesse sind. Wo man viel klicken muss im System und dann warten muss auf die Ergebnisse ist, dann begutachten muss, das nächste machen muss, die eigentlich gar nicht so direkt vital lebenswichtig sind, sondern die man am Ende vielleicht auch einfach nochmal überprüfen kann.

15:06 Und das ist jetzt eine Frage an die klinische Community. mir persönlich fallen da natürlich viele Dinge ein wie zum Beispiel Ein Tumorboard vorbereiten, was natürlich aktuell eine menschliche Aufgabe ist. Wo man sich durch verschiedene Computersysteme verschiedene Befunde klickt alle Sachen in eine Maske einträgt um dann alle Informationen für das Tumorbord an einem Fleck zu haben.

15:28 Das ist natürlich ein Paradebeispiel wo ein KI agent selbstständig da durchgehen kann und die ganze Information zusammen sammeln kann. Ein anderer Punkt ist natürlich auch alles was Logistik betrifft, ich weiß noch dass ich als Assistenzarzt auch viel Zeit verwendet habe in der Onkologischen Tagesklinik die Patienten für die nächsten Tage durchzugehen um die Chemotherapien zu bestellen.

15:49 und viel von dem war eben auch klicken warten und wieder klicken in Informationen hier und dort zusammensuchen All das, was man eben auch durch KI-Agenten automatisieren kann und am Ende nochmal von einem Menschen überprüfen lassen kann. Ich denke die wichtige Einsicht ist einfach wir haben jetzt KI-agenten, die können mehr schrittige Prozesse automatisierend.

16:10 Was sind denn aus unserer klinischen Sicht? Aus der Sicht der klinische Expertinnen und Experten die Bereiche im Krankenhaus, die davon profitieren würden? Weitere Rechte, denen es natürlich auch noch gibt ist das ganze Thema. Zweitmeinungen möchte man vielleicht einfach nochmal klinische Arbeitsabläufe nochmal separat unabhängig durchführen lassen um das Ergebnis zu vergleichen aus Qualitätsausgründen also es gibt ganz viele Einsatzmöglichkeiten dieser Technologien.

16:37 und damit kommen wir zu dem aus meiner Sicht größten Thema nämlich Die technische Infrastruktur. und sind wir überhaupt in der Lage im Gesundheitssystem soll ich die Technologien einzusetzen. Und das ist natürlich der große Punkt jetzt aktuell, der große Hinterungsgrund. Wer fällt jetzt gerade noch ein?

16:53 Das muss ja für jeden Geschäftsführer wahnsinnig toll sein wenn er alle Prozesse sozusagen auf ihre ökonomische Sinnhaftigkeit untersuchen kann. Ist es nicht auch so eine Gefahr dass man Entscheidungen aus dem ärztlichen Bereich raus verlagert und eben noch mehr ökonymisiert. Das ist natürlich eine Gefahr, dass es jetzt auch nicht neu mit KI, sondern das ist ja schon ein Thema seit ganz langer Zeit.

17:12 Ich glaube, dass wir hier in Deutschland aber eine sehr gute Ausgangssituation haben. Es ist natürlich klar, dass Prozesse im Gesundheitssystem auch ökonomisch sinnvoll gestaltet werden müssen und es gibt natürlich da auch einen gewissen Wettbewerb zwischen den Kliniken. allerdings ist das ja in unserem Gesundheitssystem ziemlich abgefedert.

17:31 Eine Klinik kann jetzt nicht einfach zehnmal so schnell jeden Fall bearbeiten und dann die Erlöse um zehnfach steigern, sondern da gibt es ja viele Ausgleichmechanismen usw., sodass ich da eigentlich relativ entspannt bin. Wir haben aus meiner Sicht ein gutes Gleichgewicht in Deutschland zwischen Effizienz- und ökonomischen Anreizen.

17:49 Anders ist das natürlich in den USA, wo es ja viel höhere Umsätze für die Krankenhäuser dranhängen und auch viel mehr Potenzial zur Beeinflussung dieser Umsätze besteht. Und da sehen wir schon eine ganz starke Ökonomisierung der Medizin. Ich denke hierzulande haben wir gute Mechanismen, die uns da eine gute Ausgangsbasis geben.

18:06 Ich muss trotzdem noch loswerden so aus meiner persönlichen Sicht. Ich bin bei der DGFS für die Leitdienen verantwortlich. was mich natürlich massiv beeindruckt hat war diese sehr hohe Leitliniatherenz Insbesondere bei Medikamentenentscheidungen. Das ist doch eigentlich was, was sofort umsetzbar sein muss und wo keiner mehr jetzt... also ich weiß aus meiner Umgebung die Leitlinien-Chatbots sprießen links und rechts aus dem Boden.

18:29 Vielleicht noch ein Kommentar dazu. Können wir uns da nicht das Leben jetzt mal ganz kurzfristig, ganz einfach machen und sagen, dass wird jetzt Pflicht in jedem System? Ja, das macht absolut Sinn! Leitlinien Chatbot ist eine der offensichtlichen Anwendungen durch KI die uns im Gesundheitssystem helfen können Und wie Sie sagen total viele Ärzte benutzen das jetzt schon.

18:51 Viele benutzen einfach auf eigene Gefahren Nichtmedizinprodukte wie Chatchibitio oder Claude Die auch schon oftmals sehr, sehr gute medizinische Empfehlungen geben können. Die auch Leitlinien konform sind aber natürlich nicht validiert sind keine Medizin Produkte und es gibt jetzt viele, viele spezialisierte Systeme die das in einzelnen Bereichen nochmal mit besserer Validierung hinkriegen.

19:13 Aber Es ist klar früher haben wir im der Klinik Google benutzt, um Informationen zusammenzutragen und uns bei der Entscheidung zu helfen. Und heute benutzen alle jeder Arzt, jede Ärztin die ein Handy hat, benutzt auch ChatGBT in irgendeiner Form. Das ist hier mittlerweile ein normales... Werkzeug das einfach dazugehört müssen.

19:33 trotzdem noch mal auf ihre studie zurück. sie haben eben ja gerade vom großen ganzen beschrieben konkrete anwendungsbeispiele wie zum beispiel tumor board oder zeitmeinungsverfahren und so weiter. Trotzdem vielleicht nochmal darüber hinausgehen gibt es nicht auch für sie eine langfristige version? also wenn man mal ein bisschen weiter in die zukunft kuckt?

19:51 keine ahnung ich will jetzt keinen zeitrahmen nehmen. ist es nicht so dass vorstellbar wäre das ki agenten bisi den jetz zuerstmals gebaut haben, nicht nur einen einzelnen Krankenhausaufenthalt begleiten für einen Patienten sondern so integriert in die Patientenakte. So ein Patient über sein ganzes Gesundheitsleben langen also wirklich von der Wiege bis zum Ende eine Art KI-optimierte Lebensführung ermöglicht?

20:15 wie sehen Sie das denn? Ja, das ist technisch möglich und das müssen wir wenn wir das möchten umsetzen. Und auch da gibt es sehr gute Evidenz. gar nicht nur unsere Studie sondern auch viele andere zum Beispiel große Sprachmodelle zur Management vom chronischen Krankheiten zum Diabetes Management vorhersagen als täglicher Begleiter.

20:33 Da gibt's gute Evidenz dass das gut funktioniert. von relativ klar definierten Fällen wie man hat ein Chatbot mit dem bespricht mal was man gegessen hat oder macht ein Foto und dann gibt es Empfehlungen zur Insulinmenge, die gespritzt wird bis hin zu noch komplexeren vielschichtigeren Fragen des Management von chronischen Erkrankungen.

20:52 Das sind alles Bereiche wo wir Evidenz sehen, die uns sagten Das funktioniert und das sind auch Technologien, die wir über deren Einsatz hier nachdenken sollten. Da die ja natürlich überall und immer und fast kostenlos zur Verfügung stehen anders als menschliche Experten in Gesundheitswesen. also da kann man glaube ich sehr viel verbessern gerade im Management von chronischen Krankheiten sollte man aus meiner persönlichen Sicht jetzt nicht damit die Ärzte ersetzen, sondern das eben zusätzlich in diesem multiprofessionellen Umfeld eben auch durch KI-Chatbots oder KI-Agenten mit denen zusammenarbeiten.

21:30 Da jetzt noch mal vielleicht zum Abschluss gibt es ja diese Vision oder auch Theorie, Topol sage ich jetzt mal, KI macht Medizin menschlicher. mehr Zeit präziser weniger Fehler und individuellere Therapien. darum geht's ja auch Wir haben das jetzt ja sehr positiv gemalt, dass die medizinische KI der Zukunft.

21:52 Was macht denn dann die Ärztin oder den Arzt noch zum Arzt? Also können Sie da nochmal so in zwei setzen? Das ist eine obligate Frage! Die kriegen Sie wahrscheinlich immer zum Abschluss gestellt aber ich glaube sie müssen es trotzdem nochmal sagen wie Sie das sehen. also wie ist da Ihre persönliche Perspektive?

22:05 Ja ich denke, dass wir immer menschliche Ärzte und Ärzten haben möchten und auch haben werden. Es gibt natürlich enorm viele Szenarien, wo man einfach mit einem Menschen zu tun haben möchte und nicht mit einem Chatbot ja? Und gerade wenn es um ernstzunehmende lebensverändernde Diagnosen oder Eingriffe geht und man möchte das einfach mit allen Menschen... Besprechen selbst wenn eine Maschine einem genau die gleichen Worte geben würde.

22:32 Man möchte einen Menschen gegenüber haben, der am Ende auch die Verantwortung dafür übernimmt und das ist aus meiner Sicht absolut legitim und ist auch meine persönliche Präferenz. Und das ist ähnlich wie mit Piloten, man könnte auch in der Passagierluftfahrt. Es ist ja technisch ohne Weiteres möglich alles durch Autopiloten machen zu lassen aber es gibt dennoch einen gesellschaftlichen Konsens dass wir menschliche Piloten haben möchten die auch die Verantwortung am Ende haben und daher bilden wir die aus und wir trainieren sie auch für Szenarien die man ohne weiteres per KI basiertem Autopilot lösen könnte.

23:06 da drillen und trainieren wir die menschlichen Pilote machen können und zwar gemeinsam mit einem kliversierten autopiloten. Und das beruht auf einem gesellschaftlichen Konsens, dass wir das so möchten und aus meiner Sicht ist es hier in der medizin genauso. Es gibt auch andere gesellschaftliche bereiche wie zum beispiel das selbstfahrende auto wo der gesellschaftlich konsens anders ist ja wo zb auch gerade in den usa jetzt schon oder in anderen ländern viel komplett selbstfahlende autos zum standard werden und es auch evidenz gibt dass das am ende bessere outcomes bringt es auch aus meiner persönlichen Sicht in Ordnung.

23:40 Es gibt Bereiche, wo man Automatisierung akzeptiert und möchte. Und es gibt Bereichen, wo wir den Menschen noch haben möchten. Das war jetzt eine sehr lange, sehr lange Antwort. Nein, nein! Wir wollen einfach menschliche Ärzte haben. ich persönlich will das auch und es gibt natürlich viele Bereiche wo das sinnvoll ist.

23:54 Natürlich ein weiterer Bereich ist alles was die händische Arbeit angeht ganze Robotik und so weiter. Das ist noch am Anfang, wir hatten doch nicht den Chatchi-Biti Moment der Robotik. Ja, OP Roboter können keinen Knoten machen sondern brauchen einen Menschen, der dahinter steht und das aus der Ferne bedient.

24:12 also Darmspiegelung, OP selbst an Zugang legen oder ein Leberultraschall durchführen, dass es nichts was Aktuellmaschinen autonom können und das sind alles Bereiche die fest in menschlicher Hand liegen. Ja, und da kommt vielleicht auch noch was... Ich finde es spannend in so einer Welt zu leben wo alles auf den Kopf gestellt wird ehrlich gesagt.

24:31 Und trotzdem find ich das Bild vom Piloten irgendwie ganz beruhigend und einfach gut. Jetzt kriegen Sie eine allerletzte Frage! Ich weiß gar nicht ob die noch richtig ist weil sie so viele interessante und überraschende Effekte beschrieben haben jetzt im Gespräch. Aber letzte Frage an Sie Welches Ergebnis bei Mira?

24:48 Was Mira so gemacht hat? Welches Ergebnis hat sie selbst denn am allermeisten überrascht? Kann man das sagen? Hatten die einen Aha-Moment während der Studie? Meistens hat mich überrascht, dass es einfach gut und vernünftig funktioniert. Und auch letztlich guten Menschenverstand zeigt. Natürlich ist es toll wenn Kaisysteme Leitlinien-Atherenz zeigen und in Evaluationen leitlinigrechte Therapien verschreiben aber im vielen klinischen Szenarien auch in unserer Evaluation.

25:15 Da gab es eben auch Fragen, die jetzt nicht explizit in der Leitlinie stehen. Gerade im Bereich der Polypharmazie wo man einfach Menschenverstand braucht und vernünftiges Abwägen der Situation. Und selbst das haben wir gesehen dass unser Kaisystem leisten kann. Das passt auch zum Rest zu der Evidenz, die wir in anderen Bereichen sehen.

25:34 aber das so direkt zusehen war schon sehr spannend. Herr Katzer vielen Dank für das super spannende Gespräch. ich war echt ein bisschen aufgeregt weil ich ja eher zu der Generation vor KI gehöre Aber es war sehr anschaulich, super spannend. Ihnen liebe Hörerinnen und Hörern vielen Dank fürs Zuhören! Und bis zum nächsten Mal Vielen Dank fürs Zuhören und bis zum nächsten Mal bei Gastrogeplauder.