KI-Kompetenz für Ärztinnen und Ärzte: Verantwortungsvoll durch den Klinikalltag

0:01 Bevor es losgeht, ihr seid ja von uns was Interessenskonflikte anbetrifft maximale Transparenz gewöhnt. Deshalb hier ein kurzer Hinweis Ambos hat dann eigenes KI-Tool den sogenannten AI-Mod der in der heutigen Folge kurz zur Sprache kommt und Amboss bringt selbst eine Fortbildung zum Thema KI Kompetenz heraus und genau deswegen möchte ich euch hier auch transparent darauf hinweisen das potenziell einen Interessen Konflikt besteht.

0:26 jetzt aber viel Spaß beim Zuhören! Ich wollte verstehen, wie denken Ärztinnen und Ärzte über das Thema künstliche Intelligenz. Ist das eine Angst? Ist es eine Sorge oder stecken da möglicherweise Wünsche hinter die wir noch nicht so erfüllen können? Die Frage ist immer, wie viele Nutzungen sind offiziell und inoffiziell?

0:46 also diese offizielle Zahl von fünfzehn Prozent wie du sagst ich glaube ist mittlerweile weit mehr Das was ich mit meinem Arbeitgeber auf jeden Fall erklären müsste. gibt es offiziell freigegebene Tools? Wo werden die Daten verarbeitet, die wir hier eingeben? Das tun Sie schon integriert in unserem System.

1:04 Der AMBOSS Podcast – ärztliches Wissen für Klinik und Praxis von AMBOS der Wissensplattform, die jede vierte Ärztin jeder vierte Arzt für klinische Entscheidungen und zu fort und weiter Bildung nutzt. heute zum Thema KI-Kompetenz für Ärztinnen und Ärzte. Ich bin Patricia selbst ÄrztInnen vom Hintergrund und verantwortlich für den Bereich klinischer Innovation bei AMBoss Und begrüße euch ganz herzlich zu Teil zwei unserer AI-Podcast-Trilogie.

1:30 Teil eins ist Anfang April erschienen, falls ihr den verpasst habt, hört auch gerne da einmal rein! Hand aufs Herz – wie kompetent fühlst du dich im Umgang mit KI im Klinikalltag? Darf man eigentlich einen geschwärzten Arztbrief in ChatGBT hochladen oder ein Hautbefund? und wer haftet eigentlich wenn die KI einen Fehler macht?

1:50 Welche KI kann ich im Klingelter guten Gewissens einsetzen? Worauf muss ich hier achten?! Genau solche Fragen bekommt meine heutige Interviewpartnerin nicht nur von mir gestellt, sondern auch häufig von anderen Ärzern und Ärzten. Sie arbeitet nämlich an einer spannenden Schnittstelle – sie ist Fachärztin für innere Medizin- und Notfallmedizin auf der einen Seite, hat sich aber auch im Bereich AI in Healthcare in Harvard weitergewildet und mit X-Medical ihr eigenes Unternehmen gegründet das nämlich genau Ärztinnen und Äzte im Umgang mit KI schult!

2:21 Im Moment arbeiten wir gemeinsam mit ihr an einer Ambos online Fortbildung zur Stärkung der ärztlichen KI-Kompetenz. Dr. Nader Abedin von Boys ist heute hier, herzlich willkommen liebe Nader! Schön dass du da bist. Vielen Dank ich freue mich sehr dabei zu sein. Nada Du bist ja Ärztin und bist durch viele Länder der Welt gereist um dir auch KI Systeme in den unterschiedlichsten Gesundheitssystemen anzuschauen.

2:44 was fasziniert dich generell so einem Thema? KI in der Medizin? KI ist ein super spannendes Thema. Wir sehen hier eine technologische Entwicklung, die letztlich vor keiner Industrie mehr halt macht. Auch nicht vor der Medizin. und anders als andere technologischen Entwicklungen in der Vergangenheit wo wir immer noch mit Faxgeräten gearbeitet haben und teilweise mit Papierakten ist das jetzt etwas was wirklich jeder in seinem Alltag fühlen kann.

3:05 Es ist eine Technologie die uns ermöglicht schneller zu arbeiten effizienter zu arbeiten bessere Medizin zu machen und am Ende tatsächlich auch möglicherweise menschlicher zu werden in unseren Behandlungen. Und gleichzeitig fordert uns das ganze enorm heraus. es niemand so richtig vorbereitet. Und normalerweise ist es so, bevor ein Medizinprodukt wirklich auf den Markt kommt gibt's langjährige Studien und Schulungen usw.

3:25 Das fehlt uns aktuell nach und das führt einerseits zur Unsicherheit andererseits zu Falschau und teilweise ungeschulter Anwendung. Mich selbst hat tatsächlich eine klinische Herausforderung zu künstlicher Intelligenz geführt und dagegen sich um inhaltliche Fragen sondern operative Prozesse wo ich gedacht habe KI kann uns da entlasten und zum mehr Patienten Sicherheit führen.

3:43 Und das hat letztlich dazu geführt, dass ich tiefer ins Thema reingeschaut habe und damals dann auch ins Ausland gegangen bin um zu sehen wie sieht es in den anderen Ländern aus. Was denken Ärztinnen und Ärzte? In anderen Teilen der Welt über das Thema. Also ich war für mehrere Monate im Ausland mit einem Schipänium und war da in den USA an verschiedenen Kliniken unterwegs sowohl auf der West als auch auf der Ostküste hab da viele Ärztin und Äzte gefragt, was sie über das Thema denken und war sehr erstaunt über die Rückmeldungen.

4:11 Da gab es zum einen Teil natürlich diejenigen, die sehr begeistert waren über dieses Thema und sich sehr intensiv damit auseinandergesetzt haben. in größeren Hubs muss man sagen mit wissenschaftlicher Anbindung. aber in der Klinik gab's eben auch diejenigen dieser große Angst davor hatten und gesagt haben Sie möchten sich gar nicht damit aueinandersetzen weil KI nur entwickelt wird um ihnen Jobs wegzunehmen.

4:28 da war so eine reale Angst dass KI nur entwickelt wird um uns Ärztinnen Ärzte zu ersetzen. Das glaube ich übrigens nicht. Ich war dann noch in den Emiraten unterwegs und da habe ich was ganz anderes erlebt. Da war eine sehr große Offenheit dafür da, das nicht nur auf ärztlicher Ebene sondern auch in den regulatorischen Apparaten wo eine große Offennheit dafür dabei die Regulatorik eben so anzupassen dass man gewisse Entwicklungen und gewisse Modelle Prozesse usw.

4:53 mit KI optimieren kann und dann eben auch die Regulatorik entsprechend anpasst. Das habe ich so weder in Deutschland noch in USA erlebt Über Regulatoryklassens, dann auch gleich da nochmal näher eintauchen. Gab es denn auf deinen Reisen eine besondere Erfahrung oder einen Moment der dich überrascht hat?

5:09 Oder irgendetwas besonders in dir ausgelöst hat? Tatsächlich war das vor allem die große Diskapanz dieses sehr starke Gefühl von... Uns werden die Jobs weggenommen und wir sollen ersetzt werden. Auf der einen Seite bis hin zu KI kann uns niemals ersetzen, damit sie niemals in die Klinik schaffen weil wir viel besser sind als KI mal sein könnte.

5:28 Und das hat mich eben angetrieben, mich intensiver damit zu befassen und zu schauen woher kommen denn diese Ängste? Woher kommen diese Sorgen? Was treibt das Ganze? Wie können wir möglicherweise daran arbeiten dass wir das in etwas Positives umwandeln und unsere Energie dafür nutzen das ganze mitzuentwickeln damit es uns nicht ersetzt?

5:45 Also, man muss ja ehrlich sein. Es gab vor einigen Monaten eine Umfrage wie viel Ärzte und Ärzten in Deutschland KI nutzen? Und es war lag so bei fünfzig Prozent. ich glaube sind inzwischen deutlich mehr. was ist deine Erfahrung? Wie erlebst du ärztliche Kolleginnen und Kollegen im umgang mit KI und wie viele würdest Du sagen Nutzen das täglich?

6:04 die frage ist immer wie viele nutzten es offiziell und wie viel inoffiziell? also diese offizielle zahl von fünfzig prozent wie Du sagst Ich glaube ist mittlerweile weit mehr würde sagen schätzungsweise achtzig procent selber auch eine Umfrage gemacht, die wir kürzlich publiziert haben. Wo dann auch nur zwanzig Prozent sagen sie fühlen sich sicher im Umgang damit und genug informiert was natürlich Eine große Unsicherheit letztlich spiegelt und ich glaube, dass es diese zwei Lager gibt.

6:27 Das eine Lager was sagt sie nutzen das und schnitzen das täglich und möglicherweise auch mit Patienten Daten und ist völlig selbstverständlich. Und auf der anderen Seite die sagen da ist eine Unsicherkeit um Sie lassen lieber den Fänger davon. Ich glaube, das wichtig ist zu verstehen, dass KI etwas ist Was schon fest in unserem Alltag verankert ist und keine Zukunftsfrage ist und dass wir eben lernen müssen wo steckt es drin?

6:46 Auf welcher Basis sind diese Modelle trainiert, die es schon in unserem Alltag gibt? Und wie gehen wir damit um? und wo sind die Grenzen? das Ganze? Nader und du hast ja ein eigenes Unternehmen gegründet. Wie kam es denn dazu? Das Röther aus der Umfrage, die ich gerade angesprochen habe... Ich wollte verstehen, wie denken Ärztinnen und Ärzte über das Thema künstliche Intelligenz.

7:03 Ist das eine Angst? Ist es eine Sorge? oder stecken da möglicherweise Wünsche hinter die wir noch nicht so erfüllen können und die noch nicht explizit angegangen werden? Und es hat sich tatsächlich herausgestellt dass kein Motivationsproblem ist. Ärzten sind durchaus bereit Zeit und Geld zu investieren um mehr über das thema zu lernen und sehen auch die Bedeutung des Ganzen weil sie auch verstehen, dass künstliche Intelligenz unseren medizinischen Alltag verändert und in Zukunft noch deutlich mehr verändern wird.

7:29 Und das hat mich eben dazu gebracht diese Schulungen zu etablieren und Ärzte weiterzubilden sondern kommt immer ein ganz großes Thema auf womöglicherweise auch eine Hürde dazu besteht sich weiterzubilde in dem Ganzen weil viele sagen ich bin ja überhaupt nicht technisch Ich will mit künstlicher Intelligenz und Programmieren, das ist zu weit weg für mich.

7:46 Und da ist ein ganz großer Punkt den man vorab schon mal stellen muss. Man muss nicht programmieren lernen um kürzlich Intelligenze zu verstehen und so wissen wie man damit umgeht. Du hast schon ganz viele Ärztinnen und Ärzte ja geschult und deswegen bist du auch die richtige Expertin der wir zusammenarbeiten an unser Amboss online Fortbildung zum Thema KI-Kompetenz dazu dann später noch mehr.

8:06 aber welche drei Fragen würdest du sagen kommen garantiert in jeder Fortbildung? Die dir gestellt werden? Das ist eine sehr gute Frage, es auf drei runter zu brechen. Es ist schwierig. das sind immer sehr viele Fragen die aufkommen. Eine Frage ist welche KI kann ich jetzt schon sicher in meinem Alltag einsetzen?

8:21 Eine weitere Frage ist Kann Ich Labor befunde Bilder von Befunden hochladen von Patientinnen und Patienten? Wer haftet wenn die KI falsch liegt? Und Wenn ich noch eine vierte frage anschließen darf so meine frage Die irgendwie mitschwingt. wie lange bis ich ersetzt werde? Man kann nicht den Job an der nagel hängen.

8:36 Ich glaube dass ist schon immer was Was im Hintergrund mit dabei ist. Dann lasst uns nachher auch genau diese Fragen aufgreifen. Bevor wir das machen, möchte ich mit dir auf ein Thema schauen, dass gerade viele Klinik-Geschäftsführungen und Praxisinhaberinnen beschäftigt – nämlich den EU AI Act! Der EU-AI-Akt ist ja das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz, nicht nur jetzt für die Medizin sondern generell.

8:59 Und Artikel vier verpflichtet ja Anbieter und Betreiber vom KI System sicherzustellen dass die Menschen, die damit arbeiten über die notwendige KI Kompetenz verfügen. Das betrifft damit auch Kliniken und Praxen, die KI einsetzen. Da ist natürlich erstmal die Frage wie viel KI steckt überhaupt schon im Gesundheitssystem und in unseren Kliniken.

9:24 Und dazu habe ich auch kurz mit Professor Rainer Röhrich gesprochen, liebe Nader vorab nämlich erleitet das Institut für Medizinische Informatik am Uniklinikum Aachen erst Vorsitzender des Vorstands der Technologien Methodenplattform für die vernetzte medizinische Forschung also TMF sowie Beisitzer im Präsidium der Deutschen Gesellschaft für Medizinische Informatie Biometrie und Epidemiologie kurz GMDS.

9:47 Und ich habe ihn gefragt, wie viel KI steckt eigentlich in deutschen Kliniken? Das war seine Antwort. KI steigt oft unsichtbar in Geräten und im Software. In der Radiologie verbessert es die Bildqualität oder weist auf bestimmte Befunde hin, auf bestimmtes Strukturen hin. Beatmusgeräte filtern Fehler lahme raus.

10:09 also da gibt es schon ganz viele Dinge aber das fühlt sich nicht nach KI an sondern ist einfach Teil des Gerätes. Neu, und da sind wir noch in einer Pionierphase ist das worüber aber im Moment alle reden. Nämlich zum Beispiel die Spracherkennung beim Arzt-Patientengespräch wenn die Krankengeschichte automatisch aufgezeichnet wird und automatisch zu einem strukturierten Dokumentationstext wird also zu einem Datensatz wird.

10:36 Aber hier wie gesagt sind wir auch in der Pioniere Phase Und es muss sich noch zeigen wie gut diese Themen der Praxis wirklich sind und was sie für einen Nutzen bringen. Und als letztes gibt es noch das, was wir graue KI nennen. Die Ärztinnen und Ärzte haben natürlich Sprachmodelle wie ChatGPT, Perplexity, Gemini auf ihren Mobilgeräten, auf ihren Internetrechnern.

11:00 Das heißt die können überall auf diese Dienste zugreifen und sie sind ubiquitär aber nicht nur bei Ärztin und Äzten auch bei Patientinnen und Patienten. Und hier können wir nicht sagen, das gehört zum Gesundheitswesen. Aber es verändert das Gesundheitswesend und die Patienten-Arztkommunikation heute schon immens – und das wird sicherlich noch mehr werden.

11:23 Dem würde ich absolut zustimmen! Ich glaube tatsächlich dass es einen sehr großen Hype darum gibt wie viel KI möglicherweise schon jetzt auf unsere medizinischen Daten zugreift was de facto nicht der Fall ist. Es gibt sehr viele sinnvolle Anwendungen gerade in der Bildgebung wie es sich schon seit vielen Jahren auch gibt, das war uns früher nicht so bewusst.

11:40 Das ist jetzt erst in den letzten Jahren mit den large language Models aufgekommen. und dann gibt's natürlich das große Thema der Regulatorik die das Ganze mit beeinflusst. Den EUAI-Akt, den du vorhin schon angesprochen hast, der das ganze ja auch nochmal gut aufteilt und einen einsortieren lässt. wenn man sich nicht abschrecken lässt und da einmal tiefer reinschaut Was würdest Du denn sagen?

11:59 was bedeutet jetzt erstmal KI Kompetenz? Ist das überhaupt im EUAI Akt klar definiert? Es ist nicht ganz klar definiert, aber was der UAI-Act sicherlich vorgibt, dass alle Betreiber und Nutzer von KI Systemen einen Grundverständnis von Funktionsweise Grenzen und Risiken haben müssen. Und das bedeutet, dass man als Arbeitgeber, als Nutzer dazu verpflichtet ist letztlich seine Mitarbeitenden in KI fortzubilden.

12:22 Das Maß der Kompetenz richtet sich dabei nach Kontext und Risiko und individuellen Faktoren. Und es gibt keine Zertifizierungspflicht, aber man muss eben diese Schulungen nachweisen. Und was bedeutet das jetzt ganz konkret für Kliniken und Praxen? Also, was sollten Verantwortliche aber auch Erze und Ärzte jetzt tun?

12:39 Weiterbildung. Weiterbildung lernen! Wir müssen lernen, was bedeutet künstliche Intelligenz? Was sind die verschiedenen Begriffe? Womit wird künstlicher Intelligenzt trainiert? Was ist die Grenzen künstlichen Intelligenzen? Wo liegen die Risiken? Was bedeutet das möglicherweise auch hinsichtlich meiner Kommunikation mit Patientinnen und Patienten?

12:55 Was kann ich dafür nutzen? Und wo kann ich die Tools einordnen, die möglicherweise jetzt schon Teil meines Alltags sind? Also diese Vorgabe mit den KI-Schulungen gibt es ja, glaube ich schon seit letztem Jahr. Aber seit diesem Monat greifen quasi weitere Regelung des EUAI-Acts deswegen sozusagen ab August, ab diesen Monat besonders relevant.

13:14 Genau jetzt wird das letztlich so verpflichtend dass auch über Prüfung stattfinden können. Es gab die Übergangsfrist und ich glaube das zeigt auch noch mal ganz klar einen rassweilen hysterischen Moment wir uns befinden. Künstliche Intelligenz ist etwas was letztlich alle mehr oder weniger... überrollt, weil die Entwicklung so schnell ist und wir kommen hinterher.

13:30 Der EUAI-Akt ist vor mehreren Jahren festgelegt worden und man merkt jetzt dass man da doch ein bisschen dynamischer auch sein muss und möglicherweise hinterherkommen muss mit dem wie man die Regulatorik auslebt. Ich fand es sehr spannend. auch ich habe ja auch hierzu nochmal mit Professor Rainer Rörig im Vorfeld gesprochen und hab ihn gefragt welche KI Kompetenzen brauchen denn jetzt Ärzte und Ärzten wirklich?

13:54 Und er sagte mir folgendes Also das Wichtigste zuerst, Ärztinnen und Ärzte müssen nicht mehr über KI wissen als man eigentlich auch in der Sendung mit der Maus erklärt hat. Das heißt sie verstehen ja auch sonst viele Technologie nicht. kein Arzt oder keine Ärztin kann komplett einen MRT erklären aber Sie können es sehr gut anwenden und ich glaube wir müssen das genauso mit KI machen.

14:17 Das heisst die brauchen ein Grundverständnis wie KI funktioniert. Sie müssen verstehen, dass KI nichts versteht sondern Wahrscheinlichkeiten berechnet und wenn sie das verstanden haben dann verstehen sie die Grenzen des Gerätes oder der Technologien. Und Ärztinnen und Ärzte müssen halt auch die typischen Fehler kennen die daraus resultieren also dass KI zum Beispiel unendlich gut und smart klingt aber trotzdem falsch liegen kann wenn sie halluciniert.

14:48 KI ist eigentlich so sympathisch, weil die widerspricht nicht gerne. Sondern sie bestärkt den Nutzer oder die Nutzerin in der Meinung. Das heißt es macht es uns dadurch noch schwieriger zu erkennen wenn wir falsch liegen und diesen Effekt nennen wir Psycho-Fancy Und wir Menschen neigen dann dazu dem Computer letztendlich blind zu vertrauen also das was wir Automation Bias nennt.

15:14 Und dann kommt noch was weiteres dazu. Wir sind sehr kritisch, aber selbst wenn wir noch so kritisch sind... ...wenn das Gerät immer richtig geantwortet hat, dann verlassen wir uns irgendwann darauf auch wenn wir verstanden haben dass das gerät nichts verstanden hat. Das heißt, wir haben irgendwann den Effekt der erlernten Sorglosigkeit oder wie wir Kölner sagen es hätte doch immer Jodyang und dann wird man zunehmend unkritischer und verlässt sich auf das System wo man's eigentlich nicht darf.

15:43 Und als Allerletzes müssen Ärztinnen und Ärzte wissen, was sie für eine Verantwortung haben wie sie mit dem System umgeht. Wir haben die menschliche Letztverantwortung oder die Human Oversight sowohl in der Ethik als auch in der Rechtsprechung jetzt mit dem EUAI. Das heißt, die ärztliche Verantwortung kann nicht an ein System abgegeben werden.

16:06 Ärztchen und Äzten müssen die Ergebnisse der KI prüfen. Dafür müssen Sie aber reflektieren dass Sie das nicht immer können. Das heißt, wenn wir eben das mit dem Anamnese-Gespräch haben, saß der Arzt selber daneben und er hat mitbekommen was die KI erzählt hat. Das heisst sie kann prüfen ist das was dort ist vollständig!

16:29 Wenn ich aber sage fass mir bitte die gesamte Patientenakte zusammen dann kann ich das als Arzt in dieser Situation nicht auf Vollständigkeit prüffen sondern ich muss mich darauf verlassen. Das heißt, in diesem Moment, wenn ich merke, ah das macht er das immer, werde ich entweder nachlässig oder habe den gleichen Aufwand wie vorher.

16:48 Und dieses Human Insolub- oder Human Oversight wo kann ich was machen? Wo darf ich mich verlassen? wird sicherlich am schwierigsten werden diese Kompetenz aufzubauen damit man dann verantwortungsvoll im Klinikalltag damit umgehen kann. also Er hat jetzt schon ganz, ganz spannende Fachtermini eingebaut.

17:09 Die ich eigentlich mit dir besprechen wollte. er hat es eigentlich schon ganz gut erklärt. Möchtest du dazu nochmal was ergänzen? Also Halluzination haben wir gehört Automation Bias das sind ja sicherlich auch Termini die bei uns dann im Amboss AI Kurs oder in unserer Kompetenz Fortbildung erklärt werden oder?

17:24 Absolut! Das ist Teil eins Der Amboss-Fordbildung. werden wir über genau diese Fachtermini sprechen. Das Thema Large Language Model ist deshalb so spannend, weil das eben genau das ist was uns in unserem Alltag täglich begegnet, was viele von uns auch abseits der Medizin nutzen und was aus unserem Leben gar nicht mehr wegzudenken ist.

17:41 und die Large Language Models fallen in die Kategorie der generativen KI also letztlich einer Subgruppierung des großen Themas künstliche Intelligenz was am Ende ein Sammelbegriff für alle Fähigkeiten oder für alle Systeme die menschliche Fähigkeit besitzen. Das Wichtigste, was Herr Professor Röhrich auch gesagt hat, large language models verstehen nicht.

17:58 Sondern rechnen Wahrscheinlichkeiten und genau das muss man in seinem Alltag verstehen. Daraus folgen nämlich alle Stärken und Schwächen dieser Modelle und eben die Halluzinationen, die dadurch entstehen können. Und das ist etwas, was ganz viel erschockiert, die dann immer wieder auf mich zukommt und sagen ja aber da ist eine Quelle rausgegeben worden, die gibt es gar nicht!

18:15 Aber das ist genau der Punkt. wir müssen lernen kritisch zu überprüfen und einzuschätzen stimmt das, was daraus gekommen ist oder nicht? auf alle Anwendungen, die wir dabei haben? Ja. Das bespreche ich mir übrigens auch in unserem ersten Teil von dieser AMBOS-Podcast-Trilogie zum Thema AI in der Medizin.

18:31 also hört er wirklich gerne mal rein. und vielleicht an dieser Stelle darf ich auch nochmal erwähnen Wir haben ja bei AMBOSS unseren eigenen Chat mit dem ich sozusagen im Dialogformen mit der AMBOSE Wissensdatenbank interagieren kann Und der ist so trainiert dass er eben nicht halluciniert. Also der ist ziemlich selbstkritisch wenn er damals nicht weiter weiß.

18:48 Ich weiß nicht ob du das hast du schon mal ausprobiert habe ich ausprobiert und finde ich tatsächlich ganz cool. Also, ich finde das Tool super einfach zu handhaben und die Quellen, die da ausgegeben werden sondern auch mal verlässlich. Ja also das ist ja auch für uns einfach mit das Wichtigste. Genau!

19:04 Jetzt schauen wir aber mal auf ganz spannende Anwendungsfälle aus dem Alltag. Ich hab viele Fragen mitgebracht Nader und bin sehr gespannt... Wenn ich noch einen Punkt? Ja! Ich würde gerne noch ein Punkt zum Thema Bayes ergänzen weil es eben so ein wichtiges Thema ist und weil das häufig aufkommt wenn es um künstliche Intelligenz geht.

19:20 Ich habe ja eben schon gesagt, künstliche Intelligenz bezeichnet Fähigkeiten von Systemen die auch wir Menschen besitzen und letztlich spiegelt der Bayes in diesen System nur das wieder was wir auch an unserem Alltag haben. Und was wir auf den Studien haben die generell durchgeführt werden in der Medizin.

19:33 Das ist ein viel größeres Thema als es nur auf die künstlichen Intelligenze zu beschränken aber es muss uns natürlich immer wieder bewusst sein dass da auch eine große Rolle spielt. So, lass es uns ganz konkret einmal durchgehen. Der ärztliche Alltag ist geprägt von sehr viel Dokumentationsarbeit, die uns alle nervt und ich habe schon oft im Bekanntenkreis gehört von Ärzten und Ärzte, die sagen hey aus Pragmatismus!

19:55 Ich hab nicht so viel Zeit lasse ich mir da helfen ja von ChatGPT und Co. um mal schnell Laborbefunde natürlich geschwärts sozusagen hochzuladen wir bei Zusammenfassung von langen Patientenakten zu helfen. Da bin ich jetzt wirklich gespannt, was man hier darf und was man nicht darf. Also fangen wir mal an mit dem Arztbrief in einen KI-Toolladen und strukturieren lassen.

20:17 Geht das? Und wenn ja unter welchen Bedingungen? Also vorab! Das ist keine Rechtsberatung. Sollte ich gerne einmal geworfen sagen aber... Grundsätzlich ist es natürlich so, alles was Patienten identifizierende Daten hat darf ich nicht in ein öffentliches Tool laden. Egal welches das ist auf Statipitis oder Claude oder auch irgendein anderes.

20:37 Jetzt gibt's natürlich das Thema, was du angesprochen hast Das Schwerzen von Geburtsdatum und von Namen beispielsweise. damit nehme ich schon personidentifiziere Daten raus. aber das besondere an medizinischen Daten ist dass die Konstellation aus gewissen Faktoren trotzdem Rückschluss lässt auf eine Person und entsprechend begebe ich mich da wirklich auf unsicheres Terrain wenn volle Patientendaten rausgebe.

20:57 Was ich natürlich machen kann, ist ein Textbaustein nehmen so wie ich ihn gerne nutzen würde und den in einer Language-Mole geben und sagen optimiere mir diesen Textbaustein so dass ich ihn besser nutzen kann oder ähnliches. Also Patientendaten wirklich immer extrem vorsichtig sein eher bei allgemeinen medizinischen Fragen bleiben natürlich dann mit richtigem Prompt Engineering usw.

21:17 um den Output zu verbessern. aber alles was Patientendate angeht Vorsicht! Ich würde auch sagen, Laborbefund ohne Namen und Geburtsdatum hat ja trotzdem so viele Parameter. Dass man vielleicht sogar doch zurückschließen könnte möglicherweise wer dann am Ende welcher Patient gemeint ist wenn man dann so viele Daten vergleichen könnte.

21:35 Und da gibt es nicht nur ein Problem mit der Datenschutzverordnung sondern eigentlich auch mit der Schweigepflicht oder? Ja also kann ich eigentlich nur bestätigen. Datenschutztgrundverordnung, Schweigeflicht... Das sind Dinge, die gehen dann natürlich mit rein. Und für öffentliche Daten, die möglicherweise auf internationalen Servern landen war sich nicht da.

21:53 Vielleicht nochmal ein Schritt zurück? Welche KI setzt du denn eigentlich gerne im Klinikalltag ein? Dann lernen wir vielleicht direkt noch von dir. Vielleicht auch hast Du ja auch irgendwelche Hex oder Tricks für uns! Ich wünschte, wir hatten zugelassene Tools die wir effektiv in unserem Alltag nutzen können.

22:07 Gerade das Thema Dokumentation was du angesprochen hast ist extrem zeitaufwendig und zermürbend im Alltag wenn man sich so anguckt wie viel Zeit also bis zu fünfzig Prozent unserer Zeit geht täglich. da drauf gibt natürlich Scribing-Tools die je nach Klinik genutzt werden können die das Gespräch transkribieren digitalisieren.

22:24 ich kann es direkt übertragen. wenige dieser Systeme sind unmittelbar in den Workflow integriert das heißt wir sind immer noch zusätzliche Klicks. dann bin ich große Kritikerin von aber ich hoffe, dass sich das bald ändert. Ich bin ein großer Fan von KI-Tools mit denen man Informationen validiert erfahren kann unter anderem im Amboss AI Mode.

22:42 den nutze ich sehr gerne weil er natürlich auch die Möglichkeit bietet in schöner strukturierter Form den Output zu generieren sei es in Form einer Tabelle oder eines Photos oder ähnliches. und wenn's dann um Texte geht jetzt nicht um Arztbriefe aber um andere Texte barlopp wissenschaftlich oder inhaltlicher Genese, dann nutze ich da auch gerne die öffentlichen large language Modus.

23:03 Jetzt hast du den AMOS AI-MOD gerade schon erwähnt. dabei geht es ja um medizinische Wissensrecherche und es gibt nicht nur AMOS sondern auch noch andere Tools und bis vor kurzem gab's zum Beispiel auch noch Open Evidence. Warum steht der jetzt nicht mehr zur Verfügung? Hast Du da mehr Infos? Open evidence hat sich dieses Jahr aus dem europäischen Markt zurückgezogen aufgrund der Regulaturik alles was mit Clinical Medical Advice fällt unter den EU AI Act.

23:31 und da hat Open Evidence gesagt, das möchten Sie nicht machen. Dieses Risiko möchten sie nicht eingehen und hat sich deshalb aus dem europäischen Raum zurückgezogen. Open Evidences ist letztlich eine Plattform die die Möglichkeit bietet auch medizinische Fragen zu stellen und eine Antwort auf Basis sämtlicher wissenschaftliche Publikationen zu generieren, die entsprechend dann auch eine medizinische Validierung hat.

23:52 Interessanterweise hat Open Evidence mittlerweile eine Epic Integration und wird in den USA deswegen auch in vielen Krankenhäusern schon aktiv mit genutzt. Und ich habe gesehen, dass Ambus das jetzt auch baut und ich bin gespannt, wann es dann in europäischen Unternehmen kommt! Es ist das, was du vorhin auch schon angesprochen hast mit den Scribe-Systemen.

24:10 Die Zukunft liegt ja darin, dass man nicht mehr einen Tab wechseln muss sondern kontextbasierte Antworten bekommt. deswegen arbeiten wir an einer tiefen Integration. Das geht nicht von heute auf morgen weil wir brauchen natürlich auch eine Zertifizierung als Medizinprodukt. aber wir haben uns auf den Weg gemacht und das ist das Ziel, dass quasi die gesamte Patientenreise von Beginn an Patient landet in der Notaufnahme bis zur Entlassung sozusagen begleitet wird von evidenzbasiert medizinischen Fachwissen, in dem Fall das AmBoss sozusagen Kontext basiert dann die Patientenakte mitlesen kann und haben jetzt schon Modell gebaut genau dass du ansprichst.

24:44 Da arbeiten wir ja mit Hochdruck dran. Du aber nochmal wenn mir jetzt vergleichen ob ein Evans hat sich gerade zurückgezogen aus dem europäischen Markt? Aber jetzt schauen wir uns mal Chachobiti, Claude usw. an. die offenen Modelle da muss man ja sagen sie halten ja nichts ab. Da kann ich hier alle Patientendaten, wenn ich will, reingeben.

25:01 Das kann man zum Beispiel beim AMBOSS AI-Mode nicht. Da wird gleich zurückgemeldet, nein, achten das sind patientenbezogene Daten dürfen wir nicht! Wir sind noch kein Medizinprodukt. Wieso gehen die damit so offen und legär um? Am Ende sind es Produkte, die aus den USA kommen. da gibt's natürlich auch das große Hippathema.

25:19 aber man muss natürlich sagen am ende ist der Arzt oder die Person, die die Daten reingibt, derjenige, der verantwortlich ist für das was er da tut. Und davor kann einen niemand abhalten, genauso wie mich niemand davon abhalten kann ein Sky-Pale Fasch zu benutzen oder eine Intervention zu machen die nicht indiziert ist.

25:36 Ich glaube da muss man wirklich an den jeweiligen Anwender appellieren und sagen es gibt ethische Kernprinzipien für die medizinische Tätigkeit und die gibt's natürlich auch für Nutzung von künstlicher Intelligenz. Da fallen so Dinge rein. Nicht schaden, das ist in jedem medizinischen Handeln relevant.

25:51 Das gilt genauso für die KI. Autonomie, Patienten müssen einwilligen und natürlich die Transparenz. Ich muss meinen Patienten sagen wenn ich KI nutze egal in welcher Form. Das wäre gleich meine nächste Frage gewesen einen KI-Tool im Patientengespräch mitlaufen lassen um automatisch zu dokumentieren. was muss sich da beachten?

26:07 Brauche ich also eine ausdrückliche Einwilligung der Patientin oder des Patienten? Ich muss die Patienten darüber informieren, dass ich es tue und ich muss sie fragen ob Sie damit einverstanden sind. Ja weil die Patienten haben natürlich auch einen Recht darauf zu sagen das sie nicht möchten, dass ihre Daten und insbesondere in solchen Gesprächen haben ja durch auch sensible Themen zum Vorschein Teil eines solchen Gesprächs sind was über eine KI aufgezeichnet wird.

26:30 Die Daten gehen hier irgendwo hin. Die werden ja nicht eins zu eins übertragen und sind dann weg. ChatGypity und Co. sind ja außereuropäische Anbieter, dann landen die Daten in den USA? Die landen auf den Servern in den U.S.A., da hat man natürlich keinen Einfluss drauf. Man geht das Risiko ein, dass auf Basis dieser Datenmodelle weiter trainiert werden, womit möglicherweise Patienten nicht einverstanden sind.

26:56 Da reicht es auch nicht, den Patienten zu sagen. Wissen Sie? Wollen wir das Ganze nicht mal in ChatGPT eingeben weil ich habe gelernt was ein Large Language Model kann sondern muss eben auch die Folgen des Ganzen nachvollziehen können. sowas passiert mit diesen Daten? wo gehen sie hin und wie geht's weiter?

27:10 Würdest du sagen Dass wir uns abhängig machen, weil es so viele außereuropäische Anbieter gibt. Gerade in Zeiten von geopolitischer Instabilität. Wenn die uns irgendwas abschalten sind wir dann quasi unterlegen als Europäer wenn das keine KI-Mate in Germany oder Europa ist? Auf jeden Fall! Ich glaube wir sind schon in großen Teilen abhängigt von diesen großen Player.

27:33 Das sieht man in großen Unternehmen noch viel mehr als man das jetzt wie eine medizinischen Welt sieht. Ich muss sagen, als diese Know-Harm-Studie rauskam und man da gesehen hat wie die ganzen Modelle abschneiden war ich schon extrem froh zu sehen dass ein deutsches Unternehmen ganz vorne gestanden hat mit dem Amboss AI Mode.

27:50 Ich glaube das gibt Hoffnung für die Zukunft und glaube schon wir da gut dabei sind. aktuell aber deutlich mehr oder deutlich aktiver Einfluss genommen werden muss auf die Entwicklung sagt sich natürlich sehr einfach. wenn ich es jetzt aus medizinischer Perspektive betrachte ist genau das was mich dazu motiviert hat mich so für das Thema Weiterbildung zu interessieren.

28:09 Ich habe gesehen, es wird wahnsinnig viel Geld investiert in diesen Bereich. Es gibt viele Unternehmen die tolle Tools bauen. für die Klinik aber sind viel zu wenig Ärztinnen und Ärzte mit dabei, die aktiv diese Veränderung aktuell mitgestalten. Und ich glaube dass wir jetzt an einem Wendepunkt sind wo wir dafür sorgen müssen, dass die Tools hier entwickelt werden genau die Paintpoints treffen, die uns im Alltag wirklich behindern und nicht das was möglicherweise große Unternehmen denken was relevant ist.

28:33 Ja vielleicht nur ganz kurz als Einschub, weil wir das gerade angesprochen haben. Bei AMBOS verfolgen wir ja auch ein bewusst anbieterunabhängigen Ansatz. also als deutsches Unternehmen entdecken wir unsere KI so dass wir jederzeit die leistungsfähigsten verfügbaren Modelle quasi einsetzen können. Also sollte sich die Verfügbarkeit einzelner Modelle in Europa ändern dann können wir sozusagen dank unserer Architektur schnell auf auch geeignete Alternativen wechseln damit wir auch nicht in so eine Abhängigkeit kommen.

29:00 Das ist uns auch ganz wichtig. Wir haben jetzt gerade schon darüber gesprochen, wir brauchen eine Einwilligung der Patienten wenn wir KI nutzen. Was muss ich denn als Arzt oder Ärztin eigentlich mit meinem Arbeitgeber klären bevor ich KI-Tools im Berufsalltag einsetze? Wenn sie nicht vielleicht gerade von der Klinik schon integriert sind wie wir Eingangs gehört haben versteckt in Monitor und EKG Geräten sondern vielleicht Latch Language Modelle oder andere KI Tools?

29:26 Das was ich mit meinem Arbeitsgeber auf jeden Fall erklären müsste es gibt es offiziell freigegebene Tools die in der Klinik validiert sind. Was darf ich nutzen und was nicht? Wo werden die Daten verarbeitet, die wir hier eingeben? Gibt es Tools, die schon integriert sind in unserem System? Wofür darf ich das Ganze nutzen und wofür eben nicht?

29:45 Also heißt für den klinischen Use Case oder für den zinschaftlichen Use Case vielleicht für ganz andere Themen wo ich einen Account machen kann und denen vielleicht mein privates Vergnügen nutzen kann wer haftet wenn doch etwas passiert und wer ist da meinen Ansprechpartner? gibt's Datenschutzbeauftragte mit denen ich Fragen klären darf und muss?

30:02 Und vor allem wer schult mich und wie wird die Schulung dokumentiert. Da nochmal der Hinweis auf den UII-Aktie Mathike IV. Ja, wer haftet denn wenn die KI einen Fehler gemacht hat? Das ist ein großes Diskussionsthema. am Ende muss man sagen Der Arzt bleibt Platzentscheider. da gab es ja kürzlich das Urteil zu einem Chatbot zu einem einfachen Chatbot der in das minimale Risiko fällt der eine falsche Facharztbezeichnung ausgegeben hat aus einer Praxis und dann ist er Betreiber der Praxis als Verantwortlicher des Ganzen verurteilt worden.

30:31 Also am Ende stehen wir da und ich glaube, das ist auch ganz gut für uns als Ärzte da in der Klarheit zu sein dass wir die Anwender sind. Und deswegen ist unsere Aufgabe es genau zu wissen wie man diese Tools benutzt. Wie gesagt nochmal genauso wie ich lernen muss, wie ich die Hygiene richtig einhalte Datenschutz ein halte Das KfL nutze usw.

30:51 Ja finde ich gut so! So schaffen wir uns hoffentlich selbst auch nicht ab ja? Und unser Gehirn auch nicht Genau, und man muss sich ja überlegen. Letztlich medizinische Versorgung ist ja etwas was ich in jedem Zustand haben muss sei es Krieg, sei es Frieden, sei's in der Rüste, in der Antarktis oder eben in einem weit entwickelten Land.

31:09 Medizin muss funktionieren egal ob ich Internet habe oder nicht Ob ich diese Systeme habe oder Nicht. Und allein deswegen wird uns KI nicht per se abschaffen. Wieso wirst du dann trotzdem so oft mit dieser Frage konfrontiert? Kurzen, warum? Oder müssen wir überhaupt noch Medizin studieren. Benötigen wir noch Ärztinnen und Ärzte?

31:29 schaffen wir uns nicht selber ab? also ich habe die Sorge eigentlich gar nicht. Ich glaube, das sind zwei verschiedene Aspekte, die man sich da angucken muss. Einmal gibt es die großen Menschen dieser Welt, die immer wieder sagen, dass wir in fünfzehn Jahren keine Ärztinnen und Ärzte mehr brauchen, die ständig in den Schlagzeilen auftauchen – das ist das erste Thema!

31:48 Und der zweite Punkt ist natürlich wird KI unseren Job verändern? Das tut er jetzt schon. Da kommen reale Fragen auf wie das Thema Deas-Gilling, Never-Skilling oder Miss-Skillig passiert mit unserer Weiterbildung. Wo man aufpassen muss, ist dass diese Sorgen und Ängste nicht dazu führen, dass wir uns weniger mit dem Thema auseinandersetzen.

32:07 Ganz im Gegenteil! Wir müssen das Ganze jetzt angehen und es eben nicht nur für Ärztinnen und Ärzte nachholen oder diese Schulungen machen sondern auch schauen wie muss sich dann unser Medizinstudium verändern? Und wie müssen wir das anpassen um diese Themen frühzeitig zu behandeln? Lass uns doch da direkt noch mal tiefer einsteigen.

32:22 De-Skilling oder sogar Never Skilling gibt es auch, dass man Kompetenzen gar nicht erst aufbaut. Welche Tipps hast du hier? Weil ich denke wir sehen alle das wir in gewissen Bereichen uns jetzt so auf die KI verlassen, dass wir da nicht mehr so stark unser Gehirn beanspruchen und die Sorge denke ich dies schon wirklich berechtigt.

32:43 Was hast Du dafür Tipps oder wie ist deine Meinung dazu? Ich glaube, dass es eine Verschiebung gibt im Mental-Load. Irgendwie früher haben wir Telefonnummern auswendig gelernt – das machen wir mittlerweile nicht mehr weil wir das Out-Gesourced haben auf unsere Handys. oder zumindest ich lerne weniger Telefon Nummern auswändig und erlebe das in meiner Umgebung genauso Wenn man sich mal die Luftfahrt anschaut.

33:05 Piloten und Piloten sindjenigen, die seit Jahren und Jahrzehnten künstliche Intelligenz nutzen. Wer im Flieger sitzt weiß vielleicht gar nicht, dass eigentlich der Autopilot aber trotzdem da sein muss. Warum? Für die akuten Notfälle für Staat und Landung, um aufzupassen und verantwortlich zu sein. Entsprechend sind Piloten so gut ausgebildet wie es nur geht, um gerade für diese Notfall-Situationen eingreifen zu können.

33:33 Und wir gucken uns ja in der Medizin doch viel aus der Fliegerei ab – genau daran sollten wir uns auch immer weiter orientieren! Wir müssen unsere Kompetenzen sowohl die praktischen Fertigkeiten weiterentwickeln. Wir müssen das ohne KI machen, eine Basis bauen bevor wir dann mit KI weiterarbeiten können.

33:48 und da gibt es einzelne Fachgesellschaften die haben da schon Statements zu festgelegt. Die europäische Endoskopie-Gesellschaft, die SGI hat beispielsweise ein Korrikulum festgelegt was dreifasisch ist wo man eben in der ersten Phase die Fähigkeiten erlernt ohne KI zu nutzen und in dem zweiten Schritt dann KI-Kompetenzen erlernt, weil die eben explizit relevant sind und wichtig sind.

34:07 Und auch die Grenzen des Ganzen nochmal lernen muss bevor man dann beides zusammen nutzen kann um das Maximale rauszuholen. Entsprechend glaube ich wir müssen umdenken! Wir müssen beide Fähigkeiten gut etabliern und das ganze vielleicht sogar mit KI? Ja Ich hatte dazu übrigens auch Professor Rainer Röhrich gefragt, wie sollte KI-Kompetenz künftig im Medizinstudium und in der Weiter- und Fortbildung verankert werden?

34:31 Und er sagte dazu Folgendes. Aus meiner Sicht deckt sich das was dort unterrichtet werden soll mit der Position der GMDS dass nämlich KI nicht in einem einzigen Wahlfach untergebracht werden kann sondern eigentlich durchgehend in das ganze Studium gehört. es gilt eigentlich für die komplette Digitalisierung.

34:51 Man braucht sicherlich am Anfang einmal die Grundlagen, die man unblockt lernen muss. Aber danach macht es Sinn überall zu gucken wo in welchem Fach setzt man jetzt WKI ein um dort einem praktischen Beispiel Ärztinnen und Ärzte oder zukünftige Ärztin und Äzten ausbilden zu können? zum Beispiel in der inneren kann man Entscheidungsunterstützung Systeme für die kalkulierte Antibiotika Therapie unterrichten und dann nicht als Theorie sondern konkret an Fällen.

35:23 Und in der Weiterbildung brauchen wir ebenfalls strukturierte und vor allem praxisnahe Formate, kurze Module die man auch mit dem Klinikalltag vereinbaren kann und das Ganze vielleicht sogar interprofessionell mit Pflege, medizinisch-technischen Personal dass man eben nicht nur eine Begrufsgruppe schult, sondern auch darauf guckt wie arbeiten alle zusammen?

35:46 Mit KI als einen neuen Partner? Und wie lernt man gemeinsam damit umzugehen und lernt dann auch das neue Rollenverständnis? Das Wichtigste ist, glaube ich, was man mitnehmen muss. Es geht nicht um die Bedienung der KI. Das muss man auch schulen. Das Wichtigste ist es geht um die Urteilsfähigkeit. Wann darf ich einem System vertrauen?

36:09 Wie muss ich es überprüfen oder wie kann ich es überhaupt überprüchen? Oder eben nicht! Das wird eine ärztliche Kernkompetenz und die müssen wir üben. Dem würde ich zu hundert Prozent zustimmen, ich glaube Medizin wird mit KI interprofessioneller, wird menschlicher, wird kommunikativer. Wir stehen alle vor der gleichen Herausforderung, dass wir eine Veränderung sehen die wirklich alles betrifft.

36:37 Wir haben eben darüber gesprochen, die Integration für eine komplette Patient Journey von der Notaufnahme bis hin zur Entlassung bis zum Ambulanzbesuch und genau das ist die Herausforderung letztlich für die Integration in die medizinische Ausbildung. jetzt spricht Professor Rainer Rürich aus Aachen wo es schon lange den Modellstudiengang gibt, der sehr modular aufgebaut ist.

36:56 Der genau das schon seit Jahren macht letztlich Organsystemen basiert zu lehren und das ist natürlich ideal dann entsprechend in den jeweiligen Fachbereichen des Ganzen zu integrieren. Ich glaube wir müssen da aber eine nationale Strategie entwickeln die man für alle nutzen kann. Wer würde denn an sowas arbeiten?

37:13 An so einer nationalen Strategie? Das ist ne hervorragende Frage. Ich glaube, dass man das aus den verschiedenen Fachbereichen zusammen machen muss. Also ich glaube die GmbDS ist sicherlich ein guter Ansprechpartner dafür. Habe ich keine klare Antwort darauf? Da wird bestimmt jetzt noch viel kommen und hoffentlich eine enge Zusammenarbeit zwischen Politik aber auch KI-Unternehmen und Anwendern, Kliniken und so.

37:40 Nader, weil das jetzt gerade in dem Kommentar von Professor Röhrich gefallen ist nochmal dieses Thema. Wie erkenne ich eigentlich, dass meine KI sicher ist die ich da einsetze? Also... Ich würde jetzt einfach ganz naiv annehmen wenn ich in der Klinik tätig bin und der KI schon eingesetzt wird versteckt oder nicht versteckt das sich der doch blind vertrauen kann oder muss ich da auch noch irgendwas validieren?

38:03 also wenn das jetzt ein geprüftes Tool ist wann muss ich denn wie vorgehen bei der KI Prüfung? Von wem ich eine Meinung höre oder eine Empfehlung höre, soll ich diese immer kritisch überprüfen. Und genau das Gleiche gilt natürlich für die KI. Das bedeutet... Ich kann mir natürlich helfen und mir von einer KI eine Quelle rausgeben lassen, fragen lassen wie bist du denn zu dieser Entscheidung gekommen?

38:28 Und die letztlich bewerten! Da sollte ich immer überprüfen was dabei rumgekommen ist, die entsprechenden Quellen. Wir haben darüber gesprochen dass eine KI auch halluzinieren kann. das heißt diese Quellen dann auch entsprechend überprüft und schauen gibt es diese Publikation wirklich? Und selbst wenn es sie gibt passen die zu dem Thema was ich denn da gerade abgefragt habe.

38:44 Es sind letztlich mehrere Schritte die man gehen muss aber man sollte eine KI wie all zusätzlichen Experten im Raum behandeln und nicht wie eine Zauberlampe. Gut. Jetzt nochmal der KI-informierte Patient, das haben wir ja alle schon erlebt oder? Der Patient oder die Patientin, die strahlend reinkommt und sagt ich habe das alles schon mit Chatchibiti besprochen.

39:06 also wie gehst du damit um und hast du da auch noch Tipps für unsere Hörerinnen und Hörern? Das kommt immer mehr. Und ich hatte jetzt das erste Mal das Erlebnis, dass eine Patientin gesagt hat, na, ich habe das schon alles mit TETG-PD besprochen und ich weiß gar nicht warum ich hier bin. TETT GPD war super zufrieden!

39:20 Es ist total cool wenn Patienten das Ganze mit einer KI egal welcher diskutieren und ich fragte dann immer okay was haben sie denn genutzt? Welches Tool und wofür und was haben Sie denn da genau reingegeben? Warum? Herr Professor Röhrich hat es gesagt und wir haben auch schon drüber gesprochen die Daten die ich reingebe oder die Frage die ich stelle oder anders gesagt, der Output den ich bekomme.

39:40 Das was am Ende dabei rauskommt ist immer nur so gut wie das was ich reingebe. Sei es sind die Daten die ich reingegeben habe oder die Frage die ich gestellt hab oder eben auch die Rolle die ich dem Ganzen gegeben habe und dass ist das was Ich dann versuche den Patienten mit an die Hand zu geben weil wir können nicht verhindern dass Patienten diese Tools nutzen und wir tun's ja auch und entsprechend versuche ich da den Patienten etwas mit an sie handzugeben zu einem besseren Ergebnis kommen können.

40:06 Ich weise natürlich darauf hin, dass es keine geprüften Medizinprodukte sind und dass man durchaus sehr vorsichtig damit sein muss und auch auf das Thema Datenschutz nochmal. Aber am Ende weiß ich, dass sich die Patienten nicht davon abhalten werde und versuche entsprechend diese Tools als All-I für mich zu nutzen – also Unterstützung für mich!

40:22 Weil ich auch davon profitiere wenn der Patient besser vorbereitet kommt zum Gespräch möglicherweise eine Begleitung hat, die ich nicht dauerhaft bieten kann aus einer ambulanten Behandlung heraus und eben auch Redflex angezeigt bekommt, eingeschränkt natürlich. Es sind keine Medizinprodukte. aber es kommt häufiger vor dass Patienten sagen das habe ich KI oder das KI nicht und sicher da kommen schon lustige Gespräche zu stehen.

40:45 ja vielleicht da noch einen letzten Tipp von dir bevor wir dann auch gleich zum Abschluss kommen liebe Nada denn das was wir reingehen hast du schon gesagt bestimmt maßgeblich was rauskommt. also für uns das Thema prompt schreiben. Hast du da noch mal einen wertvollen Tipp? Wie schreibe ich einen guten Promfo, soll ich darauf achten wenn ich es jetzt als Arzt oder Ärztin nutze.

41:05 Kontext geben das bedeutet dem Modell ganz klar sagen was kann ist wo befindet es sich? worum geht es Wenn wir aus einer hepatologischen Ambulanz raus? sprechen? die Patienten die zu mir kommen. Das Modell ist ein Hepatologe, Experte für Leberzirose und zwar bei Patienten mit Verala Hepatitis. Patienten wollen wissen was ihre Laborwerte bedeuten die sie reingegeben haben möchten gerne als Ergebnis eine Empfehlung bekommen wie sie möglicherweise die Werte verbessern können was die anderen Werte bedeuteten die sie noch zusätzlich mit rein gegeben haben und das ganze natürlich mit entsprechenden Referenzen hinterlegt die überprüft werden können.

41:41 Ich glaube dass es was, was man gut mit an die Hand geben kann und was auch einfach zu verstehen ist. Gibt's zu deinen Patientinnen und Patienten Tipps für einen guten Prompt? Weil es gibt ja auch die Studien, die zeigen da hatten wir in der ersten Podcastfolge drüber gesprochen das Patienten dann vielleicht eingehen.

41:56 Ja ich hab jetzt die um diese Symptome Und ich war übrigens letzte Woche im Wochenende im Wald kämpfen und dann war das sofort irgendeine zäcken assoziierte Erkrankung war es aber gar nicht mal normaler glaube ich Sommerinfekt. also das ist maßgeblich entscheidende was ich reingebe. Gibst du denen da auch Tipps und sagt toll, dass sie jetzt das alles mit ChatGbt besprochen haben.

42:15 Aber bedenken Sie auch noch an dies und jenes fürs nächste Mal? Ja genau! Also genau das ist das was ich mache. Ich frage ab was haben Sie reingegeben welche Informationen Sie der Preis gegeben haben wie viel Kontext dabei war und gebe Ihnen dann die Craft Formel mit an die Hand. weiß nicht ob Du die kennst, aber da ist eben genau das enthalten was ich eben angesprochen habe.

42:34 Kontext, Rolle, Aktion. also was soll es jetzt genau machen? in welchem Ausgabeformat möchtest du gerne haben? und dann eben eine gewisse Fine-Ustierung mit entsprechenden Quellenangaben. Und die Patienten finden das immer ganz gut und wenn sie wiederkommen dann unterhalten wir uns weiter darüber. Es gibt Patienten die sind natürlich besser informiert als andere völlig klar.

42:54 Aber das ist etwas was super einfach ist. Wenn man den Patienten sagt sagen Sie dem Modell was es kann Ganz einfach gesagt, dann ist das schon mal eine große Hilfe. Nada! Wenn unsere Hörern und Hörer sich jetzt nur drei bis fünf Dinge aus dieser Folge merken sollen, welche Regeln gehören auf die persönliche KI-Checkliste jeder Ärztin jedes Arztes?

43:17 Was sollten wir ab morgen vielleicht anders machen oder umsetzen damit wir KI sicher im Klinikalltag verwenden? Ich glaube das Wichtigste ist wenn man in einer Einrichtung arbeitet selber Inhaber ist, die Regeln der eigenen Einrichtung zu kennen. Man sollte wissen welche Tools freigegeben sind, welcher erlaubt sind und wofür welche genutzt werden dürfen.

43:36 Das zweite Thema Datenschutz. Patienten datenschützen. keine Patienten identifizierenden Daten eingeben werden. darüber gesprochen das es nicht nur Name- und Geburtsdatum sondern geht weit darüber hinaus. Patienten Daten müssen anonymisiert werden bevor sie in irgendwelche Systeme reingegeben werden.

43:53 Thema drei KI unterstützt uns nur, wird uns entsprechend nicht ersetzen. Er setzt aber auch keine ärzliche Entscheidungen und Ärztinnen und Ärzte sind Letztentscheider und tragen die Verantwortung. Wir müssen die Grenzen des Ganzen kennen. Das darf man nicht vergessen Dichwort Haluzination beispielsweise.

44:08 Und dann glaube ich einen relevanter Punkt bedürfe mich aufhören zu lernen Nur weil ich einmal weiß wie ich eintrulle Nutze. Die entwickeln sich so schnell weiter. wir müssen weiter lernen weiter ausprobieren und das muss nicht nur im medizinischen Kontext sein. Man kann es auch zur Urlaubsplanung, zur Essensplanung usw.

44:22 Danke, Diana. Noch einen Ausblick auf unseren KI-Kurs oder unsere gemeinsame Ambers Online-Fordbildung zum Thema KI Kompetenz? Vielleicht noch ganz kurz – was erwartet hier die User? Fünf Module! Ich freue mich total drauf. Da gibt es einmal eine Einführung, wo es darum geht, KI zu verstehen und die verschiedenen Fachbegriffe, Fachtherminie zu diskutieren, Potenziale und Limitationen zu diskutierend.

44:46 Dann gibt's natürlich das große Thema der Regulatorik Der Rahmen und die ethischen Fragestellungen, die mit dem Ganzen assoziiert sind. Wir schwerden über klinische Anwendung sprechen und KI Risiken herausforderungen. wie entwickelt sich der Arztberuf weiter? Und dann im letzten Teil da freue ich mich ganz besonders drauf ein Dialogmodell wo wir über die Zukunft sprechen werden.

45:04 Wo geht's hin? was denn? digitale Zwillinge Präventive Medizin und so weiter. Klasse, ich freue mich sehr! Ja das war Dr. Nader Abedin von Boist Ärztin und Gründerin von X-Medical Referentin unseres AMVOSKI Kompetenzkurses. Danke dass du deine Perspektive mit uns geteilt hast. Nader vielen Dank. Vielen dank dass ich dabei sein durfte, ich freu mich.

45:24 KI-Kompetenz wird immer essentieller für den Arztberuf. Genau, deshalb bringen wir bei AMBOS im Herbst also eine eigene Onlinefrottbildung zum diesem Thema heraus. und ja ihr habt die Referentin gerade schon live erlebt. Nada wird euch durch den Kurs führen! Wenn also deine Klinik eine Amboss-Lizenz hat, dann ist es gut möglich dass der Kurs darin enthalten sein wird.

45:44 Fragt dann einfach ab Herbst mal bei der Geschäftsführung nach und falls du selbst keinen Zugang über deiner Klinika hast, dann wird das die Fortbildung auch einzeln gegen einen ganz fairen Preis geben! Wir halten euch da auf jeden Fall auf den laufenden. Alle Infos findet ihr auch über folgenden Link go.amboss.com.

46:01 slash ai minus kurs. Dort findet sicher auch eine Warteliste, auf die ihr euch setzen könnt. Dann bekommt ihr schnellstmöglich die Info wenn der Kurs live geschaltet ist. Ihr findet auch den Link noch mal in der Podcast-Beschreibung. und ja damit ihr nichts verpasst meldet euch da gerne schonmal unverbindlich an bei der Wartelliste.

46:19 Vielen Dank fürs Zuhören! Wenn ihr Amboss noch nicht kennt probiert es doch gerne einfach mal aus. Ihr könnt die App runterladen oder Amboss direkt im Desktop nutzen Und natürlich freuen wir uns wenn ihr dem Podcast weiter empfehlt oder abonniert. Macht's gut und bis zum nächsten Mal.