KI Roundtable: Wie ähnlich sind sich ChatGPT & unser Gehirn und brauchen wir bald alle einen Chip?

0:00 Als im November 2022 JetGBT released wurde, da hat es jeden überrascht. Wenn Sie eine Woche vorher KI-Experten und Neurowissenschaftler gefragt hätten, da hätten die meisten wohl gesagt, das wird es irgendwann geben, aber das ist bestimmt noch Jahrzehnte in der Zukunft. Bam, eine Woche später war es dann da.

0:19 Prof. Thomas Kinfe, PD Dr. Patrick Kraus und PD Dr. Achim Schilling gehören zu den führenden Köpfen der deutschen Hirnforschung und Neurotechnologie. Sie erforschen, was künstliche Intelligenz und unser Gehirn miteinander zu tun haben und wie sich beide gegenseitig verändern. Wir haben zum Beispiel im Bereich der Neuroprothetik Arrays, die ermöglichen, dass man das Gehirn mit externen Devices koppelt.

0:43 Es kann eine Armprothese sein, es kann ein Sprachcomputer sein. Also können mit diesen Technologien perspektivisch einen Teil ihrer Funktion wiedergewinnen. Aber wie kommt denn mein Hirnsignal an den Computer ran? Also auf den ersten Blick relativ einfach. Elektrode rein, Kabel, bisschen Vorverstärker-Elektronik und einen Analog-Digitalwandler.

1:02 Und schon hat man das Signal im Computer. Dann kommt der wirklich interessante Teil aus einem Hirnsignal, ein Ansteuerbefehl für eine Prothese zu machen. Wie nah ist jetzt wirklich JGPT und mein Hirn? Obwohl sie völlig verschiedene Systeme sind, entstehen trotzdem die gleichen Mechanismen. Und das ist schon sehr erstaunlich.

1:21 Der Ray Kurzweil sagt ja ganz klar, Anfang der 30er Jahre brauchen wir im Hirn einen Chip, um mit der Entwicklung der KI als Mensch noch standhalten zu können. Ich würde da als allererste Frage stellen, möchten wir uns denn wirklich alle einen Chip implantieren lassen? Aber wieso brauchen Sie denn einen Chip?

1:38 Ich meine, ich habe meinen Chip in der Hosentasche. Wir haben ja unser Fenster zum Weltwissen bereits. Ich denke, es wird durchaus eine Minorität in der Gesellschaft geben, die das machen. Herr Kraus, gibt es jetzt aus Ihrer Sicht irgendwas, wo das Hirn auch in 50 Jahren noch unschlagbar sein wird? Soweit kann ich mich nicht aus dem Fenster lehnen.

1:56 Dann sagen wir mal in 10 Jahren. Nicht mal das. Eine kurze Bitte vorab, wenn Ihnen unser Podcast gefällt, würden wir uns sehr freuen, wenn Sie ihn abonnieren, wenn Sie ihm ein Like geben oder wenn Sie ihn an interessierte Kollegen oder bekannte Freunde weiterleiten. Damit würden Sie unseren Podcast sehr unterstützen.

2:17 Wir können weiter hochwertigen Content für Sie produzieren und werden in der Zukunft sicherlich auch weiter sehr interessante Gäste einladen können. Vielen Dank für Ihre Unterstützung. Bevor wir tiefer einsteigen, meine Herren, wenn Sie ganz kurz vielleicht beschreiben wollen, wenn Sie morgens ins Labor gehen oder in den OP gehen, an welchen aktuellen Themen arbeiten Sie?

2:45 Vielleicht fangen wir mit Ihnen an, Herr Kraus. Ja, also meine Arbeitsgruppe ist wahrscheinlich am weitesten vom klinischen Alltag weg, muss ich dazu sagen. Ich beschäftige mich tatsächlich mit... Brain-AI-Alignment, das heißt wie sozusagen das Gehirn und Large Language Models, also KI-Systeme, gleiche Verarbeitungsmechanismen und ähnliche Repräsentationen entwickeln und wie daraus dann vielleicht auch mal Digital Twins werden könnten, um patientenspezifisch Behandlungen vorwegzunehmen oder Behandlungen zu simulieren.

3:28 Zur Zeit verbringe ich viel Zeit damit, Anträge tatsächlich zu schreiben, was ja in der Wissenschaft immer ein großes Thema ist. Es geht bei uns, wir haben kleinere Projekte zur transkutaren cervikalen Rückenmarkstimulation, zur Behandlung von motorischen Problemen bei Tetraplegikern. Was aber, denke ich, unser gemeinsames Herzensthema ist, sind die Brain-Computer-Interfaces.

3:52 Jetzt wieder sehr stark in den Nachrichten durch Neuralink, aber da gibt es natürlich viel mehr dazu. Also wie wir mit dem Gehirn sozusagen über den Computer unsere zum Beispiel Gliedmaßen oder gewisse Funktionen im Körper steuern können. Genau, also erstmal geht es genau darum, um motorische Brain-Computer-Interfaces.

4:13 Später wäre es natürlich schön, wenn wir irgendwann mal an den Punkt kommen, wo wir dann auch noch eine Rückkopplung bekommen von äußeren Sensoren wieder zurück zum Gehirn, weil Feinmotorik funktioniert natürlich nur, wenn man immer sensorisches Signal auch mit motorischem Signal abgleicht letztendlich.

4:28 Aber genau dahin geht es. Wir sind da schon noch, muss man sagen, in Europa insgesamt und auch wir am Anfang. Versuchen jetzt aber da einen neuen Ansatz, einen, sagen wir mal, europäischen Weg zu wählen, um das wirklich so aufzubauen, dass wir unsere eigenen BCIs entwickeln. Und dann durch Professor Kimpfer auch implantieren und dann auch unsere eigenen Algorithmen entwickeln.

4:51 beziehungsweise Algorithmen so abändern, dass die für unsere Bedürfnisse angepasst sind. Das ist so meine Hauptaufgabe. Also BCI, also Brain Computer Interface, ist ja gut und extrem wichtig, wie wir gerade schon vorab diskutiert haben, dass wir Europa oder auch Deutschland in diesen Bereichen stärken.

5:11 Und da ist ja Ihre Arbeitsgruppe besonders stark. Deshalb freue ich mich, dass wir das heute besprechen können. Herr Kienfer, was ist Ihr täglicher Job? Das lässt sich fließend zu dem zuvorgesagten eigentlich definieren. Also die Neuroprothetik natürlich. Was ist Neuroprothetik? Das sind eben Arrays, die ermöglichen, dass man das Gehirn mit externen Devices koppelt.

5:34 Es kann eine Armprothese sein, es kann ein Sprachcomputer sein, an Vision wird gearbeitet, also all jegliche Funktionsbeeinträchtigungen, die die Menschen erleiden. und für die es eben auch keine kausale Therapie gibt, können mit diesen Technologien perspektivisch einen Teil ihrer Funktion wiedergewinnen.

5:54 Das ist eine Hälfte und weswegen ich sehr froh bin, dass Herr Schilling und Herr Kraus mit ihrer KI-Expertise, die brauchen wir für diese Mengen von Daten, die wir da generieren. Und überleitend ist eben auch der zweite Block Neuromodulation mein Schwerpunkt. Das heißt, neben etablierten Verfahren wie Hirnstimulation, Rückenmarkstimulation, Wagensnervstimulation, eben auch Felder wie die transnationale Neuromodulation, da verstehen wir im engeren Sinne eben den fokussierten Ultraschall.

6:25 Also dass wir, obwohl ich aus der Chirurgie komme, auch nach innovativen Wegen suchen, implantfreie Patienten zu behandeln. Also zum Beispiel bei Parkinson oder vielleicht auch bei anderen neurodegenerativen Erkrankungen. So ist es. Da kommen wir später nochmal dazu. Genau. Vielleicht nochmal ganz kurz.

6:45 Das ist ja ein Bereich, der ist ja sehr technisch und auch komplex. Und wir müssen gucken, dass wir das für unsere Zuschauer natürlich auch relativ klar und einfach darstellen. Und in diesem Bereich wird ja immer unheimlich viel, auch teilweise von der Presse kolportiert. Wenn Sie nochmal ganz kurz sagen können, mit...

7:02 mit was für Mythen müssen Sie eigentlich so täglich kämpfen? Können wir ganz kurz nochmal die Reihe machen? Wenn Sie so überlegen, was haben Sie im Freundeskreis, im Bekanntenkreis, vielleicht auch im Patientenkreis, was sind da für Vorstellungen und was ist die Realität? Wenn jeder vielleicht von Ihnen so sagen könnte, was ist so ein Hauptmythos, mit dem ich täglich kämpfe?

7:23 Gut, also da ich ja wie erwähnt sozusagen am weitesten von der Klinik weg bin, ist es bei mir tatsächlich, wäre der Hauptmythos, der immer durch die Medien geistert, die großen Sprachmodelle und die heutigen KI-Systeme haben schon Bewusstsein. Das ganz große Thema, das da immer wieder kolportiert wird und das wissenschaftlich einfach aus heutiger Sicht nicht haltbar ist.

7:51 Und dann sozusagen auch noch weitergehend, dass es dann so prominente Warne gibt vor der KI-Apokalypse und so Terminator-Szenarien ins Schaufenster gestellt werden. Und da muss man ganz klar dazu sagen, Aus heutiger Sicht ist es nicht vollständig auszuschließen, aber es dient wohl weniger der tatsächlichen Warnung und mehr der PR der entsprechenden Leute, die das dann in Scharfheit stellen.

8:18 Also dass die KI die ganze Menschheit sozusagen bestimmen wird und vielleicht auch ausrotten wird. Ja, genau, das ist so der Kern dieser verschiedenen KI-Apokalypse-Szenarien. Und das ist aus heutiger Sicht Science-Fiction. Herr Schilling? Genau, der typische Mythos in dem BCI-Bereich ist natürlich, unsere Gedanken werden alle gelesen und man kann letztendlich in unsere Hirne reinschauen und alle unsere Gedanken letztendlich so auslesen und wir haben keine Privatsphäre mehr.

8:49 Das ist ja so der Mythos der BCI, der immer ein bisschen rumgeistert. Die Ängste, da kommen wir aber später auch nochmal dazu. Das ist natürlich ein ganz, ganz wichtiges Thema und ist ja auch verständlich. Wenn man das so irgendwo in einem Newsartikel liest, kommt man ja ganz schnell dann auf den Punkt.

9:04 Aber das wollen wir gleich auch nochmal diskutieren. Wie ist es bei Ihnen? Ich würde sagen, wir haben uns sehr gefreut, dass wir heute hier zu Gast sein dürfen, denn die Kultur und Philosophie dieser Veranstaltung ist ja auch, dass wir Wissenschaftskommunikation machen. Und egal, ob wir über BCI sprechen, Hirnstimulation, Medizin, also all das, was für die Bevölkerung vielleicht schwer greifbar ist, erzeugt solche Ängste.

9:29 Und die sind nicht nur auf BCI beschränkt, sondern viele Felder. Und deswegen denke ich, dass in erster Linie wir uns verbessern müssen in der Wissenschaftskommunikation. Das, was Sie hier 14 Tage regelmäßig machen, das ist sehr gut, weil Sie eben dadurch auch Aspekte der Medizin oder der Therapien oder Innovation kommunizieren und Patienten somit informieren.

9:56 Und das würde diese Schwelle senken oder diese Ängste. Und da müssen wir, glaube ich, noch mehr machen. Und jetzt nicht nur so dahergesagt ist. Und das ist, glaube ich, wirklich ein wichtiger Punkt, weil diese ganze Information muss ja auch an die Leute gelangen, die da vielleicht einen Bedarf oder ein Problem haben.

10:39 Und die können jetzt nicht unbedingt solche hochwissenschaftlichen Arbeiten wie von Ihnen lesen und verstehen. Das ist klar, dafür brauche ich ein Physikstudium, Medizinstudium, beides vielleicht. Aber die wollen trotzdem ehrliche und echte Informationen. Und das ist die Möglichkeit natürlich hier in so einem Format, das ein bisschen zu transportieren.

11:02 Es gibt trotzdem immer, der eine sagt es trotzdem noch zu wissenschaftlich, der andere sagt es ist zu banal. Ich meine, man muss einen gesunden Mittelweg finden. Man wird nie alle 100 Prozent abholen, aber ich sage mal, wenn man so bei 80 Prozent landet, dann... Ich denke, das ist auch die Hauptaufgabe und die wird immer wichtiger eines Wissenschaftlers in der heutigen Zeit.

11:23 Ehrliche und vor allem agendafreie Wissenschaftskommunikation, weil das Problem, das Sie angesprochen haben, dass es dann in der Presse zu reißerisch dargestellt wird oder so stark verkürzt wird, dass es verursacht. schon kontrafaktisch ist. Da stehen natürlich immer Interessen dahinter. Ich will Klicks erzielen, ich will Auflage generieren, ich will Reichweite generieren oder ich will vielleicht irgendeine Meinung oder irgendein Framing transportieren.

11:54 Und deswegen ist es umso wichtiger, dass eben Wissenschaftler... soweit dies möglich ist, neutrale Wissenschaftskommunikation betreiben, im Sinne von die komplexen Sachverhalte, mit denen sie sich beschäftigen, in einfacher, verständlicher Sprache zu erklären. Absolut. Also... Wenn Sie sehen, die Komposition unserer Arbeitsgruppe besteht ja aus Klinikern und Wissenschaftlern.

12:19 Das heißt, dass wir schon innerhalb dieser fachspezifischen Teams schauen, dass jeder das Feld so abdeckt, dass er ein vertieftes Wissen hat. Und deswegen zum Beispiel ich auf Herrn Schilling und Herrn Kraus auf eine gewisse Art und Weise angewiesen bin, wenn es zum Thema KI oder BCI kommt. Und das erklärt aber die Schwierigkeit, es der Allgemeinheit zu kommunizieren nochmal ein bisschen, wenn wir selber schon uns so strukturell aufbauen.

12:46 Das kann ja auch die Allgemeinheit ja überhaupt nicht nachvollziehen, wenn selbst sie sozusagen sagt, in meinem Bereich brauche ich die Unterstützung von echten Wissenschaftlern, um da weiterzukommen, dann erklärt das ja auch ganz gut, was so ein bisschen da die Grundproblematik ist. Aber natürlich hat jeder zu KI und so eine Meinung.

13:05 Und das ist ja auch gut und jeder will darüber reden. Aber man muss sich mit den Sachen, wenn man es wirklich verstehen will, schon sehr intensiv beschäftigen, sonst... ist einem gar nicht klar, was da wirklich passiert. Also um da mal ein bisschen jetzt tiefer einzusteigen, Herr Kraus, in Ihrer aktuellen Arbeit sagen Sie, Gehirn- und KI-Sprachmodelle arbeiten relativ ähnlich.

13:27 Also Sie reden ja von Predictive Coding, also von Vorheraussage in diesen Sprachmodellen. Und da scheint es ja, Ähnlichkeiten zu geben mit dem Hirn. Können Sie das nochmal ein bisschen genauer erklären, dass unsere Zuschauer das ein bisschen besser verstehen können? Genau, also in den Neurowissenschaften gibt es schon seit...

13:53 15 bis 20 Jahren so dieses Paradigma des Predictive Coding, also das heißt voraussagende Codierung, was im Kern nichts anderes bedeutet, als dass das Gehirn laufend versucht vorherzusagen, was passiert als nächstes. Was höre ich als nächstes? Was sehe ich als nächstes? Welches Wort kommt als nächstes?

14:14 Wenn ich so und so agiere, wie verändert sich dann als nächstes die Umwelt und so weiter? Also das findet sozusagen ständig Vorhersagen auf allen möglichen Abstraktions- und Komplexitätsebenen statt, die dann mit den tatsächlichen Ereignissen, die über unsere Sinnesorgane ins Gehirn kommen, abgeglichen werden.

14:38 Es zeichnet sich ab, dass sozusagen die Hauptfunktion, wenn man das so sagen kann, das dem Gehirn zugrunde liegenden Algorithmus ist, diesen Vorhersagefehler, also die Differenz zwischen Vorhersage und was dann tatsächlich von den Sinnesorganen kommt, zu minimieren. Und das bedeutet eben im Zweifel auch, das Weltmodell, das man aufgebaut hat, immer wieder anzupassen und zu verfeinern.

15:03 Und an der Stelle kann man die Brücke zur KI schlagen, was diese großen Sprachmodelle wie JetGPT oder Claude im Wesentlichen machen ist. dass sie um nach Eingabe eines um inzwischen sehr langen Text des einfach Prozent nur das nächste Wort vorhersagen und das machen sie aber extrem gut und Prozent auch wieder indem sie auf ganz vielen Abstraktion zu der Chie Ebenen um Informationen mit einbeziehen und dann besagen sie quasi eine Wahrscheinlichkeit voraus Wie wahrscheinlich ist dieses Wort, jenes oder ein anderes?

15:38 Sie machen im Prinzip eine Wahrscheinlichkeitsverteilung über das gesamte Vokabular und dann im einfachsten Fall entscheiden Sie sich für das wahrscheinlichste Wort, hängen das an den bisher existierenden Text dran, dann ist der Text ein Wort länger, jetzt geben Sie den wieder in das große Sprachmodell und die Schleife fängt von vorne an.

15:56 Also es ist im Prinzip Wort nach Wort. Genau. Und obwohl sie sozusagen immer nur jeweils ein Wort vorhersagen und es irgendwie keinen höheren Plan oder so gibt, im Gegensatz zum Beispiel zum Arbeitsgedächtnis im menschlichen Gehirn, entstehen dadurch sinnvolle Texte, die über beliebig komplizierte Sachen sich auslassen können.

16:21 Und das ist eben so die Gemeinsamkeit oder das scheint so zu... dieses Grundprinzip zu sein, dass eben Vorhersage des nächsten Elements oder allgemein Vorhersage eine sehr mächtige Strategie ist, die Sie auf alles Mögliche anwenden können im kognitiven Bereich. Und was jetzt eben das eigentlich Erstaunliche ist, also der erste erstaunliche Fakt war, dass diese großen Sprachmodelle so gut funktionieren.

16:49 sich mit denen unterhalten, wirklich in gesprochener Sprache oder Chat basiert. Und es ist im Grunde von den Menschen nicht mehr unterscheidbar. Also der Turing-Test wäre damit bestanden. Und was aber jetzt sozusagen sekundär fast noch erstaunlicher ist, ist die Tatsache, dass wenn Sie jetzt mit Methoden, die aus der Neurowissenschaft oder aus der Physik kommen, in diese KI-Modelle reinschauen, also die Blackbox öffnen, Weil die Tatsache ist nämlich, man weiß zwar, wie man diese KI-Modelle aufsetzt, wie man sie programmiert, wie man sie trainiert, aber das fertig trainierte Sprachmodell, warum es so gut funktioniert, wie es funktioniert und was sich im Inneren abspielt, ist nach wie vor größtenteils völlig unklar.

17:34 Und deswegen ist eben wichtig reinzuschauen. Also auch den Entwicklern. Auch den Entwicklern, ja. Also das heißt, wir haben da so eine Art künstliches Gehirn im weitesten Sinne gebaut und wissen jetzt wieder nicht so genau, wie es eigentlich funktioniert. Also sie haben die gleichen Fragen, die sich in der Hirnforschung seit Jahrzehnten stellen, die stellen sich jetzt im Grunde in Bezug auf diese KI-Systeme.

17:57 Und wenn Sie jetzt eben, also wir machen sozusagen die ersten Schritte dahin, diese Blackbox zu öffnen und Stichwort ist da Explainable, also erklärbare KI. Und dann stellen Sie Erstaunliches fest, nämlich dass die Repräsentationen, die sich in diesen KI-Systemen bilden, also wie organisiert das System sein Wissen über Sprache und über die Welt, dass diese Repräsentationen erstaunlich ähnlich zu denen sind, die Sie im menschlichen Gehirn finden.

18:26 Obwohl sie völlig verschiedene Systeme sind, die völlig anders realisiert sind, also eine völlig andere Hardware und völlig anders trainiert, entstehen dann trotzdem konvergent sozusagen die gleichen Mechanismen und das ist schon sehr erstaunlich. Also man hat es geschafft, irgendwo das Gehirn anteilsweise zu kopieren, aber man weiß gar nicht genau wieso.

18:51 Ja, also man hat aber das Gehirn nicht kopiert im Sinne von, wir haben das jetzt Stück für Stück nachgebaut, sondern eher, wir haben so ein paar Grundprinzipien uns aus dem Gehirn abgeschaut. Aber das war ja auch die Idee, soviel ich weiß. Die Anfänge waren ja, dass sie gesagt haben, okay, das Gehirn ist so fantastisch und funktioniert auf so viel Engen so gut.

19:11 Wir versuchen unser Sprachmodell dem irgendwie anzupassen. Ja, beziehungsweise geht es ja noch viel weiter zurück zu den Anfängen der KI, also die künstliche Intelligenz als Begriff. war ja ursprünglich eigentlich nie dazu gedacht, dass es uns Arbeit abnimmt oder dass es große Datenmengen analysiert, sondern ganz ursprünglich war es gedacht, als Unternehmen das menschliche Gehirn zu verstehen und durch Modellierung zu simulieren und besser erklärbar zu machen.

19:39 Und sozusagen als Nebenprodukt sind dann eben Systeme dabei rausgekommen, die auch für den Alltag und für alles Mögliche sehr nützlich sind. Herr Schilling, wie kann man das denn überhaupt ... Man weiß, dass es so ist, aber wie kann man das denn wirklich messen? Wie kann ich denn im Hirn messen, dass diese Prognosemodelle überhaupt so ablaufen?

20:00 Also dass ich jetzt diese Prädiktion, diese Voraussage im Gehirn, ist ja bekannt, dass es so ist, aber wie... Wo ist der Beleg dafür quasi? Der neuronale Beleg dafür, das ist gar nicht so einfach, weil am Ende, was immer passiert in den Neurowissenschaften, man hat tolle bildgebende Verfahren und dann bekommt man erstmal Bilder.

20:24 Aber aus den Bildern auf eine Funktion zu schließen, ist gar nicht einfach. tatsächlich sehr witzige, aber eigentlich auch nur halb witzige Publikationen dazu. Zum Beispiel das Paper Could a Neuroscientist Understand a Microprocessor? Wo man sagt, okay, ich nehme mir mal ein System her, nehme ich einen Mikroprozessor, das ist jetzt mein Gehirn, ich weiß, wie er funktioniert, und dann wende ich alle Methoden aus den Neurowissenschaften drauf an und verstehe ich danach, wie der Mikroprozessor funktioniert.

20:52 Nein, das verstehe ich nicht. Das hat Conor Cording gezeigt. Das Problem ist, unsere Methoden aus den Neurowissenschaften, aus einem Bild wirklich Funktion abzuleiten, das ist gar nicht so einfach. Deswegen ist es natürlich auch in der Gesellschaft, sagt man, man sieht doch wunderbar, man kann toll auf Millimeter-Skala auflösen.

21:09 Im MRT, was da für eine Aktivität ist. Aber letztendlich wirklich eine Funktion daraus abzuleiten, das funktioniert gar nicht so einfach. Und deswegen wählen wir, ich würde es so eine Art Leiteransatz nehmen, so ein Ping-Pong-Spiel. Man nimmt ein kleines KI-System, ein kleines neuronales Netz, schaut, okay, wie funktioniert das?

21:29 Das kann ich relativ gut analysieren. Schau, was habe ich dann für Effekte, die ich vielleicht im Gehirn auch sehe? Also was wäre das Aktivitätsmuster in dem neuronalen Netz? Und was finde ich so etwas Ähnliches auch im Gehirn? Solche Module letztendlich. Weil wenn ich da einfach auf das große Schaum, wie du die Bilder anschaue, werde ich nicht so einfach eine Funktion ableiten können.

21:49 Und das ist letztendlich, was wir machen. Dazu gibt es dann auch ein paar Methoden, zum Beispiel die sogenannte Representational Similarity Analysis, wo man einfach wirklich ein quantitatives Maß hat, sind zum Beispiel repräsentiertes Gehirn, verschiedene Bilder, genauso unterschiedlich wie ein KI-System.

22:07 Und dann versucht man, Parallelen zu ziehen. Aber man muss ganz ehrlich sagen, es ist nicht einfach, in den Neurowissenschaften wirklich aus einer Messung wirklich eine Funktion abzuleiten. Das ist unser ganz großes Problem. Und wie gesagt, ich meine, dieses Interesse, Ich würde mal sagen, das hat unsere Forschung auch ein bisschen beeinflusst, dieses Kutter Neuroscientist an der Stand-Up Micro Recessor, weil wir haben am Anfang auch viel nasse Neurowissenschaften gemacht und haben dann gemerkt, ich habe mich dann auch in dem KI-Bereich habilitiert, weil es ging einfach nicht mehr weiter.

22:37 Und das ist nach wie vor ein bisschen ungelöst und deswegen versuchen wir dieses Ping-Pong-Spiel mit der KI. KI anschauen, Gehirn anschauen. Also wird dann möglicherweise die KI, die ich gar nicht wirklich verstehe, mir trotzdem helfen, es dann final doch zu verstehen? Macht das Sinn? Tatsächlich wissen wir es nicht.

22:56 Tatsächlich ist es spekulativ, aber die Hoffnung ist natürlich da, ja. Aber ich meine, es ist ja wirklich interessant, Kraus, also das Gehirn und JetGPT arbeiten irgendwo ein bisschen ähnlich. Kann man das so sagen oder ist das jetzt zu trivial? Ich habe verstanden, man hat vom Hirn noch nicht so viel verstanden, also zumindest nicht alles.

23:19 Man hat aber auch von den großen Sprachmodellen nicht alles verstanden. Wie nah ist jetzt wirklich JetGPT und mein Hirn? Also zum einen muss man diese, David Marr hat vor Jahrzehnten diese drei Analyse-Levels mal eingeführt als Konzepte, wenn man versucht ein komplexes System zu verstehen. Auf der untersten Ebene ist der Implementierungs-Level, also sozusagen aus welcher Substanz ist das System gebaut und das ist natürlich bei Jet-GPT und beim Gehirn völlig verschieden, da brauchen wir nicht länger drüber reden.

23:54 Auf der obersten Ebene, das hat er genannt den Computational oder den Berechnungslevel, das ist ein bisschen unglücklich ausgedrückt, aber damit meint er, welches Problem löst denn das System oder welche Aufgabe verfolgt es. Und da wird es jetzt schon interessanter, weil da ist es, wenn Sie sich das Gehirn anschauen und große Sprachmodelle wie ChatGPT, die lösen das gleiche Problem, nämlich Sprache, irgendwie zu verstehen und sinnvoll auf sprachliche Eingaben zu antworten.

24:25 Und besonders und am interessantesten ist dieser Zwischenlevel. Das ist der sogenannte algorithmische Level. Und der beschreibt letztlich, wie das System das Problem löst und welche Methoden und Algorithmen es dazu anwendet. Und da scheint es so zu sein, dass obwohl der Implementierungslevel völlig verschieden ist zwischen Gehirn und Chat-GBT, dass durch das Training und durch die Beschäftigung mit Sprache und durch die Vorhersage, welche sprachlichen Elemente kommen als nächstes, dass ich dann von selbst, sozusagen die gleichen oder sehr ähnliche Algorithmen entwickeln, die zwar völlig anders implementiert sind, aber die im Grunde dasselbe machen.

25:12 Und das ist so die große Erkenntnis der letzten, ich würde mal sagen, drei, vier Jahre. Auf dem Feld beginnen auch gerade die Publikationen zu explodieren. dass sozusagen völlig verschiedene Systeme, die die gleichen Probleme lösen müssen, dann gleiche Lösungen finden. Und das zeichnet sich ab und das können sie auch tatsächlich empirisch vermitteln.

25:40 Belegen, ja, also Sie können zum Beispiel feststellen, dass, ich erwähnte ja bereits, dass wenn JetGPT dann vorhersagt, welches Wort kommt als nächstes, dann sagt es in Wahrheit ja die Wahrscheinlichkeit für jedes denkbare Wort vorher. Und das Interessante ist jetzt, dass diese Wahrscheinlichkeiten, die JetGPT generiert, mit jedem Schritt, dass die hochgradig korrelieren mit der Gehirnaktivität, die wir messen können bei Probandinnen und Probanden, die zum Beispiel ein Hörbuch anhören.

26:11 Also das zeigt, dass offensichtlich da gemeinsame Algorithmen und Repräsentationen am Werk sind. Also hochinteressant, Herr Kinfer. Sie als Neurochirurg, wenn Sie jetzt hören von den Kollegen, also... TGPT oder andere Modelle sind dem Gehirn doch sehr ähnlich. Was sagen Sie dazu, auch aus der praktischen Medizin?

26:34 Sie haben wahrscheinlich auch genug Unterschiede, wo es keine Ähnlichkeiten gibt. Also ich sehe den Nutzen, oder andersrum gesagt, man hat ja immer dieses Schlagwort mit personalisierter Medizin, Präzisionsmedizin. Medizin, die versucht, auf das Individuum heruntergerechnet Prädiktionen für Diagnostik, Therapie herzuleiten.

26:56 Das ist nicht möglich. Aber das ist jetzt nicht deterministisch zu sehen, weil es gibt ja auch sozusagen Data-Driven Medicine. Das heißt, wir akkumulieren eine gewisse Datenmenge. und versuchen damit intra- oder intra-individuelle Variabilitäten auszugleichen. Um diese Daten aber interpretieren zu können, und da schlägt sich wieder die Brücke zu Herrn Kraus und zu Herrn Schilling, brauchen wir Tools, die uns helfen, ein gewisses Muster zu erkennen.

27:24 Also ich denke nicht, dass es um das Individuum geht, aber dass sie Cluster von Patienten, unabhängig der medizinischen Disziplin oder Erkrankung, dass sie Cluster von Patienten definieren können. die wahrscheinlicher oder weniger wahrscheinlich auf eine Therapie ansprechen, die wahrscheinlicher oder weniger wahrscheinlich eine Diagnose XY haben.

27:44 Insofern passt die Entwicklung gerade ganz gut mit der Situation, dass wir in der Lage sind, jetzt immer größere Datenmengen. Wir brauchen ja auch Infrastruktur, um diese Daten zusammenzuführen. All das ist, glaube ich, ein Prozess, der in Deutschland voranschreitet, aber sicherlich noch Luft nach oben hat.

28:04 Haben wir diese Unmengen von Daten, brauchen wir neben unserem Gehirn glaube ich ganz dringend Large Language Modelle und KI Paradigmen, um für uns etwas Sinnvolles daraus ableiten zu können. Also Herr Kraus, es gibt Parallelitäten. Gibt es jetzt aus Ihrer Sicht irgendwas, wo das Hirn auch in 50 Jahren noch unschlagbar sein wird?

28:26 Oder sagen Sie, das ist im Prinzip aktuell noch nicht voraussehbar? Also in 50 Jahren, soweit kann ich mich nicht aus dem Fenster lehnen, weil... Zehn Jahre. Nicht mal das. Das kann ich Ihnen auch erklären, warum ich da sehr vorsichtig geworden bin mittlerweile. Wir als Menschen glauben ja, unser Hirn ist irgendwie, das ist irgendwo vollendet und das Größte sozusagen in der Entwicklungsstufe.

28:56 Ja, also zum einen ... mag das sein für alle bisherigen Vergleichssysteme auf diesem Planeten. Das habe ich überhört. Das hätte bei dem Beruf ja nicht gewesen. Also das mag sein für alle Systeme oder Gehirne, die wir kennen auf diesem Planeten. Aber da wäre ich schon, und selbst da wäre ich mir dann nicht sicher, ob es wirklich jetzt sozusagen schon der Weisheit letzter Schluss ist, unser Gehirn.

29:25 Weil das würde so eine Art teleologisches Weltbild voraussetzen oder dass die Evolution zielgerichtet auf einen Endpunkt zuläuft. Auch wir wissen, das ist nicht so. Also das ist schon mal sozusagen, das wäre die Antwort auf der Meta-Ebene. Und wenn man es dann ein bisschen weiter runter bricht, warum ich jetzt mit solchen Prognosen sehr vorsichtig geworden bin, als im November 2022 JetGBT released wurde, da hat es jeden überrascht, auch die Leute, die sich seit Jahrzehnten damit beschäftigen.

29:57 Wenn Sie eine Woche vorher KI-Experten und Neurowissenschaftler gefragt hätten, wann sehen wir das erste technische System, mit dem man sich beschäftigt? mit dem man Gespräche über beliebige Themen und beliebiger Komplexität führen kann, da hätten die meisten wohl gesagt, das wird es mit allerhöchster Wahrscheinlichkeit irgendwann geben, aber das ist bestimmt noch Jahrzehnte in der Zukunft.

30:21 Bam, eine Woche später war es dann da. Und wir müssen uns klar machen, das ist jetzt noch nicht mal vier Jahre her und seitdem ist die Entwicklung geradezu explodiert. Die Modelle, die wir heute haben, Jetzt aktuell, die sind dieser ursprünglich veröffentlichten JGBT-Version schon wieder in so vielen Bereichen derartig überlegen, dass die ursprüngliche JGBT-Version dagegen wie ein Spielzeug wirkt.

30:48 Also es gab seitdem immer neue Durchbrüche, die aber medial gar nicht mehr so eingeschlagen sind. Da hat schon fast so eine Art Abstumpfung eingesetzt, würde ich mal sagen, in der Gesellschaft und medial. Aber der Mark Zuckerberg war es, glaube ich, der gesagt hat, das ist so eine Art schleichende Singularität, was wir gerade erleben.

31:11 Also Singularität ist ja dieses Konzept von Ray Kurzweil, dass irgendwann die Entwicklung der KI so schnell vorangeht, dass wir sozusagen... als Mensch den Überblick gar nicht mehr behalten und dass das dann letztlich in Superhuman-KI mündet. Und er sagt, was wir im Moment sehen, scheint so eine Art schleichende Singularität zu sein, weil die Durchbrüche kommen in immer kürzeren zeitlichen Abständen und werden immer spektakulärer, aber es nimmt gar keiner so richtig zur Kenntnis.

31:45 Insbesondere in Deutschland. Vielleicht muss man das an der Stelle auch noch mal sagen. In den USA ist das in aller Munde, in der Presse, im Fernsehen, beim Starbucks. Aber gefühlt ist es in Deutschland ein Nischenthema. Dabei ist es das allerwichtigste Thema im Prinzip überhaupt. Das ist wahrscheinlich ein Jahrtausendthema tatsächlich.

32:04 Und jetzt kommt das eigentliche Problem mit diesen Prognosen. Also die Frage, die Sie mir zu Anfang gestellt haben. Die Entwicklung verläuft offensichtlich spätestens seit 2022 exponentiell. Und es ist extrem schwer, wenn nicht unmöglich für einen Menschen, das in die Zukunft zu extrapolieren. Das heißt, wenn Sie mich heute fragen, was können KI-Systeme in einem Jahr, in fünf Jahren, in zehn Jahren, in 20 Jahren, also ich wage überhaupt keine Prognose, aber potenziell, was sie sich denken können.

32:39 Weil inzwischen halte ich tatsächlich alles für möglich. Das muss ich ganz klar sagen. Deswegen stand jetzt, ich kann Ihnen sagen, was die heutigen KI-Systeme noch nicht können in Bezug auf das menschliche Gehirn. Sie sind extrem datenhungrig. Sie müssen mit Milliarden, mit hunderten Milliarden, wenn nicht sogar mit Billionen von Wörtern diese Large-Language-Models trainieren.

33:01 Das ist ein Vielfaches von dem, was ein Kind in seiner Entwicklung während des Spracherwerbs an Input bekommt. Und trotzdem lernen wir alle irgendwie akzeptabel sprechen. Also das ist zum Beispiel ein ungelöstes Problem. Warum brauche ich für KI-Systeme Größenordnungen mehr Daten für eine ähnliche Performance?

33:21 Und in die gleiche Richtung schlägt die Tatsache, dass KI-Systeme sehr energiehungrig sind. Sie brauchen für diese Server-Farmen, mit denen sie Jet-GPT und so weiter trainieren, brauchen sie eigene Kraftwerke. Und das menschliche Gehirn hat, glaube ich, den Energiebedarf von einer 20-Watt-Glühbirne. Das ist wesentlich effizienter.

33:47 Also es ist deutlich effizienter, deutlich kleiner. Vergleichen Sie mal, was in unseren Schädel passt an Volumen mit so einer Server-Farm. Also das sind so Unterschiede auf Hardware-Level, auf Energie-Level, auf Trainingsdaten-Level. Da würden jetzt Hardcore-Tech-Ingenieure aus dem Silicon Valley sagen, so what, dann…

34:10 Holen wir uns halt die Energie. Ich wage keine Prognose, ob das in zehn Jahren immer noch so ist. Sie haben ja den Ray Kurzweil jetzt erwähnt. Der hat ja vor 27 Jahren, also Ray Kurzweil nochmal zur Erklärung, das ist ja der Zukunftsforscher von Google lange Jahre gebeten, wobei der, ich glaube, der ist jetzt auch Anfang 80 oder so.

34:45 Der hat ja erst mit 60 angefangen bei Google und vorher war er Freelancer. hat auch vor 27 Jahren vorausgesagt, dass 2029 sowas wie AGI kommt, also General Artificial Intelligence, dass die KI sozusagen alles besser versteht und kann als der Mensch. Und jetzt haben sie ihn letztens nochmal gefragt in einem Podcast, haben sie wahrscheinlich auch gehört und haben gesagt, Ray, jetzt haben wir 2026, wie ist es denn?

35:15 Vor 27 Jahren hast du gesagt 2029, und er sagte, ja, immer noch 2029. Das ist schon faszinierend. Aber das ist völlig klar, weil das ist auch, was ich gesagt habe, von 2022, Release von ChatGBT, bis heute sind es drei Jahre. Und in den drei Jahren ist so viel passiert wie in den 100 Jahren davor in der KI-Forschung nicht.

35:38 Deswegen, wenn Sie das jetzt exponentiell extrapolieren in die nächsten drei Jahre bis 2029 … Auszuschließen ist es nicht. Könnte er recht haben. Na ja, schauen wir mal. Wollen wir jetzt noch mal kurz ein bisschen auch über Praxis sprechen, Herr Kinfe. Also ein Patient kommt zu ihm mit therapieresistenten Schmerzen.

35:58 Das ist ja, glaube ich, ein großes Themengebiet bei Ihnen in der Klinik oder auch bei Ihnen persönlich in der Sprechstunde. Können Sie den Zuschauern mal so ganz einfach erklären, wie da so der Weg ist? von ich komme zu ihnen die sprechstunde bis zu was was mache ich dann wirklich mit dir in der regel also ist es jetzt das ist vielleicht eine gute nachricht ist dass die majorität der patienten die zu uns kommen tatsächlich kandidaten sind für eine pharmakologische therapie also weniger für die stimulationsverfahren für die chirurgische schmerztherapie wie wir sagen schmerz Die, die dafür in Frage kommen, da haben wir natürlich verschiedene Angriffspunkte.

36:43 Wir können das Gehirn stimulieren, die Hirnoberfläche, das Rückenmark, Periphere. Und es hängt auch immer ein bisschen davon ab, wo der Schmerz lokalisiert ist oder die Genese der Schmerzerkrankung. Und wichtig ist, glaube ich, so wie wir jetzt im Team Klinik und Wissenschaftler zusammenarbeiten, dass Schmerz eben mehrere Dimensionen hat.

37:05 Es ist nicht nur eine sensorische Empfindung, sondern es alteriert den Affekt, die Kognition, es führt zur Düstung, Stimmung, also zur Depression. Das heißt, wenn Sie Schmerztherapie professionell gestalten wollen, brauchen sie ein multidisziplinäres Team, was wir auch haben. Das heißt, dass wir eng zusammenarbeiten mit Psychiatern, Psychologen, Schmerztherapeuten, aber auch Physiotherapeuten.

37:32 Es gibt verschiedene Ansätze, die ich auch nicht so arrogant sein sollte, aus dem Auge zu verlieren, denn nicht für jeden Patient kommt die Stimulation. Also hier tiefe Hirnstimulation, das ist das, wo ich jetzt einen Draht an eine bestimmte Stelle im Hirn anlege und dann über einen äußerlichen Schrittmacher sozusagen eine Stimulation in diesen Bereich gebe, um meinen Schmerz zum Beispiel positiv zu beeinflussen.

38:02 Genau, also im Gegensatz zu früher haben wir ein besseres Verständnis, wie das Gehirn Schmerz prozessiert. Gibt es genau die Stelle im Hirn? Gibt es diese eine Stelle im Hirn für Schmerz oder gibt es verschiedene Stellen? Es ist eher unser Verständnis von Diagnostik und Therapie. Bei Schmerz, Bewegungsstörungen oder Psychiatrischen ist eher ein netzwerkbasierter Ansatz.

38:25 Das heißt, ein Zusammenwirken von verschiedenen Punkten im Gehirn definiert Physiologie oder Pathologie, wenn man krank wird. Das ist für die Diagnostik sehr wichtig, aber bietet therapeutisch natürlich für uns die Möglichkeit, verschiedene Punkte im Gehirn anzuvisieren. Aber das Problem dabei ist, dass wir...

38:48 nicht genau verstanden haben, welcher Patient auf welchen Zielpunkt am besten anspricht. Das ist eine entscheidende Frage. Wenn Sie sich verletzen, dann können Sie mir sagen, mein Daumen tut mir weh. Aber Sie sind auch emotional etwas anders. Ein Dauerschmerz drückt die Stimmung, wenn Sie jetzt vier Wochen lang Schmerzen haben.

39:11 Das heißt, das ist auch ein Hebel. Wir stimulieren Patienten, indem wir sie distant zu dem Schmerz machen. Es gibt einen sehr schönen Artikel. Was heißt das? Es gibt einen sehr schönen Artikel von Thibaut Aziz aus Oxford. Da wird ein Patient stimuliert im Gehirn, in einem Bereich, der für die emotionale Anfärbung, für den leidvollen Charakter des Schmerzes verantwortlich ist.

39:34 Das heißt, Sie haben eine strukturelle Verletzung in der Peripherie. die im Gehirn dann emotional so angefärbt wird, dass wir Schmerz oder dass wir leiden. Und wenn Sie diese Hirnareale zum Beispiel stimulieren, gibt es ein sehr schönes Zitat aus einer Publikation, sagt der Patient, the pain is still there, but it doesn't bother me at all.

39:54 Das heißt, Sie schaffen eine gewisse Distanz, Eine emotional-kognitive Distanz. Der Schmerz ist da, aber ich habe damit eigentlich gar nicht mehr so viel zu tun. Stört mich nicht so sehr, genau. Und das zeigt fundamental, dass das Gehirn auf ganz verschiedenen Ebenen Schmerz prozessiert. Und das ist unser Problem, zum Beispiel, dass wir nicht wissen, welcher Patient zum Beispiel ein emotionaler Schmerzpatient ist, also den wir so distant machen können.

40:21 Und es gibt Patienten, die sind sensorisch. Also die müssen wir da stimulieren, wo der Schmerz ist, dann hilft das auch. Also es ist ziemlich komplex und es ist individuell. Und muss auf verschiedenen Ebenen sozusagen erstmal analysiert werden, um dann zu wissen, kann ich und wenn, was kann ich überhaupt anbieten.

40:41 Genau, und das klinische Studium, die wir zum Beispiel im Bereich der Schmerzneuromodulation machen, ist, dass wir Bildgebung machen, dass wir molekulare Marker bestimmen, Augenhintergrund. Was ist unser Ziel? Das, was ich vorhin gesagt habe, dass wir sehr, sehr viele Daten erfassen von den Patienten, die im Zusammenhang mit der Pathogenese stehen.

41:02 Aber dann eben, und deswegen sind die beiden Herren so wichtig, versuchen aus diesem Datenwust prädizieren zu können, welcher Patient wie ansprechen könnte. Und das ist eben ein Zusammenspiel. Also das Organ ist komplex, was wir behandeln, die Erkrankung ist sehr komplex. Und selbst wenn wir diese Daten haben, müssen wir sie noch lernen, richtig zu verstehen und umzusetzen.

41:26 Aber die Psyche spielt ja auch eine Rolle. Es nimmt immer mehr Raum ein. Wir sind ja in Mannheim, da ist ja das ZI, Zentralinstitut für seelische Gesundheit. Das ist eine Einrichtung der Helmholtz-Stiftung. Und da arbeiten wir auch, machen Schmerzforschung mit Frau Hertha Flohr. Das heißt, die auch diese affektiv-kognitiven Dimensionen der Schmerzempfindung, Verarbeitung.

41:50 so dass das weit über die Neuroschirurgie hinausgeht oder über die Anästhesie. Und wenn man Schmerzmedizin modern denkt, dann brauchen sie tatsächlich verschiedene Disziplinen innerhalb und außerhalb der Medizin. Was gibt es noch für tiefe Hirnstimulationen? Bei Parkinson geht es in vielen Fällen schon ziemlich gut?

42:09 Die erste Hirnstimulation wurde ja für einen essentiellen Tremor gemacht, das war 1987. Interessanterweise bei einem Patient, der auf der anderen Seite lesioniert worden war. Das ist ein Patient, der eigentlich unik ist in der Art, dass er... eine Hemisphäre eine Läsion bekommen hat. Dann hatten wir die Hirnstimulatoren gehabt.

42:29 Also Läsieren über eine Strahlentherapie. Wir haben eine Radiofrequenzläsung. Es gibt verschiedene. Es gibt auch natürlich radioschirurgische Ablationsverfahren. Wenn ich jetzt aus meiner Ausbildung gucke, da gibt es in Amerika natürlich auch, wenn wir Richtung Kapsulotomie denken, psychiatrische Indikationen, weil das da auch immer schwierig ist, mit Implantaten zu arbeiten.

42:54 Denken wir an zwangserkrankte Patienten. Diesen Patienten, ein Implantat kann zu eatrogenen Zwängen führen, dass die das Device kontrollieren wollen. Deswegen ist das so ein bisschen die Schwierigkeit und in unserer Diskussion eingangs hatte ich Ihnen halt eben auch gesagt, obwohl ich Implanteur bin, glaube ich tatsächlich, das lesionelle Verfahren Stand heute, mindestens ebenbürtig, wenn vielleicht langfristig sich auch bei manchen Indikationen überlegend zeigen, den chirurgisch implantierten Therapien.

43:29 Also zum Beispiel mit Cyberknife oder ZEP-X oder mit welcher Technologie auch immer, eine kleine Läsion mit einer sehr stark gebündelten, aber sehr hohen Dosis im Hirn verursachen, die dann positive Effekte hat. Ja, man muss sich das so vorstellen, dass das im Endeffekt ein Netzwerk ist von distanten Knotenpunkten, die sind über Fasermittel verbunden und es kommt eben zu einer Disbalance.

43:55 Und man eben durch die Läsion die Voraussetzung schafft, die Läsion selber macht nicht die Rebalancierung, aber sie schafft die Voraussetzung, wenn man einen krankhaften Knoten ausschaltet, dass das System sich selber rebalancieren kann, also im Sinne der Neuroplastizität. Und das ist allemal mehr personalisierte Medizin, als wenn wir mit Implantaten arbeiten.

44:17 Weil wir da die, habe ich vorhin auch gesagt, wir stimulieren 24 Stunden, 24-7. Das Gehirn unterliegt einer Rhythmizität, im Gesunden wie im Kranken. Und im Kranken tragen wir dem oft keine Rechnung. Das sind empirische Daten, dass wir wissen, so und so stimulieren wir, aber das Gehirn arbeitet im Endeffekt eher in so einem On-Off, in so einem zyklischen Modus.

44:40 Wir sind 8 Uhr morgens jemand anders als 20 Uhr abends und das trifft aber auch bei Krankheiten zu. Und deswegen tragen wir zu wenig Rechnung, glaube ich. Und dann wird halt natürlich auch diskutiert, wir haben über Brain-Computer-Interfaces im Kontext der Funktionswiederherstellung. Aber diese werden auch, gibt es einen Platz für BCIs, für Parkinson oder Schmerztherapie?

45:06 Wird natürlich auch diskutiert. Bei Alzheimer gibt es da irgendwas in der Richtung? Ja, bei Alzheimer gab es eine interessante Ultraschallstudie aus Toronto. Vielleicht kurz zusammengefasst, Alzheimer ist ja gekennzeichnet durch die Ablagerung von Proteinen im Gehirn, die da nicht hingehören, was sozusagen zu einer Substanzschädigung führt und dann eben diese Symptome auslöst.

45:31 Und was man sich eben gedacht hat, dass man mittels Ultraschall, Das Gehirn ist sehr privilegiert, es ist ein privilegiertes Organ. Das heißt, das wissen Sie auch aus der Neuro-Onkologie, man kriegt schwer Substanzen rein und teilweise raus. Also wenn wir sozusagen eine Öffnung schaffen könnten zum Gehirn, mit Ultraschall zum Beispiel.

45:52 radiochirurgische oder sollte es geben, gibt es bestimmt, dann könnte man gezielt Medikamente in das Gehirn einbringen, die zum Beispiel Alzheimer-Behandlung erleichtern. Die den Plax auflösen. Plaks auflösen und das hat man zum Beispiel in Toronto versucht, indem man diese Blut-Hirn-Schranke, also das Hirn kurz geöffnet hat und das war leider, ich denke, der Bug an der Studie, natürliche Killerzellen, also Immunzellen, in das Gewebe invadieren können und diesen Plak aufessen können.

46:28 Und das kann man mit Medikamenten machen, das ist sicherlich, da verlassen wir die klassischen Indikationen, auch sicherlich interessant für Tumoren, Also wie bringen wir Substanzen in das Hirngewebe ohne Schädigung? Und da ist sicherlich Ultraschall etwas, was Zukunftspotenzial hat. Also sehr, sehr interessantes, natürlich auch schwieriges und komplexes Thema.

46:52 Da muss man zu so Spezialisten wie Ihnen gehen und dafür braucht man auch Zeit, um das alles zu verstehen. Was die Leute, glaube ich, umgeht ist, wenn sie jetzt mit so einer Elektrode kommen oder wenn sie eine Läsion machen im Hirn, fragt sich ja der Betroffene, vielleicht bin ich dann auch derselbe.

47:09 Also inwiefern verändert sowas denn vielleicht meine Persönlichkeit? Das ist erstmal eine berechtigte Persönlichkeit, Persönlichkeit nicht eine berechtigte Frage. Aber auch da ist es ein bisschen das Problem der Kommunikation. Ich denke, der beste Patient, egal ob wir Erfolg haben oder nicht, ist der am besten aufgeklärteste Patient, der am besten informierte Patient.

47:32 Das ist erstmal mit dem Patienten sachlich, das Für und Wider, invasiv, nicht invasiv zu besprechen. Wenn wir Depressionen, Zwang, Tourette, dann entstehen solche Unschärfen, sage ich mal, in der Bevölkerung. Wichtig ist eigentlich, dass für und wieder gegen eine Therapie oder gegen die andere, sollte man immer im Konsens mit dem Patienten treffen.

48:07 Und da ist tatsächlich die Kommunikation und die Information wichtig. Und ja, es gibt sie, die Komplikationen, wo es zu psychischen Veränderungen kam. Da gibt es auch Publikationen, das ist jetzt kein Geheimnis. Bei Parkinson-Patienten, wenn die Elektrode nicht gut liegt, kann man emotionale Instabilität bewirken.

48:29 Es gab diesen einen tragischen Fall. in den Vereinigten Staaten von Amerika, wo eben die Elektrode fehlplatziert war und sie den Patienten auf dem Boden einer Depression getriggert hat, auch Suizid zu begehen. Also das ist ein Fall in all den Jahren, aber es zeigt an, dass es irgendwie, und korrigiere mich, Patrick und Achim, im Gehirn im Endeffekt die Funktion nicht schwarz oder weiß ist, sondern immer Ausdruck ist eines Zusammenwirkens, eines Netzwerkes.

49:01 Das heißt, obgleich sie Gutes im Sinn haben, können sie vielleicht nicht Gutes bewirken. Aber es ist der Leidensdruck des Patienten, der glaube ich auch bestimmt. Wenn der Leidensdruck hoch ist, dann wird man das eine oder andere vielleicht auch in Kauf nehmen. Jetzt hat Herr Schilling kurz gesprochen über diese Brain-Computer-Interfaces, sogenannte BCIs.

49:29 Wie kommt denn mein Hirnsignal dann tatsächlich an den Computer ran, dass ich, wie wir es ja jetzt bei vielen Videos so gesehen haben, dass ich mit meinen Gedanken den Cursor am Computer steuern kann? Wie funktioniert denn das? Also am Ende ist es wirklich, also auf den ersten Blick relativ einfach. Elektrode rein, Kabel, bisschen Vorverstärker-Elektronik und einen Digital-Analog-Digitalwandler.

49:56 Und schon hat man das Signal im Computer. Wenn man aber ehrlich ist, es steckt da natürlich extrem viel dahinter. Also man muss sich überlegen, wie ist die Elektrode beschaffen? Ist sie chemisch stabil, dass sie sich im Gehirn nicht auflöst? Ist sie physikalisch stabil, dass sie nicht abbricht? Gerne auch schon passiert, dass Fäden abgerissen sind.

50:15 Solche Dinge muss man sich, sie muss einen geringen elektrischen Widerstand haben, damit man eben das Signal auch gut auslesen kann. Es muss aber sehr klein sein, weil das man auch einzelne Neuronen auslesen kann. All diese Sachen sind Elektrotechnik, Ingenieurskunst, die man erstmal vollführen muss.

50:32 Und der nächste Schritt ist, warum das jetzt auch immer besser wird, man hat sogenannte Complementary Metal Oxide Semiconductor Elektronik, was letztendlich bedeutet, man hat sehr kleine Bauteile und kann in die Elektroden schon kleine Verstärker reinbauen, damit man sauberes Signal bekommt und jetzt nicht irgendwelche Artefakte von der Glühbirne, die hinten im Raum ist, misst, sondern wirklich nur Hirnsignal.

50:56 Und dieses Signal wird dann letztendlich weitergeleitet, verstärkt in einen AD-Wandler getan. Also das analoge Signal wird zu Zahlen umgewandelt, die man dann in den Computer tut. Der nächste Schritt ist natürlich, man muss das Ganze dann filtern. Dafür gibt es verschiedenste Algorithmen. Das ist jetzt nicht so spannend, aber jetzt kommen wir in den Bereich der Computerwissenschaften, Mathematik.

51:18 um die Signale erstmal zu filtern, also schlechtes Signal vom guten Signal zu trennen. Ich möchte nämlich das Hirnsignal messen und nicht, wenn jemand blinzelt oder die Netzspannung einen Spannungpeak hat. Das interessiert dann nicht und dann kommt der wirklich interessante Teil, wofür glaube ich ich auch letztendlich dann zuständig bin.

51:39 ist dann aus diesem Signal irgendwas Interpretierbares zu machen. Also das Ganze in ein neuronales Netz zu füttern letztendlich und dann aus einem Hirnsignal einen Ansteuerbefehl für eine Prothese machen. Das ist es letztendlich. Das sind, ich habe es mal nachgezählt, das sind ungefähr sieben Schritte, was viel mit Elektrotechnik zu tun hat, mit Elektronik.

52:02 Mit Materialwissenschaft, mit Computerwissenschaft, mit KI letztendlich. Gut, und dann natürlich wieder Ingenieurswissenschaft, wenn man dann die Prothese letztendlich ansteuert. Das sind die Schritte, die man durchgehen muss, um das Signal vom Gehirn... Jetzt sagt ja der... Entschuldigung. Ich wollte nur ergänzen, aber Brain Computer Interface ist auch ein sehr schönes Beispiel dafür, wie wichtig oder wertvoll, was für ein wertvoller Player KI sein kann.

52:30 Auch da sind das gigantische Mengen von Daten, die sie aus dem Gehirn extrahieren können. die sie in einen sinnvollen Kontext bringen müssen. Das kann eine Bewegung sein, ein Wort sein. Und auch dieses Feld, die Brain-Computer-Interface, wir haben jetzt sozusagen von implantierbaren Arrays, wie sie Herr Musk propagiert.

52:49 Aber es gibt, und wir haben auch über Amerika gesprochen, und da ist es so, dass es zum Beispiel BCI-Symposien gibt von Morgan Stanley. Also das Investmentbank, wie heißt es, Goldman Sachs, also nicht das erste Summit, sondern das sechste, siebte Summit. Das heißt, immer im Sommer sich Investoren, Forscher zu diesem Thema zusammensetzen und dann eben austauschen.

53:18 Das zeigt an, dass der wirtschaftliche Druck, es gibt von Goldman Sachs ein Positionspapier, dass der amerikanische Markt auf knapp eine halbe Billion Dollar geschätzt wird, also 500 Milliarden Dollar. Das ist jetzt berechtigt zu sagen, gibt es denn so viele Kranke, die das, gibt es nicht. Sondern es sind Felder aus unserem Alltag, wie Gaming, Sports, aber auch, sagen wir mal, Law Enforcement.

53:47 Military Use, Wellbeing, Entertainment. Es gibt Kongresse mit dem Überschrift Gaming Neurotechnologies. Das heißt, wollen wir die Playstation Joystick benutzen oder ein schickes... Also ich lasse mir ein Implantat machen, damit ich der bessere Gamer bin. Nicht invasiv, nicht invasiv. Also ohne Operation.

54:09 Es gab ja im September, hat Max Zuckerberg seine Brille vorgestellt, was man telefonieren kann und so weiter. Es kann auch ein schickes Armband sein. Sie wollen ja einen Jugendlichen motivieren, ein Armband zu kaufen, mit dem er spielen kann. Am besten in der VR-Umgebung. Und das sind so zehn Felder gewesen, die Goldman Sachs in dieser Analyse identifiziert hat.

54:32 Medizin war eins davon. Das heißt, 90 Prozent der Felder, und Sie haben vollkommen recht mit Ihrem Einwand, beschäftigen sich mit nicht-medizinischen Themen. Und da hat ja der Elon Musk doch recht, wenn er sagt, dass 2027 eigentlich jeder einen Neuralink gebrauchen kann in seinem Hirn. Ich glaube, diese enormen Gewinne, das hätte er vielleicht gern, aber diese enormen Gewinne, die die Investoren vermuten, werden auch schon vielleicht dazu beitragen, die technische Entwicklung zu pushen.

55:03 Also muss man... Jeden implantieren, gibt es nicht implantiert. Wie beim Ultraschall gibt es nicht implantierbare Alternativen. Ich habe gestern gelesen, es gibt ein neues Start-up aus China. Gestern, das ist glaube ich erst vorgestellt worden, ganz kürzlich, wo so ein Brain-Computer-Interface nicht mehr implantiert werden muss, sondern quasi nur auf die Hirnhaut gelegt wird.

55:26 Wie so eine Knopfbatterie. Und angeblich ähnliche Möglichkeiten der Informationsübertragung. Ja, also ich bin jetzt zu wenig Techniker und zu sehr Mediziner. Aber natürlich viel besser und viel einfacher. Genau, aus dem Gesagten, wenn wir uns die Entwicklung der letzten Jahre angucken. Und nochmal, es sind ja oft auch nicht Mediziner Treiber einer Entwicklung, sondern sie kommen aus anderen Bereichen, muss man zugeben.

55:52 3D-CT aus den militärischen Anwendungen. Also erst wurde es militärisch angewendet, bevor wir Ärzte 3D-CT gesehen haben, nicht wahr? Spielt jetzt auch vielleicht keine Rolle. Cyberknife ist das beste Beispiel, kommt auch aus Militär- und Automobilproduktion, ist sekundär zum Medizinprodukt. Genau, und das ist natürlich auch interessant.

56:15 Ich bin Pazifist, aber die Kriegsführung verändert sich zunehmend. Das heißt also, es wird in Zukunft schon interessant sein, diesen alten Mythos der Synthese von Mensch und Maschine zu… in verschiedenen Bereichen umzusetzen. Aber da sind wir ja wieder bei Ray Kurzweil. Ich meine, der Ray Kurzweil sagt ja ganz klar, also Anfang der 30er Jahre brauchen wir im Hirn einen Chip, um mit der Entwicklung der KI überhaupt als Mensch noch standhalten zu können.

56:44 Der Neuron hat alle 200 Millisekunden, glaube ich, kann einen Impuls setzen oder aufnehmen. die KI, die neuesten Chips von NVIDIA sind bei einer milliardelsten Sekunde. tausendfach schneller als die menschliche Hirnzelle. Hat er vielleicht da recht mit oder klingt das nach zu viel Abenteuer? Ja, also ich würde da als allererste Frage stellen, möchten wir uns denn wirklich alle in einen Chip implantieren lassen?

57:13 Also ich hätte da jetzt keine Lust. Vielleicht haben wir gar keine andere Chance, wollen wir sonst nicht mehr mitkommen in der Entwicklung. Ja, und die nächste Frage wäre dann, was soll der Chip machen? Wie koppelt der an das Gehirngewebe und was... nützt es, wenn der Chip viel schneller rechnet, aber das Gehirn trotzdem im Ein-Millisekunden-Takt Aktionspotenziale feuert?

57:36 Also da hätte ich sehr viele Fragezeichen. Auch wenn ich Ray Kurzweil sehr schätze und ich für vieles von dem, was er sagt, für plausibel halte, ob wir jetzt dann wirklich Anfang der 30er-Jahre, ich meine, wir müssen uns klar machen, das wäre von jetzt an in zehn Jahren, ob wir dann wirklich alle mit einem Chip im Kopf rumlaufen, da hätte ich Meine großen Fragezeichen.

57:58 Ja gut, aber Sie haben ja gerade gesagt, vor drei Jahren haben wir noch nicht ansatzweise absinken können, was die KI kann. Vielleicht ist es in zehn Jahren so. Also den technischen Fortschritt zu extrapolieren, wenn er exponentiell verläuft, das ist extrem schwierig bis unmöglich. Vor allem kann es wieder irgendwelche disruptiven Ereignisse oder Erfindungen geben, die dann die Prognose völlig unmöglich machen.

58:23 Aber gesellschaftliche Entwicklungen kann man schon einigermaßen in die Zukunft extrapolieren. Und ich glaube, so ist einfach, also jetzt mal flapsig gesprochen, so ist der Mensch einfach nicht. Und so ist unsere Gesellschaft auch viel zu stabil und zu träge. Und damit meine ich jetzt nicht speziell Deutschland, sondern overall.

58:44 Ich glaube nicht, dass sie die menschliche Gesellschaft, die menschliche Zivilisation, innerhalb von einem Jahrzehnt so auf den Kopf stellen können, dass sich dann jeder dazu bereit erklärt, einen Chip sich implantieren zu lassen. Also das sehe ich nicht. Ich sehe vielmehr, dass Sie so iRobot-Szenarien, dass in zehn Jahren völlig selbstverständlich humanoide Roboter auf der Straße rumlaufen und körperliche Arbeiten erledigen und in den Fabriken arbeiten, Arbeiten erledigen.

59:12 Das sehe ich am ehesten und das beginnt ja jetzt schon. Ich meine, BMW hat entsprechende humanoide Roboter jetzt schon in den ersten Fabriken in China, läuft es im großen Stil an. Also das ja, aber so Hard-Sci-Fi-Szenarien mit Cyborg-Technologie und Neuroprothesen und Brain-Computer-Interfaces, die wir uns dann alle zum Spaß implantieren lassen, das sehe ich nicht.

59:38 Aber die Technologie… Die Tech-Bros sehen es wahrscheinlich trotzdem. Ja, die hätten das gerne. Ich habe es letztens schon mal in einem Podcast erwähnt, da gibt es doch diese berühmte Aussage schon fast von einem KI-Star von Meta, der ab Anfang 20 ist, der gesagt hat, er will noch keine Kinder. weil bis seine Kinder dann, wenn er jetzt Kinder bekommen würde, wenn die groß sind, dann hätten die so Nachteile, weil die Kinder in ein paar Jahren werden alle schon am Anfang so einen Chip implantiert bekommen, um dann sozusagen in der Welt zurecht zu kommen und er will auf jeden Fall diese Entwicklung nochmal abwarten, weil er will nicht, dass seine Kinder hinten dran sind ohne Chip.

1:00:16 Also klingt erstmal völlig absurd. Aber das sagen Leute, die 25 sind und in diesem Bereich seit Jahren beruflich tätig sind. Ist für mich weltfremd, weil wie gesagt, so ist der Mensch nicht und so ist die menschliche Gesellschaft nicht. Weil genauso, Sie könnten ja Stand jetzt schon, wir könnten wahrscheinlich schon seit zehn Jahren embryonale Diagnostik machen und könnten...

1:00:43 nach bestimmten Kriterien das Genom der befruchteten Eizelle auswerten und dann selektiv sagen, was möchte ich für Eigenschaften und welche möchte ich nicht. Das ist ja Stand jetzt schon denkbar und möglich. Es wird trotzdem nicht gemacht. Erstens, weil es natürlich verboten ist aus gutem Grund. Zweitens, weil es massiv moralische und ethische Gründe gibt, die da dagegen sprechen.

1:01:09 Und drittens, ich wiederhole mich, so ist der Mensch einfach nicht. Sie haben gerade die Roboter erwähnt, was ja auch Ile Mask und Aurel Kurzweil sagen, dass wir in vielleicht 20, 25 Jahren unsere ganze Software dann auf die Hardware uploaden können. Also ich habe dann meinen Roboter und der Roboter wird dann mit meinen menschlichen Daten gespeist und lebt dann als ich quasi im Roboter weiter.

1:01:35 Ist das völlig irre? Der alte Wunsch nach Unsterblichkeit. Das ist dann ein unsterbliches... Konstrukt, aber meinen menschlichen Eigenschaften, meinen Fähigkeiten, meinen Limitationen entspricht. Finden Sie das völlig absurd? Nee, das finde ich keineswegs völlig absurd. Ich meine, das ist ja das klassische Upload-Szenario.

1:01:59 Sie lesen sozusagen ein bestimmtes Gehirn. so genau aus mit allen Details, dass sie es im Prinzip einen digitalen Zwilling anlegen können und den dann irgendwo auf einer Hardware laufen lassen können. Und da steckt die Annahme dahinter des Funktionalismus, dass sozusagen solange es die gleiche Funktion und die gleichen Algorithmen implementiert, dass es quasi nicht mehr unterscheidbar ist und dass es auf die, da sind wir wieder bei den Leveln von David Maher, auf die Implementierung gar nicht ankommt, dass es also egal ist, ob das Nervenzellen sind oder Siliziumchips.

1:02:36 Also das ist schon sozusagen, ergibt sich schon aus der Wissenschaft und ist auch nicht absurd in dem Sinne, dass es sozusagen völlig ausgeschlossen ist. Also ich schließe das nicht aus, aber ich sehe das jetzt auch nicht nächste Woche vor der Tür stehen. Also ich glaube, dass vorher ganz andere Szenarien auf uns zukommen, die wir vielleicht jetzt, die viel näher liegen.

1:03:03 sind. Aber da kommen wir jetzt halt eigentlich im Bereich des Bewusstseins, der Bewusstseinsforschung, weil man muss ganz ehrlich sagen, also ich würde sagen 50-50, ob das letztendlich möglich ist. Also einen Roboter zu erzeugen, der meine Schwächen, meine Stärken, der spricht, wie es dir geht, wie ich.

1:03:18 Dazu brauche ich das Gehirn nicht uploaden. Das kann ich jetzt machen. Ich sammle alle meine Daten. Alles, was ich jemals gesagt habe, mache mir ein sogenannten AI-Agent über ChatGPT. Dann schaffe ich es noch, die Motorik ein bisschen hinzubekommen. Ich meine, da soweit sind wir noch nicht für einen humanoiden Roboter.

1:03:34 Dann habe ich einen digitalen Zwilling, der draußen rumläuft. Aber die Frage ist, fühlt sich dieser digitale Zwilling auch wie ich? Ist er bewusst? Ganz ehrlich, da wird sich im Moment extrem darüber geschritten, kann man Bewusstsein künstlich erzeugen? Wenn ja, wie? Muss es in einem physikalischen System sein?

1:03:54 Kann es nur simuliert sein? Und dementsprechend muss man ganz ehrlich sagen, das ist wirklich nicht vorhersehbar, weil es einfach eine binäre Entscheidung ist, kann ich Bewusstsein künstlich erzeugen, was brauche ich dafür? Oder geht das prinzipiell nicht so einfach, weil einfach Mechanismen dahinter stecken, die wir noch gar nicht verstehen?

1:04:14 Ich meine, da gibt es ja auch teilweise, ich finde es ein bisschen ein lustiges Argument, zu sagen, naja, ich kann ja, Bewusstsein ist wie Gravitation. Nur weil ich Gravitation simuliere, zieht mein Computer ja trotzdem nichts in sich rein wie ein schwarzes Loch. Das ist natürlich erstmal ein witziges Argument, weil Bewusstsein sicher nichts so einfach objektiv messbares ist wie Gravitation.

1:04:37 Ist ja allein schon die Definition ein bisschen schwierig vielleicht. Was ist denn Bewusstsein ganz genau? Das ist ja auch nicht was, was ich so messerscharf definieren kann. Da geht es ja schon los. Oder wenn man die Medaille umdreht, ist, wenn man das machen kann, ein Abbild unserer Digital zu schaffen, haben wir einen freien Willen?

1:04:57 Also ich würde die Frage ein bisschen anders drehen tatsächlich. Sagen wir mal, das wäre jetzt technisch alles möglich. Und da sind noch viele Baustellen vorher abzuarbeiten. Aber sagen wir mal, wir würden jetzt einen digitalen Zwilling unseres Bewusstseins haben. was auch immer das ist, herstellen. Am Ende des Tages wäre es eben ein digitaler Zwilling unseres Bewusstseins.

1:05:21 Das heißt, es wären nicht wir. Das ist genauso im Endeffekt, wie wenn Sie jetzt sich selber klonen, dann haben Sie zwar jemanden, der Ihren Körper hat und vielleicht auch irgendwann Ihre Erfahrungen und Ihr Gehirn, aber es sind trotzdem nicht Sie. Das heißt, zum Thema Unsterblichkeit, ich sage, das bringt Ihnen gar nichts.

1:05:40 Weil sie haben letztlich sozusagen, der Zwilling wird unsterblich, aber sie selber sind es ja dann trotzdem nicht. Aber die Idee ist ja natürlich, dass der Zwilling mir zumindest mal sehr, sehr nahe kommt. Ja schon, aber ich meine, man kann das natürlich sozusagen aus Gründen der Eitelkeit und der Hybris wollen, dass dann sozusagen, wenn man sich für so unverzichtbar und für so wertvoll für die Menschheit hält, dass man dann...

1:06:08 Ja, dass man sozusagen, mein Bewusstsein ist jetzt so toll, das muss ich auf jeden Fall kopieren und für alle Ewigkeit die Menschheit sozusagen damit behelligen. Nur ich selber bin deswegen trotzdem nicht unsterblich, da bleibe ich dabei. Aber das ist ja auch so. Ja, genau. Das ist nicht dieselbe Person.

1:06:46 Das ist eine Person, die so aussieht, die sich so verhält, die die gleichen Erinnerungen hat. Aber es ist eben nicht dieselbe Person. Da möchte ich dann aber einhaken, weil unsere Zellen erneuern uns nicht jeden Tag. Sind wir dann immer nicht dieselbe Person? Das ist ja das Schiff des T-Soyz-Argument, würde ich sagen.

1:07:02 Das ist richtig. Aber alle Körperzellen erneuern sich. Alle sieben Jahre hast du einen neuen Körper. Dein Gehirn bleibt immer das Gleiche von Geburt an. Da kommen im Wesentlichen keine Nervenzellen dazu. Da sterben nur welche ab. Obwohl wir heute Antworten geben müssen, stelle ich eine provokative Frage.

1:07:20 Haben wir für dich einen freien Willen? Ich glaube, die meisten Vorstellungen darüber beruhen einfach auf einem Kategorienfehler. Also das habe ich ja auch in meinem Buch durchdekliniert, dass ja oft freier Wille mit Determinismus verwechselt wird. Also in der Wissenschaft gibt es den Determinismus, das heißt, wenn ich, also Kausalität letztlich, das heißt, wenn ich sozusagen einen Ball fallen lasse, dann fliegt er immer nach unten.

1:07:57 Das ist schon richtig. Aber erstens gibt es gar keinen harten Determinismus in der Realität. Also die Physik lehrt uns, dass die meisten Naturgesetze, vor allem wenn wir auf Quantenebene gehen, probabilistisch sind. Und das nächste ist dann, dass Determinismus immer mit Vorhersagbarkeit gleichgesetzt wird.

1:08:17 Auch das stimmt nicht, weil zum Beispiel denken Sie an nicht-lineare chaotische Systeme. Die laufen komplett deterministisch ab, völlig ohne Zufall und sie können es trotzdem nicht vorhersagen. Also das Wetter läuft völlig deterministisch ab. Da ist keine Magie im Spiel und da ist eigentlich auch kein Zufall im Spiel und trotzdem können sie aus dem Wetter, wie es heute ist, nicht vorhersagen, wie es das Wetter in Deutschland ist.

1:08:43 Zehn Monaten. Und das liegt eben genau daran, dass sie die Anfangsbedingungen unendlich genau kennen müssten, um dann sozusagen das zu extrapolieren. Und ich denke, das sind einfach Kategorienfehler. Das Gegenteil von freiem Willen ist nicht Determinismus und ist auch nicht Vorhersagbarkeit, sondern das ist Zwang.

1:09:02 Also der Mensch und die Maschine wird sicher und ist ja auch schon zum Teil zusammengewachsen und es wird sicherlich noch mehr passieren. Also im medizinischen Bereich gibt es da viele gute. Ansätze und wichtige Ansätze für betroffene Patienten. Es wird sicherlich auch Leute geben, die jetzt normal gesund sind, aber sich grob optimieren wollen.

1:09:25 Und wie das dann ethisch, technisch, biologisch, physikalisch wirklich geht, gewünscht wird, das können wir natürlich hier unmöglich abschließend beurteilen. Aber ich finde zumindest mal so eine Diskussion darüber sehr interessant und ich habe das Gefühl, auch darüber machen sich vielleicht zu wenig Gedanken.

1:09:44 Leute, so ein bisschen Gedanken, weil da wird eine riesige Welle auf uns zurollen. Sie haben es völlig richtig gesagt, allein schon, weil in der Finanzindustrie da so große Möglichkeiten gesehen werden, Geld mit zu verdienen, dass das einfach auf den Markt kommen wird. Und das wird für viele... einzelner, aber vielleicht sogar auch für Staaten mal interessant sein, da dann voranzuschreiten.

1:10:13 Also das wird sehr, sehr spannend, was da die nächsten Jahre auf uns zukommt. Vielleicht noch mal ein bisschen schwer, da noch mal zwei Schritte zurückzukommen, weil wir da jetzt gedanklich schon so weit sind. Einen Aspekt wollte ich auf jeden Fall noch diskutieren. Es wird ja auch immer jetzt mehr behauptet, dass uns die KI auf der einen Seite weiterbringt, aber auf der anderen Seite auch dumm macht.

1:10:34 Also KI-Demenz, sagt man ja schon. Jetzt gibt es ja dann da im Internet und bei Instagram und so gibt es angeblich funktionelle Kernspintomographie, wo ich dann sehe, der eine, der ganz viel mit JGPT und Claude arbeitet, hat weniger Hirnaktivität, als der, der es nicht macht. Gibt es wissenschaftliche Belege dafür, dass schon, vielleicht ist es noch zu früh, dass die KI uns auch ein bisschen blöd macht oder ist das noch nicht so, Herr Kraus?

1:11:08 Also dazu ist es noch zu neu, also da gibt es jetzt noch keine Langzeitstudien offensichtlicherweise. Man kann so ein bisschen Parallelen ziehen von früheren technischen Innovationen. Also man weiß zum Beispiel, es gibt diese berühmte Studie mit den Londoner Taxifahrern, dass bei denen ist der Hippocampus, der für räumliche Orientierung zuständig ist.

1:11:30 überdurchschnittlich groß und es gibt Untersuchungen darüber, dass wenn man sozusagen sich nicht auf seinen Orientierungssinn verlässt, sondern immer nur mit dem Navi oder mit Google Maps unterwegs ist, dass das ein Stück weit verloren geht oder sich gar nicht so stark entwickelt. Den Effekt kennen Sie vielleicht, wenn Sie früher am Urlaubsort waren, so spätestens nach zwei Tagen wussten Sie, wie Sie vom Hotel zum Restaurant, vom Restaurant zum Strand und wieder zurück zum Hotel Und heute laufen sie die ganze Zeit mit Google Maps rum und selbst nach drei Wochen am Urlaubsort finden sie den Weg immer noch nicht eigenständig.

1:12:06 Also diese Effekte gibt es schon. Ob uns das jetzt dümmer macht? Ich meine, hat uns die Einführung des Taschenrechners wirklich dümmer gemacht? Ich meine, dann ist vielleicht das Kopfrechnen ein bisschen verloren gegangen oder das mit Papier und Bleistift schriftlich dividieren. Die Frage ist nur... Macht uns das wirklich dümmer?

1:12:26 Also wissenschaftlich gibt es da noch keine Belege zu dem Thema. Ich glaube, es hängt auch viel davon ab, wie Sie KI nutzen. Wenn Sie stumpf einfach nur sagen, schreiben wir einen Aufsatz über den 30-jährigen Krieg und dann nehmen Sie den so, wie er ist und geben ihn ab. Das ist das Dümmste, was Sie machen können als Schüler auch, die das tun.

1:12:47 Ja, aber wenn man zum Beispiel selber erst mal versucht, einen Aufsatz zu schreiben und benutzt dann die KI als Bewerter, als Lehrer und sagt, ja, gib mir mal Tipps oder was fehlt denn noch oder was könnte ich denn besser machen, dann wird schon eher ein Schuh draus. generieren lassen, nehmen Sie nie die erste Version.

1:13:04 Schauen Sie, lesen Sie sich's durch, bringen Sie Ihre eigenen Ideen rein, seien Sie kritisch, iterieren Sie, sagen Sie, das gefällt mir aber nicht, mach mal den Absatz anders. Also wenn Sie natürlich einfach nur das als Texterzeuger und als Fragenbeantworter benutzen, dann kann ich mir schon vorstellen, Und dass das gerade für sich noch in der Entwicklung befindlich Kinder und Jugendliche ein Problem ist.

1:13:35 Ja, ich meine, das ist auch wieder so ein Unterschied. Bei uns jetzt in unserem Alter, wir haben viele von diesen Fähigkeiten einfach schon erworben. Wir können komplexe Texte lesen, verstehen, wir können Texte schreiben. Und dann ist es vielleicht nicht ganz so dramatisch, wenn wir uns dann jetzt halt immer mehr auf die KI stützen, als wenn wir diese Fähigkeiten noch gar nicht entwickelt hätten.

1:13:56 Also ich glaube, man kann nicht generell sagen, KI macht uns dümmer. Ich denke, es kommt stark darauf an, wofür nutzen Sie es, wie nutzen Sie es und in welchem Alter nutzen Sie es. Was machen Sie drei selber für Ihre Gehirngesundheit? Was machen Sie? Sie versuchen sich aktiv mit den Sachen auseinanderzusetzen.

1:14:15 Machen Sie irgendwas bewusst, wo Sie sagen, okay, ich muss jetzt aufpassen, dass ich hier intellektuell, kognitiv auf einem hohen Level bleibe? Gibt es da irgendwelche bewussten Aktionen? Ja, also tatsächlich schaffen Sie sich analoge Inseln. Also dass Sie bewusst sagen, die nächsten zwei Stunden, ich schalte jetzt mal aus, check die Biddi weg, wie es so schön heißt, Digital Detox und lesen Sie ein echtes Buch oder gehen Sie in den Wald.

1:14:44 Also das, glaube ich, hilft schon ziemlich viel. Was machen Sie, Herr Schilling? Tatsächlich, witzigerweise, was ähnlich ist. Ich habe mir wirklich vorgenommen, ich möchte, wenn ich durch die Stadt gehe, immer auf verschiedenen Wegen zu meinem Ziel kommen. Also ich versuche, neue Straßen zu entdecken.

1:14:57 Ich versuche, meinen Orientierungssinn dadurch zu trainieren. Weil ja Laufen, ich versuche auch möglichst viel zu gehen. Und jetzt nicht mich dann in die Straßenbahn zu setzen, einfach weil das letztendlich das Gehirn trainiert, der Hippocampus wird trainiert, der ja so ziemlich zentral ist für unsere ganze Informationsverarbeitung, die sich immer mehr herausstellt.

1:15:15 Und das mache ich tatsächlich bewusst, neue Straßen suchen, neue Straßen finden, zu Fuß laufen, anstatt mit dem Auto oder mit der Straßenbahn zu fahren. Und das mache ich wirklich bewusst, sonst leider zu wenig, muss ich ganz ehrlich sagen. Herr Kind, für einen Säurechirurg, wie kümmern Sie sich um Ihr eigenes Hirn?

1:15:33 Goethe hat es ja gesagt, der Mensch ist ein gehendes Wesen. Bewegung ist wichtig. Und wenn wir zurückgehen zu unseren evolutionären, neurobiologischen Entwicklungen, die soziale Interaktion, also das Miteinander, das Diskutieren, was wir heute tun. Das ist glaube ich sehr viel Input fürs Gehirn, also sehr tief und man entwickelt für sich dann auch weitergehende Aspekte in dem eigenen Denken.

1:15:58 Also das sind glaube ich Bewegung und soziale Interaktion. sagt immer, geh einfach mal rückwärts. Was ja für uns ein bisschen ungut ist. Man geht ja nicht, man sagt, das ist ganz gut für das Gehirn, sagt er aus verhaltenstherapeutischer Sicht. Und wenn du irgendwie Sonntagmorgens deine Runde mit dem Hund machst, auf keinen Fall dieselbe Runde.

1:16:36 Mal rechts, mal links, mal geradeaus, das erfrischt das Hirn. Und das kann man aus biologischer, technischer, aber auch aus kognitiver Sicht auch unterschiedlich bewerten. Und das ist schon hochinteressant. Herr Schilling, Sie arbeiten unter anderem an vertrauenswürdiger KI, richtig? Ja, das ist ein Teil, wie tatsächlich.

1:16:59 Was ist denn vertrauenswürdige KI und wie forscht man denn da dran? Naja, da geht es wieder darum, ich meine, wenn man jetzt zum Beispiel eine KI für Diagnostik verwendet, dann sagt die Diagnostik, ja, das könnte jetzt ein Meladom sein, wenn es zum Beispiel jetzt um Hautkrebs geht. Aber ich meine, diese Entscheidungen haben ja letztendlich auch Implikationen für Patienten.

1:17:19 Deswegen sollte man dieser KI auch vertrauen, letztendlich. Deswegen versucht man natürlich, die KI zu challengen, indem man erstmal schaut... Hat die wirklich was gelernt, was mit der Krankheit zu tun hat? Also das kann man schon allein dadurch machen, indem man die Inputdaten variiert. Weil es gab zum Beispiel schon KIs, die verschiedene Flugzeuge darauf kategorisiert haben, was man im Hintergrund sieht, ob die Sonne scheint oder nicht.

1:17:44 sozusagen die KI sucht Shortcuts. Und diese Shortcuts muss man natürlich systematisch ausschließen letztendlich. Man muss schauen, dass nicht jetzt die KI auf völlig andere Dinge schaut letztendlich, als das, was ich letztendlich mag. Und das funktioniert wunderbar in der einen Klinik, weil da habe ich immer die gleichen Lichtverhältnisse.

1:18:02 Und in der anderen Klinik ist jedes Melanom misskategorisiert. Also das ist schon mal das Erste. Und dann natürlich auch wirklich zu versuchen, die KI besser zu verstehen, also in die KI wieder reinzuschauen. Und auch hier kommt wieder der Punkt, ich verwende Methoden aus den Neurowissenschaften, ich schaue mir wirklich an, was sind denn meine Aktivierungen in der KI?

1:18:21 Wenn ich meinen Input ein bisschen ändere, was ändert sich denn dann in meinen Aktivierungen in der KI? Oder was ist, wenn ich die künstlich letztendlich ausschalte? Was ist, wenn ich eine sogenannte Läsion mache? Das ist witzigerweise eigentlich dieselbe Läsion wie im Gehirn. Ich schalte einzelne Neuronen aus, funktioniert sie dann noch?

1:18:38 Ist sie robust? All diese Sachen sind Trustworthy AI, das ist ein Riesentopic mittlerweile und man muss fairerweise sagen, das ist schon eher ein Randgebiet von uns, weil wir verwenden KI viel mehr, um das Gehirn zu verstehen, aber Wenn man das eine macht, sollte man gleichzeitig auch gleich das andere machen, weil man hat ja eh immer dieses Ping-Pong-Spiel, von dem ich am Anfang gesprochen habe.

1:18:59 Und sagen wir mal auch jetzt, ich denke mal, die Frage kann ich dann gleich weitergeben an Professor Kimpfe. Ich denke mal, man fühlt sich als Mediziner auch wohler, wenn man nicht nur gesagt bekommt, okay... das ist jetzt meine Diagnose, sondern wenn vielleicht die KI auch besser begründen kann, auf welcher Basis hat sie das letztendlich getroffen, diese Diagnose, und wo vielleicht dann ein Mediziner nochmal drüber schauen kann und sagen, ja okay, da sind wirklich diese Eigenschaften, die jetzt zum Beispiel für einen Hautkrebs typisch sind, die sieht man da wirklich.

1:19:32 Und das, glaube ich, schafft Vertrauen beim Patienten und das schafft Vertrauen auch bei den Medizinern. Und dann wird die KI, denke ich, auch mehr eingesetzt, als wenn ich eine riesen Blackbox habe. Und die gibt mir dann durch Zauberhand ein Ergebnis. Wir haben dazu witzigerweise neulich eine lustige Studie gemacht.

1:19:50 Wir sind da eigentlich nur durch Zufall draufgekommen, weil uns ging es darum, dass eine multimodale Transformer zu sagen, er soll Bilder bewerten, ob er die interessant findet und nicht interessant. Da ging es eher ein bisschen um ein anderes Topic, das wir zusammen mit einer Universität oder einer angewandten Hochschule in der Schweiz machen.

1:20:08 Da ging es auch um so Sachen wie Marketing und so weiter. Und dann haben wir festgestellt, wenn wir einen Initial Prompt letztendlich machen, zum Beispiel, Also verhalte dich wie ein 45-jähriger Mann, der gerne spazieren geht und völlig entspannt ist. Wie würde der das Bild bewerten? Und wir haben dann Riesenunterschiede bekommen, wenn wir diese Persönlichkeit verändert haben.

1:20:30 Das heißt, man muss auch aufpassen, was füttert man zu einem Large Language Model zum Beispiel. Also wenn man sagt, verhalte dich so oder verhalte dich so, kann es zu völlig unterschiedlichen Ergebnissen führen. Und natürlich ist das gleiche Problem, wenn ich ihm jetzt... dieser KI zwei Bilder gebe und aus Versehen der behandelnde Arzt noch eine Anweisung gibt, verhalte dich mal wie ein Dermatologe, dann kriege ich halt vielleicht ein völlig anderes Ergebnis, als wenn ich gar nichts schreibe.

1:20:58 Deshalb sollte man ja auch vielleicht mit verschiedenen Modellen immer Parallelarbeit geben, um nachher zu einer eigenen Meinungsbildung zu kommen, um das so ein bisschen zu umgehen. Das machen, glaube ich, auch zu wenige. Die schießen sich dann so ein, die einen, die mögen lieber ihr Claude und die anderen mögen ihr J.J.

1:21:13 Abbott. Das ist möglicherweise dann zu kurz gedacht. Man braucht unterschiedliche Analysemethoden. Das ist eine Strategie für Trustworthiness. Genau das ist es. Mitteln wir doch mal die Ergebnisse. Schauen wir, was ist, wenn ich die Prompts variiere. Teilweise kann es auch wirklich darauf ankommen, mit welchen Worten sage ich es.

1:21:30 Und solche Dinge, diese Robustheitstests, darum geht es letztendlich. Ich finde ja, ehrlich gesagt, dass die KI oft zu schlecht wegkommt. Weil immer noch wird so viel geredet, ja, die halluziniert ja nur. Und da gibt es ja dann so viele falsche Ergebnisse, was man so letztlich sagt. Aber da war auch letztlich ein sehr interessanter Artikel in Nature, ein Editorial.

1:21:49 Wo dann gesagt wurde, ja, aber das müssen wir ja dann schon auch gegen den Menschen abgleichen. Also natürlich macht die KI Fehler, aber in vielen Fällen immer noch weniger Fehler als der Mensch. Das darf man nicht außer Acht lassen. Das wird dann immer so ein bisschen arrogant dargestellt, so nach dem Motto, wir als Menschen, wir machen alles richtig.

1:22:05 Das ist ja mitnichten so. Also ich meine, in Deutschland geistert ja auch immer noch das Wort des stochastischen Papageis. Und ich meine, das ist einfach widerlegt, das muss man ganz ehrlich sagen. Was ist das genau? Ja, dass eine KI letztendlich nur, ja, ist auf Text trainiert von Menschen, das stimmt natürlich, aber letztendlich nur Wahrscheinlichkeiten vorhersagt und letztendlich halt...

1:22:28 dumm irgendwas daher schwafelt, was vernünftig klingt, weil es ja auf Texte trainiert ist, aber halt keinen Sinn macht. Und ich meine, wir haben ja drüber gesprochen, wenn man dann reinschaut in so Large Language Models, dann ergibt sich aber sehr wohl schon ein gewisses Alignment zum Gehirn. Da gibt es auch ganz witzige Studien, Otello GPT ging glaube ich 2022 durch die Medien, wo in der KI Textbefehle gegeben wurden, um ein Brettspiel zu spielen.

1:22:54 Und im Nachhinein hat man getestet, die internen Repräsentationen der KI. Und dann hat die KI wirklich ein Verständnis für dieses Brett entwickelt. Also wirklich sozusagen, ich nenne es jetzt mal in Anführungszeichen, eine räumliche Orientierung entwickelt, ohne jemals irgendetwas gesehen zu haben. Und deswegen, da muss man, die KI kommt sehr schlecht weg und ich finde, sie kommt besonders hier sehr schlecht weg.

1:23:17 Und es werden halt auch, man muss wirklich jetzt fast so hart sagen, auch so Mythen wie dieses stochastischen Papageis, der vielleicht mal richtig war. aber einfach immer weiter verbreitet. Und es ist halt einfach nicht mehr so. Vielleicht vor drei Jahren, aber heute nicht mehr. Also zum einen diese allererste Version, die hat tatsächlich viel halluziniert.

1:23:35 Das stimmt. Und die konnte man noch relativ leicht austricksen. Wie groß ist ein Elefantenei? Und dann hat es halt einfach darauf geantwortet. Elefantenei ist im Durchschnitt so und so groß. Also da gab es überhaupt keinen Reality-Check. sage ich jetzt mal, oder wie auch immer man das bezeichnen will.

1:23:53 Aber wie gesagt, die Modelle, die heute so auf dem Markt sind, die haben mit den ursprünglichen Modellen praktisch nichts mehr zu tun. Die sind so weiterentwickelt und die sind mittlerweile so überlegen, dass das Halluzinieren ist für Spezialfälle und für bestimmte Details schon noch relevant. Also beispielsweise, wenn es um exakte Referenzen von Literaturstellen geht.

1:24:20 Ja, also da sollten Sie sich nicht drauf verlassen, sondern mal schauen, ob es die Referenz gibt oder ob die vielleicht genauso auch ist oder ob da vielleicht irgendwie sich ein falscher Autor mit reingemogelt hat oder so. Aber wenn es jetzt rein um Fakten geht und um Weltwissen. dann kann man schon sagen, dass da das Halluzinieren eigentlich kein wirkliches Problem mehr ist.

1:24:44 Und gerade in so einem Bereich wie der Medizin, also es gibt ja kaum einen Bereich weltweit, wo es so viele Lehrbücher und Papers und Daten über Medizin gibt. Also gibt, also im medizinischen Bereich. Und Sie müssen sich vor Augen halten, diese großen Sprachmodelle, die haben jedes Buch, jeden Text, jeden Artikel, der jemals geschrieben wurde, mehrfach gelesen während Ihres Trainings.

1:25:12 Vergleichen Sie das mal mit einem Arzt im Medizinstudium. Und selbst wenn Sie der absolute Überflieger waren und konnten jedes Detail auswendig während Ihres Medizinstudiums, können Sie es 20 Jahre später mit Sicherheit nicht mehr. Keine Chance. Und zum anderen haben sie sicherlich ihr Wissen nicht abgedatet und das, was immer wieder neu dazukommt, mit einbezogen.

1:25:34 Und das können eben die Large Language Models schon und die werden ja ständig nachtrainiert und jedes Mal, wenn sozusagen neue Publikationen erscheinen, können davon ausgehen, dass spätestens drei, vier Wochen später die dann schon wieder im Training der neuesten Version von diesen großen Sprachmodellen mit inkorporiert ist.

1:25:55 Das heißt, ich habe dann doch in Kürze einen Chip, der mich immer wieder updatet, weil ich selber ja kaum hinkriege. Da schließt sich doch der Kreis wieder. Wir alle haben doch schon einen wundervollen großen Chip. Da kann man auch mal mit zufrieden sein. Aber wieso brauchen Sie dann einen Chip? Ich meine, ich habe meinen Chip in der Hosentasche.

1:26:14 Weil ich meine, am Ende, warum muss ich das... Also, das gönne ich mir, dass ich das Ganze dann noch mit den Augen zu mir nehme. Aber ansonsten, wir haben das ganze Weltwissen auf wie viel Quadratzentimeter gespeichert letztendlich? Gut, es ist auf Servern gespeichert, aber wir haben Zugriff, wir haben ja unser Fenster zum Weltwissen bereits.

1:26:30 Und wir haben auch unseren persönlichen Assistenten in der Hosentasche. Und insofern denke ich, ist das vielleicht gar nicht... Also, ich weiß nicht, ob es die anderen Anwesenden anders sehen, aber... Also, ich sehe die ganz große Notwendigkeit... Also... Die Informationsaufnahme mit dem Auge ist jetzt auch gar nicht so ineffizient, dass es jetzt unbedingt notwendig wäre, das gleich direkt... Also wir diskutieren da möglicherweise ein Problem, was aber gar kein Problem ist.

1:26:55 Das ist ja ein interessanter Gedankengang. Das ist ja total richtig. So fühlt es sich manchmal ein bisschen an, wenn es darum geht, dass man das Gehirn mit dem Internet verbindet. Ich meine, wie gesagt, in 20 Jahren... Wir werden vielleicht Menschen darüber unterhalten und sagen, ja, wie konnte man das nicht sehen, aber im Moment sehe ich die Notwendigkeit nicht genau aus diesen ethischen Überlegungen, aus diesen gesellschaftlichen Überlegungen.

1:27:18 Ich denke, ein Mensch will sich nicht operieren lassen, wenn es nicht unbedingt sein muss, also ich will es auf jeden Fall nicht. Ja, ich meine, da kommen wir jetzt auch ein bisschen weiter weg, aber was ja auch diskutiert wird dann, wenn ich jetzt so einen Chip habe und was ist denn da mit meinen Gedanken?

1:27:32 Kann die vielleicht einer auslesen? Oder sind meine Gedanken gar nicht mehr bei mir? Es wird ja dann gesagt, wenn die jetzt praktisch denselben Chip haben, dann können sie vielleicht ja meine Gedanken lesen. Will ich das? Maybe not. Das sind dann eben alles Anschlussfragen, die sich stellen, wenn wir jetzt von der Prämisse ausgehen, jeder lässt sich so einen Chip implantieren.

1:27:56 Und wie gesagt, das wiederum erfordert erstmal als Voraussetzung, dass die ganzen technischen Hürden vorher alle irgendwie gelöst sind. Das sehe ich ja auch nicht in nächster Zukunft. Und ich wollte noch ganz kurz zu dieser Tatsache mit, dass die KI so schlecht wegkommt. Und ich finde das ganz spannend, wie man da auch beobachten kann, so dieses, ich glaube, dieses Konzept kann man auch nennen, der Shifting Baselines.

1:28:25 Stellen Sie sich vor, Sie... Sie hätten vor 20 Jahren jemandem gesagt, es gibt mal ein System, mit dem können Sie jederzeit sprechen oder tippen und es beantwortet Ihnen nahezu jede Frage auf jedem Wissensgebiet und es macht auch medizinische Diagnosen oder gibt irgendwie... Auch juristische Einschätzungen, da hätte jeder gesagt, das wäre ja fantastisch und kein Mensch kann auf so vielen Gebieten gleichzeitig so ein Expertenwissen haben.

1:28:52 Jetzt haben wir so ein System und jetzt wird dann gesagt, ja, aber in einem Promille der Fälle ist dann noch eine falsche Referenz halluziniert oder… Ja und das muss man ja dann immer noch selber machen und manchmal sind die Sätze irgendwie immer nach der gleichen Syntaxstruktur und so. Also es wird sich immer das rausgesucht.

1:29:14 Ist aber noch ein bisschen deutschkritisch, muss man sagen. Mich erinnert es an die Szene in I, Robot, wo Will Smith den Roboter fragt, du hast kein Bewusstsein, weil kannst du eine Symphonie komponieren oder ein Meisterwerk malen? Und der Roboter schaut ihn an und sagt, können Sie es? Das ist genau, worum es hier geht.

1:29:40 Heutzutage könnte es die KI ja. Ja, das ist der Witz. Die KI kann es, aber wie viele Menschen kennen sie, die es können? Absolut. Vielleicht noch ein provokativer Gedanke. Wir sprechen von Massen, die sich diese Chips einbauen lassen. Aber ich denke, es wird durchaus... wir nennen sie jetzt mal eine Minorität in der Gesellschaft geben, die dem offen gegenübersteht.

1:30:06 Das glaube ich schon, ohne jetzt ein Land zu nennen oder Sonstiges. Aber ich denke, das wird schon kommen. Da geht es weniger um Ethik oder Moral oder Privacy, sondern es sind Menschen, die sich damit weiterentwickeln wollen, dieses Moral Enhancement oder mit diesem Gedanken. Deswegen, und es wird Leute geben, die das machen.

1:30:37 Wir gehen jetzt nicht, ich sage jetzt nicht Massenanwendung und so, aber ich glaube schon, dass wir das alle mitkriegen und dass das jetzt nicht ist etwas, was utopisch Ende dieses Jahrhunderts passiert, das glaube ich nicht. Gut, ich meine, Sie haben es ja vorhin gesagt, Herr Kraus, wir sind auch vielleicht nicht das Ende der Spezies oder unsere Gehirnentwicklung ist nicht das Ende der Evolution.

1:31:01 Das gehört ja vielleicht dann auch irgendwo ein bisschen zur weiteren Evolution dazu. Und das sind Sachen, die wir natürlich noch nicht wirklich absehen können. Aber ich finde, auch in dem Zusammenhang haben wir Glück, weil wir leben, glaube ich, in der interessantesten Zeit überhaupt. In einer absoluten revolutionären Umbruchszeit und wir bekommen das mit.

1:31:25 Wir können es, Sie ja insbesondere, durch Ihre Forschung oder auch durch die tägliche klinische Arbeit sogar mit beeinflussen. Also mal verstehen, aber vielleicht auch einen Beitrag dazu leisten. Das ist natürlich unfassbar spannend. Ich hoffe, dass wir in Deutschland da auch wirklich noch mehr von diesen Forschergruppen bekommen.

1:31:49 Jetzt hier an der LMU gibt es ja jetzt auch eine neue Abteilung, was wir gesprochen haben, die das jetzt verstärkt angeht. Wir müssen da unbedingt auch unsere, wie wir ihre Ingenieurkunst, Deutschland ist ja das... Das Land der Ingenieure und der Denker, wir sind prädestiniert dafür, das auch voranzutreiben und ich finde, das können wir auch selbstbewusst machen.

1:32:09 Wir haben fantastische Wissenschaftsinstitutionen, nicht nur die Universitäten, Helmholtz, Fraunhofer etc., diese ganzen sehr hochrangigen Institutionen. Ich finde, die müssen mehr in den Vordergrund geschoben werden. Die brauchen mehr Promotion. Die müssen sich vielleicht auch selber ein bisschen besser promoten.

1:32:29 Da sind wir in Deutschland nicht so gut. Was ich jetzt die letzten Monate für interessante Leute kennengelernt habe an ... was für Projekten die arbeiten, wo kein Mensch was schon weiß. In den USA, in Harvard oder Stanford, wenn einer irgendwo da eine neue Erkenntnis hat, steht es am nächsten Tag irgendwo ganz groß in der Headline und wir schauen da immer so neidisch rüber.

1:32:49 Wir haben die Leute hier auch und die arbeiten hier mindestens genauso gut, im Detail vielleicht sogar noch besser, aber wir bringen es nicht auf die Straße. Und das ist was, was mich total umtreibt. Und ich finde, da müssen wir gemeinsam alle auch ein bisschen besser werden. Und vielleicht, wenn wir dabei sind, ein bisschen weniger Regularien, ein bisschen weniger Bürokratie, weil wir uns dadurch auch immer ziemlich deutlich ausbremsen.

1:33:10 Wenn ich nämlich Ethikanträge mit hunderten Seiten für jeden letztendlich kleinen Eingriff machen muss, das sind halt Dinge und... Ich korrigiere mich gerne, aber das ist halt jetzt in den USA nicht unbedingt der Fall und auch in anderen Ländern der Welt nicht unbedingt. Es hat sich ja umgekehrt. Die amerikanischen Firmen sind früher nach Europa gekommen, um CE zu bekommen, weil das FDA sehr schwierig war, so 2015, 10.

1:33:33 Ja. Es hat sich jetzt umgekehrt. Also sie kriegen FDA-Clearance, die ganzen BCI-Firmen, die kriegen ja FDA-Clearance wie eine Semmel. Und wir bereiten ja gerade eine Studie vor für BCI. Das Studienprotokoll allein sind über 150 Seiten. Also nur das, was wir an Patienten tun, ohne die Regularien. Und gefühlt schon ein Leben lang, aber seit einem halben Jahr, sitzen wir intensiv an diesem Ethikantrag, den wir jetzt dann einreichen wollen, damit wir fünf Patienten mit so einem BCI versorgen können.

1:34:08 Fünf Patienten? Fünf Patienten, aber das ist ein enormer Aufwand. Das ist natürlich absurd. Ich meine, es ist ja gut, sicher und vorsichtig zu sein, aber wir sind natürlich übervorsichtig in diesen Dingen. Und ich glaube, das geht natürlich bei allen Wissenschaftlern um, dass wir uns da selber ohne Not...

1:34:30 das Leben und die Arbeit schwer machen. Das ist in unserem Bereich jetzt auch ein bisschen ähnlich, ehrlich gesagt. Auch wenn man mit Strahlen arbeitet, ist ja auch alles sehr, sehr sensibel. Und wenn man nur bei einer Erkrankung vielleicht ein bisschen die Strahlendosis anpasst, nach internationalen, schon gängigen Studien und Daten, muss man das in Deutschland aber alles wieder neu beantragen, alles wieder zum Bundesamt für Strahlenschutz, auch 150, 200 Seiten, also kenne ich gut.

1:34:59 Da wünscht man sich manchmal, dass die Sachen ein bisschen stringenter und auch rationaler angegangen werden. Ja, und vor allem, ich bin mir halt nicht sicher, ob das wirklich so optional ist, das zu machen. Weil am Ende, ich meine, die großen Hersteller für BCIs, die sitzen de facto alle in den USA.

1:35:16 Ich meine, da fließen Milliarden und Abermilliarden rein. Bei uns nicht. Das Gleiche ist mit der KI. Es ist halt, es treibt einen dann schon um als Europäer, was ist, wenn man von diesen Technologien irgendwann abgeschnitten ist. Und ich meine, erste Ansätze dazu gab es, dass man einfach auch auf gewisse Modelle nicht mehr zugreifen darf.

1:35:35 Und wenn wir da, also man muss sich dann auch überlegen, nicht nur... Was passiert denn eigentlich, wenn wir diese Technologie nicht haben oder wenn wir 20 Jahre zurückliegen? Was hat es dann für unsere Gesellschaft und insgesamt unsere Stellung letztendlich überhaupt für einen Einfluss? Und ich glaube, dass das ein bisschen unterschätzt wird, dass man vor lauter Vorsicht nicht erkennt, was passiert, wenn man...

1:36:01 da nicht vorsichtig ist, dass man den Anschluss verliert. Das Schlimmste, was passieren kann, wenn dann Leute wie Sie oder wirklich hochkarätige Wissenschaftler sagen, okay, ich gehe jetzt nach den USA, weil ich komme hier nicht mehr weiter. Das passiert ja leider auch in vielen Bereichen, gerade auch in der medizinischen Forschung.

1:36:17 Das ist die bitterste Kehrseite der Medaille und das sollte einfach nicht passieren. Naja, also, Herr Kraus, das war ein unheimlich interessantes Gespräch, fand ich. Vielen Dank, dass Sie heute hier zu uns ins ERCM gekommen sind und diese ganz aktuellen Themen zu besprechen. Ich fand es wirklich extrem gut, solche wichtigen Themen zu besprechen.

1:36:44 Themen mal mit Wissenschaftlern und Klinikern zu besprechen, die wirklich was davon verstehen und die nicht irgendwie mal so ein bisschen einfach angelesenes Wissen haben, sondern tagtäglich an diesen Aspekten forschen und arbeiten und publizieren. Toll, dass wir... Wissenschaftler wie Sie in Deutschland haben, um es auch irgendwie jetzt mal positiv ausklingen zu lassen und viel Erfolg weiter bei Ihren Forschungen und Ihren Arbeiten und ich freue mich sehr, wenn wir weiter auch in dem Bereich in Kontakt bleiben können.

1:37:19 Vielen Dank. Vielen Dank auch.