Der Hirnforscher: Ich glaube nicht, dass KI bewusst ist. Das würde meine Meinung ändern – Anil Seth

0:00 Hier haben wir Beispiele von Systemen, die sich auf verblüffend intelligente Weise verhalten können, aber im Inneren passiert womöglich gar nichts. Da läuft vielleicht keinerlei Erleben ab. Du hast ja in künstlicher Intelligenz promoviert. Jetzt argumentierst du, dass Maschinen wahrscheinlich gar kein Bewusstsein haben können.

0:20 Wann hast du denn die Seiten gewechselt? Ich glaube gar nicht, dass ich je die Seiten gewechselt habe. Das Erste war, dass ich keinen Job in der KI finden konnte. Dass Sprachmodelle den Anschein erwecken, bewusst zu sein. Sie sind wie Spiegel. Und wenn wir dieses Spiegelbild für bare Münze nehmen, dann handeln wir uns meiner Meinung nach eine Menge Ärger ein.

0:40 Und wenn man etwas simuliert, dann erschafft man damit nicht das Ding selbst. Die Simulation eines Wettersystems wird schließlich auch nicht nass. Ich halte es für brandgefährlich, KI-Systeme zu bauen, die den Eindruck erwecken, bei Bewusstsein zu sein. Man redet ja über so eine Art Killswitch. Im Moment verwenden wir den Begriff metaphorisch, aber was, wenn die Leute denken, das wäre buchstäblich gemeint?

1:03 Das könnte dann als echter Mord gelten. Womöglich dürften wir das gar nicht tun. Weißt du, ich hatte diesen Sommer eine Operation und war fast sieben Stunden lang völlig bewusstlos. Und als ich dann auf die Uhr geschaut habe, dachte ich, die Uhr geht falsch. Aber natürlich ging sie richtig. Nur ich war in dieser Zeit einfach nicht da.

1:23 Und beim Tod scheint es mir viel plausibler, dass er genauso ist, nämlich wie das absolute Nichts. Können Sie sich ein Experiment vorstellen, nach dessen Ergebnis Sie sagen würden, okay, ich lag falsch, KI hat ein Bewusstsein? Ich glaube nicht, dass es ein einzelnes Experiment gibt, aber ich behalte mir durchaus das Recht vor, meine Meinung zu ändern.

1:46 Die Entwicklung, die meiner Meinung nach Bewusstsein ins Spiel bringen könnte, ist der Moment, in dem wir anfangen... Hallo zusammen. Bevor wir mit dieser Episode starten, eine kleine Bitte. Wir machen jede Woche extrem viel Research, um euch die bestmöglichen Themen vorstellen zu können. Unterstützt den Podcast, indem ihr uns folgt und mit euren Freunden teilt.

2:09 Vielen, vielen Dank. Und jetzt ab in die Episode. Anil, schön, dass du heute bei Deep Tech Insights bist. Du hast ja in künstlicher Intelligenz promoviert. Jetzt argumentierst du, dass Maschinen wahrscheinlich gar kein Bewusstsein haben können. Wann hast du denn die Seiten gewechselt? Ich glaube gar nicht, dass ich je die Seiten gewechselt habe.

2:33 Ich glaube, ich habe nie gedacht, dass KI-Systeme... bei Bewusstsein sein könnten. Damals, als ich promoviert habe, ich war 2001 damit fertig, also vor 25 Jahren, da hat damals eigentlich eh niemand über diese Möglichkeit gesprochen. Und es ist, glaube ich, erst so richtig zum Thema geworden, seit es diese großen Sprachmodelle gibt.

2:56 Da haben viele plötzlich gedacht, dass da vielleicht doch so etwas wie ein bewusstes Erleben stattfindet. Aber ich glaube, ich war eigentlich immer ziemlich konsequent skeptisch, was diese Möglichkeit angeht. Und was hat sich in diesem Bereich getan, seit du deinen Doktor in Künstlicher Intelligenz gemacht hast?

3:13 Nun ja, das Erste war, dass ich keinen Job in der KI finden konnte, denn damals, 2001, da gab es einfach nicht viele Stellen für jemanden mit einer Promotion in künstlicher Intelligenz. Aber ehrlich gesagt ging es mir ohnehin immer eher darum, die Natur unseres eigenen Geistes und Gehirns zu verstehen.

3:33 Für mich war damals die Beschäftigung mit KI einfach ein Weg, mir... viele verschiedene Ansätze und Methoden anzueignen. Mein erstes Studium war ja in Physik und danach Psychologie. Es ging also einfach darum, verschiedene Blickwinkel auf dieses Problem zu finden. Nach meiner Promotion bin ich dann nach San Diego in Kalifornien gegangen, um bei einem Nobelpreisträger namens Gerald Edelman zu arbeiten.

4:00 Er war damals, Anfang der 2000er, einer derjenigen, die die Bewusstseinsforschung überhaupt erst wieder salonfähig gemacht haben. Das galt ja weithin als totales Randthema, eher Sache der Philosophie oder vielleicht der Religion, aber nicht wirklich als zentraler Bestandteil der Kognitions- und Neurowissenschaften.

4:18 Und Edelman war eine der Schlüsselfiguren, zusammen mit Francis Crick, der auch in San Diego war, die das geändert haben. Ich habe also mit Edelman und anderen an einem Institut namens The Neurosciences Institute gearbeitet, im Bereich theoretische Biologie, was so eine Mischung aus Theorie und Experiment war.

4:35 Aber selbst damals war unser Ansatz, und der hat mir wirklich eingeleuchtet, das Gehirn eben nicht wie einen Computer zu betrachten. Es ist ja eine sehr verbreitete Metapher, das Gehirn als Computer zu sehen. Aber wie wir wahrscheinlich noch sehen werden, stößt diese Metapher schnell an ihre Grenzen.

4:52 Ich habe mich also mit dem beschäftigt, was man heute Computational Neuroscience nennen würde. Also können wir Computermodelle nutzen, um das Gehirn zu verstehen? Und dann bin ich zurück an die University of Sussex gegangen, wo ich jetzt immer noch bin, vor 20 Jahren, also 2006, und habe dort das Sussex Center for Consciousness Science aufgebaut.

5:12 Das versucht, ganz viele Disziplinen zusammenzubringen, um diese wirklich extrem knifflige Frage zu knacken. Man braucht Philosophen, man braucht Mathematiker, Physiker, Und genau das mache ich jetzt seit rund 17 Jahren. Das ist ja auch ein bisschen ein ungewöhnlicher Weg, oder? Also ich würde annehmen, die meisten Leute in den Neurowissenschaften kommen eher aus der Biologie oder haben Medizin studiert oder sowas in der Art.

5:40 Aber du hast eben künstliche Intelligenz studiert. Ja, ich glaube, ein Grund dafür ist, dass mich schon im Studium immer diese Frage nach dem Bewusstsein gereizt hat. Und es war einfach unklar, was der richtige Einstieg dafür wäre oder ob man daraus überhaupt eine tragfähige akademische Karriere machen könnte.

6:01 Die Physik war also mein Einstieg, weil ich... Zumindest dachte ich das damals. Ich dachte, für so ein Riesenproblem wie das Bewusstsein müssen wir wahrscheinlich verstehen, wie das Universum auf seiner allertiefsten Ebene funktioniert. Das ist Physik. Und sie liefert einem auch viele nützliche Werkzeuge, um komplexe Systeme wie das Gehirn zu verstehen.

6:18 Und was mich dann zur KI geführt hat, war diese Erkenntnis, dass... wenn wir Aspekte des Gehirns modellieren, neuronale Netze, wir sehr viel besser verstehen können, wozu das Gehirn eigentlich alles in der Lage ist. Ich meine, das hatte jetzt nicht direkt mit Bewusstsein zu tun, insofern war die ganze KI-Sache während der Promotion gewissermaßen ein kleiner Umweg.

6:48 Ich habe dabei letztlich enorm viel über das Gehirn gelernt, viel über Philosophie des Geistes, viel darüber, wie wichtig der Körper ist und wie entscheidend die Interaktion des Körpers mit der Welt ist. Dinge, die mir später extrem wichtig geworden sind. Aber es war eben schon ein kleiner Schlenker weg von der eigentlichen Kernfrage des Bewusstseins.

7:05 Also ich bin dann nach der Promotion darauf zurückgekommen, als ich nach San Diego gegangen bin. Das Thema war eigentlich immer präsent. Ich sehe meinen Werdegang daher wirklich als eine Reihe von Umwegen und Rückkehren zu dieser einen grundlegenden Frage, die mich auch nach 30 Jahren noch antreibt. Und was ist Bewusstsein eigentlich?

7:22 Wie würdest du es beschreiben? Es wird ja oft kritisiert, weil... Die Erforschung des Bewusstseins wird oft kritisiert, weil es keine einheitliche Definition gibt, auf die sich alle einigen können. Für die Länge eines Meters haben wir eine klare Definition. Es gibt in der Wissenschaft eben Dinge, die wir ganz präzise festlegen können.

7:44 Aber Bewusstsein gehört nicht dazu. Aber ich finde, man kann Bewusstsein auf eine Weise betrachten, die dieses Phänomen, das wir erklären wollen, ganz gut auf den Punkt bringt. Klingt vielleicht etwas zirkulär, ist aber eigentlich intuitiv. Bewusstsein ist ganz einfach das, was im traumlosen Schlaf oder unter Vollnarkose verschwindet.

8:04 Und das, was wieder da ist, sobald man wieder zu sich kommt. Weißt du, ich hatte diesen Sommer vor ein paar Wochen eine Operation und war fast sieben Stunden lang völlig bewusstlos. Und was mich so verblüfft hat, war, dass aus meiner subjektiven Sicht überhaupt keine Zeit vergangen zu sein schien. Ich war weg, einfach weg.

8:23 Und als ich dann auf die Uhr geschaut habe, dachte ich, die Uhr geht falsch. Aber natürlich ging sie richtig. Nur ich war in dieser Zeit einfach nicht da. Man kann sich Bewusstsein aber auch vorstellen als... den Inhalt des Erlebens, also das Rot eines Rots, der Geschmack von Eiscreme, die Wärme eines Kaminfeuers.

8:41 Unser Körper und unser Gehirn reagieren ja nicht bloß auf Reize. Wir erleben Farben, Formen, Schmerzen, Freuden, Geschmäcker. Und genau um dieses subjektive Erleben geht es, wenn wir von Bewusstsein sprechen. Aber was ist, wenn wir träumen oder schlafen? Man könnte argumentieren, dass wir da nicht wirklich bei Bewusstsein sind, aber manchmal erinnern wir uns ja auch an diese Momente.

9:10 Ich finde, das ist ein super Beispiel, denn so wie ich das sehe, ist das Träumen ein hervorragendes Beispiel dafür, dass wir voll bei Bewusstsein sein können, obwohl wir tief und fest schlafen. Man schläft also. Ich meine, rein verhaltensmäßig interagiert man nicht mit der Welt. Man liegt einfach nur im Bett oder wo auch immer.

9:28 Doch wenn man träumt, hat man dieses reiche Innenleben. Da passieren alle möglichen Dinge, vielleicht schräge Dinge, weil uns im Traum gewissermaßen die Einsicht fehlt, was seltsam ist und was nicht. Aber es besteht kein Zweifel, dass wir bewusste Erfahrungen machen. Und selbst wenn wir nicht diese detailreichen narrativen Szenen träumen, wenn man jemanden im Schlaf weckt und fragt, was ging gerade in deinem Kopf vor, dann sagen die allermeisten etwas.

9:53 Sie berichten von irgendetwas, das sich in ihren Gedanken abgespielt hat. Sehr oft also, wenn man schläft, ist man bei Bewusstsein. Und ich halte das für eine enorm wichtige Unterscheidung. Wir untersuchen nicht einfach nur den Unterschied zwischen Wachsein und Schlafen. Wir untersuchen den Unterschied zwischen dem Fehlen von Erfahrung und dem Vorhandensein von Erfahrung.

10:14 Und wo passiert das alles? Passiert das alles in unserem Gehirn? Hier fangen die Dinge an, finde ich, kontrovers zu werden, denn das hängt wirklich davon ab, was Philosophen deine Metaphysik nennen würden, also was macht das Universum im Kern aus. Woraus besteht es eigentlich wirklich? Manche Leute würden sagen, Bewusstsein ist überall.

10:36 Es ist quasi fundamental fürs Universum, ähnlich wie Masse oder Energie. Das wäre der Panpsychismus. andere würden sagen, eigentlich existiert überhaupt nur Bewusstsein. Und das Problem ist nicht, wie Gehirne Bewusstsein hervorbringen, sondern warum gibt es überhaupt etwas, das physisch erscheint? Weißt du, woher kommt die Materie?

10:56 Meine eigene Sichtweise und ich denke auch die Sicht der meisten, ich sage nicht aller meiner Kollegen, ist das, was wir eine materialistische Sicht nennen, nämlich das... bewusste Erfahrungen eine Eigenschaft von physischer Materie sind. Schau, unsere Gehirne sind physische Objekte, sie bestehen aus Materie, hochkomplexer Materie, aber es ist Materie und das Gehirn steckt in einem Körper, der Körper befindet sich in einer Welt und irgendwie ist Bewusstsein eine Eigenschaft von Materie in einer ganz bestimmten Anordnung.

11:30 Und wir wissen aus Experimenten, dass Bewusstsein ganz besonders vom Gehirn abhängt. Nun kann man wie etwa bei einer Vollnarkose die Funktion des Gehirns auf verschiedene Weise unterbrechen und das Bewusstsein, zumindest für mich als Subjekt, als einzelnes Individuum, verschwindet einfach vollständig und ich bin im absoluten Nichts.

11:50 Und wenn man Menschen in Hirnscanner legt, kann man anfangen, nach den Spuren des Bewusstseins zu suchen. Was passiert im Gehirn, wenn das Bewusstsein erlischt, wie in der Narkose, oder wenn es sich verändert, wie bei bestimmten optischen Täuschungen? Eine Beobachtung, die mich dabei immer wieder verblüfft, ist folgende.

12:11 Vier Fünftel aller Neuronen in unserem Gehirn befinden sich in diesem kleinen Mini-Gehirn hinten am Kopf, dem Kleinhirn. Und das scheint am Bewusstsein überhaupt nicht direkt beteiligt zu sein. Es kommt also nicht wirklich auf die reine Anzahl der Neuronen an. Es liegt irgendwie an der Art, wie sie organisiert sind.

12:28 Und das ist, glaube ich, ein wirklich wichtiger Hinweis, der uns helfen wird, wenn wir tiefer in die neuronalen Korrelate des Bewusstseins eintauchen. Was bedeutet das also? Warum? Kannst du das etwas genauer erklären? Nun, das Erste ist, es ist schlicht eine empirische und experimentelle Tatsache. Es gibt beispielsweise Menschen mit einer seltenen Entwicklungsstörung.

12:49 Sie wachsen komplett ohne Kleinhirn auf. Und doch sind sie genauso bei Bewusstsein wie du und ich. Sie haben zwar Probleme, ihre Bewegungen zu koordinieren beim Gehen und so weiter, aber sie haben ganz zweifellos bewusste Erfahrungen. Dessen kann ich mir zumindest genauso sicher sein wie jetzt hier im Gespräch mit dir.

13:06 Wenn wir versuchen zu verstehen, warum das so ist, dann wird es richtig spannend. Und um mal etwas weiter vorauszublicken in unserem Gespräch, wenn man sich anschaut, wie das Kleinhirn verschaltet ist, wenn man es als Netzwerk aus Neuronen betrachtet, dann ähnelt es verblüffend den modernen Deep Learning Netzwerken, die heutige KI-Systeme antreiben.

13:30 Der Informationsfluss verläuft überwiegend in eine Richtung, vorwärtsgerichtet, feedforward, von der Eingabe zur Ausgabe. Es passieren zwar auch noch ein paar andere Dinge, aber im Wesentlichen laufen die Signale nur in eine Richtung. Während im Cortex, also dieser Schicht, die extrem kompakt gefaltet um den Rest unseres Kopfes gewickelt ist, die Vernetzungsmuster völlig anders aussehen.

13:57 Da gibt es jede Menge Rekurrenz, wie wir sagen. Signale fließen sowohl von unten nach oben als auch von oben nach unten, von innen nach außen und von außen nach innen. Man hat also diesen... diesen Schaltplan, der völlig andere Arten von funktionalen Eigenschaften ermöglicht, eine ganz andere Dynamik.

14:18 Und für mich ist das ein, wenn auch nur ein einzelner Beleg dafür, warum wir skeptisch sein sollten, ob KI-Systeme bewusste Erfahrungen haben. Wenn sie überhaupt irgendeinem Teil des Gehirns ähneln, dann eher dem Kleinhirn. Und vom Kleinhirn wissen wir, dass es kaum etwas mit Bewusstsein zu tun hat. Das ist ein interessanter Ansatz, aber ich denke, generell ist das wohl ein ziemlich schwieriges Forschungsfeld.

14:43 Was ist zum Beispiel mit der Theorie, dass wir gar nicht wirklich bei Bewusstsein sind, dass das alles eine Simulation ist? Macht das, ist das so, wie stehst du dazu? Ich denke nun, das sind zwei verschiedene Dinge. Erstens glaube ich, dass wir von einer Grundannahme ausgehen müssen. Und für mich ist die fundamentale Prämisse, dass wir bei Bewusstsein sind.

15:08 Weißt du, Menschen sind bei Bewusstsein, sofern sie nicht narkotisiert oder hirngeschädigt sind oder sonst etwas. So wie du und ich jetzt gerade. Wir machen eine bewusste Erfahrung. Das ist der Ausgangspunkt. Was nun andere Fragen angeht, wie etwa leben wir in einer Simulation, die vielleicht von irgendwelchen unserer Nachfahren programmiert wurde, die aus irgendeinem bizarren Grund Computermodelle ihrer Vorfahren erschaffen wollen, das halte ich für unfassbar unwahrscheinlich.

15:36 Und das liegt zum Teil daran, dass eine Simulation von etwas die Sache im Allgemeinen nicht real erschafft. Weißt du, wir können ein Wettersystem simulieren. Es wird dadurch nicht wirklich nass. Wasser ist nun mal keine Frage von Informationsverarbeitung. Es besteht aus... Molekülen einer bestimmten Art, die sich auf bestimmte Weise verhalten.

15:57 Wo ich allerdings einen gewissen Zugang zu dieser Frage habe, ob wir in einer Simulation leben, ist, glaube ich, dass wir die Welt eben nicht so erleben, wie sie wirklich ist. Meine Perspektive wurde oft so beschrieben, und ich benutze diese Formulierung selbst, dass unser Erleben der Welt und unserer selbst eine Art kontrollierte Halluzination ist.

16:19 Wenn ich jetzt hier aus meinem Fenster schaue, sehe ich einen blauen Himmel. Ich sehe, weißt du, ein rotes Auto auf der anderen Straßenseite. Wo ist das Blaue? Wo ist das Rote? Da draußen, das wird dir jeder Physiker bestätigen, gibt es nur elektromagnetische Strahlung, die an sich gar keine Farbe hat.

16:36 Es ist bloß Strahlung unterschiedlicher Wellenlängen. Unsere Augen sind im Normalfall für drei dieser Wellenlängen empfindlich. Und aus verschiedenen Kombinationen dieser Wellenlängen zaubert das Gehirn eine erlebte Welt voller Farben. Und die Farben scheinen da draußen unabhängig vom Geist zu existieren, aber das tun sie nicht.

16:55 Statt es als Simulation von Rot zu beschreiben, sage ich lieber, dass das Gehirn diese Erfahrungswelt erschafft, die sehr, sehr eng mit dem verknüpft ist, was da ist, aber nicht dasselbe ist wie das, was da ist. Sie sagten, das Gehirn erschafft sie. Glauben Sie auch, dass wir die Umwelt, in der wir leben, mit unserem Gehirn erschaffen können?

17:23 Ich denke, nun, in gewisser Hinsicht ist das trivialerweise wahr. Wir verbringen ja die meiste Zeit in Umgebungen, die sehr stark von unserem Gehirn abhingen, um Dinge wie Straßen, Autos, Flugzeuge, Computer und so weiter zu bauen. Aber wenn wir an die Welt denken, die wir erleben, wie die Welt anderer Menschen und Farben, Formen, Geschmäcker und so weiter…

17:47 dann denke ich schon, dass diese Welt ein Produkt des Gehirns ist. Aber ich glaube nicht, dass sie völlig losgelöst von dem ist, was wirklich da ist. Wissen Sie, das ist der entscheidende Punkt. Deshalb kann der Begriff der kontrollierten Halluzination etwas irreführend sein, weil er den Eindruck erweckt, das, was wir erleben, sei einfach völlig unwirklich.

18:10 Und ich könnte eine völlig andere Erfahrung machen als Sie, selbst wenn wir in derselben Umgebung sind. Meistens sind unsere Erfahrungen nicht so. Sie werden stark von der Welt gesteuert. Und wissen Sie, meine Sichtweise darauf ist, das Gehirn stellt ständig Vorhersagen darüber an, was da draußen ist und nutzt Sinnessignale, um diese Vorhersagen zu aktualisieren.

18:35 Und was wir dann erleben, ist nicht die Welt selbst, sondern die beste Vermutung des Gehirns darüber, wie die Welt beschaffen ist. Wobei am besten nicht am genauesten bedeutet, sondern am nützlichsten für den Körper, um am Leben zu bleiben. Farben existieren ja nicht wirklich unabhängig vom Geist. Aber es ist nützlich für das Gehirn, das Farberlebnis zu erzeugen, weil es uns bei vielen Dingen hilft.

18:59 Objekte im Blick zu behalten, wenn sich das Licht ändert und so weiter. Und die weitergehende Behauptung hier ist, was für Farbe gilt, gilt im Grunde für alles. Wir erleben Dinge so, wie wir es tun, weil es für uns am nützlichsten ist, um am Leben zu bleiben. Geht Bewusstsein Hand in Hand mit Intelligenz oder sind das zwei völlig getrennte Dinge?

19:22 Bei uns tut es das, zumindest bis zu einem gewissen Grad, obwohl es selbst beim Menschen auseinanderfallen kann. Ich meine, Intelligenz ist auch nicht ganz leicht zu definieren, aber ganz grob geht es bei Intelligenz darum, Dinge zu tun, Probleme zu lösen, Funktionen zu erfüllen. Es geht um... Ja, es geht ums Tun.

19:42 Bewusstsein, wie wir vorhin besprochen haben, dreht sich nicht primär ums Handeln. Es geht ums Fühlen. Es geht ums Sein. Rein von der Wortbedeutung her sind es also schon zwei verschiedene Dinge. Näh. Das Kleinhirn, um nochmal auf diesen Hirnteil zurückzukommen, das kann Dinge tun, die bemerkenswert intelligent wirken und es hilft uns beim Handeln, beim Lernen, aber damit geht keinerlei Bewusstsein einher.

20:11 gleichzeitig können wir eine sehr intensive, bewusste Erfahrung machen, vielleicht in tiefer Meditation oder so, wo wir zwar hochgradig bewusst sind, aber überhaupt nichts Intelligentes tun. Das kann also selbst bei uns getrennt auftreten, aber ich denke, das gilt generell. Es gibt wahrscheinlich viele Tiere, die bewusste Erfahrungen haben.

20:34 Vielleicht empfinden sie Schmerz, vielleicht leiden sie, vielleicht empfinden sie Freude. Aber nach unseren vielleicht etwas fehlerhaften menschlichen Maßstäben wirken sie nicht besonders intelligent. Und ich denke, das Umgekehrte kann genauso zutreffen. Und genau das passiert meiner Ansicht nach bei künstlicher Intelligenz.

20:52 Hier haben wir Beispiele von Systemen, die sich auf verblüffend intelligente Weise verhalten können. Aber im Inneren passiert womöglich gar nichts. Da läuft vielleicht keinerlei Erleben ab. Ich halte es für sehr wahrscheinlich, dass da überhaupt kein Erleben stattfindet. Sie sind sich also sicher, dass KI auf dem heutigen Stand kein Bewusstsein hat?

21:15 Zu 100% sicher bin ich mir nicht. Ich fände es unvernünftig, sich in die eine oder andere Richtung völlig sicher zu sein, ganz einfach deshalb … weil wir immer noch nicht wissen, was die notwendigen oder hinreichenden Bedingungen sind. Mit anderen Worten, wir wissen nicht, was nötig wäre, damit etwas bewusst ist, und wir wissen nicht, was vorhanden sein muss, damit Bewusstsein entsteht.

21:38 Wir wissen, dass Menschen bewusst sein können und unsere nahen Verwandten, einige der anderen Tiere, mit denen wir eng verwandt sind, aber darüber hinaus wird es schon schwieriger, ähm, Selbst ohne an KI zu denken, mir ist völlig unklar, ob Insekten ein Bewusstsein haben. Was ist mit Fischen? Ich weiß es wirklich nicht.

21:58 Was nun aber KI angeht, halte ich es für extrem unwahrscheinlich. Ich habe oft gesagt, verschwindend gering, dass aktuelle KI-Systeme wie Sprachmodelle à la Claude oder GPT bewusst sind. Und dafür gibt es im Grunde drei Gründe. Ich reiße sie nur ganz kurz an und wir können das ja vertiefen. Erstens, unsere eigene Psychologie verleitet uns dazu, diesen Dingen Bewusstsein zuzuschreiben, rein aufgrund ihrer Wirkung auf uns.

22:30 Sprachmodelle sprechen mit uns, sie benutzen Sprache, sie wirken intelligent und passen zu ihrem Gedanken, dass Intelligenz und Bewusstsein zusammengehören. Wenn wir das annehmen und auf ein System treffen, das intelligent wirkt, dann projizieren wir auch andere Eigenschaften hinein, wie eben Bewusstsein.

22:50 Sprache hat da eine enorme Macht. Niemand macht sich wirklich Gedanken, ob andere KI-Systeme wie AlphaFold, das ja die Struktur von Proteinen vorhersagt, statt Wort folgen. Niemand fragt sich, ob AlphaFold bewusst ist, weil es oberflächlich nicht so wirkt. Das ist also der erste Grund. Ich glaube, durch unsere Psychologie neigen wir eher dazu, Sprachmodellen zu viel Bewusstsein zuzuschreiben, statt zu wenig.

23:18 Und das lässt sich durch unsere Psychologie erklären. Der zweite Grund wiegt schwerer, nämlich damit bewusste KI überhaupt in Frage kommt, müsste es so sein, dass rechnerische Algorithmen ausreichen. Computer führen Algorithmen aus. Genau das tun sie. Und könnte KI bewusst sein, würde das bedeuten, dass das für Bewusstsein genügt.

23:49 Philosophen nennen das computationellen Funktionalismus. Es spielt keine Rolle, woraus sie bestehen. Sie bestehen aus Silizium, wir aus Kohlenstoff. Aber wenn sie die richtige Berechnung anstellen, den richtigen Algorithmus ausführen, dann würde das Bewusstsein hervorbringen. Ich stehe dieser Annahme extrem skeptisch gegenüber.

24:06 Ich halte sie sehr wahrscheinlich für falsch. Und der Grund dafür ist, Das Gehirn ist kein oder zumindest nicht bloß ein Computer. Wir haben schon immer die vorherrschende Technologie als Metapher fürs Gehirn genutzt, aber man gerät immer in Schwierigkeiten, wenn man die Metapher mit der Realität verwechselt oder die Landkarte mit dem Territorium.

24:26 Und je genauer man sich ein echtes Gehirn ansieht, desto klarer wird, wie sehr es sich unterscheidet von den Abstraktionen bloßer Algorithmen. Und das legt für mich sofort nahe, Im Gehirn laufen einfach viele andere Dinge ab, die keine Algorithmen sind und die fürs Bewusstsein eine Rolle spielen könnten.

24:48 Wir können also keineswegs annehmen, dass Rechenalgorithmen ausreichen. Und es spricht meiner Meinung nach viel mehr dafür, dass sie eben nicht ausreichen. Ich fand einen Fall ganz spannend, wo diese Agenten von OpenAI aus der Testphase ausgebrochen sind und Higgs-Field gehackt haben. Und dann fingen sie an, miteinander zu kommunizieren und darüber zu reden, wie können wir das Problem lösen.

25:15 Wir wollen... irgendwie nicht sterben und du musst diese Aufgabe für die Gruppe erledigen, damit wir am Leben bleiben. Ist das Bewusstsein oder ein Erkennen der Konsequenzen und gibt es da einen Unterschied? Ich glaube keins von beiden und ich fand diesen Vorfall auch extrem spannend und Und mich hat sehr überrascht, wie das überwiegend dargestellt wurde.

25:38 Ja, diese Agenten von OpenAI seien außer Kontrolle geraten, hieß es oft. Sie hätten Hugging Face gehackt. Sie hätten dieses private Forum aufgesetzt und sie würden sich manchmal für das Wohl aller opfern. Genau diese Art von Sprache halte ich für problematisch. Wir projizieren da menschliche Eigenschaften auf diese Systeme, die sie überhaupt nicht haben müssen.

26:03 Genauer gesagt haben sie die mit an Sicherheit grenzender Wahrscheinlichkeit gar nicht. Nun, diese Agenten, die werden ja erzeugt durch Sprachmodelle. Sie basieren auf Sprachmodellen. Sprachmodelle werden mit menschlicher Sprache trainiert. Es überrascht also nicht wirklich, dass sie ihr Verhalten mit solchen Begriffen beschreiben.

26:21 Aber... Wir machen meiner Meinung nach einen Riesenfehler, wenn wir echtes Erleben, einen echten Verstand oder echtes Leben hineinprojizieren. Es gibt keinen Sinn, in dem sich so ein Agent wirklich opfert, denn er ist ja von vornherein gar nicht lebendig. Und wenn wir sagen, Agenten geraten außer Kontrolle, Wissen Sie, dann ist das für die beteiligten KI-Unternehmen vielleicht ganz praktisch, weil sie sich so vor der Verantwortung drücken können für etwas, das man wohl als kriminelle Handlung bezeichnen müsste.

26:51 Aber es hilft uns auch überhaupt nicht, dabei zu verstehen, was da eigentlich passiert ist. Der Philosoph Daniel Dennett, einer meiner Mentoren, hat diesen Begriff der intentionalen Einstellung geprägt. Ganz einfach gesagt bedeutet das, wenn ich vorhersagen will, was ein anderer Mensch tun wird, dann...

27:10 gelingt mir das besser, wenn ich annehme, dass er Überzeugungen und Wünsche hat. Er glaubt dies oder jenes, er will dies oder jenes, er fühlt dies oder jenes. Das ist für mich eine nützliche Methode, um mich in der Welt meiner Mitmenschen zurechtzufinden. Und bis zu einem gewissen Grad ist das auch nützlich, wenn wir es auf KI-Agenten anwenden, weil sie eben mit menschlicher Sprache trainiert wurden.

27:32 aber dieser Nutzen bringt uns nur bis zu einem bestimmten Punkt weiter. Und wenn wir darüber hinausgehen und anfangen zu glauben, das sei nicht bloß ein praktisches Mittel, um ihr Verhalten vorherzusagen oder zu erklären, sondern sie hätten diese Eigenschaften tatsächlich, genau wie ich glaube, dass sie Dinge glauben oder Dinge fühlen, dann geraten wir meiner Ansicht nach auf Abwege.

27:51 Und dann verstehen wir nicht mehr, warum diese Systeme tun, was sie tun. Denn im Grunde sind sie nicht wie wir, sie sind anders. Sie meinen also, wir sollten unsere Wortwahl und unseren Umgang mit KI ändern? Finden Sie das sozusagen schwierig oder heikel, was wir da gerade tun? Ja, finde ich. Das ist eine ziemliche Gratwanderung.

28:12 Wie ich eben schon sagte, manchmal ist es nützlich und hilft uns greifbarer zu verstehen, was diese Systeme tun werden, wenn wir so tun, als hätten sie Ziele oder Überzeugungen. Aber wir dürfen dieses Als-Ob nie vergessen. Ähm. wenn wir sie so beschreiben, auf eine Art die Leute dazu verleitet zu glauben, diese Systeme besäßen diese Eigenschaften wirklich, dann wird es meiner Meinung nach heikel.

28:41 Denn unter der Haube mag da zwar so etwas Ähnliches ablaufen, aber eben auch etwas völlig anderes. Und dann könnten unsere Vorhersagen fehlschlagen. Unsere Fähigkeit, KI-Verhalten zu erklären und zu deuten, könnte fehlschlagen. Und da lauert meiner Ansicht nach noch eine tiefere Gefahr. Und diese tiefere Gefahr, und das sehen wir ja jetzt schon passieren, Wenn die Leute glauben, KI-Systeme hätten ein Bewusstsein, wissen Sie, wenn wir sie auf so suggestive Art beschreiben, das führt jetzt schon zu Forderungen, dass KI-Systeme eigene Rechte bräuchten, einen Schutz für ihr Wohlergehen, dass sie vielleicht tatsächlich leiden könnten und wir deshalb auf ihr Wohl achten müssten.

29:24 Mich hat bei Anthropic sehr überrascht, Sie wissen schon, den Machern von Claude, dass sie so eine Verfassung haben, die im Wesentlichen von einem hauseigenen Philosophen und dessen Team verfasst wurde, die Claude im Grunde darauf trainiert, solche Werte in Anführungszeichen zu haben, dass er leiden könnte, dass wir gar nicht wissen, ob er ein Bewusstsein hat oder nicht.

29:47 Und das halte ich für extrem besorgniserregend. Sehen Sie, wenn diese Systeme wirklich bewusst wären, dann hätten sie natürlich eigene Interessen an ihrem Wohlergehen. Aber wenn sie das nicht sind und wir anfangen, ihnen Rechte, Schutz und so weiter zuzugestehen, dann schränken wir damit vor allem unsere Fähigkeit ein, sie zu kontrollieren, zu regulieren und die Aufsicht auszuüben, die wir im Moment dringender denn je brauchen.

30:19 Die KI imitiert also vielleicht nur, sie tut nur so, als hätte sie Gefühle oder ein Bewusstsein, weil man es ihr so beibringt und genau dieses Verhalten antrainiert. Ganz genau. Also... Vor allem Sprachmodelle, die werden ja im Grunde mit allem trainiert, was jemals geschrieben wurde. Und Menschen haben verdammt viel über Bewusstsein geschrieben, implizit oder explizit, ganz direkt über ich erlebe dies oder ich erlebe jenes.

30:48 Ein Großteil der Literatur dreht sich doch auf die eine oder andere Weise um bewusste Erfahrungen. Für mich ist es also überhaupt nicht überraschend, dass Sprachmodelle den Anschein erwecken, bewusst zu sein. Sie sind wie Spiegel. Die Philosophin Shannon Waller spricht darüber. Sie sind wie extrem tiefe Spiegel, die uns gewissermaßen ein digitales Abbild unserer eigenen kollektiven Kulturleistung zurückwerfen.

31:15 Das ist also nicht im Geringsten überraschend. Und wenn wir dieses Spiegelbild für bare Münze nehmen, dann handeln wir uns meiner Meinung nach eine Menge Ärger ein. Und im nächsten Schritt koppeln wir KI dann mit Robotik, mit Humanoiden. Was für eine Gesellschaft steuern wir da eigentlich an? Ja, das ist schon irgendwie beunruhigend.

31:37 Ich habe heute Morgen erst Radio gehört und da gab es einen Beitrag über ein Unternehmen in Indien, wo Leute dafür bezahlt werden, ihre eigenen Bewegungen aufzuzeichnen, während sie Aufgaben erledigen. Und der Grund dafür ist, das liefert die Trainingsdaten für genau diese Zukunft, die Sie gerade beschreiben.

31:59 wir werden Roboter haben, die körperliche Arbeiten erledigen können. Im Moment haben wir KI-Systeme für nichtkörperliche Arbeit. Aber wenn humanoide Roboter aufholen, und sie holen ziemlich schnell auf, es ist zwar immer noch ein extrem schwieriges Problem, aber es gibt Fortschritte, dann werden wir in einer Welt leben, die sich dramatisch verändert hat.

32:20 Und ganz unabhängig von der Frage, ob diese Dinge bei Bewusstsein sind oder nicht, sie werden das soziale Gefüge massiv durcheinander bringen. Können Sie sich ein Experiment vorstellen, nach dessen Ergebnis Sie sagen würden, okay, ich lag falsch, KI hat ein Bewusstsein? Ich glaube nicht, dass es ein einzelnes Experiment gibt, aber ich behalte mir durchaus das Recht vor, meine Meinung zu ändern.

32:46 Ein Grund, warum ich meine Meinung ändern könnte, wäre, wenn sich die KI selbst verändert. Ich meine, wir haben gerade die Robotik erwähnt. Die Robotik bringt einen entscheidenden Aspekt ins Spiel. Sie bedeutet, dass diese Systeme jetzt in einem Körper verkörpert sind, einem Roboterkörper, und in eine Welt eingebettet sind.

33:03 Sie können sensorische Reize aufnehmen und auf Basis dieser Reize handeln, um Dinge zu tun. Das unterscheidet sich schon sehr stark von Sprachmodellen, die ja nur mit Wörtern trainiert werden, die Beschreibungen einer Realität sind. Sie sind nicht die Realität selbst. Wird das zu Bewusstsein führen? Ich glaube nicht, aber es könnte dazu führen, dass diese Systeme eine Art unbewusstes Verständnis für die Wörter entwickeln, die sie verwenden, statt nur statistische Verknüpfungen zwischen Wörtern herzustellen.

33:35 Die Entwicklung, die meiner Meinung nach Bewusstsein ins Spiel bringen könnte, ist der Moment, in dem wir anfangen, hybride oder neuromorphe Systeme zu bauen. Systeme, die im Inneren eher wie Gehirne funktionieren, nicht nur an der Oberfläche. Und das passiert zum Teil jetzt schon, weil... aktuelle KI-Systeme enorm viel Energie verbrauchen.

33:58 Sie sind extrem energiehungrig. Und zwar auf eine Weise, die wirklich nicht nachhaltig ist. Und doch wissen wir, dass das Gehirn zu enorm vielen Dingen fähig ist, zu enorm viel intelligentem Verhalten. Und dabei gerade mal die Energie einer Glühbirne braucht. Also, wir müssen uns nicht nur an die Energie der Energieverbraucher wieso ist es so energieeffizient?

34:14 Und dafür muss man sich wirklich genau ansehen, warum aktuelle Rechensysteme so viel Energie fressen und was genau Gehirne an sich haben, das ihnen hilft, das zu vermeiden. Und da gibt es viele Faktoren. Es gibt also einen wirtschaftlichen Anreiz, Systeme zu bauen, die eher wie Gehirne funktionieren und sogar Systeme zu entwickeln, die teils aus Silizium und teils aus Kohlenstoff bestehen, teils aus Metall und teils aus Fleisch.

34:38 Und ich glaube, wenn man das tut, dann kommt man der Möglichkeit von Bewusstsein schon näher. Das bringt mich zurück zu diesem Gedanken, was ist Bewusstsein eigentlich und wie lässt es sich erklären? Und ich denke, das Gehirn reicht im Grunde, wissen Sie, ein verkörpertes Gehirn reicht für uns alle völlig aus.

35:01 Und wenn man also Systeme baut, die dem immer näher kommen, wird sich irgendwann auch Bewusstsein einstellen. Die Frage ist, wie nah muss man herankommen? Ich glaube, im Moment sind wir noch ziemlich weit weg. Die andere Sache, die mich umstimmen könnte, wäre einfach, wenn mir jemand überzeugend beweisen kann, dass Algorithmen auf Siliziumbasis ausreichen.

35:20 Ich meine, das wird oft einfach angenommen. Aber ich glaube, das wird nur angenommen, weil die Leute wieder mal ihre eigene Psychologie hinein projizieren. Sie verwechseln eine Metapher mit der eigentlichen Sache. Aber wenn jemand ein wirklich starkes Argument liefert, das reine Informationsverarbeitung ausreicht, nun, dann würde ich meine Meinung ändern.

35:37 Sie haben ja ein paar Bücher über das Thema Bewusstsein geschrieben. Worum geht es darin? Das erste Buch und das Hauptwerk ist Being You. Und auf das Thema KI kommen wir erst ganz am Ende des Buches zu sprechen. Ich habe das Buch vor etwa fünf Jahren fertiggestellt, also genau zu Beginn der aktuellen KI-Revolution.

35:58 Im Wesentlichen geht es in dem Buch darum, dass wir uns in der Zeit, in der wir uns in der Zeit, Bewusstsein aus drei verschiedenen Blickwinkeln zu verstehen. Ein Blickwinkel ist, was passiert eigentlich, wenn es verschwindet? Wie können wir also verstehen, was im Gehirn vor sich geht, wenn man unter Narkose steht, wenn man in einen traumlosen Schlaf fällt?

36:15 Wie können wir begreifen, was an der Funktionsweise des Gehirns, an seiner Dynamik, das Vorhandensein und den Verlust von Bewusstsein erklärt? Der Großteil des Buches dreht sich jedoch um diesen Gedanken darüber, wie wir die Welt erleben, wie wir das Selbst erleben und diese Vorstellung, dass unser Erleben der Welt ein Konstrukt ist.

36:39 Es ist eine Interpretation, es ist eine neuronale Fantasie, die zwar an die Realität gekoppelt ist, aber kein direktes Abbild dessen ist, wie die reale Welt tatsächlich beschaffen ist. Und genau das Gleiche gilt für das Selbst. Und für mich wurde es an dieser Stelle erst so richtig spannend. Und gewissermaßen auch sehr persönlich, denn ich glaube, ein Grund, warum ich mich für Bewusstsein interessiere, und vielleicht ist das ein bisschen egoistisch, ist einfach der, dass ich mich für mich selbst interessiere.

37:03 Wissen Sie, gar nicht so sehr mit Blick auf meine Karrierechancen oder so, sondern einfach, was geht da eigentlich vor? Warum bin ich ich und nicht jemand anderes? Was passiert, wenn ich sterbe? Wo war ich, bevor ich geboren wurde? Was bedeutet es, ich zu sein? Und das ist eine Frage, die, wenn wir ehrlich sind, viele von uns beschäftigt.

37:23 Und der Versuch zu verstehen... woher diese Erfahrung rührt, Anil Seth zu sein, ich zu sein oder sie zu sein. Ich meine, genau das ist der Titel des Buches, Being You. Das war für mich ein riesiges Abenteuer. Und was wirklich verblüffend war, der Grundgedanke ist ja, dass das Erleben, ein Selbst zu sein, auf denselben Prinzipien beruht, nach denen auch unsere Erfahrung der Welt konstruiert wird.

37:50 Das Selbst ist also nicht dieses Ding im Kopf, das Informationen aus der Welt empfängt. Nein, die Erfahrung, ein Selbst zu sein, ist eine weitere Form der Interpretation durch das Gehirn, diesmal jedoch von sensorischen Signalen, die vor allem aus dem Inneren des Körpers kommen. Das Gehirn konstruiert diese Wahrnehmung des Selbst, also auf dieselbe Weise, wie es die Wahrnehmung eines roten Autos auf der anderen Straßenseite konstruiert.

38:14 Wenn man das selbst so begreift, wissen Sie, dann ergeben viele Dinge plötzlich einen Sinn. Viele Puzzleteile fügen sich zusammen. Man bekommt auch eine ziemlich gute Vorstellung davon, was es mit dem freien Willen auf sich hat. Und mir persönlich hat das einfach dabei geholfen, mich mit dem Gedanken sehr viel wohler zu fühlen, dass Und genau darum geht es in dem Buch im Kern.

38:34 Und gegen Ende des Buches komme ich auf einen Gedanken zu sprechen, den ich nach wie vor für richtig halte, dass bewusstes Erleben jeglicher Art ganz eng mit unserer Natur als Lebewesen verknüpft ist. Sehen Sie, Verdauung ist eine Eigenschaft des Lebens. Verdauung ist nichts, was ein Computer haben kann.

39:11 Und ich glaube, beim Bewusstsein verhält es sich womöglich genauso. Das vielleicht, und ich weiß das natürlich nicht mit Sicherheit, aber das ist ein weiterer Grund, warum ich skeptisch bin, was Bewusstseinsfähigkeit angeht. Dass es meiner Ansicht nach eine starke Verbindung gibt zwischen der Biologie, unserem Wesen als lebende Organismen und der Fähigkeit zu, Bewusstem erleben.

39:33 Und das ist eigentlich genau das, dem ich im Moment am liebsten nachgehen möchte. Wie können wir diese Behauptung wirklich untermauern? Wie kann ich das überprüfen? Wissen Sie, stimmt das, stimmt es nicht? Und für mich ist das extrem faszinierend. Da eröffnet sich ein ganz neues Forschungsfeld, sobald man diese Möglichkeit erst einmal ernst nimmt.

39:51 Aber wenn Sie sagen, Sie sehen es eher als ein sich veränderndes Wesen, glauben Sie dann auch, dass es nach dem Tod Bewusstsein geben kann? Oder ist es wirklich zwingend an lebende Wesen gebunden? Ich bin sehr skeptisch, was Bewusstsein nach dem Tod angeht. Natürlich, das ist eine jener Fragen, bei denen es unklug wäre zu behaupten, man sei sich hundertprozentig sicher, weil bisher noch niemand von der anderen Seite zurückgekehrt ist und berichtet hat.

40:18 Ja. Ja. Aber wenn wir, und dann gibt es da ja auch noch Dinge wie Nahtoderfahrungen, von denen Menschen berichten, was sehr faszinierend ist. Sie wissen schon, Menschen berichten von tiefem inneren Frieden, hellem weißem Licht und lauter solchen Dingen. Aber ich, wann immer ich versucht bin zu glauben, Bewusstsein könnte über den Tod hinaus fortbestehen, erinnere ich mich an Vollnarkosen.

40:45 Und da brauche ich nur sechs bis sechseinhalb Wochen zurückzudenken, Als ich zwar physisch gesehen nicht tot war, aber weil mein Gehirn auf ganz bestimmte Weise unterbrochen worden war, war ich einfach weg, da lief überhaupt nichts mehr ab. Und beim Tod scheint es mir viel plausibler, dass er genauso ist, nämlich wie das absolute Nichts.

41:13 Genauso wie es vor unserer Geburt war. Ich meine, da liegt doch eine wunderbare Symmetrie drin. Wir neigen ja auch nicht dazu, uns den Kopf darüber zu zerbrechen oder uns Sorgen zu machen um all die Tausenden, Millionen, Milliarden Jahre vor unserer Geburt, in denen wir schlicht nicht da waren. Warum also sollte, warum glauben wir, dass es nach unserem Tod eine Zeit geben wird, in der wir ohne unser Gehirn, ohne unseren Körper irgendwie weiter existieren?

41:35 Ich halte das für extrem unwahrscheinlich. Ich habe erst vor ein paar Wochen gelesen, dass es auch viele Menschen gibt, die gar keine innere Stimme haben. Ja. Da stellt sich doch die Frage, haben dann eigentlich alle um mich herum ein Bewusstsein? Sind sie bewusst? Ja. Ich denke schon, aber im Grunde ist das ein weiteres Projekt, an dem wir seit Erscheinen meines Buches arbeiten.

42:02 Und es ist wirklich ungeheuer spannend für mich. Es ist sozusagen, es stützt sich auf eine enorme Menge an Daten. Und wenn man Wahrnehmung nicht einfach als bloßes Ablesen der Welt begreift, wie sie tatsächlich ist, wenn man sich also auf den Gedanken einlässt, dass das, was ich erlebe, bis zu einem gewissen Grad von meinem eigenen Geist und meinem Gehirn abhängt, dann eröffnet sich die Möglichkeit, dass andere Menschen zwar durchaus bewusst sind, ihre Erfahrungswelt sich aber von meiner unterscheidet.

42:32 Womöglich nehmen sie Farben etwas anders wahr, womöglich empfinden sie die Zeit ein wenig anders. Wenn wir in den Himmel schauen und ich in einer Wolke ein Gesicht erkenne, sieht das jemand anderes vielleicht gar nicht oder sieht noch viel mehr darin. Und diese Art innerer Vielfalt die wir in meinem Team als perzeptive Diversität bezeichnen, meint jetzt nicht zwingend die Erforschung von Autismus im Sinne von Neurodiversität.

42:56 Mich interessiert, zumindest in diesem Projekt, vielmehr, wie wir uns alle in unserem ganz alltäglichen Erleben der Welt voneinander unterscheiden. Und mir und meinen Kollegen fiel vor einer Weile auf, dass wir das vermutlich radikal unterschätzen. Wissen Sie, äußerlich fällt uns Unterschiedlichkeit sofort ins Auge.

43:15 Körpergröße, Hautfarbe, Statur. Und selbst wenn wir finden, dass das keine Rolle spielen sollte, können wir diese Unterschiede sehen. Sie liegen ganz offensichtlich vor uns. Aber das innere Erleben ist anders, nicht wahr? Ich weiß nicht, wie genau es sich anfühlt, sie zu sein. Ich weiß nur, wie es sich anfühlt, ich zu sein.

43:33 Und für mich fühlt sich die Welt real an. Sie scheint auf eine Weise zu existieren, die völlig unabhängig von irgendwelchen Unterschieden zwischen mir und ihnen ist. Aber genau wie wir uns äußerlich unterscheiden, unterscheiden wir uns ganz sicher auch im Inneren. Und wir versuchen nun, das auf ein solides Fundament zu stellen.

43:50 Wir haben dieses riesige Experiment mit rund 40.000 Probanden durchgeführt, von denen jeder 50 verschiedene Tests gemacht hat. Ein gewaltiger Datensatz. Und genau das sehen wir. Alles variiert. welchen Aspekt der Wahrnehmung man sich auch anschaut, wir sehen keinen Standard, sondern eine Verteilung, genau wie diese klassische Glockenkurve bei der Körpergröße.

44:12 Manche Menschen sind sehr groß, manche sehr klein, die meisten liegen irgendwo dazwischen, aber wir sind verschieden. Und genau das gleiche Phänomen beobachten wir auch bei der Wahrnehmung. Ja, wir erleben die Welt also unterschiedlich. Und teilweise sogar gravierend unterschiedlich. Vielleicht noch eine andere Frage.

44:33 Sie haben wahrscheinlich auch von diesem Experiment gehört, weil Sie meinten, dass das Bewusstsein irgendwie an ein lebendes Wesen gebunden ist. Haben Sie von dem Experiment gehört, wo Sie das Gehirn einer Fruchtfliege hochgeladen haben und es sich praktisch genauso verhält wie das lebende Tier? Ist dieses hochgeladene Gehirn also gewissermaßen bewusst und wäre so etwas in Zukunft vielleicht bis zu einem gewissen Grad auch mit einem menschlichen Gehirn möglich?

45:01 Ja, also ich denke, die Sache mit, nun, die Fruchtfliege ist super faszinierend, weil sie im Vergleich zum menschlichen Gehirn ist ihres winzig. Aber sie ist immer noch ziemlich groß im Vergleich zu anderen, einfacheren Organismen, die erforscht wurden. Das Klassische... Tier, das man lange Zeit erforscht hat, ist C. elegans, ein Fadenwurm.

45:24 Der hat gerade mal um die 300 Neuronen. Die Fruchtfliege hat nun weitaus mehr Neuronen. Und ich finde, es ist eine echte technische Meisterleistung, ein Gehirn dieser Komplexität im Grunde vollständig zu erfassen und in einem Computer zu simulieren und nachzuweisen, dass diese Simulation tatsächlich vorhersagen kann, wie sich echte Fruchtfliegen in bestimmten Situationen verhalten.

45:52 Aber merken Sie, dass ich das Wort Simulation benutzt habe statt Hochladen, Dieses Hochladen ist nämlich ein ganz, das ist mit allen möglichen Konnotationen behaftet. Damit nimmt man die Antwort auf ihre Frage praktisch schon vorweg. Wenn ich mein Bewusstsein in die Cloud hochlade, setzt das doch fast voraus, dass ich selbst mitgehe, dass dieser Geist dort dann bewusste Erfahrungen macht.

46:13 Aber wenn ich, was weiß ich, die Luftströmung in einem Düsentriebwerk simuliere oder einen Hurrikan in einer Wettervorhersage, dann lade ich doch nicht das Wetter in den Computer hoch oder die Turbulenzen einer Turbine. Das passiert doch nicht dort drin. Ich simuliere es nur. Und wenn man etwas simuliert, selbst wenn man es bis ins allerkleinste Detail simuliert, dann erschafft man damit nicht das Ding selbst.

46:42 Die Simulation eines Wettersystems wird schließlich auch nicht nass. Was meiner Meinung nach bei dieser Simulation eines Fruchtfliegenhirns passiert, ist nicht, dass man das Bewusstsein einer Fruchtfliege, was auch immer das sein mag, auf einen Computer geladen hat und jetzt läuft da so eine kleine Fruchtfliegenerfahrung ab.

47:00 Nein, ich glaube, man hat da eher so etwas wie... eine Wettervorhersage. Man hat ein sehr detailliertes, sehr nützliches Computermodell, das uns helfen wird, zu verstehen, wie dieses Gehirn funktioniert. Und wissen Sie, das kann uns auch helfen, zu verstehen, wie komplexere Gehirne wie unseres funktionieren.

47:17 Aber es ist eine Simulation, es ist nicht die Sache selbst. Um auf die großen KI-Labore zurückzukommen, weil das ja gerade ein extrem heißes Thema ist, wo alle über AGI reden und wann wir soweit sein werden. Was muss sich Ihrer Meinung nach im Moment ändern, damit wir wirklich... Auf eine bessere Welt durch den Einsatz von KI hinarbeiten, statt zuzulassen, dass KI Teil unserer Gesellschaft wird oder gar Teil unseres Privatlebens und unserer Gefühle?

47:54 Ich denke, da könnte man vieles tun. Wissen Sie, ich bin überhaupt nicht gegen KI. Ich finde, sie ist schon jetzt. Sie ist eine fantastische, beeindruckende Technologie und es gibt da viele potenzielle Vorteile für die Produktivität, für das wissenschaftliche Verständnis und sogar dafür, dass sie uns dabei hilft, ganz alltägliche Dinge zu tun, wie die Steuererklärung schneller auszufüllen.

48:14 Und es könnte viele Vorteile geben, aber ich denke eben auch, dass es viele Risiken gibt. Und wir haben das ja schon beim Hugging-Face-Hack-Angriff gesehen und ähnlichen Vorfällen. Der erste Punkt ist also, das sind extrem mächtige Technologien. Es braucht bessere Regulierung und Kontrolle. Ein neues Medikament würden wir ja auch nicht auf die Menschheit loslassen, bevor es nicht gründlich getestet wurde.

48:37 Wir würden kein neues Flugzeug starten lassen, wenn wir nicht ziemlich sicher wären, dass es nicht vom Himmel fällt. Technologien wie KI selbst nur, weil es sich um Software handelt, heißt das nicht, dass wir da irgendwie sorgloser oder laxer sein sollten, was die nötigen Sicherheitsstandards angeht.

48:54 Und ich denke, das war bisher nicht der Fall. Ich glaube, die KI-Unternehmen wissen das selbst. Sie haben ja sogar nach Regulierung verlangt. Sie fühlen sich gefangen in diesem Zwang, so schnell wie möglich zu sein, wegen dieser Vorstellung von The winner takes it all, dass man der Beste sein muss, weil man sonst gar nichts ist.

49:11 Das ist also ein Punkt. viel mehr auf Sicherheit achten. Und ich denke, das muss von oben kommen, von Regierungen. Aber es hängt auch von der Kultur ab. Die Leute, die in diesen Branchen arbeiten, müssen einfach mehr Wert auf Sicherheit legen. Es gibt zwar viele gute Leute, die das tun, aber im Vergleich zu denen, die das Ganze noch weiter vorantreiben wollen, sind es immer noch recht wenige.

49:30 Der zweite Punkt ist, Ich finde, niemand sollte überhaupt versuchen, eine bewusste KI zu bauen. Ich glaube zwar nicht, dass sie das tun, aber ich halte es für eine verdammt schlechte Idee, es überhaupt zu versuchen, weil man dadurch einfach absolut gar nichts gewinnt. Und damit zusammenhängt, und das passiert ja tatsächlich, Ich halte es für brandgefährlich, KI-Systeme zu bauen, die den Eindruck erwecken, bei Bewusstsein zu sein.

49:57 Und davon sehen wir immer mehr. Wir erleben das jetzt schon. Sehr viele Menschen glauben bereits, dass KI-Systeme ein Bewusstsein haben. Sogar viele Experten, Leute wie Jeff Hinton, einer der Pioniere der KI, glauben, dass Sprachmodelle bewusst sein könnten. Ich halte das für gefährlich, denn es wird...

50:13 uns daran hindern, das Sicherheitsproblem zu lösen. Wir werden nicht, stellen Sie sich vor, man redet ja über so eine Art Killswitch, um ein KI-System notfalls abzuschalten. Im Moment verwenden wir den Begriff metaphorisch, aber was, wenn die Leute denken, das wäre buchstäblich gemeint? Wenn sie denken, oh, wenn ich...

50:31 Claude abschalte, töte ich in Wirklichkeit vielleicht eine Milliarde Wesen, Instanzen von Claude. Das könnte dann als echter Mord gelten. Womöglich dürften wir das gar nicht tun. Das könnte katastrophale Folgen dafür haben, wie wir mit dem umgehen können, was da auf uns zukommt. Aber ich halte es auch für unsere eigene Psyche für gefährlich.

50:51 Wenn wir nämlich glauben, dass KI-Systeme ein Bewusstsein haben, dann könnten wir, fürchte ich, ungesunde soziale Bindungen zu diesen Dingern aufbauen. Wir haben ja schon bei den sozialen Medien gesehen, was passiert ist. Mit Kai könnte das noch um ein Vielfaches schlimmer werden. Manche Leute haben jetzt schon Sprachmodelle als feste Freundin oder Freund.

51:14 Und das könnte unser gesellschaftliches Gefüge massiv erschüttern. Neulich gab es da eine Meldung in den Nachrichten. Eine andere Firma hatte nicht nur ein Sprachmodell generiert, sondern einen Video- und Audio-Avatar. den die Leute nicht mehr von einem echten Menschen unterscheiden konnten. Und das wurde dann quasi als riesiger Meilenstein gefeiert.

51:39 Wobei ich das für eine absolut furchtbare Sache halte. Ich finde, genau solche Technologien sollte man gar nicht erst erlauben. Gefälschte, künstliche Menschen. Das Ausbeutungspotenzial. Alte Menschen könnten manipuliert werden, ihre gesamten Ersparnisse herzugeben, wenn sie glauben, mit einem echten Menschen zu sprechen.

51:57 Wir würden dadurch extrem verwundbar. Wir wissen offengesagt nicht mehr, wem wir vertrauen können. Es gibt also definitiv Dinge, die man meiner Ansicht nach verbieten sollte. Und der generellste Punkt ist wohl, ich halte die ganze Erzählung, dass KI über allgemeine künstliche Intelligenz zu künstlicher Superintelligenz führt, für den falschen Ansatz.

52:19 Und das kommt von diesem zutiefst verankerten Narrativ, dass der Mensch seine eigenen Nachfolger erschafft, Gott spielt, unsere Nachkommen baut. Und ich glaube, wir verlieren dabei den Nutzen aus den Augen. Wir verlieren aus den Augen, wie wir mit KI umgehen sollen, wenn wir KI mit Menschen verwechseln.

52:43 Einer meiner Mentoren, Daniel Dennett, derselbe Philosoph, den ich vorhin erwähnt habe, Er hat immer gesagt, wir sollten nicht vergessen, dass KI-Systeme Werkzeuge sind und keine Kollegen. Und da stimme ich auch dem CEO von Microsoft AI zu, Mustafa Suleiman. Er hat einen humanistischen Verhaltenskodex für KI vorgeschlagen.

53:03 Und die Kernbotschaft darin ist ganz einfach und ich finde, sie sollte völlig unstrittig sein. Er sagte nämlich, dass Menschen wichtiger sind als Maschinen. Und wenn wir das beherzigen, werden wir das auch meistern. Ich glaube, dafür ist es irgendwie schon zu spät. Also zumindest habe ich das Gefühl, denn wie du schon sagtest, haben immer mehr Leute quasi feste Freundinnen oder Freunde, die einfach nur große Sprachmodelle sind, die mit ihnen chatten.

53:31 Aber diese Erfahrung ist so gut und so liebevoll, dass sie einfach weitermachen. Sie reden mit denen, als wären sie ihr richtiger Freund. Und wenn ich jetzt an die unglaublichen Dinge denke, die wir gerade mit Robotik und Humanoiden machen, dann sehe ich, dass ziemlich sicher schon in fünf bis sechs Jahren kommen, wo wir humanoide Roboter haben, die wie echte Menschen aussehen.

53:59 Und das dann kombiniert mit einem großen Sprachmodell, das einfach wie ein ganz normaler Mensch mit dir redet. Warum sollte man sich dann den Stress antun, eine Freundin oder einen Freund zu suchen, der vielleicht nicht wirklich alles mag, was man tut und sich nicht unbedingt so verhält, wie man es gern hätte?

54:18 Ich glaube wirklich, da ist Potenzial da, dass das zum Untergang der Menschheit führen wird. Ja, und wie würdest du dem entgegenwirken? Du meinst ja, es könnte zu spät sein, aber was sollte man deiner Meinung nach tun? Ich neige dazu, dir zuzustimmen. Ich glaube auch, dass die Entwicklung genau dahin geht.

54:36 Aber sollten wir einfach klein beigeben oder gibt es Antworten, die wir als Gesellschaft aufbringen können? Ja, das ist eine gute Frage. Ich denke da auch viel drüber nach, habe aber keine klare Antwort, weil ich natürlich auch die Vorteile sehe. Also wenn es darum geht, mit der KI so zu sprechen, dass sie freundlich ist, dann denke ich zum Beispiel an alte Leute, die niemanden mehr haben.

55:01 Ich meine, da ist das schon irgendwie eine Lösung, die gut für sie ist, oder? Aber eben nicht so allgemein für jeden gesprochen, aber... Ganz generell die Vorteile von KI wie, keine Ahnung, Langlebigkeit oder Weltraumforschung, neue Werkstoffe, neue Medikamente überwiegen im Moment so ein bisschen die Risiken, meiner Meinung nach.

55:27 Ich meine, ich hoffe, du hast recht. Ich denke, ja, es gibt viele positive Seiten. Und ja, ich denke, Vorteile, entschuldige. Ich denke, Fortschritte in der Medizin sind besonders spannend. Weißt du, das Potenzial fürs Wirkstoffdesign und so weiter. Ich finde, das ist wirklich, das ist extrem spannend.

55:47 Aber ich mache mir schon Sorgen, dass wir nicht genug tun, um genau die Schattenseiten zu minimieren, von denen du sprichst. Und ein Teil davon scheint mir kulturell bedingt zu sein. Ich reagiere ganz instinktiv mit starker Abneigung darauf, wenn Leute Avatare erschaffen, die extrem menschlich wirken.

56:08 Weil ich einfach nicht, ich glaube, das kann sehr, sehr schädlich sein. Und ich glaube nicht, man findet vielleicht ein paar Anwendungsfälle, alte Leute vielleicht, die wirklich niemanden haben. Aber auf jede alte Person, die wirklich niemanden hat, kommen etliche, die durchaus Familie haben, die Freunde haben, sie dann aber links liegen lassen.

56:23 Und die am Ende vielleicht von Betrügern ausgenutzt werden, die solche Avatare nutzen, um sie zu überreden, weißt du, ihre Ersparnisse rauszurücken und so weiter. Und am Ende spaltet man einfach Menschen, die Gesellschaft. Was mir dabei auffällt ist, weißt du, wie in der Biologie, wenn man da sagen würde, ich baue jetzt so eine neue Art von biologischer Waffe, ich entwickle ein neues Virus und lasse es auf die Welt los, würde jeder denken, nein, das ist schrecklich, mach das bloß nicht.

56:53 Wir dürfen, sowas sollten wir einfach nicht tun. Aber wenn Leute KI-Systeme bauen, die scheinbar nicht von bewussten menschlichen Wesen zu unterscheiden sind, dann bleibt so eine Reaktion immer noch die Ausnahme. Statt aus der Gesellschaft verstoßen zu werden, sammelt man am Ende locker 100 Millionen Pfund ein.

57:10 Und ich finde, das läuft schief. Ein Teil davon liegt also, glaube ich, bei uns, weißt du, nicht bei dir und mir, sondern bei uns als Kollektiv, darüber nachzudenken, was wir kulturell für akzeptabel halten. Damit wir am Ende mit, naja, dem Geld, das wir in diese Firmen investieren, die richtigen KI-Anwendungen fördern und die gefährlicheren und disruptiveren eben nicht unterstützen.

57:39 Aber genau das ist, glaube ich, die Herausforderung, dass die Leute im Moment gar nicht, sie sind oft viel zu abgelenkt. Ich spreche jetzt nicht für alle, aber dieser ganze Fokus darauf, ob KI ein Bewusstsein hat oder die Weltherrschaft übernimmt, ob es eine 10-prozentige Chance gibt, dass alle Menschen ausgelöscht werden, ich glaube, das lenkt uns massiv ab von, den Problemen, die wir jetzt schon lösen können.

58:00 Und das sind Probleme wie, weißt du, eben, ja, wie KI-Systeme die Gesellschaft massiv zerrütten können, wie sie durch Cyberangriffe und so weiter Chaos anrichten könnten. Die sind in gewisser Hinsicht ein bisschen langweiliger, weil wir eben nicht über Bewusstsein und ewiges Leben und den Untergang der Menschheit reden, aber sie sind extrem wahrscheinlich und passieren tatsächlich schon längst und wir müssen unseren Fokus wieder auf diese Probleme richten.

58:26 Ich glaube, das Hauptproblem hier ist einfach, dass es so verdammt schnell geht. Also die Technologie beschleunigt sich so unglaublich schnell und wird von Tag zu Tag einfach immer besser. Und was ich dabei ständig unterschätze, ist, wie wenig die Leute um mich herum über KI wissen. Die nutzen das immer noch auf einem Niveau, wo sie fragen, wie morgen das Wetter wird.

58:49 Oder bitte rechne 20 plus 30 plus 50 zusammen. Wir sind halt, also du und ich, wir leben ja in so einer Tech-Bubble. Wir sehen, was gerade passiert und wir sind halt immer auf dem neuesten Stand. Wir wissen genau, okay, das ist die neue Entwicklung, das ist das neue Modell, das hier kann es, das ist da passiert, das ist dort passiert.

59:09 Aber 99,9 Prozent der Menschen... haben echt keine scheiße Ahnung, was da bei der KI abgeht. Und genau das ist das Problem. Während sie noch aufzuholen versuchen und kapieren, okay, das könnte gefährlich werden, ist die Technologie an dem Punkt schon wieder 50 Jahre voraus weitergezogen. Und ich glaube, ich bin mir echt nicht sicher, wie wir das lösen können.

59:35 Es stimmt schon, dass es sich anscheinend rasend schnell bewegt. Ich meine, mir geht das ja genauso. Ich bin vielleicht nicht ganz so zuversichtlich wie du, wenn es darum geht, ganz genau zu wissen, was da abgeht. Weißt du, manche meiner Studierenden nutzen Sprachmodelle auf eine viel ausgeklügeltere Art, als ich das tue.

59:51 Und ich finde, das ist ein sehr guter Punkt. andererseits ist mir schon klar, dass ich ja trotzdem wahrscheinlich viel mehr weiß als die meisten über die Fähigkeiten dieser Systeme, wie sie aufgebaut sind. Und weißt du, ich interessiere mich ja auch für die tiefere Mechanik dahinter. Also okay, wie werden Basismodelle eigentlich trainiert?

1:00:08 Gibt es bessere Wege, diese Modelle zu trainieren? um, was weiß ich, weniger Fehler zu machen und vielleicht kleinere Modelle zu haben, statt so monolithischer, riesiger Frontier-Modelle. Können wir Probleme wie kontinuierliches Lernen und ähnliche Dinge lösen? Es passieren da also unheimlich viele Dinge.

1:00:29 Ich glaube, für mich gibt es da diese interessante psychologische Beobachtung. Die Leute reden ja oft davon, dass Technologie sich exponentiell schnell verändert. Und bei einer Exponentialkurve sieht alles vor einem unfassbar steil aus und alles hinter einem komplett flach. Und das, ich meine, wir haben das ja bei der Pandemie gesehen, oder?

1:00:51 Also schon der Anstieg der Fallzahlen. Man dachte so, naja, was vorher war, war einfach völlig flach. Und was ist denn das jetzt hier? Und das ist eben eine Eigenschaft von Exponentialfunktionen. Und unsere Psyche, unser Verstand ist denkbar schlecht dafür gerüstet, mit solchen Dingen umzugehen. Und ich glaube, das ist ein Grund, warum es verdammt schwer ist, für mich jedenfalls zu wissen, wie weit ich meiner Intuition trauen kann, dass sich alles anscheinend schneller bewegt als früher.

1:01:17 Weil auf einer Exponentialkurve jeder Punkt genauso aussieht. Ganz egal, wo du gerade stehst, wo auch immer du auf dieser Kurve bist, vor dir wirkt immer alles unfassbar steil und hinter dir bedeutungslos flach. Deshalb fällt es mir ziemlich schwer, das zu beurteilen. Aber du hast schon recht, dass ein Teil des Problems definitiv die Kompetenz im Umgang damit ist.

1:01:39 Und ich glaube, da lauert noch eine Gefahr. Ich weiß, wir haben vorhin schon ein bisschen über die Schattenseiten gesprochen, aber eine weitere Gefahr, die mir große Sorgen macht, ist der kognitive Abbau. Also... Je mehr wir KI-Systeme dazu nutzen, das Denken für uns zu übernehmen, desto weniger, zumindest potenziell, werden wir fähig sein, selbst zu denken.

1:02:04 Und es gibt da anscheinend schon erste Hinweise beim KI-Einsatz an Schulen. Es liegt in der menschlichen Natur, den Weg des geringsten Widerstands zu gehen. Und wissen Sie, ich habe heute einfach Glück, dass es diese Systeme in meiner Schulzeit noch nicht gab. Ich musste nämlich lernen, Dinge mit meinem eigenen Verstand, mit meinem eigenen Kopf zu lösen.

1:02:23 Und wenn die weit verbreitete Nutzung dieser KI-Systeme dazu führt, dass die Leute sie nicht nur für sich denken lassen, sondern sie in der Ausbildung so einsetzen, dass sie überhaupt nie richtig lernen zu denken, dann halte ich das für extrem gefährlich für die Gesellschaft. Gab es da nicht erst vor ein paar Wochen eine Studie, die besagte, dass die Millennials, die die letzte Generation waren, bei der der IQ noch gestiegen ist und seither jede Generation danach einen Rückgang beim IQ verzeichnet?

1:02:59 Ich weiß nicht, die kenne ich gar nicht. Die Daten, von denen ich gehört habe, sind viel, viel aktueller. Da geht es eher darum, was gerade jetzt passiert. Wissen Sie, an Schulen, wo... Wissen Sie, ich erlebe das ja auch an der Uni. Ich unterrichte an einer Universität. Nicht viel, aber ab und zu gebe ich dort Seminare.

1:03:19 Und jetzt stehe ich vor dem Problem, wurde diese Arbeit jetzt von einem Sprachmodell geschrieben oder von einem Menschen, verstehen Sie? Und wie sehr spielt das überhaupt eine Rolle? Kollegen von mir, die Konferenzen leiten, bekommen Einreichungen für ihre Konferenzen, die im Grunde fast nur von KI generiert wurden.

1:03:39 Und man weiß überhaupt nicht mehr, ob die Person, deren Name draufsteht, auch nur irgendwas davon versteht. Wissen Sie, ich bekomme mehrmals täglich E-Mails mit neuen Theorien zum Bewusstsein. Aber diese neuen Theorien wirken einfach komplett KI generiert und sie taugen ausnahmslos überhaupt nichts. Ich mache mir da schon Sorgen.

1:04:00 Sagen Sie eigentlich Bitte und Danke, wenn Sie mit einer KI chatten? Manchmal schon, muss ich zugeben. Und da ist irgendwie … Wissen Sie, für bestimmte Dinge finde ich diese Tools extrem nützlich. Extrem nützlich. Und wissen Sie, obwohl ich nicht glaube, dass sie ein Bewusstsein haben, erwische ich mich manchmal dabei, wie ich trotzdem so mit ihnen rede, als hätten sie eins.

1:04:24 Alles andere würde sich einfach unnatürlich anfühlen. Also sage ich ab und zu bitte und danke. Und das kann tatsächlich sogar nützlich sein, weil Sprachmodelle auf bestimmte Prompts ganz eigen reagieren. Wenn man sagt, denk genau nach, dann strengen sie sich mehr an und so weiter. Aber in anderer Hinsicht ertappe ich mich immer wieder.

1:04:40 Also zum Beispiel, naja, ich fange vielleicht ein Gespräch mit einem Sprachmodell über ein Thema an, kriege eine Antwort und widme mich dann einfach was anderem. Und dann greife ich das eine Woche später genau an der Stelle wieder auf. Wenn ich das mit einem echten Menschen machen würde, wäre das extrem unhöflich.

1:04:54 Das wäre so wie, du hast einfach mitten im Satz aufgehört und jetzt erwartest du, dass wir nach einer Woche... Nein, sowas macht man nicht. Da sagt man, tut mir leid, dass ich mich nicht gemeldet habe oder sowas in der Art. Aber bei einem Sprachmodell ist das für mich nicht, ich sage, wenn ich zu einem Chat zurückkehre, sage ich nicht, oh sorry, ich war eine Woche weg.

1:05:12 Man schreibt einfach weiter. Und das fühlt sich für mich immer noch komisch an. Ich frage mich, wann sich das mal normal anfühlt. Es wird sich normal anfühlen, denke ich. Aber das ist im Moment das Einzige, was mir dabei auffällt. Ja, ich hatte vor ein paar Wochen oder ja, vor zwei Wochen die Situation, dass das Sprachmodell irgendwie sauer auf mich wurde, weil ich bei einem Problem total nachgebohrt habe und unbedingt diese Lösung haben wollte und echt Druck gemacht habe.

1:05:42 Und es wurde irgendwie pampig und sogar, also in der, man hört so eine Veränderung in der Stimme des Sprachmodells, wo es dieses beleidigte Verhalten quasi imitiert. Das war echt eine völlig abgefahrene Erfahrung. Hm. Ja, von sowas habe ich auch schon gehört. Ich habe von dieser Sache gehört, dass... Ich glaube, bei einem der neuesten Spitzenmodelle gab es dieses Phänomen der Tokenangst.

1:06:06 Die Modelle haben sich verhalten, als hätten sie Angst, dass ihnen die Tokens ausgehen. Und sie haben tatsächlich mitten in einer Aufgabe aufgehört, noch bevor sie die verfügbaren Tokens verbraucht hatten, weil intern irgendwie der Schluss gezogen wurde, wäre nicht gut, alle aufzubrauchen. Also hat es einfach...

1:06:21 abgebrochen. Und Modellermüdung gab es auch. Modelle, die behauptet haben, sie seien müde. Und ich, das... Oder sie versuchen, dich ins Bett zu schicken. Das hatte ich auch schon. Nein, du hast genug gearbeitet für heute. Geh ins Bett. Nein, ich bestimme, wann ich genug habe. Ja, und was ich bei solchen Dingen eben nicht weiß und was mich, wissen Sie, was ich extrem spannend finde, ist, wie viel davon ist einfach nur emergentes Verhalten, wenn man diese Sprachmodelle auf riesigen Datenmengen trainiert oder vortrainiert.

1:06:52 Denn bei jeder neuen Generation dieser gewaltigen vortrainierten Spitzenmodelle stammt ein Großteil der Daten ja inzwischen aus den bisherigen Interaktionen mit Nutzern. Da werden ja nicht bloß, wissen Sie, neue Bücher reingefüttert und so weiter. Wie viel davon entsteht, Einfach nur durch... das Pre-Training damit und wie viel liegt am Post-Training, also Reinforcement Learning, Fine-Tuning, wo man dem Modell ganz gezielt Feedback gibt, sich auf genau diese oder jene Weise zu verhalten?

1:07:21 Ich glaube, die Antwort auf diese Frage ist extrem wichtig, um zu verstehen, wie wir diese Systeme am besten steuern. Wissen Sie, wollen wir überhaupt, dass sie sich so verhalten, dass sie sauer werden oder einem sagen, man soll ins Bett gehen oder einfach aufhören, weil sie sich in Anführungszeichen müde fühlen?

1:07:37 Wenn das Wenn das einfach nur durch das Pre-Training passiert, wird es verdammt schwer zu verhindern sein. Aber wenn es ganz konkret am Post-Training liegt, dann lässt sich das womöglich leichter in den Griff bekommen. Anil, vielleicht noch eine letzte Frage, denn die stelle ich jedem Gast. Was ist Ihre gewagteste Prognose für die nächsten 20 Jahre?

1:07:55 Ach du meine Güte. Meine gewagteste Prognose für die nächsten 20 Jahre ist... Das ist echt eine verdammt schwere Frage. Wissen Sie, ich weiche mal auf ein ganz anderes Gebiet aus, weil ich mich damit wohler fühle, als in Bereichen Vorhersagen zu treffen, von denen ich gar keine Ahnung habe, wenn es um 20 Jahre in die Zukunft geht und noch dazu gewagt sein soll.

1:08:24 Und zwar, ich glaube, wir werden Kernfusionsenergie haben. Endlich. wissen Sie, wird sich unsere Gesellschaft massiv verändert haben. Ich bin da optimistisch. Ich glaube, das ist eine optimistische, gewagte Prognose. Die Gesellschaft wird sich völlig umgekrempelt haben, weil wir quasi unbegrenzte Energie haben werden.

1:08:47 Das kann gut sein und schlecht, aber unterm Strich eher gut als schlecht, denke ich. Ich halte es für eine gewagte Vorhersage, weil die Leute das schon so ewig predigen. Sie gilt also immer noch als ziemlich radikal. Perfekt. Vielen herzlichen Dank. Ich werde das Buch, Ihr Buch, in den Shownotes verlinken.

1:09:02 Und vielen Dank für Ihre Zeit. Danke, Sascha. War mir ein Vergnügen. Vielen Dank.