Wann übernimmt Künstliche Intelligenz die Weltherrschaft, Christian J. Meier?

0:00 Ich frage die KI auch manchmal, wie kann ich die Geschichte X aufbauen? Oder was sind die Stärken von dem Protagonisten und seine Schwächen und sowas? Also sowas frage ich die auch, ja. Aber ich nehme das nur als Vorschlag und setze das selten genauso um. Das ist wie so Ping-Pong spielen oder wie Brainstorming ein bisschen.

0:17 Und so stelle ich mir das vor, dass man eben KI als Werkzeug benutzt und als Hilfsmittel, um dann Entscheidungen zu treffen. Hallo und willkommen zum RiffReporter Podcast. Hier erzählen wir euch von unseren Recherchen. Die RiffReporter sind eine Genossenschaft von über 100 Journalistinnen und Journalisten, die nicht nur berichten, was an der Oberfläche treibt, sondern tief abtauchen in die Themen.

0:42 Mein Name ist Marcus Anhäuser. Schön, dass ihr dabei seid. 2023 war das Jahr der KI. Plötzlich war künstliche Intelligenz in aller Munde und auf allen Computern. Maschinen schreiben seitdem Texte oder kreieren Bilder, die oft besser sind als all das, was viele Menschen zustande bringen. Plötzlich poppen überall neue Anwendungen auf, die auf künstlicher Intelligenz basieren.

1:10 Zugleich gibt es Warnungen, selbst von den Machern der KI, dass uns da etwas über den Kopf wächst. Die Horror-Szenarien aller Terminator und der Roboter-Weltherrschaft erscheinen plötzlich gar nicht mehr so unrealistisch. Doch zuletzt war es wieder etwas ruhiger geworden. War das alles nur ein Sturm im Wasserglas?

1:30 Hat sich KI schon wieder erledigt oder kommt da noch der große Knall? Das sind all die Fragen, die uns hoffentlich mein Riff Reporter-Kollege Christian Meyer beantworten kann. Er ist promovierter Physiker, hat kurze Zeit in der Software- und Verlagsbranche gearbeitet und ist seit fast zwei Jahrzehnten als freier Journalist unterwegs.

1:48 Er schreibt Artikel für die Riff Reporter, aber auch für die Neue Zürcher Zeitung oder die Süddeutsche Zeitung. Er verfasst Kurzgeschichten und Romane und das alles über technische Entwicklungen wie Nanotechnologie, Quantencomputer oder eben künstliche Intelligenz. Schön, dass du da bist. Hallo und willkommen, Christian Meyer.

2:06 Hallo Markus, schön hier zu sein. Christian, wann hast du deine letzte KI-Anwendung benutzt? Heute früh habe ich eine Sprach-KI benutzt für die Recherche, wie ich das hin und wieder gerne mache. Es ist so ähnlich wie früher Wikipedia, wo man ein bisschen einsteigt in die Recherche und das dann von da ausgehend vertieft.

2:32 Da nutze ich jetzt auch die KI und frage zum Einstieg in ein Thema, um was geht es da und was sind da die wichtigsten Aspekte. Was nutzt du da, wenn ich fragen darf? Das war jetzt Perplexity. Ich nutze aber auch gern Chiminey von Google und Chattability. Also ich wechsle die so ein bisschen, um auch die Unterschiede zu sehen.

2:56 Und dann stellst du eine Frage, erzähl mir was zum Thema Nanotechnologie und dann kriegst du irgendwie einen Artikel und da weißt du dann, mit umzugehen. Wie gehst du mit sowas um? So ähnlich ist das vielleicht nicht ganz so abstrakt, aber ich nehme das nicht wörtlich. Ich nehme das ähnlich wie bei Wikipedia als Einstieg und als Vorschlag und als Quellenangaben, die ja Perplexity auch gibt, um von da ausgehend weiter zu recherchieren.

3:28 Das ist einfach so ein Tor. Das ist eine Sache, wofür ich die KI dann nutze. Also man muss immer im Hinterkopf behalten, dass da ja auch Halluzinationen, nennen wir das, drin sein können. Also dass die KI etwas erfindet, weil in dem Bestreben etwas zu antworten, erfindet sie einfach Fakten manchmal. Und man darf das nicht so für bare Münze nehmen alles.

3:52 Aber meistens stimmt es und liefert so einen ganzen ersten Überblick über ein Thema. Und warum nimmst du da die KI und nicht dann Wikipedia? Ja, das ist, weil die tatsächlich das knapper darstellt, also übersichtlicher oft auch und verständlicher auch. Also sie schreibt ganz gut, finde ich. Also es liest sich gut. Gut, manchmal stimmt es nicht, aber es liest sich schon mal gut.

4:19 Das ist schon so ein Vorteil, finde ich. Also weil die Wikipedia-Artikel oft ein bisschen in Expertendeutsch geschrieben sind und ein bisschen zu ausführlich manchmal. Also das ist für meinen Geschmack, also ich will das jetzt nicht kritisieren. Jetzt bist du Technikjournalist, der sowieso schon seit 20 Jahren über das Thema schreibt.

4:40 Da ist es jetzt gar nicht so verwunderlich, dass du heute Morgen schon KI benutzt hast. Aber tatsächlich ist es ja so seit letztem Jahr, mehr oder weniger tatsächlich ab Ende 2022, ist ja KI bei uns allen im Alltag angekommen, ist uns bewusst geworden, dass es da eine Technologie gibt, die irgendwie eine Menge kann.

5:01 Was war das letztes Jahr, als plötzlich überall künstliche Intelligenz aufgetaucht ist und die Leute Texte selber geschrieben haben, ihre Bilder, ihre KI-Bilder auf Social Media geteilt haben? Kannst du uns das mal irgendwie einordnen, was da passiert? Also ich glaube, dass das tatsächlich erst ein Bewusstwerdungsprozess war.

5:20 Also KI gab es vorher schon, gab es auch im Alltag schon, bei Bildverarbeitung zum Beispiel, im Smartphone, wenn da der Hintergrund unscharf gemacht wird, wo man das eigentlich Motiv besser sieht zum Beispiel, oder Gesichtserkennung, Objekterkennung. Also das war vorher eigentlich schon durchaus schon auch im Alltag, nur dass man das nicht so wahrgenommen hat.

5:44 Und dadurch, dass Chachipiti dann kam, hat die KI plötzlich zu einem gesprochen. Und das wie ein Mensch fast, sage ich mal. Und das hat irgendwas gemacht in der Wahrnehmung von KI. Also gar nicht so sehr in der tatsächlichen Präsenz, sondern in der Wahrnehmung meines Erachtens. Wobei man schon sagen muss, dass diese Sprach-KIs auch einen Sprung in der KI-Entwicklung darstellen.

6:12 Also das war schon ein großer technischer Sprung auch. Wollte ich gerade fragen. Ende '22 kam das raus mit OpenAI und Chachipiti. Und dann gab es die Bildgeneratoren Dolly und wie die alle heißen Midjourney, was dann kam. Und für Lion sah das tatsächlich aus wie, das war jetzt wirklich ein großer Sprung.

6:30 Jetzt bin ich selber Wissenschaftsjournalist und ich bin kein Technikjournalist, schreibe also nicht über KI-Themen. Aber KI-Themen erschienen mir immer so wie so ein ewiges Versprechen. Das wird es in naher oder ferner Zukunft einmal geben. Das wird möglich sein. Und jetzt plötzlich lasse ich mir Forschungsartikel von einer KI verständlich zusammenfassen.

6:50 Löst KI jetzt das ein, was die Macher immer versprochen haben? Oder habe ich da einen völlig falschen Eindruck? Nein, das stimmt schon. Also KI, den Begriff gibt es ja schon seit dem Ende der 50er Jahre, glaube ich. Da wurde der erfunden bei einer Konferenz in den USA. Die dachten damals, man würde eine KI innerhalb von ein paar Monaten entwickeln können, wenn man die klugsten Köpfe auf dem Feld zusammensetzt.

7:14 Und das hat sich so nicht erfüllt. Das dauert jetzt dann doch ein bisschen länger, sage ich mal. Es gab einige Zeiten, wo es viele Fortschritte gab und dazwischen dann immer sogenannte KI-Winter, wo das Ganze dann wieder eher stagniert ist, was jetzt die KI wahrnehmbarer macht. Und wo die Fortschritte jetzt schneller gehen, ist vor allem die Verfügbarkeit von großen Datenmengen und hoher Rechenkapazität. Die beiden Ingredientien geben der KI so einen Schub.

7:45 Also die Technik, die wir da heute nutzen, war zum Teil schon, dass ich jetzt nicht lüge, in den 80er, 90er Jahren da. Aber dass man die jetzt so breit und so intensiv anwenden kann, das kam durch diese Rechenpower und durch die Verfügbarkeit von Daten, die jetzt Google oder solche Firmen haben, riesige Datenmengen zur Verfügung, mit denen sie die KI trainieren können.

8:11 Und das hat dann so eine Bremse gelöst, um unzählige Anwendungen im Alltag, aber auch in der Wissenschaft oder in der Medizin zu entwickeln. Und da ist jetzt schon einiges weitergegangen. Das gab es jetzt schon wieder, als jetzt Chatship IT kam und so, gab es ja, wie du das auch in der Anmoderation gesagt hast, Sorgen, dass jetzt bald die Superintelligenz kommt oder so eine Intelligenz im Terminator-Style, das ist nach wie vor weit entfernt, meines Erachtens.

8:41 Aber wenn ich da gerade reingehe, es gab ja trotzdem selbst von Machern, von Forschern, von Google, von wer, ich weiß gar nicht, wer da alles dabei war, die da ein Moratorium forderten letztes Jahr, weil da wächst uns was über den Kopf. Da ist was entstanden, was wir nicht mehr kontrollieren. Wir blicken da gar nicht mehr rein.

9:01 Letzte Woche gab es im Spiegel ein Interview mit der KI-Koryphäe Geoffrey Hinton, der geschrieben hat, ja, wir sollten eigentlich alle ängstlich sein. Und er hat mitgeholfen, ein Monster zu kreieren. Was ist da los? Warum warnen die plötzlich so? Sind die einfach nur überrascht von ihrem eigenen Erfolg?

9:20 Oder ist das Marketing? Oder was ist das? Ich würde sagen, beides ein bisschen. Tatsächlich ist da Überraschung mit drin, vor der eigenen Technologie, würde ich sagen. Diese Sprachmodelle wie GPT, die markieren schon einen technischen Fortschritt. Und die haben dann plötzlich Fähigkeiten gezeigt, mit denen man überhaupt nicht gerechnet hat.

9:40 Wie du hast schon erwähnt, Texte zusammenfassen oder so. Man gibt denen zwei, drei Beispiele von Übersetzungen. Man sagt ihnen, der Satz auf Französisch heißt so und der entsprechende Satz auf Deutsch heißt so. Da gibt man denen zwei, drei Beispiele. Man könnte auch andere Sätze vom Französischen ins Deutsche übersetzen.

9:58 Also so ein Lernen mit wenigen Beispielen oder in-context-Learning, wie man das nennt. Also da gab es mehrere Fähigkeiten, mit denen man überhaupt nicht gerechnet hat. Man erklärt die dann mit schillerndem Begriff "Emergenz", was ja bedeutet, dass das Ganze mehr ist als die Summe seiner Einzelteile. Also man hat eine große Rechenkapazität, viele Daten.

10:23 Und dabei entstehen Fähigkeiten, die man nicht versteht, wo man nicht genau weiß, wie die zustande kommen. Das hat auch damit zu tun, dass diese KIs, wie man sie heute nutzt, quasi einen Blackbox-Charakter haben. Also man versteht nicht, wie die von der Eingabe zur Ausgabe kommen. Also man gibt was ein und die KI antwortet mit irgendwas.

10:44 Und dazwischen, was da genau passiert im Einzelnen, im Detail, das versteht man, sagen wir nur teilweise. Und das Moratorium, das du erwähnt hast, das hebt auch auf diesen Blackbox-Charakter an. Und jetzt war die Sorge, wenn man diese KIs jetzt noch größer macht, also mit noch mehr Rechenpower ausstattet, mit noch mehr Daten füttert, dass dann immer mehr solcher Fähigkeiten aufpoppen, wie man sie eigentlich auch vom Menschen her kennt.

11:12 Und dass dann irgendwann so eine Superintelligenz entsteht. Und deswegen haben die durchaus, also meiner Meinung nach, ist das auch eine Motivation, zu sagen, wir müssen da erstmal bremsen. Dann gibt es noch, wie du erwähnt hast, diesen Marketing-Aspekt, der spielt schon auch eine Rolle. Man macht diese KIs natürlich interessanter, indem man sagt, wow, die können so Sachen, mit denen haben wir gar nicht gerechnet.

11:36 Wenn wir die noch größer bauen, wer weiß, was die können werden. Und wir müssen da aufpassen. Das ist natürlich wow. Guck mal her, was wir für eine tolle Maschine gebaut haben, was die alles kann. >> Da waren ja auch Forscher dabei und Forscherinnen, dass Wissenschaftlerinnen und Wissenschaftler selber davor waren und vor den Ergebnissen der eigenen Forschung, das hat es ja noch nicht so oft gegeben.

11:59 Also es gab es im Zusammenhang mit der Kernspaltung, die Warnung vor der Atombombe, das gab es im Zusammenhang mit Gentechnik, da war dieses Treffen in, wie ist es noch, Assimular, das war so in den 70er Jahren. Zuletzt gab es Ähnliches im Zusammenhang mit Chris Bacass, der Genschere und der Sorge vor Designerbabys.

12:18 Und jetzt eben die KI-Forscher. Und das hebt das Ganze ja schon so ein bisschen in Richtung, Achtung, hier droht uns, in Anführungszeichen, eine Atombombe. Ist das so? >> Ja, das ist eine ganz schwierige Frage. Also es ist schon eine sehr mächtige Technologie, wo man noch nicht weiß, auch beim jetzigen Entwicklungsstand, wie sich die auf die Gesellschaft auswirkt.

12:42 Also man kann jetzt zum Beispiel ja sagen, könnte sich auf dem Jobmarkt stark auswirken. Und uns Journalisten betrifft es ja zum Beispiel stark, wenn es da KIs gibt, die gut schreiben. Und auch andere Kopfarbeiter werden ja durch solche KIs teilweise, ich sage jetzt mal, überflüssig gemacht, wobei ich das nicht so sehe.

13:02 Aber die Sorge kann man haben. Die aktuelle KI kann schon massive Auswirkungen haben auf die Arbeitswelt, auf die Verbreitung von Desinformation ja auch, weil so eine KI natürlich auch in Massen Desinformation erzeugen könnte. Oder Deepfakes, also Videos von Politikern, die nicht echt sind, wo die was sagen, was sie nie gesagt haben und so weiter.

13:26 Und das weiß man eben nicht, wie das jetzt sich auswirken wird. Was aber noch, wie ich schon gesagt habe, noch weit weg ist, ist so eine Superintelligenz. Also dass das jetzt wirklich eine menschenähnliche Intelligenz ist oder eine best sogar eine dem Menschen überlegene Intelligenz, die dann nicht mehr kontrollierbar ist.

13:47 Dazu muss die KI Entwicklung noch große Schritte machen. Und vor allem meinen viele Forscher, das wird nicht passieren, wenn man KIs hat, die mit Hilfe von Rechenpower auf Basis von vielen Daten lernen, weil das im Grunde eine statistische Auswertung dieser Daten ist und noch keine Intelligenz so grob gesagt.

14:07 Lassen wir uns da eigentlich ein bisschen sehr beeindrucken, weil diese generative KI, die jetzt gerade so alle beeindruckt, ja eigentlich nur, sag ich mal, Textgeneratoren sind, die Texte erzeugen, die so aussehen, als hätte irgendwas Intelligentes das Ding produziert. Dabei sind es ja nur Wortwahrscheinlichkeiten, die da irgendwie genutzt werden, um sinnvolle Texte zu erzeugen.

14:31 Ja, das berührt jetzt so ein bisschen diese Frage, was eigentlich Intelligenz ist. Ich denke, dass eher vom Ergebnis her, wenn die KI einen guten Artikel schreibt, der fundiert recherchiert ist, also so weit ist es meines Erachtens noch nicht und wo die Quellen stimmen, wo die Behauptungen stimmen und so weiter.

14:50 Oder einfach, wenn sie eine gute Geschichte schreibt oder wenn der Bildgenerator ein tolles Bild macht, dann haben ja die entsprechenden Berufe schon mal irgendwie, sag ich mal, erstmal ein Problem. Ob das jetzt nur eine Wortwahrscheinlichkeit oder eine Wahrscheinlichkeit ist, das Bildpixel an die Stelle zu setzen und nicht an die andere oder so ähnlich, das ist ja dann nicht so wichtig.

15:17 Es entscheidet ja sozusagen das Ergebnis. Also es ist jetzt kein Bewusstsein dahinter oder so, aber das wirkt schon. Also in meiner Sichtweise von Intelligenz ist es auch ein Stück weit Intelligenz. Eine gute Simulation von Intelligenz ist ja auch irgendwo Intelligenz. Das ist so ein bisschen mein Standpunkt dazu.

15:38 Jetzt reden wir ja die ganze Zeit eigentlich nur von generativer KI. Was gibt es denn da eigentlich sonst noch? In welchen Bereichen wird KI eingesetzt, die erstmal gar nichts mit generativer KI zu tun hat? Wo treffen wir die überall? Also zum Beispiel auf dem Smartphone, wenn da, wie gesagt, Bilder bearbeitet werden oder Gesichter erkannt werden, Objekte erkannt werden auf dem Bild.

16:02 Da gibt es sowas. Und es gibt neben der generativen KI ja einfach diese Mustererkennungs-KI, sag ich mal. Also das maschinelle Lernen, wo dann in den Datenmassen eben Muster gefunden werden und auf Basis dieser Muster dann Vorhersagen gemacht werden. Das ist bei der Bilderkennung, wie gesagt, so. Es gibt zum Beispiel auch in der Wissenschaft wird diese Form der KI benutzt, ganz anschaulich in der Wettervorhersage.

16:32 Es gibt also KIs, die gucken sich die Wetterdaten an und machen auf dieser Basis eine Vorhersage. Also ohne diese meteorologischen Modelle zu kennen, die da normalerweise benutzt werden. Und das hat zum Beispiel den Vorteil, dass man das mit weniger Rechenpower dann auch ziemlich gut und teilweise sogar besser machen kann.

16:53 Also das gibt es in ganz vielen Bereichen. Also Auswertung von Satellitendaten zum Beispiel. Ich habe jetzt neulich bei Riff Reporter ein Interview gemacht mit dem Malte Götze von der TU Darmstadt, der mit KI-Satellitendaten dahingehend auswertet, ob man Atomwaffen entdecken kann. Also zur Überwachung von Atomarsenalen in China oder Russland und so weiter.

17:19 Also sowas wird verwendet. Oder in der Medizin ist auch ein sehr wichtiges Anwendungsfeld, wo zum Beispiel Patientendaten in Kliniken benutzt werden sollen, um etwa Frühwarnungen auszusprechen, wenn eine Sepsis, also eine Blutverkiftung droht. Oder wenn der Patient möglicherweise in ein, zwei Tagen anfängt, wund zu liegen oder sowas.

17:42 Also da habe ich mit einem Arzt gesprochen, mit einem Klinikarzt, der sagte, das wirkt dann wie ein zusätzlicher Stationsarzt, der einem da hilft, rechtzeitig einzugreifen, wenn da etwas droht bei Patienten. Oder die KI schreibt Arztbriefe. Also wobei das ist ja eher eine generative KI, die dann Arztbriefe schreibt.

18:05 Aber auch diese datenbasierte KI, die gibt es schon lange und wird schon viel eingesetzt. Wozu brauchen wir künstliche Intelligenz? Was kann die eigentlich besonders gut? Wo kann sie uns wirklich helfen? Also die kann besonders gut große Datenmengen analysieren und daraus Gesetzmäßigkeiten schließen und Vorhersagen machen.

18:27 Darin ist sie sehr gut und die kann dann, wie gesagt, weil wir ja viele Daten sammeln, kann sie uns helfen, die überhaupt zu bewältigen. Also wir werden ja, wir haben ja wie gesagt Satelliten, Sensoren und es sollen ja im Zuge des Internets der Dinge auch immer mehr Sensoren geben. Sensoren in Autos, Sensoren am Haus und so weiter, Sensoren am Menschen selbst, die den Blutdruck überwachen und so weiter.

18:57 Und diese Flut an Daten, um dieser Flut an Daten herzuwerden, brauchen wir KI. Ich glaube nicht, dass das allein mit herkömmlichen Mitteln möglich wäre. Also wenn wir wirklich so eine datenbasierte Gesellschaft wollen und eine datenbasierte Wissenschaft und so weiter, dann brauchen wir KI. Erinnert mich gerade so ein bisschen an die Medizin, die in den letzten 50 Jahren das Genom komplett entschlüsselt hat und gigantische genetische Daten erzeugt hat, aber noch kein so richtig tolles Werkzeug hatte, um auch dann die, nicht die Daten, aber die Gene letztendlich zu bearbeiten.

19:40 Und dann kam CRISPR und hat den Forschern eigentlich dann auch die Möglichkeit gegeben, die Sachen so umzusetzen, wie sie es eigentlich gerne machen würden. Also eigentlich ist es dann auch wieder ein Tool, um mit diesen Datenmengen umzugehen. Ja, das ist wahrscheinlich ein guter Vergleich. Es gibt ja auch diese vielen Gendaten oder Proteindaten.

20:05 Was ja auch eine Wahnsinnsanwendung von KI ist, ist genau in dem Bereich, es gibt ja Gene und die beschreiben, wie die Proteine aufgebaut sind. Aber aus dieser Information kann man nicht ableiten, wie das Protein sich formt in dreidimensionalen Raum. Und das ist ein Riesenproblem, an dem Biologen oder Bioinformatiker also wirklich seit Jahrzehnten knabbern.

20:32 Und jetzt so vor, ich weiß nicht, zwei Jahren, glaube ich, hat das die Google-Tochter DeepMind die KI AlphaFold herausgebracht, die diese Vorhersagen ganz gut macht. Also die haben die mit Daten trainiert, Proteindaten und 3D-Daten von Proteinen und Gendaten. Und jetzt hat die, glaube ich schon, dass ich nicht lüge, so einige Millionen 3D-Daten von Proteinen vorhergesagt.

20:59 Und die Biologen, die auf dem Feld arbeiten, die sind da begeistert von. Also das verdient eine echte Hilfe. Also die nutzen die. Ich habe im Bereich der Medizin, hat mir mal jemand, ein Mediziner erklärt, der so ein Radiologe, der also täglich irgendwelche Röntgenaufnahmen sieht und Tumoren sucht, der sagt, naja, in meinen 40 Jahren habe ich die Chance, so und so viele Bilder zu sehen. Und daraus ziehe ich meine Erfahrungen und ziehe meine Schlüsse und entscheide dann, ob ich jetzt hier Tumoren sehe oder nicht.

21:37 Und so eine KI kann aber x-mal mehr Bilder verarbeiten, hat also die Erfahrung von viel, viel mehr Bildern, die in die Entscheidung einfließen. Und das fand ich so ganz anschaulich, was einem auch so ein bisschen die Furcht davon nimmt, dass man jetzt sagt, oh Gott, jetzt entscheidet die Maschine. Was am Ende gar nicht sein muss, aber wenn man sich klar macht, dass sowohl die Maschine als auch der Arzt ja letztendlich das gleiche Bild sehen, die Maschine nur x-mal mehr davon, dann zeigt das ja zumindest, dass in dem Bereich eine Maschine dann einfach tatsächlich eine Verbesserung sein kann und vielleicht tatsächlich zu einem besseren Ergebnis führt.

22:21 Ja, das muss man aber dann auch richtig machen. Da habe ich auch mit Experten darüber gesprochen, wie man damit umgeht. Also sagst du es ja schon, was da nebenbei gesagt noch ein faszinierender Aspekt ist, dass die KI ja auf Röntgenbildern jetzt von der Lunge zum Beispiel auch Muster wahrnimmt, die der Arzt mit dem bloßen Auge ja gar nicht sieht.

22:41 Jetzt nicht nur die Menge der Bilder, die die KI analysieren kann, sondern auch die Features, die in dem Bild drin sind. Die Bildinhalte nimmt die ja auch besser wahr und kann dann auch darauf Prognosen aufbauen, ob das jetzt ein Lungentumor ist oder Lungenkarzinom, glaube ich, oder nicht. Aber um auf diesen Punkt zu kommen, da gibt es Sorgen von Medizinethikern und Forschern, die dann sagen, man vertraut dann möglicherweise der KI zu stark und macht dann einfach, was die KI sagt.

23:10 Das ist ein Tumor, okay, ist ein Tumor. Wenn es die KI sagt, die sieht das ja besser als ich es ungefähr und das wäre gefährlich. Studien zeigen auch, dass bessere Ergebnisse eigentlich immer dann kommen, wenn beide da werden, also der Arzt und die KI zusammen. Also der Arzt hat ja noch seine Erfahrungswerte und so weiter und sieht noch andere Aspekte an den Patienten, die die KI ja nicht besättigen kann.

23:36 Also was hat der für einen Lebensstil und so weiter. Wenn man auf Basis dieses kombinierten Wissens, sage ich jetzt mal, Entscheidungen trifft, dann sind die besser als wenn es nur der Arzt oder nur die KI macht. Du wärst auch jemand, der den Faktor Mensch da nicht ganz rausnehmen will. Nein, das wird auch so meines Erachtens nicht kommen. Also auch beim Schreiben jetzt zum Beispiel. Ich lasse die KI auch manchmal so.

24:05 Wie kann ich den Artikel X aufbauen oder wie kann ich die Geschichte X aufbauen oder was sind die Stärken von dem Protagonisten und seine Schwächen und so was. Also sowas frage ich die auch, aber ich nehme das nie. Also du sprichst von deinen Romanen und Kurzgeschichten. Ja, genau. Ich nehme das nur als Vorschlag und setze das selten genauso um. Das ist wie Ping-Pong spielen oder wie Brainstorming.

24:32 Und so stelle ich mir das vor, dass man KI als Werkzeug benutzt und als Hilfsmittel, um dann Entscheidungen zu treffen und Dinge herzustellen. Weil wir gerade da bei der Medizin waren. Was sind die Risiken und Nebenwirkungen dieser Technologie? In welchen Bereichen müssen wir ein besonderes Auge drauf werfen?

24:54 Ja, was da wie gesagt immer genannt wird, ist dieses Übervertrauen. Dass man jetzt zum Beispiel als Arzt, die KI macht so einen Diagnosevorschlag. Man erfolgt dem einfach, weil die meistens recht hat. Und sie hat halt aber nicht immer recht. Also die Fehler einer KI. KI macht Fehler und dessen muss man sich bewusst sein.

25:16 Also sie ist nicht perfekt. Die hat nur ihre Daten als Grundlage und hat jetzt nicht so den Bezug zur realen Welt. Und die ist eben viel komplexer noch als die Daten und also die reale Welt. Und deswegen macht die KI auch Fehler. Es gibt ja so die Intuition, dass man sagt, das ist ein Rechner, der ist objektiv und ist nicht geleitet von irgendwelchen Gefühlen oder von Vorurteilen und so weiter.

25:42 Und das ist eben nicht so. Also die KI… Man rechnet ja keinen Freitagnachmittag, wo er müde ist, eigentlich keine Lust mehr hat und ins Wochenende will. Das stimmt, ja. Und das ist auch ein Vorteil eines Rechners, aber er hat dafür halt eben andere Schwächen. Also dass er eben die Realität, ich will es mal so formulieren, nicht wirklich begreift.

26:03 Also wie ein Mensch das tut vielleicht oder hoffentlich. Und es können Fehler passieren und darum muss man jetzt, um bei dem Arztbeispiel zu bleiben, immer noch gucken, sich den Patienten angucken. Also die Gefahr ist ja, dass man wegen Überlastung und man hat keine Zeit und so weiter und die KI hat meistens recht, das dann einfach so übernimmt.

26:26 Und dann macht man vielleicht eine Fehlbehandlung, die man nicht gemacht hätte, wenn man sich den Patienten selber genauer angesehen hätte. Also das ist jetzt hier zum Beispiel eine Gefahr. Oder wenn man mal zur generativen KI kommt, dann hatte ich ja diese Halluzination schon erwähnt. Dazu kommt, dass eben Vorurteile, die in den Daten drinstecken, mit abgebildet werden oft von der KI.

26:52 Also wenn man jetzt, um es anschaulich zu machen, sich anguckt, die Firma X, welche Bewerber wurden eingestellt und welche nicht, um dann daraus eine KI zu basteln. Die guckt sich diese Daten an und trifft dann so eine Vorauswahl an Bewerbern zum Beispiel. Solche Anwendungen gibt es auch. Und wenn die Firma jetzt aus irgendwelchen Gründen früher lieber Männer eingestellt hat, weil es eine Tech-Firma ist, als Frauen, also als einziger Grund, weil die Entscheider auch Männer sind oder sowas, dann lernt die KI, für den Job sind anscheinend Männer besser geeignet.

27:29 Obwohl es ja gar nicht stimmt. Und macht dann bei ihrer Vorauswahl die gleiche Verzerrung, oder Bias, wie man sagt. Und solche KIs, die von menschengemachten Daten lernen, übernehmen halt auch die Bias, die in diesen menschengemachten Daten drinstecken. Also die sind da ganz gut darin, uns in Anführungsstrichen zu imitieren.

27:54 Und das ist natürlich eine Gefahr. Da ist eben diese Objektivität eben gerade nicht da. Auch wenn es eine Maschine ist. Auch wenn es eine Maschine ist. Also aus ihrer Sicht entscheidet sie das ganz objektiv und nüchtern und ohne Gefühle oder ohne Vorurteile. Aber man merkt nicht, dass da Vorurteile drinstecken.

28:15 Geht so ein bisschen in die Richtung, ich weiß nicht in welchem Zusammenhang der Satz sonst auftaucht, wenn man Müll reingebt, kommt Müll raus, Garbage in, Garbage out. So ein bisschen in die Richtung. Ja, in die Richtung, wobei man sagen muss, dass die großen Big Tech-Firmen da jetzt schon gegen vorgehen.

28:29 Also man weiß nicht genau, wie sie das machen, weil man nie so einen richtigen Einblick hat in die Trainingsdaten von JGPT oder ähnlichen KIs. Aber die kuratieren dann vielleicht die Daten oder versuchen solche Bias durch Zusatztraining, durch dialogbasiertes Training oder so auszubügeln ein bisschen.

28:49 Und ich habe jetzt natürlich geschrieben über GPT-4-Turbo, was auch eine KI von OpenAI ist, die gegen Verschwörungstheorien argumentieren kann. Und dazu muss sie natürlich sozusagen die Fakten präsentieren. Und darin ist sie ganz gut. Also da hat dann sich ein Faktenprüfer nochmal angeschaut, wie viel von dem, was die KI da behauptet, stimmt eigentlich.

29:11 Und das waren dann über 90 Prozent. Also die haben da schon respektabel was verbessert, muss man sagen. Aber ich denke mal, dass das wahnsinnig aufwendig ist und auch nicht jeder machen kann. Also ich will jetzt hier nicht das Gespräch steuern, aber das bringt mich ein bisschen zu dem Thema, dass Big Tech vielleicht zu dominant ist und andere auch die Ressourcen bräuchten, um solche Sprachmodelle oder so zu entwickeln und die Daten zu kuratieren und so weiter.

29:41 Ist ja durchaus ein wichtiger Punkt. Wir nutzen die Geräte täglich oder die Software oder die Apps täglich und füttern sie auch mit unseren Daten, mit unseren Texten. Gleichzeitig sind die KIs gefüttert mit dem Wissen der Welt, auch mit der Kunst und auch mit unseren Texten, die wir geschrieben haben.

29:59 Aber wir haben da eigentlich erstmal gar nichts von. Also wir kriegen kein Geld dafür und gar nichts. Wie wichtig ist denn zu dem Punkt? Ja, das ist natürlich ein Riesenpunkt. Ich bin da mit meinem Meinungsbildungsprozess noch nicht so ganz abgeschlossen. Es gibt einen extremen Standpunkt, der halt auch eher von Big Tech Leuten dann vertreten wird, dass man sagt, ja, wieso ein normaler Schriftsteller, der erfindet das ja auch nicht alles aus sich heraus, sondern der hat tausende Bücher gelesen und imitiert vielleicht Plot X, ohne sich dessen vielleicht bewusst zu sein oder Stephen King oder was weiß ich.

30:36 Und also ist das ganz normal, dass man auf das Wissen der Welt zurückgreift. Aber andererseits ist das so ähnlich wie mit den Daten, die jetzt Google über unsere Suchen sammelt und die dann zu Geld macht, indem sie darauf basierend gezielte Werbung ausspielen an einzelne Personen oder Gruppen. Also da wird schon die Technik benutzt, um Allgemeingut zu veredeln und damit Profit zu machen und so weiter.

31:05 Und das läuft auf einer nicht ganz gerechten Art und Weise, weil ich schon angedeutet habe, es vor allem die großen Big Techs sind, die die nötige Rechenpower dafür haben, die nötige Expertise. Die besten Leute arbeiten dort oft und die können das sozusagen machen und andere nicht. Und wenn die KI dann benutzt wird, um Inhalte zu erzeugen, also Geschichten, Filmplots, Drehbücher, Bilder, Grafiken, dann ist das schon ein Stück weit eine Enteignung von den kreativen Menschen, die das sonst bisher gemacht haben.

31:42 Und man muss da schon irgendwas finden, was das ausgleicht. Ich weiß nur noch nicht, wie das gehen könnte. Irgendwie ein Obolus, der irgendwie im Preis begriffen, also wie beim Kopierer vielleicht, da ist auch im Preis irgendwie so eine Abgabe drin. Oder eine Institution wie GEMA, die sich um Musik kümmert oder solche Sachen. Wahrscheinlich braucht es sowas irgendwie.

32:06 Ja, vielleicht. Aber was ich am ehesten mir vorstellen kann, ist, dass man als normaler Mensch steuern kann, welche Daten die KI kriegt, um zu trainieren. Also wenn ich jetzt ein Schriftsteller bin zum Beispiel und mein Buch gibt es als E-Book oder so bei Amazon, dass ich dann sagen kann, dieser Inhalt darf nicht für Training von KIs verwendet werden. Dann verhindere ich schon mal, dass die KI das, was da hoffentlich an Neuem drinsteckt, lernt.

32:37 Und würdest du das machen? Du bist ja auch Romanautor. Ja, im Moment kann ich das schlecht machen, aber das ist auch gerade ein Prozess, der so in der Diskussion ist, dass man das besser steuern kann. Also wenn ich eine Webseite mache, kann ich da in eine Datei reinschreiben, welche Bots, also welche Datensammler oder Datencrawler von den großen Big Tech Firmen ich nicht da drauf haben will.

33:05 Also ich kann die ausschließen. Das geht, wenn man Webseiten betreibt. Auf diese grobe Art geht das schon, aber so, dass man das gezielter macht. Dieses Buch soll jetzt Google nicht kriegen zum Trainieren, aber ich gebe das frei für eine KI vom Schriftstellerverband oder was weiß ich, dass der da rauf trainiert, um Kurse zu geben oder was weiß ich.

33:26 Also da man das so steuert, welche KI die Daten benutzen kann und so weiter und welche nicht. Das ist so. Dazu müsste erst Technik entwickelt werden und das ist aber noch lang nicht so weit. Also man kann das nur grob steuern und da hat man dann eben, wenn man gute KIs will, ist das auch schlecht, wenn die keine neuen Daten mehr kriegen, um zu trainieren.

33:47 Also das kann dazu führen, dass alle das blockieren und dann ist die KI nicht mehr aktuell und nutzt nicht mehr so viel. Man will ja auch einen Nutzen haben. Es ist ja nicht so, dass das nichts bringt. Ich nutze die KI auch für meine Arbeit und die sollen schon gut sein und Daten haben zum Trainieren, aber man müsste es irgendwie feiner steuern können, um seine eigenen Interessen da zu wahren.

34:10 Der große Hype war letztes Jahr, 2023 und jetzt so in der zweiten Hälfte, 2024, hat man so ein bisschen das Gefühl, es ist alles ein bisschen ruhiger geworden, der Hype ist zu Ende. Manche fragen sich ja, was passiert denn jetzt? Also man dachte anfangs, wow, das geht ja jetzt so schnell und ständig kommt eine neue Version von JGPT raus, die noch mehr kann.

34:35 Und wenn ich an Computer denke, wo die Chips in bestimmten Zeitabständen die Leistung verdoppeln, was erwartet uns dann noch? Und jetzt plötzlich ist es gerade so ein bisschen ruhiger geworden. Haben wir uns schon daran gewöhnt oder hat die Technologie da irgendwie eine neue Ebene erreicht und bewegt sich erstmal auf der?

34:54 Was passiert da gerade oder auch nicht? Ja, das ist eine gute Frage. Da habe ich jetzt auch keine ganz eindeutige Antwort. Also erstmal ist einfach der Hype rum. Also die Entwicklung geht schon weiter. Es gibt auch neue Versionen. Also da habe ich neulich was gelesen über die Version von JGPT, glaube ich, die mehr logisch schließen kann als die letzte und ein bisschen analytischer denkt, in Anführungsstrichen.

35:22 Und ich hatte ja auch dieses GPT-4-Turbo da erwähnt. Also die Entwicklung geht schon weiter, aber nicht mehr so steil, würde ich sagen. Also dass der Hype erstmal rüber ist, ist so ein bisschen Gewöhnung und auch der Umstand, dass die Auswirkungen der Technik, die sie haben wird, also wie jetzt auf Jobs und so weiter, dass die ein bisschen brauchen.

35:46 Also wir werden da noch einiges spüren von dieser generativen KI und das dauert aber auch ein paar Jahre, bis Firmen diese Technologie einführen, anwenden und so. Und bis daraus aus diesen Basismodellen, die jetzt Google oder OpenAI herstellen, dann Anwendungen gemacht werden von anderen Firmen, also irgendwelche Chatbots im medizinischen Bereich oder so.

36:11 Das dauert ja alles und ist jetzt nicht vorbei in dem Sinne, dass da jetzt nichts mehr passiert, sondern in dem Sinne, dass die Technik jetzt erstmal ihre Wege finden, in die Anwendung finden muss und dann wird die schon erhebliche Auswirkungen haben. Und andererseits glaube ich, dass auch tatsächlich die sogenannte Skalierung nicht so rasant weitergeht.

36:36 Also dass man die Dinge einfach immer größer baut und mit noch mehr Daten füttert und dann werden die noch besser. Das scheint sich so nicht zu bestätigen, wobei das jetzt nur so ein Eindruck ist, den ich da habe. Also weil es ja auch plausibel ein bisschen, weil Daten sind ja auch irgendwo begrenzt.

36:56 Wenn ich schon das ganze, mehr oder weniger das ganze Internet benutzt habe fürs Training, was soll ich da noch benutzen so ein bisschen? Und die KI muss das ja auch alles verarbeiten, da brauche ich wieder Rechenpower und so. Wo du Rechenpower sagst, am Horizont tauchen die ersten Quantencomputer auf, die so unendlich viel schneller sind als alles, was wir jetzt haben.

37:20 Könnte das irgendwie den nächsten entscheidenden großen Sprung ausmachen? Ja, also wobei das ziemlich spekulativ ist, wie sich das auf KI auswirkt. Es gibt schon so das Feld des Quanten-Maschinen-Learning. Also Maschinen-Learning ist das maschinelle Lernen, wie wir das bei der heutigen KI eben haben.

37:42 Und das könnte, also grundsätzlich Quantencomputer sollen schneller rechnen können, weil sie eben Quanteneffekte benutzen, diese möglichen Parallelrechnungen auszuführen, die man sonst nur hintereinander machen kann. Aber es ist noch nicht so richtig klar, wie gut das auf künstliche Intelligenz anzuwenden ist.

38:03 Das ist noch in der Forschung. Also es hilft wohl schon, aber wie viel das hilft, weiß man noch nicht. Wenn sich da die Hoffnungen erfüllen, dann kann KI natürlich noch leistungsstärker werden. Und interessant ist da auch, dass Quantencomputer natürlich eine ganz andere Art von Computer sind, die nicht nur digital sind, sondern auch ein bisschen analog quasi.

38:25 Also es ist eine völlig neue Architektur, die vielleicht näher physikalisch, näher an Denkprozessen, wie sie in der Biologie oder bei Menschen vorkommen, sind. Also es gibt Spekulationen, dass die menschliche Kreativität auch durch Quanteneffekte begünstigt wird oder ausgelöst wird. Also das ist aber jetzt hoch spekulativ.

38:45 Und natürlich könnte es sein, dass Quantencomputer da einen Fortschritt bringen. Jetzt hast du ganz am Anfang erzählt, du hast heute Morgen schon KI benutzt, um Texte zu recherchieren. In fünf Jahren, was glaubst du, wie häufig wirst du KI an so einem ganz normalen Tag benutzen? Hoffentlich nicht wesentlich häufiger, weil ich die schon relativ häufig nutze und ich auch noch irgendwie selber denken will.

39:10 Aber vielleicht nicht häufiger, aber für was anderes. Also was ich in meiner Arbeit immer als Flaschenhals sehe, ist eben die viele Information, die es zum Thema X gibt, richtig zu filtern. Also was ist jetzt wirklich am wichtigsten, worauf kommt es an, dass man noch mehr Qualität reinbringt in solche Fragen.

39:38 Dass einem die KI bei der Recherche helfen kann in dem Sinne, dass sie das besser vorfiltert, was ich mir dann genauer anschaue. Zum Beispiel, das sehe ich noch nicht so, weil man dann Quellen vorgeschlagen bekommt, aber das ist meistens relativ abstrakt. Also da wird dann das Thema X relativ oberflächlich behandelt oder es ist nicht aktuell und sowas.

40:03 Also die Quellenangaben, die da gemacht werden, sind noch nicht so toll. Also eine KI, die besser mit diesem Wissensnetz, das es so gibt, verknüpft ist. Die auch möglicherweise nicht so oft halluziniert, also einfach vertrauenswürdiger ist. Ja, vertrauenswürdiger ist und keine Bias hat, wenn man da nicht in die falsche Richtung gelenkt wird und so weiter.

40:26 Also nicht häufig, aber mit besserer Qualität und der Sinn der KI ist für mich, dass sie die Produktivität erhöht. Wie gesagt, als Werkzeug dient und da ist schon noch Luft nach oben. Hoffen wir doch. Ist wahrscheinlich auch so. Christian, dir erstmal vielen Dank für den Rundumschlag, den Einblick in dieses doch etwas komplexe Thema.

40:53 Ja, gerne. Vielen Dank an dich. Ja, ich bedanke mich. Bis dann. Das war Christian Mayer mit seinem Blick auf das Thema künstliche Intelligenz. Christians Artikel verlinke ich in den Informationen zur Folge. Was es sonst noch an lesenswerten Artikeln auf riffreporter.de gibt, erzählt euch wie immer an dieser Stelle Hanna Schmidt aus dem Bremer Büro der Riffreporter.

41:16 Hier ihre Top-Empfehlungen. Heute möchte ich ein ganzes Rechercheprojekt der Riffreporter empfehlen. Das heißt "Zukunft Nordsee und Ostsee - Was die Meere vor unserer Haustür ausmacht und wie sie sich verändern". In zwölf Tauchgängen nehmen unsere Autorinnen dich mit in die deutschen Meere, beziehungsweise zu den deutschen Meeren, wie zum Beispiel Thomas Schröder, die sich auf den Weg gemacht hat nach Nordstrandisch Moor auf eine Hallig, die durch den steigenden Meeresspiegel bedroht ist.

41:44 Denn Halligen werden zwar regelmäßig überflutet, das ist an sich nicht schlecht, sondern sogar ganz gut für das Ökosystem. Doch durch den Klimawandel wachsen die Halligen jetzt langsamer, als der Meeresspiegel steigt und auch die Aggressivität der Seen nimmt zu. Daher suchen die Bewohnerinnen jetzt nach neuen Wegen, um ihre Halligen zu schützen und Thomas Schröder hat mit ihnen darüber gesprochen.

42:08 Und sie wurde begleitet von einem Fotografen. Das heißt, es sind ganz tolle Fotos entstanden und ein Blick in die Reportage lohnt sich also auf jeden Fall. Oder auch auf unsere Social Media Kanäle, da haben wir nämlich ganz tolle Videos dazu erstellt. Und ich empfehle auf jeden Fall auch sehr alle anderen Texte des Projektes, zum Beispiel ganz aktuell über Todeszonen in der Ostsee und die Frage, ob man ein Meer reparieren kann, von Rainer Kohlemann.

42:36 Das war Hannah Schmid mit ihren Leseempfehlungen von der Riff Reporter Webseite. Wir werfen hier im Podcast ja immer wieder mal den Blick über das journalistische Riff hinaus, um Euch auf andere hörenswerte Wissenspodcasts hinzuweisen. Diesmal gibt es einen Hinweis auf eine Hörreihe unserer ehemaligen Riff Reporter Kollegin Anja Krieger.

42:58 Sie recherchiert seit vielen Jahren zum Thema Plastikmüll in den Meeren und auf dem Land und sie nimmt seit sechs Jahren immer wieder Folgen für ihren Plastisphäre Podcast auf. Willkommen zu Plastisphäre, dem Podcast über Plastik, Menschen und den Planeten. Mein Name ist Anja Krieger. Ich bin eine Freelance-Radiojournalistin und vor zehn Jahren saß ich vor meinem Computer in meinem Heimatort Berlin und habe diesen Artikel gelesen.

43:25 Er beschrieb eine gigantische, schwindelnde Fläche voller Müll, die in den Pazifiken hinausfliegt. Ich konnte es mir nicht vorstellen und ich konnte nicht aufhören, die Idee, dass die Reste unserer Zivilisation in der Mitte von nirgendwo hinweg enden. Und so setzte ich mich auf eine Reise, um Plastikmüll zu verstehen und was wir damit tun können.

43:49 Ich bin eine Dekade lang vorgegangen und das Problem ist weit von gelöst. Plastik wurde im Arktischen Eis, in unseren Flächen, in Fischen, in Muskeln, in Salz, im Luft- und sogar im Schnee gefunden. Und wir produzieren und konsumieren immer mehr Plastik jeden Tag. Es scheint, als würden wir einen hohen Preis für dieses Material zahlen, das wir geschaffen haben.

44:14 Und ich frage mich, ob es einen Weg gibt, dass wir in Zukunft eine gesunde Beziehung zu Plastik entwickeln können? Oder wird Plastik das nächste, was wir ausführen müssen, wie Fossilfülle? In dieser Podcast-Serie will ich diese Fragen erforschen. Ich werde mit Wissenschaftlern, Experten und Innovatoren von der wachsenden, globalen Gemeinschaft sprechen, die arbeitet, um Plastikverpollung zu verstehen und zu beherrschen.

44:41 Aber zuerst lasse ich mich auf eine Reise zurück in die Zeit nehmen. Ich möchte euch ein paar Menschen vorstellen, die ich getroffen habe und was sie mir über die Plastikverpollung erzählt haben. Camilo Beach ist nicht euer normaler Touristenort. Ihr müsst auf einer super-dampfigen Dreckstraße fahren, immer hörendswert, immer fundiert und lehrreich.

45:13 Das war ein Ausschnitt aus Folge 1 des Plastisphere-Podcasts aus dem Jahr 2018. 2024 hat sie auch schon Folgen veröffentlicht. Den Link zum Podcast stelle ich euch in die Show Notes. Und das war der Riffreporter-Podcast für heute. Danke euch fürs Zuhören. Wenn euch unser Podcast gefällt, sagt es bitte weiter.

45:35 Wir freuen uns über eure Sterne auf Apple Podcasts oder Spotify oder wo immer ihr uns auch hört. Und ganz unabhängig von diesem Podcast hier wisst ihr ja, wenn euch die Arbeit der Riffreporter gefällt, könnt ihr uns auch kostenpflichtig abonnieren. Die Webseite, nicht den Podcast. Das Besondere bei uns ist, wir sind eine Genossenschaft, kein Verlag.

45:55 Eure Abo-Gebühren finanzieren direkt die Arbeit von uns Journalistinnen und Journalisten. Und ihr habt natürlich auch was davon. Vollen Zugriff auf alle unsere Artikel. Und ihr macht es möglich, dass wir auch weiterhin unser Angebot ohne nervende Werbung und ohne Tracker betreiben können. Wenn ihr Lob, Kritik oder Vorschläge habt, dann meldet euch bei uns auf Social Media oder ihr schreibt uns einfach eine E-Mail.

46:17 Die Discharge für diese Folge stammt von Christian Mayer, die Leseempfehlung von Hannah Schmidt. Für Redaktion, Moderation und Produktion war ich zuständig. Mein Name ist Markus Anheuser. Macht's gut, bis zum nächsten Mal. [Musik] [Musik]