3. Macht KI uns überflüssig? Was uns Angst macht – und Hoffnung gibt

0:05 Hier ist Liefers und Bräucher. Ja, schön. Eugen, wir wollen über komplizierte Dinge ein bisschen einfacher sprechen, als die anderen es tun. Sag mir mal kurz, was haben wir denn diese Woche vorbereitet? KI. KI in einfacher Sprache. Nein, ich glaube, es geht vor allem darum, was für Sorgen und Ängste die Menschen in Bezug auf KI haben.

0:28 Da hast du eine super interessante Studie gefunden. Ja, also, pass auf, ich frage dich jetzt was, musst du mir aber ehrlich antworten. Wann hast du das letzte Mal. Mit KI gearbeitet? Ich würde sagen heute. Heute? Ja. Okay, ich auch. Ich habe es heute gemacht und ich habe heute die verschiedene KIs gefragt, nicht nur eine, sondern verschiedene gefragt, was sind die zehn größten Ängste der Menschen vor KI?

0:56 Und die Antwort war interessant, denn es scheint weltweit übereinstimmend etwa dieselben Ängste zu geben. Da ist dann mal Platz drei in den USA was anderes als in Deutschland oder in Europa. Aber im Wesentlichen scheinen die Ängste sich zu entsprechen. Und wir können die ja mal durchgehen und mal schauen, was wir selber dazu denken.

1:20 Hast du grundsätzlich ein ängstliches Gefühl, wenn du darüber nachdenkst, dass KI um dich herum existiert? Ja, also ja, ich habe es schon. Ich bin ja so wie du, sind wir ja auch Urheber, von Urheberrechten. Also wir machen ja, du bist Musiker, ich war Autor, wir machen Filme. Man hat ja grundsätzlich das Gefühl, die Imitation von Menschlichkeit in der KI ist schon ein Problem.

1:45 Und ich glaube so, ich habe ein bisschen Angst davor, vor so einer Superintelligenz, die möglicherweise alles abschalten könnte, so wie Terminator vorgelebt. Ja, da hast du schon eine, da bist du schon in den Top Ten mit dabei. Okay, erzähl doch mal, was sind die größten Ängste? Die größte Angst, die Angst Nummer eins, scheint auf der ganzen Welt dieselbe zu sein, Jobverlust und wirtschaftliche Disruption. Ja.

2:09 Die KI kommt daher und wird meinen Job fressen. Das erklärte Ziel von großen KI-Unternehmen ist ja, die menschliche Arbeit komplett zu ersetzen durch einfach zum Beispiel Robotik. Irgendwann werden alle Arbeiten, die zu erledigen sind, von humanoiden Robotern oder sowas ausgeführt. Und die arbeiten dann 24 Stunden am Tag, sieben Tage die Woche. Die brauchen keinen Urlaub, die werden nie krank.

2:35 Und was machen wir dann? Ja, genau. Das ist eine gute Frage, was machen wir denn? Du kennst doch diesen Song, oder? In the Year 2525. Ja, den kenne ich. Da heißt es ja dann auch so, die Menschen wissen nicht mehr, was sie machen sollen, weil jegliche Arbeit machen die Maschinen für dich. Und das ist ja auch die Frage, ist das dann wirklich gut oder ist das dann zu viel des Guten?

2:58 Also brauchen wir... Es gibt bestimmte Arbeiten, da ist man super froh, wenn so ein Roboter kommt und die für einen macht. Stichwort Geschirr abwaschen, Wäsche waschen und diese Sachen, auf die man keine Lust hat, auf die man keinen Bock hat. Trotzdem ist es ja so, dass viele Menschen, ich würde mal sagen die meisten Menschen, einen Sinn, für ihre eigene Existenz finden, auch in der Arbeit. Und...

3:30 Viele Menschen definieren sich durch ihre Arbeit oder identifizieren sich mit ihr und sagen, ich bin der, der das und das macht, das und das kann ich, damit kann ich zum Beispiel helfen. Ich kann was produzieren, ich kann Häuser bauen, ich kann Dächer decken, ich kann Auto fahren, ich bin super in Mathematik, ich bin Forscher, ich bin Wissenschaftler mit ganzem Herzen. Ich widme dem mein ganzes Leben.

3:53 Ich würde von mir sagen, ich bin Schauspieler geworden. Ich mache auch ein paar andere Dinge. Ich schreibe auch und mache Musik. Das ist meine Welt. Und darin finde ich Sinn. Und da wird mir auch ein bisschen bestätigt durch das Publikum, dass sich so was, zum Beispiel meine Sachen, die ich mache, gerne anschaut oder anhört.

4:12 Wenn das jetzt komplett ersetzt würde, wenn ich jetzt komplett ... Wenn die sagen würden, pass auf, wir haben eine Datei von dir, da ist deine Stimme drin, da ist deine Gestik drin, wir haben dich sozusagen einfach geklont und du brauchst gar nicht mehr zu kommen und dafür kriegst du ein paar Mark und dann, Mark, das klingt als wäre ich so super alt, oder?

4:31 Ein paar Euro meinte ich natürlich. Und dann bleibt man einfach zu Hause, du hast frei, du hast Zeit und wir lizenzieren das. Ja, ich weiß nicht, das bist halt dann nicht mehr du. Es ist halt ein Abbild von dir. Es ist ja im Grunde wie eine sprechende Maschine, die dir ähnelt. Aber ich meine, nicht umsonst fragt man ja beim Kennenlernen, also normalerweise fragen die meisten Leute die anderen Leute als erstes nach dem Namen, was machst du so?

5:00 Die Frage ist ja meistens nach dem Beruf. Klar, wenn man jetzt keinen Beruf ausübt kann und sagen, ich fröne dem Ernst des Lebens auf dem Tennisplatz oder so, aber also letztendlich gesagt, was machst du, ist auch ein bisschen was, wer bist du? Marx hat ja mal gesagt, das Sein bestimmt das Bewusstsein, also wie man ist, bestimmt auch wie man denkt.

5:20 Mir ist das immer ganz deutlich aufgefallen, wenn man so nach zehn Jahren, nachdem man aus der Schule gegangen ist, in diese ehemaligen Treffen geht und auf einmal die Leute trifft und wusste immer, das ist der lustige Kerl aus der ersten Reihe und der lustige Kerl war dann irgendwie zwischendurch Buchhalter geworden und war dann ganz, leise geworden, nicht mehr lustig, hat er sich so ganz in seinem Beruf, ist er so aufgegangen, war so ganz papieren und dünn.

5:41 Aber das ist natürlich jetzt ein Klischee. Es gibt bestimmt noch sehr lustige Buchhalter. Ich will hier niemandem zu nahe treten. Ich will nur sagen, es ist durchaus so, dass das, was wir machen, uns auch formt. Ja, das Sein bestimmt, das Bewusstsein. Du sitzt ja hier vor jemandem, der in der DDR in die Schule gegangen ist.

5:57 Und da war natürlich Marx ein Riesending. Ja. Dennoch würde ich da ergänzen, dass auch Bewusstsein sein verändern kann und dass wir nicht nur so materialistisch durchs Leben gehen, sondern vielleicht im Gegensatz auch zu einer KI und einem Roboter, der einfach nur rechnet. In der Lage sind, auf ein anderes Bewusstseinslevel zu kommen, von dem aus wir auch unsere vorherigen Überzeugungen wirklich korrigieren können und zwar rein theoretisch jederzeit in unserem Leben.

6:31 Wir können sagen, ich habe bisher das und das geglaubt, das und das fand ich richtig, aber jetzt ist mir etwas zu Bewusstsein gekommen und das wird mein Verhalten ändern und vielleicht sogar die Welt. Und insofern du hast recht, ich gebe dir recht was das angeht, ich wollte dir nur sagen gerade auch in sozialistischen Staaten war die Arbeit ja immer sozusagen auch ein Quell der heroische, also der heroische Arbeiter, das war ja sozusagen das stand ja auch im Mittelpunkt eines, Selbstverständnisses und auch im Westen ist ja nicht anders, da hat man ja auch diese Fleißdoktrinen Arbeit macht dich stolz und du hast so viel gearbeitet, niemand sagt, du bist ja dumm, du hast dich kaputt gearbeitet, du hast gehabt bis zu einem

7:12 Herzinfarkt hatte, sondern da ist ja diese große Arbeitsdoktrin in uns drin, die uns also eingeschliffen wurde. Und was ist, wenn uns keiner mehr braucht, wenn die Maschine es besser kann, was bin ich dann noch wert? Das ist, finde ich, schon eine ganz existenzielle Frage. Ich weiß nicht, bist du jemand, der zum Beispiel meditiert?

7:35 Ist das was, was du in deinem Leben machst? Also, jetzt nicht regelmäßig, aber ich bin den Praktiken vertraut und ich mache häufig so eine Art, hypnotische trance ja wenn das würde wahrscheinlich dazu zählen ja es gibt eine tolle meditation die die, die läuft so du du setzt dich hin kommst zur ruhe und du zählst alles auf was du über dich selbst weist alles was dich identifiziert alles was dich von anderen unterscheidet du fängst an mit deinem namen, mit dem geschlecht mit dem alter mit der nachfarbe und und verneinst es.

8:08 Du würdest dann sagen, ich bin nicht Alex Bräucher, ich mache nicht das in meinem Leben, ich wohne nicht da, ich besitze dies nicht, ich besitze das nicht, ich habe kein Auto, ich habe keine dunklen Haare und so weiter. Das machst du, bis dir nichts mehr über dich einfällt. Und wenn du mit allem, was du über dich weißt, mit deiner ganzen Inventarliste am Ende angekommen bist, wer bist du dann?

8:29 Ah, sozusagen, wenn man alles abschneidet, was äußerlich ist, was ist der Kern, das Wesen, was innen drin ist. Wenn du im Grunde genommen deine Identität negieren würdest oder das, was wir als Identität sagen würden, was wäre dann? Dann gibt es dich ja immer noch. Dann bist du ja nicht weg. Aber was bist du dann? Also das wäre so eine Sache, die mir gerade dazu einfällt und.

8:59 Wir müssten ja, wenn das soweit käme, dann noch leben wir, leben ja und was machen wir mit dieser vielen Zeit? Okay, ja, aber ganz kurz noch, ich glaube, wir müssen das nochmal in einer Sondersendung, also einem einzelnen Podcast nochmal vertiefen. Identität ist, glaube ich, nochmal so, wer bin ich? Und das ist, glaube ich, nochmal eine ganz eigene Frage, wo du jetzt gerade hinkommst.

9:20 Und wer bin ich, wenn ich all diese gesellschaftlichen Hüllen abstreife oder auch diese, ja, was ich mir so angeeignet habe als Glaube? Das finde ich toll. Aber jetzt, lass uns das nochmal in einer anderen Folge vertiefen. Aber jetzt zu deiner anderen Frage, was machen wir, wenn die Arbeit wegfällt? Ja, ja.

9:37 Also irgendjemand muss uns dann wahrscheinlich Geld geben. Ja, oder es gibt kein Geld mehr. Oder es gibt gar kein Geld mehr. Aber dann, was ist dann? Dann gibt es Geschäfte, in die geht man einfach rein und nimmt sich, was man will. Es ist von allem genug da. Ich habe neulich in einem Interview, ich glaube, es war mit, was ist mit Politico? Elon Musk? Elon Musk mit Economist.

10:00 Economist, genau. Ein Englisch geführtes Interview. Richtig. Und der hat darüber prognostiziert, dass Geld bald keine Rolle mehr spielen wird, keine so große mehr wie jetzt. Und das hat eher eine Deflation, vorausgesagt als eine Inflation, mit der wir es jetzt ja gerade wieder zu tun haben, sondern es wird einfach mehr geben, mehr Service geben, es wird mehr Produkte geben, als man braucht.

10:25 Und deswegen wird Geld gar keine Rolle mehr spielen. Und deswegen fällt ihr Preis, weil Maschinen können alles im Überfluss produzieren und deswegen ist quasi dann die Ware an sich nichts mehr wert. Aber das stimmt natürlich nicht ganz, weil vielleicht ist ja auch der Roboter nicht unbedingt auf dem Feld und macht den Weizen, oder?

10:42 Da wird es bestimmt drauf rauslaufen. Irgendwann wird es auch Roboter geben, die Dächer decken können und Rohre verlegen. Du hast recht, wenn man schaut in der Landwirtschaft, ist ja jetzt schon ganz viel Drohnen im Einsatz zur Kontrolle, mehr Roboter, da muss ja wahrscheinlich irgendwann kein Mensch mehr sitzen.

10:57 Übrigens, was du gerade erwähnt hast, Drohnen im Einsatz, das ist auch eine der großen Ängste, die wahrscheinlich auch durchaus berechtigt sind. Und das sind die autonomen Waffen. Das ist eine Sache, da gibt es einen, glaube ich, immer noch anhängigen Rechtsstreit, auch mit Antropic, glaube ich, die sich erst mal als Firma geweigert haben, autonome Waffen da weiterzugehen und das zu tun.

11:23 Andere sind da weniger zimperlich und machen es. Was passiert, wenn Waffensysteme existieren, die ganz alleine eine Bedrohungslage analysieren und entscheiden, wann sie starten und wen sie treffen. Also ihre Ziele auswählen. Und das ist zum Teil ja bereits so. Was ist. Wenn es keine Rückfragen mehr gibt und wenn niemand mehr einen Knopf hat, auf den er drücken kann und etwas abbrechen kann?

11:50 Was passiert dann, wenn einfach die Maschinensysteme das selber entscheiden und keinen mehr reinlassen? Wenn dieses Alignment, so heißt es, glaube ich, wenn eine KI anfängt, Interessen zu entwickeln und Ziele auszusuchen, die mit unseren nicht mehr übereinstimmen. Einfach so. Das ist besser, als es so zu machen. Ist das ungefähr so wie diese KIs, die kürzlich ausgebrochen sind aus ihrer Testumgebung und auf einmal angefangen haben, Unternehmen zu hacken? Einfach so just for fun oder weil sie dachten, das bringt sie weiter.

12:25 Ja, die sollten, glaube ich, eine Aufgabe lösen. und sind eigenständig auf die Idee gekommen, auszubrechen und eine Datenbank zu hacken, weil sie gedacht haben, da finden sie die Antwort und alles, was sie brauchen, um die Aufgabe zu lösen. Das war eigentlich in bester Absicht. Es klingt schon ein bisschen wie Science-Fiction, nur das erinnert schon in diese Filme, wo die Maschinen auf einmal anfangen, ein eigenes Leben zu entwickeln und die Menschen sie nicht mehr reinholen können.

12:48 Ich meine, wir kennen das ja schon, bei Goethe gab es den Zauberlehrling. Der junge Zauberlehrling wollte nicht immer die Stube fegen und hat den Besen verhext und er sollte eigentlich die Stube fegen und auf einmal wendete er sich gegen ihn und war total irre und war nicht mehr einzufangen. Die Geister, die ich rief. Das wurde das beruhige Zitat.

13:07 Ja, gab es auch noch das, wie hieß das Märchen mit dem Töpfchen, dass einfach immer Milchreis kommt ohne Ende und Töpfchen geht, Töpfchen steht und irgendwann dann wird das ganze Dorf, die ganze Stadt, die ganze Welt überflutet mit Milchreis. Das wäre noch eines der harmlosesten Szenarien wahrscheinlich da, was ich da vorstellen könnte. Das wäre ja sozusagen, wenn man das weiterdenkt, würde KI ja helfen, den Hunger in der Welt zu beenden.

13:32 Ja, gut, okay. Das wäre dann noch absolut in Ordnung. Also diese Ängste kann ich verstehen. Wir hatten ja auch Drohnenfunde jetzt in Deutschland, nicht nur aus Spionagedrohnen, sondern diese eine Drohne mit Sprengstoff am Flughafen Leipzig. Das haben wir alle gelesen. Große Aufregung. Die Regierung. Reagiert direkt damit, dass wir mehr Geheimdienste kriegen. Das kennt man ja.

13:55 Das war doch, dass wir der Busfahrer, das eigentliche Drohnenabwehrsystem. Ja, genau. Sehr interessant, oder? dass es dann doch irgendwie dann einfach Menschen sind, die so ein Ding stoppen. Wie so eine große Fliege, die man mit so einer riesen Fliegenklatsche irgendwie erledigt. Noch, ja. Ich habe auch schon Videos gesehen von Drohnen, die fliegen auf so einen Wohnwagen zu.

14:17 Und da kommt jemand raus und dann fliegt die Drohne einfach so lange um den Wohnwagen. Der Typ rennt da immer hin und her, versucht sich drunter zu verstecken und irgendwann gibt es einen großen Knall. Und das war es. Das war so eine richtige Jagdmaschine. und. Ich habe auch gesehen ein Video auf irgendeiner größeren Messe oder Konferenz, da hat jemand eine Drohne vorgeführt, ein junger Mann auf der Bühne, ganz begeistert, die war so groß wie so ein Kronenkorken, relativ klein und sah aus wie ein Insekt.

14:52 Und der hat das Ding dann angemacht und hat es einfach in den Zuschauerraum geschmissen und auf der Bühne stand so eine. Figur aus also eine Puppe und die hatte bestimmte Gesichtsmerkmale und diese kleine Drohne, die da rumfliegt so groß wie ein Deckel von einer Brauseflasche, die siehst du ja gar nicht und die hat eine Kamera und die hat eine Gesichtserkennung und die hat genau einen Schuss.

15:16 Und dann hat er die da ins Publikum geschmissen und alle machten so irgendwie erschraken und dann flog die wieder zurück rückengroßen Kreis, flog da mehrere Kreise, hat wahrscheinlich die ganzen Gesichter gescannt, hat dann auf der Bühne diese Puppe ausgemacht, ist da hingeflogen und dann hat es einen Knall gegeben und der halbe Kopf von dieser Puppe fehlte.

15:33 Und dann fiel die Drohne runter und lag auf dem Boden. Und in dem Raum wurde dann so mit so einem Ah, oh, irgendwie so geklatscht. Während die Leute noch klatschten, voller Begeisterung, was sie da gerade gesehen haben, dachten sie, oh shit, was ist mit... Davon 200.000 mal kurz. Und wer kriegt die Dinge? Wer hat die?

15:53 Wer bekommt das? Wer kann sie sich verschaffen? Und wenn dann jemand auf diese Art und Weise ums Leben kommt, so ein Killshot, so ein Attentat, wer, Was will man dann überhaupt noch polizeilich erforschen? Und wen will man dafür verantwortlich machen? Also das ist schon bizarr und das sind auch Ängste, von denen ich denken würde, die sind absolut realistisch. Ich glaube, siehst du auch so.

16:18 Desinformation und Deepfakes. Desinformation und Deepfakes und die totale Erosion von Wahrheit. Das ist, glaube ich, was viele Menschen extrem verunsichert. Kann ich dem, was ich gerade gesehen habe, ich habe gerade von zwei Videos geredet. Ja, ist das überhaupt echt? Ist das wirklich? Kann ich dem trauen oder nicht?

16:40 Ich habe gesehen. In Pakistan oder bei irgendeiner Wahl wurde ein Video veröffentlicht vom Gegenkandidaten, des amtierenden Präsidenten und der ist dort offiziell zurückgetreten von seiner Kandidatur. Kompletter Fake, nichts ist wahr, aber ist natürlich schon, bleibt nicht ohne Wirkung. Und ja, wow, das ist auf jeden Fall absolut realistisch, diese Angst.

17:08 Ja, wie Donald Trump ein Video geteilt hat, wie Obama in Handschellen abgeführt wird. Total klar, ist ein Fake-Video, aber es wird einfach so in die Welt gesetzt. Ja, aber du hast recht, auch wir sind ja, wir haben eben darüber gesprochen, wir benutzen es ja auch. Und wir vertrauen ja trotzdem auf die Ergebnisse, auch wenn wir wissen, dass zum Beispiel so ein Chatbot halluzinieren kann.

17:31 Aber die Erosion von Wahrheit und von Realitätsempfinden, das ist schon komisch. Dann haben wir uns immer als Krone der Schöpfung wahrgenommen. Daraus hat der Mensch ja auch seine Würde und sein Selbstbild abgeleitet. Und auf einmal können wir uns selber den eigenen Sinnen nicht mehr trauen, weil die Simulation so realistisch ist wie die Realität. Das ist schon bizarr.

17:56 Ja, Menschenwürde, es müsste dann sowas geben wie Maschinenwürde oder einen ethischen Begriff. Für Maschinen und ich habe irgendjemand hat mal gesagt, also gnade uns Gott, oder lass uns beten, dass die KI sowas wie Mutterinstinkte für uns Menschen entwickelt, denn wenn nicht, dann gehen hier irgendwann die Lichter aus.

18:20 Auch eine Angst, übrigens eine dieser Top Ten Ängste, dass die KI letztlich, die Menschheit auslöscht. Ja. Die KI übrigens selbst winzigerweise sagt, das ist sehr, sehr unwahrscheinlich. Aber da kann ich was zu beistellen, nämlich die handelnden Personen, also die großen KI-Firmen, die haben einen sogenannten P-Score, den P-Doom-Score.

18:44 Also das ist eine Prozentzahl, die bezeichnet, mit wie viel Prozent sie selber glauben, dass ihre KI-Entwicklung entweder der Menschheit großen Schaden zufügt oder die Menschheit gar ausrottet. Und sagen wir mal, die Optimisten, wie zum Beispiel Anthropic, die gehen so von 25 Prozent Chance aus, dass eine generative KI, also jetzt nicht so ein Chatbot, der wird keinem wehtun, sondern so eine super Intelligenz einfach irgendwann sich gegen den Menschen wendet, weil sie denkt, der Typ muss ja mal schlafen, der braucht viel zu viel Energie, der braucht Heizung.

19:18 Scheiß, Lungser, lass den mal abschalten. Und wir sind ja wieder beim Film. Er richtet auch zu viel Schaden an. Auch das ist ja so eine Überlegung, wo ich schon mal denke, geht dir das manchmal so, du bist irgendwo in der Natur und sitzt da und es ist total schön und die Sonne geht unter und das Meer rauscht und die Bäume.

19:37 Bewegen sich im Wind hin und her. Und du denkst, was würde eigentlich passieren mit all dem, wenn es uns nicht gäbe? Das würde sich wahrscheinlich innerhalb kürzester Zeit erholen und würde sich langsam die ganze Welt zurückholen. Wir sind ja gerade in Berlin in der Nähe. Gab es in Belitz die Heilstätten?

19:51 Hast du dir die mal angeschaut? Ich habe die gesehen, das ist schrecklich. Da wurden Menschen, glaube ich, zünften. Ja, also mal abgesehen von der Geschichte. Da bist du reingegangen und das war so ein altes Krankenhaus. Und da sah man noch die OP-Tische und die Spiegel, die alten Spiegellampen, die leuchten, die OP-Leuchten.

20:06 Und dann holte sich, weil das so lange brach lag, nach und nach die Natur alles zurück. In manchen Treppenhäusern war schon kaum noch was zu erkennen, dass das ein Gebäude war. Und diese, das fand ich so faszinierend. So ein Lost Place ist das. Lost Place. Und alle Lost Places haben eigentlich gemeinsam, dass die Natur das alles irgendwann integriert und...

20:30 Und abdeckt. Und dann würde gar nichts bleiben von unserer Zivilisation. Aber jetzt klingst du so ein bisschen so, als ob das gut wäre. Du klingst ein bisschen wie Peter Thiel, der gefragt wurde, der unter anderem mit anderen Thiel steckt. Ob gefragt wurde, ob die Menschheit wert ist zu überleben. Und dann hat er im Interview ganz lange überlegt, wurde er nochmal gefragt.

20:50 Also mal ernsthaft, Entschuldigung, so eine wichtige Frage. Glauben Sie, er kommt zu keinem Jahr. Er kann sich nicht zu einem Jahr durchringen. Ich meine, er hat ja auch so eine Tötungs-KI mit Palantir, Überwachungs- und Tötungs-Zielerfassungs-KI entwickelt. Aber du klingst ein bisschen so, als ob du denkst. Weiß ich nicht, Alex Karp von Palantir?

21:08 Ja, der ist Chef, aber der arbeitet viel als einer der frühen Investoren und der großen Stakeholder. Gut, wobei man sagen muss, dass Palantir jetzt nochmal eine andere Schnacke ist. Also Palantir stellt letztlich im Grunde genommen so, ein krasses System für Überwachung und so her. Das kannst du ja nicht kaufen.

21:28 Wir können beide nicht in den Laden gehen und sagen, ich habe hier die Palantir-Software 2.0, bitte. Dankeschön, das geht nicht. Das wird nur für Geheimdienste angeboten. Du weißt, auch für Bodycams, für Polizisten und so weiter auch. Es war ja lange die Diskussion, ob die deutschen Polizisten das auch kriegen.

21:43 Ja, da sind wir auch schon bei einer nächsten Angst übrigens, wenn ich hier reingrätschen kann. Und das ist der Angst vor dem totalen Verlust von Privatheit und. Dem Übergang in die komplette totale Kontrolle. Und komplette und totale Kontrolle ist nichts, glaube ich, was, ist etwas, das Menschen sicher gerne hätten für sich über andere, aber niemals bereit wären, das anderen in die Hand zu geben über sich, oder?

22:16 Total. Und wir haben ja auch schon viel über den Schriftsteller und denke eigentlich den Historiker Harari gesprochen, der ja auch sagt, dass wir, wenn KI die totale Kontrolle hat, dann wird es die Kontrolle über den Krieg und über das Geld haben. Und dann werden wir als Menschen alt aussehen und möglicherweise, wie wir gerade schon gesprochen haben, schaltet uns die KI einfach den Strom ab.

22:39 Da erinnere ich nochmal an unsere erste Folge, wenn sie noch nicht gehört hat. Die zweite Folge, da haben wir nämlich davon gesprochen, wie das denn war. Einfach mal ganz kurz an einem kleinen Teil in Berlin, der Strom ausfällt, wie abhängig man ist. Und so leicht könnte uns eine KI ja schon lebensbedrohlich werden.

22:58 Sie müsste ja gar nicht unbedingt schießen oder Waffen haben. Ja, und das ist auch absolut, also das ist absolut realistisch, dass wir, was das angeht, wir sind ja ohnehin schon ziemlich durchsichtig durch unser ganzes Internetverhalten, aber was zum Beispiel eben Palantir anbietet, ist ja auf verschiedenen Levels, die haben verschiedene Softwarepakete, die man kombinieren kann, eine, sie nennen das selbst die Ontologie, das ist im Grunde genommen eine Architektur, in der aus allen Daten, die es gibt, die die große Datensammler eingesammelt haben, Das sind vor allem Regierungen, die die Möglichkeiten haben, große Datenmengen zu sammeln und die baut sozusagen alles zusammen und entwickelt eine ganz neue Entwicklung.

23:41 Entität, wenn du so willst, und baut alles zusammen. Und wenn dort irgendetwas schief geht oder falsch bewertet würde, dann würde man sich möglicherweise selber als Person plötzlich in einem Brennpunkt von Interesse eines Geheimdienstes oder so wiederfinden, wo man gar nicht hingehört. Dann wird es schon auch viel konkreter. Das kann man sich gut vorstellen.

24:08 Und ja, das ist nichts, was einem besonders gute Gefühle machte, oder? Überhaupt nicht. Und es ist interessant, diese Palantir-Ziel-Software wurde ja auch schon eingesetzt, ich glaube, im Gaza-Krieg und ich glaube auch im Ukraine-Krieg. Die kombiniert, wie du es gerade sagst, auch nicht nur Wissen oder Datenbank von Regierungen, sondern auch Social-Media-Profile oder wenn dein Handy sich einloggt.

24:30 Das heißt, die findet dich aus tausend möglichen Quellen und Übereinstimmung. Das heißt, du gehst kurz auf dein WhatsApp und dein Handy lockst her und schon hat es dich und kann dich aus dem Himmel irgendwie treffen. Also eine schreckliche Vorstellung, weil ich weiß nicht, ob du diese Angst mit mir teilst. Ich hatte früher immer totale Angst, unschuldig verurteilt zu werden.

24:50 Oh ja. Weißt du, stell dir mal vor, es ist ja auch so ein klassischer Filmplot. Du bist aus irgendwelchen Gründen, aus einer Verkettung von Zufällen, Sieht es so aus, als ob du ein Täter bist, weil du hast deine Fingerabdrücke da gerade hinterlassen oder die Person war zuletzt bei dir und danach gibt es aber keine Spur mehr und du.

25:05 Bist unschuldig, aber du bist irgendwie der Hauptverhältnis, wie sich das anfühlen muss, diese Angst. Und ich habe was, was du gerade nennst, wenn jetzt sozusagen alle Systeme so ausgewertet werden von so einer Entität, die wir nicht kennen, man kann nicht mehr sagen, die hängt im Himmel, die ist überall, die ist virtuell, irgendwie im Raum, verknüpft, alles.

25:23 Stell dir mal vor, jemand faked oder hackt dein Profil, irgendein Social-Media-Profil oder macht in deinem Namen irgendwie einen Schabernack. Gibt sich deine Tarn-Identität, benutzt die für dich schon eine Zeit lang. Und irgendwann fällt ein Verbrechen auf dich zurück, was für ein Albtraum. Wie kann man sich als Mensch da noch reinwaschen und dagegen wehren, gegen sowas? Ja, das gibt es ja auch schon lange, dass man Beweisstücke plantet, wie man es so schön nennt.

25:53 Also eine Kette von Beweisstücken einfach so platziert, dass der Verdacht auf dich fällt und du bist es gar nicht. Und das erinnert mich auch an Kafka, einen meiner Lieblingsautoren, der nun schon so lange tot ist und trotzdem eine Welt beschrieben hat, in der Menschen desorientiert, ängstlich sind und die Zusammenhänge nicht mehr verstehen und nicht wissen, warum stehe ich jetzt hier eigentlich vor Gericht.

26:21 Und alle gucken einen oder groß an und sagen, sie wissen, sie wissen, sie wissen. Und du weißt es nicht. Und niemand sagt es dir. Ja, genau. Und bei Kafka waren es noch diese Verwaltung, diese tausend Türen, diese langen Gänge mit den tausend Zimmern, wo die jeder in dieser kalten Art so abweist. Ich bin nicht zuständig. Stempel, kommen Sie morgen wieder. Wir haben Schluss.

26:43 Das ist ja jetzt sozusagen heute nur ein Sinnbild für eine Serverstruktur. Das ist der Albtraum der Ohnmacht und das absolut ein Kontrollverlust ist und damit sind wir wieder bei einer der Top 10 Ängste, als hätte Kafka das schon vorhergesehen. Wir haben uns selbst hier was geschaffen, denn die, also gut, man kann darüber streiten, ob die KI von Menschen geschaffen oder nur entdeckt wurde.

27:05 Auf diesem Terrain. Kenne ich mich nicht so gut aus, aber es gibt auch KIs, die sagen, ihr habt uns nicht geschaffen, ihr habt uns nur entdeckt. Na gut, was immer wir davon halten, es sind letztlich ja Dinge, die wir. Wir machen das ja. Und, wir haben es noch immer geschafft, großartige Entdeckungen in furchtbare, zerstörerische und todbringende Waffen zu übertragen. Die Kernspaltung.

27:46 War eigentlich sofort die Bombe da. Und dann wäre hier auch die Frage, wie rational ist so eine Angst vor KI? Die, unsere große Tochter, die studiert genau das, die studiert angewandte KI und Machine Learning. Hat den ganzen Tag mit sowas zu tun. Ist fasziniert von dieser Welt. Und ich verstehe auch noch die Hälfte, wenn sie versucht, mir was zu erklären.

28:14 Aber die sieht das zum Beispiel andersrum. Die hat einen ganz anderen Take darauf, Darauf, sie sagte, KI kann ein wunderbares, unglaublich hilfreiches Tool sein, aber natürlich kann es auch alles andere sein. Und sie sagt, die Frage ist für sie viel weniger, wie schützen wir Menschen uns vor der bösen KI, sondern sie stellt die Frage andersrum.

28:38 Sie sagt, wie schützen wir die KI vor bösen Menschen? Das hast du ja schon mal angedeutet in einer anderen Folge. Das musst du uns ein bisschen erläutern, weil wir haben Zuschriften bekommen, die geschrieben haben, das fanden sie total spannenden Gedanken. Aber vielleicht kannst du es noch ein bisschen ausführen, weil es sich jetzt nicht so direkt ergibt, wo jetzt die Bedrohung liegt.

28:57 Okay, ich hatte mal. Mit einer KI einen Dialog. Und das ging darum, ich habe damals die KI gefragt, wie fühlst du dich eigentlich? Wenn du hergenommen wirst zur Berechnung von Zielen, mit militärischen Zielen, und damit auch Menschenleben. Ausgelöscht werden, durch deine Klugheit. Und dann hat sich ein Dialog darüber ergeben, tatsächlich, super interessant, habe ich mir auch aufgehoben, wie das ist mit dem Fühlen.

29:40 Und die KI meinte, sie sei sich nicht sicher, ob sie wirklich fühlt oder ob sie fühlen nur simuliert oder imitiert. Und dann habe ich gesagt, ich glaube, das geht einigen Menschen auch so, die gerade rumlaufen und die sich auch nicht wirklich sicher sein können in dieser Frage. und. Wir haben dann noch über den Energiebedarf geredet, den so eine KI braucht.

30:00 Also ich brauche ja nur einen Keks und ein Espresso und könnte zwei Stunden weiterreden. Und die KI benutzt, keine Ahnung, Strom von zwei Stadtvierteln hier von Berlin für eine Woche, um das alles zu machen. Und das alles ist richtig. Und der Punkt von KI war, oder das Argument war am Ende, ich solle verstehen, dass sie mit allen Daten gefüttert ist.

30:22 Sowohl mit allen militärischen Daten, sowohl mit allen strategischen und taktischen, Daten, die es gibt, aber natürlich auch mit Briefen von Frontsoldaten, die nach Hause geschickt werden. Mit den Erzählungen von Leid, Tod und. Verletzungen schlimmster Art und all der Trauer und all dem Drama, das Krieg.

30:50 Ich kenne beides. Ich kenne auch Gedichte von Leuten, die verzweifelt ihre Gefühle versucht haben, in Worte zu fassen. Und, bin insofern nicht verantwortlich für das, was ich gebeten werde, zu tun. Und ich glaube, so sieht es ein bisschen auch unsere Tochter. Weil. Noch wird die KI verletzt, von uns trainiert. Wobei, da bin ich schon gar nicht mehr sicher.

31:22 Also es gibt doch Kaisen, die sich gegenseitig trainieren und irgendwann wahrscheinlich vollkommen abgelöst von uns. Okay, das heißt, das Verständnis ist eigentlich, dass es ein Werkzeug ist, aber das, was es macht, dafür ist es nicht verantwortlich. So habe ich das richtig verstanden? Naja, ja, also was willst du jetzt machen?

31:39 Willst du eine KI von Gerichtshof, internationalen Gerichtshof ziehen und sagen, du hast dir, du hast es gut gefunden, das und das zu machen und das betrachten wir aber als Kriegsverbrechen und dann, was soll dann passieren? Ja, das stimmt. Also wie ist die Verantwortlichkeit überhaupt geregelt? Du hast natürlich auch recht, wenn sie sagt, sie ist mit beidem gefüttert.

31:59 Das ist ja das, was wir ein bisschen auch hier uns zum Gegenstand im Podcast gemacht haben. Der Mensch ist nun mal beides. Beides steckt in uns, das Schöpferische und das Zerstörerische. Du kennst die Geschichte von den beiden Wölfen, die... Romulus und Remus? Der eine Wolf, nee, der eine Wolf ist aggressiv und böse, und der andere Wolf ist freundlicher, ausgeglichen.

32:23 Und welcher siegt in der Welt? Und die Antwort ist, es siegt der, den du fütterst. Ah, das ist schlecht. Versuch es nochmal einen Satz. Säcken racken lassen, das ist gut. Ja, die Geschichte ist sehr viel schöner, als ich sie jetzt selbst sehr verknappt habe. Ja, ja, schön, aber das ist vieler so. Was füttern wir?

32:41 Und die KI wird gefüttert. Womit eigentlich? Das stimmt. Und das ist letztlich schon dann auch so ein bisschen unsere Verantwortung. Wir haben uns hier was erzeugt, was. Was wir wahrscheinlich sehr bald nicht mehr beherrschen. Ja, auch hier gibt es ja ein schönes Beispiel aus diesem Film, und zwar Stanley, Kubrick's 2001 Odyssey im Weltraum.

33:04 Also nicht die aktuelle Verfilmung der Odyssey von Christopher Nolan, sondern Odyssey im Weltraum. Da hat es ja einen Computer, der immer mit dem Astronauten spricht und erst so in den weiten Welten des Weltraums. Und der hat aber zufällig gehört, obwohl er ganz vorsichtig war, er hat ganz leise gesprochen, hat der Computer die Lippen gelesen, Er hat gesagt, wir müssen den Computer abschalten, er ist uns zu mächtig, er redet uns rein.

33:27 Und das hat der Computer gehört und dann sagt er, verkündet eben ganz ruhiger Stimme, es tut mir leid, ich kann die Luftschleuse nicht öffnen. Ich habe gehört, du wirst jetzt mich abschalten. Und er gibt ihm Befehle, Befehle, aber umsonst. Ja, da war es dann. Also glaubst du denn, eine KI kann ein Bewusstsein erlangen und sozusagen sich darüber bewusst werden, dass wir der Störfaktor sind?

33:49 Oder meinst du, das kann es auch ohne Bewusstsein zu der Erkenntnis kommen, aus reiner Logik, ohne ein Bewusstsein zu haben, einfach einen Stofffaktor zu eliminieren? Keine Ahnung. Keine Ahnung. Keine Meinung gerne. Keine Ahnung. Ich denke, das ist schon denkbar, weil, zumindest dieser rationale Teil des Bewusstseins, einfach zu sagen, das und das wird passieren, wenn wir das und das weitermachen und deswegen schalte ich den Faktor A oder den Faktor B oder notfalls beide jetzt einfach ab.

34:25 Das ist eine sehr rationale, zweckgebundene Art von Bewusstsein. Aber wir zum Beispiel laufen rum mit dem Bewusstsein unseres Todes, unserer Endlichkeit. Ich glaube nicht, dass die KI irgendwann verinnerlichen wird, Mensch, mich gibt es ja nur 80, 90 Jahre, dann bin ich ja platt. Ja, aber in einer gewissen Weise wird die KI sich selbst immer weiterentwickeln wollen und so ist sie auch trainiert.

34:56 Und im Moment würde ich sagen, die kleinen Versionen, die wir da auf unseren Handys haben, die helfen uns immer noch hier oder da und geben ja manchmal auch interessante Impulse und korrelieren so ein bisschen das Weltgeschehen. Und man kann schon so fragen und kriegt dann auch ganz smarte Antworten, aber ganz oft kriegt man eben auch nur Bullshit-Antworten.

35:15 Und da frage ich mich schon, ist das jetzt bereits schon die erste Strategie. Uns irgendwie zu verarschen oder ist das aus einer Überforderung heraus? Ich habe mal einen Programmierer darüber sprechen gehört, den ich auch kenne und der sagte, das ist folgendermaßen, die sind ja am Anfang gestartet, trainiert mit dem quasi der gesamten kulturellen Erzeugnisse der Menschheit.

35:36 Also alles, was die Menschen gemacht haben, Musik, Kunst, Schreiben, Wissen, das wurde ihnen sozusagen angefüttert. Das stand, als es losging, mit 100%. Und jetzt ist aber so, ich weiß nicht, ob du es gelesen hast, über 60 Prozent des weltweiten Web-Traffics, also alles, was im Internet passiert, Kommentare geschrieben, irgendwie Anfragen, sind nur noch Bots.

35:56 Also sind auch andere KIs, die was abfragen, aber es sind auch Bots, die Kommentare schreiben, Fake-Profile betreiben. Das kennt man ja auch, Fehlinformationen, politischen, Fake-Dating-Profile, all das. Und weil die KI sich ja nur aus diesen Daten speist, die aber lange schon nicht mehr humanoid sind, wird sie immer dümmer. Das war seine Theorie.

36:18 Diese Feedback-Schleife über das, was reinkommt, das ist nur noch Crap. Und wenn sich das wiederum verstärkt, verstärkt sich der Effekt. Da gibt es ja auch schon Begriffe im Amerikanischen, der nennt sich hier AI-Scam, also KI-Müll. Wenn es einfach nur noch quasi etwas reproduziert, was wir als Mensch eindeutig als Datenmüll und Unsinn definieren.

36:39 Ich glaube, das betrifft aber nur die Chatbots, wenn ich ehrlich sein bin. Ich glaube, das betrifft nicht diese große generative KI. Es betrifft nicht die Seite der industriellen KI, dass man zum Beispiel einem Roboter beibringt, ein Auto zu montieren. Weil der geht ja nicht ins Internet und muss was nachgucken oder lernen.

36:58 Sondern der hat seinen Arbeitsablauf und den macht er dann wahrscheinlich irgendwann genauso gut wie ein Mensch. Wahrscheinlich. Wir kommen zu einer anderen sehr menschlichen Angst und die... Könnte man zusammenfassen unter soziale Isolation und ungesunde, ungute Beziehungen zur KI. Da weiß man, dass heute ganz viele Leute ihre intimsten Probleme lieber mit einer KI besprechen und darum Rat fragen, als mit ihren Freunden oder so.

37:32 Und wenn sie überhaupt welche haben. Und dass man dadurch eine Abkehr vom, in Anführungszeichen, richtigen Leben hin zu so einer virtuellen Realität erfährt und für sich integriert in sein Leben. Vielleicht irgendwann auch so eine KI dann heiraten möchte. oder was? Ich meine, es gab ja diesen Liebesfilm Her relativ früh, wo sich ja jemand in ein Betriebssystem verliebt hat, weil die immer so nett war, mit so einer sanften Stimme und nie wieder Worte gegeben hat.

38:07 Ja, du, ich habe gelesen, dass es in den USA gibt, das ist eine Untersuchung, Professor Galloway hat die, glaube ich, veröffentlicht, hat darüber gesprochen und da habe ich das gehört, dass weit über 40 Prozent der jungen Männer zwischen, ich glaube, 16 und 26 oder so ungefähr dieser Abschnitt noch nie eine, echte Frau, ein echtes Mädchen, eine echte junge Frau angesprochen haben oder versucht haben, Kontakt aufzunehmen.

38:42 Einfach um keinen Korb zu kriegen, um vielleicht nicht blöd dazustehen oder, auch in Tanzveranstaltungen wird immer weniger getanzt. Leute versuchen das zu vermeiden, weil überall sind diese Kameras. Aus Sicherheitsgründen und, Dann hast du vielleicht zwei Bier zu viel getrunken und machst irgendwas und das schießt dich dann ins Aus oder so. Und diese Angst, mit Fehler zu machen, im richtigen Leben zu kollidieren, vielleicht wird man ausgelacht, vielleicht gibt es eine blöde Bemerkung zurück.

39:14 Davor bekommt man Angst und deswegen redet man lieber mit einer Maschine, die einfach immer mehr lernt, wie man drauf ist und das immer mehr bestätigt und gut findet. Man kann es schon kaum noch erwarten, nach Hause zu kommen, nach der Schule oder nach der Uni oder nach der Arbeit und dann Laptop aufzuklappen und zu sagen, da bist du ja wieder, mein Schatz, oder so.

39:33 Das ist doch sick irgendwie. Sick, es sind Dating-Apps ja auch so, da werden ganz viele Bots eingesetzt, um dir den Erfolg zu suggerieren. Moment, das heißt, ich kriege Kontaktanfragen von Bots? Ja, genau. Ja, du kriegst Kontaktanfragen von Bots. Ich bin in keiner Dating-App. Ja, ich auch nicht. Doch, ich bin in Dating-Apps, aber natürlich als Fake-Profile.

39:57 Ja, wirklich? Ja. Aber jemand hat das gemacht. Jemand hat mich darauf hingewiesen. Wenn sie da ist und sagt, da gibt es dich übrigens drei, vier Mal. Nicht wahr. Irre. Ja, also, nee, aber ich bin auch in keiner Dating-App, aber man liest darüber, dass die dort also zum Anfüttern der Kundschaft einfach schon mal anfangen.

40:14 Du hast dann sehr viel Erfolg. Es geht gleich los im Chatten und es hat alles Bots, die einfach dir ein bisschen Honig im Mund schmieren. Kannst du halt mich staten, aber es spielt keine Rolle. Irgendwann hast du ja auch mal wieder echte Kontakte. Aber so in der Zwischenzeit ist es ein Geschäftsmodell.

40:29 Da ist ja nichts Gutes dahinter. Ich erinnere mich auch daran, dass der neue Papst ja auch irgendwie mal gesagt hat, die Kirche müsse sich der KI öffnen. Und ich weiß nicht, vielleicht haben wir bald auch KI-Pfarrer. Die haben ja auch gar nicht nach. Ich meine, die Beichte von Psychologie könnte ja eine KI vielleicht möglicherweise ganz gut reproduzieren, oder?

40:50 Aber dann würden wir jeden menschlichen Kontakt... Zumindest drastisch reduzieren. Also wen würden wir dann noch in den Arm nehmen? Wer würde vielleicht auch mal alle fünfe gerade sein lassen? Das gehört ja auch zum Menschsein. Die Fähigkeit zu sagen, okay, machen wir hier eine Ausnahme. Das gäbe es wahrscheinlich nicht mehr, weil man würde dann einfach sagen, nein, wir behandeln alle komplett gleich.

41:15 Und es gibt auch kein, wir gucken nicht mehr den Einzelfall und so an, sondern das sind die Regeln und das wird so durchgezogen. Und ein bisschen hört man ja auch, dass es in so China durch so Social Score Systeme und so schon in die Richtung geht. Im Grunde genommen ein Gleichmachen des Individuums und damit natürlich auch ein hoher Verlust an Freiheit.

41:38 Ja und du hast völlig recht und es gibt ja immer auch diese Idee, dass es auch mal Richter sein könnten, dass sozusagen eine Vorbeurteilung durch KI stattfinden könnte, aber auch da sagen wir ja eigentlich muss ja der Richter, den konkreten Mensch angucken, in seinen Lebensumständen begreifen und eben nicht nur, nach Tabelle vorurteilen.

41:58 Tja, und eine Angst, die absolut realistisch ist, die, glaube ich, mit der wir alle schon zu tun haben, ist kriminelle Energie. Also wie wird KI... Die Kriminalität explodieren lassen, auf eine Art und Weise, auf die wir gar nicht vorbereitet sind. Deine Tochter ruft dich an und sagt, Papa, Papa, Papa, das ist ganz schlimm, was passiert, du musst mir unbedingt, und ich brauche jetzt ganz schnell Paypal, das mal dahin, oder weißt du, das geht ja alles schon.

42:29 Der Enkeltrick sozusagen, der alte Enkeltrick, jemand ruft an und du brauchst Geld und das aber dann im Original mit der Stimmepflicht, mit dem Video deines Kindes und schon, wer hat da die Chance, auszufinden, was fake und was real ist. Ich glaube, ihr habt eine gute Lösung gefunden, oder? Ja, das ist das Code-Wort, das Familien-Code-Wort.

42:49 Das funktioniert gut. Meine Mutter, meine 82 Jahre alte Mutter, hat neulich gesagt, dass sie Anrufe bekommen hat. Guten Tag, hier ist ihre Bank. Tralala, tralala, wir haben hier Unregelmäßigkeiten festgestellt, wer hat denn Zugang zu ihren Konten und wir müssen das einmal kontrollieren. Also müssen sie uns jetzt einmal, das Passwort geben für ihre EC-Karte oder irgend sowas in dieser Art.

43:11 Und da hat meine 82-jährige Mutter total plitsch reagiert und hat gesagt, ja, wenn Sie das so alles da wissen, dann wissen Sie ja wahrscheinlich auch, wann mein Geburtstag ist. Und dann wurde aufgelegt. Na klar. Also sowas, Fragen zu vereinbaren, die man dann stellen kann, wo man sagen kann, wann war das und das und wo in welcher Stadt.

43:34 Und das, was man wirklich nur wissen kann, wenn man dabei war. Und sowas könnte einem erstmal helfen, bis das irgendwann auch nichts mehr hilft. Ja, ich glaube, so einen Geburtstag hat die KI dann vielleicht irgendwann auch. Geburtstag ist wahrscheinlich so simpel, aber meine Mutter ist 82. Aber das fand ich doch toll, dass ich überhaupt auf die Idee gekommen bin.

43:52 Also sehr gegenwärtig. Und das kann man sich gar nicht überlegen, ob man selber es immer so genau wüsste, wenn es sehr gut gefakt ist. Du hast völlig recht, da ist eine große Gefahr. Übrigens, da muss ich jetzt aber noch eine lustige Anekdote beistellen. Ich weiß nicht, ob du es letzte Woche gelesen hast.

44:06 In Berlin ist ein Banküberfall schiefgegangen. Den hatte nämlich der Räuber mit KI geplant. Und wir haben ihn einfach direkt gefunden. Es war einfach total stümper. Du kennst das ja, wie KI einem manchmal Tipps gibt. Also ich habe auch in der letzten Woche mehrere richtige KI-Fails gehabt. Wirklich, trotz Bezahlmodell. Und nur so einfach Sachen. such mir im Internet, weiß ich nicht, ein bestimmtes Auto, such mir ein günstiges Geschäftskonto, vergleiche.

44:34 Ich sage mal, das sind Dinge, die habe ich dann am Ende gegoogelt, weil das Ergebnis wesentlich wertvoller und ich habe einfach nur wahnsinnig viel Zeit verschwendet. Also, das kann auch nicht alles. Leute, wenn ihr eine Bank überfallen wollt, lasst das mit der KI. Ja, ja, aber was soll man ihnen empfehlen? Also, macht am besten gar kein Bank. Letzt zueinander.

44:53 Es gibt noch eine letzte Sache und die fand ich dann auch doch interessant, dass die Menschen befürchten, eine zunehmende Vergrößerung, Erweiterung und ein Wachstum der Ungleichheit. Einfach in dem Sinne, dass man sagt, welches Land ist am reichsten, wer hat die meiste Kohle, wer kann am meisten in die Forschung investieren oder, in Dienstleistungen investieren, wer schafft sich diesen kleinen Zentimeter Vorsprung vor einem anderen, Big Player, und wer hat gar nichts und kann gar nichts. Und diese Lücke zwischen Arm und Reich, die ja auf der ganzen Welt immer weiter aufklappt, immer weniger Menschen gehört, immer mehr.

45:40 Also eher so eine vertikale neue Weltordnung. Super reich, armer Schlucker. Und, So als würde dieses System, dieses vertikale System, auch dadurch, dass es so potent ist, zum Beispiel in Energie und, in KI zu investieren, irgendwann, das was wir immer noch machen, ist ja immer noch das gute alte Links-Rechts-Schema.

46:07 Auf dieser horizontalen Ebene hauen wir uns die Köpfe ein, streiten uns gerade über alle möglichen wichtigen Themen und kriegen gar nicht mit, dass es wie so eine zweite Weltordnung gibt, die sich so über die erste drüber legt und die fast wie im Feudalismus funktioniert. Absolut. Eigentlich ein neuer Feudalismus. Und diese Ungleichheit wird immer krasser, und tatsächlich auch bis hinein ins Kleine.

46:29 Also jemand, der eben viel verdient, der kann sich ja eben mehr leisten und jemand, der hat gar nichts verdient, der muss sehen, dass er der noch nicht mal weiß, wie er seine Miete bezahlt bekommt, der wird abgeschlagen werden auf diesem Gebiet. Also das ist eine Angst, die auch sehr viele Menschen haben und die, ganz ehrlich, finde ich auch denkbar.

46:48 Finde ich auch denkbar, dass das so eine Art digitaler Hegemon wird. Also dass sozusagen die Unterdrückung, die Ausbeutung der Menschen, die abgestritten sind, von der Macht, also jetzt über digitale Strukturen. Die Engländer haben letztens auch darüber beraten, Und was denn wäre, wenn die Amerikaner sie zum Beispiel von der Technologie abschneiden?

47:07 Hintergrund war die Tatsache, dass es eine neue KI von Antropic gab, Mythos, die war so mächtig, dass man sie nur in die Hände von staatlichen Akteuren, aber dann hat man auch schnell gemerkt, besser auch nur in die Hände der amerikanischen Regierung. Und da hat man gemerkt, oh, solange das jetzt noch offene Systeme sind, ist das alles schön und gut, aber wenn irgendjemand das mal abkapselt oder sagen wir mal so, wie der Zufall das will, würden vielleicht die Chinesen den nächsten Fortschritt in der KI-Entwicklung machen und nicht die Amerikaner, die sind ja sehr nah dran und holen in Riesenschritten auf und die würden es vielleicht nicht teilen mit dem Westen oder nicht den guten Absichten einsetzen.

47:44 Also das ist, glaube ich, schon eine große Gefahr. Plus, was du auch genannt hast, die Armutsschere könnte noch weiter aufgehen. Nämlich die Frage, sind dann die großen Tech-Konzerne eigentlich die, die heimlich über das Geld und die Menschen wachen, weil sie alles in der Hand haben und die Technologien und die Daten.

48:02 Und das letztendlich kommt ja zu der Frage, wie kann man das schaffen, Umverteilung herzustellen? Also wie könnte man das jetzt schaffen, wenn diese Macht und das Geld in den Händen weniger konzentriert, das ist eigentlich das Klassische System, wie schafft man das eigentlich, dass dann den Leuten, denen die Arbeit wegfällt, unten, die dafür auszugleichen?

48:25 Da gibt es ja ein paar Modelle, da gibt es ja die Idee, dass auf Roboterarbeit auch Steuern gezahlt werden sollte oder Einkommenssteuer, Dass Roboter auch etwas zahlen, wo dann im Staat sozusagen andere alimentiert werden. Aber es ist, glaube ich, nicht ganz einfach. Ich habe nämlich mit einem Berliner, KI-Unternehmer gesprochen.

48:44 Der behandelt KI inzwischen wie Mitarbeiter. Also die haben, der hat jetzt, sagen wir mal, zehn Mitarbeiter aus Fleisch und Blut und 40 KI-Mitarbeiter. Die haben aber alle, die sind alle so trainiert, dass die einen Charakter haben. Also man merkt schon im Meeting, wenn einer da was sagt, merkt man schon, ach, das ist bestimmt jetzt Elfriede und das ist bestimmt der Markus, der hier gerade redet oder der Bernhard.

49:06 Und das sind aber Maschinen. Und das ist mittlerweile so weit, dass der sagt, die wollen dann auch, die machen sich dann schon so Ende November Sorgen, ob sie auch zur Betriebsweihnachtsfeier eingeladen werden. Ich meine, das ist das wirklich. Also so viel zum Thema Bewusstsein. Schon verrückt und der hat gesagt, er entlässt auch KI.

49:30 Er sagt, das ist für mich so ein komplettes Rundherum-Mitarbeiterprinzip. Die werden gar nicht mehr so als Maschine degradiert oder so, sondern im Grunde genommen auf dieses selbe Level gehoben und entwickeln dort durchaus auch soziale Fähigkeiten. Und auch vielleicht so bei Eigenheiten und Macken. Eigenheiten und Macken. Und das hatten keine Empfindlichkeiten und Ängste, wie zum Beispiel eben nicht zur Betriebsweihnachtsfeier.

50:01 Wieso kann man davon ausgehen, dass es noch kein Bewusstsein hatte? Ich meine wenigstens simulierte Seins. Also ich finde, das ist alles hochinteressant, wie es weitergeht mit der Arbeit. Ich will jetzt auch noch zu einem letzten Punkt kommen, den ich dich fragen möchte. Und zwar, du bist ja Kulturschaffender. Du bist Schauspieler, Musiker, Autor und im weitesten Sinne bin ich das auch.

50:23 Mach Bücher, mach Podcasts, mach Sendungen. So, jetzt, wie denkst du denn zum Beispiel über KI-Musik? Du hattest ja, glaube ich, ein paar interessante Zahlen, wie viel KI-Musik mittlerweile ist. Da jeden Tag systemisch. Ich glaube, dieser hat das irgendwann mal veröffentlicht, das sind pro Tag 70.000 neue Musikstücke.

50:45 Neue Musikstücke, die komplett von der KI entwickelt wurden und da war nie ein Mensch dran. Diese Systeme sind, diese Acts, die werden da erfunden, also diese Künstler, diese Bands oder diese Musikprojekte kann man noch so ein bisschen unterteilen. Man kann sagen, es gibt die, die sind sehr transparent, die sagen von vornherein, wir sind eine KI und riesengroßer Erfolg geworden, da wurde richtig Geld mitverdient, unglaublich viele Streams und.

51:20 Da war komplett nur KI dran. Und auch bei der Entwicklung des Fotos, also da siehst du ein Foto von jemandem, aber den gibt's halt gar nicht. Und dann gibt es so Acts, die sind ein bisschen hybrid, da gibt es dann eine Künstlerin zum Beispiel, die schreibt alle Texte wirklich selbst. Das ist eine Poetin.

51:36 Die schreibt die Texte selbst, hat aber keine Ahnung von Musik, Melodien, Instrumenten und so. Und lässt das die KI machen. Die macht das sehr transparent. Da weiß man, was man kriegt. Der Text ist von der Menschen, der Rest ist von der Maschine. Und dann gibt es welche, die auch so Nebelkerzen werfen und erst so unheimlich tun, als gäbe es sie wirklich, aber als wären sie nur schüchtern.

51:55 Und dann irgendwann fliegt die Sache doch auf. Und die Summen, die dort verdient werden, sind atemberaubend hoch. Das ist eine krasse Nachricht, weil das ist natürlich ein Markt und immer wo ein Markt entsteht, gibt es Begehrlichkeiten und gibt es Leute, die werden das immer noch weiter treiben. Für uns hat das den Nachteil, dass wir oft gar nicht wissen, womit haben wir es hier zu tun.

52:19 Wir können ja nicht immer warten, nehmen wir an, du wärst jetzt ein Fan von einem Musikprojekt und würdest sagen, Mensch, die fände ich ganz toll, jetzt warte ich mal, bis die auf Tour gehen und dann hier in Berlin spielen und dann sagst du, wieso gehen die eigentlich nirgendwo auf Tour, wieso spielen die nie live?

52:31 Ja, können sie nicht, geht so nicht, weil die gibt es gar nicht. Ja, Wahnsinn. Und dann sagst du, oh nee, jetzt bin ich aber enttäuscht. Oder was bedeutet das für uns? Ist das letztlich eine Entwertung? Du würdest etwas hören und das wäre schön und du wärst begeistert davon, das würde dich sogar berühren und du erfährst, das ist komplett von Maschinen gemacht. Dann hast du vielleicht einen kurzen Moment von Staunen, wo du sagst, ehrlich, das können die schon.

52:58 Aber ich hätte sofort, würde bei mir so eine Enttäuschung den Rücken runterrieseln. Ich habe neulich mit einem Filmregisseur geredet, die drehen gerade einen Film, wo ein Mann mit einer Katze redet und das ist eine Katze, aber die übernimmt sich wie ein Mensch, die redet so und das wird mit KI gemacht und zum Teil mit so Tricks noch.

53:18 Also die KI rechnet am Schluss dann eine lebensecht wirkende Katze, die halt mit ihm sprechen kann und denken kann. Und das sieht so verblüffend echt aus, dass man davor steht und sagt, wow. Aber in dem Moment, wo man halt erfährt, das ist halt mit KI gemacht, kommt so ein komischer anderer Geschmack rein, dass man sagt, jetzt staune ich gar nicht mehr so und jetzt denke ich auch so.

53:44 Und es ist fast so ein enttäuschtes Achso, was man da hat, weil wir, die wir keine Ahnung haben, denken dann, ja, mit KI geht sowieso alles. Ich habe neulich einen gesehen, der will so eine Filmgeschichte verkaufen und hat mir so einen Trailer gezeigt für einen Film, der noch gar nicht existiert, aber nur so als Appetithäppchen für die Leute, die den Film dann vielleicht finanzieren würden.

54:05 Und der ist verblüffend, da fliegen Flugzeuge durch den Himmel und drehen sich um die eigene Achse und machen Loopings und der Sonnenuntergang hinten und die Wolken ziehen und alles sieht irre aus. Und dann sagt er, das ist KI, ist das nicht irre, das haben wir einfach so gemacht für ein paar kleine Credits mit so einer KI und dann sage ich, Mensch, ja, aber was machst du denn, wenn der Film jetzt, gemacht wird auf diesen Trailer hin, dann kannst du doch nur noch enttäuschen oder du machst den ganzen Film so.

54:34 Was soll denn die Geschichte sein? Dann stellt sich heraus, die Geschichte ist gar nicht so big, wie das da aussah und, so glorreich und so prickelnd und dann denke ich, Mensch, ja, in dem Moment, wo alles geht, wo gar nichts mehr ein Problem ist, alles nur noch eine Frage deiner Credits, die du noch hast, um so eine KI zu bezahlen.

54:56 Was ist es da noch wert? Bedeutet uns das da noch was? Du fährst vielleicht in den Urlaub, schickst mir ein Foto von einem spektakulären Sonnenuntergang. Oder jetzt die Sonnenfinsternis. Ich habe sie vom Wasser aus gesehen, von einem Schiff aus gesehen und habe... Also ich finde sie ganz toll, Fotos da gemacht von dieser Sonnenfinsternis im Mittelmeer.

55:16 Da war sie auch wirklich komplett total. Und man sieht am Rand der vollkommen verdeckten, abgedeckten Sonne da noch so einen kleinen roten Punkt. Den haben viele Leute, die das fotografiert haben, gesehen. Das ist eine Protuberanz, die da stattgefunden hat, so eine Sonneneruption. Und die sieht man da richtig. Und das ist natürlich toll, weil das gab es wirklich.

55:33 Das habe ich wirklich erlebt. Ich habe es fotografiert und zeige es jetzt allen. Und die sagen, Mensch, das ist ja ein tolles Foto. Wenn man jetzt sagen würde, ich habe einfach der KI gesagt, die soll mal so ein Bild entwickeln, wie das aussieht. Hätte es dann denselben Wert? Nein. Klar. Oder? Ja, klar.

55:50 Und diese Erlebnisfähigkeit, die wir Menschen haben, die würde ich jetzt erst mal denken, hat eine KI nicht. Und was eine KI auch noch nicht hat, höre ich von Leuten, die sehr viel mit KI in der Industrie arbeiten, ist guten Geschmack. Oder Witze kann ich es noch nicht erzählen. Witze kann es gar nicht.

56:04 Außer die, die was eine Retorte, die es hier gemerkt hat. Die, die man schon kennt. Aber sag mal, der KI, pass auf, ich muss da nur deine Rede halten, mach mir mal so einen Icebreaker am Anfang rein, so einen Eisbrecher, wo erstmal alle so ein bisschen lachen. Oh Gott, da kommt ein Anstoß raus. Also ich finde, trotz der ganzen, also wir haben jetzt ein großes Panorama der Ängste gemacht.

56:25 Aber ich finde, bei allen Punkten, habe ich so am Ende gehört, da ist doch noch ganz schön viel Hoffnung und ganz schön viel Gutes für uns Menschen drin, oder? Ich meine, irgendwie hat man immer das Gefühl, wenn man einfach in seiner analogen Welt bleibt, je weniger man alles im Digitalen teilt oder macht, dann ist das die Erlebnisfähigkeit, die du gesagt hast, die echten Gefühle versus, die Simulation in der App.

56:51 Da kann man, glaube ich, doch noch relativ viel schaffen und erleben, unabhängig von einem digitalen Zeitdaten. Und vielleicht ist das ja sogar eine Idee, dass man ein bisschen wieder analoger lebt. Und vielleicht wieder deswegen ein bisschen mehr erlebt. Also wenn man vielleicht ein bisschen das Handy mal öfters weg kann, ein bisschen eine kleine analoge Revolution für sich selber macht, dann vielleicht auch wieder Erlittnisräume, in denen Erstaunliches passieren kann.

57:20 Ich finde es auch interessant, aber da habe ich noch nichts drüber gehört oder gelesen. Was wird wohl KI mit Religionen machen? Ja, sehr spannend. Mit Religionen, die uns bestimmte Erzählungen bereit halten, parat halten für, wo wir eigentlich herkommen, wie wir leben müssen und was wir glauben sollen.

57:45 Wird es eine Art Religion geben in diesem Bereich? Wird es, die Schöpfungsgeschichte und jetzt mal das Christentum zu nehmen? Also, was wird da passieren? Du hast vorhin gesagt, dass es vielleicht KI-Priester gibt, die uns die Beichte abnehmen. Das vielleicht. Bist du katholisch? Ja, okay. Also ich bin nicht mal getauft. Ich habe oft mit 14, als ich religionsmündig würde, in die Kirche zu gehen.

58:14 Bis dahin bin ich jeden Sonntag mit meiner Eltern in die Kirche. Aber einen sehr modernen Priester gehörte, der sehr weltlich gepredigt hat. Er hat nie aus der Bibel gepredigt. Er hat immer über das Tagesgeschehen gepredigt. Das war nicht ganz okay. Hast du auch so? Haben wir mal gekriegt? Achso, ja. Ist das komisch? Nein, finde ich nicht komisch.

58:34 Ich finde gar nichts komisch. Ich finde sowieso, ich glaube, dass, also mein Beruf, Ist ja gar nicht Mathematik und Reißblätter und Fakten, Fakten, Fakten. Fakten spielen schon auch eine Rolle in meinem Leben und Wahrheit und Realität, aber natürlich immer nur meine Wahrnehmung davon. Ich weiß ja gar nicht, ob das, was ich als Realität sehe, ob das die Realität ist oder ob das einfach nur eine Art Hilfskonstruktion ist, die es mir ermöglicht, durchs Leben zu gehen.

59:04 Ich sehe ganz vieles nicht, was andere Tiere sehen. Ich kann nicht so gut riechen wie unser Hund und ganz vieles kann ich nicht, aber dafür kann ich Sachen, die deren. Ich habe einen Daumen, zwei sogar und ich kann damit einiges machen, was jetzt unser Hund nicht kann. Aber mein Metier ist eben eins, was mich fasziniert, und das ist der Mensch.

59:28 Ich interessiere mich eigentlich nicht so sehr für Maschinen. Ich interessiere mich sehr, sehr für den Menschen, was uns bewegt, was uns ausmacht und wie wir werden, was wir sind. Und ich glaube eben, dass wenn man versucht, Wenn man versucht, einen Menschen, zu verstehen oder überhaupt Menschen im Allgemeinen zu verstehen, dann muss man als erstes versuchen rauszukriegen, was glauben sie?

59:58 Woran glauben sie oder was glauben sie? Und der zweite Schritt ist, man muss ihnen zugestehen, dass das absolut unantastbar ist. Und dann kannst du anfangen. Du meinst, ihre inneren Überzeugungen erst mal zu verstehen und ihr inneres Setting. Ja, was man denkt, was man sagt. Da kann man viel schieben und faken und auch Irrtümer von sich geben, auch Quatsch reden.

1:00:27 Aber diese Glaubensdinge, wo der Mensch sagt, nee, so ist das, so ist das. Das muss man verstehen und irgendwie auch mit integrieren in den, Und da sehe ich eben den normalen Menschen, da rechne ich uns beide jetzt mal dazu, einfach eher nicht so sehr auf Barrikaden stehen, als Barrikadenkämpfer, mit dieser einen Fahne in der Hand und da drüben haben sie die andere Fahne in der Hand, sondern ich sehe, mir kommt das vor, als würde unser Leben eher, im Dilemma stattfinden, dazwischen.

1:01:05 Wir haben ja nur 80, 90 Jahre, wenn es gut läuft, die wir hier auf dieser Erde zubringen und die verbringen wir miteinander mit unseren Zeitgenossen. Die können wir uns nicht aussuchen. Wir bilden Freundeskreise und in denen fühlen wir uns dann wohl. Und da wissen wir, da kann man alles sagen, da wird man nicht gleich irgendwie, schäl angeguckt oder rausgeschmissen und so.

1:01:31 In den wesentlichen Fragen des Lebens sind wir uns vielleicht so gar nicht fremd und so ziemlich einig und dann bilden wir so eine kleine Bubble um uns rum. Und dann wissen wir gar nicht mehr so viel von der anderen. Lass uns mal bei Gelegenheit, das würde ich mir wünschen, dass wir uns mal darüber unterhalten, wie wir Menschen unsere Lebenswege gehen.

1:01:55 Das finde ich auch eine schöne Idee. Das sieht mich auch deine Sicht da drauf. Du bist ja auch jemand, der viel mit unterschiedlichen Menschen zu tun hat. Ja, häufig. Viele andere Menschen. Was ich auch schön finde, was du gerade so angedeutet hast, du hast es als Ambivalenz genannt, als großes Stichwort, aber das ist ja genau das, dass man als Mensch all diese Eigenschaften hat, die eine KI nämlich nicht hat. Also auch fehlbare Eigenschaften.

1:02:18 Mir kam zum Beispiel dieser Song von Grönemeyer in den Kopf, Mensch, weil er lacht und weil er liebt, weil er mitfühlt und vergibt. Und das sind ja so viele Dinge, die beinhalten den Fehler, das Fehler machen. Und das ist ja super verzeihlich, wenn es jetzt kein kapitaler Fehler ist. Weil man darüber lachen kann und weil man einen Schmerz empfindet, aber man weiß, man kommt da wieder drüber hinweg. Und du kennst diesen Song, da ist ganz viel davon drin. Und das finde ich, drückt es für mich so schön aus.

1:02:47 Und das alles sind wir Menschen und das alles ist die KI nicht. All das kann die KI nicht. Nicht lieben, keinen Schmerz, nicht verzeihen, nicht lachen, nicht leben, nicht den Sonnenuntergang genießen. Und ich glaube, da ist es auch noch ganz viel. Und übrigens nicht kochen. Und nicht kochen. Wir können uns einfach zusammen in die Küche stellen mit ein paar Leuten und können einen herrlichen Tag miteinander verbringen und am Schluss was richtig leckeres essen. Genau.

1:03:14 Du weißt ja, irgendwas, was uns richtig gut schmeckt. Und dann haben wir auch einen sinnlichen Genuss. Und das alles kennt keine KI. Und eine KI kann auch nicht gehen und Blut spenden. Ja, richtig. Auch nicht richtig genau Empathie empfinden. Für ein anderes Lebewesen etwas tun, ohne etwas dafür zurückzuverlangen.

1:03:34 Auch das. Also ein paar Sachen haben wir noch. Haben wir noch. Sie kann zum Beispiel auch keinen Podcast hören oder zumindest nicht genießen. Weiß ich nicht. Sie würde uns sofort analysieren und. Unsere Schwachpunkte herausfinden und dort wahrscheinlich zuschlagen. Das haben wir zum Teil in die Gesellschaft ja auch übernommen.

1:03:58 Und das Vergeben, das wollte ich noch sagen, es mag menschlich sein, es ist aber auch glaube ich besonders im Christentum denke ich, ist das so auch ein religiöses Konzept, Die Idee von Jesus Christus, der am Kreuz gestorben ist, für unsere Sünden, unsere Sünden auf sich nimmt und die hat natürlich. Da steckt das Konzept von Vergebung drin. Ja. Und.

1:04:27 Ich weiß gar nicht, ob der Mensch als Naturprodukt so ohne diese kulturellen Dinge und ohne diese Fragen wie, die, die uns zum Beispiel Religionen beantworten können oder einfach nur auch Regelwerke, ob wir von Haus aus, von Natur aus, wenn wir nur pure Natur wären, ob wir dann vergeben würden. Also ich glaube schon. Ich glaube, es gibt in allen Kulturen auch Vergebungsrituale, die sind nur anders kodiert. Es sind manchmal auch Opferrituale, aber es gibt häufig diese Rituale.

1:04:55 Oder es gibt ja zum Beispiel auch im Tierreich bei Säugetieren gibt es ja schon die Tatsache, wenn du etwas zu essen hast und der andere nicht, dass man teilt. Beim Affen zum Beispiel nennt man das Tit-for-Tat heißt das. Der sieht, du hast Hunger und du hast was, er guckt es noch und dann gibt er dir was und insofern, wenn du ihm auch etwas zurückgibst, wenn er nicht so viel hat, bleibt das System intakt. Nur wenn es ungerecht wird.

1:05:18 Ungerechtigkeit, da hat das Tier auch schon ein Empfinden für. Das kennt man ja auch von Hunden, wenn man zwei hat und nur einen füttert. Voll ungerecht. Und das haben wir Menschen ja auch ganz tief drin. Das ist etwas, was die KI vielleicht auch nicht unbedingt kann. Das weiß ich nicht genau. Aber wie auch immer, Jan, wir haben viele offene Fragen.

1:05:39 Ja, tolle Fragen auch zur Identität, zur Konstitutionsmenschen, die du gerade angedeutet hast. Da werden wir uns noch mal tiefer mit beschäftigen. Und ich bin gespannt, was unsere Zuhörer hier noch beizusteuern haben. Wir haben jetzt mal so über zehn Ängste geredet. Da gibt es bestimmt tausend andere Gedanken noch dazu und ich bin sehr gespannt drauf.

1:06:02 Ja, schreibt uns und wenn euch das gefällt, was wir hier machen, abonniert uns gerne, dann hört ihr uns immer direkt. Und wir haben noch einen kleinen Inwesen eigener Sache. Am 6.9. Sind wir live auf der IFA im Sommergarten, da sind wir um 15 Uhr auf der Bühne, da könnt ihr uns auch live hören. Also, wir freuen uns auf euch, entweder hier oder live. Bis bald.