Die KI-Panik als Plan der Staaten: Andreas Grassl über eine brisante These

0:00 Herzlich willkommen zurück zu Waskann, dem Podcast aus Wien. Heute mit einer Spezialfolge. Wie man sieht, wir sind nicht im Studio, sondern in der Online-Welt und das hat einen bestimmten Grund. Zum dritten Mal zu Gast, Andreas Kastel, herzlich willkommen. Hallo. Magst du vielleicht kurz erklären, warum wir uns vielleicht treffen oder was das Besondere ist in diesem Podcast heute?

0:27 Anlass dieses virtuellen Treffens ist mein kurzes Gastspiel in New York, where in the UN General Assembly, oder wie sich jetzt so lange bekannt is, der Generalversammlung auch eine Sicherheitsratssitzung veranstaltet wurde, bei der Tech-CEOs anwesend waren, Dario Amadei zugeschaltet, Sam Altman persönlich.

0:51 Und aus diesem so gedacht geheimen Sicherheitsratsmeeting trang doch einiges an die Öffentlichkeit. Also man wusste, worum es geht, und man wusste auch, was dann wahrscheinlich am Ende passiert. Sinn und Zweck war die Reglementierung von KI, wie die in Zukunft ausschauen kann, was ja alles ein bisschen in den Zeitgeist der letzten ein, zwei Monate passt, wo die Stimmen global nach der Reglementierung der KI nicht nur seitens der Regierungen, sondern auch seitens der Entwickler immer größer wurden.

1:23 Und deswegen wollen wir heute über New York, die Vereinten Nationen und eben insbesondere diesen Aspekt sprechen.

1:30 Aber eine viel wichtigere Frage davor. War das dein erstes Mal in New York?

1:35 Das war mein zweites Mal in New York, das erste Mal nicht als Tourist.

1:39 Und wie fandest du oder wie findest du so grundsätzlich die Stadt?

1:44 Ich beginne mal mit der Anreise, weil die Geschichte schon so ist, dass man sich im Jahr 2026 als sowas, was andere als Journalist bezeichnen, den Gedanken machen muss, ob das jetzt immer so ganz problemfrei ist, wenn du in die USA einreisen willst. Also andere hat es ja schon erwischt, dass sie zumindest aufgefordert wurden, ihr Handy herzugeben und einmal zu zeigen, was da alles so drauf ist, beziehungsweise angesprochen wurden auf Dinge, die sie gesagt haben, Memes, die sie geliked haben oder weiterverbreitet haben.

2:15 Da war ich, der sehr outspoken ist und praktisch jeden Tag über US-Politik berichtet, schon ein bisschen alarmiert. Aber dankbarerweise, aufgrund des Umstands, dass ich in der Delegation der österreichischen Außenministerin war, wurde ich weder angegriffen noch meine digitalen Geräte und meine Fingerabdrücke wollte auch niemand haben, was normalerweise eine Standardprocedere bei der Einreise in den USA ist.

2:35 Und die Ausreise ist so, dass du sie gar nicht merkst. Also du hast gar nicht wirklich festgestellt, dass du durch eine Passkontrolle gehst, du bist einfach sehr schnell draußen. Das heißt, Einreise ist immer kritischer als Ausreise. Und in meinem Fall war das eigentlich unspektakulär. Mein Eindruck von den USA, selbst die Stadt, wo man eigentlich davon ausgehen sollte, dass sie am weitesten entwickelt ist, weil irgendwie New York die geglaubte Hauptstadt der kapitalistischen Welt ist, ist infrastrukturell, ich glaube, da überrasche ich niemanden, speziell nicht die Menschen, die dort waren, sehr weit hinterher.

3:04 Also egal ob Zug, U-Bahn oder alles andere, was du nutzen würdest, ist einfach auf Stand von Österreich 1990, aber bei weitem nicht so sauber, wie es damals wahrscheinlich bei uns war. Und noch dazu kommt, dass natürlich die Dinge teuer sind und dass auch die Flughäfen wahnsinnig heruntergekommen sind.

3:23 Jetzt habe ich vielleicht die falschen Terminals gesehen, aber sowohl New York Airport mit stinkendem Teppich als auch JFK Terminal 1, was, glaube ich, mit herunterfallenden Decken und so, steht irgendwie exemplarisch dann doch für den Zustand dieses Landes. Es ist nicht alles besser in den USA, nur weil die Wirtschaftswachstum haben, sagen wir es mal so.

3:46 Ja, du bist ja auch über Null Walk eingereist. Ich bin dann mit einem Zug gefahren, der keine Touren hatte vor eineinhalb Jahren. War das bei dir auch dafür?

3:54 Ich bin ein Zug gefahren, der keine Fenster hat. Also er hatte schon Fenster, man hat nichts rausgesehen, weil er so dreckig war. Und der Zug hat geknauert, sodass man mich fast nicht auf Video verstanden hat. Das muss man schon mit einbeziehen, dass das einfach, sagen wir mal so, der typische Amerikaner ist mit dem Auto unterwegs und das ist es.

4:12 Und das merkt man auch. Nichtsdestotrotz, die Stadt ist imposant. Du kommst an, du rennst einmal mit einem offenen Mund herum und schaust dich um. Ist das wirklich alles so groß hier? Und das ist auch irgendwie der Vibe, den du dort bekommst, du musst dir vorstellen, das ist das größte Treffen von Politikern weltweit einmal im Jahr.

4:33 Und diese Stadt, die ja auch lebt, und die niemals schläft, so wie man sagt, die schluckt dieses Treffen einfach so weg, als wär's nichts. Also da leben Menschen ganz normal weiter, gehen ihrer beruflichen Tätigkeit nach. Du gehst von der Fourth Avenue, wo mein Hotel war, runter zur 3rd Avenue, wo die österreichische Ständige Vertretung ist, und dann runter zur First Avenue, wo das UN Headquarter ist.

5:02 Und auf der Straße begegnen dir NYPD, Homeland Security, Secret Service, FBI, private Sicherheitsdienste, die alle damit beschäftigt sind, unterschiedliche Gruppen an Protestierenden, die teilweise rivalisierend sind, voneinander zu trennen, die damit beschäftigt sind, die hineinzubringen, die da kritisiert werden und die draußen zu halten, die kritisieren.

5:30 Die versuchen Staats- und Regierungschefs, die eigentlich teilweise noch nicht einmal das Recht hätten, sich in den USA frei zu bewegen, wie zum Beispiel die Russen oder die russischen Journalisten, die auch mit dem Schlepptau waren, oder Bibi Netanyahu rein und raus zu bringen. Also es ist ein wahnsinniger Aufwand.

5:47 Und dennoch fällt es dir in der Stadt gar nicht so grob auf, weil die schieren Ausmaße dieser Stadt dafür sorgen, dass das einfach so weggeschluckt wird, das passiert. Wenn du nichts davon mitbekommen willst, bekommst du auch gar nichts davon mit.

6:00 Ich habe jetzt ganz viele Fragen und jetzt klickt mein ADHS, darum verkampft mein Gehirn wahrscheinlich dabei. Aber die erste Frage ist: wie bist du überhaupt dazu gekommen, bei dieser UN-Generalversammlung dabei zu sein?

6:14 Es gibt, ich weiß nicht, ob in allen Staaten und ich weiß auch nicht, ob in Deutschland, aber in Österreich auf jeden Fall immer Delegationsreisen bei größeren Auslandsreisen von Ministern, so auch bei dieser. Jetzt war das ja nicht nur eine Ministerreise eigentlich, sondern es waren auch Bundeskanzler und Bundespräsidents dort am Anfang der Woche.

6:33 Also wir waren wirklich mit Van der Bellen, Stocker und Mein Reisinger anwesend, was ja auch zu dem Kuriosum geführt hat, dass unser Bundespräsident eine nicht abgesprochene Aussage gegenüber Israel getätigt hat, die dann die beiden anderen auch ausbaden mussten, wobei sich ja in der Causa auch vieles verändert hat.

6:55 Also seitdem die Likut, also die Partei von Netanyahu, Freundschaft mit der FPÖ pflegt, sehen andere Politiker anderer österreichis Parteien diese Partei auch nicht mehr so als verteidigungswürdig und jetzt ändert sich irgendwie Österreichs Haltung gegenüber Israel aufgrund dieser persönlichen Befindlichkeit, was ich sehr charmant und interessant fand.

7:15 Aber ich schweife ab, du kannst dich als angesprochener Journalist, der interessant genug ist, um vom Außenministerium gefragt zu werden, dann für diese Delegationsreise anmelden und dann bist dabei.

7:31 Also so einfach, einfach anmelden.

7:34 Einfach anmelden, genau, und dann organisieren die praktisch ein gemeinsames Hotel, Ankunft, Abflug, alles dazwischen.

7:44 Und wie geht es da, dem Nicht-Journalisten mit den Journalisten unterwegs zu sein?

7:50 Ja, ich werde keinen Namen nennen, aber es ist schon eine sehr eigene Demografie. Ich glaube, da erzähle ich auch niemandem was Neues, wenn ich sagen will, es gibt halt kaum so im bürgerlichen Verständnis normale Journalisten. Die haben alle irgendwo einen Tick, ich habe ihn sicher auch. Aber du kommst manchmal in witzige Situationen.

8:14 Nichtsdestotrotz entsteht irgendwie diese symbiotische Wirkung von Politikern, die Journalisten brauchen, um ihre Messages rauszubringen. Und Journalisten, die Politiker brauchen, damit sie was zu schreiben oder zu videografieren haben. Und so kommen diese symbiotischen Effekte dann zustande, die dann aber doch, sagen wir mal, es gibt den offiziellen Part, und dann gibt es halt inoffizielle Party, das ist noch immer Österreich.

8:44 Und wenn man am Abend bei ein paar Drinks irgendwo auf einem Rooftop steht, dann kann man sich auch unterhalten wie normale Menschen. Und das geht vielleicht tagsüber nicht ganz so, aber zur gegebener Stunde geht das.

8:57 Eine für mich persönlich interessante Frage, hast du dir das 60 Dollar Brot aus Österreich auch gegönnt in New York?

9:05 Ja, das ganze Leib war jetzt natürlich ein bisschen zu groß für das, was ich so als Eigenbedarf anmelden kann, aber ich war dort, ich habe es mir angeschaut, es existiert wirklich, und ich habe mir dann ein Marmeladenbrot um 12 Dollar gekauft. Nicht so gut wie bei der Mama. Also ich habe gleich die Business-Idee entworfen, wir machen das jetzt selber, so einem Kampfpreis von 8 Dollar.

9:33 Aber nein, also im Ernst jetzt mal, was man auch immer darüber befinden mag, ich würde es mir auch nicht kaufen, jetzt außerhalb dieser Schmähes, weil ich ein Video darüber mache. Aber wenn du damit durchkommst und ich habe sie erlebt, wie selbst die Amis vorbeigehen, das war jetzt nicht nur für uns Österreicher interessant, weil es ein österreichischer Bäcker ist.

9:53 Selbst die Amis, die vorbeigegangen sind, wussten, ah, das ist die 60-Dollar-Bäckerei. Und warum 30 verlangen, wenn du auch 60 verlangen kannst und die Menschen kaufen es? Also ich muss ehrlich sagen, aus der Sicht alles richtig gemacht.

10:09 Ja, und die Amis haben ja zumindest im Sport, sieht man das ja recht gut. Aber irgendeinem Zeitpunkt wird sie ihnen zu bunt und sie führen einen Salary-Cap ein. Ich glaube, das wird früher oder später auch im Alltag passieren.

10:22 Womöglich, ja. Also man sieht das auch in der Gesellschaft, glaube ich, sehr klar, dass dort dieser Gap in New York seit längster Zeit auch schon immens aufgegangen ist. Und ich glaube, die Entwicklung geht eher in Richtung der Verbreiterung und der Zusammenführung. Selbst bei Soran Mamdani, der ja auch in New York mittlerweile eine große Rolle als Bürgermeister spielt.

10:43 Ja. Aber wir haben meinen KI-Podcast, dass ich es rausbringe. Das war das erste Mal, oder, dass die UNO sich so lautstark zum Thema KI äußert und gleichzeitig ist ja die Weltlage alles andere als ruhig. Wie hast du das persönlich empfunden?

11:03 Ich fand es interessant, weil ich war natürlich mit Blick zurück auf letztes Jahr so ein bisschen auf dieselben Dinge vorbereitet. Also ich dachte mir, ja, Trump wird wahrscheinlich wieder die Institution anzählen und sagen, die UNO ist unnötig, die Rolltreppe funktioniert nicht, und überhaupt, wenn ich das Gebäude gebaut hätte, dann wäre es viel besser und was für eine unnötige Organisation.

11:25 Das hat interessanterweise Javier Millet gesagt dieses Jahr. Ich war vorbereitet auf ein Feuerwerk von Benjamin Netanyahu, das gab es auch. Aber irgendwie dieser KI-Aspekt, der kam fast noch in jeder Rede vor. Also ganz egal, wen ich mir da angehört habe und was so deren persönliche Befindlichkeiten waren, in irgendeiner Art und Weise hat KI immer eine Rolle gespielt, vor allem vor dem Hintergrund der Vernichtung der Menschheit.

11:55 Beate Meinel-Reisingers Rede hatte ja sogar den Terminator zum Inhalt, mit dem sie da die Parallelität gezogen hat zu heutigen Killer-Robotern und so. Jetzt mag man das für einen guten oder für einen schlechten Vergleich halten. Das Urteil steht jedem frei.

12:14 Ja, nicht beurteilen.

12:16 Aber ich sage mal so: aufgrund schon alleine Arnold Schwarzenegger in Österreich, muss man es vielleicht machen, or man darf. Es war auf jeden Fall so that jedem klar war, wenn we this high-level week have and all day, then is vielleicht doch the Möglichkeit gegeben, irgendwo einen Konsens zu finden in sinne UNO-Sicherheitsrat, dem ja auch Österreich angehören wird for two years, 27, 28.

12:46 Und jetzt schon aufgrund des Einzugs einer Beobachterposition hat, das heißt, darf ein österreichischer Vertreter drinnen sitzen, da kann man vielleicht was vorantreiben, vielleicht kann man die KI reglementieren. Braucht so etwas wie ein eigenen KI-Rat, braucht es so etwas wie eigene Resolutionen im bereits bestehenden Sicherheitsrat über die KI, dass man so die gebenden Fragen.

13:10 Was ich mitbekommen habe aus diesem geheimen Meeting ist das, dass du 15 nichtständige Mitglieder, du hast fünf ständige Mitglieder, die Vetorechte haben, und sollte es zu einer Resolution über die Nutzung von KI und somit auch der Beschränkung der Nutzung von KI in Bezug auf Waffen und Kriegsführung geben, dann würde das an zwei Veto scheitern.

13:37 Das ist das, was an die Außenwelt gedrungen ist. Also es würde zwei permanente Mitglieder geben, die sagen würden, nein, wir wollen uns nicht in der Entwicklung und Nutzung von künstlicher Intelligenz bei der Waffenentwicklung schmälern lassen. Wir wollen uns das nicht einschränken lassen. Einer dieser Staaten sind die USA.

13:57 Das erklärt sich für mich, weil die natürlich sagen, wir sind die, die am weitesten fortgeschritten sind. Wir lassen uns jetzt sicher nicht unseren Vorteil beschränken. Nur weil ihr nicht in der Entwicklung vorangekommen seid, ist es jetzt nicht unsere Schuld. Der zweite Staat ist nicht klar. Jetzt stelle ich mir die Frage, welche Interessen könnten Frankreich und Großbritannien haben?

14:24 Sie sind bei weitem nicht vorne mit dabei, sie sind Europäer, die generell immer größere Skepsis geübt haben. Also mein Verdachtsmoment ist entweder China oder Russland. Russland aufgrund des Umstands, dass sie natürlich sagen, wir sind gerade in einem aktiven Krieg. Jede Beschränkung könnte zu meinem eigenen Nachteil sein.

14:46 Sie sind jetzt bei weitem nicht so gut wie die Ukraine, das kann man im direkten Vergleich relativ gut feststellen. Wir hatten erst letzte Woche wieder eine robotisierte Offensive mit 3000 toten Russen, die weitestgehend von KI-Robotern getragen wurde, von ukrainischer Seite. Also die Russen sind eher jetzt nicht so weit vorne, dass sie sagen können, sie hätten viel zu verlieren, aber sie haben definitiv einen Use Case, den sie im Moment als Wert empfinden könnten, zu sagen, wir brauchen diese Waffen noch.

15:16 Unterhalten wir uns bitte danach dann darüber, ob man die reglementieren wollte. Und die Chinesen sind vielleicht auch in ihrer Entwicklung so weit vorne, dass sie ebenfalls wie die USA argumentieren könnten, es wäre zwar in unserem eigenen Nachteil. Ganz egal, wer jetzt der beide, wer jetzt diese beiden Staaten sind, die USA und der eine andere, es würde an zwei Vetos scheitern und deswegen im Moment keine Reglementierung von KI-Waffen in Blickweite.

15:42 Ja, der Hintergrund der ganzen Geschichte ist ja, dass ein ehemaliger Enthropic-Mitarbeiter gemeint hat, erkündigt und er hält die Wahrscheinlichkeit, dass die Menschheit ausgelöscht wird durch KI auf ca. 10%. Das wurde dann auch bestätigt. Und kurze Zeit später haben ja auch die ganzen Tech-CEOs gesagt, jo, wir sollten langsamer werden.

16:03 Sam Altman, Elon Musk, Dario Armotai waren alle derselben Meinung, was selten passiert. Und dann soll es ein Veto aus den USA geben. Das ist ja irgendwie auch ein Widerspruch, oder?

16:18 Also ich habe mir eine Zusammenfassung durchgelesen, was nun die öffentlichen Positionen sämtlicher wichtiger KI-Menschen ist. Also da waren sowohl die CEOs dabei, die besten Entwickler dabei, als auch die Politiker. Und wohl der größte Gegner von Reglementierung soll Donald Trump sein.

16:42 Ja.

16:43 Das fand ich witzig, ja.

16:45 Ich habe mir das sogar aufgeschrieben. Er sagt, nein zur Kontrolle, jedes globalistische Schema zur Kontrolle von KI lehnt er grundsätzlich ab. Er meint, dass die gleichen Leute, die vor KI regulieren wollen, die gleichen Leute sind, die vor dem Klima warnen und die Erfinder des russischen Hoax sind.

17:07 Also das heißt, die Personen, die behaupten, dass 2016, was ja, glaube ich, das weißt du besser als ich, bestätigt worden ist, dass Russland die US-Wahlen 2016 beeinflusst hat.

17:22 Ja, wobei Mala Report sagt, die Russen haben versucht, Einfluss zu nehmen, namen Einfluss, aber der Einfluss was nicht entscheidend auf den Wahlausgang. That is so from the abschließende CIA report, was it at the end of the day? Obviously, he couldn't in this fall a machtwort sprechen. Heard of the tech CEOs nicht, die eigentlich via their eigenes sagen, we hätten gern Reglementierung.

18:10 Jetzt versetze ich mich einmal in Sam Altman hinein. Eben dort auch auf den Gängen so ein bisschen dann ausgefragt wurde von den Diplomaten, wie das Meeting war und was da im Sicherheitsrat gesagt wurde. Es ist wohl nicht sehr gesprächig gewesen, aber was er gemeint hat, er war froh, da wieder draußen zu sein.

18:35 Vermutlich dumme Politikerfragen und so, wir kennen das von Kongress-Hearings, also von Menschen, die nicht viel Ahnung von der Materie haben. Aber mir scheint, dass diese Tech-CEOs gerade verstehen alle, die Bevölkerung kriegt wahnsinnig Angst vor der KI. Und sie möchten nicht die Bösewichte sein. Sie möchten verantwortlicher sein als die Politik.

18:55 Wir hatten das Thema, glaube ich, schon einmal, als ich bei dir im Podcast war. Und es hat sich in den letzten Monaten noch zusätzlich vertieft. Es macht mir den starken Eindruck, als würden die Tech-CEOs besser als Donald Trump die öffentliche Meinung, die veränderliche Meinung zu KI kapieren. Am Anfang war das ein Gimmick, wir können ein bisschen herumspielen, wir können KI-Videos generieren, wir können Prozesse optimieren, wir können plötzlich Menschen rausschmeißen, weil wir können die in ihrer Produktivität ersetzen.

19:27 Das war das Erste, wo sich dann viele dachten, oh, ja, vielleicht ist es doch nicht so gut. Und plötzlich reden wir über Waffen und dann ist vielen klar, es ist doch nicht so gut. Und jetzt verstehen die Tech-CEOs viel eher, was das auch an öffentlichem Kredit kostet, ihren Unternehmen, als Donald Trump, der weiß Gott an was denkt.

19:50 Wie siehst du gegenwärtig den Zustand der Legitimation der KI in der breiten Bevölkerung, die ja in Demokratien auch noch eine Rolle spielen sollen?

19:59 Katastrophe, um ehrlich zu sein. Also ich glaube, in den USA ist es ganz schlimm. Also da gibt es wirklich ganz, ganz radikale Abneilung. And in Europa become wir es ja, speziell in Österreich, gibt es ja Demonstrationen gegen Rechenzentren. Aber ich glaube, ja, KI hat keinen guten Ruf. Also außerhalb der Tech Bubble, beziehungsweise in diesen Kreisen in which I for care, where man KI, glaube ich, sehr positiv sieht, and it's very positively, but so the randy random, as many Welt sagen würde, hat glaube ich ein sehr, sehr kritisches Bild, weil es Ressourcen verschwendet, weil es potenziell den Job wegnehmen kann.

20:46 Und wie sehr die Tech-Unternehmen, auch die Waffenentwickler, bei der Politik Eindruck erwecken wollen, damit es diese Reglementierung gibt, kann ich einem Beispiel erzählen. Außerhalb des UN-Geländes wurde praktisch ein Testzentrum schnell aufgebaut from Drogenunternehmen, die dort for politicers and other anwesende Menschen their product demonstrated.

21:19 But this with the absolute will, the product in eindrucksful art and ways to show, so that you really have to do it. So, what they made were clear drones FPVs and have the prompted with KI of other person with rota. So then we got the drone off, screened, and flee then to the men in that all the rote have.

21:54 And then failed not the final shot of these people to bring. Jedem klar, dass das genau noch der Akt ist, den sie ausgespart haben, den sie aber hätten machen können. Sie haben auch extra so ein bisschen demonstrativ davor nach jedem irgendwie unterschreiben lassen, er tritt jetzt die Persönlichkeitsrechte ab.

22:14 Weil ja so KI-Screening auf deine Person- und Persönlichkeitsmerkmale zugeschnitten. Und das hat schon schweren Eindruck erweckt auf die anwesenden Politiker. Das habe ich nicht nur von einem erzählt bekommen, diese Geschichte. Und wenn du das anschaust und zehn Minuten später gehst du in den Sicherheitsrat, setzt dich dort nieder und berätst mit anderen Weltspitzen darüber, sollen wir die KI in Waffen reglementieren oder nicht, oder sollen wir die KI generell reglementieren, dann weiß ich, was meine Antwort sein würde.

22:52 Also sie haben es schon ganz clever gemacht, sie haben schon schlau lobbyiert auf diese Art und Weise. Die Frage ist nur, wenn du es schon aufgrund der beiden Veto-Stimmen in dem einen existenten Gremium, das die UN für solche Fragen hat, nämlich den Sicherheitsrat, nicht hinkriegst, wo dann sonst? Also die öffentliche Meinung ist so dominant.

23:17 Die Institution ist geschaffen. Zwei Veto-Stimmen verhindern es, brauchst du vielleicht ein paralleles Gremium, das sich damit beschäftigt, einen UN-KI-Rat. Weil wenn es den nicht gäbe und wenn die Veto-Stimmen bestehen bleiben würden, dann sehe ich keine Möglichkeit, wie wir das Richtige tun können.

23:37 Weil das Problem ist, so eine Frage ist global. Ich glaube, es gibt keine nicht globale Antwort auf diese Fragen.

23:44 Das erstens das, aber ist das nicht grundsätzlich, wo ja Trump dann wiederum recht hat, oftmals an seiner Kritik an der UNO, dass einfach nichts weitergeht? Und das ist ja so eine Patch-Stellung.

23:56 Natürlich. Also das ist auch die Problematik, obgleich derjenige, der hier die Kritik äußert, auch derjenige ist, der am meisten dazu fügt, dass die UN nicht handlungsfähig ist. Also, ich habe mit einem Blauhelm-Koordinator gesprochen, jemand, der UN-Missionen mehr oder weniger ausruft und betreut. Und der sagt, die USA sind der größte Zahler, weil die Zahlungen an die Friedenstruppen sind Aliquot.

24:26 Das heißt, der, der das höchste Bruttoinlandsprodukt hat, der zahlt am meisten und der, der das geringste, der zahlt am wenigsten. Das heißt, 25% des Etats der Blauhelm-Truppen weltweit wird von den USA gestellt. Die USA haben letztes Jahr nicht bezahlt. Also einfach haben gesagt, okay, Geld gibt es nicht.

24:45 Und deswegen mussten dann alle Friedenstruppen auf der ganzen Welt um 25% runtergescalt werden, weil das Geld nicht da ist. Jetzt frage ich, wenn du sagst, die UN kann nichts, die ist handlungsunfähig, aber du bist derjenige, der ihnen das Geld nicht gibt, das du ihnen eigentlich versprochen hast. Bist du vielleicht schuld daran, dass die nicht fähig sind?

25:09 Meine Antwort wäre ja.

25:11 Ja. Meine vermutlich auch. Das ist halt schwierig, einfach da irgendwie zu einer Lösung zu kommen, zu einer Zeit, wo es anscheinend sehr wichtig wird, weil wir sehen irgendwie alle drei Tage gefühlt in den letzten paar Wochen, hört man, KI ist ausgebrochen, KI hat das gehackt, KI hat jenes gemacht.

25:34 Vor allem, lass uns noch auf einen Umstand zurückkommen, der auch in einem US-Medium vor kurzem veröffentlicht wurde, dass es aufgrund eines KI-generierten Missverständnisses fast zu einer direkten Konfrontation zwischen USA und China gekommen wäre. Das ist wahrscheinlich auch mitverfolgt. Also irgendwo zur See wäre es dazu gekommen, dass ein Ziel hätte bekämpft werden sollen, das die USA und China in direkte Konfrontation gebracht hätte.

26:04 Also diese Cuban Missile Crisis, ein falscher Knopfdruck and we have a disaster, wird durch KI-Spasms oder KI-Ausbrüche oder unzügliches Verhalten, wenn die KI sich verselbstständigt, einfach noch viel wahrscheinlicher. Und da irgendwo ein Gremium der Verständigung zu finden, wäre doch auch was Vernünftiges, muss ja nicht immer nur komplett multilateral sein auf UNO-Ebene, reicht ja auch schon bilateral zwischen den USA und China.

26:37 Ja, China versucht es ja auch ein bisschen auf eigene Faust. Die haben vor kurzem auch eine eigene internationale KI-Organisation gegründet, wo man eben versucht, global eine Lösung zu finden. USA sind nicht dabei.

26:52 Das heißt Das ist das Interessante an der Multilateralität, gegenwärtig, dass die Chinesen es auch geschafft haben, mit Hilfe sehr vieler kleiner Staaten, die sie dann oftmals großzügig mit Krediten beschenken und so, dass sie mehrheiten by the UNO hinter sich wissen. When die Chinesen einen Antrag stellen, in der Generalversammlung oder sonst wo, organisationen gründen wollen, stärker fanden wollen, die fund wollen, then wissen sie aufgrund der Loyalität kleiner afrikanischer Staaten, Staaten der Südsee und auch asiatischer Staaten mittlerweile eine gesicherte Mehrheit hinter sich.

27:33 Also sie haben sozusagen die UNO gekapert in sehr vielen Bereichen anders begonnen mit sehr vielen extra dafür ausgebildeten Völkerrechtlern Völkerrecht umzuschreiben. Wo dann teilweise Softening betrieben wurde, wo eben einzelne Paragrafen ganz geringfügig geändert wurden, die dann aber eher einer Empfehlung als einer Pflicht entsprechen.

28:02 Was dann zu einem chinesischen Vorteil ist, wenn man über gewisse Grenzen hinweg gehen will und dabei kein Völkerrecht brechen möchte. Und das fand ich sehr interessant, also mir war das auch sehr lange nicht klar, weil ich kann auch nicht in jeden Winkel der Welt schauen. Aber die Chinesen haben mittlerweile die UNO nicht als etwas erkannt, was ihnen gegenüber sehr unfair wäre, weil sie sind ja ständiges Mitglied im Sicherheitsrat.

28:23 Die Inder haben da schon ein größeres Problem beispielsweise, die finden sich unfair behandelt, weil sie eben nicht diesen besonderen Status haben. Die Chinesen haben ihn und sie nutzen ihn eiskalt aus und sie schaffen sozusagen über diese noch immer sehr angesehene Organisation ein Vehikel, wo sie internationale Standards auf sich umdeuten können und umnivellieren können.

28:45 Und insofern die Chinesen haben verstanden, um die Legitimität zu bewahren, um irgendwann in der Welt angesehener zu sein als die USA, was ja mittlerweile passiert. Also wir sehen, dass China erstmals beliebter ist als die USA in weltweiten Umfragen, laut Gallup. Erkennen die, wir müssen uns legitimieren über internationales Recht, über internationale Organisationen.

29:06 Das wirkt so, als würden wir uns um alle kümmern. Und nachdem die USA das nicht mehr machen und die Chinesen das jetzt immer stärker tun, und auch sagen, wir gründen hier Organisationen, die USA treten nicht bei, eh klar, unvernünftig, wir vernünftig, das schafft für sie einen politischen Handlungsraum, den sie davor nicht hatten.

29:25 Jeder hat immer gefremd mit China. So, die wollen ja nur unsere Wirtschaftsgeheimnisse abgreifen und die wollen alles billig nachbauen und die achten unsere Patente nicht und so. Stimmt schon alles? Von diesem Image hat sich China mittlerweile gelöst.

29:42 Ja, aber das heißt ja im Endeffekt, man würde ja eine breite Allianz finden, auch ohne die USA und auch ohne die UNO und man könnte eine globale KI-Regulierung finden, um es auszusprechen.

29:58 Ja, ohne allgemeine Teilnehmerschaft. Ich glaube allerdings, die realistische Art und Weise, wie man mit KI umgehen wird, ist, es wird keine Reglementierung geben, bis du Gewinner hast. Vielleicht einen, vielleicht zwei, vielleicht mehr. Und dann wirst du irgend sowas haben wie eine Art Atomwaffensperrvertrag.

30:18 Du wirst sozusagen den dann existierenden Status Quo mit einem Vertragswerk festigen. Du wirst sagen, wir haben neun Atommächte oder wir haben vier KI-Mächte dann. Und die einigen sich auf irgendwie eine Art Containment. Wir alle haben massenzerstörungsfähige KI, die setzen wir nicht ein. Die funktioniert nach diesen und jenen Regeln.

30:46 Wir haben Mechanismen des gegenseitigen Austausches im Fall von Krisen. Und alle anderen Staaten verpflichten sich zur Entwaffnung, zur KI-technischen Entwaffnung, so wie sich eben die meisten Staaten dieser Welt verschrieben haben, niemals Atomwaffen zu entwickeln. So wie wir auch. Wir haben uns nach dem Atomwaffensperrvertrag dazu verpflichtet, keine Atomwaffen zu bauen.

31:10 Wohlwissend, dass andere Staaten Atomwaffen haben und auch schon eingesetzt haben. Also eigentlich eine Ungerechtigkeit, es ist eine Disbalance. Manche Staaten sind besonders und andere sind es nicht. Und ich glaube, so werden wir mit der KI auch umgehen. Das sehe ich definitiv kommen, aber das sehe ich noch nicht jetzt kommen, weil es sich eben noch gar nicht so determiniert hat, wie stark das eigentlich sein kann, was das alles können wird.

31:32 Und wir müssen vielleicht dieses Desaster auch einmal erst verüben. Wir müssen es erst einmal sehen mit eigenen Augen. Wir müssen Hiroshima und Nagasaki einmal erlebt haben, um zu wissen, wie verheerend diese Waffen sind. Und dann können wir uns hinsetzen und sagen, die, die es jetzt haben, gehen bitte verantwortungsbewusst damit um und die, die es nicht haben, werden es niemals kriegen.

31:53 Ja, das gleiche sagt ja auch der Matthias Stolz, glaube ich, ähnliches. Das ist, wenn es dann noch KI heißt, weil was ja auch bei dieser Generalversammlung war, Donald Trump will die KI umbenennen. In Superintelligenz. Also er hat, er ist halt der Meinung, dass das eine. Wobei, da hat er ja recht. Und man muss ja einer sagen, wenn man das Leben des Donald Trump ansieht, dann hat er Marketing gemeistert.

32:27 Und dementsprechend will er jetzt auch die KI umbenennen in Superintelligenz, was ja irgendwie auch Sinn macht, weil das Streben muss ja sein, dass die KI mehr kann als wir und auch gescheiter ist als wir.

32:43 Aber hört sich Superintelligenz weniger bedrohlich an als künstliche Intelligenz?

32:54 Es hört sich bedrohlich an, meiner Meinung nach. Also Superintelligenz hört sich so, oh wait, das löscht uns sicher aus. Wäre so mein erstes Empfinden.

33:06 Interessant. Welche Argumente gäbe es dann dafür, die KI umzubenennen?

33:13 Michael Kretsius, ich habe so einen schlauen Zettel, der hat nämlich gesagt, er eröffnet, er hat superintelligenz gleich bei seiner UNO-Rede verwendet und darauf hingewiesen, dass es früher bekannt als AI war. Und er sagt eben, wenn man superintelligen daraus macht, dann muss man, dann gibt es das Tempo-Argument, was alle bringen, es entwickelt sich to schnell, hat dann keine Beständigkeit mehr, beispielsweise.

33:46 Also weil es ja superintelligent ist und darum entwickelt sich auch viel schneller als alles andere. Und das sei kein Grund für eine Pause eben. Kann man damit anfangen, was man will? Das ist jedenfalls die Argumentation der USA. Aber ich habe mich, glaube ich, auch irgendwo mir kurz rausgeschrieben, lass mich kurz nachschauen.

34:19 Genau warum es genau umbenennen will, ist, glaube ich, schon auch der Grund, warum es so negativ eigentlich behaftet ist. Das ist, glaube ich, schon ein Bestreben deswegen. Also, ich glaube, wir kriegen ja das in Wien oder halt in Europa, glaube ich, einfach gar nicht so mit, wie wirklich abgefuckt die Leute sind in den USA.

34:43 Da werden ja irgendwelche riesigen Datacenters in die Hitchen gestellt, halt vors Haus. Die Suchen sind laut. Das gibt es ja bei uns alles in Europa, glaube ich, gar nicht. Also in dem Ausmaß.

34:54 Bei uns gibt es nur Windräder, die laut sind und Vögel töten.

34:59 Ja. Aber halt ich habe jetzt auch unlehmst gelesen, dass Windräder schuld sind, dass es nicht mehr regnet.

35:07 Ja, Chemtrails auch. Aber der Punkt ist, ich glaube, in dieser innovationsfeindlichen europäischen Umgebung, ob nun aus den richtigen und aus den falschen Gründen, du wirst verlässliche Mehrheiten finden für KI-Regulierung, selbst wenn die Menschen nichts von KI verstehen. Glaube ich, das wird kein Problem sein.

35:30 Ich habe auch mit Politikwissenschaftlern schon über dieses Thema gesprochen. Einer aus der Ukraine hatte einen sehr interessanten Tag, der meinte, wenn du heute guter Populist sein willst, musst du eigentlich gegen KI sein. Das ist das, wovor sich die Menschen am meisten fürchten. Jetzt finde ich es witzig, dass denen, denen man unterstellt, die besten Populisten zu sein, nämlich den Rechten, ist die KI-Nutzung irgendwie am laschesten ausgeprägt.

36:00 Es gibt praktisch auf FPÖ Social Media keinen Post mehr, der nicht KI-Inhalte hat. Das ist alles KI mittlerweile schon. Das finde ich witzig. Vielleicht erleben wir eine Rekordierung von dem, was wir Populismus nennen, aufgrund von KI oder über die KI-Frage und einen Abstieg des FPÖ oder Rechtspopulismus aufgrund des Umstands, dass die alle zu KI-freundlich sind für den geneigten Bürger, der eigentlich mit KI fremdelt.

36:30 Ist nur mal eine Hypothese und es ist wert, darüber nachzudenken, ohne dass ich Anspruch auf allgemeine Gültigkeit und Recht erhebe.

36:40 Also sehr spannender Gedanke. Darüber muss ich kurz, ja, halt gut möglich, dass das passiert, aber bitte.

36:49 Anschlussgedanke. Es ist natürlich für einen Linken, der prinzipiell Tech Pro und Tech Unternehmen und Großunternehmen und Großkapitalskeptisch ist, viel leichter zu argumentieren, warum er gegen die KI ist. Und das wird rechten zwangsläufig schwerfallen. Man wird wohl einen Weg finden, wenn man die Lohn eriecht, aber ob es dann nicht schon zu spät und zu unglaubwürdig ist, ist halt dann die andere Frage, nachdem man sich jetzt eben so bereitwillig mit den ganzen KI-Entwicklern, also einfach halt auch Elon Musk und so weiter, Leute, die man ganz cool findet und Palantir, das man abfeiert, ob das dann nicht schon so viel an Glaubwürdigkeit gekostet hat, als dass man dann den U-Turn noch hinbekommt.

37:32 Ja, aber die, aber zum Beispiel ein Elon Musk ist ja jetzt genauso, der sagt, hey, wir sind zu schnell. Also es kann natürlich daran liegen, dass sein Crock ein bisschen hinterher hängt, aber auch Alex Carp von Palantir sagt, zu schnell.

37:51 Naja, aber was meinen die inhaltlich mit zu schnell?

37:55 Dass sie sich zu schnell entwickelt.

37:58 Aber meinen sie damit, wir bringen Modelle raus, die können Dinge, die wir noch gar nicht containen können, wenn sie sich verselbstständigen. Also es geht eigentlich darum, wir brauchen praktisch eine Sicherheitsinfrastruktur, die immer ein bisschen stärker ist als das, was wir entwickeln. Und das wäre dann die richtige Geschwindigkeit.

38:21 Ja, es ist ganz schwierig zu sagen. Ich glaube, grundsätzlich geht es um das Thema rekursive Selbstverbesserung, also Recursive Self-Improvement. Also der Punkt, an dem eine KI sich selbst entwickelt, aber in einem Tempo, das wir gar nicht mehr mitkommen. Also das heißt, eine KI baut sich eine neuere Version und dann entwickelt sich es halt exponential.

38:46 Und das verstehen wir ja bekanntlich kaum, wie man bei Corona gesehen hat. Und das ist, glaube ich, die ganz, ganz große Angst. Was diese ganzen Labs da intern für Tools laufen haben, weiß man natürlich nicht. Aber wie weit, also grundsätzlich, ich habe mir jetzt im Zuge, ich habe am Freitag Vorlesungsbeginn gehabt und habe darüber geredet, es gibt kein Lab, das irgendwie so im Moment produziert.

39:16 Also da ist noch immer der Mensch und dann kommt die KI und die produziert den Code, das passiert, ja. Aber dass sich die KI selbstständig weiterentwickelt, nicht. Was hinter verschlossenen Touren passiert, kann man natürlich nicht wissen. Diese ganzen Agentenangriffe, die jetzt da von OpenAI gestanden sind, die dann dazu geführt haben, dass da reihenweise Silicon Valley Menschen den Untergang der Menschheit herbei prophezeien.

39:47 Das ist halt die ewig große Frage, beziehungsweise wenn man weiß, dass etwas schädigen wird, warum tue ich es dann?

39:58 Ja, wobei. Was ich auch schon gehört habe, KI-Drohnen-Entwickler, der namentlich ungenannt bleibt, sagte zu mir seine grosse suspicion, warum jetzt die Massenhysterie, das ist seine Wortwahl, ausbricht über KI-Reglementierung anders umbringen, is seiner Meinung nach a versucht der State Capture. Also he said, The Staaten checken wie machtvoll this is, sehen aber die KI fast ausschließlich in privaten Händen anders gerne.

40:31 And versuchen jetzt die Öffentlichkeit zu beängstigen, so dass sie argumente dafür sammeln, dass die Öffentlichkeit gut heißt, wenn die KI verstaatlicht wird. And dann gehört die KI halt den jeweiligen Regierungen und nicht mehr den privaten Unternehmen. Und dann haben die Staaten das erreicht, was sie wollten, nämlich sich ein verdammt starkes Tool angeeignet, und praktisch die Jeopardy herausgenommen aus der Sache, die da lautet: Ja, was ist, wenn das KI-Unternehmen X das jetzt dem da drüben anbietet und welche Macht üben die auf mich aus?

41:05 Manipulieren die Wahlen damit so? Nein, geht dann nicht mehr, es gehört dann mir. Und das natürlich, wir wissen, dass der Staat ein verdammt schwacher Innovator ist. Das wird dann wahrscheinlich von ganz alleine die KI-Innovation einschränken, weil der Staat das einfach gar nicht so gut könnte. Zum selben Zeitpunkt hätte er sich eine Technologie verschafft, die halt am Ende des Tages die Verantwortung, zumindest insoweit einem acteur übergeben würde, der seinen Menschen, and damit meine ich allen, also zumindest seinen Staatsbürgern gegenüber Verantwortung trägt anders in vielen Fellow demokratische Legitimation erfahren muss.

41:48 Whether that for me as eher liberal or libertaire geprägter Mensch, natuurlijk eher fragwürdig, beziehungsweise zumindest überdenkenswürdig, aber were's dann doch der bessere Umgang, die KI wäre im Eigentum des Staates, so als dass man halt wirklich Verantwortliche hat, die man dann auch abwählen kann, wenn sie mit der KI einen Scheiß bauen?

42:14 Wäre das ein vernünftigerer Inhaber, will ich sagen, oder fragen?

42:19 Ja, halt vermutlich ja. Weil wenn man sich darüber, also man muss sich einmal im Klaren werden, was da passiert ist bei Harry Face, da im Juli, dass da Agenten einfach eine Plattform hacken. Wenn das die Privatperson macht, steht die Polizei keine 24 Stunden später vor deiner Hitten und sagt, so Kollege, du kommst mit.

42:40 Jetzt was, Open AI macht das, it has keine Konsequenzen. Die Konsequenz daraus ist, dass man dass es jetzt irgendwie das halbe Silicon Valley schreit, die Welt geht unter. Und dass es irgendwie eine Haftung für Open AI gibt, nee. Und da muss man dann schon, und ich möchte den Gedanken noch mit reinbringen.

43:01 Ich glaube, David Sachs war das auf X, das hat eben Entropic auch unterstellt, weil sie wissen, wie viele Schulden sie haben, wollen sie eben verstaatlicht werden, weil sie irgendwie mittlerweile ihnen das allen klar wird, dass sich das nicht ausgeht, die Investments.

43:19 Das ist ein interessanter Gedanke. Also sozusagen man sucht aufgrund der wirtschaftlichen Unmöglichkeit, dieses Rennen weiterzuführen, jetzt einfach Geld vom Staat, was ja dann irgendwie eine Art Wettrüsten der 50er Jahre mit sich brächte. Also wirkt auf mich so, dass du praktisch eine neue DAPA hast, oder DAPA gibt es ja eh nach wie vor, aber halt kräftigen staatlichen Zuschuss für Innovation, die halt ohne staatliche Mittel gar nicht stattfinden kann, weil er zu teuer ist.

43:51 Genau. Also es gab ja auch von OpenAI schon Versuche oder Anfragen, ob der US-Staat einspringen würde, wenn OpenAI in Konkurs ginge. Das ist eine ganz, ganz große Frage, aber sie führt natürlich zu einer Frage, mit der wir uns, glaube ich, seit einem Jahr knapp beschäftigen, Staat oder Firma wäre stärker, wenn sich die KI so weiterentwickelt und wir sehen gerade diese irgendwie wirklich schon fast paradoxe Situation, dass der US-Präsident sagt, nein, nein, wir regulieren nichts und die Firmen sagen, bitte reguliert uns.

44:28 Warum auch immer? Das ist ja eigentlich wirklich ein Treppenwitz, den wir auch da erleben.

44:34 Ja, also lass uns noch einen Vorausblick machen zum Ende. Wie siehst du oder wie prognostizierst du jetzt den zukünftigen globalpolitischen Umgang damit? Wird die Vernunft einkehren oder werden einer oder zwei global sagen, auch wenn ihr alle reglementieren wollt, wir machen das nicht, weil wir sind am Gewinnen?

44:57 Gute Frage. Ich glaube, es wird sich einfach nichts ändern und wir werden einfach immer jetzt in einer Phase leben, wo es heißt, die KI ist gefährlich, sie wird gefährlicher und noch gefährlicher, bitte reguliert uns, Trump wird nichts machen. Die Chinesen werden weiterentwickeln, weil sie beide der Meinung sind, wer dieses Rennen gewinnt, gewinnt alles, was auch immer das bedeuten mag.

45:22 Und wir in Europa sitzen halt da und schauen zu.

45:26 Ja, das wird uns wohl noch über Jahre beschäftigen. Und ich fand, weil du den angesprochen hast, auch sehr treffend oder passend, die Zukunftsvision oder Vision ist es nicht, die ja eher triste, diese triste Voraussicht von Matthias Strollz, sehr treffend, dass wahrscheinlich was passieren muss, bis wir es global eingedämmt bekommen oder deswegen deinen Konsens finden, der dann für alle passt.

45:53 Naja, in dem Sinne, Floff. Danke, dass ich dabei sein durfte wieder einmal. Ich bin Rekordgast von Was KI kann und ich hoffe, ich bleibe da so.

46:03 Du bist der Novak, du bist der Novak Djokovic des Was KI kann.

46:08 Stellt sich die Frage, wer ist der Raphael Nadal? Aber das werden wir auch noch herausfinden.

46:13 Habe eine gute Zeit, vielen Dank für deine Zeit und wir hören uns nächsten Dienstag wieder zu einer weiteren Folge von Was KI kann. Gerne folgen, gerne kommentieren und bis nächsten Dienstag. Ciao!