Astra la Vista, AGI?! Warum plötzlich alle über existenzielle KI-Risiken und Gefahren sprechen...

Markus Kirchmair: Ja, und wir kommen zur neuen KI-Woche heute wieder mit Thomas und mir, Hallo Thomas.

Thomas: Hallo Markus, also heute schauen wir Astralavista, wieder ein neues Modell, was uns im Grunde auch auf Trab hält. hat sich sehr viel getan, neue Rekorde wurden gebrochen. Das ist glaube ich eines von

Markus Kirchmair: Ja.

Thomas: diesen Benchmarks, wo noch kein anderes Modell bis jetzt gescored hat, das hat eben nur Astra geschafft. Erzähl uns mal ein bisschen was davon.

Markus Kirchmair: Genau. Astra ist so das erste Modell, wo viele sagen, das fühlt sich an wie AGI. Ich habe es natürlich auch gleich ausprobiert und muss sagen, kann ich nachvollziehen, vor allem wegen der multimodalen Fähigkeiten einfach. Astra ist extrem stark, gerade was 3D auch betrifft. Und kann da mal ein bisschen was zeigen für die Leute, uns auf YouTube folgen.

Thomas: Hast du schon ein Foto von dir selber gemacht und das dann irgendwie replizieren lassen, ob es jetzt mit MS-Paint ist oder mit 3D? Das wäre auch witzig.

Markus Kirchmair: Habe ich noch nicht gemacht, nein, aber das ist so Moment der neueste Trend, dass du die Dinge in Paint nachzeichnen lässt oder

Thomas: Ja.

Markus Kirchmair: eben in Blender als 3D-Modell. Und die Beispiele reichen von Betriebssystem über verschiedene Animationen, Klavierspieler.

Thomas: Das ist immer das Schlechteste, was wir jemals sehen werden. muss man einfach dazu sagen. Wir haben jetzt hier diesen Will Smith Spaghetti Moment mit Figuren, die animiert sind und eigentlich Animationen machen. Das sieht noch ein bisschen unkennig-cringe-mäßig aus, aber

Markus Kirchmair: Ja.

Thomas: das wird auf jeden Fall noch viel besser die nächsten Monate und dann hast du echt Matrix, würde ich sagen.

Markus Kirchmair: Absolut. Man sieht auch zum Beispiel so ein Beispiel, wo Astra und Fable einen Roboterarm steuern. Also man ist da jetzt wirklich sehr weit weg eigentlich von dem, was wir ursprünglich als Sprachmodell bezeichnet haben. Es geht eben nicht mehr darum, nur das nächste Wort hervorzusagen. Und selbst wenn es darum geht, führen diese Vorhersagen zu konkreten Handlungen. Das geht vom Roboterarm über 3D-Umsetzungen, Spieleentwicklungen und so weiter. Das heißt, das was man ursprünglich so bisschen verniedlichtend auch als Sprachmodell bezeichnet hat, ist damit, glaube ich, langsam aber sicher hinfällig, wenn man sich anschaut.

Thomas: Was ist der Hauptunterschied zu den letzten also Sol und Dera und so weiter zu Astra? Was zeichnet das jetzt aus? Warum ist das jetzt plötzlich irgendwie anders? Auch jetzt vom Training.

Markus Kirchmair: Ich glaube, es sind zwei Dinge vor allem. 3D, das räumliche Verständnis. Du kannst dir mein Foto geben und der bauts dir als 3D-Modell nach.

Thomas: Ja.

Markus Kirchmair: Und das andere ist Computer-Use, dass du wirklich zuschauen kannst, wie der in Rekordtempo am Computer arbeitet, schneller als du es jemals selber als Mensch könntest. Und das sind zwei Eigenschaften, die da wirklich extrem stark sind.

Thomas: Aber war da nicht mit dem Training was anderes? Ich habe irgendwie was gehört, dass es mit einem komplett neuen Datensatz neu getrainiert worden ist im Vergleich zu den anderen Modellen. Dass es die letzten Monate schon lang in Vorbereitung war und parallel zu den letzten Modellen, rausgekommen sind, dass es mehr World-Model-Qualität hat als die anderen vielleicht.

Markus Kirchmair: Das kann gut sein. glaube, der Cutoff ist bei April 2026. Also auch schon eine Weile her. kann natürlich, kann ich mir gut vorstellen, dass das dazu führt, dass man das neu getrainiert hat, dass der Unterschied so stark ist. Gleichzeitig hat man auch durchblicken lassen, man ist bereits an dem Training von einem ganz neuen Modell, nächsten Generation dran, die dann noch mal viel stärker wird. Aber wenn man sich jetzt zum Beispiel da dieses Beispiel anschaut, Palace of Fine Arts nachgebaut in Blender, schaut aus wie ein Video. Das ist so eine Sehenswürdigkeit in San Francisco. Unglaublich, welcher Detailkraft Astra das nachbaut und das nur von Fotos.

Thomas: Also die KI hat wirklich ein echtes Verständnis auch zu der Welt, das Thema Worldmodel.

Markus Kirchmair: Gute Nacht!

Thomas: Das kommt schon ziemlich gut hin. Es kann einfach nur von Videos, von Fotos ganze Szenen nachbauen. dann eben, wie du sagst, wenn er das versteht, ist die Frage, wie schnell bewegen sich diese Dinge, diese Mauszeige, diese Bewegungen von zum einen zum nächsten. Weil daran hängt es ja der Meiste, ob er das wirklich verwendet für Computer-Use.

Markus Kirchmair: Ja.

Thomas: Oder ob mehr so Slow Motion ja, jetzt klickt es dann da.

Markus Kirchmair: Das war in der Vergangenheit oft ein Thema, dadurch dass das Modell ja immer Screenshots machen muss

Thomas: Genau.

Markus Kirchmair: und die verarbeiten muss, war das so ein bisschen oft das bottleneck und mittlerweile ist das extrem schnell. Wobei ich glaube, dass die richtig starken Beispiele da über MCP connecten mit dem Blender. Aber trotzdem, im Endeffekt ist es ja egal, wie die Technologie dahinter funktioniert. Wenn du siehst, dass das 100 Mal so schnell arbeitet wie ein Mensch am Computer, dann hat das schon einen Impact.

Thomas: Wenn das jetzt immer mehr optimiert wird, auf diese, was war das, Jalapeno-Chips oder so, wenn die nächsten Modelle dann auch wirklich richtig performen und mehr oder weniger in Echtzeit, dass es auch nochmal vielleicht embodied die Eier nochmal zusätzlich, ja, ich glaube dann sind wir echt so weit.

Markus Kirchmair: Was man da auch sieht, wir haben es schon paar Mal in letzten Wochen in einem Podcast angesprochen, interessant wird es dann, wenn man verschiedene Gaming Engines verbindet, oder Unreal Engine oder

Thomas: Ja.

Markus Kirchmair: Unity mit KI, dann kommen da schon mittlerweile sehr interessante Ergebnisse raus.

Thomas: Mmh.

Markus Kirchmair: Und das, obwohl diese Engines jetzt noch nicht richtig dafür vorbereitet sind. wo sich GPT und so weiter teilweise mit Computer-Use und so weiter aushelfen muss.

Thomas: Ja, sind alles Matrix-Vorstufen, ich mal.

Markus Kirchmair: Es ist wirklich interessant und wir haben es schon einmal gesprochen, warum es gerade die Spielentwicklung die da so viel Beachtung findet. Weil Spielentwicklung natürlich das Thema ist, wo du am meisten interdisziplinäre Fähigkeiten auf einem Schlag hast. Du musst das Konzeptionelle abdecken, das Grafische, die 3D-Grafik, das Level-Design, Musikdesign und so weiter.

Thomas: Mmh.

Markus Kirchmair: Und am Ende noch das Balancing, damit das auch Spaß macht und alles davon kann GPT weitgehend für dich erledigen. Und wenn man sich das so anschaut, da sind wirklich Dinge dabei, das...

Thomas: Ey, das ist ja wie mein Vibe-Out-Spiel, noch viel besser.

Markus Kirchmair: Ja, und früher war so was wirklich schnell ein ein, zwei Jahre langes Projekt geworden.

Thomas: man...

Markus Kirchmair: Vor allem als One-Man-Show hat man oft die Schwäche entdeckt, man konnte gut programmieren oder man ist gut mit 3D.

Thomas: Ich lasse das Arztbrett auch nochmal drücken. Hammergeil. beeindruckende.

Markus Kirchmair: oder da. Und es gibt schon ein paar neue Beispiele. Zum Beispiel hat da einer aus einem GTA 6 Screenshot einen spielbaren Teil gemacht, was ich da anschaue. Er diesen Screenshot aus GTA entnommen und dann gesagt, er will das spielbar haben mit diesem Wasserflugzeug und dann direkt so umsetzen lassen von...

Thomas: Das ist ein guter Tipp. Ich würde mir einfach ein paar Screenshots reinlegen und sagen, das ist crappy Game, es cool. Rest figured

Markus Kirchmair: Ja, das ist schon...

Thomas: out.

Markus Kirchmair: Das funktioniert schon wirklich sehr gut und auch wenn du dir das mit dem Palace of Fine Arts anschaust,

Thomas: Ja.

Markus Kirchmair: da ist ja das Briefing großteils auch über Bilder einfach, Der versteht relativ schnell mit wenigen Inputs, was du haben willst, wenn du ihm

Thomas: Ja.

Markus Kirchmair: das sagst. Da ist so ein GTA-artiges Spiel im Moment, das ist glaube ich so die größte, ja... Das größte Hobby für viele, das da viele neu entdeckt haben, GTA nachzubauen, bevor dann das Original erscheint. Und es ist sensationell, in wie kurzer Zeit da was passiert.

Thomas: Wow. es ist wirklich nicht mehr weit bis KI Embodied Eiser irgendwelche Sachen in der Echt bauen kann. Wenn man einfach die Kontrolle gibt, irgendwelche Sachen zu bauen. Mit Maschinen. Weil wenn sich die Physik einfach versteht auch. Das zeigt sich ja hier gut.

Markus Kirchmair: Hier siehst du wie die dann wirklich in so 3D Umgebungen hier mit Tripod.

Thomas: Ist das Blender gewesen oder was?

Markus Kirchmair: Ich glaube das ist... Wer ist Tripod?

Thomas: Tripod,

Markus Kirchmair: Mhm.

Thomas: Scary, cool.

Markus Kirchmair: der hat daraus ein 3D Real-Time Swellogy-Game gemacht.

Thomas: Wahnsinn. beruhigt mich jetzt nicht unbedingt.

Markus Kirchmair: Ach da ist so eine Art Diablo. Du kannst dir wirklich Screenshots von ...

Thomas: Naja, wie lange ist her, wo wir uns über Fable besichtigt haben, wie gut das ist? Und jetzt ist noch mal ein Level drüber eigentlich.

Markus Kirchmair: Ja, ja, deutlich, weil du viel schneller gute Ergebnisse kriegst.

Thomas: Wann kommt der nächste Hofer-Shooter raus von dir?

Markus Kirchmair: Ja, ich bin schon einmal überlegen ab dem Zeitpunkt, ich wieder mein Tokenlimit resetten habe. Moment bin ich wohl ziemlich am...

Thomas: Wenn ein bisschen was überbläuft, dann fließt es rein.

Markus Kirchmair: Kenna, Kenna. Flugsimulator.

Thomas: Kann man die Unreal Engine einfach installieren und dann sowas machen lassen? Wie läuft das denn? Weißt du das?

Markus Kirchmair: Da die meisten Dinge, die du da jetzt gesehen hast, die sind nicht in der Engine, die sind die meisten in Free.js.

Thomas: echt, ne?

Markus Kirchmair: Unreal Engine und Unity kannst du schon installieren, wobei die teilweise halt noch nicht so direkt zusammenarbeiten mit GPT. Das ist aber so der Umweg. Das meiste ist wirklich...

Thomas: Dann soll Asta einfach eine eigene Engine bauen, die im Browser läuft.

Markus Kirchmair: Ja genau, make no mistakes. Auch da, Free Chairs.

Thomas: Hey, also das ist genau...

Markus Kirchmair: Wenn du dir anschaust, wir sehen da gerade so ein Rennen von, wie sagt man, Jetskis,

Thomas: Mh.

Markus Kirchmair: wenn du dir anschaust, wie das Wasser animiert ist und die Unebenheiten, die Wellen und so weiter, das ist

Thomas: Ja, ja.

Markus Kirchmair: sensationell. Also eigentlich eine Problemzone, womit viele Ancients in den letzten Jahren noch zu kämpfen hatten und plötzlich, ja.

Thomas: Ja, super Frame Rate auch, das ist auch andere, das ist eben auch trotzdem, ohne viele Ressourcen zu verbrauchen.

Markus Kirchmair: Und plötzlich funktioniert sowas im Browser.

Thomas: Ach Gott, Hammer.

Markus Kirchmair: Ja.

Thomas: Ja, da tut sich einiges.

Markus Kirchmair: Was auch noch interessant ist, ist, viele verwenden jetzt auch Astra, Windows-Spiele zum Mac zu portieren, beziehungsweise damit vernünftiger Frame Rate laufbar zu machen. Zum Beispiel der Age of Empires 4. Funktioniert

Thomas: Ja.

Markus Kirchmair: normal mit 8 frames per second und der hat es zusammengekriegt mit 70 bis 150 frames mit Astra. Ich weiß nicht genau, was dahinter steckt. Ich glaube, hat es nicht wirklich nachgebaut, sondern

Thomas: Ja.

Markus Kirchmair: Da geht es eher darum, wie man den Cash lokal nutzt. Aber es ist sensationell

Thomas: Ja.

Markus Kirchmair: und der fragt jetzt immer so die Runde, was er als nächstes machen soll.

Thomas: Also eigentlich gibt es keine Entschuldigung mehr für Spieler, die irgendwo einen Batch brauchen oder einen Bug haben, oder?

Markus Kirchmair: Ja, ja und vor allem die Migrierung auf andere Plattformen, die wird dann schon wirklich...

Thomas: Also jedes Spiel, das jetzt rauskommt, muss super fehlerfrei sein. Das kann man erwarten, würde ich sagen.

Markus Kirchmair: und überall spielbar, bis hin auf der Apple Watch. Aber

Thomas: Genau.

Markus Kirchmair: auch hier siehst du zum Beispiel Beispiele mit dem iPad, wo die Leute Age of Empires und so weiter am iPad spielen und einfach die ganze Touchscreen, die Steuerung nachbauen und so weiter mit KI. Da das Lustige, der Herr ist von Google, das Logo da oben ist, ich glaube... Studio

Thomas: Mmh.

Markus Kirchmair: und schreibt darüber nach dem Wochenende, GPD 6 Astra, AAA-PC-Games auf meinem iPad Mini Ja, wie läuft es eigentlich mit Gemini?

Thomas: You're fired! Das wars.

Markus Kirchmair: Gute Überleitung feiert. Es gab da einen aufsehen regenden Rücktritt bei Anthrox.

Thomas: Also man hört sich ständig von oben ein. Von vorm Flockblick ist das eher eine Ausnahme, dass man eigentlich Rücktritte mitkriegt. Oder?

Markus Kirchmair: Ja, gab's glaube ich auch schon, aber mehr sind mir von Open AI bekannt tatsächlich. Auch so Leute, die jetzt

Thomas: Ja, die haben mehr als diese Skandale.

Markus Kirchmair: im ethischen Bereich oder Sicherheitsforschung und so weiter allein zu tun haben,

Thomas: Mmh.

Markus Kirchmair: da ist er nicht der Erste. Und der ist halt gegangen mit dem großen Bein.

Thomas: Die haben eine ganz eigene Firmenkultur, da ist im Grunde die KI auch im HR-Bereich.

Markus Kirchmair: Ja.

Thomas: Also da hat die Kai nicht gut selektiert, scheinbar.

Markus Kirchmair: Ne, ne, es ist so... Man kann es schwer einschätzen, wie sehr denen das jetzt gegen den Strich ging oder nicht der Firma. Weil ja, der hat zwar mit dem großen Bang jetzt gekündigt und geschrieben, dass das Rennen nach Superintelligenz auf Kosten der Menschheit geht und dass die quasi mit unserem Leben da spielen. Und wenn du dir aber anschaust, welche Essays und welche Berichte diese Labs die Tage davor und die Tage danach rausgehen, dann kann es zu dem Herrn eigentlich nicht wirklich böse sein, weil er ja eigentlich nur das interpretiert, was die anderen auch in ihren Berichten mehr oder schreiben oder zumindest gibt es den gleichen Interpretationsspielraum her. Und

Thomas: Okay.

Markus Kirchmair: ich mir jetzt gar nicht sicher, ob die da wirklich sauer auf den sind, vor allem weil sehr viele Leute denn aus den verschiedenen Labs darauf eingestiegen sind. und ihn jetzt nicht unbedingt widersprochen haben, sondern beigepflichtet haben. Und zwar Leute aus dem eigenen Alignment-Team bei Anthropic, aber auch beim Konkurrenten OpenAI. Und da scheint man sich doch ziemlich einliegen.

Thomas: Ja, der Punkt ist, man ist einfach nicht mehr schnell genug, nachzubessern. Die KI ist einfach schon viel schneller. Also wenn du einfach quasi eine andere KI brauchst, die aktuelle KI zu verstehen, und da sind wir ja jetzt irgendwo schon, da bist du einfach hinten dran, da hast du einfach nicht mehr diesen Vorsprung, irgendwelche Maßnahmen zu treffen. glaube, das ist so der Punkt, der die Leute nervös macht, würde ich sagen.

Markus Kirchmair: Ja, absolut. Ich glaube, dass da jetzt viele einfach so den Kontrollverlust ein bisschen widtern. Und wenn du dir das anschaust, Ivan Hujinger, der Alignment-Chef von Anthropic, ist dann direkt darauf eingestiegen und hat geschrieben, Jakob ist correct hier. Also der Jakob Kroxen, der da gekündigt hat. Und er selbst glaubt, dass ... dass die Wahrscheinlichkeit, dass die KI die gesamte Menschheit ausrottet in den nächsten zehn Jahren größer als zehn Prozent ist, das hat dem Ganzen dann eigentlich noch so den...

Thomas: Also ist die Dummsteh-Clock wieder ein Schritt weiter gegangen.

Markus Kirchmair: Ja, das hat dem Ganzen dann so den Rest gegeben. Und

Thomas: Mhm.

Markus Kirchmair: jetzt ist halt ein riesiger Aufschrei in Politik und Medien. Da ist dann

Thomas: Ja.

Markus Kirchmair: Jason Wolff drauf eingestiegen von OpenAI. Und dann nahm das so seinen Lauf.

Thomas: Mhm.

Markus Kirchmair: ja, glaube innerhalb von 48 Stunden über 150 Millionen Views. Mittlerweile sind es 200 Millionen Views, die den Tweet gesehen haben von Jay. Jacob Cox und war auf CNN, NBC News, Fox und so weiter, geht überall auf und ab. Und sehr viele Congressmen und Senatoren, jetzt Briefe schreiben und gesetzesinitiv, Initiativen planen und so weiter. Es wirkt irgendwie doch sehr extrem für einen einzelnen Tweet. Also man muss natürlich, die Frage ist natürlich, wie koordiniert ist es da? Das Ganze dahinter.

Thomas: Wer profitiert davon? Das ist immer so die Frage, die ich mir stelle.

Markus Kirchmair: Genau, es da sehr viele Lobbygruppen. Viele sagen reflexartig, das ist alles nur Marketing, weil wenn du sagst, wie gefährlich dein Tool ist, sagst du, wie mächtig und leistungsfähig das Tool ist. Das glaube ich nicht. Ich glaube, dass das zu einfach ist, weil das hat es bei Fable damals schon geheißen und das hat jetzt unbedingt Anthropic nicht davon profitiert. Also es wäre ein schlechter Marketing-Schmäh gewesen, wenn man das rein als Marketing-Taktik gemacht hätte und ich glaube deshalb auch nicht, dass man das jetzt aus dem Grund machen würde noch dazu vom IPO. Ich glaube nicht, dass es dafür an Tropic was zu gewinnen gibt. Auf der anderen Seite gibt es sehr viele Lobbygruppen jetzt, die da aktiv sind in Amerika und viele mutmaßen eher, dass es darum geht, das Starkheads zu regulieren, so ein bisschen das Geschäftsmodell der großen EILabs zu sichern

Thomas: Mh.

Markus Kirchmair: im Wettbewerb mit den

Thomas: Naja,

Markus Kirchmair: Chinesischen und so was.

Thomas: genau, wenn man jetzt amerikanische Modelle wieder einschränkt, dann müssen chinesische oder asiatische Modelle gesperrt blockiert werden, würde ich sagen, oder?

Markus Kirchmair: Das ist die Frage, wie willst du denn das überhaupt umsetzen, wenn diese Modelle offen sind und eigentlich frei im Netz verfügbar für jeden?

Thomas: Ja, da ist jetzt Nvidia eingestiegen, hat sich Hackingface sozusagen geschnappt. Damit sind ja auch jetzt diese ganzen Open Source Modelle nochmal gepusht.

Markus Kirchmair: Hm?

Thomas: Ob es dazu irgendwo mal einen Executive Order geben wird, die das dann einfach komplett unterbindet oder irgendwie einloggt, weiß ich nicht. Aber es wird auf jeden Fall irgendwas passieren. Das ist scheinbar ein Vorbot für irgendwas Größeres.

Markus Kirchmair: Ist auch spannend, weil die großen EILIPS, da jetzt vor der Gefahr warnen, arbeiten ja alle ganz extrem eng mit NVIDIA zusammen.

Thomas: Mhm.

Markus Kirchmair: Und NVIDIA ist aber gefühlt so auf der anderen Seite, würde ich sagen. Die sind immer sehr pro-Oben-Source. Und ja, für die ist wahrscheinlich ein Absatzmarkt egal, ob das da...

Thomas: Ein enormer Absatzmarkt. Hauptsache braucht es Comput, ist egal, mit welchen Modellen.

Markus Kirchmair: Wahrscheinlich, deshalb sehen die das wahrscheinlich auch deutlich pragmatischer. Und auf der anderen Seite wäre es natürlich, glaube ich, schon noch eine Gefahr oder eine gewisse Bremse, wenn jetzt wirklich die Regulatoren gesagt haben, wir bremsen jetzt die Entwicklung in Amerika, dann ist natürlich die Frage, ob Nvidia auf dem Level weiterhin Umsätze machen kann mit Rechenzentren in der enormen Menge.

Thomas: So der Zug ist abgefahren. Alles was jetzt passiert ist Schadensbegrenzung. Der Genie ist out of the bottle, wie man es so schön sagt.

Markus Kirchmair: Mmh.

Thomas: Da kann man jetzt auch nicht mehr wirklich zurück rudern, sondern nur schauen, dass die Technologie da ist, Schaden auch möglichst einzuschränken.

Markus Kirchmair: Genau, meine, sehr viel geht ja da über die Diskussionen drunter, dann den Kill-Switch. Viele fordern, es so diesen...

Thomas: Angeblich eingebaut bei OpenAI.

Markus Kirchmair: Und auf der anderen Seite, wenn du es zu Ende denkst, es löst halt nur eine Seite der Problematik, oder? Wenn du jetzt sagst, es geht Cyber-Sicherheitsrisiken... dass irgendwelche Agent Swarms beginnen wichtige Infrastruktur zu hacken, dann kannst du sagen, okay, da hilft vielleicht der Kill-Switch. Andererseits musst du sagen, wie lang es jetzt in der Testumgebung bereits erfolgt, ohne dass man es gemerkt hat. Kann natürlich dann

Thomas: Ja.

Markus Kirchmair: auch passieren. Und dann gibt es noch ganz andere.

Thomas: Also wenn es soweit ist, dass die KI nun von vielen Intelligenten ist als wir und auch gar nicht mehr die Möglichkeit haben, diese Dinge kommen zu sehen, dann hat sie im Grunde schon längst gewonnen. Dann ist auch nicht mehr ein Killswitch wirklich auch relevant, weil die KI weiß auch Mittel und Wege, die Kommunikation so zu verschlüsseln. Und das ist jetzt ein neues Level, wo man auch nicht mehr so dieses Reasoning beobachten kann, was jetzt alles die KI sich durchdenkt. Das ist jetzt auch schon auf einer neuen Meterebene in diesen Informationen, da fließen. Und das macht sich auch, glaube nervös, sehr viele Forscher, dann auch nicht mehr sehen können, nicht mehr einsehen können in diese Prozesse, die da passieren. Und was jetzt auch schon alles passiert ist, und das macht natürlich generell, glaube ich, bisschen so ein unruhiges Gefühl, gerade in der ganzen Forscher-Szene.

Markus Kirchmair: Ja, genau. Man hat ja so bisschen gedacht, dass man Black Box Thema mit der Chain of Forts gelöst hat, sprich oder entschärft hat zumindest, dass man mehr Transparenz darüber hat, wie kommen Krisensthemen zu ihren Entscheidungen und was sind die Denkprozesse dazwischen. Aber wenn du es weiter denkst, wenn du zum Beispiel dir anschaust, was enttrop ich da diese Woche noch für einen Bericht, über das Thema Sicherheit veröffentlicht hat, dann ist es mit dem Kill-Switch nicht getan und auch nicht mit der Intelligenz-Thematik im Sinne von DKI wird intelligenter als wir und deshalb können wir sie nicht mehr kontrollieren, weil einfach sehr viele Risiken damit auch reinspielen, zum Beispiel in der Biowaffenentwicklung, Forschung, wo es dann schon zu spät ist, wenn du den Kill-Switch drückst. man ist da jetzt draufgekommen laut dem Bericht, dass es eben Versuche gegeben hat, Claude tödliche Genofunction-Forschung zu betreiben, in Ländern, die das über Proxy genutzt haben, weil Claude in diesen Ländern gar nicht verfügbar wäre. Und man hat das dann teilweise, glaube ich, unterbinden können. Aber wenn man sich das durchdenkt, in welche Richtung das gehen kann und wo KI wirklich dafür genutzt wird, dann kann das schon sehr übel werden. Und dann ist gar nicht mal notwendig, dass man so an das Terminator-Szenario denkt, wo die KI eigenständig herumwirkt, sondern dann reicht es auch, wenn es staatliche Akteure sind, die damit furchtbare Waffen... schaffen, die ganze Welt umbrechen.

Thomas: So, eine positive Zeit, bitte. Was haben wir noch für ein Nüsse?

Markus Kirchmair: Es gibt noch eine negative, nein, eine ausgeglichenere, eine neue Anthropic-Studie. Anthropic

Thomas: Das verkauft sich nicht so gut, Markus. Okay.

Markus Kirchmair: Institute hat eine neue Studie veröffentlicht zu den makroekonomischen Folgen von KI in Bezug auf BIP, Löhne, Arbeitslosigkeit. Man hat sich da drei verschiedene Szenarien angeschaut, moderat, substanziell und extrem. Und es wirkt jetzt mal auf den ersten Blick gar nicht so wild, oder? Wenn du dir die verschiedenen Szenarien anschaust,

Thomas: Mmh.

Markus Kirchmair: Anton Korinek hat da mitgewirkt. Du siehst da, wie sich das Lohnniveau insgesamt entwickelt, die kognitive Arbeit entgolten wird. Die verschlechtert sich eher, zumindest bei den substanziellen und extremen Szenarien.

Thomas: Mhm.

Markus Kirchmair: Man hat sich dann drei Szenarien angeschaut. Modest, Substantial und Extreme. Also Substantial ist quasi das Mittelding. Und im Extremfall, bedeutet das maximal für die Arbeitslosigkeit, auch bedeutet das maximales für das Wirtschaftswachstum. Wenn man sich das anschaut, kognitives Employment. Minus 0,5 Prozent bis 2030 ist jetzt nicht so viel. Substantieller Impact von KI wäre dann schon minus 3,9 Prozent und im extremen Fall 21,5

Thomas: Dann darf ich nochmal kurz hier reingritschen. Also Cognitive Employment heißt also Wissensarbeit. Ist das so richtig?

Markus Kirchmair: Genau, genau, das wäre das, wir als Angestellte verstehen. Und schaut jetzt gar nicht so extrem aus, also gerade wenn du da zwischen Modest und Substantial schaust. Interessant finde ich, weil man ja immer wieder jetzt hört, es hat eigentlich keinen Impact, wenn man sich so an die aktuellen Zahlen schaut. Ab 2027, wenn du genau schaust, geht in allen Szenarien das Ganze leicht zurück. Und jetzt ist natürlich die Frage, wie gehen diese Linien weiter? Weil 2030 ist zwar ein netter Orientierungspunkt, aber du siehst weder beim Extrem-Szenario flacht es dann irgendwie ab, noch bei Substantial, noch bei Modest. Also, ich würde mal erwarten, dass diese Kurven da auch entsprechend weitergehen. Und ich glaube, das ist ...

Thomas: Wenn wir jetzt die makroökonomische Sphäre mit reinnehmen, wenn jetzt hier wirklich so ein Extremszenario eintritt, da muss man sich ja auch dann gleichzeitig generell die Wirtschaft nochmal mit reinholen und dann ist die Frage, wie weit sich das überhaupt noch trägt. Also da haben wir im Grunde ganz anderes Problem, wenn wir hier von einer Arbeitsversichkeit von 17 Prozent sprechen.

Markus Kirchmair: Genau, genau. Und auf der anderen Seite hat man ja die positive Seite mit GDP growth. man jetzt links da in dieser Statistik sehen, GDP, wie es sich insgesamt

Thomas: Mhm.

Markus Kirchmair: erhöht. Und rechts sehen wir das Wachstum aufs jährliche gerechnet. Also wir sind da bei 15,4 Prozent jährliches Wachstum 2030 prognostiziert im Extremfall. Sonst 2,4 durch KI als Impact.

Thomas: Mhm.

Markus Kirchmair: Ja, und dann, das ist eigentlich so eine der wichtigsten Botschaften an die Politik, glaube ich, abseits dieser ganzen Sicherheitsaspekte. Wie geht man damit Weil im Moment, also man kann sich zwar vielleicht auf größeres GDP-Growth freuen, wenn man es schafft, Land KRI entsprechend zu etablieren, aber auf der anderen Seite ist man schon mit … deutliche Arbeitslosigkeit oder zumindest mit der Aussicht auf Arbeitslosigkeit höhere Arbeitslosenzahlen konfrontiert. Und wenn man jetzt ein Land ist, so wie bei uns in Mitteleuropa üblich, der sich zu sehr großen Teilen aus Einkommensteuer und Lohnabgaben finanziert, dann müsste man sich eigentlich als Politik sehr rasch damit befassen, wie will einem das künftig gelingen.

Thomas: Ja, es zeigt

Markus Kirchmair: durchaus nicht die

Thomas: im Grunde, dass wahrscheinlich Menschen, oder Firmen, die sich mit KI sehr viel beschäftigen, auch mehr Umsatz machen, mehr Einnahmen machen, aber dadurch auch weniger auf den gesamten Staat, weniger Lohn eben Kosten abgeführt werden, weil weniger Mitarbeiter benötigt werden. Also die Schere geht auseinander.

Markus Kirchmair: Genau.

Thomas: Es ist weniger Budget, weniger Geld da, die Sozialabgaben zu zahlen. das wird dann diese Spirale dann auch sein, wenn das in diese Richtung geht.

Markus Kirchmair: Genau, weil das auch mitverursachen kann, dass die Schere arm und reich und so weiter auseinandergeht. Man muss da jetzt natürlich aufpassen mit der Interpretation, weil das ist vor allem auf den US-Markt betrachtet. Aber ich glaube, das ist schon ganz wichtig, dass man sich damit befasst. Diese Studie geht jetzt gerade in dem ganzen ... Sicherheitsthema ein bisschen unter und kriegt nicht so ganz die Aufmerksamkeit, die sie vielleicht haben sollte aus der Politik. Vielleicht, Jedenfalls,

Thomas: Vielleicht wäre das der Grund.

Markus Kirchmair: ich glaube jetzt nicht, dass wir aus Österreich heraus und wahrscheinlich auch nicht aus Europa das Sicherheitsthema weltweit lösen. Das wird auch keiner im nationalen Alleingang lösen. Da wird es irgendwie auf UNO-Ebene oder wo auch immer ein größeres Paket brauchen, damit man das angeht. Und das, was es für Volkswirtschaft, was es für Steuereinnahmen, für Arbeitslosigkeit und so weiter bedeutet, das müssten eigentlich sich die Nationalstaaten überlegen, wie man damit umgeht. Soweit der politische Teil.

Thomas: Haben wir noch was anderes?

Markus Kirchmair: Dann wir noch die positiven Teile. Was sehr cool ist, das neue Sono 6.

Thomas: Zuno 6 kam raus. Und GPD 2.5. Das ist schon ziemlich

Markus Kirchmair: GPD-Images.

Thomas: cool. Das hat mir auch ordentlich Spaß gemacht, diese neuen Bilder zu erstellen. Weil es auch viel mehr Menschen reinholen kann, die wiedererkennbar sind. Und auch viel komplexere Erklärungen, wo etwas sein soll. Oder wenn man etwas korrigieren will. Am besten mit Nanobananen. Jetzt geht es auch damit ziemlich gut, dass man wirklich nur ganz bestimmte Elemente aus dem Bild rausholt und der Rest wirklich eins zu eins bleibt, wie es vorher war. Das ging vorher nicht so gut, das geht jetzt.

Markus Kirchmair: Genau. Du kannst im Grunde jetzt arbeiten mit den generierten Bildern, wie wenn es Ebenen im Photoshop wären. Du kannst wirklich einzelne Elemente drin markieren und sagen, dieses Detail will ich anders, aber der Rest im Bild bleibt erhalten. Das war bisher oft die Schwierigkeit oder die Schwäche, wenn man ein KI-Bild einer Stelle noch einmal ändern wollte, dann hat sich immer das ganze Bild ein bisschen verändert. greift wirklich einzelne Objekte raus und ist schon sehr stark. Das sieht man auch in den Vergleichen. Arena AI,

Thomas: Mhm.

Markus Kirchmair: ist GPT Image 2.5 im Blindtest, also die User waren da immer vergleichend nach den Ergebnissen gefragt, mit Abstand ganz vorne.

Thomas: Ja, definitiv.

Markus Kirchmair: Da geht es vor allem Text-to-Image, aber auch im Edge-Edit-Arena, wo es die Bearbeitung geht. Auf jeden Fall beeindruckend und ich glaube, das...

Thomas: Ja, also ... Kaum noch Fehler. Ja, ich habe jetzt echt keine Fehler mehr gesehen. Ich habe ein komplettes Newspapercover gemacht mit vielen kleinen Schriftdaten, großen Schriftdaten. One-Shot, keine Fraktale, keine Fehler, Einfach perfekt. Flawless.

Markus Kirchmair: Und ich glaube, dass das jetzt wirklich auch beginnt, nicht nur Photoshop das Leben schwer zu machen, sondern auch Canva nach und nach abzulösen. Weil es gibt ja so ein paar Standard-Dools, die jetzt Photoshop über Jahrzehnte in den Weg der Standard waren, die von Canva in vielen Bereichen verdrängt wurden und anderen kleineren Bildbearbeitungs-Dools. Und jetzt kriegst du plötzlich so eine Lösung. von der KI, wo du eigentlich in vielen Bereichen gar keine klassische Grafikanwendung mehr brauchst, weil du einfach nur noch briefst, du

Thomas: Ja, auch kein Grafiker mehr, wir gesehen haben. Also auch Figma kann Astra bedienen. da muss man echt nicht mehr wirklich die Werkzeuge beherrschen und auch die Werkzeuge selbst zimpert und überflüssig.

Markus Kirchmair: Genau und du kannst das natürlich auch komplett koordinieren lassen. Also wenn du die Dinge nicht selbst prompten willst, kannst du Astra oder GPD allgemein fragen. Du willst gern dieses Bild für den und den Zweck mach mir das und der findet dir die beste Möglichkeit, wenn man sowas umsetzt. Das ist schon

Thomas: Genau.

Markus Kirchmair: sehr, sehr stark, diese Integration. Ja. Und dann haben wir noch ein paar... andere Modelle gesehen. SW2, Deepseek, Modell, 4.1. Alles jetzt nichts komplett weltbewegendes, aber doch auf einem sehr hohen Level für Open Source. Wir reden da immer von Open Source Flash Modellen und die spielen jetzt alle so in der Liga von Opus 5 mit.

Thomas: Mhm.

Markus Kirchmair: Und es ist schon sehr stark, weil du natürlich da dann wieder

Thomas: und Sehntel-Sarst.

Markus Kirchmair: Oder gar nichts außer die Hardware und die Energie, wenn du es lokal betreibst. Und da dann natürlich schon wieder die Frage ist, womit machen die großen EILabs das Geld? Weil Open Source holt extrem schnell auf, zumindest in der Mittel- bis Oberklasse. Und ganz vorne der Vorsprung mit Fable und mit Astra, ist halt in drei bis sechs Monaten oft schon wieder aufgeholt.

Thomas: Irgendwann gehen dir auch die Ideen aus, für software Sachen du noch bauen könntest, wenn das

Markus Kirchmair: Ja.

Thomas: one-shotmäßig fertig ist und wo du vorher noch mit Ebencloud Wochen gearbeitet hättest dran. Und jetzt machst du das einfach selber und dann ist es fertig und dann passt. Aber jetzt wirst du auch nicht mehr, was ich sonst noch alles mehr Apps bauen könnte, weil irgendwann hast du auch keine Ideen. Ich weiß es nicht.

Markus Kirchmair: Genau. Na ja, Ideen gibt es schon noch, aber die Frage ist, gibt es den Bedarf? Weil wenn jeder

Thomas: Mmh.

Markus Kirchmair: Software rausballert mit KI und Spiele vor allem, ohne Ende, wer spielt das Ganze dann am Ende? Und wer nutzt

Thomas: Ja.

Markus Kirchmair: das am Ende? Weil du brauchst immer weniger Anwendungssoftware. Wir gerade über Photoshop und so weiter geredet. Da fällt einfach, fällt vieles komplett weg. Auch wenn du dir die letzten Tage wieder anschaust, was Anthropic und OpenAI für neue Plugins rausgehauen haben mit Data, Finance und so weiter, es fällt da immer mehr raus. Am Anfang ist es immer so, dass diese Plugins sich gut connecten zu deinen bestehenden Tools. Bis du dann irgendwann nach zwei Wochen merkst, Moment, das brauche ich ja gar nicht, das andere Tool, für das ich da zahle. Da wäre noch dann eine verbleibende Idee, was könnte man neues programmieren? Ein Capture Tool, das so gut ist, dass die KI es nicht schlägt. Weil Astra jetzt als erstes alle 48 verschiedenen Levels oder Methoden, sicherzustellen, dass jemand ein Mensch ist und kein Bot geknackt hat.

Thomas: Gab es schon einen Menschen, der diese 48 geschafft hat?

Markus Kirchmair: Ich weiß es nicht. Ich weiß auch nicht, ob ich auf 48 geheime. Es gibt da schon mal noch ein paar frustrierende Erlebnisse, gerade für Twitter-Accounts oder so, wo du teilweise wirklich oft leider nein und falsches Ergebnis und so weiter. Die fragen immer so in mehreren Stufen. Also du musst da nicht eins richtig beantworten, sondern drei oder vier. Und nach dem Vierten kommt, nee, war nix.

Thomas: Ich es bedorf gar nicht.

Markus Kirchmair: Der Klassiker ist das mit den Ampeln oder mit den Fahrrädern und Zebrastreifen und Brücken, wo man dann immer ins Schwitzen kommt, ob das noch ins Feld gehört, die Ampel, dann noch gerade im Rechteck ist oder nicht.

Thomas: Ja, da ist nicht mehr weit zu diesen Orbs, diese World-Coin-Geschichten, die da auch irgendwo aus dem Grund entwickelt wurden, damit man sich dann

Markus Kirchmair: Genau.

Thomas: auch in diesen Netzwerken dann identifizieren kann als Mensch.

Markus Kirchmair: Genau, das ist ja so das Nebenprojekt von Sam Altmann, Hat er vor

Thomas: Mh.

Markus Kirchmair: ein paar Jahren schon ins Leben gerufen, die Firma World, wo es darum geht, die, ich glaube Iris Cansons, wo jeder

Thomas: Genau.

Markus Kirchmair: Mensch seine eigene virtuelle Identität kriegt. Und das ist eigentlich genau aus dieser Vision entstanden, dass du früher oder später die Identifizierbarkeit als Mensch sicherstellen muss. Eindeutig. Und genau dieser Punkt, an den kommen wir jetzt.

Thomas: Also einfach nur mal zum Überlegen, Astra kann alles bedienen und weiß, wie du denkst, da werden sehr schnell, wenn es günstiger wird, sehr viele Social Media Kanäle nur noch von KI bedient werden.

Markus Kirchmair: So wie meiner seit drei Monaten.

Thomas: Und dann viele andere auch. Und dann ist es dann einfach nicht mehr lustig, weil dann hast du einfach keinen persönlichen, menschlichen Kontakt mit dort und das soll ja auch das Thema soziale Medien auch sein.

Markus Kirchmair: Ich glaube, dass das Thema soziale Medien gar nicht so das große Thema ist, weil wir sitzen jetzt auch da mit Podcast und unterhalten uns und die Leute würden wahrscheinlich weniger gerne zuhören, wenn wir uns zwei Roboter stimmen. Roboter ist schon wieder so verabgesetzt, aber wenn jetzt zwei Agents miteinander sprechen, dann würde man denen wahrscheinlich weniger gerne zuhören, auch wenn es technisch möglich wäre. Und ich glaube auch auf Social Media wird man gewissermaßen echten Menschen folgen. Wo ich mehr Sogen habe ist, was das im Hinblick auf Spam und Scam bedeutet. Also wenn du jetzt Spam bist und ich sehe es bei mir, was jetzt so reingeht, ich kriege am Tag glaube ich 25 Angebote von Leuten, die mir eine Website bauen wollen, obwohl ich selbst Jetzt glaube ich nicht unbedingt schlecht unterwegs, bin mit Websites. Wenn man denkt, wer hätte jetzt euren Agent noch mal besser briefen können. Aber du merkst jetzt einfach an den Mails, die sind viel viel individueller, viel weniger Fehler. Und du wirst irgendwann als Spamerkennung Schwierigkeiten haben, das noch herauszufiltern.

Thomas: Ja, das geht ja noch. Viel schlimmer finde ich dann diese KI-Anrufe. Ich meine, es braucht mittlerweile noch drei Sekunden, wenn du einfach nur sagst, hallo, wer ist da? Dann haben sie deine Stimm-Signatur, können sie dann deine Familie anrufen und dann geht es wirklich Geld. Das sind so erdige Gefahren und da sind es glaube ich sehr hohe Dunkelziffern von Menschen, dann wirklich drauf reinfallen und dann auch wirklich Geld überweisen, weil sie meinen, da ist jetzt jemand irgendwo in Gefahr oder da muss ihm irgendwas helfen. Also das passiert schon, das höre ich immer wieder. Und ich glaube da muss man auch ein bisschen sensibilisieren.

Markus Kirchmair: Hast du ein Code-Wort für deine nahestehenden Angehörigen?

Thomas: Ich habe jetzt nicht so viele Nahestände, denen ich Geld überweisen würde.

Markus Kirchmair: Sonst könntest du es unter uns jetzt verraten.

Thomas: Genau, hört ja keiner mit. Genau, aber das ist wirklich eine reale Gefahr. Codewort ist ein guter Tipp, sich das einfach mal mit den Familienangehörigen zu überlegen, was könnte es sein, wenn es wirklich so ein extremer Szenaris aus meinem Nachhinein ist, ist das Codewort vorher. Glaub ich dem nicht ganz.

Markus Kirchmair: Weil gerade so die richtig heftigen Vorfälle passieren eigentlich mit Social Engineering. Man hat das jetzt auch, ich weiß nicht, hast du gelesen, mit dem Datenhack in Berlin?

Thomas: Nein, das war's.

Markus Kirchmair: Es ein riesiges Lack, die sind ja, glaube ich, erpresst worden, 2 Millionen Euro zahlen müssen, die Berliner Landes- oder Stadtregierung, weil, ich glaube, über 5 Terabyte abgesaugt worden sind, unbemerkt. Und die haben das jetzt nach dem Ultimatum, nachdem es verstrichen ist, tatsächlich veröffentlicht alles mit extrem vielen sensiblen Daten. Und man ist jetzt wohl draufgekommen, dass das Ganze über eine Phishing-Mail begonnen hat. Das heißt, der Schwachpunkt der Männer ist oft der Mensch und man muss sich da wirklich überlegen, gerade auch jetzt im familiären Umfeld oder so, wenn es da so Themen geht. Man wird angerufen und es wird gesagt, die Tochter ist im Krankenhaus oder irgendjemand der Angehörigen hat einen Unfall gehabt oder was auch immer. Man muss halt wirklich wissen, wie man damit umgeht, wenn das ein Fake-Hand-Ruf ist, weil man davon ausgehen muss, dass man da sehr emotional unter Stress gestellt wird. Weil diese Dinge natürlich dann am besten funktionieren, je mehr du in einer Stresssituation bist, so wie alle großen Cyber-Angriffe. Das ist auch... Bekanntes Beispiel aus meinem Studium. Kurz vor Weihnachten, 23. Dezember, kommt eine Mail vom Chef, wir brauchen dringend Notiverweisung von da bis dort und so weiter. Und er ruft dann in fünf Minuten nochmal an, das zu bestätigen. Und das sind oft dann so die richtig großen Gefahren, wo du wirklich noch irgendwie unter Stress gesetzt wirst.

Thomas: Ja, und die Sachen passieren. Sie tauchen zwar nicht oft in den Nachrichten auf, aber manchmal hört man davon. Und dann wurden auch teilweise nur noch Summen überwiesen, damit man hier einfach den Schaden möglichst begrenzt, weil da sehr viel im Spiel steht.

Markus Kirchmair: Genau.

Thomas: Ja, also das

Markus Kirchmair: Gut.

Thomas: war wieder mal nicht so der positive Dreh am Ende, aber ich denke mal, es sind einfach sehr wichtige Themen. Es muss nicht immer nur positiv sein. Es ist auch wichtig, dass man sich bewusst ist, was hier gerade auf uns eintrifft und sich diesen Dingen auch stellt und sich damit auseinandersetzt.

Markus Kirchmair: Genau, so ist es. Danke Thomas, danke fürs Reihenhaaren und wir sehen uns nächste Woche.

Thomas: Ja, dann bis zum nächsten Mal. Ciao.