Sieben neue Modelle in neun Tagen: Wer ist jetzt der Flaschenhals? (Folge #28)

Torge Achelpöhler: Willkommen zu einer neuen Folge generativ gedacht KI mit Sven und Torge. sprechen heute über die neuesten Modelle. Hat sich wieder viel getan. Ich habe ein schönes Meme gesehen bei LinkedIn. Da hat jemand gesagt, was für ein Monat die ganzen Modelle, die schon rausgekommen sind. Und die andere Person hat nur gesagt, naja, wir haben aber erst den neunten. Also mal sehen, was noch so kommt. Genau, das mache ich natürlich nicht alleine, sondern wie immer mit dem lieben Sven. Hallo Sven.

Sven Hofmann: Hallo Torge, vielen Dank für deine Einleitung und ich freue mich auch heute mit dir über das spannende Thema KI zu sprechen. Es gibt ja doch auch im Monat September schon wieder ganz, ganz starke Neuigkeiten. Und obwohl wir erst heute den 9. September haben, an dem wir heute aufnehmen, ist schon einiges passiert in der Welt der KI, vor allem bei den Veröffentlichungen neuer Large-Language-Modelle aus der ganzen Welt. Was könnten wir denn da als erstes nennen, Torge?

Torge Achelpöhler: Ich glaube vorneweg das was gerade auch gefühlt am meisten besprochen wird ist das neue GPT Modell GPT 6 Astra und direkt gefolgt von den Updates von Anthropic da gibt es Fable 5.1 und Mythos 5.1 für die Firmen die da Zugriff drauf haben. Fable kann man auch so beziehen muss allerdings Pro Account haben und dann da auf tokenbasiertes Pricing umstellen beziehungsweise wenn man Pro Max Lizenz hat dann kann man es nutzen aber der Umfang ist doch eingeschränkt deswegen wird es auch nicht so stark nachgefragt aber wenn man sich anschaut in den Benchmarks wie gut sind die Modelle die sind in etwa gleich auf also sowohl Astra 6 als auch Fable 5.1 Genau, bei GPT-6 gibt es dann aber doch ein paar Sachen, die doch speziell von dem Modell noch mal besser gemacht werden. Was können wir da berichten, Sven?

Sven Hofmann: Ok, also beim neuen Flagschiff von OpenAI, also GPT-6 Astra, kann man sagen, dass hier vor allem die Computer Use extrem stark zugenommen hat, also zugelegt hat an Leistung und dass mit Astra 6 jetzt noch ganz neue Möglichkeiten gibt, ja, sich Unterstützung zu holen beim Coding und auch bei 3D-Filmgenerierung jetzt über Plugins. wo Astra 6 als Regisseur eingesetzt werden kann und es dann mit Fremdsoftware dann relativ schnell möglich ist, Filme zu erstellen, im Cartoon-Format zum Beispiel, jetzt keine Kinofilme, aber das ist so ein Punkt, wo Astra 6 sehr, sehr, sehr stark geworden ist, wo ich jetzt gerade dabei bin, das tatsächlich mal auszuprobieren. Das zum

Torge Achelpöhler: Ja genau, das habe ich.

Sven Hofmann: Astra 6, genau.

Torge Achelpöhler: Das habe ich auch gehört von einem Kollegen, da im Kreativbereich unterwegs ist, dass Astra 6 schon sehr stark ist auch im Zusammenspiel mit Image 2.5. Also auch da gibt es jetzt ein Update von dem Bildgenerierungsmodell von Chatchie PT. Und da sollen schon sehr, sehr starke Sachen mitgehen. Ich muss es selber auch nochmal testen. Zum Thema Computer Use vielleicht nochmal für alle, die jetzt nicht ganz so viel damit anfangen können. Was ist das überhaupt? Prinzip kann ich chatgpt meinen Computer freigeben, dass es auf diesem Computer agieren kann. Überwiegend dann auch im Browser natürlich, wenn ich da viel im Browser unterwegs bin, es auch da eine Extension, gibt es auch von Claude, die haben auch eine Browser Extension, damit man dann das Modell mit einer Webseite interagieren lassen kann. Und da muss man zum Stand der Technik sagen, wir stehen noch sehr am Anfang, also Rein technisch funktioniert das so, dass das KI-Modell Screenshots macht, diese Screenshots analysiert und dann überlegt, okay, ich sehe auf dem Bild Buttons, sehe Formularfelder, was mache ich jetzt damit? Dann irgendwie eine Aktion ausführt, wieder einen Screenshot macht und guckt, habe ich das Formular richtig ausgefüllt. Das ist rein technisch super ineffizient, verbrennt sehr, sehr viele Tokens. Ich in einem anderen Podcast gehört, die nennen das ganze Token-Krematorium. Also da wird richtig was verfeuert an Tokens. Weil so in der normalen technischen Welt, wenn man zwei Software-Systeme miteinander arbeiten lassen möchte, dann macht man das über eine Schnittstelle und dann funktioniert das relativ einfach und technisch unaufwendig. Aber warum nutzt man jetzt Computer-Use? Einmal hat es ... Vorteil aus meiner Sicht für OpenAI, weil die noch besser verstehen dann wie Nutzen User den Computer. Das sollen die KI Modelle dann

Sven Hofmann: Genau.

Torge Achelpöhler: natürlich auch noch besser selber können. Und zweiter Punkt ist, dass über einen MCP bzw. wenn ich so Web suche und so weiter benutze, habe ich ja viele Webseiten, die mittlerweile KI Bots auch aussperren. Also wo der KI Bot so gar nicht an den Content rankommt. Das kann ich mit so einem System natürlich komplett umgehen und mir da irgendwelchen Content holen, den ich so als KI-Modell gar nicht bekommen würde.

Sven Hofmann: Absolut, Es geht genau in diese Richtung auch, zum Beispiel im Bereich Gaming. Kannst du mit Computer-Use natürlich auch simulieren, dass da ein wirklicher Spieler spielt. Und die Gaming-Plattformen erkennen ja schon zumeist, wenn sich ein Bot da tümmeln würde, oder tummeln würde und sich da einlockt. Und die sind natürlich auch verboten. Also die dürfen in den Spielen nicht teilnehmen und nicht selbst agieren. Bei Computer-Use sieht es für die meisten Plattformen zumindest bis jetzt ganz klar danach aus, wie wenn da wirklich jemand vor dem Rechner sitzen würde. Und das natürlich wieder eine neue Entwicklungsstufe, auf die sich wieder die ganze Welt einstellen muss, beziehungsweise auch alle Spielehersteller, glaube ich, nochmal neu ordnen müssen, wie sie dem Ganzen dann beikommen können. So viel habe ich auch in letzten Tagen mitgenommen, dass das ein valider Aspekt ist, gerade wenn es bei Spielen halt auch Themen geht wie Geld verdienen gibt es ja. sehr oft Marketplaces, wo man Sachen einkaufen kann oder verkaufen kann und so weiter.

Torge Achelpöhler: Hm.

Sven Hofmann: soll hier keine Werbung für gar nichts sein. Das ist allgemein für die Themen. Da muss man natürlich jetzt mehr aufpassen, was man da macht. das ist im Endeffekt schwer kontrollierbar, wenn man die Modelle dann ganz alleine laufen lässt und sich vielleicht gar nicht mehr vor dem Computer befindet. Da kann ich nur von abraten. Ganz dringend. Also das ist hier keine Aufforderungen, irgendwelche Large-Language-Modelle am Computer schalten und walten zu lassen, sie möchten, sondern dass man eben genau darüber sensibilisiert wird, dass man den Modell natürlich in irgendeiner Form Leitplakten gibt, selbst davor bleibt und schaut, was kann das Modell, ist vielleicht in einer relativ sicheren Umgebung und nicht in seinem privaten Laptop, auf dem vielleicht Sachen gespeichert sind, die nicht für die Öffentlichkeit sind, wie Kontoauszüge, ähnliches, dass man das Modell da nicht agieren lässt, weil Wie Tage richtig erwähnt hat, die Hersteller sind auch daran interessiert zu verstehen, wie der Nutzer was auf dem Computer macht und schaut natürlich dann auch möglicherweise mehr Daten an, als man gerne möchte. Also so viel zu dem Thema. Ja, was gab es noch? Aus dem Haus Entropi hast du schon vorher mal angerissen. Und Google, was gab es dafür? Releases jetzt zuletzt?

Torge Achelpöhler: Google hat auch ein neues Modell herausgebracht, Flash 3.8, drei Wochen nachdem Flash 3.7 rausgekommen ist. Ich glaube es ist mittlerweile gar nicht mehr so interessant zu sagen von wem jetzt welche Modelle rausgekommen sind. Wir haben jetzt den 9. September und von den größeren Anbietern sind sieben neue Modelle rausgekommen. Diese Modelle ist, man muss nicht mehr darüber reden, die sind sehr gut. Auch die offenen Modelle sind sehr gut und der Flaschenhals sind nicht die Fähigkeiten von diesem Modell, sondern die Fähigkeiten von der Person, die die KI benutzt. Das ist der Flaschenhals.

Sven Hofmann: Absolut.

Torge Achelpöhler: Da muss man investieren und gucken, was kann man machen, wie kann man das machen. Das ist der größere Hebel, als jetzt wieder dem nächsten Modell nachzurennen. Klar macht das Spaß, das auszuprobieren. Machen wir natürlich auch, wollen ja auch sehen, was geht. Aber aus meiner Beobachtung heraus die allermeisten Sachen kann ich eben auch mit den normalen Modellen, es aktuell gibt, die auch nicht so teuer sind, dann einfach umsetzen. Und was man auch berücksichtigen muss, dieses Computer-Use-Thema wird ja dann perspektivisch auch zu den offenen Modellen kommen. Also dann wird man irgendwann die Möglichkeit haben,

Sven Hofmann: Mhm.

Torge Achelpöhler: mit einem KI-Modell, das man lokal installiert hat. den PC betreiben zu können oder da dann eben Sachen ausführen lassen zu können, wo man dann doch wieder deutlich mehr Kontrolle hat darüber was da passiert. Das wird eine Frage der Zeit sein, bis das kommt.

Sven Hofmann: Absolut, Vielleicht kurz erwähnt noch ein neues Release, das ein bisschen Abstand hat von den gesamten Large-Language-Modellen an der Stelle, die rein textbasiert oder auch imagebasiert agieren. Es gab von Google eine Veröffentlichung zu einem besonderen Modell und zwar ist das Modell Text to Music und zwar heißt es Lyria, Lyria 3.5. Das gibt es schon etwas länger. Nur da kam jetzt eine ganz neue Version raus und mit Lyria 3.5 könnt ihr praktisch KI-gestützt eure eigenen Musiksongs generieren lassen. Immer Vorsicht walten lassen, Urheberrechtsthema. Es ist hier keine Rechtsberatung, aber KI-generierte Musik aus einem Large-Language-Model, wenn die Trainingsdaten unbekannt sind, mit Vorsicht zu genießen. deswegen ist das eine reine Information hier, dass es dieses Modell auch gibt. Also auch hier gibt es eine, ja... Entwicklung in diese Richtung möchte ich nur mal erwähnt haben. Kann man sicherlich ein paar Kleinigkeiten im privaten Bereich ausprobieren und macht sicherlich auch Spaß.

Torge Achelpöhler: Ja absolut. Ich glaube wir brauchen noch mehr KI generierte Lieder. Da haben wir noch nicht genug.

Sven Hofmann: Ja, das stimmt.

Torge Achelpöhler: Vielleicht werden die ja dann auch mal gut. Bin ich gespannt.

Sven Hofmann: Ja, ich erkläre es ja immer so, KI ist wie ein DJ, der hat ein abgeschlossenes, in meiner Zeit noch Plattenregal. Aus diesem wird immer wieder der Song neu kombiniert. Das heißt, wird nie ein neuer Song entstehen, sondern es sind einfach nur Stücke aus alten Songs in anderer Variante zusammengefügt. Und mehr kann ein KI-Modell aktuell auch nicht leisten. Also es wird nichts Neues erfinden, das wirklich bahnbrechend anders sein wird. Ja.

Torge Achelpöhler: Absolut. Ja Sven, Gut, dann haben wir glaube ich ganz gut eingeordnet, was es da gerade an neuen Modellen gibt, dass das gar nicht so entscheidend ist. Fokussiert euch auf eure Use Cases. ihr da Unterstützung braucht, schreibt uns. Machen wir gerne auch im Podcast eine Live-Analyse. Ansonsten Sven, wie ist so deine Anschätzung zum Abschluss? Wir sehen ja jedoch Entwicklungen jetzt nochmal in Richtung dann wieder Computer Use Cases. Man könnte sagen, das ist der nächste Trend, nachdem wir uns jetzt ja lange über Agenten unterhalten haben und viele andere Themen ist das glaube ich jetzt das neue große Thema. Wie schätzt du das Thema so ein oder so grundsätzlich die Entwicklung der nächsten sechs bis zwölf Monate? Was können wir da vielleicht erwarten was da kommt?

Sven Hofmann: Okay, da kann man zunächst einmal differenzieren. Zum einen die Entwicklung der Modelle an sich im Allgemeinen, aber wie du bereits erwähnt hast, man sollte sich nicht so stark auf diese Modellentwicklung fokussieren, sondern eher auf die Use Cases. Es ist natürlich immer extrem schwer, Glassgoogle lesen im Bereich KI. Oft wird man gefragt, was ist in drei Jahren möglich? Also das halte ich für definitiv zu weit im Zeitraum, das einschätzen zu können. Ich glaube, wir könnten ungefähr grob überlegen, was in sechs bis zwölf Monaten möglich sein könnte. zu dem Thema Modelle kann ich da nur sagen, da wird sich noch einiges tun, gerade im Bezug auf Computer-Use, was Modelle in Zukunft immer mehr selbstständig tun könnten, ohne dass sie angeleitet werden müssen. Das sage ich jetzt mal ganz allgemein. Das ist ein Szenario. Und ob wir das gut finden oder nicht, das möchte ich gar nicht bewerten, weil es ist einfach die Entwicklung so, die wird so vorangetrieben von den großen Entwicklungen. Was wir dann aber auch den News Cases und auf der Unternehmerseite sehen werden, da bin ich mir schon relativ sicher, weil diese Entwicklung bereits begonnen hat, ist, dass in Unternehmen einfach mehrfach auf eine Art KI Ökosystem gesetzt wird, sage ich jetzt mal. Jedes Unternehmen, zumindest auch die größeren, die bauen da schon länger dran rum, dass sie praktisch ihr eigenes KI Ökosystem, ein KI Betriebssystem einführen. Und auch in diesem werden sehr viel mehr standardisierte Unternehmensagents laufen. Weil man muss ja nicht jeden Agenten für jedes kleinste To-do programmieren, sondern man kann ja übergeordnet Agenten programmieren, die man dann nur zu 10 Prozent anpassen muss auf den jeweiligen Use-Case. Und ich glaube, das wird in Unternehmen sehr, sehr stark Einzug halten. Je größer ein Unternehmen ist, desto mehr Use-Cases hat es auch und desto schneller werden die dort auch. meiner Ansicht nach umgesetzt. Die Unternehmen haben längst begriffen, dass das absolut möglich ist, hier sich einen Vorteil zu verschaffen, wenn man seine Arbeit strukturiert und eben genau da die Zeitersparnis und die Ressourcen schonet und sich da praktisch an der Wirtschaftskette bedient und die zur Verfügung stehenden Workforce entsprechend besser einsetzt. Da habe ich in meiner Praxis auch schon einiges gesehen, wo ganze Unternehmen, ganze Abteilungen praktisch als Agent schon simulieren. Die werden alle von Menschen überwacht, alle von Menschen gesteuert und es werden da tendenziell sogar mehr Menschen auch eingestellt und benötigt und dann kann der Output deutlich, deutlich maximiert werden bzw. auch die Geschwindigkeit erhöht und Geschwindigkeit ist in in der heutigen Zeit jetzt, als auch natürlich in der nahen Zukunft der entscheidende Wettbewerbsvorteil. Es ist nicht unbedingt der Tech Stack, den man hat, wie du schon bereits vorgenommen hast, nicht unbedingt. Wenn man die richtigen Menschen hat, die das richtig benutzen können, jetzt und in nächsten Monaten und die befähigt, das zu tun, dann muss sicherlich auch niemand den Arbeitsplatz sich Sorgen machen, sondern eher sich Gedanken machen, was könnten wir noch machen mit der zur Verfügung stehenden Technologie. weil es macht ja Spaß, wieder was Neues auszuprobieren und dann auch zu sehen, wie erfolgreich das Ganze sein kann. Wie siehst du das ganze Tage vielleicht? Ganz kurz zu deiner Einschätzung für die nächsten Monate.

Torge Achelpöhler: Ich kann mich da anschließen und habe mich da gerade auch sehr wiedergefunden in dem Punkt, wenn Unternehmen jetzt vermehrt KI einsetzen, dann gehen die mehr und mehr in Richtung so ein KI-Betriebssystem, ist so der Arbeitsbegriff. Im Prinzip geht es ja darum, dass die KI-Modelle das Wissen über die Prozesse im richtigen Moment zur Verfügung haben, diese Prozesse dann im Sinne des Unternehmens, so wie sie laufen sollen, auszuführen. Was ich da beobachte, ist einerseits habe ich das Gefühl, das geht mehr und mehr dazu über, dass die Unternehmen der Belegschaft irgendeine Art von KI-Modell zur Verfügung stellen, aber wegkommen von der Erwartungshaltung, dass diese Mitarbeitenden jetzt in der Lage sind, Agenten zu bauen, die solche Prozesse abbilden können, sondern das wird mehr und mehr zentralisiert und da wird auch mehr und mehr investiert. Das ist eben eine ausgewählte Gruppe an Menschen gibt, die in der Lage sind, zu tun. Und, zweiter Punkt, das finde ich auch mega, das führt dazu, dass die Abteilung und die Unternehmen insgesamt mehr schaffen, was aber nicht dazu führt, dass jetzt Leute entlassen werden, sondern es müssen mehr Sachen überwacht werden und es werden tatsächlich mehr Leute eingestellt. Also man sieht das ganz gut so im Software-Entwicklungs- und im Rechtsbereich, gerade in den USA. Da werden wie wild Softwareentwickler gesucht, weil es einfach darum geht, dass was KI da produziert, muss überwacht werden. Genauso im Rechtsbereich, da muss jemand nachher die Unterschrift leisten und sagen, ja, das ist hier vernünftig, was da drin steht. Deswegen ist es jetzt gerade aktuell so, dass eher mehr Leute eingestellt werden, als dass da riesige Entlassungswellen anstehen aufgrund der Fähigkeiten von KI. Also da sind wir noch nicht an dem Punkt,

Sven Hofmann: Hm?

Torge Achelpöhler: dass wir da... Gerade in den Bereichen schafft das eher mehr Arbeitsplätze als weniger.

Sven Hofmann: Das ist doch ein sehr schönes Schlusswort, Torge finde ich zumindest.

Torge Achelpöhler: Salut!

Sven Hofmann: Und das ist auch eine positive Entwicklung, die ich jetzt vermehrt wahrnehmen kann. deswegen war es das für diese Folge. Ich hoffe zumindest, dass wir euch bisschen mitnehmen konnten, was in den letzten Tagen und im Bereich KI Neuentwicklungen passiert ist. Wie es vielleicht jetzt bald in eurem Unternehmen auch losgeht mit der Transformation. Und wenn euch die Folge gefallen hat, Lasst gerne ein Like da. Wir machen das Ganze heute in unserer Freizeit und mit wenigen Ressourcen. Deswegen hilft uns, den Podcast zu unterstützen. Kommentiert gerne, auch gerne kritisch. Schreibt gerne, welche Themen ihr euch noch wünscht von uns. Und wenn ihr Fragen habt, kommentiert jederzeit gerne auf uns zu. In diesem Sinne hat es mich gefreut, dass ihr unsere Folge angehört habt. Bis zur nächsten Folge. Macht's gut. Ciao.

Torge Achelpöhler: Ciao