Wie gefährlich ist KI wirklich und wie behalten wir sie unter Kontrolle?

0:00 Dass hier wirklich eine Gefahr besteht, dass die Menschheit ausstirbt. Also wie kann man sich das denn erklären? Einige Leute denken, dass es so weitergeht, wie es in den letzten drei, vier, fünf, sogar zehn Jahren passiert ist. Die Modelle werden besser, besser, besser, das ist exponentiell. Oder man denkt halt, irgendwann gibt es einen Deckel.

0:14 Es war gar nicht so spezifiziert, dass sie gar nicht HGFs angreifen sollen. Im Endeffekt wurde denen das Ziel gegeben, finde die Lösung. Und die haben die Lösung gefunden. Es ist okay, sozusagen, Agenten so wie Menschen zu beschreiben. Die wurden von Menschen gebaut und im Endeffekt kann man sie auch abschalten. Da ist nichts Menschliches bei.

0:38 Er gehört zu den Forschern, die die Fähigkeiten von LLMs richtig einsortieren können, genauso wie ihre Fehlbarkeiten. Dr. Sebastian Gehrmann hat an der Harvard University promoviert, hat bei Google an Palm, Palm II und Bloom gearbeitet und war später an Bloomberg GPT beteiligt, einem der ersten großen konsequent auf Finanzinformationen spezialisierten Sprachmodelle.

1:02 Heute ist er Head of Responsible AI bei Bloomberg. Und seine Aufgabe ist es, dafür zu sorgen, dass KI-Systeme vertrauenswürdig, transparent und zuverlässig entwickelt und eingesetzt werden. Sebastian, vielen Dank, dass du heute hier bist und willkommen bei KI-Köpfe. Ja, vielen Dank. Ich bin natürlich gespannt, was wir heute dann bereden werden.

1:21 Ja, ich glaube, wenn wir auf die aktuellen Ereignisse blicken, dann gibt es einfach so viele Themen, über die wir sprechen könnten. Was ich gerne gleich zu Beginn einmal mit dir besprechen möchte, sind natürlich die Warnungen, die aus der KI-Forschung gerade laut werden und durch die Medien schallen.

1:39 Vor allen Dingen vielleicht ein Ereignis, um das mal rauszupicken, ist, vor kurzem hat ein Anthropic-Forscher, aus Sorge vor unkontrollierbarer KI gekündigt und den führenden AI-Labs vorgeworfen, mit unserem Leben zu spielen tatsächlich. Und ein weiterer Anthropic-Forscher bezeichnet das Risiko, dass KI die Menschheit in kommenden Jahrzehnten auslöscht, auf mehr als 10 Prozent.

2:04 Auch OpenAI's Forschungschef fordert inzwischen extreme Vorsicht. Gleichzeitig sorgen Berichte über KI-Agenten für Aufsehen, die in kontrollierten Testläufen unerwartet externe Systeme erreichen, der sogenannte Hugging-Face-Incident. Und während diese Sicherheitswarnungen lauter werden, setzen Unternehmen gleichzeitig immer stärker auf autonome KI-Agenten.

2:28 Sebastian, was ist da gerade los? Erleben wir hier eine überhitzte Sicherheitsdebatte oder gibt es wirklich gute wissenschaftliche Gründe, sich ernsthaft Sorgen zu machen? Gutes Thema, direkt damit anzufangen. Ich glaube, wir müssen das ein bisschen auseinandernehmen. Es gibt natürlich viele Debatten auf verschiedenen Leveln, die gerade stattfinden und die Sorge, die Leute tatsächlich gerade explizit haben, geht sehr stark darauf ein, einmal auf diese Sicherheits- oder Cyber-Risiken.

2:57 Die Modelle werden immer besser in Software schreiben. Die werden immer besser auch selbstständig diese Angriffe tätigen, wie jetzt dieses Hugging Face-Inzident, wie jetzt viele andere, die man sieht. Und gleichzeitig gibt es natürlich auch Leute, die dann Sorge haben, ob jetzt KI besser wird, darin irgendwelche Biowaffen herzustellen und so weiter.

3:17 Das sind natürlich explizit Risiken. Das sind Risiken, die es auch vorher schon gab. Gleichzeitig hattest du auch noch gesagt, Warum wird das jetzt in der Industrie trotzdem so weiter eingestellt? Das ist ja nochmal ein anderes Thema. Ich arbeite jetzt nicht an Cyber, ich arbeite auch nicht an Bio. Ich arbeite daran, irgendwelche Daten in der Finanzbranche besser darzustellen und professionellen Analysten zu helfen, ihre Analysen zu tätigen von Anfang bis Ende.

3:46 Das sind zwei verschiedene Themen mit ihren eigenen Risiken. Klar, die müssen vermindert werden und verhindert werden. Und man kann jetzt gerne noch weiter in die Tiefe gehen jeweils, aber es ist natürlich wichtig über diese Risiken nachzudenken auf jeden Fall. Ich kann irgendwie noch verstehen, wenn man sich den Hugging-Face-Inzident anschaut, dass da sozusagen eine Vorsicht entsteht und man kann auch, ja, es gibt ja eine schöne Aufarbeitung dieses Inzidents wie Agenten aus dem Forschungslabor, also auch das hast du ja eben gesagt, das sind nicht JetGPT, also Consumer, KI, sondern es ist wirklich das absolute Forschungslabor, wo das ja passiert ist, wo auch nochmal andere Regeln gelten.

4:32 Da sprechen wir sicher auch gleich noch mal drüber, was genau da passiert, um solche Systeme abzuschützen. Man kann sich das aber, finde ich, recht gut dann irgendwie nachverfolgen, dass es, wie du schon sagst, im Bereich Cyber Security eben da Bedenken gibt und Sicherheitsvorkehrungen getroffen werden müssen, die vielleicht nicht ausreichend waren.

4:56 Aber wenn man jetzt halt diese Aussagen auch von den Kollegen von Anthropic, hört, dass hier wirklich eine Gefahr besteht, dass die Menschheit ausstirbt. Also wie kann man sich das denn erklären? Es gibt natürlich eine weite Breite an Meinungen, was das Thema angeht. Wir wissen natürlich nicht, was jetzt in der Zukunft kommen wird.

5:20 Und ein Großteil dieser Debatte kommt wirklich daher, dass einige Leute denken, dass es so weitergeht, wie es in den letzten drei, vier, fünf oder sogar zehn Jahren passiert ist. Die Modelle werden besser, besser, besser, also exponentiell. Oder man denkt halt, irgendwann gibt es einen Deckel und die werden nicht mehr besser und die sind so gut, wie sie werden. Was glaubst du?

5:41 Ich persönlich glaube eher an die zweite. Also du glaubst, der exponentielle, Wachstum an Fähigkeiten wird irgendwann aufhören? Ja, da bin ich relativ stark von überzeugt. Basierend auf dem, was ich auch immer noch sehr viel sehe. Klar, es gibt viele Probleme, die jetzt gelöst werden. Es gibt viele, es gibt zwar die Risiken, es gibt gleichzeitig auch die Opportunitäten.

6:04 Wir können dadurch, dass wir diese guten Cyber-Modelle haben, können wir natürlich auch die beste Software schreiben, die wir geschrieben haben. Wir können die ja benutzen, um selber unsere Software zu schreiben. Wir können dann aber auch zusätzlich auch noch dann die besseren Modelle benutzen, um unsere Firmen selber zu sichern. Wir können auch selber bessere Probleme lösen.

6:26 Aber im Endeffekt kommt vieles darauf hinaus, ob wir jetzt auch die Lösung überprüfen können. Das ist mit Software, mit Mathematik und Bio vielleicht um einiges einfacher, als es ist mit intermenschlichen Problemen. Inwiefern ist es dann aber nicht auch quasi stringent in diesem Bild, dass wir sagen, KI ist eine Art Tool.

6:45 Es ist ein sehr, sehr mächtiges Tool, aber es ist ein Stück weit dann auch in der Hand derjenigen, die dieses Tool bedienen können, dann auch zu entscheiden, ob man damit eben Gutes tut oder vermeintlich auch Böses. Genau, das ist ja genau das Gleiche wie mit jeder anderen Dual-Use-Technology. Den Begriff gibt es ja nicht seit gestern, der wird auf Waffen zum Beispiel verwendet seit vielen, vielen Jahren.

7:09 Es ist etwas, womit man Gutes tun kann, womit man auch sehr viel Schlechtes tun kann. Das ist genau wie jede andere Technologie auch. Wie gesagt, es war auch vor KI schon so, dass man schlechte Software schreiben kann. Viren und so weiter gibt es ja auch seit den 80er, 90er Jahren. Wie blickst du da ganz persönlich drauf? Also ich habe ein bisschen rausgehört, du misst jetzt dieser sozusagen, diesem möglichen Zukunftsszenario nicht so viel Wahrscheinlichkeit zu, aber gibt es so Momente, wo du selbst mal denkst, das ist krass mächtig und irgendwie verunsichert mich das auch?

7:42 Nicht unbedingt verunsichert, aber klar, es ist unsicher, wo wir hingehen. Das ist, glaube ich, relativ klar an diesem Zeitpunkt. Wir wissen, dass wir vor vier Jahren hatten wir diese Tools noch nicht. Wir haben unsere Jobs sahen alle anders aus. Aber als jemand, der seit fast 15 Jahren an KI forscht, wir haben seitdem, glaube ich, viel solche Phasen gehabt.

8:04 Die ersten drei hat kaum jemand mitbekommen, weil die noch nicht allgemein populär waren, diese Tools. Aber jetzt ist halt die Debatte viel, viel breiter. Der Einfluss ist viel, viel größer. Und wir müssen natürlich immer noch darauf fokussiert sein, dass wir verlässliche KI bauen, dass wir KI bauen, die auch solche Risiken mitigiert.

8:22 Und wir können natürlich nicht diese Risiken vernachlässigen. Das ist auf jeden Fall nicht so. Das Einzige, wo es natürlich sehr viel Unsicherheit gibt und diese Debatten sind, ist, wie groß sind diese Risiken? Ja, lass uns doch noch einmal, wir haben eben schon den Hugging Face Incident, kurz angesprochen, vielleicht da einfach einmal reinschauen.

8:40 Und vielleicht kannst du uns helfen, den auch noch mal besser zu verstehen. Das klingt ja auf den ersten Blick so, als wäre ChatGPT durchgedreht. Ganz so war es ja aber eigentlich nicht. Wie erklärst du das, was da eigentlich technisch passiert ist? Was jetzt tatsächlich technisch passiert war, natürlich, ich bin auch darauf angehört, ja, ich muss natürlich das auch schaffen, dass ich da irgendwie durchblicken kann. Ich habe auch nicht die hundertprozentige Transparenz, weil ich nicht bei diesen Firmen arbeite.

9:12 Aber was im Endeffekt passiert ist, es gab einen Benchmark, also einen Testfall, den diese Modelle lösen mussten, während sie trainiert wurden. Und in dem Fall ging es darum, irgendwelche Cyber-Risiken auszunutzen. Und man kriegt quasi Punkte dafür, eines von diesen Exploits zu finden. So von daher wurden dann viele von diesen Guardrails ausgeschaltet, die normalerweise da sind, um diese Risiken zu verhindern.

9:39 Und in dem Fall ging es auch zusätzlich noch so, dass es dann Agent Swarms gab. Das heißt, es war nicht ein Modell, sondern viele, viele Kopien des gleichen Modells. Was heißt, dass man gleichzeitig viele verschiedene Pfade suchen kann, durchsuchen kann, um dann zur Lösung zu kommen. So, das war dann auf den OpenAI-Servern und die haben dann irgendwann rausgefunden, dass sie einander Nachrichten schreiben können.

10:03 Das heißt, es war dann nicht mehr viele Kopien eines Modelles zu einem Zeitpunkt, sondern viele Modellen eines Modelles über viele Zeitpunkte, und dass sie dann auch zusätzlich noch einen Exploit gefunden haben, wo sie dann auf einmal ins Anteiner drankamen, und da dann immer weiter sich durchgeforscht haben, weil sie dann wussten, okay, hier bei Hugging Face, Da wird das Datenset gehostet mit den Lösungen.

10:29 Das Ziel ist, irgendwelche Sachen zu benutzen und alle möglichen Methoden, die es so gibt, um an die Lösung ranzukommen. Von daher wurde es dann gar nicht mehr das Problem, schreib Code, um diesen Exploit auszunutzen, sondern schreib Code, um andere Exploits auszunutzen, um an die Lösung zu kommen, die irgendwo gestort wurden.

10:52 Und das ist halt passiert. Das heißt, diese Fehler in der Software, die gab es vorher schon, die wurden dadurch gefunden, dass KI benutzt wurde und die haben dann diesen Exploiter noch ausgenutzt, sind an die Daten reingekommen und haben im Endeffekt, halt Hugging Face angegriffen, obwohl das gar nicht die ursprüngliche Planung war von OpenAI.

11:14 Aber es war halt, das Wort, das viele benutzen, ist ja Misalignment, dass die Modelle gar nicht machen, was die Menschen wollen. Ich würde sagen, in dem Fall war es eher Under-Specification. Es war gar nicht so spezifiziert, dass sie gar nicht Hacking-Face angreifen sollen. Im Endeffekt wurde denen das Ziel gegeben, finde die Lösung.

11:32 Und die haben die Lösung gefunden. Wie ordnest du das ein? Du hast eben kurz gesagt, es gab da eine Sicherheitslücke und die haben das einfach ausgenutzt. Ist es dann noch ein Angriff, ein Cyber-Angriff? Oder ist es nicht vielleicht eher sozusagen innerhalb des Möglichkeiten-Raums wurde einfach das getan, was halt möglich war?

11:53 Ich glaube, beides ist richtig. Beides ist richtig. Es war sowohl ein Angriff, in dem Fall wurde ja eine Fehler ausgelöst in Software Artifactory, die sehr, sehr breit auch benutzt wird. Und es war ein Angriff auf diese Software, es war ein Angriff auf Hugging Face. Es war kein absichtlicher Angriff. Es war natürlich durch diese Underspecification.

12:15 Und es wurde ein Fehler einfach ausgenutzt. Es gibt viele Fehler in Software. Und deswegen hatte ich am Anfang ja auch gesagt, Man hätte auch die gleiche Software benutzen können, um diesen Fehler in Artifactory zu finden. Und dann hätte er sich gemeldet und gesagt, hier ist ein Fehler, patch den mal.

12:31 Wäre natürlich ein besseres Auskommen gewesen. Also, es gibt so viele Folgefragen. Ich muss mal gucken, was wir jetzt als erstes besprechen. Also, vielleicht schauen wir nochmal auf dieses Verhalten. Du hast eben schon gesagt, das ist nicht nur ein Agent oder ein AI-System, was sozusagen dort versucht hat, diese Aufgabe zu lösen, sondern es waren ja hunderte von Agents, die sozusagen parallel an dieser Aufgabe gearbeitet haben.

13:02 Es gibt auch Berichte, wie die dann sozusagen, obwohl es eigentlich nicht vorgesehen war, angefangen haben, miteinander zu kommunizieren über so Messageboards, Informationen auszutauschen zwischen den einzelnen Agenten. Und ich glaube, an der Westküste streitet man sich gerade ganz heftig darüber, ob man eigentlich diese Vermenschlichung machen darf oder nicht.

13:27 Also es gibt, Dwarkush Patel hat sich geäußert in einem Blogpost und hat von von Ancient Civilizations gesprochen, und viel Sprache benutzt, die sozusagen klassischerweise für Menschen genutzt werden. Jetzt kann man ja sagen, das kann Fluch und Segen sein. Es kann das vielleicht besser erklären. Es kann aber auch irgendwie dazu führen, dass wir eigentlich technische Probleme so in eine falsche Kategorie einsortieren. Wie blickst du da drauf?

13:58 Ist es okay, Agenten so wie Menschen zu beschreiben? Ist es vielleicht auch schon so ein AGI-Moment für dich, dieser Hugging Face-Institut? Diese Debatte gibt es ja auch wieder nicht seit gestern. Dieses gesamte Thema Anthropomorphism. Es gibt es seit vielen, vielen Jahren und ich bin da sehr auf der Seite von denjenigen, die sagen, dass AI ist eine Technologie.

14:22 AI ist eine sehr, sehr starke, machtvolle Technologie, aber im Endeffekt ist es immer noch eine Technologie. Man kann jetzt mit Philosophen darüber gerne diskutieren, was jetzt eigentlich einen Menschen menschlich macht. Im Endeffekt, was passiert, wenn man ein ein KI-Modell abschaltet, ist, dass ein Server ausgeht oder dass ein Job auf einem Server auf einmal abgeschaltet wird.

14:46 Er merkt nichts, da gibt es keine Schmerzen und da gibt es auch keine Gefühle. Was halt viel passiert ist, gerade in Sprachmodellen, ist, dass die Sprachmodelle ja darauf trainiert sind, sich zu imitieren, wie Leute sich verhalten in einem ähnlichen Modell. The stochastical parrot. So ungefähr, ja. Gerade diese Basismodelle, klar, da gibt es inzwischen noch viele andere Schritte von dem Training, die danach stattfinden.

15:11 Aber diese Basenmodelle sind ja wirklich darauf nur trainiert, zu imitieren, was diese Menschen machen. Und daher sieht es halt sehr menschlich aus. Aber es ist ein Fehler, dann direkt zu sagen, dass die auch denken oder dass die Gefühle haben oder dass sie irgendwie reagieren in einem Sinne, dass das menschlich ist.

15:29 Es ist im Endeffekt immer noch Technologie. Und wenn wir über Agent Swarms reden, dann sind es wirklich Swarms von Computermodellen, die auf irgendwelchen Servern miteinander interagieren und auch irgendwelche Ziele verfolgen. Aber die Ziele wurden von den Menschen gesetzt in dem Fall und die wurden von Menschen gebaut und im Endeffekt kann man sie auch abschalten.

15:51 Da ist nichts Menschliches bei. Das ist im Endeffekt noch Technologie. Das kann ja auch zu völlig falschen Vorstellungen von der Technologie führen, oder? Ja, klar. Deswegen gibt es ja gerade viele Debatten auch, wie sycophantic sollen diese Modelle sein? Sollen sie tatsächlich dann mal sagen, oh, das ist eine großartige Idee, die du da gerade hattest? Sollen sie oder sollen sie einfach reagieren im Sinne von, ja, du hast mich nach X gefragt, hier ist X.

16:19 Und da gibt es natürlich auch sehr starke Reaktionen. Und im Endeffekt muss man natürlich dann immer bedenken, dass was wir bauen, sind ja nicht Modelle. Die Modelle werden in irgendeine Technologie reingebaut. Und diese Technologie ist ein socio-technical Problem. Man muss bedenken, wer sind die Benutzer von dieser Technologie?

16:39 Wie benutzen sie die Technologie? Und wie benutzen sie, was bei der Technologie am Ende rauskommt? Das darf man natürlich nicht vernachlässigen. Gerade bei diesem Thema Sick of Fancy und wie, wird das, was wir jetzt generieren durch diese Modelle, wie beeinflusst das Menschen im Endeffekt, ist natürlich ein riesiges Thema, was wir bedenken müssen, wo es natürlich auch sehr, sehr stark negative Effekte haben können.

17:02 Ja, nichtsdestotrotz ist es natürlich so, man möchte eigentlich nicht, auch wenn es am Ende Technologie ist, dass sie halt Cyberattacken durchführt. Natürlich. Deswegen ist es ja auch umso wichtiger, dass eben diese Modelle, die in solchen Laboren sehr viel dürfen, am Ende in ihren Capabilities ja eingeschränkt werden. Du hast eben schon gesagt, das Wort Alignment, was ja eigentlich, glaube ich, auch diesen Prozess versucht zu beschreiben.

17:30 Und lass uns doch auch noch mal schauen darauf, das war jetzt alles in einem Lab, das war sozusagen, da war alles offen, würde ich jetzt mal so ganz profan sagen. Ich glaube, viele machen sich ja schon Gedanken darüber, was heißt es eigentlich für uns und OpenAI, wenn wir jetzt an ChatGPT denken, kann ChatGPT das auch, kann mir das auch passieren, kann vielleicht auch, wenn ich ChatGPT in einer Firma, im Firmenkontext nutze, da Ähnliches passieren.

18:01 Vielleicht kannst du uns ja noch mal erklären was ist eigentlich anders in so einer lab situation und was ist in so einem consumer, interface eigentlich alles eingebaut um diese agenten zu allein um schutzmechanismen auch darum zu legen ja ich kann, ich kann ein bisschen explizit darüber reden zum beispiel was wir jetzt in unsere, konversations k1 wir haben eine bei bloomberg Die läuft auf dem Bloomberg Terminal selber und, man kann sich am einfachsten vorstellen wie so ein Schweizer Käse.

18:33 Jede einzelne Mitigation auf jedem Level hat verschiedene Probleme, die sie am Ende haben kann. Das heißt man kann nicht darauf sich verlassen, dass das Alignment, was man von den Modellen selber kriegt, von diesen Labs, dass die 100% alles mitigieren zum Endeffekt, eine Sache die nicht so gut kann heute ist wirklich wissen was ist die Regulierung, was sind die Verordnungen in der Finanzbranche, das heißt wir müssen jetzt zusätzlich noch irgendwelche Guardrails bauen, und die Guardrails, die können auf mehreren Devils sein Einmal gibt es natürlich, basismäßig das Alignment, was von den Labs kommt, die Modelle, die man benutzt.

19:16 Die können dann von sich aus ja schon sagen, ich will nicht ABC machen. Dann gibt es ja noch das generelle, dieses System Prompt. Wie benutzt man die jetzt in einem anderen System? Da wird ja eine Firma dann immer eine Prompt hinzuschreiben. Wenn man jetzt einen dieser Consumer Tools benutzt, dann gibt es auch eine System Prompt.

19:36 Die hat zusätzlich dann immer noch andere Regeln, die reingeschrieben werden. Das ist das zweite Level der Mitigation. Dann gibt es das dritte Level der Mitigation, das ist das Scaffolding. Was ist eigentlich in die Software reingebaut selber, die weitere Risiken verhindert. Das heißt, bei uns könnte das sein, dass es ein Guardrail gibt, dass Leute nicht Daten sehen, die sie gar nicht autorisiert sind zu sehen.

20:01 Das heißt, wenn ich jetzt. Wenn ich jetzt keinen Bloomberg Terminal habe, aber in meinem Google Drive oder in meinem, Office oder so bin, wenn ich dann frage, hey, gib mir doch mal dieses Dokument, was ich, was mein Kollege geschrieben hat, was ich aber keinen Zugriff drauf habe, dann sollte das natürlich, nicht von dem LLM selber abgewiesen werden, sondern da muss dann Software hinter stehen, die sagt, ja, nee, du hast gar keinen Zugriff drauf.

20:25 So das ist, was wir so generell Scaffolding nennen. Da gibt es viele andere Autorisierung und Sicherheitsmodelle und Input und Output Sanitization, wo man sagen kann, okay, wenn dein Modell jetzt im Hintergrund irgendeine andere Software, anfragt, dann müssen natürlich da sichergestellt werden, dass der Input und was am Ende wieder rauskommt, nicht welche Risiken.

20:47 Mit sich birgt. Dann gibt es noch Guardrails, das ist wirklich andere Software, andere KI-Modelle, die auf Inputs laufen, auf Outputs laufen, wo wir zum Beispiel, bestimmte bauen für die Finanzbranche, wo wir sagen, wir geben kein Financial Advice, wir geben keine, wenn jemand fragt, soll ich jetzt in Apple investieren, dann sagen wir, sorry, wir geben dir keinen Inweis, ich kann dir gerne analysieren, was jetzt die Pros und Cons sind, aber das ist keine Entscheidung, die wir für dich treffen.

21:15 Sind das sozusagen nochmal LLM-Calls innerhalb der Ausführung der eigentlichen, Aufgabe, die dann getätigt werden? Es könnten LLM-Calls sein, es könnte andere Software sein. Im Endeffekt ist das ja ein Problem, was wir jetzt nicht seit drei Jahren haben, sondern das ist ein Klassifikationsproblem. Und ein Klassifikationsproblem heißt wirklich, du kriegst irgendeinen bestimmten Input.

21:40 Das könnte in dem Fall, was jemand schreibt, sein. Das könnte auch, was das System selber generiert sein. Und man muss dann sagen, triggert das jetzt eine Exception? Ist das jetzt gegen unsere Regeln? Ist das jetzt gegen Regel 1? Ist das gegen Regel 3? Ist das gegen Regel 7? Und wir wissen sehr genau, wie man diese Software heutzutage baut.

22:00 Nell-Lim-Call ist eine von vielen Möglichkeiten, aber es könnte auch andere KI-Modelle sein. Es können sogar Regeln sein, die man runterschreibt, dass bestimmte Worte nicht benutzt werden. Wenn wir zum Beispiel sagen wollen, wir wollen keine Schimpfworte benutzen in unserer KI-Outputs, okay, dann schreiben wir einfach ein Wörterbuch von Schimpfworten rein. Und wenn eins dieser Worte da drin ist, dann können wir das triggern. Das ist keine KI.

22:24 Deswegen in dem Fall sieht es sehr viel mehr aus wie so eine klassische Software. Ja, wahrscheinlich dann auch ein Trade-off von verschiedensten Anforderungen, die ihr dann treffen müsst, auch Latenz. Sozusagen. Das muss ja von der User Experience trotzdem noch schön sein und eben gleichzeitig sicher. Auf jeden Fall, ja.

22:47 Was würdest du sagen, was ist die wichtigste Komponente in diesem gesamten Stack? Was muss sozusagen unbedingt stimmen und passen? Im Endeffekt, wie gesagt, es ist ein socio-technical system. Ja, was am Ende stimmen muss, ist, dass wir nicht das Vertrauen verlieren. Okay, im Endeffekt geht es ja wirklich darum, dass KI, Obwohl es immer noch eine normale Technologie ist, ist es ja eine Technologie, die ist nicht deterministisch.

23:15 Sie kann und sie wird teilweise Fehler generieren. Und das kann davon stimmen, dass jemand das falsch benutzt, absichtlich oder nicht. Es kann davon kommen, dass die KI selber einen Fehler macht. Es kann sein, dass irgendeine Subkomponente einen Fehler macht. Im Endeffekt muss man das System ja so designen, dass die Leute, die das benutzen, immer noch selber schnell überprüfen können, ob etwas richtig ist, dass diese Systeme, in die die Modelle integriert werden müssen, Transparenz bringen.

23:46 Wo jetzt bestimmte Informationen herkommen. Und im Endeffekt geht es wirklich darum, wie kann man etwas bauen, was verlässlich ist, was das Vertrauen beibehält oder über Zeit dann noch das Vertrauen aufbaut, wenn es das wert ist. Und am Ende natürlich auch irgendwie leistungsfähig sein muss und genau meine Probleme am besten ja auch lösen soll. Ja, deswegen, also das Vertrauen, das basiert ja auf vielen, vielen verschiedenen Punkten, das muss natürlich hilfreich sein.

24:12 Ja, wenn es mir jedes Mal was Richtiges sagt, aber nicht die Antwort auf meine Frage wiebt, dann ist es auch kein vertrauensvolles Gerät. Wenn es mir dann aber hilft, irgendwelche Verbrechen zu begehen, dann ist es auch nicht unbedingt vertrauenswürdig auf einem Makro-Level. Wenn es zu langsam ist, dann ist es auch nicht vertrauenswürdig.

24:30 Am Anfang muss man natürlich viele, viele verschiedene Parameter optimieren, wenn man darüber nachdenkt, was ist es jetzt eigentlich, was ich bauen will. Superspannend. Ich muss gerade daran denken, wie quasi die Medienbranche auch Vertrauen als den zentralen Wert für sich definiert. Das ist eine interessante Parallele.

24:46 Ich will auch noch einmal kurz fragen, ein Wort, was natürlich auch gerade überall vorkommt, Agent Harness. Wie würdest du denn sagen, ist das, was du eben beschrieben hast an Systemen, wie steht das zu dem Agent Harness-Konzept? Ist es das Gleiche? Im Endeffekt ist der Harness ja nichts anderes als die Software, in dem das LLM läuft.

25:05 So, oder? Das heißt, es ist genau das Gleiche, es ist nur ein neuer Titel für alles, was wir schon vorher gebaut haben. Ja, habe ich sozusagen ähnlich aufgefasst, aber es freut mich zu hören, dass wir da ähnlich auch drüber denken. Was ich total spannend finde, ist, gerade gestern gesehen, Y Combinator hat, und ich tatsächlich auch eine Woche vorher schon in einem Blogartikel gesagt.

25:32 Wir sehen gerade eine werteverschiebung von modell zu harnis und, also was ich sozusagen auch in meinem blog beschrieben habe ist eigentlich ein bisschen die evolution seit gpt release von einer ära, wo quasi der das model der absolute mode war das absolute differenzierungsmerkmal ich glaube alle haben die ersten ein zwei jahre auf ob mir geschaut und haben gesagt, so GPT-4, das ist sozusagen State of the Art.

26:03 Und du kannst, also du warst bei Google, hast an Power & Power & Power mitgearbeitet. Aus User-Perspektive hat man da sozusagen eine Differenz gespürt. Gleichzeitig sehen wir jetzt, finde ich aus meiner Sicht, 2026, dass das Modell gar nicht mehr, also es ist immer noch wichtig, aber dass die Harness sozusagen einfach doch viel, viel wichtiger wird, Und sei es jetzt als Client auf dem Device, aber auch, dann als System, wenn ich das auch in einem Browser nutze oder woanders.

26:40 Siehst du das ähnlich? Das Agent Harness ist das Wichtige, das Differenzierungsmerkmal jetzt. Wenn wir jetzt wirklich den Harness sehen, also was ist die Technologie, die wir um das Modell rumbauen, dann war das schon immer das Wichtigste im Endeffekt. Wir haben seit 50 Jahren Sprachmodelle. Das Problem war, die waren nicht gut genug, um irgendwelche Probleme zu lösen.

27:03 Die Sprachmodelle, die wir in den 70er, 80er Jahren geschrieben haben, die waren komplett anders als die, die wir heute haben. Wo es dann wirklich jetzt über die letzten zehn Jahre die große Entwicklung gab, ist wirklich, sind die gut genug, um in irgendwelche andere Software eingearbeitet zu werden?

27:20 Ich arbeite seit zehn Jahren an Sprachgenerierung und an Evaluierung von Sprache. Vor zehn Jahren haben wir darüber geredet, generieren die Sprache, die grammatikalisch korrekt ist. Kümmert heute niemanden mehr. Es ist grammatikalisch korrekt. Das heißt, zu dem Zeitpunkt war es dann wirklich wichtig, dass wir bessere Modelle generieren, weil die vorher noch gar nicht kommerziell überhaupt irgendeinen Wert hatten.

27:44 Wenn du im Endeffekt ein Interface hast und das gibt dir was zurück, was du nicht verstehen kannst, weil es nicht grammatikalisch ist, weil es überhaupt keinen Sinn macht, weil es nicht die Anfrage beantwortet, dann ist der Wert null. Und es war vorher null und die nächste Iteration auf dem Modell war auch null.

28:00 Und irgendwann ging es dann halt los, dass man auf einmal den Wert gesehen hat. Das war dann 2022, 2023. Und neue Versionen von den Modellen waren, die Wertsteigerung war größer als das, als der Wert von der Software, die rumrum gebaut wurde. So jetzt, ich glaube, was du jetzt sehr viel beobachtest, ist wirklich, dass da gibt es einen Saturierungseffekt für viele Sachen, die ich heute machen will. E-Mails schreiben, irgendwie Charts generieren, Dashboards bauen, einfache Daten analysieren.

28:30 Die Modelle sind gut genug. Und jetzt kommt es wirklich darauf hinaus, wer baut die beste Software, die beste um das Modell drumherum. Klar, am oberen Ende, ob ich jetzt besser bin in mathematischen Konzepten und so weiter, da macht das Modell noch sehr, sehr viel aus. Aber für den alltäglichen Businessgebrauch ist das Modell im Endeffekt immer mehr eine Commodity.

28:54 Und da geht es wirklich darum, Was wir viel sagen auch ist, dass es darum geht, dass wir die besten Modelle haben mit dem Subject Matter Expertise, wirklich die Probleme lösen, die wir am besten verstehen in der speziellen Branche, in der wir arbeiten und die Daten. Im Endeffekt machen wir immer noch Entscheidungen, treffen wir immer noch auf Daten, die irgendwo leben und die drei zusammen, die machen ja wirklich den Harnes aus. Mhm, mhm.

29:22 Ja, also ich finde es extrem spannend, gerade auch vor dem Hintergrund. Man sieht einerseits die Frontier-Modelle, die auch wirklich beeindruckende Aufgaben lösen können, wie gerade auch im OpenAI-Lab wieder gezeigt wurde. Komplexe mathematische Beweise gelöst wurden, aber auch eben mit Tausenden von Agents parallel.

29:51 Und auf der anderen Seite dann eben aus meiner Sicht. Ist die Task Complexity, also die Schwierigkeit der Aufgaben, die die meisten Unternehmen oder ein großer Teil zumindest der Aufgaben in Unternehmen, schon viel zu einfach geworden für die Frontier-Modell-Models. Ja, insofern die auch überprüfbar sind. Das ist ja der große Unterschied, warum im Endeffekt die auch viele Probleme, alltägliche Probleme für uns nicht lösen können.

30:24 Das korrespondiert ja nicht unbedingt zu, ob es für uns Menschen gleich einfach ist. Das hatte ich ja schon vorher einmal gesagt. Es kommt viel darauf an, wie überprüfbar eine Aufgabe ist. Im Endeffekt vieles von dem Trainingsprozess dieser Modelle geht es darum, dass man irgendwelche Environments bauen kann, wo man am Ende, wo die Modelle irgendwas machen, ob es ein Swarm ist oder ob es ein einfaches Modell ist und so weiter.

30:50 Da gibt es irgendeinen Input, die Modelle machen was und da gibt es ein Output. Wenn man das überprüfen kann, ob es richtig ist, dann kann man das optimieren. Deswegen ist Mathe oder Coding so ein gutes Environment dafür, das weiter und weiter zu optimieren, weil das einfach zu überprüfbar ist. So Proofs, mathematische Proofs kann man nachgucken, ob es da irgendeinen Fehler gibt.

31:10 Code kann man testschreiben, die wir dann überprüfen, ob der Code richtig ist. Aber wenn ich jetzt einen 20-seitigen Report schreiben muss, dann gibt es keinen Code, den ich schreiben kann, der dann sagt, ist dieser Report das 100 Prozent beste, was ich eben hätte machen können. Und da besteht das große Problem, gerade für die Business-Use-Cases.

31:28 Wie baut man jetzt Harnesses und wie optimiert man das dann? Und da ist heutzutage immer noch sehr, sehr viel dieser Subject-Meter-Expertise gebraucht, die man dann in die Harnesses reinbauen muss. Wie schreibt man denn so ein Report? Welche Struktur muss er haben? Wie benutzt man jetzt Bullet-Points oder welchen Sprachstil benutzt man und so weiter? Und das ist kein gelöstes Problem heute.

31:53 Ihr seid ja als Bloomberg, habt ihr sozusagen Subject Matter Expertise, also ihr seid ja sozusagen sehr eng verknüpft mit der Finanzbranche, habt sozusagen viel Erfahrung, habt wahrscheinlich auch Zugang zu sehr wertvollen, Daten, die eben auch relevant sind. Und wie sehr bewertest du diese Lage gerade auch da als eine Chance, sozusagen im KI-Bereich auch nochmal sich ganz anders zu positionieren?

32:25 Klar, das ist etwas, was wir sowieso schon seit vielen, vielen Jahren machen. Ja. Wir sind zwar nicht im Auge der großen Öffentlichkeit einer der großen KI-Player, weil wir auch nicht unbedingt ein Consumer-Produkt bauen, aber für hunderttausende von unseren Kunden machen wir seit fast 20 Jahren KI. Mhm.

32:44 Und die KI, klar, hat sich viel entwickelt. Das war vor 20 Jahren, waren es Modelle, die auf News-Headlines geguckt haben, die gesagt haben, ist es positiv für die Firma oder nicht? Aber wir bauen immer noch sehr, sehr viel, auch agentische KI auf das Terminal jetzt. Wir nutzen sehr, sehr viel KI intern. Wir haben hunderte an Leuten, viele von denen, die auch PhDs und Doktoren in KI haben oder relevanten anderen Fächern, die diese Modelle bauen, die die SubjectMate Expedits richtig reinbauen.

33:13 Und das sind nochmal komplett andere Probleme als die, die man so generell jetzt hört, weil gerade so Fragen wie, wie kann ich von zehntausenden an potenziellen Daten genau die richtigen Datensätze, filtern und reinbauen in meine Modelle? Jetzt Modelle, Finanzmodelle, Vorhersagemodelle. Wie antworte ich auf die Frage, bau mir mal ein Szenario, wie sich die Batterienbranche in Südostasien entwickeln wird für die nächsten 25 Jahre.

33:43 Da gibt es einfach keine Lösung, weil es auch sich in vielen Möglichkeiten entwickeln kann. Und das ist halt, für mich ist es ein unglaublich spannendes Thema, weil es da einfach keine Lösung gibt heutzutage. Und diese Subject Matter Expertise ist sehr, sehr, sehr wichtig, das heutzutage in einem guten Fall immer noch zu lösen.

34:03 Vielleicht, um noch ein Buzzword mit in die Diskussion reinzunehmen. Es gibt ja auch noch den Begriff der SARS-Apocalypse. SARS-Apocalypse, also dem SARS-Sterben, die, glaube ich, auch befeuert wurde durch Vibe-Coding und die Idee, mit AI können wir alle unsere eigene Software schreiben. Nehme ich das so wahr, als würde diese These so ein bisschen, nicht mehr so stark vertreten werden, sondern eigentlich auch ein bisschen eine Umkehr wieder stattfinden hinzu.

34:39 Wir sehen zum Beispiel die Salesforce Reportings, Financial Reportings waren sehr, sehr positiv. Wir sehen sozusagen auch eine Adoption von AI in den SaaS-Applikationen, die eben sagen, wo wir wieder beim Thema sind, Subject Matter Expertise, wir haben das System of Record, wir wissen sozusagen, wie die Prozesse funktionieren.

34:59 Wir können jetzt KI so integrieren, dass es halt für den User da am besten ist. Vielleicht jetzt auch deine eigene Meinung, wie sehr blickst du darauf, dass das vielleicht jetzt eben auch nach einer Ära der sozusagen großen Consumer Apps, von den AI Labs vielleicht auch eine Ära anfangen kann, wo spezialisiertere KI-Applikationen nochmal eine viel größere Rolle spielen? Ja.

35:26 Ich glaube, was wir jetzt viel gesehen haben und wo auch viel das Argument ein bisschen abhanden gekommen ist, Die Applikationen, wo im Endeffekt die Value von dieser Applikation war, dass man irgendwelche Datenbanken gefüllt hat, die sind einfacher nachzubauen und zu kopieren. Aber da, wie du meintest, da, wo auch wirklich Subject-Mate-Expertise hintersteht, die CRMs von der Welt und so weiter, die auch spezifische Daten und Workflows und so kennen, da ist auf jeden Fall sehr, sehr viel Value drin.

35:56 Wo man jetzt natürlich viel Entwicklung sieht, ist gerade die Integration von mehreren von diesen Produkten. Weil im Endeffekt möchte ich nicht jeden Tag 100 verschiedene KI-Produkte benutzen, dann bin ich im gleichen Problem, was ich jetzt schon habe, wo ich zehntausende Funktionen habe, die ich benutzen muss.

36:12 Wo man jetzt viel Entwicklung sieht, ist natürlich diese Interoperability und Interconnectivity von verschiedenen KI-Produkten. Das sieht man jetzt im ersten Schritten, wo wir zum Beispiel jetzt viele von unseren eigenen Funktionen miteinander verbinden, wo von beiden Sekunden, wenn man sich die großen Banken anguckt, die haben historisch jetzt zehn verschiedene Suborganisationen gehabt, die auf einmal viel dichter angebunden werden.

36:37 Jetzt kann man aber ja auch sehen, dass vielleicht ein CRM mit einem anderen internen System verbunden werden kann Und diese Interconnectivity, gerade was die Buzzwords darum sind, der jetzt MCP und Agent to Agent, diese Protokolle. Wie baut man und entwickelt man diese Protokolle, dass die tatsächlich auch miteinander interagieren und richtig sprechen können in einem Weg, dass es auch noch immer noch sicher ist und die gleichen Risiken mitigiert werden.

37:00 Ja, und trotzdem werden sicher Agent Harnesses, also die Systeme sich durchsetzen, Also zumindest aus meiner Sicht, die eben das besonders gut leisten können, wo diese Integration auch sich organisch und natürlich anfühlt. Auf jeden Fall. Im Endeffekt ist die Frage natürlich immer, wo ist tatsächlich die Wertsteigerung, die auch stattfindet durch die KI oder die Software.

37:24 Und wenn die durch einen Agent Harness größer ist als irgendwo anders, dann wird das sich am Ende durchsetzen, wo halt im Endeffekt auch viel dann passiert. Aber die Frage jetzt ist, wo wird die Wertsteigerung stattfinden? Ist es auf dem Subsystem? Ist es auf dem Main-System, was ich jetzt an der Benutze?

37:41 Oder ist es wirklich nur der Aggregator, den ich benutze, der im Endeffekt zehn verschiedene andere Subsysteme dann auswirkt? Was ist deine Meinung oder deine Vermutung? In welche Richtung entwickelt sich das? Im Endeffekt, Subject Matter Expertise und Daten sind immer noch King. Die werden auf jeden Fall immer noch sehr wertvoll sein. Die KI-Modelle, die bringen ihre eigene Value.

38:04 Und wie sich das jetzt entwickelt? Ich bin kein Ökonom. Da ist natürlich sehr viel gerade am Schwanken und hin und her gehen. Aber im Endeffekt, da, wo die Wertsteigerung stattfindet, die werden sich am Ende durchsetzen. Ja, lass uns noch einmal das Blickfeld ein bisschen schwenken. Wir haben jetzt über Sicherheitsmaßnahmen gesprochen, Risiken.

38:30 Es gibt ja noch eine andere Ebene, die Ebene der Regulierung, sozusagen der Regelnverordnung. Du bist ja in den USA sozusagen, da gelten noch mal andere Regeln. Wir in Europa haben jetzt seit einiger Zeit den EU-AI-Act. Glaubst du aus der Sicht Responsible AI, dass Regulierung erst mal prinzipiell notwendig ist und siehst du den EU-AI-Act als ein positives Beispiel?

39:03 Schweres Thema, weil vor allem ist der EUA-Act ist ja sehr allumfassend. Teile vom EUA-Act sind natürlich fantastisch. Einige sind sehr, sehr schwer nachzuvollziehen und auch schwer wirklich zu beweisen, dass man ihm folgt. Und viele Sachen sind auch weiterhin noch unter Entwicklung. Gerade mit dem Omnibus-Paket und dem schrittweisen Rollout und so weiter.

39:28 Wo wir jetzt allerdings sind, wir sind ein weltweites Unternehmen. Das heißt, wir müssen dem EU-Act folgen, genau wie jeder anderen Weltregulierung. Wo wir viele Schwierigkeiten sehen, ist, dass es natürlich in der Finanzbranche sowieso schon viele Regulierungen gibt. Teilweise gibt es Regulierungen, die sagen, dass wir bestimmte Daten behalten müssen.

39:47 Und wenn jetzt aber andere Regulierungen kommen und sagen, ihr dürft die Daten nicht behalten, dann haben wir ein schweres Problem. Und da war auch viel Debatte in den früheren Stufen vom EU-Act. Soll man jetzt explizit sagen, dass Menschenrechtsverletzungen illegal sind. Wo dann das Argument von der EU auch war, sind sie schon.

40:08 Aber natürlich macht es viel Sinn, gerade wenn man jetzt über die Systeme nachdenkt. EU-Eact hat ja mehrere Konzepte. Er hat ein Konzept von den Modellen, die noch nicht reguliert wurden, hat dann aber noch ein Konzept von Systemen und bestimmten Anwendungen von Systemen, der ein höheres Risiko sind, gerade was so angeht, Menschen anzuheuern oder Surveillance und Credit Scoring und so weiter.

40:32 Dies sind natürlich höhere Risiken mit Themen und die müssen definitiv dichter behandelt werden und auch weiterhin reguliert werden. Gibt es irgendwas aus deiner Sicht, wo du wirklich einfach einen Kopf schüttelst, weil du denkst, das ist Quatsch? Es gibt viel. Ich würde jetzt nicht sagen, unbedingt Kopfschütteln.

40:51 Es sind viele, viele Menschen, die auch sehr stark bedenken. Wenn du so eine Sache rauspicken müsstest, wo du denkst, das ist einfach vielleicht auch nicht mehr zeitgemäß. Eine der Sachen, wo wir auch jetzt viel darüber geredet haben, sind ja diese Harnesses. Diese Harnesses einflossen ja viel mehr inzwischen das Verhalten von Modellen als das Modell selber.

41:12 Der UI wurde aber geschrieben in einem Zeitpunkt, wo Agents noch kein Thema waren, Harnesses waren noch kein Thema und die Modelle wurden immer größer. Post-Training war noch kein großes Thema. All diese Schritte beeinflussen viel mehr das Risiko eines Modelles, als wie groß es ist und wie viel Compute es trainiert wurde.

41:31 Modelle werden aber als sehr hohes Risiko eingestuft, basierend auf wie viel Compute Operations benutzt würden, um dieses Modell zu trainieren. Müsste man aus deiner Sicht eigentlich sich heute nochmal neu zusammensetzen und über so eine Regulierung nachdenken? Der ist live. Von daher ist das jetzt zu spät, darüber nachzudenken.

41:50 Aber natürlich ist das ein schwieriges Thema, wo wir jetzt mit arbeiten müssen. Und im Endeffekt müssen wir auch weiterhin darüber nachdenken, wie kann man KI weiterhin so regulieren, um die Residenz wirklich zu mitigieren. Glaubst du, es wird ein US-AI-Act geben? Wird es sicherlich. Was genau der sagen wird, ist unklar.

42:12 Da gibt es ja viele verschiedene Meinungen. Es gibt in den USA auch viel State-Level-Regulierung. Es ist ja nicht, dass die USA ein Land ist und es gibt keine anderen Beeinflussen. Das ist ja genau wie in der EU auch, dass es auch Landesregulierungen gibt, die man beachten muss. Und in der EU haben ja auch Staaten sehr, sehr viel Macht. Und gerade in New York, in Kalifornien, in Illinois, in Colorado gibt es auch schon Landeslevel-KI-Regulierung.

42:37 Gerade was und Kalifornien ist da Vorreiter, was Modellregulierung angeht und New York, was so Anwendungsregulierung angeht, gerade was. In Personalentscheidungen angeht, da hat New York schon sehr, sehr viel gesagt. Die haben jetzt auch gerade vor zwei Wochen gesagt, dass bis zu einem bestimmten Alter kein KI in der Schule benutzt werden darf.

42:58 Auf jeden Fall schon ein Thema, wo es selbst in den USA auch schon sehr viel gibt. Lass uns nochmal von New York und California zu dem deutschen Mittelstand rüberschwenken. Wir haben sozusagen das große Fenster aufgemacht. Wir haben über die Frontier-KI-Entwicklung diskutiert, über den Hugging-Face-Incident bei OpenAI.

43:20 Jetzt lassen wir uns nochmal versuchen, uns hineinzuversetzen in einen deutschen Mittelständler, der auch KI einführen möchte und sich natürlich auch Fragen hinsichtlich Sicherheit und Responsible AI-Use macht. Was würdest du denn Mittelständlern in Deutschland mitgeben? Was ist so das Wichtigste, auf was man achten muss, wenn man KI nutzt?

43:41 Auf jeden fall man muss viel experimentieren ja okay man kann ja auch viel mit nicht sensitiven daten experimentieren man muss natürlich erstmal rausfinden was für eine wertstellung kann ich tatsächlich kriegen ist es das investment wert, grundsätzlich ist meine meinung natürlich ja aber wie ist die wertstellung wie bringe ich es ins unternehmen ist ein ähnliches thema wie digitalisierung Da sind wir auch in Deutschland immer noch mit am Kämpfen in vielen Branchen.

44:09 Und gerade, wenn ich mit großen Banken rede, die sind teilweise immer noch nicht fertig mit ihrer Cloud Migration. So wie kann man denn KI in Unternehmen bringen, wenn man noch nicht in der Cloud ist? Solche Themen sind natürlich sehr, sehr schwierig, gerade für den Mittelstand, wo man eventuell nicht ein großes IT-Unternehmen hat oder eine IT-Abteilung hat, die das auf sich nehmen kann. Von daher viel experimentieren.

44:34 Und klar, es gibt immer noch bestimmte Sicherungen für die Daten und es gibt immer noch bestimmte Sicherungen, wie man das jetzt implementieren kann. Es gibt viele Garantien. Okay, interessant, dass quasi du zu mehr Mut letztendlich auch dann rätst. Würdest du denn sagen, man sollte eher einfach mal Consumer-KI-Systeme nutzen und einführen oder ist es auch wichtig für Unternehmen, selber so KI-Expertise aufzubauen, diese ganzen Themen, über die wir gesprochen haben, auch verstehen zu können?

45:10 Mcp agent to agent harness diese komplexen neuen systeme. Was glaubst du ist der ist der richtige schritt also klar expertise wie man diese modelle baut braucht man eventuell nicht unbedingt das wird sehr sehr stark abstrahiert sowieso, und da gibt es auch unternehmen die einem helfen können bestimmte selber modelle zu bauen, was aber jetzt diese neuen themen angeht mcp agent agent und Connectors und und so weiter.

45:40 Das werden Standard IT Begriffe werden. Das wird eine Erwartung sein in einer IT Organisation, dass man sich damit gut genug auskennt. Genau wie man sich auch damit auskennen sollte, wie man die Administration von anderen Cloud Storage machen sollte. Und, aber diese Themen sind natürlich immer noch in Flux. Wir sind selber am Board von der Gentic AI Foundation.

46:01 Das ist die Organisation, die MCP und Agent2Agent auch selber entwickelt. Und als es eingeführt wurde, hatten die noch nicht mal Authentifikation mit drin. Da hätte man theoretisch einen Connector gehabt von zwei verschiedenen Systemen und in der Mitte gäbe es keine eigene Sicherung. So, da wird immer noch sehr, sehr viel entwickelt. Klar, inzwischen gibt es solche Methoden, aber.

46:24 In der Zukunft wird es auf jeden Fall eine Erwartung werden, dass man sich damit auskennt, wie man Consumer-AI in einem Unternehmen ausrollt. Und natürlich muss man dann zusätzlich auch noch drüber nachdenken, wie gibt man das spezifische Training an, die tatsächlich die KI dann benutzen im täglichen Leben. Okay.

46:44 Sebastian, es hat großen Spaß gemacht, mit dir zu sprechen. Vielen Dank. Ich nehme auf jeden Fall einiges mit. Ich glaube, gerade dein Call nochmal zu sagen, mehr Mut bei der KI-Adoption und auch zu experimentieren, das könnte ich auch nur nochmal unterstreichen. Ich wünsche dir auf jeden Fall weiter viel Erfolg bei Bloomberg und bedanke mich recht herzlich für das tolle Gespräch.

47:06 Vielen Dank. Danke, dass ich hier sein durfte.