Plötzlich wollen alle Regulierung: Was steckt dahinter? (Folge #29)

Torge Achelpöhler: Willkommen zu einer neuen Folge generativ gedacht KI mit Sven und Torg. Heute sprechen wir über was überall in den Medien ist das Thema Regulierung. Da geben wir mal einen Einblick was unsere Position da ist, wie wir das Ganze sehen und beobachten. Und dann haben wir euch ein Update mitgebracht. Was passiert gerade so in Richtung KI Betriebssystem haben wir schon mal eine eigene Folge zugemacht. Da gibt es ein paar neue Entwicklungen, die wir auch am Markt beobachten. Und darüber wollen wir heute sprechen. Wie immer mache ich das natürlich nicht alleine, sondern zusammen mit dem lieben Sven. Hi Sven!

Sven Hofmann: Hallo Torge, ja, herzlich willkommen zu einer neuen Folge mit sicherlich spannenden Themen rund die aktuellsten Entwicklungen im Bereich KI. Da gab es ja deutliche Schlagzeilen in der letzten Woche von den Big Playern am KI-Markt aus den USA, insbesondere vom CEO von Anthropic, von Dario Amodei. Und der hat etwas gepostet zum Thema Sicherheit, Torge, was kannst du dazu sagen?

Torge Achelpöhler: Genau, also Dario Amadei hat in einem Blogbeitrag einen längeren, den er da verfasst hat und die Regierung dazu aufgefordert hat, Regulierungen zu schaffen. Ich glaube, er hat da so einen Vorschlag gemacht, der ging in Richtung, wie das an Finanzmärkten auch läuft, dass es da so eine Aufsichtsbehörde gibt, die dann da entsprechend Dinge mit überprüft und draufschaut. und ja irgendwie sehr wilde woche weil Trump hat dann gepostet dass Für das KI rennen bräuchte man nichts außer ein high IQ präsidenten und den haben sie ja zum glück deswegen ist das alles gar kein thema und wer das KI rennen gewinnt gewinnt alles also der scheint so unterwegs zu sein mit Feuer frei freie Fahrt nach vorne und keine rücksicht auf Verluste und jetzt haben sich ja noch ein paar andere eingereiht und auch regulierung gefordert meta unter anderem den ich das irgendwie nicht so abnehme dass ihr modell nachdem sie es ewig nicht hinbekommen haben vernünftiges modell zu bauen jetzt auf einmal ganz ganz super gefährlich ist und super mächtig

Sven Hofmann: Mhm.

Torge Achelpöhler: ja bei den anderen kann man es schwer einschätzen und ich glaube so insgesamt ist es gerade schwer einzuschätzen wie viel davon so wieder so Fear-Mongering oder Marketing ist und wie viel jetzt wirklich echte Bedenken in Richtung was da jetzt passiert mit der Entwicklung. Wie siehst du das?

Sven Hofmann: Ja, absolut. Ausgangspunkt war ja auch, dass ein Mitarbeiter von Entropic gekündigt hat, weil er die Entwicklung mit seinem Gewissen angeblich nicht mehr vereinbaren konnte und die Entwicklung der KI laut seinen Aussagen wohl so weit fortgeschritten wäre, dass es gefährliches oder ein bedrohliches Szenario kommen würde. Was auffällig war auch bei dem Blogpost, sage ich jetzt mal, von Dario Amodeva. dass mit die größten Wettbewerber, wie du ja schon erwähnt hattest, also Sam Altman von OpenAI und auch Elon Musk von SpaceX relativ kurzfristig nacheinander zugestimmt haben, dem lieben Dario, dass er damit völlig richtig läge, was er ausformuliert und auch dafür wären, praktisch die KI-Entwicklung sozusagen etwas zu verlangsamen, so Slowdown AI war so das Buzzword und Aus der Vergangenheit habe ich auf jeden Fall gelernt, dass Bedenken, Äußerungen oder Warnungen gerade von den Entwicklern selbst sehr oft ein gewisses Marketingkonzept Ich erinnere mich nur daran, dass im Jahr entweder 2018 oder 2019 in einem relativ bekannten Wirtschaftsmagazin ein Bericht drin stand. Da wurde Dario Amodei zitiert und damals war er noch bei OpenAI und die haben an GPT-2 gebaut. Mit den Worten, dieses Modell ist so gefährlich, würde er niemals allgemein den Menschen zugänglich machen. GPT-2 kam nie in die Öffentlichkeit. Also es wurde erst die Version ab 3 dann irgendwann veröffentlicht von OpenAI im Jahr 2022. Das bedeutet, also diese Meldungen gab es schon längst vor dem sogenannten im Moment. Und die Modelle sind natürlich in den letzten 7, 8 Jahren weit, weit, weit mächtiger geworden. Das möchte ich ja gar nicht, gar nicht beschreiten. Nur wir müssen das Ganze natürlich aus der Brille derer sehen. Ich sage immer, man muss die einzige Frage stellen, die sich immer stellt, qui bono? Wer hat etwas davon? Und dann kommt man relativ schnell eigentlich schon zur Antwort, dass die Diskussion im Endeffekt aufrechterhalten soll, werden soll. Wer ist da am mächtigsten? Wow, wir haben das mächtigste Modell. Das ist ein bisschen halt ein Wetter, inzwischen den großen drei oder vier mit Metanoch jetzt wieder Entwicklern gibt.

Torge Achelpöhler: Hm.

Sven Hofmann: Nichtsdestotrotz gibt es in Kalifornien einen Vorstoß tatsächlich, da der Gouverneur Gavin Newsom eine Expertengruppe eingesetzt. Die soll Vorschläge erarbeiten, wie man so einen verpflichtenden Notabschalter, also einen Kill-Switch für KI-Systeme implementieren könnte. Also es gibt da durchaus Bewegungen. Aber auf Bundesstaaten-Ebene muss man sagen. jetzt im Moment speziell nur in Kalifornien erst mal. Also es ist durchaus etwas dran an der ganzen Sache, dass hier die Politik in Bewegung kommt. Bewegung ist aber ein weiterbegriff, ich jetzt sagen. Also das ist das, was ich so aus diesen Debatten mitgenommen habe. Moment, was veröffentlicht ist, glaube ich, ist soweit. nicht gefährlicher als es nicht schon vor einem halben Jahr war, würde ich jetzt fast behaupten. Es kommt nämlich auf den Anwender an, der es anwendet und diese Sachen, da muss man genau abwägen, auch wenn es ein paar Vorfälle gegeben hat, jetzt sowohl bei OpenAI als auch bei Antropik, also auch bei Google habe ich gelesen, wo die Modelle natürlich dann nicht ganz so funktioniert haben, wie sie es hätten sollen, sage ich jetzt mal. Aber das sind jetzt erstmal Einzelfälle. würde ich sagen, ist noch nichts, was jetzt weltbewegend schwierig war und es konnte bis jetzt auch immer gelöst werden. So ist jetzt erstmal meine grobe Anschützung als Außenstehender. Wir sehen ja nicht wirklich nach, was da tatsächlich lief.

Torge Achelpöhler: Ja, auf jeden Fall. Ich sehe das auch so, dass die Entwicklung ja schon so weit fortgeschritten ist, dass

Sven Hofmann: Ja.

Torge Achelpöhler: der Moment ist eigentlich schon durch. ich kann ja die KI-Modelle jetzt schon verwenden, Hackingangriffe zu machen, skaliert irgendwelche Social-Media-Geschichten zu machen, Meinungen zu beeinflussen, was ja auch schon passiert. Und letzten Endes, ich glaube so, was Das Bild in der Öffentlichkeit, was da gezeichnet wird, da kommen irgendwelche Roboter und die bauen sich dann selber Waffen zusammen und dann übernehmen die die Welt. So wird es ja nicht laufen. Also es wird ja so laufen, dass diese KI-Modelle Menschen überzeugen, irgendwelche Sachen zu tun. Und das können sie ja jetzt schon. Und das können sie auch jetzt schon besser als Menschen. Und jetzt hängt es dann im Prinzip davon ab, welcher Mensch sitzt da vor und tut da irgendwelche Dinge. Also ich glaube über diesen Punkt sind wir schon hinaus. Ich finde diese Gemengenlage auch sehr interessant, warum das Thema jetzt so groß gemacht wird. Klar, von außen bis zu Ende kann man es nicht einschätzen. Aber meiner Meinung nach, klar, Regulierung wäre irgendwo gut, vor allem diesem Sicherheitsthema mehr Zeit zu geben, damit das Ganze auch sicher wird, weil das ist ja durchaus möglich. Es wird ja gerade einfach nur nicht gemacht, weil es schnell gehen soll und irgendjemand möchte gewinnen, entweder die USA oder China. Und da jetzt so eine Einigung zu erzielen, dass alle sagen, naja, dann machen wir alle langsamer, ohne im Hintergrund doch noch irgendwie im Pentagon oder sonst wo weiter an irgendwelchen Modellen zu arbeiten, halte ich für unrealistisch. Also ich glaube nicht, dass alle jetzt auf einmal in diesen Zeiten auf Völkerverständigung setzen und sagen jetzt nehmen wir alle bei der Hand und entscheiden gemeinsam für die Menschheit machen wir mal langsamer

Sven Hofmann: Hm?

Torge Achelpöhler: sehe ich gerade nicht kommen auf anderen seite ja wie gesagt wir haben diese status oder dieses level von KI schon erreicht was viel gutes machen kann aber eben auch viel schlechtes und bisher ist das schlechte noch nicht eingetreten deswegen erschließt sich mir noch nicht so ganz warum das thema jetzt so groß gemacht wird Das ist so mein aktueller Stand, würde ich sagen. Und ich bin da vorsichtig skeptisch mit den Akteuren, die da am Werk sind und bestimmte Meinungen vertreten in irgendwelche Richtungen. Genau, das ist so meine aktuelle Einschätzung.

Sven Hofmann: Sehr schön, wunderbar. Vielen Dank, dear Torge. Genau, ich denke, das soll es für dieses Thema gewesen sein. Ich denke, das wird wir in Zukunft noch genauer verfolgen, vor allem, weil in Kürze ja ein Gipfeltreffen zwischen dem chinesischen Präsidenten und dem amerikanischen Präsidenten ansteht und auch dieses Thema wahrscheinlich ganz oben auf der Agenda stehen wird, also im Groben das Thema Künstliche Intelligenz. Und das sind die beiden Länder der Welt, hier AI-Race absolut anführen, ich sagen. Jetzt die USA noch vor China, würde ich jetzt gerade im Moment so einordnen. Jedoch kommt nach diesen beiden Ländern lange erst mal gar nichts in der AI-Race und dann eher die Kleinen und irgendwann vielleicht sogar Europa. Wunderbar. Vielen Dank. Wir haben natürlich aber auch noch andere News mitgebracht. Und zwar hatten wir ja im Podcast immer wieder das Thema des KI-Betriebssystems und warum es doch Sinn macht für KMUs zum Beispiel in Deutschland über ein KI-Betriebshymne nachzudenken. Torge, welche Neuigkeiten

Torge Achelpöhler: Yes.

Sven Hofmann: kannst du denn teilen zum Thema KI-Betriebssystem?

Torge Achelpöhler: Genau, vielleicht nochmal kurz für die, die den Begriff noch nicht gehört haben. KI-Betriebssystem beschreibt im Prinzip einen zentralen Ort, wo man sein Wissen abgelegt hat, sein Wissen verwaltet. Also es geht auch ein Stück weit in Richtung Wissensmanagement. Und dann nutzt man KI-Tools, mit diesem Wissen zu arbeiten und auch dafür zu sorgen, dass dieses Wissen immer mehr wird und immer besser wird. Also man kann sich das so vorstellen, ich habe quasi meine Informationen zu meiner Selbstständigkeit und im Job haben wir auch mittlerweile so System. Da steht einfach drin, was bieten wir an an Produkten? Wie sieht unser Designsystem aus? An welchen Projekten arbeiten wir? Und so weiter und so fort. Und dann kann ich an diesen Projekten arbeiten und tracke meinen Fortschritt. Und dann bekommt das System eben mit einen neuen Meilenstein erreicht im Projekt. Das wird dann automatisch weggespeichert. Und so bekomme ich da dann immer mehr und immer besseren Kontext und bestimmte Dinge mache ich immer wieder. Wir haben ja auch hier rund unseren Podcast viele Sachen, die uns einfach die KI abnimmt. Also im Nachgang eine Thumbnail erstellen, das machen wir nicht selber. Da haben wir eine entsprechenden Skill aufgesetzt, eine Folgenbeschreibung erstellen, die unseren Erwartungen entspricht, macht das KI Modell. Bei mir geht es sogar so weit, dass oder bei uns dann diese Link in Videos, die ich mal so teile, so im Real Format. Das kann auch Claude Code mittlerweile schneiden. Also da geht einfach super viel, was an Aufgabe abgenommen wird. Und je häufiger man das macht und dann auch immer wieder Feedback rein gibt und sagt, ist die Aufgabe jetzt gut gelaufen oder nicht, wird das System über Zeit einfach immer besser. Und ermöglicht hat, dass dieses System funktioniert im Prinzip der Launch von Claude Code in Kombination mit den Opus Modellen Anfang des Jahres. Seitdem nimmt das so richtig Fahrt auf. Und ich war jetzt am Freitag, am Wochenende bei einem KI-Event. Ich bin in der KI Pionierakademie. Und da haben wir das System schon länger auch im Einsatz und besprechen das immer wieder, wie wir es weiterentwickeln. Und sind jetzt hingegangen und haben gesagt, okay, ist irgendwie schön und gut, dass wir diese ganzen Dateien irgendwo liegen haben und in der Oberfläche in Cloud Code, was ja ein Coding Tool ist, damit arbeiten. Aber eigentlich brauchen wir noch so eine visuelle Schicht. Also wir brauchen einen Dashboard. Wir wollen irgendwie sehen, was da drin steht an Informationen und da auch so Zahlen zusammentragen. Und

Sven Hofmann: Mhm.

Torge Achelpöhler: das ist im Prinzip das, woran ich jetzt arbeite, dass ich eine Übersicht über mein gesamtes Business habe, wo alle Zahlen zusammen laufen. Also dann kann ich eben tracken, wie entwickeln sich meine LinkedIn-Follower, YouTube, wie läuft unser Podcast, welche Beiträge laufen gut, wie sieht es mit den Umsätzen aus, was steht an, an offenen Angeboten und so weiter und so fort. Das läuft alles dann irgendwann. Ich bin noch dran, das muss natürlich gebaut werden. Ist aber mittlerweile gut machbar mit verfügbaren Tools, Open Source Tools. Und dann habe ich einfach mein komplettes Business da drin und immer eine Übersicht. und kann super gut reagieren und mir viele Dinge abnehmen lassen. Das ist so der eine Schritt, dass man jetzt sagt, okay, ich baue noch so ein Controlling Layer damit ein. Plus ich habe diese visuelle Schicht und was dann jetzt auch noch als Entwicklung kommen wird, weil die Modelle immer besser werden, so dass das Zielbit ist, dass das Ganze dann auch lokal läuft. Also dass ich nicht mehr auf Cloud Dienste angewiesen bin, sondern bei mir lokal ein modell laufen lassen da laufen die daten durch habe ich das ganze thema datenschutz und sicherheit einfach direkt erschlagen weil alles läuft auf meinem system und das einzige was ich dann brauche ist die verbindung zu anderen systemen mir zahlen zu holen aber die ganze verarbeitung das findet dann alles bei mir auf dem endgerät statt und dann wird es richtig mächtig und dann wird es glaube ich auch noch mal deutlich mehr spaß machen als es jetzt schon macht also ja

Sven Hofmann: Ja, wunderbar. Cool. Ja, vielen Dank dafür. Auf meiner Seite hat sich auch einiges getan. Und zwar geht es insbesondere darüber, was ist denn gerade gefragt. Und beim KDI-Betriebssystem geht es ja eher den ganzheitlichen Ansatz für die Kunden natürlich. Zum einen. Aber welche Use Cases sind denn wirklich gefragt? Und da gibt es natürlich ganz, ganz verschiedene Use Cases, je nach Branche, je nach Unternehmensgröße. und so weiter und so fort. Es kristallisiert sich aber schon heraus, dass ein Thema relativ groß ist im Moment und relativ viel Druck erzeugt in vielen KMUs in Deutschland. Und das ist Thema Wissensmanagement. Und zwar Wissensmanagement, das Wissen der gesamten Unternehmung an einem zentralen zu abzulegen, nicht in so Stilos zu denken und vor allem auch spezialisiertes Fachwissen im Unternehmen zu halten, was derzeit wohl eine sehr große Herausforderung bedeutet für die meisten. Zum einen, das hat mehrere Ursachen. Eine Ursache ist die vielleicht, ja, sagen wir mal, in die Jahre gekommene Organisationsstruktur insgesamt. Das ist ein Punkt. Gerade im deutschen Mittelstand ist das sehr silo-getrieben, Ganze. Was natürlich auch seine Berechtigung hat. Ich möchte das jetzt nicht negativ sagen. Nur der Punkt ist, es wird zu wenig horizontal und eher vertikal gedacht.

Torge Achelpöhler: Hm.

Sven Hofmann: Und so ist es auch mit dem Business Management und einer anderen großen Herausforderung, denen sich kein Unternehmen entziehen kann aktuell in Deutschland, außer es gerade neu gegründet ist, das Thema demografischer Wandel. Und sehr, sehr viele Fachexperten und sehr gut ausgebildete Fachkräfte, die werden in den nächsten, sag ich jetzt mal, drei bis fünf Jahren, nicht fünf bis zehn, da aber auch noch, Unternehmungen verlassen aufgrund von Verrentungen. Und die nehmen natürlich extrem viel Fachwissen und allgemeines Wissen über die Unternehmung mit, über Prozesse, über Kunden, über die Maschinen und so weiter, über Zusammenarbeit, über Netzwerke. Und dieses Wissen ist oft relativ unvollständig in den Unternehmen gespeichert. Es ist aber in den Köpfen der einzelnen Menschen gespeichert. Und die Herausforderung ist einfach, Wissen transparent erst mal aufzunehmen, zu digitalisieren. damit auch kommende Generationen im Unternehmen versorgen zu können, beziehungsweise dass das Unternehmen auch zukunftsfähig bleibt, das Wissen entsprechend weiter zu verarbeiten. Die beste KI-Implementierung wird nicht erfolgreich sein, wenn die Datengrundlage fehlerhaft oder lückenhaft oder einfach gar nicht vorhanden ist. Und da fängt das Ganze ja erstmal an. Und das ist wohl einer der wichtigsten Use Cases. Was ich so gehört habe in den letzten Tagen und Wochen ist, dass der Druck in den Unternehmen ja doch endlich deutlich größer wird, sich mit den Themen wirklich auseinanderzusetzen und sie nicht aussitzen kann, wie es vielleicht auch viele gedacht haben, dass da in irgendeiner Form sozusagen eine Rolle rückwärts kommt oder im Endeffekt einen Hype abflacht. Ja, Hype ist ja immer das, die Medien draus machen, sage ich mal, oder was die eigene Wahrnehmung draus macht. Jedoch bleibt ja nach wie vor Situation so, wir haben die Demografie, haben gleichzeitig aber Elemente, die uns jetzt helfen können, Sachen zu beschleunigen im Bereich von Prozessen und im Bereich von Wissensmanagement und da muss man diese Tools nutzen und genau da liegt das Thema. Wenn man ein einzelnes Tool nutzt, wird es einem wahrscheinlich wenig zum Erfolg bringen, weil man dann wieder in ein einzelnes Silo kommt, deswegen das Ganze sauber auf einem KI-Betriebssystem, auf einem Fundament aufgesetzt. macht für die Unternehmung am meisten Sinn und macht die Unternehmung anschließend natürlich auch zukunftsfähig und zwar leichter

Torge Achelpöhler: Hm.

Sven Hofmann: zukunftsfähig, als es vorher war, wenn man nur irgendwelche einzelnen Tools kauft und dann glaubt, ja wir machen jetzt mal was mit KI. Ich habe ein Abo-Buy, OpenAI oder Anthropic abgeschlossen. Das hat mit KI-Einführung mal gar nichts zu tun, aus meiner Sicht zumindest. Genau, das ist so mein Eindruck der letzten Tage und Wochen.

Torge Achelpöhler: Da würde ich gerne einhaken, weil wir hatten auch

Sven Hofmann: Mhm.

Torge Achelpöhler: ein Kundevent tatsächlich letzte Woche Donnerstag.

Sven Hofmann: Hm?

Torge Achelpöhler: waren so in der Agentur Bestandskunden, die die Plattform nutzen und da hat jemand einen Vortrag gehalten, genau zu dem Thema auch, Wissensmanagement, Kontext organisieren und hat das auch noch mal konkreter gemacht und das habe ich da jetzt auch noch mal mitgenommen, auch für mich. Also wenn ich mein eigenes KI-Betriebssystem verwalte und die Dokumente, die da drin stehen, Informationen, merke ich relativ schnell, wenn Antworten schlechter werden, weil dann weiß ich, ja, irgendwo ist irgendwas nicht up to date und kann das relativ schnell fixen. Das heißt, da bin ich der Owner von diesen Informationen und reagiere auch entsprechend, das up to date zu halten. Wenn wir das aber auf Teams übertragen, dann geht diese Ownership oder dass da jemand verantwortlich ist, schnell verloren. Und das ist im Prinzip der Knackpunkt, das was man irgendwie hinbekommen muss, weil diese Informationen verändern sich ja, was ja gut ist, damit die up to date bleiben. Aber man muss auch ein Sicherheitsmechanismus haben, dass diese Informationen up to date bleiben. Das heißt, wenn man so Kontextstrukturen schafft, braucht es verantwortliche Personen, die sich diese Bereiche dann auch kümmern. Das ist natürlich

Sven Hofmann: Absolut.

Torge Achelpöhler: in einer größeren Organisation schon echt eine große Aufgabe, das aufzusetzen. Aber wenn man anfängt, dieses Wissen aufzubauen, was ich nicht machen würde, ist alles reinschmeißen, ganzen Sharepoint hochladen und fertig. Führt nur zu schlechten Ergebnissen. Sondern man muss sich da leider die Arbeit machen und sagen, was ist denn relevantes Wissen, was da jetzt rein muss? und wer ist dafür zuständig und da muss man sich auch im Team mit auseinandersetzen. Das ist echt ein krasser Prozess, aber da steckt so, so viel Mehrwert dahinter und das ist auch, man muss tatsächlich gar nicht so, also wenn man einfach nur anfängt und mal so die Kerninformationen aus dem Team, aus der Abteilung da zusammenträgt und dann mal mit den KI-Modellen arbeitet und merkt, wie viel besser die Ergebnisse sind. Das motiviert natürlich auch die Leute, wenn die merken, krass, wenn ich das mache, wird es ja viel besser und dann werden die natürlich auch kreativ und sagen, okay, was könnten wir noch machen und welche Infos brauchen wir dafür? Und dann verselbstständigt sich das Ganze irgendwann. Also das ist natürlich Arbeit. Aber das ist, glaube ich, so die nächste Evolutionsstufe. Gibt noch super viele Themen drum herum. Wo liegt das Wissen? Wie bereitet man das auf? Wie gibt man dem KI-Modell Zugriff? sind aber alles lösbare Themen. Also der größte Knackpunkt und gleichzeitig Hebel ist dieses, wie kriege ich das auf eine größere Organisation skaliert. ist so

Sven Hofmann: mhm

Torge Achelpöhler: das, was da, glaube ich, wichtig wird und wo wir auch merken, dass da immer mehr Nachfrage nach ist, dass immer mehr Unternehmen in die Richtung gehen wollen.

Sven Hofmann: Ja, absolut. Ich bin sehr froh darüber, dass die Unternehmen erkannt haben, dass es hier große Bedürfnisse gibt, sich mit den Themen auseinanderzusetzen und auch Bewegung in die Sache kommt jetzt langsam. Ich glaube, es ist genau noch zur richtigen Zeit. Wer dieses Momentum jetzt auch noch verschläft in den nächsten zwölf Monaten, würde ich sagen, für den wird es relativ schwierig, in Zukunft zu bestehen. Das muss man einfach Ich glaube nicht, dass da irgendwie eine Rolle rückwärts kommt und alle wieder arbeiten wie vor 20 Jahren. ist ja schon so, dass die meisten immer noch arbeiten, wie vor 20 Jahren erst dieses Thema aufgelöst werden muss, muss man sagen. Da sind viele dran, das sieht man. Und die werden auch in Zukunft hier mithalten können, sie jetzt die richtigen Schritte gehen. Genau. Ist sehr schön. Ich glaube, da haben wir heute ein gutes Update gefahren, was zum einen die aktuelle ... Berichterstattung über KI betrifft und zum anderen auch, was die aktuelle Nachfrage am Markt zum Thema KI-Implementierung betrifft. ja, somit kommen wir zum Ende unserer Folge heute. Hat mir wieder viel Spaß gemacht, Torge. Und ja, wir würden uns natürlich freuen, wenn ihr ein Like da lasst, auch gerne einen Kommentar, wie ihr die Folge gefunden habt. Und ja, ich freue mich, wenn ihr sie auch weiterempfehlt. Bis zur nächsten Folge. Ciao.

Torge Achelpöhler: Macht's gut, ciao ciao.