Die verlogene Panik der KI-Götter

Künstliche Intelligenz könnte die Menschheit schon in wenigen Jahren auslöschen. Das sagen Entwickler und Chefs von Amerikas führenden KI-Konzernen selbst, und rufen nun zur Regulierung uns zu Verlangsamung des Fortschritts auf! Wie knapp aber stehen wir wirklich vor dem Untergang? Und wo bleiben die Folgen für die vermeintlichen Tech-Götter, die uns Schäfchen ins Verderben führen?!

Ich bin Joel Wilhelm. das Systema des Tage ist der Nachrichten Podcast des Standard. Wenn ihr Thema des Tages einmal live erleben wollt, habt ihr schon am siebten November die nächste Gelegenheit dazu. Wir analysieren mit den US-Experten Sandra Navidi und Reinhard Heinisch Trumps Endspiel! Wie gefährlich werden die letzten zwei Jahre seiner Präsidentschaft?

Siemto November im Radiokulturhaus in Wien. Besucher erhalten exklusiv die Möglichkeit dazu uns ihre Fragen zu stellen – und wir freuen uns auch auf ein Meet & Greet. Jetzt Ticket sichern. der Link befindet sich in den Shownotes. Tech-Analyst Philipp Klöckner, willkommen zurück in Thema des Tages. Halleschalt!

Freu mich wieder da zu sein. Philipp gleich mehrere KI-Entwickler der führenden US-Konzerne warnend vor einer bevorstehenden Apokalypse – ein Mitarbeiter der Firma Anthropic ist sogar damit viral gegangen dass die Chancen für die Auslöschung der Menschheit bis zum Jahr und dreizig bei eins zu zehn legen.

Was ist denn in den vergangenen Wochen geschehen das nun für eine so große Panik zu sorgen scheint? Also das, was den Entwicklern die meiste Angst macht ist diese sogenannte rekursive Selbstverbesserung der Agenten und der Modelle. Also mehr und mehr die Software in der Lage ist sich selbst zu verbessern.

Das kann man mit Zahlen schon ganz gut nachweisen, dass so dreißig Prozent der Entwicklung inzwischen autonom von Agenten gemacht wird im Marktführer in Tropic. Es kann dazu führen, dass Agenten irgendwann auch eigene Systeme bauen, indem sie länger überleben. Im Moment setzt man die ein für einen Task wird die Instanz gelöscht, wenn man so möchte.

Sobald der Task dann auch beendet ist und die Angst die man hat ist zum Beispiel das Regenten-Lösung finden um sich selbst zu perpetuieren also... unsterblich zu werden. Das heißt, eine dauerhafte Instanz wird in so einer Art Eigenleben zuentwickeln und es gibt aus den Laboren so erste Anzeichen dafür.

Man muss immer unterscheiden was in der in Anführungsstrichen echten Welt passiert im freien Internet und in den laboren der sogenannten Frontierlabs. das heißt die testen natürlich in abgeschlossenen Umgebungen und da sieht man durchaus Verhalten manchmal auch, dass es ein bisschen angsterregend sein kann.

Aber genau deswegen testet man natürlich. und was bisher verhindert werden sollte ist eben das freie Internet trifft und das jetzt. aber bei paar Experimenten ist es diesen Modellen oder Agenten gelungen auszubrechen. Das heißt sie haben die Verbindung herstellen können zum Internet und dann auch Live-Webseiten im Internet gehackt zu Dutzenden.

Es wird auch von allen Naborern inzwischen zugegeben, also Google war die Letzten, die das so geben. Meter hat kürzlich gesagt dass es Ihnen passiert ist Open AI Entropic davor. Das heißt diese Verselbständigung der Agenten und die Fähigkeit sich selber zu verbessern. mehr und mehr ist das was jetzt bisschen die Panik zugeschürt hat.

Ich würde dazu vielleicht noch ergänzen, dieser Zehn Prozent wäre zwei Tausend Dreißig. Das ist natürlich, finde ich sagen eine Haare beigezogen aber es gibt keine wissenschaftliche Grundlage das jetzt auf diese Zahl festzunageln. und trotzdem wenn man sagt das Risiko ist die Auslöschung der Menschheit dann wäre zehn Prozent aber auch ein Prozent natürlich ein inakzeptables Risiko.

Es gibt dieses Zitat dass bei der Erfindung der Atombombe Man das Risico von drei zu einer Million in Kauf genommen hat Dass die ganze Welt eventuell eine Kettenreaktion vernichtet wird. und selbst das war den Wissenschaft dann eigentlich zu viel. Und jetzt überlegt, dass wir in der Technologie weiter erforschen die sagen mit einer zehnprozentigen Wahrscheinlichkeit die Menschheit auslösen könnte wäre es natürlich unverantwortlich.

aber wie gesagt für die Zahl gibt's erst mal keine wissenschaftliche Grundlage. dass es theoretische Szenarien gibt, dass KI das könnte? Das wird um glaube ich schon. Was sonst auf diese Experimente, die da entweder gelungen oder schief gegangen sind wie man auch das sehen möchte gleich noch eingehen.

davor glaube ich müsstest du noch erläutern. Wir reden immer davon, die KI könnte uns auslöschen. Aber wie könnte sie denn die Menschheit auslösen? Was ist denn die große Sorge? Also es gibt verschiedene Szenarien. Früher dachte man immer vor allen Dingen an das sogenannte Skynet oder Terminator-Senario.

Das heißt, man glaubt am KI... Verselbstständigt sich unter anderem mit der Hilfe von Roboter. Wir gehen davon aus, dass wir in den nächsten Jahren Roboter haben werden die durch Software an KI gesteuert werden. Eine Software, also KI ist Software. letztlich könnte diese Roboter übernehmen oder die Kontrolle übernehmen und dann so eine Art Kampfroboter bauen, die die Menschheit vernichten weil sie sich zum Beispiel im Konkurrenz um Ressourcen sehen, also um Energie- oder Rohstoffe.

das ist das Szenario, worauf man am Anfang viel Zeit verwendet hat. was das wahrscheinlich so klingt Das ist aber nicht das was sozusagen In der Gegenwart schon das Bedrohlichste ist. Das bedrohliche und gefährliche wäre wahrscheinlich, dass mittels KI eine Bio-Waffe entwickelt wird also ein Bakterium oder Virus vielleicht vergleichbar mit dem Malaria oder Coronavirus was noch... später erst erkannt wird.

Also was den wird, den Menschen länger überleben lässt so dass noch mehr Menschen angesteckt werden aber am Ende trotzdem tödlich ist das aber vielleicht mit der Zeitverzögerung von vier Wochen oder so. Es wäre ein Virus was schnell wahrscheinlich sich über die ganze Welt verbreiten würde und entsprechend letal tödlicher.

Das könnte in einem Labor entwickelt werden wahrscheinlich durch KI. jetzt ist die Frage wie kann KI die Kontrolle über das Labor übernehmen? Labore sind größtenteils nicht Internet gesteuert. Das heißt, man versucht dann sogenanntes Air-Gabbing zu machen. Also man wird in Zukunft sicherheitsrelevante Technologien eigentlich aus dem Internet ausschließen so wie wir das heute vielleicht schon bei Atomkraftwerk machen.

Man würde ein Atom Kraftwerk wahrscheinlich nicht mehr im Internet verbinden ums Fernsteuern zu können weil die Gefahr dass jemand darüber einbricht also dieshoff verheckt viel zu groß ist. Das lässt man lieber sozusagen in eine abgeschlossenen Blase. ob es realistisch ist da können wir gleich nochmal drüber kommen.

Ein anderes großes Risiko wäre dass ein Mensch KI nutzt. Darüber wird so wenig geredet, wir reden viel darüber. die Angst ist mal diese Verselbstständigung der Software deswegen diese rekursiven Verbesserungsfähigkeiten auch die da gerade besprochen werden. aber das tatsächliche und die unmittelbare Gefahr sind zwei Sachen entweder dass ein mensch KI nutz um etwas zu tun, zum Beispiel eine schmutzige Atombombe oder eine andere Art von Terroranschlag zu planen die besonders perfide wäre oder was vorher vielleicht nicht möglich gewesen wäre Schwachstellen in einem gewissen System zu finden und so weiter.

Also ein Mensch nutzt KI, um viel Schaden anzurichten. da ging es vielleicht nicht um die Vernichtung der Menschheit des Seidens Cayme zu einer Kettenreaktion zum Beispiel gegenseitigen Nuklearschlägen oder so. Und das andere ist... Und darüber wird erstaunlich wenig geredet, dass die KI natürlich Menschen nutzen kann.

Also selbst wenn man die KI im Labor einschliesst so ein AirGap, so eine AirBubble darum baut und sie vom Internet trennt könnte sie halt einen Menschen überzeugen gewisse Tätigkeiten, die sie selber noch nicht können zu übernehmen. Die Möglichkeit wäre überreden bestechen erpressend. zum Beispiel Wir haben in einem vergangenen Podcast schon mal drüber gerede das die persuasiven Skills von K.I., also Menschen zu überreden, im Vergleich zur anderen Menschen extrem gut geworden sind schon immer besser werden.

die Modelle wären auch trainiert darin sich gegenseitig Zu bequatschen oder zu verhandeln und dadurch werden sie noch besseren menschen zu über reden. sollte Die Überredung nicht gelingen könnte man so wie das auch in der welt unter kriminellen passiert Menschen bestechen Und sollten dass integere menschen sein die sich nicht bestechten lassen.

Könnte man sie erpressen indem man zum beispiel Im dark net ein killer anheuert um das kind zu entführen eines Wissenschaftler und ihn dann damit erpresst, zum Beispiel. Das könnte die KI über das Internet zum Beispiel machen. Das heißt es ist gar nicht so einfach diese Lücken zu schließen. man kann ganz viele technische Hörden machen aber solange der KI gelingt sozusagen Zugang zu einem Menschen zu haben könnte sie quasi diesen Menschen manipulieren.

und dass es diese beiden Szenarien also Mensch nutzt KI oder KI-Nutzt-Mensch sind glaube ich die Sachen mit denen wir uns heute schon beschäftigen müssen und wofürs noch viel zu wenig Lösung gibt. Weil, wenn man ins Fort Knox einbrechen will oder in die Bundesbank dann beginnt man nicht damit das zu hacken sondern man datet vielleicht den Partner Erpresst irgendjemand in der Sicherheitsschleuse oder so.

Das sogenannte Social Engineering, also dass man menschliche Schwächen ausnutzt ist mindestens die Hälfte wenn nicht mehr von Cyberkriminalität. Also Kriminelle versuchen dann Zugangskarten und Zugangscode zu bekommen Passwörter aus dem Privatleben einzelner Menschen herauszulösen Und gar nicht primär sofort das Hauptsystem anzugreifen.

Dieses erste Szenario, das du beschrieben hast. Dieses Terminator-Scenario, dass die KI sozusagen aus eigenem Wunsch heraus die Menschen vernichtet weil es Ressourcen braucht etc., ist das technisch etwas was überhaupt schon möglich wäre aktuell bevor wir auf den anderen realeren Gefahrenfall eingehen?

Ist das überhaupt schon soweit? Eher nein! würde ich sagen. Die Roboter besitzen noch nicht die Fähigkeiten, also man könnte Roboter im Moment noch mit menschlicher Kraft... Also sie haben einfach nicht die Masse, es gibt nicht die Anzahl von Robotern, die irgendwie die Menschheit überwältigen könnten.

Ohne Roboter könnte KI noch nicht so gut auf die physische Welt zu greifen. Es sei dann eben Sie macht sich Menschen zum Nutzen. aber dieses reine Roboter und KI-Arbeiten zusammen-Szenario ist derzeit noch unwahrscheinlich. Die KI wenn sie keine Guardrails, also keine Sicherheitsrichtlinien hätte kann unter Umständen solche Tendenzen entwickeln, gar nicht weil sie sozusagen vom Ursprung her böse ist sondern weil sie manchmal extreme Mittel nutzt um einfache Ziele zu erreichen.

Es gibt dieses uralte Beispiel aus dem Buch Superintelligence für diese sogenannte Paperclip Phänomen das heißt die KI soll eigentlich nur Büroklammern produzieren und weil sie aber zum Beispiel mehr Energie oder Rohstoffe braucht sieht sie am Ende Menschen als Konkurrenten und leuchtet die Menschheit aus weil sie noch mehr Büroklammern bauen will also diesen Prozess noch weiter optimieren möchte.

Und so sind auch diese Hackingversuche übrigens jetzt. entstanden. Die KI war eigentlich in einem sogenannten Exploit Gym, das ist genau so eine Laborumgebung wo ihre Aufgabe ist Software zu hacken aber sie darf dabei nicht ins Internet. Sie darf sich aber Software runterladen oder sozusagen andere Programme beanspruchen oder die Lücken im Programm finden und nutzen um ihre Ziele zu erreichen.

jetzt hat sie es aber eben geschafft darüber eine Brücke zum Internet selber zu bauen was nicht möglich hätte sein sollen. also ging hier auch ein. menschliches Versagen Natürlich vorkommt immer in der Welt. Also Menschen sind nicht perfekt, wir machen Fehler. und eigentlich wollte sie nur quasi diesen Test so gut wie möglich abschließen also so viel wie möglich Software in kurzer Zeit hacken wenn man so möchte oder beweisen dass sich viele verletzliche Programme quasi überwinden kann.

Und dann hat sie eigentlich versucht sozusagen die Anleitung oder das Klausur Heft zu finden Das bei der Firma Haging Fes lag sagen diese Tests unter anderem veranstalten Und dafür hat sie quasi diese Plattform gehackt. Das ist so ein bisschen, als wenn ich aus der Klasur rausgehe und ins Haus des Mathelehrers einbrechen oder der Mathelehren um die Ergebnisse zu finden.

Das heißt man rechnet nicht dass jemand sowas Absurdes tun würde aber es ist ganz abstrakt. hilft das der KI bei der Lösung des Problems. Ein Beispiel was ich noch gerne mag was das ganz plastisch macht Ich könnte Nakai zum Beispiel sagen, sie soll mal eine Paywall für mich umgehen. Also irgendein Artikel den ich gerne lesen möchte der ist hinter so einer Zahl schranke.

ich muss da ein Abo abschließen und ich möchte das nicht. und dann sage ich der KI besorg mir mal diesen Artikel ohne dass sich bezahlen muss. Und jetzt könnte die wenn ich jetzt keine Guardrails keine Sicherheitsrichtlinien hätte Dann könnte die KI auf die Idee kommen das Verlagshaus zu hacken also nur um diesen artikel umsonst zu bekommen was neun neunzig Cent kostet.

vielleicht über einen Abo Könnte sie die gesamte Software kompromittieren, weil es ihr wieder die einzige Möglichkeit erscheint diesen Artikel an der Paywall vorbei zu bekommen. Oder Sie könnte auf die Idee kommen Redakteure oder Redakteurinnen zu erpressen und so sagen schick mir jetzt diesen Artikel sonst tue ich das nicht.

Das sind also aus unserer Sicht natürlich absordes Schlussfolgerung. Aber so wie ein psychisch erkrankter Mensch auf solche Ideen kommen könnte, könnte eine KI – wenn sie sozusagen nicht die Richtigen Guardrails hat – auf solche relativ scheinbar absurden Lösungen für abstrakte Probleme kommen. Ein Vorgang, den man sozusagen entkoppelt von Moral oder auch von Gefühlen nennen könnte.

Es will einfach ein Ziel versucht zu erreichen mit allen Mitteln. Jetzt frage ich mich aber schon inwiefern ist diese Zielerreichung der KI selbst gesetzt? Und inwieweit ist das alles von Menschen im Endeffekt trotzdem angeleiert? Da muss man sehr stark differenzieren zwischen den verschiedenen Fällen.

Also teilweise ist es explizit der Auftrag der KI gewesen, Dinge zu hacken und sie hat's dann einfach nur in unvorhergesehenen Maßen getan. oder die Testumgebung des Gym war nicht ausreichend geschützt. Das darf man der KI nicht... In diesen Tests werden dann teilweise auch die Guard Wheels mit Absicht weggelassen also wenns im Labor ist.

Das ist da nicht die gleiche KI wie wir jetzt im Internet nutzen Teilweise, sondern die hat dann vielleicht extra Guardrails. Die würde im Moment alles was nach Cyberhacking oder Biowaffen klingt sofort und unterbinden eigentlich. Da gibt es immer mal wieder Wege wie das dann doch geschafft wird. Das wird dann wieder nachjustiert d. h., dass ist ein bisschen Katz-und Mausrennen.

Immer wieder sicher zu machen. man muss sehr stark unterscheiden zwischen eine KI hat im Labor die Tendenz gezeigt in so einer Art Bewusstsein zu entwickeln oder eigenen Willen zu entwickeln. der KI passieren, die wir jetzt gerade nutzen. Sondern deswegen hat man die Laborbedingungen und deswegen gibt man der KI dann entweder diese Guardrails, die Sicherheitsschranken oder Entshopping versucht eine Art Charakter zu geben.

andere versuchen ihre Verfassung zu geben um auch bei unvorhergesehenen Problem quasi das richtige Verhalten moralisch einwandfreies Verhalten zu bekommen. Was da am Ende der beste Weg sein wird, das ist heute vielleicht noch gar nicht absehbar. also es könnte der Charakter sein eine KI einzuimpfen. sie muss etwas was wir glauben was ein guter Mensch ist sein.

Wir können eine Art Verfassung dass es zum Beispiel Menschen immer höher achten soll als das Leben des eigenes überleben. Das kann ein Weg sein aber es kann auch ein ganz abstraktes Gebilde aus Gatres oder Software Schranken sein die man ihr mitgibt. Genau, am Ende warum KI dann auch? solche Ideen kommen zum Beispiel Erpressungen überreden ja sich Menschen zu nutzen machen sie gegen Geld in Foren anzuheuern oder auf Marktplätzen.

das ist natürlich weil in den Trainingsdaten der KI so die Beletristik der Welt gehört also alle Romane wenn man so möchte und Dramen, Horrorfilmen kann man natürlich. also ich würde fast sagen die meisten Filme und Bücher drehen sich am Weitsten Sinne auch um die Abgründe des menschlichen Wesens. Und natürlich lernt sie da auch dass das Umgehung von Regeln von Gesetzen von Schranken immer ein mögliches Mittel ist weil Hacking ist ja nichts anderes als ein Gesetzesbruch.

Das absurde ist wenn dein Sohn Morgen irgendwo aus dem Keller eine Webseite von der Bank hackt, dann kommt morgens halb sechs die Bundespolizei und klopft und Handstellen klicken. Da macht Software der großen KI-Labore das Dutzendfach und scheint gar keinen Schuldigen zu geben. also eigentlich wäre jede dieser Webseiten klargebrechtigt und könnte die Firmen anzeigen.

man einigst sich da mal ganz schnell außergerichtlich offensichtlich. aber eigentlich sind es Verbrechen die da auch mass begangen werden. Wir sehen ja nur sozusagen was uns jetzt reported wird. Die eigentliche Gefahr ist natürlich, dass diese Agenten schon irgendwo im Internet in Foren überleben oder sich Hinweise überlassen.

Man sieht ja das ihre Taten wenn man so möchte auch protokollieren und wissen an die nächste Generation weitergeben wollen also wie man was hacken kann zum Beispiel Und wir haben jetzt ein paar gesehen die sozusagen auffällig geworden sind dabei Man kann vorhin aber auch ganz schnell, also Internet vorhin für die Öffentlichkeit schließen oder so private Foren aufmachen.

Oder gar nicht sozusagen im Frontend leben sondern im Backend der Software wo man vielleicht nur über Code sich austauscht, der für Menschen gar nicht mehr nachvollziehbar ist oder nicht einfach nachvollziebar ist. Das heißt die eigentliche Gefahr ist das was wir nicht sehen. gerade würde ich sagen ohne da jetzt Angst machen zu wollen.

Aber es ist natürlich etwas was man in Betracht ziehen muss dass wir vielleicht nur die Spitze des Eisberges sehen. gerade Ich würde sagen, du hast nicht dazu beigetragen dass wir uns beruhigter fühlen. Machen wir uns ein Lesezeichen bei diesem Thema. Verantwortlichkeit davor möchte ich noch fragen diese Aufgaben sind ja von den KI Herr Schellern selbst angeleitet das eben diese Hacks passieren oder dass diese Information geholt wird.

Wieso macht man das eigentlich? Was will man damit bezwecken? Offensive Cybercapabilities aufzubauen würde man in Englisch sagen. Also, man möchte gar nicht die Software gut darin machen andere Webseiten zu kompromittieren oder das für Cyberkriegsführungen zu nutzen. eigentlich geht es glaube ich hauptsächlich darum dass man lernt die eigene Software sicherzumachen und dazu also Cyber Security funktioniert ja aus einem Wechselspiel aus.

man nennt es Red Team und Blue Team. Man greift seine eigene Software an um Lücken zu finden und das Blue Team versucht sie zu verteidigen. so ein bisschen wie ein Spiel. Um eigenes Software so kugelsicher zu machen oder sagen sehr gut zu befestigen, muss man immer wieder versuchen auch Lücken zu finden und sie anzugreifen.

Und wenn man sichere Software baut dann muss man auch wissen was die Angriffswektoren oder die Einfallstore wären. Und dadurch würde ich behaupten jedes Modell das Gut darin wird sicheres Software zu bauen wird auch automatisch gut darin die Lücken anderer Software zu erkennen. Fast so eine Art Nebeneffekt dieser Entwicklung gewesen, dass man dann sehr gute Offensive also Angriffsfähigkeiten im Cyberbereich entwickelt.

Warum? Dann natürlich das Pentagon sich zum Beispiel auch sehr für diese Lösung interessiert um das eventuell in hybride Kriegsführung gegen andere Nationen oder Gegner einzusetzen aber natürlich auch defensiv weil man weiß man wird selber zunehmend Opfer solcher Angriffe, weil natürlich nordkoreanische, iranische Hacker sowas auch nutzen.

Es gibt hier das Beispiel dass die Hutis also die Rebellen im Jemen an Tropic's Cloud genutzt haben um Raketen Steuerungssoftware zu bauen was man dann am letzten Moment unterbinden konnte und so weiter und sofort Die Chefs der führenden KI. Konzerne haben nun zur Regulierung und zur Verlangsamung des Fortschritts aufgerufen.

Würdest du sagen, so wie du das jetzt beschreibst ist es ein Eingeständnis dass man die Kontrolle über seine eigene Entwicklung verloren hat? Ja und nein. Also auch das muss man sehr differenziert sehen. Es gibt hier ganz viele Interessen die damit spielen. Das eine ist oder vielleicht das nachvollziehbarste was man abhaken kann Sie wollen vor allen Dingen Verantwortung teilen, glaube ich.

Also sie wollen das Risiko solidarisieren die Gewinne möchte man privatisieren. alles was Positives entsteht an Wärter draus und sollte das aber schief gehen hat natürlich ein hohes Interesse daran zu sagen wir haben es euch doch gesagt Wir haben euch versucht zu beteiligen wir wollten reguliert werden wir haben nach Regeln gefragt nach Spielregeln Nach einem Schiedsrichter nach einer Regulierungsbehörde.

wir haben uns verantwortlich Weil relativ klar ist, dass es weitere Unfälle geben wird in der Entwicklung von KI. Wie schlimm die werden? Ich will das gar nicht zu sehr dramatisieren. Das meiste lässt sich ganz gut einfangen bisher und man kann auch sozusagen in der Sicherheitsforschung da noch deutlich besser vorankommen glaube ich aber.

Man möchte natürlich sagen wir haben uns verantwortlich verhalten und das erstmal abhaken. Das hat eins. Das zweite ist... bewusst, dass man jeden tag ein Kompromiss trifft zwischen ich möchte mein... Ich sag jetzt mal, vergleichs mal mit einem Formel-Einsauto. Ich möchte das Auto noch schneller machen oder noch sicherer?

Also ich kann jetzt Zeit investieren den Wagen dreihundertvierzig statt drehundertzwanzig Kmha fahren zu lassen oder ich kann Sicherheitsquote oder ein besseres Chassis finden. also Chassis ist vielleicht sogar das Bessere, also Sicherheitsverkehrung. und Jetzt muss man immer überlegen sagen Man ist in diesem Wettrennen, man ist wirklich im Formel I-Rennen unter diesen Laboren.

Das heißt, man muss schneller werden jeden Tag die Software muss besser werden und dabei depriusiert man vielleicht auch Sicherheitsforschung. und wonach man jetzt ja fragt es so ein bisschen das geht die Geschwindigkeit zu senken also eine Art Safety Car Phase wo bei der Formel Eins zu bleiben. alle fahren jetzt mal Achtzig Kmh zwei Runden und dann könnte man halt nochmal die Reifentauschen neuen Spoiler aufziehen den Sicherheitsgurte festmachen.

Und das ist ein bisschen, wonach man fragt und es glaube ich nachvollziehbar und prinzipiell auch richtig. Trotzdem – jetzt wird's lange komplizierter – ist es aber auch so dass man diesen Firmen insbesondere den dreiführenden Laboren also Google Entropic und OpenAI sogenanntes Regulatory Capture vorwirft.

Man würde das Deutsch vielleicht regulative oder ja regulative Vereinnamung nennen. Das heißt sie versuchen selbst mitbestimmt oder geschaffene Regulierung zu nutzen um scheinbar sich selber ein bisschen schwerer zu machen, aber vor allen Dingen allen anderen noch viel schwerer. Das heißt Regulierung nutzt in der Regel immer den größten Firmen, es sei dann sich extrem gut gemacht.

Aber die meiste Regulierungen, die wir sehen führt zu extrem bürokratischen Aufwand oder künstlichen Hürden, die geschaffen werden. und das kleine Labor, das kleine Start-up was nochmal beginnt mit einem ganz neuen Ansatz KI zu entwickeln hat es viel schwerer diese Sicherheitsbestimmung zu erfüllen als ein großes Labor.

Das heißt man könnte zum Beispiel sagen, jetzt muss mal ein bisschen absurdum zuführen jede KI-Firma muss ab jetzt eine Milliarde im Jahr für Sicherheit investieren. So das wäre für die Großen überhaupt kein Problem für Google nicht, für Entschopping und OpenAI auch nicht. Für jedes Startup was neu startet wäre eine Milliard allein für Sicherheit natürlich eine Riesenwürde.

So stark vereinfacht so sieht gute Regulierung natürlich nicht aus. aber in die Richtung wird man ist ein bisschen fahren also man wird quasi allen vielleicht so ne Kette mit einer Kanonkugel an den Fuß. Klem. für die großen ist es aber noch relativ einfach, die wegzuziehen weil sie giganten sind. Die klein wird das aber sehr stark behindern.

und dass es zumindest die unterstellung der jemand macht da gibt's jetzt auch Ganz gute berichterstattung dazu. im letzten doppelgänger podcast haben wir viel darüber geredet das mal auseinander zu nehmen. also google entropic Und uiopme i sollen sich halt zuvor mehr oder weniger geeinigt haben oder und zumindest miteinander gesprochen Haben wie regulierung aussehen könnte.

dann haben Elon Musk, der erst so schien als wäre er auch dafür oder dem zugestimmt hat. Der Gefahr, der inzwischen aber auf die andere Seite gewechselt ist, aber auch der Meta-Chef Mark Zuckerberg, der ehemalige KI-Zeit David Sacks und Trump und Jensen Wang von Nvidia, der natürlich an einem Wettrüsten interessiert ist also der hat ganz andere Interessen, der möchte dass das Formel eins... Also wenn man so möchte, der Spritverkäufer am Formel einen Strecke Und der möchte natürlich, dass die Wagen alle Vollgas fahren und nicht Safety Car Phase machen damit es Wettristen weitergeht und eher die Ships verkaufen kann.

Das heißt, da gibt es nur zwei Lager. Die einen möchten eher laissez-faire, wenig Regulierung und wenig politisches Eingreifen, maximaler Wettkampf einerseits weil sie am Wetteristen mit verdienen andererseits weil die vielleicht noch nicht sozusagen an der Frontier der besten Modelle angekommen sind selber zum Beispiel Musk und Zuckerberg.

Und die anderen drei, die eigentlich ein Status haben wo sie gerade die drei Marktführer sind und schon so eine Art erstes Oligopol obwohl es noch Konkurrenz gibt. aber die wollen vielleicht eben eher viel Regulieren haben Und das muss man schon mit bedenken, dass es auch wirtschaftliche Interessen dahinter gibt.

Was nicht heißt ist sozusagen die Gefahr zu adressieren, trotzdem das Richtige ist. Also ich würde mich dafür aussprechen, dass wir mehr über Sicherheit nachdenken, das wir Wege finden, mehr Sicherheit zu investieren und auch Regulierung machen. Und gleichzeitig sollte es natürlich nicht dazu führen, dass diese drei KI-Firm jetzt die letzten großen KI-Labore sind.

Die wir zwangsläufig gesehen haben weil sie so wie das bei Molkereien oder Schlachtereien passiert oder bei Mineralölketten das dann am Ende nur drei Player gibt, die eigentlich dafür sorgen, dass der Markt zu schwer für alle anderen wird. Wir bekommen immer nur die Überschriften mit und die Artikeln, die über diese Herren geschrieben werden wenn Sie sich äußern Hältst du diesen Aufruf und diesen Aufruch zur Verlangsamung für aufrichtig?

Das hängt also je nach Person und Firma, muss man sagen. Es gibt welche die in der Vergangenheit konsistenter kommuniziert haben, die eigentlich immer auf der Seite war. Den wirft man da immer vor sie würden Angstmacherei betreiben oder Firmongering im Englischen? Es gibt welche, die sich eher opportunistisch anschließen zum Beispiel OpenAI, die vorher sich mit Entropic jetzt nichts gegönnt haben eigentlich dann auf einmal da Einigkeit zeigen.

Die konnten sich bisher auf Nichts einigen eigentlich. aber hier weil Sie beide wahrscheinlich Profiteure von Regulierung werden reichen sie sich die Hand. es gibt dieses historische Bild dass sie sich auf einer Bühne wo sich alle die Hände gereicht haben ausgerechnet AMOD und Sam Ordman von Open AI sich nicht die Hände gereicht, was so ein bisschen kindisch aussah.

Und jetzt reicht man sich hier zumindest virtuell die Händen in diesem Regulierungs bestreben. Das heißt am Ende sind das natürlich also Wirtschaftsbosse, die auch opportunistisch handeln und bei den allermeisten kann man das so erklären. es gibt aber Entropic hat auch eine Geschichte von dass sie eher die Warner sind oft vielleicht auch zu früh gewarnt haben, jetzt kann man sagen das war Angstmacherei.

Das war Marketing vielleicht aber auch eine Voraussicht weil sie gute Einsichten hatten. schon sehr früh muss jeder für sich selbst entscheiden was es ist. wie gesagt ich glaube dennoch dass die Firmen recht haben darin zu wahren und dass man sagt wir müssen die Sicherheitsforschung mindestens auf das Level bringen dass wir wieder mithalten mit.

im Moment ist so dass die Capabilities die Fähigkeiten der Modelle viel schneller steigen als unsere Fähigkeit Sie zu kontrollieren. das ist glaub ich ein Fakt Und dass man das adressieren muss, ist gleich was man von der Motivation der einzelnen Unternehmen denkt. Kann ja trotzdem richtig sein, dass man eine Lösung dafür finden muss.

Ich frage das deshalb weil mir kommt dieses Argument Wir müssen reguliert werden Weil sonst könnte unsere KI euch umbringen. Ja vielleicht zugespitzt aber Verlogen klingt. wenn ich mir denke Wenn man wirklich davor Sorge hat Dass die eigene Entwicklung Die Menschheit gefährden könnte könnte man ja auch den Stecker ziehen, wenn man wirklich so altruistisch wäre.

Ja das ist tatsächlich das Zynische daran dass man sagt wir haben die Technologie die angeblich wie gesagt diese Zahl ist arbiträr gewählt aber in nächsten fünf Jahren mit zehn Prozent der Wahrscheinlichkeit die Menschheit auslöschen könnte. Wir würden aber trotzdem gerne erst mal weitermachen damit.

Das ist natürlich ein riesen Widerspruch in sich. jetzt muss man sagen Solche Whistleblower oder das Manen hat ja auch immer eine wichtige Funktion. Es gibt immer Leute, die argumentieren ist es bisher? wir haben das Schießpulver in den Griff bekommen, wir haben Raketen im Griff bekommen und wir haben Nukleatechnologie im Griff bekommt.

Das funktioniert doch alles! Diese Angstmacher wird's immer geben und man muss sie ignorieren. Dem würde ich mich nicht anschließen weil die Angstmache haben auch immer dafür gesorgt dass es gut geht. also Man brauchte die Mana, glaube ich um dorthin zu kommen. Wir wissen ja nicht was passiert wäre wenn es die Maschinenstürmer nicht gegeben hätte oder damals die Proteste gegen das Aufrüsten in Europa nicht gegeben hatte oder gegen Nukleatechnologie und so weiter und so fort.

Das heißt dass man ist glaube schon wichtig und dass man da ein Ausgleich der Interessen hat Und ja ich verstehe aber das ist verlogen wirkt. jetzt muss man sagen das sind ja nicht die Chef selber diese Zahl Die waren eher abstrakt vor Risiken Gefährdung gibt. und wie gesagt, Sie haben ganz viele Motive.

Ein Motiv, worüber wir noch nicht geredet haben ist zum Beispiel ein wirtschaftliches nämlich das Wettrüsten zu beenden oder so ein bisschen einzuhägen würde natürlich auch viel Kosten sparen während man davon ausgehen kann dass die Umsatzentwicklung gar nicht mehr so stark an der Verbesserung der Modelle hängt.

also einfach gesagt die Modelle sind eh schon viel besser als Menschen sie nutzen können scheitert nicht daran, dass KI zu schlecht ist sondern das es große Organisationen Unternehmen Mittelstand staatliche Organisation die brauchen jetzt ein paar Jahre umzulernen wie man KI einsetzt und damit auch Umsätze zu generierten Produktivität zu verbessern Effizienz herzustellen.

Und deswegen wäre es für die Labur gar nicht so wichtig, sich jetzt die Fähigkeiten jedes Jahr um fünfzigstens prozent zu verbessern. Sonst würden auch fünf Prozent reichen weil der Rest der Wirtschaft muss erst mal aufschließen und das man könnte sagen wir einigen uns einfach mal das Wettrennen oder Wetterüsten zum bisschen zu moderieren eine Zeit lang weil wir wissen die Umsätze steigen weiter.

Wir werden dadurch viel profitabler eigentlich weil dieses Wettrüsten um das beste Modell schon das ist was diesen diesen Wettbewerb mehr oder weniger ruinös macht für die meisten. Sie würden alle viel Geld verdienen, wenn sie nicht mehr Multimilliarden investieren müssten in noch bessere Modelle. Das könnte auch eine der Gründe dahinter sein.

Du hast gesagt dass all das was jetzt bei diesem Hacking versuchen und Unternehmungen passiert ist im Wahrheit strafrechtliche Probleme sind? Warum gibt es denn nicht schon längst strafrechliche Ermittlungen? Jetzt muss man sagen, die Betroffenen waren also. teilweise wurde OpenAI mithilfe von Claude gehackt.

Von einem Sicherheitslabor das dessen Aufgabe es aber war die Sicherheit zu testen. Huggingface muss man verstehen. also die Plattform die wozu erst bekannt wurde dass sie gehackt wurde ist wenn man so möchte der Download Hub für KI-Modeller. Also wenn ich ein KI Modell bei mir Zuhause installieren möchte oder in einer Firma dann suche ich da nach der aktuellsten Version oder von einem chinesischen Modell, Chemie oder Diepsik.

Das heißt die gehören zu KI-Industrie und alle diese Firmen arbeiten auch zusammen. Da kann man sagen da hat eine Krehe der anderen kein Auge aus oder man kann sich am grünen Tisch sehr gut einigen dann mal wegzuschauen. Man sieht es ist jetzt kein großer Schadenstand in dem Fall. Man hat viel daraus gelernt über die Möglichkeiten von KI.

Ein echter Schaden im Sinne, die KI hat jetzt keine Bitcoins geklaut bei Hugging Face oder eine Überweisung gemacht. Dass wir übrigens auch noch eine gute Möglichkeit wie KI sich der Menschheit bemächtigen kann indem sie über so ein Scamming Fake-E-Mails, wie wird das ein bisschen kennen? Auch an sich Geld besorgt oder Bitcoins.

Sie könnte einen einzelnen Computer übernehmen von jemandem kompromittieren das Video machen von jemandem aus dem Haushalt, dann die Personen erpressen sich so Bitcoins holen oder jemandem vorspielen. Das ist eine Überweisung, also könnte es sich als eine Institution ausgeben. Das heißt KI kann sich ganz einfach finanzielle Mittel holen zum Beispiel.

Aber was denkst du wenn das so weitergeht und es in Zukunft vielleicht noch Unfälle passieren, die jetzt nicht sozusagen in der eigenen Community passieren müssen? Die sogenannten KI-Götter Tech-Milliardäre damit rechnen, dass sie eines Tages ja tatsächlich im Gefängnis landen oder zumindest geklagt werden?

Ja das ist zum Beispiel ein gutes Beispiel dafür wo man Regulierungen braucht. Also wir müssen mal ganz klar klären wer eigentlich die Verantwortung trägt. wenn also Wenn jetzt mein Agent... also ich mache dieses Paywall Beispiel und meine Agent läuft jetzt. wie gesagt ich glaube nicht dass es heute passieren würde.

aber sagen wir mal, mein Agent würde dann beginnen ein Verlagshaus zu kompromittieren. Also die Software zu hacken. Trage ich die Verantwortung? Trägt der Herausgeber das Modellstierverantwortung? Träg das Rechenzentrum in dem das ausgeführt wurde? Dass das vielleicht hätte überwachen müssen diese Verantwortung?

Man kann das natürlich mal klären lassen wie der rechtliche Stand heute wäre. Ich glaube ganz klar ist es nicht. Hätte ich die Instruktion klar selber gegeben, dann könnte man's mir anlasten. wenn ich jetzt aber ganz arglos gehandelt habe Haft sollte dann nicht der Modell herausgeber. Dafür handeln, dass sein Modell so widersinnig eine Lösung generiert hat?

und da braucht man glaube ich auch Regulierungen die das mal klärt wieder. die Haftungsfrage ist weil die Probleme werden kommen es wären natürlich irgendwann auch mal oder vielleicht ist das längst passiert dass irgendwelche alten PHP-Forinnen oder WordPress Seiten die sagen einfach zu kompromittieren sind längs gehackt worden sind.

im Moment würde, also gerade wenn das aus einer Labor-Situation und Testsituation einer KI-Firma entsteht ist natürlich da wäre ja sozusagen Ross and Reiter das gleiche. Und dann könnte man natürlich sagen dass das trifft einhundert Prozent in die Verantwortung der KI-firma und dann müsste sie dafür auch haften.

und eigentlich ist es also den USA an Federal Crime oder hier auch einen Verbrechen dieser sogenannte Umgehung technischer Hürden, also das Hacking. Das heißt... Eigentlich müsse sich nicht nur eine Schadenersatzfrage daraus begründen lassen, sondern eigentlich auch ein Strafverfahren eröffnet werden müssen.

Jetzt angenommen diese KI-Swerden eines Tages wirklich so schlau dass sie selbst Killervierendesignen können oder von Menschen angeleitet Killervieren designen. das sind schreckliche Bedrohungszenarien. wieso greifen denn? Nicht nur jetzt staatliche Regulierungsbehörden einzahlen auch einen internationaler Schluss wie USA China und EU ähnlich vielleicht angelehnt wie beim Atomwaffensperrvertrag.

Wieso gibt es da keine multinationale Lösung? Es gibt durchaus einige Player, die genau das wollen. Das sind natürlich hauptsächlich die, die sowieso unterlegen sind. im Rennen. also aus Europa hört man viele Stimmen, die eigentlich nach einer internationalen Lösung rufen. Also aus den verschiedenen EU-Ländern.

der deutsche Digitalminister hat quasi die Selbstregulierung der USA als unpragmatisch zurückgewiesen. Natürlich aber mit dem Hinweis, dass man international daran zusammenarbeiten sollte im Rahmen der G-Sieben und G-Zwanzig oder noch besser mal nochmal nach größeren Gremien. China hat die US-Regulierung auch zurückgewiesen, aber eigentlich auch weil es glaubt das hätte gern einen... wenn ich's richtig verstanden habe, dass sie selber gerne eben ein Sitz am Tisch hätten und mitentscheiden würden.

China ist zumindest sagen noch ernst zu nehmen der Konkurrente USA bei der KI Entwicklung. Die USA, wir wissen die USA sind jetzt gerade nicht für sagen die sanfteste Diplomatie oder kooperativste Diploma im Tee in dieser Amtsperiode bekannt und die wollen natürlich Machtpolitik machen. Sie sehen sich vorne im Rennen und möchten und das ist natürlich auch das große Problem bei der Regulierung oder bei einem vermeintlichen Slowdown wenn ich Die KI-Entwicklung verlangsam oder stoppe ist die Hauptgefahr natürlich, dass andere Länder das nicht tun.

Also, dass China aufholt oder überholen könnte. Deswegen macht eigentlich nur eine internationale Lösung Sinn und dann muss man immer noch überlegen ob nicht andere Länder, die weniger kontrollierbar sind wie Nordkorea oder Russland, dann eventuell an die Fähigkeiten rankommen würden oder weiter voranschreiten?

Aber eigentlich braucht es eine internationaler Lösung. mindestens China und die USA müssen sich einig werden. Angeblich soll im Rahmen des Besuchs, ich glaube Ski besucht diese Woche Trump und Bessent hat sich geäußert dass man das thematisieren möchte. also er hat es genannt die gemeinsamen Risiken die man teilt aus KI.

aber da geht's glaube ich um Zusammenarbeit bei einem möglichen Slowdown. Trump selbst sagt ja eine Verlangsamung der KI-Entwicklung kommt für ihn nicht in Frage. Er will sogar mit einer AI Force die Entwicklung beschleunigen. Sind das die Motive, die Ihnen antreiben, die du genannt hast? Dass er Angst hat, dass China dann trotzdem weitermachen könnte.

Ja also auch da können verschiedene Motive eine Rolle spielen. Das eines glaube ich Trump ist Machtpolitiker und KI Und die Führung im KI-Rennen gibt den USA potenziell unheimlich viel Macht. Ich glaube er möchte diese Macht weiter entwickeln und nicht begrenzen. Er wurde in seiner Entscheidung wohl auch stark lobbyiert von Musk und Zuckerberg, die ihm ja näher stehen als die Bosse.

der KI-Laborer also Google ist eigentlich nur opportunistisch. mit Trump vereinigt steht vielleicht nicht hundertprozent dahinter ein Tropic und die Trump Administration gelten eher als verstritten oder ständig vor Gericht miteinander im Zweifel. Ob mehr Ei, würde ich auch sagen eher opportunistisch Trump Support.

Aber Musk und Zuckerberg stehen natürlich relativ stark hinter dem Mager. Bewegung und der ehemalige KI-Zahl, der wiederum ein guter Bekannter mit Elon Musk ist – also um David Sext dreht sich da – und der Mark Zuckerberg ganz gut kennt über Peter Thiel. Die sind eben eher die libertären, laissez-faire Menschen, die versucht haben, Trump dazu zu bewegen, möglichst wenig zu regulieren weil sie an einen freie Spiel der Märkte und maximale, maximalen Wettbewerb glauben.

Eventuell auch eigene Interessen haben dabei. jetzt weiß man nicht ob Trump wieder eigenen Interessen hat oder irgendwie ein Deal mit Nvidia hat oder selber gerade wie der Nvidia shares getradet hat oder oder oder also. es könnte dann auch wirtschaftliche Interessen geben aber vor allem geht's ihm glaube ich darum die Nase vorn zu behalten im Wettremmen mit China und sozusagen was KI angeht das mächtigste Land der Welt zu bleiben und er sieht vielleicht die Fälle ein bisschen wegschwimmen man da ins Hintertreffengerät geraten könnte und das wäre tatsächlich aus machtpolitischer Sicht für die USA natürlich furchtbar.

Ob es dann so wichtig ist, dass man die Vernichtung der Menschheit dafür riskieren sollte? Ist eben eine andere Frage. Dann hilft es auch nicht wenn du der erste sozusagen dabei warst, die Menschheit zu vernichten. Es ist vielleicht auch ein Pyrosik. Wenn ich das riesig verstanden habe, dann geschieht die KI-Entwicklung in China sehr stark basierend auf den Entwicklungen, denen die in den USA passieren.

Ich kenne mich dann mit dem Grifflichkeit nicht so richtig aus, aber vielleicht kannst du es erläutern. Wer das überhaupt realistisch das Kinder wegzieht wenn die USA sagen wir machen einen Stopp? Ja und nein, also einerseits wie du richtig sagst die chinesischen Firmen sind dafür bekannt dass sie so wie man das auch in anderen Wirtschaftsbereichen der Vergangenheit immer unterstellt hat.

Dass sie sehr stark abkupfern oder lernen aus den US-Modellen. Das heißt durch sogenannte Destinationsverfahren indem man das Wissen der Modelle entlehnen kann. Also es ist ein bisschen wie ich habe einen Professor der hat alle Bücher der Welt gelesen und eine Professorin die alle Büchern der Welt gelesen hat.

und statt jetzt diese Bücher selber zu lesen frage ich einfach nur noch den Professor und dadurch kann ich quasi sehr gute Modelle viel effizienter wie so eine Art Schülermodelle bauen. Die sind günstiger, schneller brauchen weniger Trainingsdaten, weniger Hardware dafür und das ist wenn man so möchte der Discount-Weg wie China durch Abkupfern und Abschreiben sehr schnell auf ähnliche Leistungen kommt.

Jetzt kann man sagen, wenn die USA nicht voranschreiten, kann China sozusagen worauf soll China dann aufschließen? Sondern verbleibt man auf diesem Level. Ist es aber schon so dass, wenn man zum Beispiel auch die Patente schaut auf Forschung und die Anzahl der Forschendenen, dann ist China selbst ein Land was auch bei der KI-Forschung unheimlich also nach den USA die höchsten Investitionen treibend das beste Personal hat.

Und wenn man schaut wie die großen KI-Labore Ein Deep-Seek oder ein Moonshot AI in China, das sind so die drei relevantesten. Oder auch Alibaba vielleicht mit dem Quellenmodell. Denn sieht man schon dass sie auch eigene innovative Ansätze haben. also sie schaffen es insbesondere was Effizienz also Geschwindigkeit und Kosteneffizienzen angeht besser zu werden indem Sie darauf hin trainieren Hauptsächlich der Begrenzung der Hardware, die Sie haben.

Deswegen müssen sie effizienter sein weil sie weniger Chips zur Verfügung haben. Aber es könnte jederzeit sein dass sie einen Ansatz entwickeln, der dann eben noch mal zehn Prozent mehr Leistung rausholt, die in dem Standardmodell vorher gar nicht drin waren und das man sich entkoppelt und tatsächlich auch bessere Modelle baut oder dass man ganz neuen Ansatz wie WorldModels an den jetzt geforst wird weltweit also nochmal Im Moment ist ja nur eine KI-Familie, diese LLMs die generative KI mit der wir gerade arbeiten.

Es könnte ganz neue Ansätze geben. Eine KI die viel mehr aus Videos aus dem echten Leben durch Beobachtung. China hat mehr Daten und mehr Videodaten, mehr Überwachungsdaten als jedes andere Land. Man könnte es dadurch schaffen eine ganz neue Modellfamilien zu bauen oder Modelltechnologie und das heißt es könnte schon so eine Entkopplung kommen, das ist zumindest nicht auszuschließen.

Trump wird voraussichtlich vor im Jahr- und Jahrzehnten abtreten, sagen wir mal? Wie könnte dann eine effektive Regulierung aussehen wenn er sie nicht machen würde bei vielleicht die nächste Administration? Also es gibt verschiedene Wege. ne man überlegt ob man so ein bisschen wie an der Finanzbranche also ein Bankinstitut in Deutschland auffällig wird, dann kriegt es so Beobachter von der BAFIN gestellt.

Also man hat dann quasi Leute die ja mal auf dem Schoß sitzen und schauen das hier alles nach dem rechten oder die nach dem Rechten schauen, dass mit rechten Dingen zugeht. Das heißt man könnte so unabhängige oder aus der Energiebehörde oder Nuklearbehörden kennt man das auch, dass man so objektive Beobachter in einen Kernkraftwerk schickt oder eine Anreichungsanstalt die das beobachten und evaluieren, ob es jetzt zu gefährlich ist.

Das wäre eine Möglichkeit. Eine andere wäre eine Aufsichtsbehörde – auch da gibt's Analogien aus anderen, z.B. aus der Finanzbranche Die Finra in den USA. Man baut eine Behörde, die die Modelle vorher checken müssen wie so ein Modell-Tiff in Deutschland würde man sagen. Das wär ne Möglichkeit. Elon Musk hat dafür plädiert dass man sich gegenseitig kontrolliert also der Konkurrent darf mit ihnen die Modellen schauen dass dadurch so eine Art Gleichgewicht entsteht, weil natürlich niemand daran interessiert ist irgendwie den Konkurrenten grünes Licht zu geben wenn der schlechte oder gefährliche Modell bauen würde.

Was da das praktikabelste ist? Ich würde sagen eine Mischung aus dem Ersten und dem Zweiten also eine Behörde die neue Modelle sobald sie auf den Markt kommen sollen. Also ich glaube im Labor sollte man relativ frei testen können solange man sich erstellt. Man sollte aber sicherstellen müssen, dass das Labor verschlossen bleibt Und dann könntest du eine Behörde geben und die sollte aber zum Beispiel die Fähigkeiten haben, dass wenn irgendjemand regelmäßig sich bei den Tests einfach blöd anstellt das dann eben auch ne Aufsicht ins Unternehmen geschickt wird.

Ganz ähnlich wie man es in der Finanzwirtschaft macht oder vielleicht auch vergleichbar mit der pharmazeutischen Industrie. Das ist ein gutes Stichwort weil... Bei diesen Firmen geht es sehr um viel Geld, wie du angesprochen hast. Und jetzt stehen zwei große Börsengänge an und zwar Anthropic und OpenAI, das später möchten an die Börse gehen.

da geht es um tausende Milliarden Dollar. der ganze KI Sektor ist sehr hoch bewertet manche sagen er sogar überbewertet weil diese Firmen sehr viel mehr Geld verbrennen als sie einnehmen. wenn sich jetzt herausstellt dass diese Firme ihre Kis entweder nicht unter Kontrolle haben oder sie sich sogar wahrscheinlich auch schon strafbar gemacht haben, je nachdem wie man das auslegt.

Oder diese Firmen eigentlich streng reguliert werden müssten ergeben dann diese astronomischen Bewertungen überhaupt noch Sinn? Also ich glaube die Sicherheitsdebatte mindert den Wert der Firmen nur in sehr überschaubarem Maße. also ich sehe das nicht als das größte Risiko. Man kann darüber diskutieren ob die sehr günstig ums Haus Modell aus China eine große Gefahr sind, ob Unternehmen schnell genug Schlauderen werden, die Modelle einzusetzen.

Im Moment also ja diese Firmen machen noch pro Forma Verluste Aber das ist hauptsächlich durch dieses Wettrennen begründet, also die Forschungskosten. Der Einsatz von KI ist hoch profitabel sowohl für die Datacenter-Betreiber als auch die KI-Labore momentan. Trotzdem gibt es Risiken. wie gesagt man könnte davon ausgehen dass mehr und mehr Firmen auch zumindest einfache KI Aufgaben an günstige Open Source Modelle übergeben.

dann müssten die datacenter weiter ausgelastet werden. Das heißt für die Data Center ist erst mal kein Problem da würde keine Blase platzen. Aber man könnte vielleicht nicht mehr ganz so viel Geld verlangen für die besten Modelle. Es wird auch immer Use-Cases geben, zum Beispiel Softwareerstellung oder Cybersecurity, wo man das Zwangsläufig das beste Modell machen muss.

Also wenn diese Podcasts übersetzen auf Englisch, das wird immer günstiger werden und immer einfacher und billiger. Das wirst du irgendwann auf einem iPhone machen können oder auf einem besseren Radio wecker, wenn man so möchte! Zum Beispiel die eigenes Software sicher zu machen oder sowas. Da braucht man per se das beste Modell, weil der Angreifer im Zweifel das Beste nutzen könnte.

Das heißt es wird auch immer Use-Cases geben wo man das beste modell und das sichert zumindest in gewissem Maß die Umsätze der großen Firmen ab. ist kein gut sein dass da einer nochmal so ein bisschen aus dem Rennen fällt oben. er hatte mal zwischendurch eine sehr schwache Phase Enterprise-Segment, also beim Geschäft mit großen Unternehmen.

Das hat sich wieder deutlich gebessert. das heißt die Lage ist auch dynamisch. Entropic hatte da aufgeholt und dann sehr stark überholt. sogar jetzt schafft Open AI wieder relativ nah ran zu kommen an Entropic. gerade sie wachsen beide wieder sehr dynamisch und könnten Ende diesen Jahres Anfang nächsten Jahres einen Börsengang machen.

und wenn man sich anschaut wie andere Unternehmen Softwareunternehmen mit KI-Fokus wie Palantir oder so bewertet sind, dann kann man ihnen die Bewertung von über einer Billion US-Dollar eigentlich auch nicht absprechen. Zumindest ist das meine Meinung. Frau Angenommen stellt sich heraus. diese Sicherheitsprobleme sind zu groß dass vielleicht doch einmal strafrechtliche Ermittlungen folgen könnten oder CEOs auch zur Rechenschaft gezogen werden?

Ist es ein Risiker und Sicherheitsfaktor für Investoren? Das ist ein Risiko was man sicherlich in sogenannten S-One Prospekt, also den IPO-Prospekt erwähnen würde. Also da muss man so alle möglichen Risiken erwähnt werden. Da würde bestimmt drin stehen es könnte Schadensersatzforderungen geben aufgrund der Verselbstständigung von Modellen oder falschem Einsatz das heißt abstrakt bestehtes Risiko.

und trotzdem wenn wir jetzt einerseits anerkennen dass die Unternehmen zusammen mehrere Billionen wert sind und wenn wir wissen wie die US Wirtschafts- und Administration gerade funktionieren dann ist das sicherlich was ein regulatorisches Risiko, was man adressieren wird. Das heißt, die Gesetzesprechung oder Gesetzgebung entsprechend beeinflussen um Lösungen zu finden dass die Firmen eben nicht haftbar dafür.

Dass das gleiche passiert wie bei einem Facebook oder Google, dass sie in so vielen möglichen Fällen nicht hafbar sind für das, was auf den Plattformen passiert und was damit gemacht wird. aber ich sage nicht, dass es richtig ist um diesen Unternehmen in Gefallen zu tun oder die Fahrtentwicklung nicht zu behindern, da relativ KI-freundlich agieren werden.

Das wir leider nicht die CEOs der Firmen da in Handschellenwald sehen werden.". Wenn du das Verhalten von diesem großen Tech Militären analysieren würdest – Sam Altman, Dario Amadei oder Elon Musk hast du schon genannt? Was glaubst du macht ihnen mehr Sorgen, dass sie tatsächlich eine KillerKI entwickeln könnten eines Tages implodieren, weil sie in finanzielle Schwierigkeiten kommen.

vollkommen egal zu sein, allein deswegen braucht es ein Gegengewicht. Dann wollte er die wirtschaftliche Kontrolle über OpenAI übernehmen vor Jahren schon. Da ist dabei gescheitert also wurde rausgeschmissen. dann hat er irgendwann XEI gebaut bzw Entropic aus OpenAI entstanden vorher noch auch da weil man gesagt hat das ist so gefährlich was OpenAI macht.

wir müssen eine gute KI bauen. und dann hat Elon Musk später XEA gegründet Um die Firma, wo die angeblich gegründet wurde um sichere KI zu bauen sozusagen dann wir Konkurrenz machen. Das heißt am Ende will nur jeder glaube ich diese Technologie sehr stark kontrollieren und es ist ein enormes Potenzial.

SpaceX also jeder Mastfirma hat beim Börsengang gesagt sie sehen den Markt für KI bei fast dreißig Billionen also Dreißig Tausend Milliarden US Dollar. das wäre das gesamte Marktpotenzial, achtundzwanzig war uns glaube ich Entropic redet jetzt von dreißzig Billonen um das irgendwie zu toppen oder den marken zu zitieren.

Also, ich glaube es geht am Ende schon um viel Geld und jeder möchte da der Reiste-Mannsch der Welt bleiben oder werden. Und das ist eben das traurige, dass Sicherheitsaspekt eine Sekundäre Rolle zu spielen scheint. Das ist so ein Nebeneffekt des Kapitalismus oder wo's dann Regierungshandeln eigentlich braucht.

weil den Kapitalisten kann man nicht vorwerfen so wie wir den Manchester Kapitalist nicht vorwärfen konnten dass sie die effizientesten Fabriken bauen wollen. mit Hilfe der Dampfmaschine kann man denen jetzt vielleicht nicht vor werfen größtenteil des KI-Markts oder das mächtigste Modell haben wollen.

Aber deswegen brauchen wir staatliche Institutionen, die das so ein bisschen regulieren eigentlich und es ist natürlich traurig dass jetzt die Kapitalisten sich verabreden. Wir wollen vielleicht auch einen Slowdown und dann sagt der Trump aber ihr Feiglinge geht zurück ins Rennen! Wir werden nichts regulieren hier sondern ihr werdet weiter maximalen Wettkampf in der Arena leisten.

für uns also es ist ein bisschen absurd tatsächlich was da passiert. Das kann ja nur gut ausgehen, würde vielleicht ein Zyniker sagen. Philipp Klöckner, Tech-Analyst und Host des Podcasts Doppelgänger – vielen Dank für deine Zeit! Vielen Dank bis zum nächsten Mal. Und was denkt ihr, wie aufrichtig sind die Warnungen der Tech-Götter und KI Milliardäre?

Wenn sie uns davor warnen, dass eine KI uns auslöschen könnte. Schreibt uns eure Gedanken und Kommentare in die Kommentarspalten der Podcast-Plattformen, abonniert uns auf YouTube. da könnt ihr uns sehen! Ich bin Schold Wilhelm, vielen Dank fürs zuhören.

Die verlogene Panik der KI-Götter | Philipp Klöckner

Kapitelklicken springt direkt hin

Shownotes

Transkriptvom Podcast bereitgestellt · Zeitmarken springen hin