Wenn KI-Firmen vor KI warnen

Holt euch Popcorn, die Tech-Welt hat diese Woche mal wieder für hollywoodreife Themen gesorgt. OpenAI, Anthropic, Google und sogar Elon Musk sind sich plötzlich einig: Bei der Entwicklung immer mächtigerer KI-Systeme sollten wir vielleicht mal einen Gang zurückschalten. Es geht angeblich um nichts geringeres als den möglichen Untergang der Menschheit. Aber wie realistisch ist das eigentlich? Wir sprechen über außer Kontrolle geratene KI-Agenten, rekursive Selbstverbesserung, echte IT-Sicherheitsrisiken und darüber, warum es für KI-Unternehmen gar nicht so unpraktisch ist, wenn alle darüber reden, wie unfassbar mächtig ihre Technologie angeblich ist.

• Du magst unseren Podcast und willst uns finanziell unterstützen? Dann abonniere uns bei Steady: steady.page/de/silicon-weekly/about
• Unser Impressum findest du hier: silicon-weekly.de/impressum