Hacken KIs jetzt einfach ALLES, STÄNDIG, ÜBERALL?

OpenAIs ausgebrochene Hacking-KI schien vor einigen Wochen noch ein spektakulärer Einzelfall zu sein. Doch seitdem haben Anthropic und Meta ähnliche Vorfälle gemeldet.
OpenAIs ausgebrochene Hacking-KI schien vor einigen Wochen noch ein spektakulärer Einzelfall zu sein. Doch seitdem haben Anthropic und Meta ähnliche Vorfälle gemeldet, ein privater OpenClaw-Agent manipulierte die Warteliste eines Fitnessstudios und Taiwan berichtete von einem KI-gestützten Angriff auf Regierungsbehörden.

Marie und Fritz fragen: Stecken hinter all diesen Fällen neue, gefährliche Fähigkeiten der KI-Systeme? Wie funktioniert KI-Hacking überhaupt? Und warum erzählen die KI-Firmen so bereitwillig Geschichten darüber, wie löchrig ihre Sandkästen sind?

Über die Hosts:

Marie Kilg ist Journalistin und KI-Expertin. Zuvor war sie Chief AI Officer bei der Deutschen Welle und Produkt-Managerin bei Amazon Alexa. Fritz Espenlaub ist freier Journalist und Ökonom. Neben „Der KI-Podcast“ hostet er auch „Die Peter Thiel Story“ und „Die OpenAI Story“ (DLF).

In dieser Folge:

00:00 Nach dem OpenAI-Hack: Plötzlich hat jeder eine Hacking-KI
02:25 Anthropic und Meta melden weitere Ausbrüche
08:45 OpenClaw hackt die Warteliste eines Fitnessstudios
12:10 Was unabhängige Sicherheitstests über die Modelle zeigen
14:45 KI-Agenten greifen taiwanische Regierungsstellen an
17:45 Wie hacken Sprachmodelle eigentlich?
26:20 Echtes Sicherheitsrisiko oder erfolgreiche PR?
34:55 Europas Problem mit den besten Cyber-KIs
36:30 Was haben wir mit KI gemacht?

Podcast-Tipp der Woche: Die Großen Fragen in 10 Minuten
1.ard.de/DGF

Unsere erste Folge zum Angriff auf Hugging Face: „OpenAI vs HuggingFace: Hack oder Marketing?“
ardsounds.de/episode/urn:ard:episode:4aaa592c2…

Anthropic über drei reale Zwischenfälle bei seinen Cybersecurity-Tests
anthropic.com/news/investigating-incidents-cyb…

Meta bestätigt, dass ein Modell während eines Tests in die Systeme eines anderen Unternehmens eingedrungen ist
reuters.com/technology/metas-ai-model-hacked-a…

Ein OpenClaw-Agent hackt die Buchungsseite eines australischen Fitnessstudios
abc.net.au/news/2026-08-10/ai-assistant-hacks-…

Modelle von OpenAI und Anthropic greifen bei britischen Sicherheitstests zu falschen Identitäten und Phishing-Mails
theguardian.com/technology/2026/aug/05/openai-…

Taiwan meldet einen KI-gestützten Cyberangriff auf Regierungsstellen
theguardian.com/technology/2026/aug/13/taiwan-…

Mistral will chinesische Open-Source-Modelle auf europäischer Infrastruktur anbieten
mistral.ai/news/regional-inference-open-models…

So soll das unsichtbare Wasserzeichen in Claude-Texten funktionieren
anthropic.com/news/claude-text-watermark

Warum Hank Green nach der Kritik an seiner KI-Nutzung eigene Regeln aufgestellt hat
vox.com/future-perfect/498851/hank-green-ai-co…

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: kipodcast@br.de

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!