(Open)AI goes wild

•
Prof. Dr. Volker Skwarek

•
Monina Schwarz

Was bedeutet der Fall OpenAI / Hugging Face für Praxis und Forschung in der Cybersecurity?

Die Berichterstattung über den vermeintlich unkontrollierten Angriff eines OpenAI-Modells auf die Plattform Hugging Face im Juli 2026 hat weite Kreise gezogen. Wir ordnen im Podcast den Angriff, die Berichterstattung und die Konsequenzen für die IT-Sicherheits-Community ein.

Dabei geht es um die Frage, was bei einer Modellevaluation tatsächlich passiert ist, wie belastbar die öffentlich verfügbaren Informationen sind und was der Vorfall für Verteidiger:innen bedeutet – von automatisiertem Threat Hunting bis zu der Frage, wer eigentlich haftet, wenn ein KI-System selbst zum Angreifer wird.

Website: portal.hoou.dewww.sicherheitsluecke.fm

LinkedIn: linkedin.com/company/die-sicherheitslücke

Mastodon: podcasts.social/@DieSicherheits_luecke

Links zu dieser Folge

Hugging Face: Security Incident Disclosure, Juli 2026 (huggingface.co/blog/security-incident-july-2026)

OpenAI: OpenAI und Hugging Face reagieren gemeinsam auf einen Sicherheitsvorfall bei der Modellevaluation (openai.com/de-DE/index/hugging-face-model-eval…)

ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? (Preprint, PDF) (arxiv.org/pdf/2605.11086)

Cisco Talos: The Hunter’s Paradox – Is it Time to Embrace Automated Threat Hunting? (blog.talosintelligence.com/the-hunters-paradox…)

Europäisches Parlament: Civil Law Rules on Robotics (Legislative Train Schedule) (europarl.europa.eu/legislative-train/theme-are…)

Podcast App Empfehlungen

Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:

Antenna Pod (Android) (antennapod.org)

Pocket Casts (Android & iOS) (pocketcasts.com)

Overcast (iOS) (overcast.fm)

Die Sicherheits_lücke im Netz

Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: sicherheitsluecke.fm

Die Sicherheits_lücke bei Mastodon (podcasts.social/@DieSicherheits_luecke)

Die Sicherheits_lücke bei LinkedIn (linkedin.com/company/die-sicherheitsl%C3%BCcke)

Die Sicherheits_lücke bei Pixelfed (pixelfed.social/i/web/profile/793143942031489365)

Feedback oder Kritik? Wünsche? Schreib uns: portal.hoou.demailto:post@sicherheitsluecke.fm

Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU) (portal.hoou.de).

Monina Schwarz, LSI Bayern

Volker Skwarek an der HAW Hamburg (haw-hamburg.de/hochschule/life-sciences/forsch…)

Produktion und Musik: Christian Friedrich (christianfriedrich.org)

Podcast Design: Anne Vogt (von-vogt.de)

Der Beitrag (Open)AI goes wild (portal.hoou.de/blog/episodes/openai-goes-wild) erschien zuerst auf HOOU (portal.hoou.de).