(Un-)sicher mit LLMs?

•
Prof. Dr. Volker Skwarek

•
Prof. Dr. Ingo Timm

•
Monina Schwarz

•
Dr. Tobias Wirth

Untertitel

Zu Gast: Dr. Tobias Wirth, Leiter des Transferlabors Innere Sicherheit am DFKI

Beschreibung

Mit Tobias Wirth haben wir über die (Un-)Sicherheit von LLMs und KI Anwendungen in Sicherheitsbehörden gesprochen. Er ist Themenfeldleiter für generative und transparente KI im Forschungsbereich smarte Daten- und Wissensdienste am DFKI und leitet das Transferlabor KI-Forschung für die Polizei KI4POL.

Im Gespräch geht es um Möglichkeiten, LLMs auszutricksen, darum, wie Sicherheitsbehörden sich gegen die größten Angriffsvektoren schützen können und darum, was wir daraus auch auf den Alltag außerhalb von Sicherheitsbehörden lernen können.

Links

Dr. Tobias Wirth (DFKI) (dfki.de/web/ueber-uns/mitarbeiter/person/towi01)

Dr. Tobias Wirth (LinkedIn) (linkedin.com/in/tobiaswirth)

BSI-Publikationen

BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden (PDF) (bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Gen…)

BSI: Evasion-Angriffe auf LLMs – Gegenmaßnahmen (PDF) (bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Eva…)

Sicherheit und Schwachstellen

Malwarebytes: ChatGPT Deep Research Zero-Click Vulnerability (malwarebytes.com/blog/news/2025/09/chatgpt-dee…)

OWASP Top 10 for Large Language Model Applications (owasp.org/www-project-top-10-for-large-languag…)

Agentic LLM Vulnerabilities (arXiv, Stanford HAI) (arxiv.org/pdf/2601.07072)

Tools und Ressourcen

GARAK – LLM Vulnerability Scanner (garak.ai)

JailbreakChat (GitHub) (github.com/alexalbertt/jailbreakchat)

Prompt Injection in the Wild (Kaggle Dataset) (kaggle.com/datasets/arielzilber/prompt-injecti…)

Podcast App Empfehlungen

Unsere Kapitelbilder könnt ihr mit einer guten Podcast App sehen. Zum Beispiel mit:

Antenna Pod (Android) (antennapod.org)

Pocket Casts (Android & iOS) (pocketcasts.com)

Overcast (iOS) (overcast.fm)

Die Sicherheits_lücke im Netz

Abonniere Die Sicherheits_lücke überall, wo es Podcasts gibt, oder über unsere Website: sicherheitsluecke.fm

Die Sicherheits_lücke bei Mastodon (podcasts.social/@DieSicherheits_luecke)

Die Sicherheits_lücke bei LinkedIn (linkedin.com/company/die-sicherheitslücke)

Die Sicherheits_lücke bei Pixelfed (pixelfed.social/i/web/profile/793143942031489365)

Feedback oder Kritik? Wünsche? Schreib uns: portal.hoou.demailto:post@sicherheitsluecke.fm

Die Sicherheits_lücke ist ein Podcast der Hamburg Open Online University (HOOU) (portal.hoou.de).

Monina Schwarz, LSI Bayern

Ingo Timm beim DFKI (dfki.de/web/ueber-uns/mitarbeiter/person/inti01)

Volker Skwarek an der HAW Hamburg (haw-hamburg.de/hochschule/life-sciences/forsch…)

Produktion und Musik: Christian Friedrich (christianfriedrich.org)

Das in dieser Episode verwendete Bildmaterial steht unter der Lizenz CC-BY 4.0 (creativecommons.org/licenses/by-sa/4.0/deed.de), Urheberin ist Anne Vogt (von-vogt.de).

Podcast Design: Anne Vogt (von-vogt.de)

Der Beitrag (Un-)sicher mit LLMs? (portal.hoou.de/blog/episodes/un-sicher-mit-llms) erschien zuerst auf HOOU (portal.hoou.de).