#64 Was passiert, wenn KI-Agenten gehackt werden? Cybersecurity Intverview mit Viviana Sutedjo

Nach unserer Doppelfolge „KI Stop“ über Weltuntergangs-Stimmung und Doomsday-Schlagzeilen wird es heute ganz praktisch. Unsere Gästin Viviana arbeitet als Cybersecurity Software Engineer bei Google in München. Mit ihr klären wir: Wie werden KI-Agenten gehackt, und wie können sie selbst hacken?
Viviana erzählt, wie sie eher zufällig in der Cybersecurity gelandet ist und warum der Job so kreativ ist. Sie erklärt an einem Beispiel aus dem Alltag, was eine Prompt Injection ist. Wir sprechen darüber, wie ihr Team Angriffe automatisch gegen Googles KI-Produkte laufen lässt und warum die Sicherheitsteams dafür in München und Zürich sitzen. Außerdem geht es darum, warum die Cybersecurity mehr Frauen braucht.
Pünktlich zum Start des Cybersecurity Awareness Month lautet unser Fazit: Lasst euch keine Angst machen. Bleibt wachsam und prüft, welche Zugriffe euer KI-Agent hat.
📌 Begriff im Fokus:
Prompt Injection: Jemand schmuggelt einen versteckten Befehl in Inhalte, die eine KI liest, zum Beispiel in eine E-Mail, eine Webseite oder ein Profil. Der Befehl kann etwa in weißer Schrift auf weißem Hintergrund stehen. Die KI hält ihn für eine Anweisung von euch und führt ihn aus.
CIA-Prinzip: Die drei Grundziele der Cybersecurity.
• Confidentiality (Vertraulichkeit): Unbefugte können eure Daten nicht lesen.

• Integrity (Integrität): Niemand kann eure Daten unbemerkt verändern.

• Availability (Verfügbarkeit): Ein Dienst funktioniert, wenn ihr ihn braucht.

Red Team / Offensive Security: Interne Hackerinnen und Hacker greifen die eigenen Produkte an. So finden sie Sicherheitslücken, bevor echte Angreifer sie finden.
🛡️ Vivianas Tipps: So schützt ihr euch bei KI-Agenten
• Auf die Quelle schauen: Wer hat das Tool gebaut? Was will der Hersteller damit? Welche Sicherheitsstandards hält er ein, und gibt es dort ein Security-Team?

• Zugriffe gering halten: Welche Rechte braucht der Agent wirklich? Jeder zusätzliche Zugriff ist eine zusätzliche Angriffsfläche. Wenn ein Angriff klappt, richtet er damit auch mehr Schaden an.

• Einmal durch die Einstellungen gehen: Prüft, was der Agent mit euren Daten machen darf, zum Beispiel mit E-Mails, dem Kalender oder geteilten Dateien.

• Wachsam bleiben, aber ohne Panik: Informiert euch und bleibt kritisch. Lasst euch von Schreckens-Schlagzeilen keine Angst machen.

📚 Literatur & Studien:
• OWASP Top 10 für LLM-Anwendungen, Punkt „Prompt Injection“:genai.owasp.org/llmrisk/llm01-prompt-injection

• European Cybersecurity Month:cybersecuritymonth.eu

🔗 Links:
• Vivianas Profil: Viviana Sutedjo | LinkedIn (linkedin.com/in/viviana-sutedjo)

📲 Media-Kanäle:
👉 Sarah's Instagram:@sarah_rojewski (instagram.com/sarah_rojewski)
👉 Inken's Instagram:@askinkenai (instagram.com/askinkenai)