Folge 96: AI Hacks & Security

In dieser Episode werfen wir einen Blick auf die Sicherheitsaspekte von KI-Anwendungen. Wir diskutieren die verschiedenen Angriffsvektoren, denen große Sprachmodelle und AI-Applikationen ausgesetzt sind, darunter Training Data Poisoning, Model Theft, und Evasion Attacks. Außerdem erklären wir Techniken wie Direct und Indirect Prompt Injection, die von Angreifern genutzt werden, um AI-Modelle auszutricksen.

Ihr wollt uns etwas Gutes tun? Spendiert uns gerne einen Kaffee: buymeacoffee.com/todocast

Links:

• Adversarial machine learning: en.m.wikipedia.org/wiki/Adversarial_machine_le…

• PyRIT: github.com/Azure/PyRIT

• Robust Physical-World Attacks on Deep Learning Visual Classification (Stop Sign): openaccess.thecvf.com/content_cvpr_2018/papers…

todo:shop - unser Shop für Nerdkram und alle Fans des Podcast: todoshop.io

todo:cast auf TikTok: tiktok.com/@todo_cast

todo:cast auf Instagram: instagram.com/todo_cast

Malte auf X: twitter.com/MalteLantin

Robin-Manuel auf X: twitter.com/robinmanuelt

Feedback und Anregungen: todopodcast@outlook.com