Detektion von Deepfakes - Wie sich KI-Fälschungen entlarven lassen

Identitätsdiebstahl, Betrug und Manipulation - Deepfakes machen zunehmend Probleme. Denn die digitalen Fälschungen werden immer besser und leichter herzustellen. Gesetze, Wachsamkeit und Künstliche Intelligenz helfen dagegen - aber nur in Grenzen. Carina Schroeder und Maximilian Brose verraten, warum das so ist und welche Möglichkeiten es im Kampf gegen Deepfakes noch gibt.

Das erwartet Euch in dieser Episode:

(00:00) Max bastelt sich einen Stimm-Klon
(04:40) Wo deutsche Deepfakes zum Problem werden
(08:08) Warum wir auf KI-generierte Fälschungen reinfallen
(10:51) Marco Rubio Deepfake und 25 Millionen Dollar Scam
(12:27) Gesetzesentwürfe gegen Deepfakes
(13:55) Wasserzeichen helfen nur begrenzt
(16:50) Deepfakes mit KI aufspüren - ein Katz und Maus Spiel
(23:17) Clevere Deepfakes haben einen Herzschlag
(27:58) Echtheitszertifikate für authentische Inhalte
(31:44) Fazit

Unsere Gesprächspartner in dieser Folge:

• Christina Lekati (social-engineering-training.ch), Psychologin und Expertin für Deepfakes und Social Engineering
• Dr. Nicolas Müller, KI-Forscher und Experte für Audio-Deepfakes am Fraunhofer AISEC (mueller91.github.io)
• Prof. Peter Eisert, Forschungsgruppenleiter am Fraunhofer HHI (iphome.hhi.de/eisert/index.htm)

Mehr zum Thema in der Deutschlandfunk App:

Deepfake-Pornos - Digitale Gewalt, reale Demütigung von Frauen (deutschlandfunk.de/deepfake-pornografie-digita…)
Copyright auf Gesicht und Stimme - Wie Dänemark gegen Deepfakes vorgeht
Deepfakes - Chance für die historische Bildung (deutschlandfunk.de/deepfakes-als-chance-fuer-d…)

Weiterführende Links:

• Studie (englisch) vom Fraunhofer HHI: Deepfakes haben einen Herzschlag (frontiersin.org/journals/imaging/articles/10.3…)
• Studie (englisch) der University Waterloo: Warum Wasserzeichen keinen echten Schutz (uwaterloo.ca/news/media/watermarks-offer-no-de…) gegen Deepfakes bieten
• CNN-Bericht (englisch): Wie eine Firma durch einen Deepfake-Videocall 25 Millionen Dollar verloren hat (edition.cnn.com/2024/02/04/asia/deepfake-cfo-s…)
• Preprint-Studie (englisch): Warum Deepfake-Scanner in der Realität schlechter funktionieren (arxiv.org/abs/2406.03512)
• Fraunhofer-Tool: Kostenloser Scanner (deepfake-total.com) um Audio-Deepfakes zu erkennen
• Verbraucherzentrale NRW: Wie Kriminelle mit deutschen Deepfakes Opfer auf Betrugsseiten locken (verbraucherzentrale.de/wissen/digitale-welt/ph…)

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de.

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App (deutschlandfunk.de/apps-100.html).

Folgt dem Deutschlandfunk auch auf Instagram (instagram.com/deutschlandfunk) und Facebook (facebook.com/deutschlandfunk).