Explainable AI - Wenn KI-Systeme nachvollziehbare Entscheidungen treffen

Ob Kredite, Jobs oder medizinische Diagnosen: Bei Entscheidungen darüber wird Künstliche Intelligenz bereits eingesetzt. Dabei sind die Einschätzungen komplexer KI-Systeme für Menschen oft kaum im Detail verständlich. Lässt sich das ändern? Carina Schroeder erzählt Ralf Krauter in dieser Folge von Lösungsansätzen für "erklärbare KI" - und jeder Menge Problemen.

Das erwartet Euch in dieser Episode:

(03:10) Was ist "Explainable AI" überhaupt?
(08:37) Die App "SkinDoc" soll KI-Entscheidungen nachvollziehbar machen
(13:46) Erklärbarkeit ist nicht gleichbedeutend mit Verständlichkeit
(20:32) Große Sprachmodelle: Generativer KI beim Denken zuschauen
(23:25) Erste Lösungsansätze weisen Weg in die Zukunft

Unsere GesprächspartnerInnen in dieser Folge:

• Adriano Lucieri (dfki.de/web/ueber-uns/mitarbeiter/person/adlu01), KI-Forscher am Deutschen Forschungszentrum für Künstliche Intelligenz DFKI
• Marina Tropmann-Frick (haw-hamburg.de/hochschule/beschaeftigte/detail…), Professorin für Data Science an der HAW Hamburg
• Rosina Weber (drexel.edu/cci/about/directory/W/Weber-Rosina), Professorin für Informationswissenschaft und Informatik an der Drexel University in Philadelphia

Mehr zum Thema in der Deutschlandfunk App:

• "KI verstehen" fragt nach: Wie Microsoft KI vertrauenswürdig machen will (deutschlandfunk.de/ki-verantwortung-microsoft-…)
• Intransparente KI (deutschlandfunk.de/ki-wie-bei-kafka-in-den-fae…): In den Fängen der Algorithmen
• Erklärbar: Modell-Algorithmen bringen Licht in die Blackbox der KI (deutschlandfunk.de/erklaerbar-modell-algorithm…)

Weiterführende Links:
• Wiley-Studie von Rosina Weber (englisch): XAI ist in Schwierigkeiten (onlinelibrary.wiley.com/doi/10.1002/aaai.12184)
• DFKI-Text über SkinDoc (dfki.de/web/news/skindoc-erklaerbare-ki-fuer-d…): Erklärbare KI für die Tele-Dermatologie
• arXiv-Studie von Marina Tropmann-Frick (englisch): Eine Literaturübersicht zum Thema Responsible AI (arxiv.org/pdf/2403.06910)

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de oder eine Sprachnachricht per Signal oder Whatsapp an 0152-59529753.

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App (deutschlandfunk.de/apps-100.html).

Folgt dem Deutschlandfunk auch auf Instagram (instagram.com/deutschlandfunk) und Facebook (facebook.com/deutschlandfunk).