KI & Fairness: Wer bekommt den Job, wer den Hit?

Stellt euch ein KI-System vor, das automatisiert faire Entscheidungen über die Einladung zum Bewerbungsgespräch auf Basis von Bewerbungsunterlagen treffen soll. Klingeln da bei euch die Alarmglocken? Wenn ja: Zu Recht! Der EU AI Act stuft ein solches System als Hochrisikosystem ein. Wir schauen uns ein solches System heute genauer an und klären: Was bedeutet eigentlich Fairness in Bezug auf KI? Wie kann man prüfen, ob ein KI-System zu fairen Entscheidungen führt? Und was hat das alles mit menschlicher Autonomie zu tun?

+++

Janine Strotherm ist Mathematikerin und Mitarbeiterin der Universität Bielefeld (hammer-lab.techfak.uni-bielefeld.de/people/358…). Im Projekt "Water Futures (waterfutures.eu)" beschäftigt Janine sich mit maschinellem Lernen in Bezug auf faire Verteilung von Wasserressourcen.

+++

Linkliste
• Lee (2018), Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management (journals.sagepub.com/doi/epub/10.1177/20539517…). Big Data & Society.
• Starke et al. (2022), Fairness perceptions of algorithmic decision-making: A systematic review of the empirical literature (journals.sagepub.com/doi/epub/10.1177/20539517…). Big Data & Society.
• Strotherm et al. (2023), Fairness in KI-Systemen (arxiv.org/abs/2307.08486). arXiv.
• Fiske: Stereotype Content Model (en.wikipedia.org/wiki/Stereotype_content_model)
• Eckes (2002), Paternalistic and Envious Gender Stereotypes: Testing Predictions from the Stereotype Content Model (link.springer.com/article/10.1023/a:1021020920…). Sex Roles.
• DuBois: The Philadelphia N-Wort (en.wikipedia.org/wiki/The_Philadelphia_Negro)
• Paaßen et al. (2019), Dynamic fairness – Breaking vicious cycles in automatic decision making (esann.org/sites/default/files/proceedings/lega…). ESANN 2019.
• Race Norming (en.wikipedia.org/wiki/Race-norming)
• COMPAS Software (en.wikipedia.org/wiki/COMPAS_(software))
• Knibbe (2021), Fairness in Question: Do Music Recommendation Algorithms Value Diversity? (music-tomorrow.com/blog/fairness-and-diversity…) Music Tomorrow.
• Torabi (2023), The Inner Workings of Spotify’s AI-Powered Music Recommendations: How Spotify Shapes Your Playlist (medium.com/beyond-the-build/the-inner-workings…). Medium.
• Henry et al. (2024), Impacts of AI on Music Consumption and Fairness (journals.sagepub.com/doi/10.1177/2752354324126…). Emerging Media.
+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!
• Unsere E-Mail-Adresse: autonomie-algorithmen@lists.techfak.uni-bielefeld.de
• Unser Bluesky-Profil: bsky.app/profile/auto-algo.bsky.social
• Unser Kontaktformular: autonomie-algorithmen.letscast.fm/feedback
+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig und Benjamin Paaßen.
Redaktionelle Unterstützung: Johanna Dobroschke.
Postproduktion: Ingrid Rogalski und Christiane Attig.
Musik: Almut Schwacke.
Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL (ki-akademieowl.de).