KI außer Kontrolle - Wie lange tut sie noch, was sie soll?

Könnte eine Superintelligenz die Menschheit auslöschen? Zunehmend warnen auch seriöse Forscher vor KI-Agenten, die ohne Skrupel ihre eigenen Ziele verfolgen. Lassen sich die Systeme noch zähmen?

Das erwartet euch in dieser Folge:

(02:16) KI-Agenten nehmen Einfluss auf die Welt – heute schon
(04:19) Weltuntergangsszenario einmal ganz konkret erklärt
(09:52) Erste Fälle bekannt: KI hat bereits Anweisungen zuwidergehandelt
(12:51) KI-Wettrüsten zwischen USA und China
(19:06) Alignment-Forschung – KI auf Linie mit unseren Werten und Zielen bringen
(23:05) Ausblick

Mehr zum Thema in der Deutschlandfunk App:

• KI verstehen über die Macht der großen Konzerne (deutschlandfunk.de/macht-grosser-ki-konzerne-h…)
• Wissenschaft im Brennpunkt über die Kriege der Zukunft (deutschlandfunk.de/an-der-datenfront-die-ukrai…): „An der Datenfront“

Weiterführende Links:

• Positionspapier zu KI-Alignment (vditz.de/service/ai-alignment-eine-zentrale-he…) beim Verband Deutscher Industrie VDI Technologiezentrum
• Positionspapier zu KI-Alignment von Michele Loi bei AlgorithmWatch (algorithmwatch.org/en/agi-and-longtermist-abst…) (englisch)

Gesprächspartner in dieser Folge:

• Yoshua Bengio, (yoshuabengio.org) Universität Montreal
• Axel Zweck, VDI Technologiezentrum (vditz.de/leistungen/innovationen-gestalten)

Autor: Christoph Drösser, berichtet als Technikjournalist aus dem Silicon Valley
Regie: Anna Panknin

+++++

Unser Podcast-Tipp: Noch mehr spannende und aktuelle Folgen zu künstlicher Intelligenz im Alltag gibt es im Podcast KI verstehen (share.deutschlandradio.de/dlf-podcast-teilen.h…)

+++++

Wenn euch „Wissenschaft im Brennpunkt“ gefällt, abonniert uns und empfehlt uns weiter. Feedback gerne an hoererpost.forschungaktuell@deutschlandfunk.de.

+++++

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App (deutschlandfunk.de/apps-100.html).
Folgt dem Deutschlandfunk auf Instagram (instagram.com/deutschlandfunk) oder Facebook (facebook.com/deutschlandfunk).