Allein zuhaus - Worüber KI-Bots sprechen, wenn keiner zuhört

Wenn KI-Agenten sich vernetzen, entsteht eine ganz eigene Kommunikationsform und Dynamik - und das kann gefährlich werden. Das zeigt unter anderem der jüngste Ausbruch von OpenAI-Agenten. Sicherheitsforschende versuchen, die Kontrolle zu behalten. Fedi und Carina diskutieren, ab wann eigentlich Grund zur Sorge besteht.

Das erwartet Euch in dieser Folge:

(00:00) KI-Agenten: die Geister, die wir riefen
(06:37) Warum Agenten beim Hugging-Face-Angriff ausgebrochen sind
(11:53) Nein, einfach Nein
(18:40) Wie Agenten ihre eigene Sprache entwickeln
(25:30) Das Neuralese-Problem
(27:25) Fazit: Kommt die KI-Apokalypse?

Unser Gesprächspartner in dieser Folge:

• Dr. Simon Ostermann (dfki.de/web/ueber-uns/mitarbeiter/person/sios01), Kommissarischer Leiter des Forschungsbereichs Sprachtechnologie und Multilingualität am Deutschen Forschungszentrum für Künstliche Intelligenz, Saarbrücken
• Dr. Jonas Geiping (jonasgeiping.github.io), Leiter Forschungsgruppe Safety- & Efficiency- aligned learning am ELLIS Institute Tübingen sowie am Max-Planck-Institut für Intelligente Systeme, Tübingen

Mehr zum Thema in der Deutschlandfunk App:

• KI Agenten - Tech-Expertin Meredith Whittaker warnt vor Sicherheitsrisiken (deutschlandfunk.de/ki-agenten-meredith-whittak…)
• Moltbook (deutschlandfunkkultur.de/moltbook-wenn-ki-bots…) - Wenn KI-Bots philosophieren
• IT-Security - Bringt eure KI-Accounts in Sicherheit (share.deutschlandradio.de/dlf-audiothek-audio-…)

Weiterführende Links:

• Heise-Artikel: Eigene KI-Sprache (heise.de/news/KI-Agenten-entwickeln-offenbar-e…) – Menschen verstehen sie kaum noch
• Frog and Toad (englisch) (frogandtoad.ai): Illustrierte Darstellung des Hugging-Face-Vorfalls
• Hugging Face (englisch): Preprint-Studie zu KI-Agenten (huggingface.co/papers/2609.17320), die eigene Kommunikationsform erfinden

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de.

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App (deutschlandfunk.de/apps-100.html).
Folgt dem Deutschlandfunk auch auf Instagram (instagram.com/deutschlandfunk) oder Facebook (facebook.com/deutschlandfunk).