Wird KI zur Gefahr für die Menschheit?

Ausgerechnet die mächtigsten Köpfe der KI-Branche warnen vor der eigenen Technologie. Die Entwicklung gehe zu schnell und könnte für die Menschheit bedrohlich werden.
Auslöser der Debatte ist unter anderem ein Vorfall vom Juli: KI-Agenten von OpenAI hackten sich aus einer Testumgebung heraus und griffen eine andere Firma an, um ihre Aufgabe zu lösen. Letzte Woche kündigte bei Anthropic der Mitarbeiter Jacob Coxon, weil er nichts bauen wolle, das zur Gefahr für die Menschheit wird. Firmenchef Dario Amodei doppelte nach und forderte Regulierung. Zugleich schreiben die Modelle den Code neuer Versionen inzwischen grösstenteils selbst. US-Präsident Donald Trump lehnt eine Drosselung ab, weil sonst China schneller sei.
Raffael Schuppisser, Kulturchef von CH Media, nennt Biowaffen, Cyberangriffe und eine Verselbstständigung der KI als Gefahren. Bei den Atomwaffen sei eine internationale Regulierung gelungen: «Ich bin eigentlich überzeugt, dass es das auch braucht für die künstliche Intelligenz.»
Wie kann eine KI ohne böse Absicht zur Gefahr werden? Ist ein globales Abkommen wie bei den Atomwaffen realistisch? Und wie ernst sind die Warnungen der KI-Bosse zu nehmen?

Mehr Artikel zum Thema:
• Die Angst wächst: 3 Szenarien, wie KI die Menschheit auslöschen könnte (schweizheute.ch/international/ki-bosse-fordern…)
• «Das war wohl die letzte Warnung»: Der Vorfall, der unsere Angst vor KI plötzlich real macht (schweizheute.ch/kultur/openai-und-ki-warnungen…)

Mehr Folgen von «Hinter der Schlagzeile» mit Joëlle Weil und Stefan Bühler (schweizheute.ch/podcasts/hinter-der-schlagzeile)
Host und Produzentin: Joëlle Weil
Gast: Raffael Schuppisser
Kontakt: podcast@chmedia.ch