#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal

Willkommen zu Episode 38 von Co-Intelligence, eurem KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen.
In dieser Folge diskutieren wir zwei radikal unterschiedliche Visionen für die Zukunft der KI. Auf der einen Seite steht das vieldiskutierte "AI 2027"-Szenario des AI Futures Project (Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland und Romeo Dean), das eine explosive Transformation und Super-Intelligenz bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die argumentieren, dass KI wie jede andere Technologie (z.B. Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund gesellschaftlicher Trägheit viel länger als gedacht.
Wir analysieren nicht nur die Unterschiede, sondern vor allem die überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten "Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr einer geheimen Intelligenz-Explosion in einem abgeschotteten Labor.

Mehr von uns:
- Website (alle Folgen, Shownotes, Glossar): coipod.de
- Diese Folge auf COIPOD: coipod.de/folgen/38-warum-ki-vielleicht-doch-l…
- YouTube: youtube.com/@Co-IntelligencePod
- Spotify: open.spotify.com/show/5ZPRrXTInXPiDnVqb1HziP
- Apple Podcasts: podcasts.apple.com/us/podcast/co-intelligence-…
- Newsletter: coipod.de/newsletter
- Instagram: instagram.com/cointelligencepod
- TikTok: tiktok.com/@cointelligencepod
- LinkedIn: linkedin.com/company/co-intelligence-pod

Quellen:
- AI 2027 (AI Futures Project): ai-2027.com
- Leopold Aschenbrenner – Situational Awareness: The Decade Ahead: situational-awareness.ai

Kapitel
00:00 Intro: Normalität vs. Transformation
00:18 Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?
01:34 Die Gegenposition: Die "Normalos" aus Princeton
03:51 Das Argument der Exponential-Kurve (Daten & Energie)
06:00 Warum es länger dauert: Gesellschaftliche Trägheit & "Data Readiness"
09:35 Konsens 1: Bis zur AGI ist KI eine "normale" Technologie
10:43 Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution
11:56 Konsens 3: Warum heutige Benchmarks versagen
14:29 Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)
16:17 Konsens 5: Keine autonomen Entscheidungen in kritischen Systemen
20:04 Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0 Szenario)
22:45 Fazit: Mehr Miteinander statt Lagerbildung
24:00 Unsere Meinung: Verliert Europa den Anschluss?