Lokale KI – kurz erklärt· Staffel 1· Folge 5
#05 - Kleine Modelle, große Wirkung
Dienstag, 27. Oktober 2026 · 7 min
Kapitelklicken springt direkt hin
Shownotes
Ein Modell mit vier Milliarden Parametern läuft auf jedem Laptop – und ist so gut wie ein Modell, das vor zwei Jahren noch achtzehnmal so groß war. In Folge 5 geht es darum, warum kleine Sprachmodelle so stark geworden sind, für welche Aufgaben sie reichen und wo sie an Grenzen stoßen. Dazu der Größen-Test für Ihre eigenen Aufgaben.
Der Größen-Test
Gleiche drei Aufgaben (eine E-Mail, eine Zusammenfassung, eine Fachfrage) mit qwen3:4b (ollama.com/library/qwen3), gemma4:12b (ollama.com/library/gemma4) und qwen3.8:27b (ollama.com/library/qwen3.8) – das kleinste Modell, das besteht, gewinnt.
Die Tempo-Werte in der Folge sind eigene Abschätzungen, keine Messungen.
Grafik zur Folge: Tempo auf gleicher Hardware (podcasts.julith.gmbh/shownotes/LocalAIHero/S01…)
Kapitel
Cold Open · Begrüßung · Was ein kleines Modell ist · Warum kleine Modelle so gut geworden sind · Wofür kleine Modelle reichen · Wo sie an Grenzen stoßen · Praxis-Tipp: Der Größen-Test · Ausblick auf #06
Links und Quellen
• Qwen3: Qwen3-4B auf dem Niveau von Qwen2.5-72B-Instruct (qwenlm.github.io/blog/qwen3)
• Small Language Models in 2026: 10 to Know (Turing Post) (turingpost.com/p/slmslist)
• NVIDIA DGX Spark: 273 GB/s Speicherbandbreite (nvidia.com/en-us/products/workstations/dgx-spark)
• Ollama-Bibliothek: neueste Modelle (ollama.com/search?o=newest)
