- #134 Technologie
- #134beste Platzierung
- wöchentlichErscheinungsrhythmus
- 7 mintypische Länge
- vor 5 Tagenletzte Folge
Lokale KI – kurz erklärt ist der Podcast für alle, die künstliche Intelligenz im eigenen Unternehmen betreiben wollen – auf eigener Hardware, unter eigener Kontrolle, DSGVO-konform.
Jeden Dienstag erklärt Thomas RIEHN, Geschäftsführer der JULITH GmbH, in wenigen Minuten ein Thema rund um lokale KI: Sprachmodelle auf eigener Hardware, RAG und Vektordatenbanken, Kosten, Datenschutz, typische Fallstricke. Kurz, verständlich, ohne Marketing-Nebel – für Geschäftsführung, IT-Leitung und alle, die mitreden wollen.
Ein Podcast der JULITH GmbH · julith.gmbh
Fragen und Themenwünsche: podcast@julith.gmbh
Folgen
#05 - Kleine Modelle, große Wirkung
Ein Modell mit vier Milliarden Parametern läuft auf jedem Laptop – und ist so gut wie ein Modell, das vor zwei Jahren noch achtzehnmal so groß war. In Folge 5 geht es darum, warum kleine Sprachmodelle so stark geworden sind, für welche Aufg
#04 – Ein Sprachmodell in 10 Minuten lokal
Zehn Minuten, ein kostenloses Programm – und ein Sprachmodell läuft auf Ihrem eigenen Rechner. Auch dann, wenn Sie das WLAN ausschalten. In Folge 4 installieren wir gemeinsam Ollama, wählen das passende Modell für Ihren Arbeitsspeicher und
#03 – Welche Hardware braucht ein kleines Unternehmen wirklich?
Mini-PC, KI-Box oder Server – und warum eine Gaming-Grafikkarte gerade mehr kostet als ein kompletter KI-Rechner. In Folge 3 geht es um die zwei Kennzahlen, auf die es ankommt: Speicher und Bandbreite. Dazu drei Hardware-Klassen mit aktuell
#02 – Cloud-KI vs. lokal: Was sind die Kosten?
Cloud-KI kostet pro Kopf, lokale KI kostet einmal – aber ab wann rechnet sich was? In Folge 2 rechnen wir ein Unternehmen mit 20 Nutzern über drei Jahre durch: Lizenzen, Token, Hardware, Strom und Betrieb. Dazu die versteckten Kosten auf be
#01 – Was ist lokale KI – und was nicht?
Was heißt „lokale KI“ eigentlich – und was ist nur Cloud im neuen Gewand? In Folge 1 geht es um die drei Merkmale lokaler KI, drei Gründe dafür, die vier Bausteine, die man braucht, und drei Irrtümer, die sich hartnäckig halten. Praxis-Tipp