Cover von Lokale KI – kurz erklärt

Technologie

Lokale KI – kurz erklärt

von JULITH GmbH

Website RSS

Lokale KI – kurz erklärt ist der Podcast für alle, die künstliche Intelligenz im eigenen Unternehmen betreiben wollen – auf eigener Hardware, unter eigener Kontrolle, DSGVO-konform.

Jeden Dienstag erklärt Thomas RIEHN, Geschäftsführer der JULITH GmbH, in wenigen Minuten ein Thema rund um lokale KI: Sprachmodelle auf eigener Hardware, RAG und Vektordatenbanken, Kosten, Datenschutz, typische Fallstricke. Kurz, verständlich, ohne Marketing-Nebel – für Geschäftsführung, IT-Leitung und alle, die mitreden wollen.

Ein Podcast der JULITH GmbH · julith.gmbh
Fragen und Themenwünsche: podcast@julith.gmbh

Folgen

  1. #05 - Kleine Modelle, große Wirkung

    Ein Modell mit vier Milliarden Parametern läuft auf jedem Laptop – und ist so gut wie ein Modell, das vor zwei Jahren noch achtzehnmal so groß war. In Folge 5 geht es darum, warum kleine Sprachmodelle so stark geworden sind, für welche Aufg

  2. #04 – Ein Sprachmodell in 10 Minuten lokal

    Zehn Minuten, ein kostenloses Programm – und ein Sprachmodell läuft auf Ihrem eigenen Rechner. Auch dann, wenn Sie das WLAN ausschalten. In Folge 4 installieren wir gemeinsam Ollama, wählen das passende Modell für Ihren Arbeitsspeicher und

  3. #03 – Welche Hardware braucht ein kleines Unternehmen wirklich?

    Mini-PC, KI-Box oder Server – und warum eine Gaming-Grafikkarte gerade mehr kostet als ein kompletter KI-Rechner. In Folge 3 geht es um die zwei Kennzahlen, auf die es ankommt: Speicher und Bandbreite. Dazu drei Hardware-Klassen mit aktuell

  4. #02 – Cloud-KI vs. lokal: Was sind die Kosten?

    Cloud-KI kostet pro Kopf, lokale KI kostet einmal – aber ab wann rechnet sich was? In Folge 2 rechnen wir ein Unternehmen mit 20 Nutzern über drei Jahre durch: Lizenzen, Token, Hardware, Strom und Betrieb. Dazu die versteckten Kosten auf be

  5. #01 – Was ist lokale KI – und was nicht?

    Was heißt „lokale KI“ eigentlich – und was ist nur Cloud im neuen Gewand? In Folge 1 geht es um die drei Merkmale lokaler KI, drei Gründe dafür, die vier Bausteine, die man braucht, und drei Irrtümer, die sich hartnäckig halten. Praxis-Tipp

0:00 / 0:00