#74: [PAIQ1] Predictive AI Quarterly

Predictive AI Quarterly ist unser neues Format im Data Science Deep Dive. Alle 3 Monate sprechen wir über Entwicklungen im Bereich Predictive AI - kompakt, kritisch und praxisnah.

Wir starten mit einem Überblick zu den aktuellen News und Trends, danach wird's hands-on: Wir berichten, was wir selbst ausprobiert haben, was gut funktioniert hat und was nicht.

**Zusammenfassung**

• TabPFN ist ein Foundation-Modell speziell für tabulare Daten, das Prognose- und Klassifikationsaufgaben ohne Finetuning lösen kann

• Finetuning-Optionen: Neben dem kostenpflichtigen Angebot von PriorLabs existiert ein Open-Source-Repo zum Finetuning von TabPFN, das aktiv weiterentwickelt wird

• mit TabICL gibt es ein weiteres Foundation-Modell für tabulare Daten, das synthetisch trainiert ist, sich auf Klassifikation konzentriert und auch bei großen Datensätzen (bis 500k Zeilen) schnelle Inferenz verspricht

• Foundation-Modelle für Zeitreihen: Unternehmen wie IBM, Google und Salesforce entwickeln eigene Foundation-Modelle für Time-Series Forecasting (z. B. TTMs, TimesFM, Moirai), diese werden bislang auf echten Zeitreihen trainiert

• der GIFT-Benchmark dient als Standard zum Vergleich von Zeitreihenmodellen – hier zeigt sich, dass ein angepasstes TabPFN auch für Zeitreihen überraschend leistungsfähig ist

Hands On:

• TabPFN lässt sich analog zu scikit-learn einsetzen und ist besonders dann praktisch, wenn eine GPU vorhanden ist, die Einstiegshürde ist sehr niedrig

• in Zukunft wird mit multimodalen Erweiterungen (z. B. Bilder), quantisierten Varianten und weiteren Alternativen zu TabPFN gerechnet, der Bereich Foundation Models für strukturierte Daten entwickelt sich rasant

**Links**

• Podcastfolge #72: TabPFN: Die KI-Revolution für tabulare Daten mit Noah Hollmann (podbean.com/ew/pb-94ri2-18aca83)

• TabPFN:

• Finetuning Angebot von Prior Labs (priorlabs.ai/finetuning)

• GitHub-Repo: Finetune TabPFN v2 (github.com/LennartPurucker/finetune_tabpfn_v2)

• GitHub-Repo: Zero-Shot Time Series Forecasting mit TabPFNv2 (github.com/PriorLabs/tabpfn-time-series/tree/m…)

• TabICL:

• GitHub-Repo: TabICL – Tabular In-Context Learning (github.com/soda-inria/tabicl)

• Workshop @ ICML 2025: Foundation Models for Structured Data (icml-structured-fm-workshop.github.io) (18. Juli 2025 in Vancouver)

• Blogartikel & Studien:

• Tiny Time Mixers (TTMs) von IBM Research (research.ibm.com/publications/tiny-time-mixers…)

• Moirai: A Time Series Foundation Model by Salesforce (salesforce.com/blog/moirai)

• Blogartikel von inwt: "TabPFN: Die KI-Revolution für tabulare Daten" (inwt-statistics.de/blog/tabpfn-die-ki-revoluti…)

• Huggingface Spaces & Modelle:

• TimesFM Foundation Model für Zeitreihen von Google Research (huggingface.co/google/timesfm-2.0-500m-pytorch)

• GIFT-Eval Forecasting Leaderboard (huggingface.co/spaces/Salesforce/GIFT-Eval)

📬 Fragen, Feedback oder Themenwünsche?

Schreibt uns gern an: podcast@inwt-statistics.de