#74: [PAIQ1] Predictive AI Quarterly

Predictive AI Quarterly ist unser neues Format im Data Science Deep Dive. Alle 3 Monate sprechen wir über Entwicklungen im Bereich Predictive AI - kompakt, kritisch und praxisnah.
Wir starten mit einem Überblick zu den aktuellen News und Trends, danach wird's hands-on: Wir berichten, was wir selbst ausprobiert haben, was gut funktioniert hat und was nicht.

 

**Zusammenfassung**

• TabPFN ist ein Foundation-Modell speziell für tabulare Daten, das Prognose- und Klassifikationsaufgaben ohne Finetuning lösen kann
• Finetuning-Optionen: Neben dem kostenpflichtigen Angebot von PriorLabs existiert ein Open-Source-Repo zum Finetuning von TabPFN, das aktiv weiterentwickelt wird
• mit TabICL gibt es ein weiteres Foundation-Modell für tabulare Daten, das synthetisch trainiert ist, sich auf Klassifikation konzentriert und auch bei großen Datensätzen (bis 500k Zeilen) schnelle Inferenz verspricht
• Foundation-Modelle für Zeitreihen: Unternehmen wie IBM, Google und Salesforce entwickeln eigene Foundation-Modelle für Time-Series Forecasting (z. B. TTMs, TimesFM, Moirai), diese werden bislang auf echten Zeitreihen trainiert
• der GIFT-Benchmark dient als Standard zum Vergleich von Zeitreihenmodellen – hier zeigt sich, dass ein angepasstes TabPFN auch für Zeitreihen überraschend leistungsfähig ist

Hands On:

• TabPFN lässt sich analog zu scikit-learn einsetzen und ist besonders dann praktisch, wenn eine GPU vorhanden ist, die Einstiegshürde ist sehr niedrig
• in Zukunft wird mit multimodalen Erweiterungen (z. B. Bilder), quantisierten Varianten und weiteren Alternativen zu TabPFN gerechnet, der Bereich Foundation Models für strukturierte Daten entwickelt sich rasant

**Links**

• Podcastfolge #72: TabPFN: Die KI-Revolution für tabulare Daten mit Noah Hollmann
• TabPFN:
  • Finetuning Angebot von Prior Labs
  • GitHub-Repo: Finetune TabPFN v2
  • GitHub-Repo: Zero-Shot Time Series Forecasting mit TabPFNv2
• TabICL:
  • GitHub-Repo: TabICL – Tabular In-Context Learning
• Workshop @ ICML 2025: Foundation Models for Structured Data (18. Juli 2025 in Vancouver)
• Blogartikel & Studien:
  • Tiny Time Mixers (TTMs) von IBM Research
  • Moirai:  A Time Series Foundation Model by Salesforce
  • Blogartikel von inwt: "TabPFN: Die KI-Revolution für tabulare Daten"
• Huggingface Spaces & Modelle:
  • TimesFM Foundation Model für Zeitreihen von Google Research
  • GIFT-Eval Forecasting Leaderboard

📬 Fragen, Feedback oder Themenwünsche?
Schreibt uns gern an: podcast@inwt-statistics.de