Herausforderungen bei Zeitreihen-Grundlagenmodellen und das Phänomen des Forecast Collapse

Im Bereich der künstlichen Intelligenz und des maschinellen Lernens stellen Zeitreihen-Grundlagenmodelle (Time-Series Foundation Models, TSFMs) eine vielversprechende Entwicklung dar. Sie versprechen, durch ihre Fähigkeit, komplexe Muster in Zeitreihendaten zu erkennen und zu generalisieren, neue Maßstäbe in der Prognose zu setzen. Aktuelle Forschungen beleuchten jedoch eine unerwartete Herausforderung, die als "Forecast Collapse" bezeichnet wird. Dieses Phänomen deutet darauf hin, dass selbst hochentwickelte TSFMs unter bestimmten Bedingungen Schwierigkeiten haben können, aussagekräftige und differenzierte Vorhersagen zu liefern.

Das Phänomen des "Forecast Collapse"

Das Konzept des "Forecast Collapse" beschreibt eine Situation, in der die Vorhersagen von TSFMs zunehmend flach oder nahezu konstant werden. Dies führt dazu, dass die Modelle die heterogenen Dynamiken der zugrunde liegenden multivariaten Zeitreihen nicht mehr adäquat abbilden können. Ein Beispiel hierfür ist die Prognose stündlicher Renditen von 1.000 US-Aktien, bei der beobachtet wurde, dass die Vorhersagen tendenziell nivelliert waren und eine geringe Rangordnung der Aktien aufwiesen, gemessen an der Querschnittskorrelation. Interessanterweise verschwand dieses Phänomen weitgehend, wenn im gleichen Kontext Handelsvolumina prognostiziert wurden, was auf eine Abhängigkeit von der Art der zu prognostizierenden Daten hindeutet.

Ursachenanalyse des "Forecast Collapse"

Die Untersuchung des "Forecast Collapse" über verschiedene TSFMs, zwölf Deep-Learning-Prognosemodelle und 97 öffentliche Benchmark-Konfigurationen hinweg hat gezeigt, dass dieses Phänomen eng mit der Vorhersagbarkeit des Ziels verbunden ist. Zwei Hauptursachen wurden identifiziert:

• Geringe Vorhersagbarkeit begrenzt die Amplitude kalibrierter Punktvorhersagen: Wenn die inhärente Vorhersagbarkeit einer Zeitreihe gering ist, neigen Modelle dazu, ihre Vorhersagen zu glätten. Dies ist eine logische Reaktion, um Überanpassung an Rauschen zu vermeiden, führt aber zu undifferenzierten Ergebnissen.
• Serienbezogene Ziele ignorieren serienübergreifende Strukturen: Viele Optimierungsziele in TSFMs konzentrieren sich auf die Leistung innerhalb einer einzelnen Zeitreihe (per-series objectives). Dies kann dazu führen, dass wichtige serienübergreifende Strukturen, die für eine präzise Rangordnung und differenzierte Vorhersagen entscheidend wären, unberücksichtigt bleiben.

Diese Erkenntnisse offenbaren einen grundlegenden Zielkonflikt: den Kalibrierungs-Ranking-Kompromiss. Die Optimierung des quadratischen Fehlers (squared error), ein gängiges Kalibrierungsziel, führt oft zu flachen Vorhersagen. Eine direkte Optimierung der Querschnittskorrelation, die das Ranking verbessert, kann hingegen die Amplitude der Vorhersagen um Größenordnungen aufblähen.

Implikationen für Zeitreihen-Grundlagenmodelle

Die Entdeckung des "Forecast Collapse" und des Kalibrierungs-Ranking-Kompromisses hat weitreichende Implikationen für die Entwicklung und Anwendung von TSFMs. Es zeigt sich, dass die Leistungsfähigkeit von TSFMs nicht nur von ihrer Architektur oder der Menge der Trainingsdaten abhängt, sondern auch maßgeblich von der inhärenten Vorhersagbarkeit der Daten und der Art der Optimierungsziele.

Die Rolle der Vorhersagbarkeit

Die Vorhersagbarkeit ist ein kritischer Faktor. Bei Zeitreihen mit hoher inhärenter Vorhersagbarkeit, wie beispielsweise dem Handelsvolumen, zeigen TSFMs eine robustere Leistung und sind weniger anfällig für den "Forecast Collapse". Bei Daten mit geringer Vorhersagbarkeit, wie den volatilen stündlichen Aktienrenditen, treten die Probleme jedoch deutlich zutage. Dies unterstreicht die Notwendigkeit, Modelle zu entwickeln, die die Unsicherheit in solchen Szenarien besser modellieren können, anstatt nur "glatte" Vorhersagen zu liefern.

Anpassung der Optimierungsziele

Die aktuellen Forschungsergebnisse deuten darauf hin, dass eine Überarbeitung der Optimierungsziele erforderlich ist. Um dem Kalibrierungs-Ranking-Kompromiss entgegenzuwirken, wurde ein neues Ziel namens "CalibRank" vorgeschlagen. Dieses Ziel versucht, Kalibrierung und Ranking auszubalancieren. Erste Tests auf dem Finance1K-Datensatz zeigen, dass CalibRank die Querschnittskorrelation nahezu verdreifachen kann, während die Amplitude der Vorhersagen nahe am Zielwert bleibt. Zudem konnte CalibRank die Korrelation bei allen getesteten Modellen verbessern.

Herausforderungen und Ausblick

Die Erkenntnisse über den "Forecast Collapse" legen einen blinden Fleck in der konventionellen Zeitreihen-Evaluierung offen: Metriken, die sich auf einzelne Zeitreihen konzentrieren, können Fehler in der serienübergreifenden Struktur verbergen, die für nachgelagerte Entscheidungen von großer Bedeutung sind. Für Unternehmen, die TSFMs für kritische Prognoseaufgaben einsetzen, bedeutet dies eine Notwendigkeit, die Evaluierung ihrer Modelle zu überdenken und robuster zu gestalten.

Zukünftige Forschungsrichtungen

Die Forschung wird sich voraussichtlich auf folgende Bereiche konzentrieren:

• Entwicklung neuer Verlustfunktionen: Es besteht Bedarf an innovativen Verlustfunktionen, die nicht nur die Genauigkeit der Punktvorhersagen, sondern auch die Qualität der relativen Rangordnung und die Abbildung von Unsicherheiten berücksichtigen.
• Architektonische Anpassungen: Die Untersuchung, wie Modellarchitekturen angepasst werden können, um den Herausforderungen der geringen Vorhersagbarkeit und der serienübergreifenden Abhängigkeiten besser zu begegnen, ist entscheidend.
• Umfassendere Benchmarks: Die Entwicklung von Benchmarks, die die Komplexität und die spezifischen Herausforderungen von Finanzzeitreihen und anderen Domänen mit geringer Vorhersagbarkeit besser widerspiegeln, wird notwendig sein.
• Interpretierbarkeit und Vertrauen: Angesichts der potenziellen Risiken falscher oder undifferenzierter Vorhersagen ist es wichtig, die Interpretierbarkeit von TSFMs zu verbessern und Vertrauen in ihre Ergebnisse aufzubauen.

Der "Forecast Collapse" bei Zeitreihen-Grundlagenmodellen ist ein wichtiges Forschungsfeld, das die Grenzen und Herausforderungen aktueller KI-Technologien aufzeigt. Durch ein tieferes Verständnis dieses Phänomens und die Entwicklung geeigneter Gegenmaßnahmen können Unternehmen die Leistungsfähigkeit von TSFMs in kritischen Anwendungen weiter optimieren und fundiertere Entscheidungen treffen.

Bibliography

- Wan, S., Ma, M., Zhu, H., Liu, G., Wang, S., Wen, Q., & Liu, H. (2026). Forecast Collapse in Time-Series Foundation Models. arXiv preprint arXiv:2608.14106. - Andreoletti, P. (2026). Forecast collapse of transformer-based models under squared loss in financial time series. arXiv preprint arXiv:2604.00064v1. - Karaouli, N., Coquenet, D., Fromont, E., Mermillod, M., & Reyboz, M. (2025). How Foundational are Foundation Models for Time Series Forecasting?. arXiv preprint arXiv:2510.00742v3. - Liu, Y., Qin, G., Shi, Z., Chen, Z., Yang, C., Huang, X., Wang, J., & Long, M. (2025). Sundial: A Family of Highly Capable Time Series Foundation Models. Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:39295-39317. - Das, A., Kong, W., Sen, R., & Zhou, Y. (2024). A decoder-only foundation model for time-series forecasting. Proceedings of the 41st International Conference on Machine Learning, PMLR 235:10148-10167. - Fu, X., Li, Y., Papaioannou, G., & Kim, Y. (2026). Reverso: Efficient Time Series Foundation Models for Zero-shot Forecasting. arXiv preprint arXiv:2602.17634. - Faw, M., Sen, R., Zhou, Y., & Das, A. (2025). In-Context Fine-Tuning for Time-Series Foundation Models. Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:16355-16374. - Yao, Q., Yang, C.-H. H., Jiang, R., Liang, Y., Jin, M., & Pan, S. (2024). Towards Neural Scaling Laws for Time Series Foundation Models. arXiv preprint arXiv:2410.12360. - Rasul, K., Ashok, A., Williams, A. R., Ghonia, H., Bhagwatkar, R., Khorasani, A., & Darvishi Bayazi, M. J. (2023). Lag-Llama: Towards Foundation Models for Probabilistic Time Series Forecasting. arXiv preprint arXiv:2310.08278.