Bayessche Optimierung: Effiziente Strategien zur Optimierung teurer Black-Box-Funktionen

Die Optimierung komplexer Systeme und Algorithmen stellt in vielen wissenschaftlichen und industriellen Bereichen eine zentrale Herausforderung dar. Oftmals sind die zu optimierenden Funktionen "Black-Box"-Naturen, deren Auswertung zeitaufwendig und teuer ist und für die keine analytischen Ableitungen vorliegen. In diesem Kontext hat sich die Bayessche Optimierung (BO) als eine leistungsfähige Strategie etabliert. Sie ermöglicht eine effiziente Suche nach dem Optimum, indem sie das Gleichgewicht zwischen der Ausnutzung vielversprechender bekannter Bereiche und der Erkundung unsicherer Regionen steuert.

Grundlagen der Bayesschen Optimierung

Die Bayessche Optimierung ist ein iteratives Verfahren, das darauf abzielt, das globale Maximum (oder Minimum) einer Zielfunktion \(f(x)\) zu finden. Der Prozess lässt sich in zwei Hauptschritte unterteilen:

1. Das probabilistische Surrogatmodell: Gaußsche Prozesse

Im Kern der Bayesschen Optimierung steht ein probabilistisches Modell der unbekannten Zielfunktion. Am häufigsten werden hierfür Gaußsche Prozesse (GP) verwendet. Ein GP ist eine Verallgemeinerung der multivariaten Normalverteilung auf Funktionen. Er definiert eine Wahrscheinlichkeitsverteilung über Funktionen und liefert für jeden Eingabepunkt \(x\) eine Vorhersage des Funktionswerts \(f(x)\) sowie eine Quantifizierung der Unsicherheit dieser Vorhersage in Form einer Varianz.

Die Funktionsweise eines GPs basiert auf der Annahme, dass nahe beieinander liegende Eingabepunkte ähnliche Funktionswerte aufweisen. Diese Ähnlichkeit wird durch eine Kovarianzfunktion (auch als Kernel bezeichnet) modelliert. Populäre Kernel sind der Squared Exponential (RBF) Kernel und der Matern Kernel, die jeweils unterschiedliche Annahmen über die Glätte der Funktion treffen. Die Parameter des Kernels, sogenannte Hyperparameter, werden typischerweise durch Maximierung der Log-Marginal-Likelihood der beobachteten Daten geschätzt.

Bei jeder neuen Auswertung der Zielfunktion werden die beobachteten Daten genutzt, um die Posteriori-Verteilung des GPs zu aktualisieren. Dies geschieht nach dem Bayes-Theorem und führt zu einer verfeinerten Schätzung der Zielfunktion und einer reduzierten Unsicherheit in der Nähe der ausgewerteten Punkte.

2. Die Akquisitionsfunktion

Die Akquisitionsfunktion ist das Herzstück der BO, da sie entscheidet, welcher Punkt als Nächstes evaluiert werden soll. Ihre Aufgabe ist es, einen Kompromiss zwischen Exploration (Erkundung unbekannter Regionen zur Reduzierung der Unsicherheit) und Exploitation (Ausnutzung vielversprechender bekannter Regionen) zu finden. Einige der gebräuchlichsten Akquisitionsfunktionen sind:

• Expected Improvement (EI): Diese Funktion maximiert den erwarteten Gewinn gegenüber dem bisher besten gefundenen Funktionswert. Sie berücksichtigt sowohl die mittlere Vorhersage des GPs als auch die Unsicherheit. Ein hoher EI-Wert kann entweder von einem Punkt mit einer hohen mittleren Vorhersage (Exploitation) oder einem Punkt mit hoher Unsicherheit (Exploration) stammen.
• Knowledge Gradient (KG): Im Gegensatz zu EI, das sich auf die Verbesserung des besten aktuell beobachteten Punktes konzentriert, bewertet KG, wie stark sich das Maximum des Posteriori-Mittelwerts durch eine neue Messung verändert. KG ist besonders nützlich in Szenarien mit Rauschen oder wenn der beste Punkt nicht zwingend derjenige mit dem höchsten Funktionswert sein muss.
• Entropy Search (ES) und Predictive Entropy Search (PES): Diese informationsbasierten Funktionen zielen darauf ab, die Unsicherheit über die Position des globalen Optimums zu minimieren. Sie wählen den Punkt, dessen Auswertung den größten Informationsgewinn über die Lage des Optimums verspricht.
• Upper Confidence Bound (UCB): UCB wählt den Punkt, der eine gewichtete Summe aus dem mittleren Vorhersagewert und der Unsicherheit maximiert. Der Gewichtungsfaktor steuert den Trade-off zwischen Exploitation und Exploration.

Die Maximierung der Akquisitionsfunktion ist in der Regel ein kostengünstigeres Optimierungsproblem als die ursprüngliche Zielfunktion und kann mit Standardoptimierungsalgorithmen gelöst werden.

Anwendungsbereiche und fortgeschrittene Konzepte

Die Bayessche Optimierung hat sich in einer Vielzahl von Anwendungsfeldern als äußerst wirksam erwiesen, insbesondere dort, wo die Auswertung von Funktionen teuer ist. Dazu gehören:

• Hyperparameter-Optimierung: Die Abstimmung von Hyperparametern in Machine-Learning-Modellen, wie z.B. Deep Neural Networks, ist ein klassisches Anwendungsgebiet. BO kann hier die Anzahl der erforderlichen Trainingsläufe erheblich reduzieren.
• Design von Ingenieursystemen: In der Aerodynamik, der Fahrzeugentwicklung und anderen Ingenieurwissenschaften wird BO eingesetzt, um Designs zu optimieren, deren Bewertung aufwendige Simulationen erfordert.
• Materialwissenschaft und Medikamentenentwicklung: Die Suche nach neuen Materialien oder Wirkstoffen involviert oft teure physikalische Experimente. BO kann den Suchraum effizienter explorieren.
• Robotik: Im Bereich des Robotik-Lernens wird BO zur Optimierung von Steuerungsstrategien oder Roboterbewegungen eingesetzt.

Herausforderungen und Weiterentwicklungen

Obwohl die Standard-Bayessche Optimierung bereits sehr leistungsfähig ist, gibt es viele reale Probleme, die ihre Annahmen verletzen. Die Forschung hat daher zahlreiche Erweiterungen entwickelt, um BO robuster und vielseitiger zu machen:

1. Rauschende Auswertungen

In vielen praktischen Anwendungen sind Funktionsauswertungen mit stochastischem Rauschen behaftet. Gaußsche Prozesse können dies durch die Aufnahme eines Rauschterms in die Kovarianzfunktion berücksichtigen. Akquisitionsfunktionen wie KG, ES und PES sind von Natur aus robuster gegenüber Rauschen als das klassische EI, das ursprünglich für rauschfreie Szenarien konzipiert wurde.

2. Parallele Auswertungen

Um die Optimierung zu beschleunigen, können mehrere Funktionsauswertungen parallel durchgeführt werden. Hierfür wurden Erweiterungen der Akquisitionsfunktionen entwickelt (z.B. q-EI für Expected Improvement in Batches), die die Auswahl mehrerer Punkte gleichzeitig ermöglichen. Die Optimierung dieser parallelen Akquisitionsfunktionen ist jedoch komplexer.

3. Randbedingungen

Optimierungsprobleme sind oft an Randbedingungen geknüpft, die ebenfalls teuer zu evaluieren sein können. BO-Methoden wurden angepasst, um diese Randbedingungen zu berücksichtigen und sicherzustellen, dass nur zulässige Punkte vorgeschlagen werden.

4. Multi-Fidelity-Optimierung

In vielen Fällen stehen neben der teuren, hochgenauen Zielfunktion auch günstigere, weniger genaue Modelle (Low-Fidelity-Modelle) zur Verfügung. Multi-Fidelity-BO-Methoden nutzen diese unterschiedlichen Informationsquellen, um die Optimierung effizienter zu gestalten. Techniken wie Co-Kriging modellieren die Korrelation zwischen den verschiedenen Fidelity-Levels.

5. Hochdimensionale Probleme

Die Skalierbarkeit von BO auf hochdimensionale Suchräume (mehr als ca. 20 Dimensionen) ist eine aktive Forschungsrichtung. Ansätze umfassen die Annahme einer niedrigen intrinsischen Dimensionalität (z.B. durch lineare oder nichtlineare Einbettungen) oder einer additiven Struktur der Zielfunktion.

6. Kombinatorische Optimierung

Wenn der Suchraum diskrete oder kategoriale Variablen enthält, müssen spezielle Kernel-Funktionen oder Surrogatmodelle (z.B. auf Basis von Baumstrukturen oder Graphen) eingesetzt werden, um die Natur des Raumes adäquat zu modellieren.

7. Multi-Objective-Optimierung

Viele reale Probleme umfassen mehrere, oft widersprüchliche Ziele. Multi-Objective-BO-Algorithmen suchen nach einer Menge von Pareto-optimalen Lösungen, die einen Kompromiss zwischen den Zielen darstellen. Hierfür werden indikatorbasierte Akquisitionsfunktionen (z.B. Expected Hypervolume Improvement) oder die Kombination mit evolutionären Algorithmen eingesetzt.

8. Multi-Task-Optimierung und Transfer Learning

Wenn mehrere ähnliche Optimierungsaufgaben vorliegen, kann Wissen zwischen diesen Aufgaben transferiert werden, um den Optimierungsprozess zu beschleunigen. Multi-Task-Gaußsche Prozesse oder Meta-Initialisierung sind hier Ansätze.

9. Dynamische Optimierung und heterogene Kosten

Die Anpassung von BO an zeitlich veränderliche Zielfunktionen oder an Szenarien mit variierenden Auswertungskosten pro Punkt ist ebenfalls ein Bereich aktueller Forschung.

Software-Implementierungen

Für die Anwendung der Bayesschen Optimierung stehen verschiedene Softwarepakete zur Verfügung, die entweder eigenständig sind oder auf bestehenden Machine-Learning-Bibliotheken aufbauen. Einige prominente Beispiele sind:

• GPyOpt (Python): Basiert auf der Gaußschen Prozess-Bibliothek GPy.
• Spearmint (Python): Eine ältere, weit verbreitete Bibliothek.
• MOE (Metrics Optimization Engine) (C++ mit Python-Wrapper): Entwickelt von Yelp, unterstützt GPU-basierte Berechnungen.
• GPFlow und GPyTorch (Python): Gaußsche Prozess-Bibliotheken, die auf TensorFlow bzw. PyTorch aufbauen und oft in BO-Kontexten verwendet werden.
• pyAgrum (C++ und Python): Eine Open-Source-Bibliothek für Bayes-Netzwerke und andere probabilistische grafische Modelle.
• PyMC (Python): Ein Paket für Bayessche statistische Modellierung mit Fokus auf MCMC- und VI-Algorithmen, das auch für BO-Anwendungen genutzt werden kann.

Fazit

Die Bayessche Optimierung hat sich als unverzichtbares Werkzeug für die effiziente Optimierung komplexer, teurer Black-Box-Funktionen etabliert. Ihre Fähigkeit, Unsicherheit zu quantifizieren und den Trade-off zwischen Exploration und Exploitation zu steuern, macht sie besonders wertvoll in Bereichen, in denen jede Funktionsauswertung kostspielig ist. Die kontinuierliche Forschung erweitert ihre Anwendbarkeit auf immer komplexere Problemstellungen und verspricht weitere Fortschritte in der datengetriebenen Entdeckung und Optimierung.

Bibliography

• Frazier, P. I. (2018). A Tutorial on Bayesian Optimization. arXiv preprint arXiv:1807.02811.
• Wang, X., Jin, Y., Schmitt, S., & Olhofer, M. (2022). Recent Advances in Bayesian Optimization. arXiv preprint arXiv:2206.03301.
• Agnihotri, A. (2020). Exploring Bayesian Optimization. Distill.
• Brochu, E., Cora, M., & de Freitas, N. (2010). A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning. arXiv preprint arXiv:1012.2599.
• IEEE (2025). A Gentle Introduction to Bayesian Optimization. IEEE Conference Publication.
• Exa. (2026). pyAgrum. agrum.gitlab.io.
• Exa. (2026). PyMC. pymc.io.
• Exa. (2026). Towards Data Science. towardsdatascience.com.
• scite.ai. (n.d.). A Tutorial on Bayesian Optimization. scite.ai/reports/a-tutorial-on-bayesian-optimization-8GybamVa.