Menschen zeichnen sich dadurch aus, dass sie sich Problemen mit wenig bis gar keinen Vorkenntnissen und wenigen Interaktionen stellen können, in denen sie über die Probleme nachdenken, um angemessene Lösungen vorzuschlagen. Mit anderen Worten: Wenn ein Mensch auf eine unbekannte Funktion trifft, ist er in der Lage, mit wenigen Stichproben eine Variable zu finden, sodass die Auswertung dieser Variablen in der unbekannten Funktion ein zufriedenstellendes Ergebnis liefert. Da jedoch die unbekannte Funktion zunehmend nichtlinear wird und der Designraum x zunehmend abstrakter wird, wird es für einen Menschen schwieriger, Vorwissen rund um diese abstrahierte Black-Box-Funktion zu nutzen. Die Bayes'sche Optimierung hingegen bietet einen prinzipiellen Ansatz zur Schlussfolgerung über die typischerweise kostspielig auszuwertende unbekannte Funktion f und zur effizienten Untersuchung von Unsicherheitsbereichen. Allgegenwärtige Anwendungen der Bayes'schen Optimierung reichen von Hyperparameter-Tuning, Moleküldesign, Sensorplatzierung, Antennendesign und Laseroptimierung. Daher können Verbesserungen der Leistung der Bayes'schen Optimierung weitreichende Auswirkungen auf viele praktische Anwendungen haben. Die Bayesianische Optimierung bietet auch das große Potenzial, es Systemen zu ermöglichen, ihre Hyperparameter autonom zu optimieren und die Architekturen für maschinelles Lernen (AutoML) automatisch zu entwerfen.

In dieser Arbeit wollen wir den Erfolg von Bayes'schen Optimierungsalgorithmen vorantreiben, indem wir die ersten beiden Stufen im Detail noch einmal aufgreifen und dazu beitragen. In der ersten Phase wird das Ersatzmodell ausgewählt und typischerweise auf der Grundlage bestimmter Annahmen der unbekannten Funktion erstellt, z. B. ob die Funktion deterministisch oder stochastisch ist. Und wenn angenommen wird, dass es stochastisch ist, ist sein Rauschprozess homoskedastisch oder heteroskedastisch? Glauben wir, dass die unbekannte Funktion stationär oder instationär ist? Um die Auswirkungen dieser Annahmen zu beurteilen, betrachten wir ein breites Anwendungsspektrum zur Optimierung von Modellen für maschinelles Lernen in typischerweise untersuchten Bereichen. Wir stellen fest, dass wir durch die Überprüfung dieser anfänglichen Annahmen, die zu Beginn der Anwendung der Bayes'schen Optimierung aufgestellt wurden, einen neuartigen Algorithmus HEBO konstruieren können, der im Vergleich zu bestehenden Methoden eine Leistung auf dem neuesten Stand der Technik erreicht. HEBO wird auch extern verifiziert, indem unser Algorithmus beim NeurIPS 2020 Black-Box Optimization Challenge eingereicht wurde, wobei unsere vorgeschlagene Methode bei der Bewertung einer Vielzahl von ausstehenden Aufgaben den 1. Platz erreichte. Anschließend besuchen wir die zweite Stufe des Optimierungsprozesses und suchen nach neuen Möglichkeiten zur Optimierung der Erfassungsfunktionen, indem wir sie in ein mathematisch äquivalentes Kompositionsformat umwandeln, das die Anwendung einer neuen Familie von Kompositionsoptimierern ermöglicht. Wir zeigen, dass diese Zusammensetzungsmethoden in synthetischen und realen Experimenten in den meisten Anwendungen eine gute Leistung erbringen. Schließlich versuchen wir, eine Bayes'sche Optimierungsperspektive für eine sichere sequentielle Entscheidungsfindung umzusetzen und neue Erfassungsfunktionen vorzuschlagen, um den Fitnesswert für sicheres Verstärkungslernen zu bestimmen, und bewerten sie anhand einer Vielzahl anspruchsvoller Benchmarks wie eingeschränktes Roboterauto, eingeschränkter Punktroboter, eingeschränkte Roboterarmsteuerung, eingeschränktes Pendel und eingeschränktes Doppelpendel. Dabei haben alle Roboteraktuatoren die Aufgabe, einen Zielzustand zu lesen und gleichzeitig einen im Zustandsraum definierten unsicheren Bereich zu meiden. Wir stellen fest, dass die Integration einer Erfassungsfunktion dabei hilft, die Exploration zu leiten und zu einer verbesserten Probenkomplexität bei der Erlangung sicherer Richtlinien in Schulung und Bewertung führt.

Zusammenfassend lässt sich sagen, dass wir einen neuen Bayes'schen Optimierungsalgorithmus entwickelt haben, der sich sowohl intern im Vergleich zu früheren Black-Box-Optimierungsalgorithmen als auch extern im NeurIPS 2020 Black-Box-Optimierungswettbewerb erfolgreich als State-of-the-Art erwiesen hat. Es wurde gezeigt, dass HEBO bei bestimmten Black-Box-Optimierungsaufgaben zwei Größenordnungen effizienter bei der Stichprobe ist als die Zufallssuche. Wir haben auch neuartige Formulierungen beliebter Erfassungsfunktionen in einem mathematisch äquivalenten Kompositionsrahmen eingeführt, was es uns ermöglicht, das gut untersuchte Gebiet der Kompositionsoptimierung miteinander zu verbinden und den Erfolg dieser Vorgehensweise bei häufig untersuchten synthetischen und realen Bayes'schen Optimierungsbenchmarks zu zeigen. Abschließend untersuchen wir das wichtige Problem der sicheren sequentiellen Entscheidungsfindung und konstruieren neuartige Erfassungsfunktionen, die es Agenten ermöglichen, ihre Umgebung sicher zu erkunden.