Bridging Black-Box Optimization and Machine Learning for Dynamic Algorithm Configuration 

Die Wahl des optimalen Lösers für ein gegebenes Optimierungsproblem hängt stark von der Problemcharakteristik sowie den gegebenen Rechnerressourcen ab. Automatisiertes Maschinelles Lernen (AutoML) hilft in der Auswahl und Konfiguration des Lösers. Bislang waren die AutoML Ansätze jedoch auf statische Selektion und Konfiguration eines Algorithmus beschränkt, was den Fakt außer Acht lässt, dass die beste Wahl sich drastisch im Verlauf des Optimierungsprozesses ändern kann. Zum Beispiel könnte am Anfang ein eher exploratives und am Ende ein eher exploitatives Verhalten optimal sein. Dynamische Algorithmus Konfiguration (DAC) selektiert explizit basierend auf dem aktuellen Zustand. Das Opt4DAC Projekt bringt Experten in Optimierung und in AutoML zusammen, die danach streben, Ansätze zum dynamischen Wechsel zwischen Lösern und Konfigurationen zu entwickeln. Genauer, Ziele sind (i) warm-starting von Lösern mit vorherigen Optimierungsläufen, (ii) Design von Merkmalen, die den Optimierungsprozesszustand beschreiben, und (iii) Mechanismen zur Detektion eines Konfigurationswechsels. Theoretische Erkenntnisse werden durch empirische Evaluationen ergänzt, von der Konfiguration von evolutionären Algorithmen hin zu klassischer Black-Box Optimierung via Bayesian Optimization für Hyperparameteroptimierung von tiefen neuronalen Netzen.