Parallele adaptive Schwarmsuche für Blackbox-Probleme

Research output: ThesisDoctoral thesis

Authors

  • Romeo Shuka
View graph of relations

Details

Original languageGerman
QualificationDoctor of Engineering
Awarding Institution
Supervised by
  • Jürgen Brehm, Supervisor
Date of Award23 Sept 2019
Place of PublicationHannover
Publication statusPublished - 2019

Abstract

In der heutigen Wissenschaft und Wirtschaft haben wir es oft mit Systemen zu tun, welche aus Problemen bestehen, die sehr komplex und nicht einfach zu lösen sind. Aufgrund der zunehmenden Komplexität und der teilweise fehlenden Informationen ist es bereits heutzutage nicht mehr möglich, solche Probleme – welche als Blackbox-Probleme klassifiziert werden – per Hand zu lösen. Um das Maximum oder Minimum einer Funktion zu finden, wird auf Optimierungsmethoden zurückgegriffen, die uns ermöglichen, eine optimale Lösung für das Problem zu suchen und ggf. zu finden. Stochastische Methoden haben in den letzten Jahren gezeigt, dass sie sehr gut geeignet sind, solche Probleme zu lösen. Der Vorteil der Verwendung von stochastischen Methoden ist, dass sie nicht den Gradienten des zu optimierenden Problems verwenden, so dass sie sowohl bei großen als auch bei komplexen Optimierungsproblemen erfolgreich angewendet werden können. Diese Vielseitigkeit hat aber ihren Preis. Es gibt hauptsächlich drei wesentliche Aspekte, die die Effizienz der Lösung beeinträchtigen: 1. Die realen Probleme werden immer größer und komplizierter, was erhebliche Ressourcen in Zeit und Hardware erfordert. 2. Optimierungsprobleme sind durch mehrere lokale Optima charakterisiert, die ein Verfahren zur Vermeidung einer zu frühen Konvergenz erfordern. 3. Algorithmen erfordern einige problembedingte Anpassungen ihrer Verhaltensparameter, um bessere Ergebnisse zu erzielen. In dieser Arbeit wird ein Framework (Parallel Adaptive Swarm Search - PASS) vorgestellt, das die Ermittlung der möglichst optimalen Lösung für Black-box Pro- bleme gewährleistet. Durch das Framework kann der Nutzer ein Mapping des Algorithmus an die vorhandene Hardware und Software (Problemart) realisieren. Das Problem der Parallelisierung wird durch die Umwandlung des Algorithmus von seriell zu parallel gelöst. Das Problem des Stillstands wird durch das Benut- zen des Island Models behandelt und für das Problem der Adaptivität wird ein neuer Suchalgorithmus vorgestellt, welcher die Suche der optimalen Parameter beschleunigt. In dieser Arbeit wird PASS mit bekannten Verfahren aus der Literatur (wie z.B. Particle Swarm Optimization, Differential Evolution, Artificial Bee Colony usw.) mit unterschiedlichen Benchmark-Problemen verglichen. Die erste Gruppe der Benchmark-Probleme besteht aus synthetischen Funktionen bekannt aus der Literatur (wie z.B. Rastrigin Funktion, Rosenbrock Funktion) und die zweite Gruppe besteht aus Problemen aus der realen Welt. Untersuchungen in dieser Arbeit haben gezeigt, dass die Anpassungen zu besse- ren Ergebnissen führen. Durch die adaptive Natur des Frameworks, ist es in vielen Rechnerarchitekturen nutzbar und für viele Probleme anwendbar.

Cite this

Parallele adaptive Schwarmsuche für Blackbox-Probleme. / Shuka, Romeo.
Hannover, 2019. 160 p.

Research output: ThesisDoctoral thesis

Shuka, R 2019, 'Parallele adaptive Schwarmsuche für Blackbox-Probleme', Doctor of Engineering, Leibniz University Hannover, Hannover. https://doi.org/10.15488/5518
Shuka, R. (2019). Parallele adaptive Schwarmsuche für Blackbox-Probleme. [Doctoral thesis, Leibniz University Hannover]. https://doi.org/10.15488/5518
Shuka R. Parallele adaptive Schwarmsuche für Blackbox-Probleme. Hannover, 2019. 160 p. doi: 10.15488/5518
Shuka, Romeo. / Parallele adaptive Schwarmsuche für Blackbox-Probleme. Hannover, 2019. 160 p.
Download
@phdthesis{0471b472fdd140a3b51e5a18dc35c738,
title = "Parallele adaptive Schwarmsuche f{\"u}r Blackbox-Probleme",
abstract = "In der heutigen Wissenschaft und Wirtschaft haben wir es oft mit Systemen zu tun, welche aus Problemen bestehen, die sehr komplex und nicht einfach zu l{\"o}sen sind. Aufgrund der zunehmenden Komplexit{\"a}t und der teilweise fehlenden Informationen ist es bereits heutzutage nicht mehr m{\"o}glich, solche Probleme – welche als Blackbox-Probleme klassifiziert werden – per Hand zu l{\"o}sen. Um das Maximum oder Minimum einer Funktion zu finden, wird auf Optimierungsmethoden zur{\"u}ckgegriffen, die uns erm{\"o}glichen, eine optimale L{\"o}sung f{\"u}r das Problem zu suchen und ggf. zu finden. Stochastische Methoden haben in den letzten Jahren gezeigt, dass sie sehr gut geeignet sind, solche Probleme zu l{\"o}sen. Der Vorteil der Verwendung von stochastischen Methoden ist, dass sie nicht den Gradienten des zu optimierenden Problems verwenden, so dass sie sowohl bei gro{\ss}en als auch bei komplexen Optimierungsproblemen erfolgreich angewendet werden k{\"o}nnen. Diese Vielseitigkeit hat aber ihren Preis. Es gibt haupts{\"a}chlich drei wesentliche Aspekte, die die Effizienz der L{\"o}sung beeintr{\"a}chtigen: 1. Die realen Probleme werden immer gr{\"o}{\ss}er und komplizierter, was erhebliche Ressourcen in Zeit und Hardware erfordert. 2. Optimierungsprobleme sind durch mehrere lokale Optima charakterisiert, die ein Verfahren zur Vermeidung einer zu fr{\"u}hen Konvergenz erfordern. 3. Algorithmen erfordern einige problembedingte Anpassungen ihrer Verhaltensparameter, um bessere Ergebnisse zu erzielen. In dieser Arbeit wird ein Framework (Parallel Adaptive Swarm Search - PASS) vorgestellt, das die Ermittlung der m{\"o}glichst optimalen L{\"o}sung f{\"u}r Black-box Pro- bleme gew{\"a}hrleistet. Durch das Framework kann der Nutzer ein Mapping des Algorithmus an die vorhandene Hardware und Software (Problemart) realisieren. Das Problem der Parallelisierung wird durch die Umwandlung des Algorithmus von seriell zu parallel gel{\"o}st. Das Problem des Stillstands wird durch das Benut- zen des Island Models behandelt und f{\"u}r das Problem der Adaptivit{\"a}t wird ein neuer Suchalgorithmus vorgestellt, welcher die Suche der optimalen Parameter beschleunigt. In dieser Arbeit wird PASS mit bekannten Verfahren aus der Literatur (wie z.B. Particle Swarm Optimization, Differential Evolution, Artificial Bee Colony usw.) mit unterschiedlichen Benchmark-Problemen verglichen. Die erste Gruppe der Benchmark-Probleme besteht aus synthetischen Funktionen bekannt aus der Literatur (wie z.B. Rastrigin Funktion, Rosenbrock Funktion) und die zweite Gruppe besteht aus Problemen aus der realen Welt. Untersuchungen in dieser Arbeit haben gezeigt, dass die Anpassungen zu besse- ren Ergebnissen f{\"u}hren. Durch die adaptive Natur des Frameworks, ist es in vielen Rechnerarchitekturen nutzbar und f{\"u}r viele Probleme anwendbar.",
author = "Romeo Shuka",
year = "2019",
doi = "10.15488/5518",
language = "Deutsch",
school = "Gottfried Wilhelm Leibniz Universit{\"a}t Hannover",

}

Download

TY - BOOK

T1 - Parallele adaptive Schwarmsuche für Blackbox-Probleme

AU - Shuka, Romeo

PY - 2019

Y1 - 2019

N2 - In der heutigen Wissenschaft und Wirtschaft haben wir es oft mit Systemen zu tun, welche aus Problemen bestehen, die sehr komplex und nicht einfach zu lösen sind. Aufgrund der zunehmenden Komplexität und der teilweise fehlenden Informationen ist es bereits heutzutage nicht mehr möglich, solche Probleme – welche als Blackbox-Probleme klassifiziert werden – per Hand zu lösen. Um das Maximum oder Minimum einer Funktion zu finden, wird auf Optimierungsmethoden zurückgegriffen, die uns ermöglichen, eine optimale Lösung für das Problem zu suchen und ggf. zu finden. Stochastische Methoden haben in den letzten Jahren gezeigt, dass sie sehr gut geeignet sind, solche Probleme zu lösen. Der Vorteil der Verwendung von stochastischen Methoden ist, dass sie nicht den Gradienten des zu optimierenden Problems verwenden, so dass sie sowohl bei großen als auch bei komplexen Optimierungsproblemen erfolgreich angewendet werden können. Diese Vielseitigkeit hat aber ihren Preis. Es gibt hauptsächlich drei wesentliche Aspekte, die die Effizienz der Lösung beeinträchtigen: 1. Die realen Probleme werden immer größer und komplizierter, was erhebliche Ressourcen in Zeit und Hardware erfordert. 2. Optimierungsprobleme sind durch mehrere lokale Optima charakterisiert, die ein Verfahren zur Vermeidung einer zu frühen Konvergenz erfordern. 3. Algorithmen erfordern einige problembedingte Anpassungen ihrer Verhaltensparameter, um bessere Ergebnisse zu erzielen. In dieser Arbeit wird ein Framework (Parallel Adaptive Swarm Search - PASS) vorgestellt, das die Ermittlung der möglichst optimalen Lösung für Black-box Pro- bleme gewährleistet. Durch das Framework kann der Nutzer ein Mapping des Algorithmus an die vorhandene Hardware und Software (Problemart) realisieren. Das Problem der Parallelisierung wird durch die Umwandlung des Algorithmus von seriell zu parallel gelöst. Das Problem des Stillstands wird durch das Benut- zen des Island Models behandelt und für das Problem der Adaptivität wird ein neuer Suchalgorithmus vorgestellt, welcher die Suche der optimalen Parameter beschleunigt. In dieser Arbeit wird PASS mit bekannten Verfahren aus der Literatur (wie z.B. Particle Swarm Optimization, Differential Evolution, Artificial Bee Colony usw.) mit unterschiedlichen Benchmark-Problemen verglichen. Die erste Gruppe der Benchmark-Probleme besteht aus synthetischen Funktionen bekannt aus der Literatur (wie z.B. Rastrigin Funktion, Rosenbrock Funktion) und die zweite Gruppe besteht aus Problemen aus der realen Welt. Untersuchungen in dieser Arbeit haben gezeigt, dass die Anpassungen zu besse- ren Ergebnissen führen. Durch die adaptive Natur des Frameworks, ist es in vielen Rechnerarchitekturen nutzbar und für viele Probleme anwendbar.

AB - In der heutigen Wissenschaft und Wirtschaft haben wir es oft mit Systemen zu tun, welche aus Problemen bestehen, die sehr komplex und nicht einfach zu lösen sind. Aufgrund der zunehmenden Komplexität und der teilweise fehlenden Informationen ist es bereits heutzutage nicht mehr möglich, solche Probleme – welche als Blackbox-Probleme klassifiziert werden – per Hand zu lösen. Um das Maximum oder Minimum einer Funktion zu finden, wird auf Optimierungsmethoden zurückgegriffen, die uns ermöglichen, eine optimale Lösung für das Problem zu suchen und ggf. zu finden. Stochastische Methoden haben in den letzten Jahren gezeigt, dass sie sehr gut geeignet sind, solche Probleme zu lösen. Der Vorteil der Verwendung von stochastischen Methoden ist, dass sie nicht den Gradienten des zu optimierenden Problems verwenden, so dass sie sowohl bei großen als auch bei komplexen Optimierungsproblemen erfolgreich angewendet werden können. Diese Vielseitigkeit hat aber ihren Preis. Es gibt hauptsächlich drei wesentliche Aspekte, die die Effizienz der Lösung beeinträchtigen: 1. Die realen Probleme werden immer größer und komplizierter, was erhebliche Ressourcen in Zeit und Hardware erfordert. 2. Optimierungsprobleme sind durch mehrere lokale Optima charakterisiert, die ein Verfahren zur Vermeidung einer zu frühen Konvergenz erfordern. 3. Algorithmen erfordern einige problembedingte Anpassungen ihrer Verhaltensparameter, um bessere Ergebnisse zu erzielen. In dieser Arbeit wird ein Framework (Parallel Adaptive Swarm Search - PASS) vorgestellt, das die Ermittlung der möglichst optimalen Lösung für Black-box Pro- bleme gewährleistet. Durch das Framework kann der Nutzer ein Mapping des Algorithmus an die vorhandene Hardware und Software (Problemart) realisieren. Das Problem der Parallelisierung wird durch die Umwandlung des Algorithmus von seriell zu parallel gelöst. Das Problem des Stillstands wird durch das Benut- zen des Island Models behandelt und für das Problem der Adaptivität wird ein neuer Suchalgorithmus vorgestellt, welcher die Suche der optimalen Parameter beschleunigt. In dieser Arbeit wird PASS mit bekannten Verfahren aus der Literatur (wie z.B. Particle Swarm Optimization, Differential Evolution, Artificial Bee Colony usw.) mit unterschiedlichen Benchmark-Problemen verglichen. Die erste Gruppe der Benchmark-Probleme besteht aus synthetischen Funktionen bekannt aus der Literatur (wie z.B. Rastrigin Funktion, Rosenbrock Funktion) und die zweite Gruppe besteht aus Problemen aus der realen Welt. Untersuchungen in dieser Arbeit haben gezeigt, dass die Anpassungen zu besse- ren Ergebnissen führen. Durch die adaptive Natur des Frameworks, ist es in vielen Rechnerarchitekturen nutzbar und für viele Probleme anwendbar.

U2 - 10.15488/5518

DO - 10.15488/5518

M3 - Dissertation

CY - Hannover

ER -