Verfahren und Vorrichtung zum Ermitteln von Netzkonfigurationen eines neuronalen Netzes unter Erfüllung einer Mehrzahl von Nebenbedingungen

Research output: Patent

Inventors

  • Frank Hutter (Inventor)
  • Guilherme Miotto (Inventor)
  • Marius Lindauer (Inventor)
  • Thomas Elsken (Inventor)

Research Organisations

View graph of relations

Details

Original languageGerman
Patent numberDE102021109754
IPCG06N 3/ 08 A I
Priority date19 Apr 2021
Publication statusPublished - 20 Oct 2022

Abstract

Die Erfindung betrifft ein Verfahren zum Ermitteln einer Pareto Menge von Netzkonfigurationen, mit folgenden Schritten: Bereitstellen (S1) einer Mehrzahl von zufällig ausgewählten Netzkonfigurationen (α). Dann folgt ein Ermitteln von Hyperparameter (λ) für jeder der bereitgestellten Netzkonfigurationen (α) mittels eines Optimierers und ein Trainieren von neuronalen Netzen konfiguriert abhängig von bereitgestellten Netzkonfigurationen (α) und abhängig von den jeweils zugehörigen ermittelten Hyperparameter (λ) auf den bereitgestellten Trainingsdaten sowie ein Ermitteln für jedes der trainierten neuronalen Netze eine Performance (accurancy). Anschließend wird ein Anpassen des Optimierers abhängig von Netzkonfigurationen (α), Hyperparameter (λ) und Performance ausgeführt. Es folgt ein wiederholtes Ausführen von einem Auswählen (S3) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz sowie eines zufälligen Mutieren (S4) der ausgewählten Netzkonfigurationen und Ausführen der Schritte zum Evaluieren der mutierten Netzkonfigurationen. Anschließend wird ein wiederholtes Ausführen folgender Schritte ausgeführt. Auswählen (S5) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz und Komprimieren (engl. Pruning) (S6) der ausgewählten Netzkonfigurationen sowie ein Evaluieren der komprimierten Netzkonfigurationen.

Cite this

Verfahren und Vorrichtung zum Ermitteln von Netzkonfigurationen eines neuronalen Netzes unter Erfüllung einer Mehrzahl von Nebenbedingungen. / Hutter, Frank (Inventor); Miotto, Guilherme (Inventor); Lindauer, Marius (Inventor) et al.
Patent No.: DE102021109754. Oct 20, 2022.

Research output: Patent

Download
@misc{8d560700f7aa4257a75507d99acc0dff,
title = "Verfahren und Vorrichtung zum Ermitteln von Netzkonfigurationen eines neuronalen Netzes unter Erf{\"u}llung einer Mehrzahl von Nebenbedingungen",
abstract = "Die Erfindung betrifft ein Verfahren zum Ermitteln einer Pareto Menge von Netzkonfigurationen, mit folgenden Schritten: Bereitstellen (S1) einer Mehrzahl von zuf{\"a}llig ausgew{\"a}hlten Netzkonfigurationen (α). Dann folgt ein Ermitteln von Hyperparameter (λ) f{\"u}r jeder der bereitgestellten Netzkonfigurationen (α) mittels eines Optimierers und ein Trainieren von neuronalen Netzen konfiguriert abh{\"a}ngig von bereitgestellten Netzkonfigurationen (α) und abh{\"a}ngig von den jeweils zugeh{\"o}rigen ermittelten Hyperparameter (λ) auf den bereitgestellten Trainingsdaten sowie ein Ermitteln f{\"u}r jedes der trainierten neuronalen Netze eine Performance (accurancy). Anschlie{\ss}end wird ein Anpassen des Optimierers abh{\"a}ngig von Netzkonfigurationen (α), Hyperparameter (λ) und Performance ausgef{\"u}hrt. Es folgt ein wiederholtes Ausf{\"u}hren von einem Ausw{\"a}hlen (S3) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz sowie eines zuf{\"a}lligen Mutieren (S4) der ausgew{\"a}hlten Netzkonfigurationen und Ausf{\"u}hren der Schritte zum Evaluieren der mutierten Netzkonfigurationen. Anschlie{\ss}end wird ein wiederholtes Ausf{\"u}hren folgender Schritte ausgef{\"u}hrt. Ausw{\"a}hlen (S5) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz und Komprimieren (engl. Pruning) (S6) der ausgew{\"a}hlten Netzkonfigurationen sowie ein Evaluieren der komprimierten Netzkonfigurationen.",
author = "Frank Hutter and Guilherme Miotto and Marius Lindauer and Thomas Elsken",
year = "2022",
month = oct,
day = "20",
language = "Deutsch",
type = "Patent",
note = "DE102021109754; G06N 3/ 08 A I",

}

Download

TY - PAT

T1 - Verfahren und Vorrichtung zum Ermitteln von Netzkonfigurationen eines neuronalen Netzes unter Erfüllung einer Mehrzahl von Nebenbedingungen

AU - Hutter, Frank

AU - Miotto, Guilherme

AU - Lindauer, Marius

AU - Elsken, Thomas

PY - 2022/10/20

Y1 - 2022/10/20

N2 - Die Erfindung betrifft ein Verfahren zum Ermitteln einer Pareto Menge von Netzkonfigurationen, mit folgenden Schritten: Bereitstellen (S1) einer Mehrzahl von zufällig ausgewählten Netzkonfigurationen (α). Dann folgt ein Ermitteln von Hyperparameter (λ) für jeder der bereitgestellten Netzkonfigurationen (α) mittels eines Optimierers und ein Trainieren von neuronalen Netzen konfiguriert abhängig von bereitgestellten Netzkonfigurationen (α) und abhängig von den jeweils zugehörigen ermittelten Hyperparameter (λ) auf den bereitgestellten Trainingsdaten sowie ein Ermitteln für jedes der trainierten neuronalen Netze eine Performance (accurancy). Anschließend wird ein Anpassen des Optimierers abhängig von Netzkonfigurationen (α), Hyperparameter (λ) und Performance ausgeführt. Es folgt ein wiederholtes Ausführen von einem Auswählen (S3) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz sowie eines zufälligen Mutieren (S4) der ausgewählten Netzkonfigurationen und Ausführen der Schritte zum Evaluieren der mutierten Netzkonfigurationen. Anschließend wird ein wiederholtes Ausführen folgender Schritte ausgeführt. Auswählen (S5) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz und Komprimieren (engl. Pruning) (S6) der ausgewählten Netzkonfigurationen sowie ein Evaluieren der komprimierten Netzkonfigurationen.

AB - Die Erfindung betrifft ein Verfahren zum Ermitteln einer Pareto Menge von Netzkonfigurationen, mit folgenden Schritten: Bereitstellen (S1) einer Mehrzahl von zufällig ausgewählten Netzkonfigurationen (α). Dann folgt ein Ermitteln von Hyperparameter (λ) für jeder der bereitgestellten Netzkonfigurationen (α) mittels eines Optimierers und ein Trainieren von neuronalen Netzen konfiguriert abhängig von bereitgestellten Netzkonfigurationen (α) und abhängig von den jeweils zugehörigen ermittelten Hyperparameter (λ) auf den bereitgestellten Trainingsdaten sowie ein Ermitteln für jedes der trainierten neuronalen Netze eine Performance (accurancy). Anschließend wird ein Anpassen des Optimierers abhängig von Netzkonfigurationen (α), Hyperparameter (λ) und Performance ausgeführt. Es folgt ein wiederholtes Ausführen von einem Auswählen (S3) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz sowie eines zufälligen Mutieren (S4) der ausgewählten Netzkonfigurationen und Ausführen der Schritte zum Evaluieren der mutierten Netzkonfigurationen. Anschließend wird ein wiederholtes Ausführen folgender Schritte ausgeführt. Auswählen (S5) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz und Komprimieren (engl. Pruning) (S6) der ausgewählten Netzkonfigurationen sowie ein Evaluieren der komprimierten Netzkonfigurationen.

M3 - Patent

M1 - DE102021109754

ER -

By the same author(s)