Distributed online training of data-driven combustion models in reactive flow simulations

RWTH Publications (RWTH Aachen)

Abstract

Diese Arbeit behandelt das Trainieren von Machine Learning Modellen basierend auf Daten von hocheffizienter Simulationssoftware. Da das Trainieren von solchen Modell viele Epochen und Datenproben benötigt um qualitative Ergebnisse zu erzielen, ist es wichtig zu garantieren, dass der Prozess nicht durch Einschränkungen in der Bandbreite gehindert ist.Der gängige Ablauf ist, dass die Daten in einem ersten Schritt von der Simulation erstellt und auf einen Datenträger gespeichert werden.Im zweiten Schritt werden diese Daten dann erneut gelesen und von dem Modell verarbeitet.Häufig laufen beide Schritt in direkter Reihenfolge ab, sodass es eine Belastung des Datenträgers nicht notwendig ist.Zusätzlich kann man Datenvolumen erzeugen, die mehrere Terabyte umfassen und somit ohnehin nicht mehr auf jedes beliebige Medium geschrieben werden können.Hier werden dann Kapazität und Datenrate für Leseund Schreibvorgänge zu einem Engpass, der das Trainieren unnötigerweise behindet.Es ist das Ziel dieser Arbeit, aufbauen von existieren Ansätzen, eine Lösung zu diesem Problem zu finden und es konkret auf Wasserstoffverbrennungs-Simulationen anzuwenden.Die bisherigen Softwarekomponenten rund um der Simulationssoftware CIAO und der Bibliothek AIxeleratorService sollen erweitert werden um die Fähigkeiten zu erlangen Modelle auf den Daten zu trainieren.Das Konzept wird in die bestehende Architektur integriert und seine Funktionstüchtigkeit vorgestellt.In der anschließenden Auswertung zeigt sich, dass im Vergleich zu traditionellen Ansätzen neue Effekte auftreten können, die das Lernen beeinträchtigen können.Zusätzlich findet eine genauere Analyse der Eingabedaten heraus, dass ein Großteil der Simulationsdaten wenig bis gar nichts zu der Qualität des Modells beiträgt und nicht berücksichtigt werden muss.Diese Datenpunkte lassen sich vor dem Training über ihre Varianz herausfiltern, sodass hierfür keine GPU Zeit verwendet werden muss.In einer abschließenden Beurteilung der Laufzeit stellt sich des Weiteren heraus, dass, obwohl unsere Umsetzung eine gute Laufzeit erzielt, die Gesamtlaufzeit stark durch die Simulationssoftware dominiert wird.

Authors 1

1. Tim Munoz Andres corresponding Aachen

   RWTH Aachen University

   Affiliation as printed

   RWTH Aachen