Scalable data-driven methods for advanced molecular-continuum flow simulation
Translated title
Skalierbare datengesteuerte Methoden für fortgeschrittene Strömungssimulation mit gekoppelten Kontinuums- und Partikelverfahren
Publication date
2026-05-13
Document type
Dissertation
Author
Advisor
Referee
Li, Zhen
Granting institution
Helmut-Schmidt-Universität/Universität der Bundeswehr Hamburg
Exam date
2026-04-20
Organisational unit
Publisher
Universitätsbibliothek der HSU/UniBw H
Is a format of
Is supplemented by
Part of the university bibliography
✅
File(s)
Language
English
DDC Class
004 Informatik
Keyword
Hochleistungsrechnen
Multiskalensimulation
Maschinelles Lernen
Abstract
EN:
Fluid flow phenomena play an important role across a spectrum of disciplines in science and engineering. Since experiments are not always an efficient or feasible way to study them, computer simulations of these phenomena have turned out to be one of the essential tools for progress in this area. However, computational fluid dynamics is a challenging field, especially when characteristics on multiple length and time scales need to be captured. Coupled methods are one way to simulate such a flow. They constitute a compromise between the physical accuracy of a fine-scale method and the computational efficiency of a coarse-scale method, providing a way to combine the best aspects of both methods. Coupling, in a domain decomposition sense, allows fine-scale details to be present only in the small region of interest where they are needed, while the coarse-scale method allows the modeling of a larger domain.
Basic coupled methods and software come with many limitations, since inconsistent or noisy coupling data and the required computational resources restrict the applicability. The simulation execution time is the most critical aspect that needs to be enhanced in order to accelerate the availability of results and generate new scientific insights. Thus, the utilization of high-performance computing systems, adequate parallelization methods and well-chosen software designs are often inevitable. However, when aiming to benefit from recent and upcoming computing systems with a large number of cores, the scalability of the simulation methods limits the reachable execution times. Scalable performance enhancements hence offer the scientific value of enabling emerging future applications which would otherwise be infeasible.
One example of coupled methods for multiscale flows are molecular-continuum simulations, where the fine-scale method is a molecular dynamics system, i.e. a particle-based solver that explicitly determines individual trajectories based on molecule interaction potentials. A molecular-continuum simulation software is given by MaMiCo, an open source coupling framework with modular software design for massively parallel execution on high-performance computing systems. Prior to the developments in the scope of this thesis, MaMiCo does not incorporate coupling data-driven enhancements such as advanced noise filters, machine learning surrogates, or temporal parallelization.
This thesis presents extensions of MaMiCo by new features, leading to three novel ways to enhance multiscale flow simulations based on data-driven analysis of the coupling data. First, thermal noise filtering methods make the coupling data more consistent across models on different scales. A novel space-time formulation of the non-local means algorithm is introduced, outperforming conventional filtering methods. Second, machine learning-based surrogates reduce computational cost of expensive fine-scale solvers. An advanced hybrid model architecture is presented where a convolutional autoencoder deals with the spatial extent of the flow data, while a recurrent neural network is used to capture its temporal correlation. Third, parallel-in-time integration allows to expand a coupled simulation to multiple temporal scales. An implementation based on a variant of the Parareal algorithm is presented here, where a Lattice Boltzmann solver is used as hydrodynamic predictor to supervise the microscopic system in time. The capabilities of the novel data-driven enhancements are demonstrated in molecular-continuum flow scenarios including a three-dimensional Couette flow and a vortex street scenario. Large-scale MaMiCo scalability experiments on supercomputing platforms validate the benefits of the presented new methods.
Fluid flow phenomena play an important role across a spectrum of disciplines in science and engineering. Since experiments are not always an efficient or feasible way to study them, computer simulations of these phenomena have turned out to be one of the essential tools for progress in this area. However, computational fluid dynamics is a challenging field, especially when characteristics on multiple length and time scales need to be captured. Coupled methods are one way to simulate such a flow. They constitute a compromise between the physical accuracy of a fine-scale method and the computational efficiency of a coarse-scale method, providing a way to combine the best aspects of both methods. Coupling, in a domain decomposition sense, allows fine-scale details to be present only in the small region of interest where they are needed, while the coarse-scale method allows the modeling of a larger domain.
Basic coupled methods and software come with many limitations, since inconsistent or noisy coupling data and the required computational resources restrict the applicability. The simulation execution time is the most critical aspect that needs to be enhanced in order to accelerate the availability of results and generate new scientific insights. Thus, the utilization of high-performance computing systems, adequate parallelization methods and well-chosen software designs are often inevitable. However, when aiming to benefit from recent and upcoming computing systems with a large number of cores, the scalability of the simulation methods limits the reachable execution times. Scalable performance enhancements hence offer the scientific value of enabling emerging future applications which would otherwise be infeasible.
One example of coupled methods for multiscale flows are molecular-continuum simulations, where the fine-scale method is a molecular dynamics system, i.e. a particle-based solver that explicitly determines individual trajectories based on molecule interaction potentials. A molecular-continuum simulation software is given by MaMiCo, an open source coupling framework with modular software design for massively parallel execution on high-performance computing systems. Prior to the developments in the scope of this thesis, MaMiCo does not incorporate coupling data-driven enhancements such as advanced noise filters, machine learning surrogates, or temporal parallelization.
This thesis presents extensions of MaMiCo by new features, leading to three novel ways to enhance multiscale flow simulations based on data-driven analysis of the coupling data. First, thermal noise filtering methods make the coupling data more consistent across models on different scales. A novel space-time formulation of the non-local means algorithm is introduced, outperforming conventional filtering methods. Second, machine learning-based surrogates reduce computational cost of expensive fine-scale solvers. An advanced hybrid model architecture is presented where a convolutional autoencoder deals with the spatial extent of the flow data, while a recurrent neural network is used to capture its temporal correlation. Third, parallel-in-time integration allows to expand a coupled simulation to multiple temporal scales. An implementation based on a variant of the Parareal algorithm is presented here, where a Lattice Boltzmann solver is used as hydrodynamic predictor to supervise the microscopic system in time. The capabilities of the novel data-driven enhancements are demonstrated in molecular-continuum flow scenarios including a three-dimensional Couette flow and a vortex street scenario. Large-scale MaMiCo scalability experiments on supercomputing platforms validate the benefits of the presented new methods.
DE:
Strömungsphänomene von Fluiden spielen eine wichtige Rolle in einer Bandbreite von wissenschaftlichen Disziplinen und Ingenieursdisziplinen. Experimente sind nicht immer ein effizienter oder umsetzbarer Weg, diese Phänomene zu untersuchen, daher hat sich ihre Computersimulation als ein essentielles Werkzeug für wissenschaftlichen Fortschritt erwiesen. Allerdings ist die numerische Strömungsmechanik ein anspruchsvolles Fachgebiet, insbesondere dann, wenn Charakteristiken über mehreren Längen- und Zeitskalen hinweg erfasst werden müssen. Gekoppelte Methoden sind eine Möglichkeit, eine derartige Strömung zu simulieren. Sie stellen einen Kompromiss dar zwischen der physikalischen Genauigkeit einer feinskaligen Methode und der numerischen Effizienz einer grobskaligen Methode. Damit bieten sie eine Art und Weise, die besten Aspekte beider Methoden zu kombinieren. Eine Kopplung durch eine Gebietszerlegung ermöglicht es, dass feinskalige Details nur in einer kleinen Region des Interesses vorliegen, wo diese benötigt werden, während die grobskalige Methode es ermöglicht, ein größeres Gebiet zu modellieren.
Einfache gekoppelte Methoden und Software haben viele Einschränkungen, da inkonsistente oder verrauschte Kopplungsdaten sowie die erforderlichen Rechenressourcen die Anwendbarkeit limitieren. Die Ausführungszeit der Simulation ist der kritischste Aspekt, der verbessert werden muss, um die Verfügbarkeit von Ergebnissen zu beschleunigen und neue wissenschaftliche Erkenntnisse zu generieren. Daher sind oft die Verwendung von Hochleistungsrechensystemen, angemessene Parallelisierungsmethoden und gut gewählte Softwaredesigns unumgänglich. Allerdings begrenzt die Skalierbarkeit der Simulationsmethoden die erreichbaren Ausführungszeiten, insbesondere dann, wenn beabsichtigt wird, von aktuellen und zukünftigen Rechensystemen mit einer großen Anzahl von Rechenkernen zu profitieren. Skalierbare Leistungsverbesserungen bieten daher einen wissenschaftlichen Wert, denn sie ermöglichen aufkommende zukünftige Anwendungen, die andernfalls nicht machbar wären.
Ein Beispiel gekoppelter Methoden für Mehrskalenströmungen sind Simulationen mit gekoppelten Kontinuums- und Partikelverfahren, bei denen die feinskalige Methode ein Molekulardynamiksystem ist, d.h. ein partikelbasierter Löser, der basierend auf den Interaktionspotentialen der Moleküle explizit die einzelnen Trajektorien bestimmt. Eine Software für solche gekoppelten Simulationen ist MaMiCo, ein quelloffenes Framework mit modularen Softwaredesign für massiv parallele Ausführung auf Hochleistungsrechensystemen. Vor den Entwicklungen im Rahmen dieser Arbeit waren in MaMiCo noch keine datengesteuerten Verbesserungen wie fortgeschrittene Rauschfilter, auf maschinellen Lernen basierende Ersatzmodelle oder Zeitparallelisierung enthalten.
Diese Arbeit stellt Erweiterungen von MaMiCo um neue Funktionen vor, die zu drei neuen Wegen führen, um mehrskalige Strömungssimulationen zu verbessern, jeweils basierend auf datengesteuerter Analyse der Kopplungsdaten. Erstens erlauben es Filtermethoden für thermisches Rauschen, die Kopplungsdaten zwischen Modellen auf verschiedenen Skalen konsistenter zu machen. Es wird gezeigt, dass die Kopplung von Verfahren der Signalverarbeitung profitiert, die hier im Rahmen einer neuen Datenpipeline für Filtermodule angewendet werden. Außerdem wird eine neuartige raumzeitbasierte Formulierung des Non-Local-Means Algorithmus vorgestellt, die bessere Ergebnisse erzielt als konventionelle Filtermethoden. Zweitens reduzieren Ersatzmodelle, die auf maschinellen Lernen basieren, den Rechenaufwand von teuren feinskaligen Lösern wie der Molekulardynamik. Dafür wird eine fortgeschrittene Hybridmodell-Architektur vorgestellt, bei der ein faltender Autoencoder die räumliche Ausdehnung der Strömungsdaten behandelt, während ein rekurrentes neuronales Netz dafür verwendet wird, ihre zeitlichen Korrelationen zu erfassen. Drittens ermöglicht es zeitparallele numerische Integration, die gekoppelte Simulation über mehrere Zeitskalen hinweg auszudehnen. Hier wird eine Implementierung dieses Verfahrens vorgestellt, die auf einer Variante des Parareal-Algorithmus basiert, bei der ein Lattice Boltzmann-Löser als hydrodynamischer Prädiktor eingesetzt wird, um das mikroskopische System temporal zu kontrollieren. Dies ermöglicht Zeitparallelisierung der Molekulardynamik und verbessert damit die Skalierbarkeit der gekoppelten Simulation. Somit bietet es erstmalig eine zeitparallele Simulation mit gekoppelten Lattice Boltzmann- und Partikelverfahren. Im Rahmen der vorliegenden Arbeit wird zwar ein Fokus auf die Kopplung von Molekulardynamik und Kontinuum gesetzt, die vorgestellten Methoden sind jedoch nicht nur dafür spezifisch, sondern für fortgeschrittene gekoppelte Simulationen von Mehrskalenströmungen im Allgemeinen anwendbar. Da die Implementierungen dieser Methoden außerdem in MaMiCo vorliegen, d.h. auf dem Abstraktionsniveau eines Kopplungstools und nicht spezifisch für eine bestimmte Simulation, sind sie grundsätzlich verfügbar für die Verwendung mit anderen Kopplungsverfahren, anderen Molekulardynamik-Quellcodes und anderen Methoden oder Softwarepaketen für numerische Strömungsmechanik. Die Leistungsfähigkeit der neuartigen datengesteuerten Verbesserungen der gekoppelten Simulation wird für verschiedene Strömungsszenarien demonstriert, einschließlich einer Couette-Strömung sowie einer dreidimensionalen Wirbelstraße. Mit großangelegten Skalierbarkeitsexperimenten von MaMiCo auf Supercomputern wird schließlich der Nutzwert der neuen Methoden bewiesen.
Strömungsphänomene von Fluiden spielen eine wichtige Rolle in einer Bandbreite von wissenschaftlichen Disziplinen und Ingenieursdisziplinen. Experimente sind nicht immer ein effizienter oder umsetzbarer Weg, diese Phänomene zu untersuchen, daher hat sich ihre Computersimulation als ein essentielles Werkzeug für wissenschaftlichen Fortschritt erwiesen. Allerdings ist die numerische Strömungsmechanik ein anspruchsvolles Fachgebiet, insbesondere dann, wenn Charakteristiken über mehreren Längen- und Zeitskalen hinweg erfasst werden müssen. Gekoppelte Methoden sind eine Möglichkeit, eine derartige Strömung zu simulieren. Sie stellen einen Kompromiss dar zwischen der physikalischen Genauigkeit einer feinskaligen Methode und der numerischen Effizienz einer grobskaligen Methode. Damit bieten sie eine Art und Weise, die besten Aspekte beider Methoden zu kombinieren. Eine Kopplung durch eine Gebietszerlegung ermöglicht es, dass feinskalige Details nur in einer kleinen Region des Interesses vorliegen, wo diese benötigt werden, während die grobskalige Methode es ermöglicht, ein größeres Gebiet zu modellieren.
Einfache gekoppelte Methoden und Software haben viele Einschränkungen, da inkonsistente oder verrauschte Kopplungsdaten sowie die erforderlichen Rechenressourcen die Anwendbarkeit limitieren. Die Ausführungszeit der Simulation ist der kritischste Aspekt, der verbessert werden muss, um die Verfügbarkeit von Ergebnissen zu beschleunigen und neue wissenschaftliche Erkenntnisse zu generieren. Daher sind oft die Verwendung von Hochleistungsrechensystemen, angemessene Parallelisierungsmethoden und gut gewählte Softwaredesigns unumgänglich. Allerdings begrenzt die Skalierbarkeit der Simulationsmethoden die erreichbaren Ausführungszeiten, insbesondere dann, wenn beabsichtigt wird, von aktuellen und zukünftigen Rechensystemen mit einer großen Anzahl von Rechenkernen zu profitieren. Skalierbare Leistungsverbesserungen bieten daher einen wissenschaftlichen Wert, denn sie ermöglichen aufkommende zukünftige Anwendungen, die andernfalls nicht machbar wären.
Ein Beispiel gekoppelter Methoden für Mehrskalenströmungen sind Simulationen mit gekoppelten Kontinuums- und Partikelverfahren, bei denen die feinskalige Methode ein Molekulardynamiksystem ist, d.h. ein partikelbasierter Löser, der basierend auf den Interaktionspotentialen der Moleküle explizit die einzelnen Trajektorien bestimmt. Eine Software für solche gekoppelten Simulationen ist MaMiCo, ein quelloffenes Framework mit modularen Softwaredesign für massiv parallele Ausführung auf Hochleistungsrechensystemen. Vor den Entwicklungen im Rahmen dieser Arbeit waren in MaMiCo noch keine datengesteuerten Verbesserungen wie fortgeschrittene Rauschfilter, auf maschinellen Lernen basierende Ersatzmodelle oder Zeitparallelisierung enthalten.
Diese Arbeit stellt Erweiterungen von MaMiCo um neue Funktionen vor, die zu drei neuen Wegen führen, um mehrskalige Strömungssimulationen zu verbessern, jeweils basierend auf datengesteuerter Analyse der Kopplungsdaten. Erstens erlauben es Filtermethoden für thermisches Rauschen, die Kopplungsdaten zwischen Modellen auf verschiedenen Skalen konsistenter zu machen. Es wird gezeigt, dass die Kopplung von Verfahren der Signalverarbeitung profitiert, die hier im Rahmen einer neuen Datenpipeline für Filtermodule angewendet werden. Außerdem wird eine neuartige raumzeitbasierte Formulierung des Non-Local-Means Algorithmus vorgestellt, die bessere Ergebnisse erzielt als konventionelle Filtermethoden. Zweitens reduzieren Ersatzmodelle, die auf maschinellen Lernen basieren, den Rechenaufwand von teuren feinskaligen Lösern wie der Molekulardynamik. Dafür wird eine fortgeschrittene Hybridmodell-Architektur vorgestellt, bei der ein faltender Autoencoder die räumliche Ausdehnung der Strömungsdaten behandelt, während ein rekurrentes neuronales Netz dafür verwendet wird, ihre zeitlichen Korrelationen zu erfassen. Drittens ermöglicht es zeitparallele numerische Integration, die gekoppelte Simulation über mehrere Zeitskalen hinweg auszudehnen. Hier wird eine Implementierung dieses Verfahrens vorgestellt, die auf einer Variante des Parareal-Algorithmus basiert, bei der ein Lattice Boltzmann-Löser als hydrodynamischer Prädiktor eingesetzt wird, um das mikroskopische System temporal zu kontrollieren. Dies ermöglicht Zeitparallelisierung der Molekulardynamik und verbessert damit die Skalierbarkeit der gekoppelten Simulation. Somit bietet es erstmalig eine zeitparallele Simulation mit gekoppelten Lattice Boltzmann- und Partikelverfahren. Im Rahmen der vorliegenden Arbeit wird zwar ein Fokus auf die Kopplung von Molekulardynamik und Kontinuum gesetzt, die vorgestellten Methoden sind jedoch nicht nur dafür spezifisch, sondern für fortgeschrittene gekoppelte Simulationen von Mehrskalenströmungen im Allgemeinen anwendbar. Da die Implementierungen dieser Methoden außerdem in MaMiCo vorliegen, d.h. auf dem Abstraktionsniveau eines Kopplungstools und nicht spezifisch für eine bestimmte Simulation, sind sie grundsätzlich verfügbar für die Verwendung mit anderen Kopplungsverfahren, anderen Molekulardynamik-Quellcodes und anderen Methoden oder Softwarepaketen für numerische Strömungsmechanik. Die Leistungsfähigkeit der neuartigen datengesteuerten Verbesserungen der gekoppelten Simulation wird für verschiedene Strömungsszenarien demonstriert, einschließlich einer Couette-Strömung sowie einer dreidimensionalen Wirbelstraße. Mit großangelegten Skalierbarkeitsexperimenten von MaMiCo auf Supercomputern wird schließlich der Nutzwert der neuen Methoden bewiesen.
Description
This is the electronic version of the dissertation 'Scalable Data-driven Methods for Advanced Molecular-continuum Flow Simulation' published as printed book with ISBN 978-3-8439-5753-3 by Verlag Dr. Hut GmbH, München (see https://www.dr.hut-verlag.de/9783843957533.html).
The corresponding simulation data set is archived as https://dx.doi.org/10.22000/cj73smb8mzn8fcwg
The corresponding simulation data set is archived as https://dx.doi.org/10.22000/cj73smb8mzn8fcwg
Version
Published version
Access right on openHSU
Open access