Back to results

TU Bergakademie Freiberg

Temporal Lossy In-Situ Compression for Computational Fluid Dynamics Simulations

Abstract

dc:description.abstract

Während CFD Simulationen für Metallschmelze im Rahmen des SFB920 fallen auf dem Taurus HPC Cluster in Dresden sehr große Datenmengen an, deren Handhabung den wissenschaftlichen Arbeitsablauf stark verlangsamen. Zum einen ist der Transfer in Visualisierungssysteme nur unter hohem Zeitaufwand möglich. Zum anderen ist interaktive Analyse von zeitlich abhängigen Prozessen auf Grund des Speicherflaschenhalses nahezu unmöglich. Aus diesen Gründen beschäftigt sich die vorliegende Dissertation mit der Entwicklung sog. Temporaler In-Situ Kompression für wissenschaftliche Daten direkt innerhalb von CFD Simulationen. Dabei werden mittels neuer Quantisierungsverfahren die Daten auf ~10% komprimiert, wobei dekomprimierte Daten einen Fehler von maximal 1% aufweisen. Im Gegensatz zu nicht-temporaler Kompression, wird bei temporaler Kompression der Unterschied zwischen Zeitschritten komprimiert, um den Kompressionsgrad zu erhöhen. Da die Datenmenge um ein Vielfaches kleiner ist, werden Kosten für die Speicherung und die Übertragung gesenkt. Da Kompression, Transfer und Dekompression bis zu 4 mal schneller ablaufen als der Transfer von unkomprimierten Daten, wird der wissenschaftliche Arbeitsablauf beschleunigt.

Degree

thesis:*
Level thesis:degree_level
thesis.doctoral
Grantor dc:publisher
TU Bergakademie Freiberg
Year
2018

Author and committee

dc:creator, dc:contributor.*
Author dc:creator
  • Lehmann, Henry
Contributors dc:contributor
  • Jung, Bernhard
  • Scheuermann, Gerik

Subjects

dc:subject × 1

Chain of custody

source
Harvested from
QUCOSA
Base URL
www.qucosa.de/oai/
Last updated
2026-07-24
Source record
OAI-PMH GetRecord
citation

Lehmann, Henry. Temporal Lossy In-Situ Compression for Computational Fluid Dynamics Simulations. thesis.doctoral thesis, TU Bergakademie Freiberg, 2018.