Nahezu jede HPC-Anwendung tauscht mittels MPI Daten zwischen den an der Lösung beteiligten Prozessen aus. Diese Kommunikation benötigt Zeit und muss somit bei der Performance Optimierung berücksichtigt werden. Insbesondere bei einer großen Anzahl von Cores nimmt die Kommunikation einen nicht vernachlässigbaren Anteil an der Laufzeit des Programms ein. Hinzu kommt, dass sich manche Probleme, wie beispielsweise Last-Imbalancen, auf die Kommunikationszeit auswirken, obwohl die Kommunikation an sich nicht ursächlich ist.
In diesem Teil des Moduls erläutern wir einige grundlegende Beiträge zur Kommunikationszeit, insbesondere Wartezeiten durch Last-Imbalancen, Wartezeiten durch Serialisierung in Kommunikationsmustern und die Zeit für die eigentlichen Datentransfers. Wir stellen Methoden vor, um die jeweiligen Anteile zu messen, und definieren damit ein System von Effizienzmetriken. Schliesslich erlernen Sie Techniken und Herangehensweisen, um die genannten Einflussfaktoren zu reduzieren, wie beispielsweise das Erstellen effizienter Kommunikationsmuster, die Verwendung kollektiver Operationen und das Überlappen von Kommunikation mit Berechnung während der Ausführung.
Weitere Informationen und die Registration zu diesem Kurs finden Sie auf der Seite der Supercomputing-Akademie
Online course Organizer: HLRS, University of Stuttgart, Germany
Sep 11, 2023
Oct 13, 2023
Online
Intermediate
Parallel Programming
Performance Optimization & Debugging
Supercomputing Academy
C/C++
Code Optimization
Green IT & Sustainability
MPI
OpenMP
Back to list
June 12 - 13, 2023
June 15 - 16, 2023
June 19 - 23, 2023
Stuttgart, Germany
July 04 - 07, 2023
August 16 - 24, 2023
Online by ETH
September 13 - 15, 2023
September 25 - 28, 2023
October 16 - 20, 2023
October 30 - November 17, 2023
November 06 - 10, 2023
Hybrid Event - Stuttgart, Germany
