Automated and dynamic abstraction of MPI application performance

Abstract

Developing an efficient parallel application is not an easy task, and achieving a good performance requires a thorough understanding of the program's behavior. Careful performance analysis and optimization are crucial. To help developers or users of these applications to analyze the program's behavior, it is necessary to provide them with an abstraction of the application performance. In this paper, we propose a dynamic performance abstraction technique, which enables the automated discovery of causal execution paths, composed of communication and computational activities, in MPI parallel programs. This approach enables autonomous and low-overhead execution monitoring that generates performance knowledge about application behavior for the purpose of online performance diagnosis. Our performance abstraction technique reflects an application behavior and is made up of elements correlated with high-level program structures, such as loops and communication operations. Moreover, it characterizes all elements with statistical execution profiles. We have evaluated our approach on a variety of scientific parallel applications. In all scenarios, our online performance abstraction technique proved effective for low-overhead capturing of the program's behavior and facilitated performance understanding.

Desarrollar una aplicación paralela eficiente no es una tarea fácil, y lograr un buen desempeño requiere una comprensión profunda del comportamiento del programa. El análisis y la optimización del rendimiento cuidadoso son cruciales. Para ayudar a los desarrolladores o usuarios de estas aplicaciones a analizar el comportamiento del programa es necesario proporcionarles una abstracción del rendimiento de la aplicación. En este artículo proponemos una técnica de abstracción de rendimiento dinámico, que permite el descubrimiento automático de rutas de ejecución causales, compuestas de actividades de comunicación y computación, en programas paralelos de MPI. Este enfoque permite la supervisión de ejecución autónoma y de bajo nivel de gastos generales que genera conocimiento de rendimiento sobre el comportamiento de la aplicación para el diagnóstico de rendimiento en línea. Nuestra técnica de abstracción de rendimiento refleja un comportamiento de aplicación y está compuesta de elementos correlacionados con estructuras de programas de alto nivel, como bucles y operaciones de comunicación. Además, caracteriza todos los elementos con perfiles de ejecución estadística. Hemos evaluado nuestro enfoque en una variedad de aplicaciones paralelas científicas. En todos los escenarios, nuestra técnica de abstracción de rendimiento en línea resultó efectiva para la captura de bajo costo de la conducta del programa y la comprensión del rendimiento facilitado.

Desenvolupar una aplicació paral·lela eficient no és una tasca fàcil, i aconseguir un bon exercici requereix una comprensió profunda del comportament del programa. L'anàlisi i l'optimització del rendiment acurat són crucials. Per ajudar els desenvolupadors o usuaris d'aquestes aplicacions a analitzar el comportament del programa cal proporcionar-los una abstracció del rendiment de l'aplicació. En aquest article proposem una tècnica d'abstracció de rendiment dinàmic, que permet el descobriment automàtic de rutes d'execució causals, compostes d'activitats de comunicació i computació, en programes paral·lels de MPI. Aquest enfocament permet la supervisió d'execució autònoma i de baix nivell de despeses generals que genera coneixement de rendiment sobre el comportament de l'aplicació per al diagnòstic de rendiment en línia. La nostra tècnica d'abstracció de rendiment reflecteix un comportament d'aplicació i està composta d'elements correlacionats amb estructures de programes d'alt nivell, com bucles i operacions de comunicació. A més, caracteritza tots els elements amb perfils d'execució estadística. Hem avaluat el nostre enfocament en una varietat d'aplicacions paral·leles científiques. En tots els escenaris, la nostra tècnica d'abstracció de rendiment en línia va resultar efectiva per a la captura de baix cost de la conducta del programa i la comprensió del rendiment facilitat.