mémoire partagée, MPI et systèmes de file d'attente

une approche de plus en plus commune dans le calcul haute Performance (HPC) est les programmes MPI/OpenMP hybrides. C'est-à-dire: vous avez N Processus MPI, et chaque processus MPI a M threads. Cette approche correspond bien aux clusters constitués de nœuds multiprocesseurs de mémoire partagée.

le passage à un tel schéma de parallélisation hiérarchique nécessite évidemment des changements plus ou moins invasifs, OTOH s'il est fait correctement, il peut augmenter la performance et l'évolutivité du code en plus de réduire consommation de mémoire pour les données répliquées.

selon L'implémentation MPI, vous pouvez ou non être capable de faire des appels MPI à partir de tous les threads. Ceci est spécifié par required et provided arguments à la fonction MPI_Init_Thread () que vous devez appeler à la place de MPI_Init (). Les valeurs possibles sont:

{ MPI_THREAD_SINGLE}
    Only one thread will execute. 
{ MPI_THREAD_FUNNELED}
    The process may be multi-threaded, but only the main thread will make MPI calls (all MPI calls are ``funneled'' to the main thread). 
{ MPI_THREAD_SERIALIZED}
    The process may be multi-threaded, and multiple threads may make MPI calls, but only one at a time: MPI calls are not made concurrently from two distinct threads (all MPI calls are ``serialized''). 
{ MPI_THREAD_MULTIPLE}
    Multiple threads may call MPI, with no restrictions. 

d'après mon expérience, les implémentations MPI modernes comme Open MPI prennent en charge le plus flexible MPI_THREAD_MULTIPLE. Si vous utilisez des bibliothèques MPI plus anciennes, ou certains architecture, vous pourriez être pire.

bien sûr, vous n'avez pas besoin de faire votre threading avec OpenMP, c'est juste l'option la plus populaire en HPC. Vous pouvez utiliser par exemple la bibliothèque Boost threads, la bibliothèque Intel TBB, ou pthreads ou Windows threads.