Réunion ANR - GCPMF 15/01/2008 Xavier WARIN (EDF R&D - OSIRIS)‏ Stéphane VIALLE (SUPELEC - IMS)‏ Constantinos MAKASSIKIS (SUPELEC - IMS, LORIA - AlGorille)‏

Présentation au sujet: "Réunion ANR - GCPMF 15/01/2008 Xavier WARIN (EDF R&D - OSIRIS)‏ Stéphane VIALLE (SUPELEC - IMS)‏ Constantinos MAKASSIKIS (SUPELEC - IMS, LORIA - AlGorille)‏"— Transcription de la présentation:

1 Réunion ANR - GCPMF 15/01/2008 Xavier WARIN (EDF R&D - OSIRIS)‏ Stéphane VIALLE (SUPELEC - IMS)‏ Constantinos MAKASSIKIS (SUPELEC - IMS, LORIA - AlGorille)‏ Distribution large échelle d’un algorithme financier de contrôle stochastique CIGC05 - GCPMF

2 2 Introduction 1

3 3 Objectif : Présentation de la distribution d’une application financière de valorisation d’actifs de stockage de gaz réalisée avec EDF. Application utilisée dans des projets d’investissements : –calcule le prix de location optimal d’un actif de stockage; –utilise des modèles de prix complexes gourmands en ressources et nécessitant une calibration.

4 4 Introduction Solution : distribution/parallélisation. –pour accélerer et passer à l’échelle Par rapport applications de type Bag of Tasks, mise en jeu : –de calculs intensifs ET – des communications fréquentes : redistribution régulière de données et de résultats  nécessite une optimisation des échanges de données

5 5 Contexte financier 2

6 6 Actif de stockage de gaz : –Cavité où est stocké le gaz –Matériel (pompes, …) pour injecter/sous-tirer –Contraintes de fonctionnement diverses Fluctuations des prix du gaz : –Cause : modification de la demande (hiver, été) –Conséquence : possibilité d’arbitrer pour profiter de la dynamique des prix → valorisation Gaz OUT IN

7 7 La valorisation fait appel à : –des algorithmes de contrôle stochastique –des modèles de prix variés Contexte financier Dans notre cas le propriétaire veut déterminer à quel prix il va louer une partie de son actif. Pour ce faire, il se fonde sur les résultats potentiels de différentes stratégies de gestion qu’il aurait pu appliquer sur la portion louée s’il ne l’avait pas louée.

8 8 Distribution de l’algorithme 3

9 9 Algorithme séquentiel t n-1 t0t0 Aujourd’hui Futur tntn Calculs Stochastiques Prix de location à t 0 Hypothèses de terminaison

10 10 Algorithme séquentiel Pour chaque pas de temps (de t n-1 à t 0 ) Pour chaque niveau de stock admissible –Calcul complexe pour déterminer la meilleure décision à prendre au temps t i avec un niveau de stock s i : « Injecter, ne rien faire ou soutirer ? »

11 11 Difficultés de parallélisation Pour chaque pas de temps (de t n-1 à t 0 ) Pour chaque niveau de stock admissible –Calcul complexe pour déterminer la meilleure décision à prendre au temps t i avec un niveau de stock s i : « Injecter, ne rien faire ou soutirer ? » La parallélisation au niveau de la boucle la plus externe est impossible à cause des dépendances de l’algorithme. Le niveau le plus intéressant se trouve au niveau de la boucle sur les niveaux de stock.

12 12 Structures de données A chaque pas de temps utilisation de deux tableaux : OldRes et NewRes. OldRes : contient les résultats du pas de temps précédent. NewRes : pour mémoriser les résultats du pas de temps courant. Problème : à chaque pas de temps le travail s’effectue sur une zone contiguë mais à bornes variables. Niveaux de stock Aléas de prix Calculs NewRes OldRes Résultats à t i+1 Résultats à t i A t i :

13 13 Devient Redistribution Schéma de parallélisation En séquentiel, on peut se placer dans le cas ci- contre. Solution 1 : réplication des tableaux. broadcast. t i+1 : t i : Solution 2 : optimisation de la taille des tableaux. redistribution de ce qui est nécessaire. NewRes OldRes NewRes Calculs En parallèle :

14 14 Schéma de parallélisation t i : t i+1 : P2P1P0 Res à t i+1 P1 P2 P0 P1 P2 P0 P2P1P0 P2P1P0 BA C D 1) Déterminer la nouvelle distribution des calculs à t i 3) Déterminer les données à envoyer par P1 2) Déterminer les données requises à t i par P1 5) Effectuer les communications selon le plan de routage (MPI) 6) Calculer Res à t i P0P1 CAD P2 -ABReceive Send 4) Allouer structures de données de taille optimale Sur P1: Res à t i Plan de routage

15 15 Implémentations 4

16 16 Implémentations Deux implémentations : (1) en Python avec MPI et C++ : –Priorité au confort de l’utilisateur (paramétrage, visualisation …) –Interfaçage Python/C++ –Interfaçage Python/MPI (2) en C++ avec MPI –Priorité à la performance –3 versions : MPI_Bsend(), MPI_Ibsend() et MPI_Issend()

17 17 Etude des performances 5

18 18 Evaluation des performances Utilisation de la 2 ième implémentation ( MPI_Issend() ) Expérimentations sur 3 architectures distribuées : –Deux clusters de PCs (SUPELEC et GRID’5000/Sophia). –Le supercalculateur Blue Gene/L de EDF R&D. Avec 3 modèles de prix du gaz : **** Gaussien 2 facteurs « G-2f » *** Normal Inverse Gaussien « NIG » ** Gaussien « G » MémoireCalculs Besoins Modèle

19 19 Performances avec « G » 8 15s 641024 54min 14min

20 20 Performances avec « NIG » 128 1024 3min 6h40

21 21 Performances avec « G-2f » Besoin de beaucoup de mémoire – 11 Go pour l’exécution séquentielle – 10 CPUs avec 2 Go en parallèle Exécution rendue possible par notre distribution. Scale jusqu’à 1024 processeurs. Limitation : –Impossible de calculer un speedup rigoureux. –Donc étude d’extensibilité (seulement).

22 22 Performances avec « G-2f » Blue Gene wins ! 128 1024 16 14h 2h20 46min

23 23 Etude d’extensibilité avec « G-2f » Maintient du temps d’exécution à 12 000 secondes

24 24 Conclusion 6

25 25 Conclusion & Perspectives Algorithme itératif de contrôle stochastique dynamique avec distribution à chaque pas de temps des calculs et des données. Résultats issus des expérimentations témoignent de l’efficacité de notre distribution sur clusters de PCs (128 CPUs) et supercalculateur (1024 CPUs) –Accéleration de l’exécution sur trois modèles de prix aux caractéristiques variées –2 modèles de référence et 1 nouveau modèle

26 26 Version n-dimensionnelle distribuée Depuis octobre 2007 (EDF & Supélec) : Distribution d’une version de « contrôle stochastique multistocks »  Distribution d’hypercubes de données et de calculs… Application à la gestion dynamique du portefeuille EDF : “ maximisation de l'espérance des gains liés à la gestion de stocks d'eau et de stocks de produits à terme sous respect de contrainte de satisfaction de la demande. ”  WP6 : Contrôle stochastique en grande dimension. Vers une généralisation à N dimensions de la distribution d’un algorithme de contrôle stochastique

27 27 I.A chaque pas de temps : –Intersections et répartitions d’hypercubes –Provisioning dynamique des processeurs –Sauvegardes de résultats intermédiaires II.Simulations de Monte Carlo à partir des résultats intermédiaires : embarrassingly parallel Version n-dimensionnelle distribuée temps T i+1 TiTi Trajectoires de Monte Carlo Une application plus complexe en deux parties :

28 28 Version n-dimensionnelle distribuée Un cas test sur 7 stocks dure : –18 h sur les 32 PCs du cluster de SUPELEC ; –5h30 sur 1024 nœuds de Blue Gene.  Les temps de calcul restent longs... besoin de tolérance aux pannes.

29 29 Questions ? ?

30 30

31 31

32 32 Environnements d’expérimentation Cluster SUPELEC 32 nœuds monoprocesseur Processeur: Pentium 4 à 3.0 GHz Mémoire vive: 2 GB Réseau d’interconnexion: Gigabit Ethernet Cluster Grid’5000 (Sophia, Azur)‏ 72 nœuds biprocesseurs Processeur: Opteron 246 à 2.0 GHz Mémoire vive: 2 GB (partagés)‏ Réseau d’interconnexion: Gigabit Ethernet

33 33 Environnements d’expérimentation Blue Gene/L de EDF R&D 4096 nœuds biprocesseurs Processeur : PowerPC à 700 MHz (faible consommation)‏ Mémoire vive : 1 GB (partagé)‏ Réseau d’interconnexion : Gigabit Ethernet ++

34 34 Quelle machine pour quel modèle ? Les performances permettent de proposer une architecture d’exécution adaptée selon le modèle envisagé :