Préchargement de données dans un logiciel DSM Jean Christophe Beyler (ICPS-LSIIT) Michael Klemm (Uni. Erlangen) Ronny T. Lampert (Uni. Erlangen) 01/06/2006.

Présentation au sujet: "Préchargement de données dans un logiciel DSM Jean Christophe Beyler (ICPS-LSIIT) Michael Klemm (Uni. Erlangen) Ronny T. Lampert (Uni. Erlangen) 01/06/2006."— Transcription de la présentation:

1 Préchargement de données dans un logiciel DSM Jean Christophe Beyler (ICPS-LSIIT) Michael Klemm (Uni. Erlangen) Ronny T. Lampert (Uni. Erlangen) 01/06/2006

2 Plan Présentation Esodyp Jackal Synthèse Conclusion

3 Présentation Interaction entre deux systèmes : Esodyp (Entirely Software Dynamic Prefetcher) : Prédicteur Markovien Système développé à lICPS Jackal : Système Software DSM en Java Développé par les universités dErlangen et Amsterdam

4 Esodyp Prédicteur daccès aux données Etudie le comportement mémoire Les accès mémoire Les défauts de cache Il permet de : Savoir quelles données seront nécessaires Précharger les données dans le cache

5 Modèle Markovien Analyse statistique dune suite S déléments (des accès mémoire dans notre cas) Mise sous forme de couples (X,Y) où: X et Y sont des éléments de la suite X précède directement Y Mais aussi (S,Y) où: S est une sous suite de S La séquence S précède directement Y

6 Un exemple de graphe 2 2 32 1 2 1 1 2 2 2 2 16 2 1 1 1 2 2

7 Deux phases Déroulement du modèle : Le modèle construit le graphe Temps de construction du graphe élevé Utilise les informations reçues Précharge les données Vérifie si le modèle correspond Remet à zéro si nécessaire Phase de construction et phase de prédiction

8 Distance de préchargement Paramètre important du prédicteur Trop petite : la donnée risque de ne pas être dans le cache (latence) Trop grande : la donnée risque dêtre écrasée dans le cache La distance dépend de lapplication et du flux de données

9 Jackal DSM : Distributed Shared Memory Système en software Le programmeur perçoit la mémoire comme étant entièrement partagée Cest au système DSM de gérer les communications et transferts entre les noeuds.

10 Jackal Double problème : Il faut limiter le nombre de messages Il faut limiter le nombre de défauts de cache Le prédicteur doit donc : Etre précis dans la prédiction des N prochains accès

11 Vérification daccès

12

13 Comparaison Avec un processeur : Facilité pour les prédictions Utilisation des sauts mémoire Avec Jackal : Plus compliqué pour les prédictions On ne peut pas utiliser les sauts

14 Appels vers Esodyp

15 Fenêtre de préchargement

16 Différence pour la prédiction Besoin dunicité pour les prédictions Lors de la création de la liste Parcourt le graphe en coloriant les noeuds pour ne pas y revenir Lutilisation des adresses : Grossit le graphe Le rend plus exact donc plus sensible au changement de phase

17 Vue Générale

18 Limitations Les objets sont tous sur des noeuds différents On doit envoyer autant de messages que sans la prédiction Utiliser une heuristique pour limiter les messages Les objets préchargés ne servent pas Le coût dun message envoyant 5 objets est presque le même quenvoyer un seul objet

19 Performances NomOriginal(ms)Optimisé (ms)Ratio Liste chaînée 1024 elem – 25 iter 1199245592.6 Tableau 2560 elem – 500 iter 1381946133 Stencil 2 thread – 200 elem – 5 iter 489431471.56 Stencil 2-200-201952388062.2 Stencil 2-400-517174129101.33 Stencil 2-400-2068603398731.72

20 Conclusion Lajout dun prédicteur dans un système comme Jackal peut être bénéfique Le nombre de communications peut être largement réduit en concaténant les demandes de transfert. Le surcoût du système de prédiction peut être rentabilisé par ce gain de temps.