ACI Masses de Données Bilan GDS Regal (LIP6 / INRIA)

Slides:



Advertisements
Présentations similaires
Ultra - Fast Mobility e-rake.us.com.
Advertisements

Sous-projet IV Communications Placement/Ordonnancement.
Détecteurs de fautes pour réseaux dynamiques P. Sens, L. Arantes, M. Bouillaguet Projet REGAL.
Gabriel Antoniu IRISA / INRIA Rennes
Applications de GdX Coordinateur thématique : Christophe Cérin
A NETWORK-AWARE DISTRIBUTED STORAGE CACHE FOR DATA INTENSIVE ENVIRONMENTS Brian L. TIERNEY, Jason LEE, Brian CROWLEY, Mason HOLDING Computing Sciences.
Economic Models for Ressource Managament and Scheduling in Grid Computing Présentation darticle DEA DISIC 2003 R. Buyya, D. Abramson, J. Giddy & H. Stockinger,
(Dé)Placement de réplicas en environnement pervasif
Laboratoire d'InfoRmatique en Image et Systèmes d'information LIRIS UMR 5205 CNRS/INSA de Lyon/Université Claude Bernard Lyon 1/Université Lumière Lyon.
Stockage dans DIET Groupe de travail du 16 décembre 2002.
Les jeux persistants massivement Multijoueurs : problèmes techniques Vincent Roudaut MASTER M2 ESTC/CAM
1 Placement automatique des composants lors du déploiement dapplications à base de composants Abdelkrim Beloued Chantal Taconet, Dhouha Ayed, Guy Bernard.
Modèle de coût algorithmique intégrant des mécanismes de tolérance aux pannes Samir Jafar, Thierry Gautier, Jean Louis Roch Laboratoire ID-IMAG Equipe.
Jean-François Deverge, Sébastien Monnet
Introduction aux Grilles de Calcul
DataGRAAL DataGRid pour Animation et Applications à Large échelle
Noyau persistant en réseaux pair-à-pair Comment relier la taille à la durée de vie V. Gramoli, A-M. Kermarrec, A. Mostéfaoui, M. Raynal, B. Sericola.
Réunion DataGraal Janvier 2003 Grenoble
Le Stockage Distribué Robin Favre Fabien Touvat
Mémoires Partagées Distribuées pour systèmes dynamiques à grande échelle Vincent Gramoli.
1 Grille de calcul et physique des particules Vincent Garonne CPPM, Marseille Novembre 2003 Contenu de la présentation Etat de lart : Grille de calcul.
Détection de défaillances pour les grilles
1 SEEDS/M&M - MACS 23 janvier 2007 Groupement de Recherche SEEDS Systèmes d'Énergie Électrique dans leurs Dimensions Sociétales.
1 DataGRAAL DataGRid pour Animation et Applications à Large échelle Yves Denneulin IMAG-ID Pierre Sens LIP6 - INRIA.
Architecture des systèmes pair-à-pair de gestion de données Gabriel Antoniu Projet PARIS IRISA/INRIA.
Alessandro de Luna Almeida
LEGO – Rennes, 18 Septembre 2006 Un outil de monitoring pour le déploiement dynamique de JuxMem Loïc Cudennec IRISA / INRIA, PARIS project-team Stage de.
GDS – Paris, 13 Octobre 2006 Un outil de monitoring pour le déploiement dynamique de JuxMem Loïc Cudennec IRISA / INRIA, PARIS project-team Stage de M2RI.
Fondements de l’algorithmique des réseaux
Thème 5 Model-based adaptability management for autonomous mobile group communication Rencontre TOMPASSE/ROSACE - 20 Novembre 2008 Projet RTRA/ROSACE Groupes.
1 Détecteurs de défaillances adaptables Marin BERTIER Thèmes SRC Laboratoire d'Informatique de Paris 6 Université Pierre & Marie Curie.
Exposé du 26/03/2010 Michaël Le Clerc & Nicolas Le Texier Mires Un intergiciel pour les réseaux de capteurs.
Contrôle de topologie orienté mesures de performances Master 2 COSY 2004/2005 1/30Septembre 2005 Contrôle de Topologie Orienté Mesures de Performances.
Modèles et protocoles de cohérence des données en environnement volatil Grid Data Service IRISA (Rennes), LIP (Lyon) et LIP6 (Paris) Loïc Cudennec Superviseurs.
1 Nomination de mandataire Marin BERTIER. 2 Contexte ► Développement des GRIDs  Grand nombre de sites  Organisé hiérarchiquement ► Niveau local  cluster.
1/13 Sécurité dans Pastis Fabio Picconi LIP6 13 février 2004 ACI MD Grid Data Services (GDS)
Etude de la volatilité dans un système de stockage P2P Fabio Picconi – LIP6.
Jean-Michel BUSCA et Pierre SENS
Étude d’un protocole de partage de travail entre systèmes Pair à Pair
Présentation générale du projet
PROJET CAPS Compilation, Architecture, Parallélisme et Système.
VALIDATION VÉRIFICATION & TESTS
GDS – 17/02/061 Gestion de la volatilité dans un système de stockage P2P F. Picconi, P. Sens Regal (LIP6 / INRIA) ACI Masses de Données.
GDS : Grid Data Service Gabriel Antoniu IRISA / INRIA Rennes Réunion de lancement du projet GDS de l’ACI Masses de Données 22 septembre 2003.
1 Détection et tolérance aux fautes dans JuxMem Sébastien Monnet IRISA / PARIS Lyon, 05/12/2003.
Gabriel Antoniu IRISA / INRIA Rennes
1 Premières études sur la gestion de la volatilité dans Pastis Fabio Picconi Réunion GDS – 19/11/2004.
Décomposition de graphes pour la reconstruction de réseaux phylogénétiques V. Berry (MAB) et C. Paul (VAG, HdR) Candidat AMN : Philippe Gambette (LIAFA)
République Algérienne Démocratique et Populaire
Réunion calcul simulations GIEC/IPCC - Prodiguer Lundi 23 Mars PRODIGUER un noeud français de distribution des données GIEC/IPCC Sébastien Denvil.
Utilisation de Modelnet dans le cluster de SRC Fabio Picconi – LIP6.
1 1 Contributions de l’équipe ADAM dans le projet JOnES Mercredi 11Avril 2007 Revue de projet, Montbonnot - France Nicolas DOLET
Reconnaissance de visage par vidéo
COMPARAISON ENTRE GNUTELLA ET FREENET
Monitoring Détection de séquences vidéo en temps réel dans une grande base de données Julien Law-to 22/06/2004.
Journée des doctorants 2005 ENST-Bretagne, Brest juin 2005
1 Un protocole de cohérence des données tolérant aux fautes Jean-Francois Deverge Encadrants : Gabriel Antoniu, Luc Bougé Réunion GDS IRISA – Projet PARIS.
GDS : Grid Data Service Etat de l’avancement Gabriel Antoniu Réunion GDS, Lyon, 17 février 2006 IRISA, Rennes ACI Masses de Données.
Exposé du 03/05/2010 Michaël Le Clerc & Nicolas Le Texier Mires Etude comparative.
Supporting Secure Ad-hoc User Collaboration in Grid Environments Markus Lorch – Dennis Kafura Department of Computer Science Virginia tech Proceedings.
1 Journee gdr COSMAL 27/01/2009 Exécution Distribuée et Agile de Compositions de Services Françoise Baude & Virginie Legrand
Réunion #7 7/12/2007. E. Caron - Réunion #7 - 07/12/07 Planning 10h h40Informations générales sur LEGO [Eddy Caron] 10h h15Utilisation d'ontologies.
Persistance de noyau dans les systèmes dynamiques à grande échelle
Projet GDS de l’ACI MD Projet PARIS IRISA, Rennes.
30/11/2007Architecture logicielle pour l’adaptation dynamique; Application à la réplication de données1 Architecture logicielle pour l’adaptation dynamique.
Localisation collaborative dans les réseaux de capteurs
Projet LCG: Vue d’Ensemble Fabio Hernandez Responsable Technique LCG-France Centre de Calcul de l’IN2P3 Rencontre IN2P3/STIC Grenoble, 25.
Grilles de recherche Veronique Donzeau-Gouge. 2 objectifs Renforcer la présence du CNRS dans ce domaine en liaison avec : L’Institut ST2I L’INRIA, Les.
CAF-11/10/2010Luc1 Squad Report T1 Période 13/09-11/10 Irena, Sabine, Emmanuel.
Resource allocation: what can we learn from HPC? 20 janvier 2011 Vincent Breton Crédit: Catherine Le Louarn.
Transcription de la présentation:

ACI Masses de Données Bilan GDS Regal (LIP6 / INRIA)

Objectifs scientifiques Tolérance aux fautes à large échelle 2 axes Détection de fautes sur Grille Réplication sur systèmes pair-à-pair Algorithmes de verrouillage pour Grilles Exclusion mutuelle hiérarchique Exclusion mutuelle tolérantes aux fautes

Personnes impliquées Sur la période : Détection de fautes : 1 prof (30 %), 1 MDC (30%), 3 doctorants (2 * 30 %, 1 à 100 %) 1 bourse FullBright (D. Myers) Détection de fautes : Marin Bertier (2003 – 2004)– Doctorant (actuellement MDC Insa Rennes) Pierre Sens – Prof. Paris 6 Réplication P2P : Fabio Picconi – Doctorant Pierre Sens Exclusion mutuelle : Luciana Arantes - MDC Paris 6 Julien Sopena (2004 – 2006) – Doctorant

Tolérance aux fautes : organisation hiérarchique Composition du groupe global Représentant dans chaque groupe local = mandataire Nomination de mandataire 1 groupe local / cluster 1 groupe global 1.3 C2 C3 C1 2.1 2.2 1.1 1.2 3.1 3.2 3.3 Organisation hiérarchique

Organisation hiérarchique Rôle du mandataire Permet la connexion du groupe local avec le reste du système Détecteur local : surveillance de nœud Détecteur global : surveillance de groupe cluster 2 2.1 1.1 Mandataire 1.5 1.2 1.2 cluster 1 3.5 1.4 1.3 cluster 3 Organisation hiérarchique

GDF dans GDS Utilisation de GDF dans Juxmem Rapport Travail commun (M. Bertier, S. Monnet) Rapport

Réplication P2P Etude de la réplication dynamique dans Pastis Internet Distribution des blocs de données racine du bloc réplication Anneau de machines Past Système de fichiers Pastis

Problème de la volatilité « Churn » = taux élevé d’ajout de nœuds et de défaillances Le churn : une des causes des dénis de services dans P2P (issue de sources non forcément malicieuses). Nombreuses études sur la résistances aux churns des overlay (cf. Bambou, MSPastry …). => Relative bonne résistance (quelques minutes) de couche basses (KBR) Quid des applications : Stockage des données Objectif : Etudier le churn dans Past et Pastis

Churn in DHTs must fetch copy from another replica new replica set for key k low-bandwith transfer k

Churn in DHTs data may be lost under high churn k

Churn in DHTs new replica set new node joins replica must be moved k

Churn in DHTs data may be unavailable under high churn new replica set for key k data may be unavailable under high churn k

Contributions Théorique : modélisation du « churn » Caractériser la durabilité des données en fonction du taux de volatilité Ecriture d’un papier Algorithmique : Modification du protocole de Join de Pastry Métrique de stabilité utilisé pour l’insertation des noeuds Expérimentation : Injection de volatilité dans Pastis Utilisation de l’émulateur modelnet dans GDX Rapport technique – Soumission CCGrid07

Exclusion mutuelle pour Grille Exclusion mutuelle : outils de base de synchronisation d’application parallèle Algorithmes à Jeton Un jeton unique donne l’accès à la ressource Pas de synchronisation globale Plus extensible Algoirhmes classique: Ne prennent pas en compte la topologie => beaucoup d’échange entre les sites Peu tolérant aux fautes Approches hiérachiques (CCGrid 04, JPDC 06) Idée: Donner une priorité plus forte au requêtes proches => Satifaire prioritaire les requêtes d’un même cluster Mutex tolérant les fautes (Europar 05, SRDS 06, CFSE 06) Fiabilisation de l’algorithme de Naimi-Tréhel Thèse J. Sopena

Performances

Publications Regal - GDS GFD : M. Bertier, O. Marin, P. Sens. Performance Analysis of Hierarchical Failure Detector. Proceedings of the International Conference on Dependable Systems and Networks (DSN '03), San Francisco, Juin, 2003 (IEEE Computer Press) Pastis : J-M Busca, M. Bertier, F. Belkouch, P. Sens, L. Arantes. A Performance Evaluation of a Quorum-Based State-Machine Replication Algorithm for Computing Grids.. Proc of the 16th Symposium on Computer Architecture and High Performance Computing (SBAC-PAD '04), Iguacu (Brazil), October 2004. IEEE Society Press J-M. Busca, F. Picconi, P. Sens.Pastis: un système de fichiers pair à pair multi-écrivain passant l'échelle. In DistRibUtIon de Données à grande Echelle 2004 (DRUIDE 04), Domaine du Port-aux-Rocs, Le Croisic, France F. Picconi, J-M. Busca, P. Sens. Exploiting network locality in a decentralized readwrite peer-to-peer file systems. Proc of the 10th International Conference on Parallel and Distributed Systems (ICPADS '04), Newport Beach (USA), July 2004. IEEE Society Press J-M. Busca, F. Picconi, P. Sens.Pastis: a Highly-Scalable Multi-User Peer-to-Peer File System. EuroPar 2005, Lisboa, Portugal, September 2005. LNCS. Mutex : M. Bertier, L. Arantes and P. Sens. Hierarchical token based mutual exclusion algorithmsi. Proceedings of the 4th IEEE/ACM International Symposium on Cluster Computing and the Grid (CCGrid '04), Chicago (USA), April 2004. IEEE Society Press M. Bertier, L. Arantes, P. Sens. Algorithme d'exclusion mutuelle pour les GRID : une approche hiérarchique. 4ème Conférence Française sur les Systèmes d'Exploitation (CFSE'4), Le Croisic, France. J. Sopena, L. Arantes, M. Bertier, P. Sens.A fault-tolerant token-based mutual exclusion algorithm using a dynamic tree. EuroPar 2005, Lisboa, Portugal, September 2005. LNCS. M. Bertier, L. Arantes, P. Sens.Distributed Mutual Exclusion Algorithms for Grid Applications: a Hierarchical Approach. Journal of Parallel and Distributed Computing (JPDC) 66(128-144). Elsevier, 2006. J. Sopena, L. Arantes, P. Sens.Performance evaluation of a fair fault-tolerant mutual exclusion algorithm. To appear in IEEE International Symposium on Reliable Distributed Systems (SRDS 2006), Leeds, UK J. Sopena, L. Arantes, P. Sens.Un algorithme équitable d'exclusion mutuelle tolérant les fautes. To appear in 5ème Conférence Française sur les Systèmes d'Exploitation (CFSE'5), France 1 revue internationale (JPDC) 8 conférences internationales (DSN, SRDS, CCGrid, EuroPar, HotOS …) 3 conférences nationales

Logiciels et mobilité GFD Pastis Visite de F. Picconi à Rice (1 semaine 2005), Rutgers (2 mois - 2006)

La suite ... ACI Gédéon Mutex Tolérance aux fautes Application à la génomique Verrouillage hiérarchique / Modèle de cohérence dans un système de fichiers Mutex Généralisation du Mutex : Allocation de ressources (Thèse M. Bouillaguet) Composition de protocoles Mutex (J. Sopena) Tolérance aux fautes Autres types d’environnements (Capteurs)