Comparaison RB et gLite WMS

Slides:



Advertisements
Présentations similaires
Recherche de similarité de séquences à grande échelle S. Penel, P. Calvat, Y. Cardenas LBBE, CCIN2P3 Calculs BLAST intensifs sur la plateforme TIDRA -
Advertisements

Plateforme de Calcul pour les Sciences du Vivant Le Système dInformation de gLite.
Plateforme de Calcul pour les Sciences du Vivant Soumission de jobs sur grille.
Déploiement LCG-2 Etat actuel au CC-IN2P3 Fabio Hernandez Centre de Calcul de l’IN2P3 Lyon, 22 juillet 2004.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Soumission de jobs David Bouvet IN2P3-CC.
Intégration de BQS dans le gLite-CE. Réunion TCG Présentation des difficultés rencontrées: Installation gLite-CE et WMS –Sensibilité aux modifications.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Quelques commandes de la grille David Bouvet.
EGEE is a project funded by the European Union under contract IST Job Soumission Eric Fede CPPM Grid Tutorial, Novembre
EGEE is a project funded by the European Union under contract IST Job Soumission N.Lajili Seminaire Grille-21 Novembre
1DSM - IRFU Les dessous de la Grille. 2DSM - IRFU Les Grilles : Pourquoi ? Partage transparent de l’utilisation de ressources massivement distribuées.
Edit Knoops CPPM 20/01/2009 Enabling Grids for E-sciencE Gestion des données Gestion des jobs Edith Knoops.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Soumission de jobs C. Loomis / M. Jouvin.
EGEE is a project funded by the European Union under contract INFSO-RI Copyright (c) Members of the EGEE Collaboration Infrastructure Overview.
Interopérabilité de grilles Lyon, le 04 mai 2007 Sylvain Reynaud.
CREAM & ICE Réunion SA1-France 11 mars 2008
Les processus.
Technologies de grille Lyon, 20 mars 2007 Sylvain Reynaud
Fabio HERNANDEZ Responsable Grid Computing Centre de Calcul de l'IN2P3 - Lyon Lyon, 30 avril 2004 Déploiement LCG-2 au CC-IN2P3 Etat d’avancement.
INFSO-RI Enabling Grids for E-sciencE Statistiques d'usage d'un site de la grille LCG/EGEE Emmanuel Medernach, IN2P3 LPC.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Grid Service Monitoring Working Group Exemple.
EGEE is a project funded by the European Union under contract IST Soumission de jobs Tutorial Grille (LCG/EGEE) E.Fede (CNRS/IN2P3/LAPP)
LA PLANIFICATION ET LE CONTRÔLE DES OPÉRATIONS SÉANCE 3 GOP.
LES QUALITES DU MANAGER.
Infrastructure de Calcul
La Grille EGEE G. Philippon (LAL-Orsay)
Comment accroître le nombre de contributions externes ?
La Grille EGEE M. Louvin (LAL-Orsay) Tutorial EGEE Utilisateur (LAL)
Introduction aux grilles de calcul et au projet EGI
Passage de Main SYSGRID Réunion 1
Initiation à l’infrastructure
Grilles de Calcul - Formation utilisateurs
Cours Management de la Qualité.
C. Loomis (LAL-Orsay) Tutorial EGEE Utilisateur (LAL) 2 février 2007
Soumission de jobs Tutorial Grille (LCG/EGEE)
GRIF : Grille pour la Recherche en
12 mars 2004, Lyon Reunion CAF F.Chollet 1
Surveillance des services grille par NAGIOS
Intégration de BQS dans CREAM
Pierre Girard LCG-France Tier
Fonctionnement de la grille
Soumission de jobs de calcul
Etat des lieux des VO Boxes LHC
Intégration de BQS dans CREAM
David Bouvet, David Weissenbach Observatoire de Meudon, 01-02/02/2011
Initiation à l'infrastructure
Soumission de jobs C. Loomis / M. Jouvin (LAL-Orsay)
Déploiement d’un LCG CE
Statut du T2 Île de France
Consolidation des services de grille de production
Système flexible de Workflow pour la plate-forme Motu
David Bouvet IN2P3-CC Annecy - 27/09/2007
Formation et tutorial DIRAC
LCG-France Tier-1 & AF Réunion mensuelle de coordination
David Bouvet LCG France T2 T3 – LPNHE
JJS (Java Job Submission) Soumission de jobs sur grille
Auteurs : David Bouvet, David Weissenbach
Jobs ATLAS sur la grille
Tutorial Utilisateurs EGEE
CREAM-CE et SGE.
Exercices: Système d’Information
Atelier régulation de la production dans un contexte grille
Tutorial Utilisateurs EGEE
Architecture de machines Le microprocesseur Cours
Infrastructure Opérationnelle d’EGEE
Introduction à la Grille
Introduction à GENIUS et GILDA
Middleware : Status et Evolution
Infrastructure Opérationnelle d’EGEE2
LUSTRE Integration to SRM
Intégration GRIF Michel Jouvin Comité Technique GRIF 28 Novembre 2005.
Transcription de la présentation:

Comparaison RB et gLite WMS Lyon, le 22 mars 2007 Sylvain Reynaud sreynaud@in2p3.fr

Les objectifs de cette évolution sont Plan gLite WMS (Workload Management System) est une évolution du Resource Broker Les objectifs de cette évolution sont amélioration de la scalabilité ajout de nouvelles fonctionnalités

RB ?

WMS Information Index nouveau remplace

DAGMan (http://www.cs.wisc.edu/condor/dagman/) [ Type = "dag"; InputSandbox = {…}; Requirements = …; Nodes = [ nodeA = [ file = “foo.jdl”; ]; nodeB = [ description = [ JobType = “Normal”; Executable = “abc.exe”; Arguments = "1 2 3"; ….. ]; ……. dependencies = { {nodeA, nodeB}, {nodeA, nodeC}, {nodeC, nodeD}, {nodeC, nodeE}, { {nodeB, nodeD, nodeE}, nodeF } } ] ]

ISM – Push mode Network Job (RB) Server Adapter Log Monitor Condor C JDL (RB) Job Adapter Log Monitor Condor C JDL info info info

ISM – Pull mode (non disponible) Network Server JDL (RB) Job Adapter Log Monitor Condor C JDL info info

RB WMS Condor-G  Condor-C Condor-G Condor-G (legacy) Condor-C ICE interface cliente avec le Gatekeeper (Globus) WMS Condor-G (legacy) Condor-C interface cliente du daemon Condor-C ICE

Condor-G  Condor-C RB UI Submit job Gatekeeper BDII LRMS job-manager LRMS Information Provider LCG-CE Local Resource Management System LRMS middleware LRMS specific

Condor-G  Condor-C WMS UI Submit job + REQ Gatekeeper BDII LRMS job-manager fork job-manager LRMS Information Provider Launch Condor-C Blahpd Condor-C gLite-CE BLAH commands Local Resource Management System LRMS middleware LRMS specific

Condor-G  Condor-C (+ ICE) Submit job + REQ CREAM CEMon BLAH connector LRMS Information Provider Blahpd CREAM BLAH commands Local Resource Management System LRMS-specific BLAH Log Parser LRMS middleware LRMS specific

WMProxy Network Server WM Proxy

parametric jobs (_PARAM_) WMProxy Web Service bulk submission ensemble de jobs indépendants parametric jobs (_PARAM_) arguments, stdinput… ZippedISB glite-wms-job-perusal inspecte output d'un job en cours d'exécution

Statut de gLite WMS (14/02/2007) "Bulk submission" améliore les performances de façon significative WMS s'écroule sous la charge (20 000 jobs/jour) nécessite redémarrage des process et nettoyage De gros progrès et de nombreux patchs au cours de ces derniers mois 15 000 jobs/jour pendant 5 jours (avec bulk submission) Amélioration robustesse en cours (refactoring pour permettre de court-circuiter DAGMan) source: Stefano Belforte (INFN Trieste)

Autres nouvelles fonctionnalités ? WMS versus RB Questions Autres nouvelles fonctionnalités ? WMS versus RB Performance ? Stabilité ? Facilité d'exploitation ?