Sample Image GeoAzur – Villefranche-sur-Mer - 29 Mai 2009 Tutorial : Portage d'applications sur la Grille.

Slides:



Advertisements
Présentations similaires
HTML la base Structure de la page Code HTML: les tags de base.
Advertisements

« Les Mercredis du développement » Les Starter Kits Level 100 Présenté par Pierre Lagarde Relation technique développeur
ASP.NET v2 + Ajax = Atlas Pierre Lagarde DevDays 2006 Equipé aujourdhui, prêt pour demain !
Authentification Interne Authentification de base proposée par uPortal L'identifiant et le mot de passe sont stockés dans la base de données interne du.
UNIX Pour débutant. Applications En directNavigateurCourrierMode consoleFenêtrage http smtp ssh X protocoles - langages de programmation protocoles -
UNIX Pour débutant. Applications En directNavigateurCourrierMode consoleFenêtrage http smtp ssh X Protocoles de communication Protocoles de communication.
Septembre 2001Y. Schutz - ALICE / WP6 France1 Activités GRILLE dALICE.
Grid France – CC In2p3 – 19/07/2001 Travaux du WP4
N. Jacq- LBP/CNRS - DataGrid France - November, 21th, 2001 Avancement du WP10 N. Jacq - LBP/CNRS marianne.in2p3.fr/datagrid/wp10.
User Support Sophie Nicoud DataGrid France – CPPM 22/09/02.
TP de mise en oeuvre d’une PKI avec Openssl
Gestion de ProjetTP ©Yossi Gal, Oct/2005TP, Page: 1 Le sujet Proposé Construire une application e-commerce qui permet d effectuer un achat on-line Lorganisation.
Les entrées /sorties en Java François Bonneville
Enesys RS Data Extension
Unix Raymond Ripp.
Mise en place de quotas d’impression
Comprendre l’environnement Web
EGEE is a project funded by the European Union under contract IST Gestion des données David Bouvet CCIN2P3 Présentation faite à partir des.
TortoiseSVN N°. Subversion : pour quoi faire ? Avoir un espace de stockage commun – Tous les étudiants du SIGLIS ont un espace svn commun Partager vos.
Plateforme de Calcul pour les Sciences du Vivant Le Système dInformation de gLite.
Architecture Logicielle Les supports d’applications
Démo I : INF3135 Construction et maintenance de logiciels Groupe : 10
Introduction au WebMapping
1 GPA435 Systèmes dexploitation et programmation de système Copyright, 2000 © Tony Wong, Ph.D., ing. Chapitre 4 Syntaxe des commandes, documentation standard,
Les Objets CORBA parallèles Travaux pratiques Lundi 22 mai 2000 ARC « Couplage » Christophe René (IRISA/IFSIC) Eric Lemoine (INSA Lyon)
Utilisation avancée de linux
Plateforme de Calcul pour les Sciences du Vivant Soumission de jobs sur grille.
Plateforme de Calcul pour les Sciences du Vivant Gestion de données sur EGEE.
Programmation Système et Réseau (sous Linux)
Tutoriel du 7/11 au 10/11 EGEODE / CGG - équipe grille1 TP: Installation d'un site EGEE.
Projet LCG: Déploiement Pierre Girard EGEE/LCG ROC EGEE/LCG site deployment Centre de Calcul de l’IN2P3 LCG France Lyon, 14 décembre.
Unix Raymond Ripp.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Contact Sécurité du ROC français R. Rumler.
Lundi 20 avril 2015 JJS (Java Job Submission) Soumission de jobs sur grille Pascal Calvat Centre de calcul IN2P3.
F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 ATLAS Data-Grid au CERN et au CCin2p3 F. Ohlsson-Malek, ISN-Grenoble et ATLAS-France.
Gestion des données sur la grille C. Charlot / LLR CNRS & IN2P3 For the European DataGrid Project Team
Installation UI EGEODE Équipe GRID1 Installation UI EGEODE.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks TP Data Management René Météry CS Tutorial.
Sample Image 3ème rencontre EGEODE – Villefranche-sur-Mer – 29 May 2009 g-Eclipse avec EGEODE
Sample Image CGGVeritas University - Massy Monday 10 December 2007 EGEODE VO meeting of GEOCLUSTER user's on the EGEE grid.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Data management David Bouvet IN2P3-CC Clermont.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Sécurité sur le GRID Ahmed Beriache (CGG)
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Soumission de jobs David Bouvet IN2P3-CC.
EGEODE 08/11/2006 Équipe GRID1 EGEODE EGEODE. 08/11/2006 Équipe GRID2 Plan  La géophysique sur la Grille : EGEODE  Partenariat académique  Comment.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Quelques commandes de la grille David Bouvet.
Mardi 31 mai 2016 JJS (Java Job Submission) Soumission de jobs sur grille Pascal Calvat Centre de calcul.
EGEE is a project funded by the European Union under contract IST Job Soumission Eric Fede CPPM Grid Tutorial, Novembre
EGEE is a project funded by the European Union under contract IST Job Soumission N.Lajili Seminaire Grille-21 Novembre
Utilisation de Quattor par GRIF Michel Jouvin LAL/Orsay
Catalogues de fichiers de données. David Bouvet2 Problématique Possibilité de répliquer les fichiers sur divers SE  nécessité d’un catalogue de fichiers.
Sample Image Comment utiliser la grille ? 3ème rencontre EGEODE des utilisateurs de Geocluster et des Sciences de la Terre sur la grille EGEE à Villefranche-sur-Mer.
Edit Knoops CPPM 20/01/2009 Enabling Grids for E-sciencE Gestion des données Gestion des jobs Edith Knoops.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Soumission de jobs C. Loomis / M. Jouvin.
Mercredi 22 juin 2016 Suivi des jobs grille Colloque LCG France Mars 2007.
INFSO-RI Enabling Grids for E-sciencE Data management Daniel Jouvenot IN2P3-LAL ORSAY - 02/02/2007.
INFSO-RI Enabling Grids for E-sciencE La gestion des données Daniel Jouvenot LAL-IN2P3-CNRS 18/06/2008.
C. Loomis (LAL-Orsay) Tutorial EGEE Utilisateur (LAL) 2 février 2007
GRIF : Grille pour la Recherche en
Surveillance des services grille par NAGIOS
Fonctionnement de la grille
David Bouvet, David Weissenbach Observatoire de Meudon, 01-02/02/2011
Soumission de jobs C. Loomis / M. Jouvin (LAL-Orsay)
David Bouvet IN2P3-CC Annecy - 27/09/2007
David Bouvet LCG France T2 T3 – LPNHE
Auteurs : David Bouvet, David Weissenbach
Exercices: Système d’Information
Atelier régulation de la production dans un contexte grille
Comparaison RB et gLite WMS
Tutorial Utilisateurs EGEE
Infrastructure Opérationnelle d’EGEE
Transcription de la présentation:

Sample Image GeoAzur – Villefranche-sur-Mer - 29 Mai 2009 Tutorial : Portage d'applications sur la Grille

29/05/08 Portage d'une application sur la grille EGEE2 Sommaire Qu'est ce qu'une application Mécanisme sur d'execution sur la grille Gestion des données Références Exemples de job : Mon premier job Job interactif Job SU Job Geocluster Job parallèle Résumé des commandes Application GeoAzur

29/05/08 Portage d'une application sur la grille EGEE3 Qu'est qu'une application Entrée(s)Sortie(s) Application (0-n) Interaction(s)

Site 1 Site 4 Site …Site n Site 2Site 3 Tiers UI Box 1 WN Requètes WMS CE Réponses/Interactions JDL job SE LFC catalog Mecanisme d'execution sur la grille

Exécution détaillé 29/05/08 Portage d'une application sur la grille EGEE

Fichier sur la grille 29/05/08 Portage d'une application sur la grille EGEE

Kereon

G-eclipse 29/05/08 Portage d'une application sur la grille EGEE

Possibilité avec EGEE Jobs Sequentiel, Parallel, Interactif, Collection, Parametric,Realtime Flot de jobs : Diagram Acyclique Graph (DAG) Job pilot (DIANE) Applications référencées : – – Projet RESPECT : egee.org/index.php?id=290http://technical.eu- egee.org/index.php?id=290

Possibilité avec EGEE Gestion de données File transfer Service : FTS Meta données : AMGA Bases de données : GrelC Encryption : Hydra /05/08 Portage d'une application sur la grille EGEE

29/05/08 Portage d'une application sur la grille EGEE11 Références EGEE : Documentation utilisateur : Documentation JDL : JRA1-TEC JDL-Attributes-v0-8.pdf JRA1-TEC JDL-Attributes-v0-8.pdf Documentation MPI Grid : Utilisation de base de données : GrelC Documentation middleware :

Pré-requis Avoir un certificat Appartenir à une VO ( EGEODE ) Avoir une application sous Linux (Unix) Avoir une UI accessible Avoir un site accessible Mots clés : voms-proxy*, lcg-infosites

Mon premier job Type = "job"; JobType = "normal"; VirtualOrganisation = "egeode"; Executable = "testjob.sh"; StdOutput = "testjob.out"; StdError = "testjob.err"; InputSandbox = {"./testjob.sh"}; OutputSandbox = {"testjob.out","testjob.err"};

Job interactif avec glogin Client serveur sur l'ui > glogin -p 21439: Dans le repertoire du job : cp `which glogin`. Job : Executable = "glogin"; Arguments = "-r -t -p 21439: "; InputSandbox ={ "glogin" };

Job SU Wrapper script SU : su.sh Liste de fichiers entrées : inputlist.txt Liste de fichiers sorties : outputlist.txt Output : dans un fichier grille dans /grid/egeode/... Job : Type = "job"; JobType = "normal"; VirtualOrganisation = "egeode"; Executable = "su.sh"; Arguments="/grid/egeode/gvetois/sutest anywhere./PSimage_rgb"; StdOutput = "out"; StdError = "err"; InputSandbox = {"PSimage_rgb","su.sh","inputlist.txt","outputlist.txt"}; OutputSandbox = {"out","err","output.txt","su.log"}; MyProxyServer = "myproxy.grif.fr"; Requirements = Member("VO-egeode-SU-3.9",other.GlueHostApplicationSoftwareRunTimeEnvironment);

Job parallèle Exemple hello world parallèle JDL parallèle Exécution parallèle ( MPI-TGC ) Exécution Mots clés : JobType=MPICH, wrapper et hook, CpuNumber

Job Geocluster Esub : - gsl au jdl - analyse et transfert de fichier - control le létat du job - vérification licence et proxy - exécution local, grille et parallèle 29/05/08 Portage d'une application sur la grille EGEE

Résumé des commandes d'identification Max 24h voms-proxy-info voms-proxy-init --voms egeode:/egeode - valid 24:00 Max 7 jours export MYPROXY_SERVER=myproxy.grif.fr myproxy-init -n myproxy-info 33 jours : myproxy-init -s myproxy.grif.fr -d -n -t 48 -c 800 Dans le jdl : MyProxyServer=myproxy.grif.fr;

Résumé des commandes de control FonctiongLite Soumettre un job glite-wms-job-submit [-d delegID] [-a] [-o joblist] jdlfile Controller le status du job glite-wms-job-status [-v verbosity] [-i joblist] jobIDs Obtenir des informations détaillé de l'execution glite-wms-job-logging-info [-v verbosity] [-i joblist] jobIDs Collecter les resultats du jobglite-wms-job-output [--dir outdir] [-i joblist] jobIDs Annuler un jobglite-wms-job-cancel [-i joblist] jobID Verification de syntaxe et disponibilité pour a job glite-wms-job-list-match [-d delegID] [-a] jdlfile Deleger un proxy à une autre personne glite-wms-job-delegate-proxy -d delegID

Résumé des commandes de gestion de données export LFC_HOST=lfc.egee.fr.cgg.com export LCG_CATALOG_TYPE=lfc Data Replica management : lcg-*[cp,cr,del,rep,gt,sd] File Catalogue Interaction lcg-*[aa,ra,rf,uf,la,lg,lr] File Calalog (MetaData) lfc-* [chmod,chown,delcomment,getacl,ln,mkdir,ren ame,rm,setacl, setcomment,...]

Detail lcg-* commandes

Détail lfc-* commandes

Application GeoAzur Comprehension des scripts Determination des input/output Compilation des binaires Test unitaire Test de different compilateurs et options Ecriture d'un script du workflow Utilisation de gEclipse

Compiler 29/05/08 Portage d'une application sur la grille EGEE Quel compilateur : Gcc (4.3.2)/icc (11) gfortran(4.3.2)/ifc(10) Options (32 ou 64bit !) : -O0 (defaut = pas d'optimisation ) -O2,-O3,...-static Profiling code : -pg et gprof Utilisation de bibliothèque mathèmatique : Blas,lapack ( mkl ),...

D'autres formations :