F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 ATLAS Data-Grid au CERN et au CCin2p3 F. Ohlsson-Malek, ISN-Grenoble et ATLAS-France.

Slides:



Advertisements
Présentations similaires
Objective: to revise dates Jeudi vingt novembre 2008.
Advertisements

UNIX Pour débutant. Applications En directNavigateurCourrierMode consoleFenêtrage http smtp ssh X protocoles - langages de programmation protocoles -
UNIX Pour débutant. Applications En directNavigateurCourrierMode consoleFenêtrage http smtp ssh X Protocoles de communication Protocoles de communication.
CC-Lyon le 21/12/01VO et outil de maj des grid-mafile VO et outil de mise à jour des grid-mapfile
08/07/2002Yves Schutz1 ALICE et la GRILLE État des lieux au 8 juillet 2002 Y. Schutz, SUBATECH, Nantes.
DataGrid France – 12/02/03 TSTG et al. Activités du groupe de test TSTG Organisation Stratégie LCG Activités du TSTG – Mise en place dun framework – Intégration.
Septembre 2001Y. Schutz - ALICE / WP6 France1 Activités GRILLE dALICE.
Yannick LEGRÉ - DataGrid France - Lyon 31 janvier 2001 Tests de Globus Lancement des algorithmes dArtémis à travers la grille... WP 6 / WP 10.
Nadia LAJILI DataGRID WP6 - Testbed Integration-BILAN Lyon, 12 Juillet 2001.
DataGRID PTB, Geneva, 10 April 2002 ATLAS Data Challenges Fede Eric.
LCG DATAGRID - France 8 Juillet 2002 LCG : LHC Grid computing - qui, quoi, quand, comment ? Quoi ? But : préparer l'infrastructure informatique des 4 expériences.
User Support Sophie Nicoud DataGrid France – CPPM 22/09/02.
Lyon/ENS DATA GRID-ATLAS ISN Grenoble 1 Portage dune application de physique sur la datagrid Application existante : –Génération/simulation/reconstruction/analyse.
Grid Information Index Service D. Calvet, M. Huet, I. Mandjavidze DAPNIA/SEI CEA Saclay Gif-sur-Yvette Cedex.
Nadia LAJILI STATUS REPORT WP6 Workshop Oxford Lyon,le 19 Juillet 2001.
Intégration du système de production LHCb sur la DataGRID V. Garonne, CPPM, Marseille Réunion DataGRID France, 13 fv fév
Unix Raymond Ripp.
EGEE is a project funded by the European Union under contract IST Gestion des données David Bouvet CCIN2P3 Présentation faite à partir des.
Plateforme de Calcul pour les Sciences du Vivant Le Système dInformation de gLite.
ATLAS Data Challenges. Les Data Challenges (DC) en français Challenges des Données ont pour but de Valider: –le modèle dorganisation et dutilisation des.
1 Grille de calcul et physique des particules Vincent Garonne CPPM, Marseille Novembre 2003 Contenu de la présentation Etat de lart : Grille de calcul.
Fabio HERNANDEZ Centre de Calcul de l'IN2P3 - Lyon
Plateforme de Calcul pour les Sciences du Vivant Soumission de jobs sur grille.
31/01/2001Réunionn WP6-Y. Schutz (SUBATECH) 1 Simulation-Reconstruction ALICE Une application pour le TestBed 0 ?
F. Ohlsson-Malek, ISN Grenoble CCin2p3, EDG Tutorial 14/02/ Le projet EU DataGrid et la participation d’ATLAS.
EGEE is a project funded by the European Union under contract IST Noeud de Grille au CPPM.
Overview %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%
Unix Raymond Ripp.
Calcul CMS: bilan CCRC08 C. Charlot / LLR LCGFR, 3 mars 2008.
Calcul CMS: bilan 2008 C. Charlot / LLR LCG-DIR mars 2009.
Gestion de données : Besoins de la VO Biomed Sorina Pop Laboratoire Creatis Université de Lyon, CREATIS; CNRS UMR5220; Inserm U1044; INSA-Lyon; Université.
Tier1 at the CC-IN2P3 March Current state at the CC-IN2P3 storage, computation, network...
Déploiement LCG-2 Etat actuel au CC-IN2P3 Fabio Hernandez Centre de Calcul de l’IN2P3 Lyon, 22 juillet 2004.
TitleIntroductionTaskProcessEvaluationRubricConclusion Un Voyage en France Français III Mlle Higgins.
Overview %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%
Overview %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%%%%%% %%%%%%%
CAF-13/09/2010Luc1 Squad Report T2 Période 19/06-11/09 Irena, Sabine, Emmanuel.
Séminaire INGI 2591 Attaques Web Accardo Nicolas INFO 22 Blerot Olivier INFO 22 Couvreur Pascal INFO 22 Depry Fabian INFO 23.
Systèmes d’exploitation
Français 2, 26 Novembre 2012 Cinq minutes preparer à L’examen chapitre 2. Did you hear about the Italian chef that died? Partir – to leave. Nous devons.
Lundi 20 avril 2015 JJS (Java Job Submission) Soumission de jobs sur grille Pascal Calvat Centre de calcul IN2P3.
Service Challenge 4 – Tests de Débit Bilan pour le Tier-1 LCG-France Fabio Hernandez Responsable Technique LCG-France Centre de Calcul de l’IN2P3
Gestion des données sur la grille C. Charlot / LLR CNRS & IN2P3 For the European DataGrid Project Team
Production DC2 ATLAS David Bouvet LHC Calcul 22 juillet 2004.
Français Today’s Learning Objective: AT1: To listen to and understand the months in French.
Sample Image 3ème rencontre EGEODE – Villefranche-sur-Mer – 29 May 2009 g-Eclipse avec EGEODE
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Data management David Bouvet IN2P3-CC Clermont.
Site report et IT Facilities. Site report : à retenir GPFS est toujours (de plus en plus utilisé) Les interconnects entre stockage et « calcul » sont.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Soumission de jobs David Bouvet IN2P3-CC.
D0 côté info D0 à FNAL  Données du RunII  Infrastructure matérielle  Infrasturucture logicielle  Monte Carlo à D0 D0 à Lyon  Production Monte Carlo.
Yannick Patois _ Journée du Libre _ 1er Novembre n° 1 Datagrid Une grille de calcul sous Linux Yannick Patois.
Intégration de BQS dans le gLite-CE. Réunion TCG Présentation des difficultés rencontrées: Installation gLite-CE et WMS –Sensibilité aux modifications.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Quelques commandes de la grille David Bouvet.
INFSO-RI Enabling Grids for E-sciencE NA4 test Eric Fede on behalf of the team.
Mardi 31 mai 2016 JJS (Java Job Submission) Soumission de jobs sur grille Pascal Calvat Centre de calcul.
EGEE is a project funded by the European Union under contract IST Job Soumission Eric Fede CPPM Grid Tutorial, Novembre
EGEE is a project funded by the European Union under contract IST Job Soumission N.Lajili Seminaire Grille-21 Novembre
BABAR Georges Vasseur CEA Saclay, DSM/IRFU/SPP Workshop sur l’analyse des données au centre de calcul de Lyon 17 avril 2008.
Plateforme de Calcul pour les Sciences du Vivant 1 Grille de calcul et validation des processus EM Geant4/GATE.
CAF LCG-FRANCE A.Rozanov LCG France 22 Juillet SOMMAIRE Composition CAF DC2 ATLAS Demandes fin 2004.
Biennale du LPNHE 2011, 20/09/ Le projet GRIF-UPMC : évolution et utilisation Liliana Martin Victor Mendoza Frédéric Derue
Edit Knoops CPPM 20/01/2009 Enabling Grids for E-sciencE Gestion des données Gestion des jobs Edith Knoops.
C. Charlot, LLR Ecole Polytechnique DC04 CMS Objectif numéro 1: préparation du traitement offline Différent des productions MC précédentes Mise en route.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Soumission de jobs C. Loomis / M. Jouvin.
Projet LCG: Vue d’Ensemble Fabio Hernandez Responsable Technique LCG-France Centre de Calcul de l’IN2P3 Rencontre IN2P3/STIC Grenoble, 25.
20-mars-2008Eric Lançon1 Activités ATLAS sur le nuage Français Emprunts a K. Bernardet, C. Biscarat, S. Jezequel, G. Rahal.
INFSO-RI Enabling Grids for E-sciencE Data management Daniel Jouvenot IN2P3-LAL ORSAY - 02/02/2007.
CALCUL ATLAS LCG France (CC IN2P3 Lyon) 30 Avril SOMMAIRE Data Challenge 2 (DC2) d’ATLAS Utilisation du CC IN2P3.
CREAM & ICE Réunion SA1-France 11 mars 2008
[Insérez le nom du programme]
Transcription de la présentation:

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 ATLAS Data-Grid au CERN et au CCin2p3 F. Ohlsson-Malek, ISN-Grenoble et ATLAS-France

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 CERN: testbed006 CCin2p3: ccali : /afs/in2p3.fr/toolkit/atlas

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 Interface de soumission de job pour la simulation ATLAS (old kit) ######################################### # # Description File : # run atlas simulation program (dice) # sending the datacards to the remote CE # ################################ # author: Silvia Resconi, modified by F. Ohlsson-Malek ###################################################### Executable = "/bin/sh"; Arguments = "run_dice.sh "; StdInput ="dice_bevents.datacards"; StdOutput = "atlas_stdout.log"; StdError = "atlas_stderr.log"; InputSandbox = {"/home/ohlssonmalek/dice/run_dice.sh", "/home/ohlssonmalek/dice/ dice_bevents.datacards","/home/ohlssonmalek/dice/bsjpsieta.P"}; OutputSandbox = {"atlas.his","atlas_stdout.log", "atlas_stderr.log"}; Requirements = other.LRMSType == "PBS" && other.OpSys=="RH 6.2"; #Requirements = member(other.RunTimeEnvironment,"ATLAS-1.3.0") && other.LRMSType == "PBS" && other.OpSys=="RH 6.2"; Rank = other.MaxCpuTime;

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 #!/bin/sh # # set enviroment variables source /opt/atlas/etc/atlas.shrc export ATLAS_DIR=/opt/atlas/1.3.0/applications ln -s $ATLAS_DIR/run_dice/amdb_simrec.data. ln -s $ATLAS_DIR/run_dice/bertaf.dat. ln -s $ATLAS_DIR/run_dice/chetc.dat. ln -s $ATLAS_DIR/run_dice/eurodec.dat. ln -s $ATLAS_DIR/run_dice/fieldmap.dat. ln -s $ATLAS_DIR/run_dice/flukaaf.dat. #ln -s $ATLAS_DIR/run_dice/flukaerr.dat. ln -s $ATLAS_DIR/run_dice/xsneut.dat. # # run dice # run exe with remote datacards $ATLAS_DIR/run_dice/dice.exe echo 'end of execution, list the existing files' ls -l echo 'copy the Zebra.O file to CASTOR‘ (écrire dans CASTOR !!!) rfcp ZEBRA.O /castor/cern.ch/user/f/fmalek/test/grid-0.O run_dice.sh

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 dg-job-list-match dice_bevents.jdl Connecting to host testbed011.cern.ch, port 7771 *************************************************************************** COMPUTING ELEMENT IDs LIST The following CE(s) matching your job requirements have been found: - ccrdli05.in2p3.fr:2119/jobmanager-bqs-A - testbed001.cnaf.infn.it:2119/jobmanager-pbs-workq - lxshare0220.cern.ch:2119/jobmanager-pbs-short - lxshare0220.cern.ch:2119/jobmanager-pbs-long - tbn01.nikhef.nl:2119/jobmanager-pbs-q_72h256mb - tbn01.nikhef.nl:2119/jobmanager-pbs-q_24h256mb - tbn01.nikhef.nl:2119/jobmanager-pbs-q_24h1024mb - gppce05.gridpp.rl.ac.uk:2119/jobmanager-pbs-S - gppce05.gridpp.rl.ac.uk:2119/jobmanager-pbs-M - gppce05.gridpp.rl.ac.uk:2119/jobmanager-pbs-L - grid001.pd.infn.it:2119/jobmanager-lsf-grid01pd *************************************************************************** CERN CCin2p3 NIKHEF RAL INFN

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 Job submission dg-job-submit dice_bevents.jdl -resource lxshare0220.cern.ch:2119/jobmanager- pbs-long -o bs.lis which produces this output: Connecting to host testbed011.cern.ch, port 7771 Logging to host testbed011.cern.ch, port ************************************************ JOB SUBMIT OUTCOME The job has been successfully submitted to the Resource Broker. Use dg-job-status command to check job current status. Your job identifier (dg_jobId) is: - ern.ch:7771 ************************************************* dg-job-status -i bs.lis

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 Outputs des jobs de simu dg-job-get-output -i bs.lis -dir my_output > bs.log dice]$ cd my_output/ my_output]$ ls my_output]$ cd / ]$ ls -l total rwxrwxr-x 1 ohlssonm ohlssonm Apr 3 09:49 ZEBRA.O -rwxrwxr-x 1 ohlssonm ohlssonm Apr 3 09:49 atlas.his -rwxrwxr-x 1 ohlssonm ohlssonm 0 Apr 3 09:49 atlas_stderr.log -rwxrwxr-x 1 ohlssonm ohlssonm Apr 3 09:49 atlas_stdout.log

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 Bilan du test Globalement positif Négatif au niveau des transferts de données si on veut faire des choses sophistiquées Et la suite? Upgade de la release du software 3.2.1, voir Nouveaux tests de simu, reconstruction, transferts de données Intégration des travaux de Data Challenge (DC1?, DC2)

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 Quelques commandes utiles de GLOBUS globus-job-run lxshare0220.cern.ch /bin/pwd -> /home/atlas004 globus-job-run lxshare0220.cern.ch /bin/ls /home/atlas etc.... globus-job-run lxshare0220.cern.ch /bin/ls -l /home/atlas004/13519 globus-job-run lxshare0220.cern.ch /bin/rm -rf /home/atlas004/13519 globus-job-run lxshare0220.cern.ch /bin/more /home/atlas004/32239/atlas_stdout.log globus-url-copy  copie des données sur tous les sites distants, puis transfert vers HPSS ou CASTOR à partir des machines qui peuvent les atteindre

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 ATLAS Data Challenge Phase 1: Juillet/août/septembre 2002 Software release Données générées au CERN simulées dans différents sites régionaux kit fast reconstruction et validation localement rapatriés au CERN pour une validation globale HLT TDR en préparation, programme en page: Priorité aux dijets, single particles et quelques canaux de physique du type: H  2 , H  4 , H  4 e, H  2e 2  Au CCin2p3: 10% des besoins en simulation + quelques travaux d’intérêts des labos francais (ressources au CCin2p3 limitées: heures CPU, besoins stockage données excellent) DC1+GRID, tests envisagés Reste le problème des transferts de données (CASTOR, HPSS) !!!!

F. Ohlsson-Malek Data GRID/WP6 meeting Lyon, 8 juillet 2002 Phase 2: Novembre/Décembre 2002 Janvier 2003 ? Software release Validation Geant 4, Athena, ATLAST DC2 + GRID sérieusement envisagé Ressouces au CCin2p3 souhaitées beaucoup plus grandes !!! ATLAS Data Challenge