Olivier Deschamps 2009/01/231 LHCb-LPC group meeting Informatique pour LHCb au LPC.

Présentation au sujet: "Olivier Deschamps 2009/01/231 LHCb-LPC group meeting Informatique pour LHCb au LPC."— Transcription de la présentation:

1 Olivier Deschamps 2009/01/231 LHCb-LPC group meeting Informatique pour LHCb au LPC

2 Olivier Deschamps 2009/01/232 2 To /users_wn01/ 2 To /users_wn02/ 2 To /users_local1/ CLRLHCB serveurs clrlhcbsrvclrlhcbwn01clrlhcbwn02 Home directories /users/divers/lhcb BATCH MACHINEs INTERACTIVE MACHINE clrhp02/(hp05,al1)

3 Olivier Deschamps 2009/01/233 Organisation des repertoires Home directories /users/divers/lhcb/ disque partagé espace limité ~ 4.6 Go plein a 64% (héritage de ALEPH + clrhpal1/02 … backup journalier Espace utilisateur additionnel ouvert dans /users_local1 /users_local1/lhcb/usr/  équivalent au disque externe w0/ au CERN  faire un lien vers son home directory backup régulier tant que la taille est raisonable Zones scratch /users_local1/scratch/ /user_wn01/ et /user_wn02/ Espace pour installation des software /users_local1/lhcb/sw backup mensuel

4 Olivier Deschamps 2009/01/234 Software Software dans /users_local1/lhcb/sw script utiles dans : /users_local1/lhcb/sw/scripts fichiers d’exemple et instructions dans : /users_local1/lhcb/sw/rep LHCb emacs setup dans : /users_local1/lhcb/sw/emacs software LHCb dans : /users_local1/lhcb/sw/LHCb software CKMFitter dans : /users_local1/lhcb/sw/CKMFitter historique des installations : /users_local1/lhcb/sw/history CERNLIB dans /opt/cern/2005/slc4_amd64_gcc34/bin à faire déplacer dans /users_local1/ pour qu’elle soit visible des machines batch Setup de base > source /users_local1/lhcb/sw/scripts/setup.csh definit des variables d’environnement et des alias (root, paw, …) > source /users_local1/lhcb/sw/scripts/lhcb.csh definit l’environement lhcb (inclut setup.csh) à mettre dans son $HOME/.cshrc exemple de.cshrc ‘propre’ dans /users_local1/lhcb/sw/rep/.cshrc pour bénéficier du setup Emacs LHCb standard : > cp /users_local1/lhcb/sw/rep/.emacs $HOME/. > cp –R /users_local1/lhcb/sw/rep/.xemacs $HOME/.

5 Olivier Deschamps 2009/01/235 Setup ****************************************************** * WELCOME LHCb software * ****************************************************** --- $SITEROOT is set to /users_local1/lhcb/sw/LHCb --- $CMTSITE is set to LOCAL --- $CMTROOT is set to /users_local1/lhcb/sw/LHCb/contrib/CMT/v1r20p20070208 --- $CMTCONFIG is set to slc4_amd64_gcc34 --- to compile and link in debug mode : setenv CMTCONFIG $CMTDEB ; gmake --- $LHCBPROJECTPATH is set to $LHCb_release_area:$LCG_release_area --- projects will be searched in $CMTPROJECTPATH set by the user -------------------------------------------------------------------- Setting up environment for the grid on a slc4_amd64 type machine --- LHCb_release_area is set to /users_local1/lhcb/sw/LHCb/lhcb --- CVSROOT is set to :ext:isscvs.cern.ch:/local/reps/lhcb --- EMACSDIR is set to /users_local1/lhcb/sw/LHCb/lhcb/Tools/Emacs/pro --- DATAROOT is set to /users_local1/scratch/lhcb/data/ ---- Useful LHCb aliases -------------------------------------------- - o lhcb : re-set lhcb default environment - o 32bit : switch to 32 bit compilation (default 64 bit) - o 64bit : switch to 64 bit compilation (default) - o condDB : launch the condDB browser - o panoramix [-u ] : launch panoramix event display - o getData [run] : copy data run locally from Castor at CERN - o bookkeeping : launch the interactive bookkeeping GUI --------------------------------------------------------------------- LHCb setup completed > source /users_local1/lhcb/sw/scripts/lhcb.csh (ou automatiquement au login si.cshrc est configuré)

6 Olivier Deschamps 2009/01/236 Software LHCb : le code Software LHCb dans /users_local1/lhcb/sw/lhcb/ Panoramix Orwell Lbcom Boole Brunel Gauss DaVinci Bender Dirac3 Mise à jour régulière des dernières versions (simple script à lancer) Le soft. fonctionne comme sur lxplus > setenvDaVinci v21r0 > getpack Phys/DaVinci v21r0 > … Pour accéder au repository CVS (e.g. getpack) il faut un accès ssh avec clé CVS instruction ici : http://cvs.web.cern.ch/cvs/howto.php#accessing-sshlinuxhttp://cvs.web.cern.ch/cvs/howto.php#accessing-sshlinux

7 Olivier Deschamps 2009/01/237 Software LHCb : les données Pour accéder au données au CERN il faut le certificat GRID et convertir le proxy pour l’installer sur le serveur : instruction ici : https://twiki.cern.ch/twiki/bin/view/LHCb/FAQ/Certificatehttps://twiki.cern.ch/twiki/bin/view/LHCb/FAQ/Certificate On peut voir les fichiers de données sur CASTOR au cern via le bookeeping e.g. > bookkeeping (alias definit dans lhcb.csh)

8 Olivier Deschamps 2009/01/238 Software LHCb : les données la commande rfdir a aussi été configuré pour marcher localement (alias definit dans lhcb.csh) e.g. : > rfdir /castor/cern.ch/user/o/odescham/ On peut voir les fichiers de données sur CASTOR au cern via le bookeeping ou rfdir mais il n’est pas permis de lire ces fichiers à distance (interdit par le mur de feu du CERN)  Il faut copier les fichier localement  ou envoyer un job sur la grille  Dirac3 est installé localement et a priori ça devrait marcher mais pas encore testé la commande rfcp a été configuré pour marcher localement (alias definit dans lhcb.csh) e.g. : > rfcp /castor/cern.ch/user/o/odescham/myfile.dst localFile.dst Il y a aussi un script utile qui permet de récupérer les rawData (e.g. données du commissioning) : getData (alias definit dans lhcb.csh) usage : > getData copie le fichier localement dans /users_local1/scratch/lhcb/data/ produit le fichier d’options pour les applications Gaudi

9 Olivier Deschamps 2009/01/239 Software LHCb : les données clrlhcbsrv:odescham /users/divers/lhcb/odescham/opt/sw/rep> getData 34317 Proxy location is: /tmp/x509up_u2216 Which data taking year(s) ? (2008, 2009, ALL) [2009] : 2008 Which partition(s) ? (CALO,ECAL,HCAL,IT,LHCb,MUON,RICH,VELO,...,ALL) [LHCb] : PRS Options file prefix ? [inputRawData] : Creating run.list Looking for run {34317} taken in period {2008} within {PRS} partition(s) looking for run 34317 in /castor/cern.ch/grid/lhcb/data/2008/RAW/[PARTITION]... (be patient) 1 data files have been found for the run 34317 in /castor/cern.ch/grid/lhcb/data/2008/RAW/PRS/TEST/34317 Do you want the data to be copied locally (y/n) [y] : y Copying data file 034317_0000085685.raw in /users_local1/scratch/lhcb/data/2008/RAW/PRS/TEST/34317/... (be patient) 1 data files have been selected for the requested run(s) {34317} ------------------------------------------------------------------------------------------- Created 1 options file (inputRawData.opts) with EventSelector setting for 1 data files ------------------------------------------------------------------------------------------- The run list is stored in file /users_local1/scratch/lhcb/data/history/run.list.odescham.2009-01-23-12-55-48 clrlhcbsrv:odescham /users/divers/lhcb/odescham/opt/sw/rep> more inputRawData.opts //---------------------------------------------------------- // EventSelector setting automatically created (2009-01-23-12-55-48) // for run = {34317} requested to be found on Castor //---------------------------------------------------------- #include "$STDOPTS/RawDataIO.opts" ApplicationMgr.EvtMax = -1; EventSelector.FirstEvent = 1; EventSelector.Input += { //--------------------------------- //--------- run 34317 (1 data files) //--------------------------------- "DATA='file://users_local1/scratch/lhcb/data/2008/RAW/PRS/TEST/34317/034317_0000085685.raw' SVC='LHCb::MDFSelector'" }; // TOTAL NUMBER OF FILES : 1

10 Olivier Deschamps 2009/01/2310 Autres software disponibles Mathematica 5.2 et 6.0 Il faut que des fonts spécifiques soient disponibles sur la machine source. Si vous utilisez un Sun comme terminal il faut que vous passiez par clrsray01 ou les font sont installées (demandez une bascule a Gregory Monte si vous etes sur clrsray02). Si vous etes sur un PC il faut y installer les fonts et configurer votre serveur X. Si vous êtes sous windows et que vous utilisez Exceed, des instructions sont là : http://people.csail.mit.edu/tromer/exceed-math.html http://people.csail.mit.edu/tromer/exceed-math.html Si vous êtes sous linux c'est plus simple : http://gears.aset.psu.edu/hpc/software/math/mathem/fonts.shtml http://gears.aset.psu.edu/hpc/software/math/mathem/fonts.shtml - Mathlab (essentiellement pour Valentin)

11 Olivier Deschamps 2009/01/2311 Système de batch Machines batch clrlhcbwn01 et clrlhcbwn02 8 jobs peuvent tourner en parallèle (1/processeur) commande : > qsub [jobname.job] pour soumettre le job > qstat pour voir l’état des jobs > qdel pour tuer un job qui tourne retour job : jobname.job.oXXX et jobname.job.eXXX (XXX = job Id) Attention : par défaut le script job est executé sur clrlhcbwn01/2 dans le HOME directory  Evitez de nettoyer la zone batch avec un rm –f * à la fin du script !!!! Il existe des alias utiles pour la gestion du batch et des exemples de script job /users_local1/lhcb/sw/rep/example.job #!/bin/tcsh INITJOB coucou # ---------------------------- # --------- User job script -- # ---------------------------- echo 'coucou' #---------------- # End of user job #---------------- CLEANJOB L’environnement définit par lhcb.csh est nécessaire dans le.chrc Crée une zone batch dans /users_wn0X/batchArea/ print des infos utiles dans le log (date/heure de début et fin …) Nettoie la zone batch

12 Olivier Deschamps 2009/01/2312 Système de batch #!/bin/tcsh # --------------------------------- # -- User job script description -- # --------------------------------- # give a name #------------ setenv jobname "myJob" # define executable and path #--------------------------- setenv exeDir "~/" setenv exeFiles "myExe1 ; myExe2" # define input files and path #---------------------------- setenv inputDir $exeDir setenv inputFiles "file1 ; file2" # define output files and path #----------------------------- setenv outputDir "~/return" setenv outputFiles "*.out" # Any specific initial commands ? #------------------------------- setenv commands "ls ; date" #----- LAST BUT NOT LEAST - RUNJOB #-------------------------- /users_local1/lhcb/sw/rep/simple.job

13 Olivier Deschamps 2009/01/2313 Système de batch Script pour la gestion des job soumis commande : batchArea produit un listing des jobs en cours avec info usage batchArea : info pour l’utilisateur batchArea : info pour un autre utilisateur batchArea all : info pour tous les utilisateurs après avoir tapé la commande batchArea on peut accéder directement à la zone batch ou le job tourne avec : > cd $JOB[X] où X est le numero de job

14 Olivier Deschamps 2009/01/2314 Système de batch == $JOB192

15 Olivier Deschamps 2009/01/2315 FIN Exemples et instructions dans : /users_local1/lhcb/sw/rep Exemples à copier/modifier dans son $HOME:.cshrc.emacs et.xemacs example.job / simpleJob.job Instructions : lhcb.newcommers ces transparents