Réunion Analyse D0 France au CCIN2P3 19 janvier 2004

Slides:



Advertisements
Présentations similaires
Smain Kermiche 23/07/2001 Journées Informatique IN2P3 DAPNIA 1 L’informatique à D0 D0 à FNAL Données du Run II Infrastructure matérielle Stockage/Accès.
Advertisements

D0 côté info D0 à FNAL  Données du RunII  Infrastructure matérielle  Infrasturucture logicielle  Monte Carlo à D0 D0 à Lyon  Production Monte Carlo.
05-fevrier-2007Eric Lancon1 ATLAS Bilan Planning 2007.
Réunion de service Service Informatique 24 novembre 2010.
Le projet MUST Méso infrastructure de calcul et de stockage ouverte sur la grille européenne LCG/EGEE Colloque Grille Rhône-Alpes 10 janvier 2008.
Fabio HERNANDEZ Responsable Grid Computing Centre de Calcul de l'IN2P3 - Lyon Lyon, 30 avril 2004 Déploiement LCG-2 au CC-IN2P3 Etat d’avancement.
GCstar Gestionnaire de collections personnelles Christian Jodar (Tian)
Outil Système Complet d'Assistance Réseau CRDP de l'académie de Lyon Documentation librement inspirée de la présentation.
Projet tuteuré 2009 Les clients légers Alexandre Cédric Joël Benjamin.
Travailler à l'ensimag avec son matériel personnel (dans les locaux Ensimag ou depuis l'extérieur) 1.Introduction 2.La clé USB Ensilinux 3.Rappels : Accès.
1 Stéphane JEZEQUEL 23 Juin 2008 Analyse des données LHC dans ATLAS S. Jézéquel.
LES FONCTIONS D'UN SYSTEME D'EXPLOITATION ● Le système d'exploitation contrôle entièrement les ressources matérielles locales. ● Il est responsable de.
Nicolas Dewaele Téléphonie.
INFSO-RI Enabling Grids for E-sciencE L’activité EGEE au CINES Nicole Audiffren, Adeline Eynard et Gérard Gil Réunion de la fédération.
I-Cloud By i-Team TIC 17/11/2014. INTRO Cloud computing Apple, 20/12/2014 iPhone,iPad,iPod Touch & Mac OS X // Windows Vista (Outlook) Révolution numérique,
Administrateur : M Falempe et M Billaud Animateur : M Billaud et M Moreau.
Yannick Patois 1 Utilisation LCG-France Les Technical Evolution Groups et LCG-France.
Xen et l' Art de la Virtualization Antoine Nivard Responsable technique Adéquat région Ouest Responsable de Site francophone de XEN Computer.
1 Identifier les composants d’un réseau local. 2 Les composants d’un réseau Des ordinateurs, appelés stations... …munis d’une carte réseau leur permettant.
L’intérêt de sauvegarder certaines données stockées localement sur les postes clients est souvent trop sous-estimée par nos utilisateurs. Casse matérielle,
C. Charlot, Calcul CMS, LCG-DIR, fév 2007 Calcul CMS 2006 TDR de Physique CMS Physics TDR, Volume 1, CERN-LHCC , feb. 2006, 548pp CMS Physics TDR,
A partir du 1er mars 2016 : 2 offres
Windows NT/2000/XP Enjeux et contraintes techniques
Outils (MailIntegration et autres)
Mise en place d’un système de partage de fichiers
Outil Système Complet d'Assistance Réseau
Échanger avec son réseau d’affaires via un cloud privé
ABES - Réunion des centres régionaux du SUDOC-PS – 12 mai 2017
Réf. CS&S/ISE/DFC/TES,xxxx/-/02
L'informatique au LBGI Raymond Ripp Juin 2016.
Séminaire EOLE Beaune Septembre 2007
Devenir d’AFS et remplacement progressif
Patrice Lebrun - D0-France - Lyon
Journée Analyse D0, 19 janvier 2004
AugerDb / SimDb Gestion des simulations Auger Java
Patrice lebrun - D0-France Lyon
Cours 5 Mardi 13 septembre Période 1: Les bases de l’informatique et les composantes de l’ordinateur PARTIE 1 Période 2: L’utilisation de Power Point.
Lustre au DAPNIA.
C. Loomis (LAL-Orsay) Tutorial EGEE Utilisateur (LAL) 2 février 2007
Vue d'ensemble de l'utilisation du CCIN2P3 par les expériences LHC
Projet « France Tier-2 » et les conséquences pour France Grilles
12 mars 2004, Lyon Reunion CAF F.Chollet 1
Fonctionnement de la grille
Etat des lieux des VO Boxes LHC
Projet de participation CMS au GRIF
Questions 1- Qu'est ce qu'un réseau informatique ?
Statut du T2 Île de France
CeMEB La plateforme MBB
Présentation OCS-Inventory au LAPP
L’exploitation des données du collisionneur LHC: un défi pour le calcul scientifique un enjeu pour le LAPP S. Jézéquel.
CeMEB La plateforme MBB
mardi 11 septembre 2018mardi 11 septembre 2018
TreqS TReqS 1.0.
Les centres d’analyse: introduction
Documentation technique (Linux)
Atelier régulation de la production dans un contexte grille
HTTP DNS NTP FTP R231 RJ45 definition HTTP DNS NTP FTP R231 RJ45.
SRT2 APACHE.
À l’intérieur de l’ordinateur
GRIF : Site EGEE au Service de la Recherche en IdF
logiciel de communication de protocole GIEGLAN
Cote d’or Date : 31/05/2018.
Un cloud de production et de stockage
DC04 CMS Objectif Status Planning
Comité Scientifique GRIF
LUSTRE Integration to SRM
LCG – France et ALICE Bilan 2006 Planning fevrier 2007
Résumé des Actions Suite aux Réunions CB et MB
Mise en place d’un Plan de Gestion des Données au GANIL
Comité Scientifique GRIF
Transcription de la présentation:

Réunion Analyse D0 France au CCIN2P3 19 janvier 2004 Patrice Lebrun

Ordre du jour Accueil et discussion de l'ordre du jour Descriptions des moyens de stockages du centre (phg,Thomas) Etats actuel des ressources de D0 et demandes 2004 (Patrice) Transferts de fichiers (Laurent) Production MC (Patrice, Michel) Gestion des fichiers (Laurent) Sam et d0grid (Patrice, Tibor) Parole aux utilisateurs (Bernard, PatriceV ...) Répartitions des responsabilités, rôle du comité analyse AOB

Utilisation actuelle des ressources Group_dir 136 Go (66%) Throng_dir 8 Go (68 %) Espace SPS 20 Go (39 %) HPSS 64 To 2 serveurs avec 2.5 To CPU 15 M UI demandés en 2003 ! Production: 140 000 h UI Analyses (autres): 216 000 h UI

Demandes 2004 HPSS Transfert Disques Logiciels Trois serveurs avec 2 To de disque par serveur 30 To Transfert Carte ethernet 100 Mb/s sur ccd0? Disques THRONG: 32 Go GROUP: 184 Go SPS: 1 To Logiciels Prolongation de la licence KCC xrootd ?

Demandes 2004 suite machine proxy database … ? Pour l ’accès aux données de calibration (reprocessing RAW data). A priori une grosse configuration sur une machine Linux bi-processaur devrait être suffisant … … ?

Réseau FNAL via Renater 3 (1 Gb/s) -> Geant US (2.5 Gb/s) -> ESNET (622 Mb/s) La ligne CERN est encore un chemin possible utilisé Taux de Transfert actuel Actuellement FNAL-CCIN2P3: ~ 30 Mb/s 100 Mb/s (Laurent ?)

La Production MC MC_RUNJOB Database Oracle Mécanisme des requests L’environnement a été modifié (utilisation « à la CAB ») pour ne plus avoir à l ’adapter au ccin2p3 à chaque version. (Merci Michel) Database Oracle Permet le suivi de la production (interface PHP) Procédure de « Merging » des thumbnails disponible Mécanisme des requests Fichiers pythons en entrée Productions privées possible à mettre en service Documentations et formations Prévoir des réunions pages HTML à éditer

SAM et JIM Tâches de fond sur CCD0 Rôles SAM et HPSS 1 station ccin2p3-analysis ccin2p3-production n ’existe plus !! Rôles Gestion des fichiers et de projets Transfert des fichiers entre les sites Soumission des jobs (depuis n ’importe quel site) SAM et HPSS Sam reconnaît les fichiers dans HPSS comme des fichiers locaux Cache sur CCD0 sert de passerelle avec l ’extérieur Risque d ’utilisation inflationniste de HPSS

Solution possible au problème d’optimisation de SAM avec HPSS Sortir les serveurs de HPSS les disques des serveurs sont gérés par SAM (cache) SAM sait il équilibrer la charge des serveurs ? HPSS est vu comme ENSTORE (staging) SAM doit être de nouveau modifié pour cela. URL hpss et rfio à définir et non pas seulement rfio. Les applications accèdent les fichiers sur les serveurs avec RFIO SAM doit savoir le faire car c’est qu’il fait actuellement avec HPSS

Grille de Calcul Début d’installation au ccin2p3 premiers tests configuration des queues de soumission des job (Laurent) Première réunion européennes au ccin2p3 le 7 mai JIM Estimation des forces dans chaque laboratoire Coopération avec CMS sur les métadata S’impliquer plus avec le groupe grille de calcul du ccin2p3

Reprocessing des données: quelques chiffres Période du 20 Novembre au 6 janvier Michel,Laurent, Tibor, Patrice 6.8 To de DST transférées de FNAL à Lyon 7.3 To de DST produites et stockè à Lyon 0.66 To de thumbnails transférées à FNAL 35 M evts (15s, cpu 1 Ghz) CPU: ~ 160 processeurs à 1 GHz soit 1 MhUI (10 % des ressources en CPU du centre sur cette période). La répartition en type de processeurs est la suivante: ~ 70 % PIV 2.4 GHz ~ 20 % PIII 1.4 GHz ~ 10 % PIII 1 GHz

Comité Analyse Redéfinir son rôle et organiser son fonctionnement Avoir un responsable de ce comité Nom: Bernard Andrieu ? Membres (à réactualiser ?) Sabine Crépé Michel Jaffre Bruno Thooris Pierre Lutz Patrice Lebrun Denis Gelé Bernard Andrieu Laurent Duflot Eric Kajfasz Smaïn Kermiche

MAN POWER Recrutement d’un CDD au ccin2p3 dédié à D0 Tibor Kurca début de contrat: 1er septembre Amélioration des outils de production Production MC et Reprocessing Développement d ’outils pour l ’aide à l ’analyse Utilisation de D0-Grid Utilisation des services informatiques des laboratoires Possible si l’on demande un développement ponctuel bien définit ex: nouvelle classe THPSSFile écrite à Lyon pour utiliser RFCP de manière transparente (reste à en faire la publicité)