LSST : Big data = Big science? Reunion Renoir 18 Nov 2013.

Slides:



Advertisements
Présentations similaires
PRENDRE EN CHARGE NOS CLIENTS
Advertisements

1 HPC pour les opérations. Sommaire Quelques rappels sur Windows Compute Cluster Server Déploiement de Compute Cluster Administration de Compute cluster.
Pourquoi a-t-on commencer à faire des opérations « complexes »? Sans opérations pas de partage, sans partage pas de société.
Moodle Une plate-forme d’apprentissage analysée par Annabelle Batas
Intégration du système de production LHCb sur la DataGRID V. Garonne, CPPM, Marseille Réunion DataGRID France, 13 fv fév
L’environnement de production WISDOM
Doctorat/Web of Science Les nouveautés du Web of Science Formations Master et Doctorants Voir aussi
Scientific Data Preservation Project Call: Mastodons
Points importants de la semaine Les enregistrements.
Le modèle à base d'activités : caractérisation
LEGOS (laboratoire d’études en géophysique et océanographie spatiales) Pôles de données Attentes du LEGOS LEGOS (laboratoire d’études en géophysique et.
Mise en place d’un Intranet
Fonctions avancées et graphiques
CMS ATLAS LHCb CERN Tier 0 Centre at CERN National Centres Lab a Russia Lab c Uni n Lab b Manno Canada Uni y Uni x Tier3 physics department  Ge  Germany.
Résumé CHEP 2010 Distributed processing and analysis Grid and cloud middleware Thèmes : 1.
Big Data.
Formation MECA 3D OBJECTIFS DE LA 4ème JOURNEE:
FLOWVR Schéma d’une application interactive classique.
Réunion calcul simulations GIEC/IPCC - Prodiguer Lundi 23 Mars PRODIGUER un noeud français de distribution des données GIEC/IPCC Sébastien Denvil.
Service Challenge 4 – Tests de Débit Bilan pour le Tier-1 LCG-France Fabio Hernandez Responsable Technique LCG-France Centre de Calcul de l’IN2P3
Pour chaque ligne (1 par soir) :. Je lis le nombre à voix haute
Additionner une dizaine entière 50 opérations en 5 minutes Per1_3
Réunion de collaboration LSST-France APC décembre 2013 Dominique Boutigny CNRS-CC-IN2P3 / SLAC  Rôle de l'IN2P3 dans le calcul LSST et DESC  Proposition.
LHCb DC06 status report (LHCb Week, 13/09/06) concernant le CC : –Site currently fine / stable 3% of simulatated events 30% of reconstructed events –Site.
Décomposer un nombre Calcule vite et bien ! avec des 10. CALCUL
Sample Image CGGVeritas University - Massy Monday 10 December 2007 EGEODE VO meeting of GEOCLUSTER user's on the EGEE grid.
Site report et IT Facilities. Site report : à retenir GPFS est toujours (de plus en plus utilisé) Les interconnects entre stockage et « calcul » sont.
15 Novembre 2004F.Vezzu S.E.R.M/LPSC Grenoble Journées Mécaniques IN2P3 1 Regards sur SmarTeam 1.Rappels 2.Historique 3.Réticences 4.Intérêts 5.Bilan.
Calcul pour le spatial & le CC-IN2P3 Jean-Yves Nief (CC-IN2P3)
Le programme présent  GLAST (2008, calorimètre, calibration, logiciels, LLR,CENBG,LPTA )  13 chercheurs, 2 IR, 4 thèses, 2 post docs  ¼ des coordinateurs.
Addition de nombres à un ou deux chiffres Mathématiques – Calcul mental  Évaluation.
Soizic Sergeant Chargée des affaires européennes
Technique posée « traditionnelle » de la multiplication Cette présentation Powerpoint est destinée à des enseignants. Elle a pour objectif de revenir sur.
< > = Comparer des nombres N1 plus petit que plus grand que
Système local d’accounting de l’IPHC 31/05/2011 Eric Kieffer.
5 mai 2008J-P Meyer1 Eléments de réflexion pour une ressource d’analyse - Trois exemples de travaux d’analyses effectuées à l’IRFU dans ATLAS: 1) AOD –>
Mardi 31 mai 2016 JJS (Java Job Submission) Soumission de jobs sur grille Pascal Calvat Centre de calcul.
LYON G.Lamanna Introduction Giovanni Lamanna IN2P3 Informatique Lyon 12 février 2014.
BABAR Georges Vasseur CEA Saclay, DSM/IRFU/SPP Workshop sur l’analyse des données au centre de calcul de Lyon 17 avril 2008.
Service Informatique Bernard Boutherin Tourniquet Section novembre 2014 Bilan Informatique Tourniquet Section 01 du LPSC, Nov 2014,
Rappel : les différentes architectures de stockage Attachement direct NAS SAN.
Mathieu Walter 9 ème Journées Info de l'IN2P3/IRFU Cellule IAO/CAO 14 Octobre 2014.
Data Challenge 2013 et Infrastructure au CC-IN2P3 Réunion de collaboration LSST France Clermont-Ferrand 11 février 2013 Dominique Boutigny.
Décembre 2015 LSST-France Montpellier 7-8 décembre 2015.
CAF LCG-FRANCE A.Rozanov LCG France 22 Juillet SOMMAIRE Composition CAF DC2 ATLAS Demandes fin 2004.
RAPPEL: Demande budget 2011 : ( (LAPP)) Reçu de l’IN2P3 pour les missions LAPP début 2011 : euros Reçu de l’IN2P3 pour.
Conseil Scientifique 11/6/2012 « Cosmologie » CS cosmologie11/06/12.
C. Charlot, LLR Ecole Polytechnique DC04 CMS Objectif numéro 1: préparation du traitement offline Différent des productions MC précédentes Mise en route.
Utilisation du Cloud M. AIRAJ (CNRS/LAL) Réunion Utilisateurs StratusLab (4 avril 2013)
CAF-11/10/2010Luc1 Squad Report T1 Période 13/09-11/10 Irena, Sabine, Emmanuel.
Réunion des sites LCG France- Marseille juin ACTIVITES DU GROUPE ACCOUNTING FRANCE GRILLES Cécile Barbier (LAPP)
20-mars-2008Eric Lançon1 Activités ATLAS sur le nuage Français Emprunts a K. Bernardet, C. Biscarat, S. Jezequel, G. Rahal.
L’architecture du service Dirac Implementation au centre de calcul.
Centre de Calcul de l’Institut National de Physique Nucléaire et de Physique des Particules Table Ronde : Quelles orientations pour le CC ? JP2015, Autrans.
Avancée du renouvellement des marchés subséquents - 3 juin 2015.
CALCUL ATLAS LCG France (CC IN2P3 Lyon) 30 Avril SOMMAIRE Data Challenge 2 (DC2) d’ATLAS Utilisation du CC IN2P3.
LSST Wide, Deep, Fast… Le projet LSST Dominique Boutigny
Infrastructure Opérationnelle d’EGEE
Infrastructure Opérationnelle d’EGEE2
3 stratégies pour calculer
Résumé des Actions Suite aux Réunions CB et MB
Activité mentale 6ème Pourcentages divers Série 1.
Mathématiques – Calcul mental
Ajouter deux dizaines, deux centaines entières
Mathématiques – Calcul mental
Ajouter deux dizaines, deux centaines entières
Mathématiques – Calcul mental
Mathématiques – Calcul mental
Mathématiques – Calcul mental CM2
Mathématiques – Calcul mental CM1
Transcription de la présentation:

LSST : Big data = Big science? Reunion Renoir 18 Nov 2013

Plan Le projet LSST, rappels Le Calcul LSST et la science Le Calcul LSST en France Le Data Challenge « Summer 2013 »

Le projet LSST General presentation Data Oriented presentation

Le calcul LSST et la science SWG et DESC … digression : mesure de distances

Le Calcul LSST en france Dizaine de personnes actives 8 labos in2p3 Reunion bi-mensuelle + wiki Activite jusqu’à maintenant DM : installation/comprehension du code au CC DM : Data Challenge Summer 2013 DB : groupe (Clermont) Qserv

Le data Challenge Summer 2013 Installation du « Stack au CC» Plusieurs reunions «TP», dont une au CPPM. Collaboration étroite avec les US

Le Data Chalenge « Summer 2013 » L’input : SDSS stripe82stripe82 Les operations de traitement d’image processSdssCcd.py ingestProcessed.py makeCoaddTempExp.py assembleCoadd.py processCoadd.py ingestCoadd.py forcedPhot.py ingestForcedSource.py

Le Data Chalenge « Summer 2013 » Les Chiffres Input = 4,8 To / 4,4 M fichiers jobs Grid Engine accedant a GPFS Utilisation de DIRAC (partielle) heures de calcul ( HS06) Output = 85 To / 19 M fichiers Server Mysql 3To / lignes Big Data !

Le Data Chalenge « Summer 2013 » Résultats Deep Coadd du stripe 82 > courbes de lumières

Prospectives Data challenge 2014 ? all sky SDSS ? CFHT DEEP ? Science avec les resultats SDSS/CFHT ? Science avec DESC Science avec DES (utilisation du stack)