Page 1 Réunion finale étude Coriolis 2013 Stéphanie Guinehut Christine Boone Nathalie Verbrugge
Plan Page 2 Inventaire CORA4.0 – : –Quelques chiffres –Analyses visuelles Validation CORA4.0 – : –Rappel de la méthode –Contenu des fichiers d’alerte –Quelques ex. issus des contrôles visuels –Retours sur les rq et notes d’Emilie Comparaisons CORA4.0/EN3v2 – : –Statistiques générales –A retenir Comparaisons Argo/Alti: –Analyses trimestrielles –Suivi temporel –Etude spécifique sur qq flotteurs NAOS
Bilan inventaire CORA4.0 / CORA3.4 Les TS_DB et TS_DC ne sont pas prises en compte dans les inventaires On note en 2010 une diminution du nombre de profils dans CORA3.4 par rapport à l’année précédente Page 3
Bilan inventaire CORA4.0 / CORA3.4 Page 4 Nombre de profils traité CORA4.0 par rapport à CORA3.4: 3 x plus de profils TEMP 2 x plus de profils PSAL
Bilan inventaire CORA4.0 / CORA3.4 Page 5 CORA4.0: En 2012 les PR_HF sont inclues dans les PR_TE Q: pourquoi y a-t-il plus de PR_HF dans CORA3.4 que dans CORA4.0 sur la période commune de ?
Page 6 Inventaire CORA4.0 Contenu CORA4.0: –TS_DC – données de vitesse et pas pour du T/S – ne devraient pas être présentes –Que contiennent les fichiers PR_ME (Medatlas) ? –Pas de fichiers PR_SD (SeaDatanet) – ok? –Pas de fichiers PR_SF (ScanFish) – ok? Analyses visuelles: –Sections communes entre PR_IC et PR_OC –PR_ME: données ailleurs qu’en Med + sections communes avec PR_OC et PR_CT –Eléphants de mer: PR_CT + PR_TE –Mouillages TTPR: PR_OC, PR_MO, TS_MO, PR_TE
Page 7 PR_IC / PR_OC Sections communes
Contenu PR_ME + sections communes Page 8 PR_ME / PR_OC / PR_CT
Contenu PR_ME + sections communes Page 9 PR_ME / PR_OC / PR_CT
PR_CT / PR_TE Page 10 Eléphants de mer
PR_OC, PR_MO, TS_MO, PR_TE Page 11 Mouillages TTPR
Plan Page 12 Inventaire CORA4.0 – : –Quelques chiffres –Analyses visuelles Validation CORA4.0 – : –Rappel de la méthode –Contenu des fichiers d’alerte –Quelques ex. issus des contrôles visuels –Retours sur les rq et notes d’Emilie Comparaisons CORA4.0/EN3v2 – : –Statistiques générales –A retenir Comparaisons Argo/Alti: –Analyses trimestrielles –Suivi temporel –Etude spécifique sur qq flotteurs NAOS
Validation CORA4.0: méthode La validation ne vérifie que les données T/S ayant un QC à 1 et les PRES/DEPH ayant un QC à 1 (good), 0 (no qc performed), 7 (nominal) et 8 (interpolated) La validation fournie une liste de profils avec des alertes automatiques. Dans la plupart des cas une visualisation des profils est faite pour infirmer ou confirmer l’alerte (détail ultérieurement). Si l’alerte est confirmée, ce profil est mis dans un fichier liste puis livré à CORIOLIS. Il est à noter que les QC fournis dans les listings des alertes sont ceux qui ont déclenché les alertes automatiques, et ce n’est pas forcément ceux que l’on mettrait après visualisation Il est donc donné à titre indicatif. Page 13
Validation CORA 4.0: description des tests Validation des profils reçus par année entête cohérente Profil sur terre - bathymétrie contrôle des profondeurs/pressions – duplication de D/P; inversion D/P; contrôle des valeurs numériques des champs P, T, S ; Pour les champs de P/D on autorise une pression hors de l’eau jusqu’à -2.4 dbar ou 2.4 m pour tenir compte de la précision des capteurs, surtout au niveau des gliders. Dans ce cas la comparaison à la climatologie se fait par rapport à la climatologie en surface ; contrôle des couples P=T=0, P=S=O, T=0 à P fond, S=0 à P fond ou P fond est la profondeur valide maximale du profil; contrôle des mesures hors bornes régionales ; contrôle des mesures constantes sur la verticale ; comparaison à la climatologie : vérification que le profil se situe dans l’enveloppe à la climatologie WOA09 ie : clim +/- 10 σ ou clim est la climatologie annuelle de la variable TEMP ou PSAL et σ est sa déviation standard annuelle; spike ; détection de profils présentant un biais systématique par rapport à la climatologie. Page 14
Aucune donnée Aucune donnée traitée Validation : Alerte automatiques alertes confirmées PRES/DEPH Alerte inversion, duplication, valeur aberrante alertes confirmées Alerte profil sur terre Visualisation alertes confirmées alertes non confirmées T/S certains TS_MO, PR_MO, PR_TE Distance à la côte <= 50km alertes non confirmées Distance à la côte > 50km Visualisation alertes confirmées alertes non confirmées Tous les autres profils Visualisation alertes confirmées alertes non confirmées Validation: aucune alerte automatique Validation CORA 4.0: traitement des alertes Page 15 Alertes (auto) confirmées: mis dans les fichiers d’alertes livrés à Coriolis
Page Messages bathyPR_BA CTDPR_CT GliderPR_GL Haute fréquencePR_HF IcesPR_IC MedatlasPR_ME MooringsPR_MO OCLPR_OC OceanSitesPR_OS Profiling FloatsPR_PF RecopescaPR_RE Messages tesacsPR_TE XBTPR_XB Drifting BuoysTS_DB Drifting Buoys TS_DC FerryBoxTS_FB MooringsTS_MO validation automatique aucune donnée en alerte automatique validation automatique des PRES/DEPH qui ne sont pas en alerte sur terre et visualisation de toutes les alertes TEMP/PSAL avant confirmation ou infirmation de l’alerte validation automatique des PRES/DEPH qui ne sont pas en alerte sur terre et visualisation de toutes les alertes TEMP/PSAL dont la distance à la côte est supérieure à 50 km avant confirmation ou infirmation de l’alerte (concerne les TS_MO, PR_MO et PR_TE) données non traitées pas de données disponibles
Aucune donnée Données non traitées Validation : Alerte automatiques alertes auto confirmées PRES/DEPH Alerte inversion, duplication, valeur aberrante alertes auto confirmées Alerte profil sur terre Visualisation alertes confirmées alertes non confirmées T/S certains TS_MO, PR_MO, PR_TE Distance à la côte <= 50km alertes non confirmées Distance à la côte > 50km Visualisation alertes confirmées alertes non confirmées Tous les autres profils Visualisation alertes confirmées alertes non confirmées Validation: aucune alerte automatique Validation CORA 4.0: traitement des alertes Alertes (auto) confirmées: mis dans les fichiers d’alertes livrés à Coriolis Page 17
Validation CORA 4.0: traitement des alertes Alertes (auto) confirmées: mis dans les fichiers d’alertes livrés à Coriolis Page PR_BA PR_CT PR_GL PR_HF PR_IC PR_ME PR_MO PR_OC PR_OS PR_PF PR_RE PR_TE PR_XB TS_DB TS_DC TS_FB TS_MO Aucune donnée Validation : Alerte automatiques alertes auto confirmées PRES/DEPH Alerte inversion, duplication, valeur aberrante alertes auto confirmées Alerte profil sur terre Visualisation alertes confirmées alertes non confirmées T/S certains TS_MO, PR_MO, PR_TE Distance à la côte <= 50km alertes non confirmées Distance à la côte > 50km Visualisation alertes confirmées alertes non confirmées Tous les autres profils Visualisation alertes confirmées alertes non confirmées Validation: aucune alerte automatique Données non traitées
Validation CORA 4.0: contenu des fichiers d’alertes Page 19 NomDuFichier; NumProfil; Variable; PLATFORM_NUMBER; DC_REFERENCE; VAR_QC CO_DMQCGL01_ _PR_BA.nc; 48; TEMP; NGHX; ; N CO_DMQCGL01_ _PR_BA.nc; 25; DEPH; NIMH; ; JJJJJJJJJJJJJ CO_DMQCGL01_ _PR_BA.nc; 71; TEMP; NTIC; ; 111NNN1111N CO_DMQCGL01_ _PR_BA.nc; 110; TEMP; NHWR; ; 11NNNOO CO_DMQCGL01_ _PR_BA.nc; 114; TEMP; NIEM; ; 111N2 Valeur du flag changé par rapport aux profils CORIOLIS Description du test Bprofil constant Fbiais par rapport à la climatologie GTS=O en surface ou au fond Hbathymétrie Ivaleur TEMP ou PSAL non réaliste Jprofil sur terre Kvaleur PRES/DEPH non réaliste MPRES/DEPH dupliquées Nclimatologie Obornes régionales Pspike Sinversion PRES/DEPH
Nouveaux diagnostiques pour les analyses visuelles comparaison au profils voisin en fonction de différents critères (plf,juld, dist. côte…) étude de série temporelle de profils étude de série temporelle Page 20
Quelques exemples issus des contrôles visuels Page 21 VALIDATION CORA 4.0
Plateforme – 7053 alertes PSAL en 1997 –Alertes confirmées pour analyse plus approfondie –Flags 3 et 4 déjà présents le long de cette série –Cohérence générale de la série temporelle? –Dans fichier TS_MO PR_HF –F Page 22 diag série temporelle
Plateforme PSAL en 1997: TS_MO PR_HF ? Page 23 plateforme zoom temporel
Analyse visuelle: tourbillon Page 24 8°Nord 5.3°Nord 2°Nord Le passage d’un tourbillon en température vu par 3 mouillages TAO: avec l’évolution des profils sur 20 jours Les mesures pointées par la flèche rouge sur la figure du milieu sont en alerte automatique par rapport à la climatologie L’intérêt d’afficher plusieurs profils permet de valider les profils en tenant compte de la cohérence temporelle. Ces profils ne sont pas confirmés en alerte.
validation CORA4.0 Remarques sur les PRES/DEPH Page 25
Pb test PRES hors eau à CLS Page 26 Pression hors de l’eau: PLATFORM_NUMBER : STATION_PARAMETERS : WSPE WSPD WSPN WTODIR DEPH PRRT DRYT RELH TEMP PSAL SIGMA_THETA DEPH: TEMP: DEPH_QC : DEPH_CLS_QC: KKK TEMP_QC: ****1*** *11 TS_MO Mal renseigné par CLS! -> on modifie maintenant le test en tenant compte du QC de TEMP et/ou PSAL pour ne plus mettre en alerte ces profondeurs Q: Que fait Coriolis de ces alertes? Faut-il rejouer les TS_MO sur ~toutes les années
Valeur en PRES Page 27 PR_PF Ex: CO_DMQCGL01_ _PR_PF.nc, Profil #8 DC_REFERENCE : PLATFORM_NUMBER : PI_NAME : Jon Turton DATA_MODE : D STATION_PARAMETERS : TEMP PSAL PRES PRES … PRES_QC … PRES_ADJUSTED … PRES_ADJUSTED_QC ***11*1111… Les alertes sur ces PR_PF sont donc confirmées (mise à flag “K” : valeur non réaliste PRES)
QC PRES en brut non reportés en adj CO_DMQCGL01_ _PR_PF.nc; Profil # 333, DATA_MODE: D PI_NAME: Holger GIESE PLATFORM_NUMBER: STATION_PARAMETERS : TEMP PRES DC_REFERENCE : TEMP (TEMP_QC tous à 1) … PRES …. PRES_ADJUSTED …. PRES_CLS_QC 114M PRES_ADJ_CLS_QC 11SMM Pourquoi “inconsistence” des QC bruts et adjustés? Page 28 S=inversion M=dupliquée ??
Anomalies Page 29 VALIDATION CORA 4.0
anomalie: Profil double ICES Ex: Plateforme TFEA (de type IC) ayant un profil ‘double’ (DC_REF= ). Cas non isolé. Page °C
anomalie: codage QC Problème de codage de PRES_QC ou PSAL_QC ou DEPH_QC sur les profils CO_DMQCGL01_ _PR_OC.nc et CO_DMQCGL01_ _PR_XB.nc en 1993: PSAL_QC pour profil 11: "G\303O\200G\303O\200G\303O\200G\303O\200?etc...G\303O\200", // PSAL_QC(1,11) Page 31
Doublons Page 32
Profils identiques de position différente Page 33 # 71 # 72 Profil # 71 PLATFORM_NUMBER : PGDI PROJECT_NAME : None PI_NAME : None STATION_PARAMETERS : TEMP PRES DIRECTION : D DATA_CENTRE : None DC_REFERENCE : DATA_STATE_INDICATOR: 2B DATA_MODE : R INST_REFERENCE : NEDLLOYD MANILA WMO_INST_TYPE : 999 JULD : JULD_QC : 1 JULD_LOCATION : LATITUDE : LONGITUDE : POSITION_QC : 1 POSITIONING_SYSTEM : None PROFILE_PRES_QC : A PROFILE_TEMP_QC : A PROFILE_DEPH_QC : FIRMWARE_VERSION : None PARAMETER_DATA_MODE : RR VERTICAL_SAMPLING_SC: None BATHY : DISTANCE_COTE : PROFILE_WHICH_QC : PROFILE_ADJ_WHICH_QC: Profil # 72 PLATFORM_NUMBER : PGDI PROJECT_NAME : None PI_NAME : None STATION_PARAMETERS : DEPH TEMP DIRECTION : DATA_CENTRE : None DC_REFERENCE : DATA_STATE_INDICATOR: 2B DATA_MODE : R INST_REFERENCE : NEDLLOYD MANILA WMO_INST_TYPE : 999 JULD : JULD_QC : 1 JULD_LOCATION : LATITUDE : LONGITUDE : POSITION_QC : 5 POSITIONING_SYSTEM : None PROFILE_PRES_QC : PROFILE_TEMP_QC : A PROFILE_DEPH_QC : A FIRMWARE_VERSION : None PARAMETER_DATA_MODE : RR VERTICAL_SAMPLING_SC: None BATHY : DISTANCE_COTE : PROFILE_WHICH_QC : D PROFILE_ADJ_WHICH_QC:
salinité de GL et CT Page 34 Nom du fichier, numéro de profil, DC_REFERENCE, LONGITUDE, LATITUDE, JULD CO_DMQCGL01_ _PR_CT.nc CO_DMQCGL01_ _PR_GL.nc … CO_DMQCGL01_ _PR_GL.nc CO_DMQCGL01_ _PR_CT.nc plateforme du 1/07/2001 au 18/07/ profils PR_GL; 196 profils PR_CT -> les PR_GL et PR_CT ont le même DC_REFERENCE, pas les mêmes flags (en salinité)! PR_CT PR_GL
Retour sur les remarques d’Altran: bonne base de discussion Page 35
Profil de salinité plateforme VXZM de type PR_OC en 1992 (1/2) Page 36 PPSAL profils VXZM durant ½ journée (Gulf du St Laurent) ? mixités de mesures en alertes et bonnes alors que le profil est cohérents entre ces points (T et S) Fig Altran #8
Profil de salinité plateforme VXZM de type PR_OC en 1992 (2/2) En fonction de 3 plateformes différentes mais à +/- 60 jours: seules quelques plateformes VXZM ont des profils très différents des autres proche de la surface Page 37
Profil de salinité plateforme NIGD de type PR_OC en 1992 Page 38 -Profil au large du cap Creus confirmé en alerte par CLS au vu des autres profils à +/-5 jours - Les 3 premiers points à la surface ont un QC=1 en salinité dans les fichiers obtenu de Coriolis. Altran mentionne ces QC=4: y aurait-il eu des modifications entre temps dans la base Coriolis?, Altran mentionne la proximité du Rhône (est-ce le bon profil?) - Altran reconsidère passer les QC de ce profil à 1 ? Nous confirmons l’alerte Fig Altran #9
Profil de température dans le courant des aiguilles Page 39 Courant des aiguilles: qui peut en effet montrer des fortes variabilités jusqu’à 1000 m de profondeur. Le rejet de l’alerte n’est donc pas contesté. Fig Altran #10
Profil de température plateforme OCL0182 de type PR_OC en 1990 Page 40 Analyse Altran non contestée Fig Altran #11
Profil de salinité plateforme CGBS de type PR_OC en 1990 Page 41 profils à +/- 1 degré lon/lat et +/- 30 jours du profil de référence Profil situé au large du talus vers Vancouver ou la clim peut être douteuse mais biais trop salé par rapport au profil moyen climatologique -> alerte confirmée par CLS Fig Altran #12
salinité de GL et CT Page 42 - Cette plateforme avait déjà été extraite lors de l’analyse de la base de données CORA3 - Elle est présente en GL et CT, même DC_REFERENCE mais pas les mêmes QC ARVGL09, +/-40 WOA09, +/-10 Fig Altran #13
salinité de GL et CT Page 43 Extrait de l’analyse de CORA3: dérive en T et S
Page 44 du 1/07/2011 au 18/07/2011 dérive temporelle en turquoise QC=3 coriolis (inchangé) en rouge validation CLS en noir: QC=1 inchangé température salinité
salinité de GL et CT Tout d’abord nous préconisons de ne garder que les PR_GL. Comme il est difficile de diagnostiquer à partir de quand la dérive est intervenue, par mesure conservatrice, nous préconisons de flaguer l’ensemble des mesures associées à cette plateforme, comme cela est déjà en partie le cas. Page 45
Profil de température plateforme JNSR de type PR_OC en 2000 Page 46 - Il semblerait que les QC du profil aient été changés entre analyse CLS et Altran: nous avons bien mis la dernière mesure en alerte contrairement à ce qu’Altran à sur son graphique ? 500m 800m Fig Altran #14
Profil de température plateforme JNSR de type PR_OC en 2000 Page 47 Nous confirmons l’alerte au vu de l’augmentation progressive de la température et des profils complètement faux en salinité (ici profils à +/-1 jour du profils ref DC_REFERENCE =
Profil de salinité plateforme de type TS_MO en 2012 Page 48 OK l’alerte n’aurait effectivement pas du être confirmée Fig Altran #15
Profil de température plateforme JNSR de type PR_OC en 2004 Page 49 OK avec Altran pour la partie du profil en dessous de ~800m qui doit être mis en alerte. Ce qui est donné dans le fichier d’alerte fourni par CLS au niveau des mesures n’est qu’indicatif car c’est une sortie automatique, cependant l’analyse visuelle CLS était la même que celle d’Altran. Fig Altran #16
Page 50 La remarque d’Altran « Nous avons constaté que CLS semble ne pas tenir compte des Quality Code des profils fournis. En effet, on voit apparaître des alertes sur des points du profil déjà flaggés à 4. On voit souvent que des les alertes CLS qui nous semblent correctes sont concomitantes avec un flag 4 existant déjà dans le profil. C'est rassurant. »: CLS n’applique les tests que sur les mesures avec un flag à 1 (et aussi 0 en D/P) La première mesure du profil de la plateforme WTDK du fichier fournis à CLS a un QC en salinité =1. Il semble que le profil ait été changé entre la validation CLS et Altran. Fig Altran #17
profil de salinité de la plateforme LGKI (dc_reference : ) Page 51 La remarque d’Altran « L’alerte relevée par CLS concerne la subsurface. Nous conservons le profil tel quel. » vu les 1098 déjà en alerte en dessous des 3 mesures mises en alerte par CLS et l’éloignement à la climatologie, nous confirmons l’alerte CLS. Par contre il semble qu’il n’y ai aucune mesure avec un flag à 1 dans le profil d’Altran (à confirmer? mise à jour du profil entre validation CLS et Altran?) Fig Altran #18
Page 52 Sur les 11 exemples d’alerte non retenu par Altran - OK pour ne pas confirmer les alertes pour 3 des exemples - nous sommes d’accord avec la décision prise pour 1 exemple (modification) Fig Altran #10Fig Altran #11Fig Altran #15 Fig Altran #16
Conclusion Page 53 - Il semblerait que les QC d’origine soient différents entre les versions CLS et Altran Fig Altran #17Fig Altran #18 Fig Altran #8 Fig Altran #9Fig Altran #14 Fig Altran #9 Fig Altran #12Fig Altran #13 ! -En revanche, nous ne sommes pas d’accord avec les 5 autres exemples et nous pensons que certaines des mesures sont réellement à invalider.
Conclusion Page 54 Par ailleurs, il semblerait que seule une partie des informations fournies par CLS ait été utilisée. Les flags « O » de comparaison aux bornes régionales ne semblent pas avoir été pris en compte ce qui est vraiment dommage car le contrôle visuel permet de confirmer plus de 95 % des alertes par bornes régionales. Les valeurs TEMP ou PSAL non réalistes (flag = « I ») ou PRES/DEPH non réalistes (flag=« K ») sont également à prendre en compte car elles permettent, comme pour les bornes régionales, d’invalider des grosses erreurs – comme par ex. en 2004 pour la plateforme FHZI (PR_XB) qui possèdent des températures ajustées à 99.9 et des QC à ‘1’. Quelle approche prend-t-on pour la validation de ces profils? des outils ont été développés à CLS, beaucoup de temps passé à vérifier des profils. Quelle est l’utilisation des alertes fournies par Coriolis? /~ profils visualisés! ( des visualisés sont confirmés en erreur soit 70%)
Bilan des alertes par type Page 55
Bilan des alertes par type Page 56
Bilan des alertes par test Page 57 Nb de profils définis: P/D, TEMP et PSAL * Uniquement TS_MO, ** PT_MO,TS_MO et PR_TE (2012 pour le dernier)
Bilan des alertes par test Page 58
Conclusion Page 59 Quelle approche prend-t-on pour la validation de ces profils? des outils ont été développés à CLS, beaucoup de temps passé à vérifier des profils. Quelle est l’utilisation des alertes fournies par Coriolis? profils visualisés! Au total sur , des profils visualisés sont confirmés en alerte, soit 70% des alertes, passe à 83% si on enlève 2011 (données FB avec 1 mesure toutes les 2mn) Pour conclure: 0.05% des profils valides TEMP ont au moins une alerte confirmée, 0.20% des profils valides PSAL ont au moins une alerte confirmée < 0.80% des profils valides PRES/DEPH … (alertes levées TS_MO qui n’aurait pas du)
Perspectives Relancer les validations en PRES/DEDH sur les TS_MO Vérification de doublons? Page 60