Indexation et Optimisation XML et les BD 1. Introduction 2. Modèle de données 3. Langage de requêtes 4. Produits 5. Conclusion Indexation et Optimisation

1. Introduction Générations de BD Web et BD Réseau et hiérarchique 70 - 80 Relationnel 80 - 90 Objet-Relationnel 90 - … Web et BD un rendez-vous manqué couplage faible par serveur d'applications le Web est une vaste BD distribuée la structuration est faible plutôt orienté documentaire ... ©GG Introduction

XML s'impose Intégration des données et méta-données Standard d’échange de données universel Les BD ne peuvent rester indifférentes : nécessité de stocker les documents XML nécessité de pouvoir interroger ces documents évolution ou révolution ? Quel modèle de données ? Quel langage d'interrogation ? Quelle intégration avec l'existant ? ©GG Introduction

Limites de SQL Mauvais support de l'imbrication SQL3 trop complexe GROUP BY limités Généralement dans les éditeurs de rapports SQL3 trop complexe Requêtes imbriquées difficiles Méthodes en qualification coûteuse Références pas très claires Peu adapté à XML Vision tabulaire Manipulation par des fonctions (SQL/XML) SQL à 30 ans ! Inventé en 1970 pour la gestion XQuery le successeur ? ©GG Introduction

Exemple de documents <?xml version="1.0"?> <Restaurants region="Normandie" version="2.0"> <Restaurant type="francais" categorie="***"> <Nom>Le Grand Hôtel</ Nom> <Adresse> <Rue>Promenade M. Proust </Rue> <Ville>Cabourg</Ville> </Adresse> <Manager>Dupont</Manager> <Menu>Plat du jour</Menu> </Restaurant> <Restaurant type="francais" categorie="**"> <Nom>L'Absinthe</Nom> <Adresse> <No>10</No> <Rue>quai Quarantaine </Rue> <Ville>Honfleur</Ville> </Adresse> <Téléphone>0231893900 </Téléphone> <Manager>Dupont</Manager> <Manager>Durand</Manager> <Menu Prix="12"> Fruits de Mer </Menu> </Restaurant> </Restaurants> ©GG Introduction

2. Modèle de données Schémas flexibles et irréguliers Optionnels, avec ou sans DTD Données auto-descriptives Balises et attributs Modèle de type hypertexte Support des références Éléments atomiques ou complexes Composition par agrégation Types de données variés et extensibles Textes, numériques, …, types utilisateur ©GG Modèle semi-structuré

Le modèle de données XQuery Data Model Modèle des schémas et de XPath 2 Un document est un arbre à nœud étiqueté Chaque nœud possède une identité Exprimé en XML, souvent représenté graphiquement Une forêt est une collection de documents de même schéma Une source de données est soit un document, soit une forêt ©GG Modèle semi-structuré

Diagramme XML Spy ©GG Modèle semi-structuré

Et les documents sans schéma ? Possibilité de stocker des documents sans schéma Le SGBD génère un schéma (arbre couvrant sans feuilles) Maintenu lors des mises à jour (compteur d'utilité) Schéma de base pour l'interrogation Facilite la conception Dégager des collections de documents apparentés Le SGBD conçoit pour vous ! Solution Forêt fermée versus forêt ouverte Construction et gestion dynamique des schémas Notion de "document guide" ou DTD généralisée Schéma faible avec typage string Possibilité d’inférer des types à partir des valeurs ©GG Modèle semi-structuré

Bilan Modèle de données Un standard riche schémas standardisés depuis 3 mai 2001 Représentation graphique ad-hoc Génération automatique en cas d'absence Faut-il un autre modèle que les schémas ? Doit couvrir les schémas Doit couvrir les DTD Doit couvrir l'absence de schéma et DTD Syntaxe plus simple ©GG Modèle semi-structuré

3. Langage de requêtes MODELE LANGAGE REQUETES Hiérarchique DML DL1 Réseau DML CODASYL Relationnel SQL: SELECT … Objet OQL XML ??? ©GG Langages de requêtes

Qu’est ce que XQuery ? XQuery est le langage de requêtes pour XML défini et standardisé par le W3C XQuery s’impose comme le langage de requêtes: Pour les bases de données XML natives Pour les documents XML textuels (XQuery Text) Pour l’intégration de données (bases de données virtuelles) Le besoin d’interroger les bases relationnelles en XQuery existe Pour l’intégration et la publication de données Compétition avec les extensions de SQL (SQL/XML) ©GG Langages de requêtes

Objectifs Puissance de SQL Recherche d'information Structure d'arbres Types XML Schema XPath 2 Puissance de SQL Recherche d'information Structure d'arbres Langage fonctionnel ©GG Langages de requêtes

La base Proposé par IBM , MS, AT&T, Data Direct, ... Langage fonctionnel type CAML Forme de requête élémentaire FOR $<var> in <forest> [, $<var> in <forest>]+ //itération LET $<var> := <subtree> // assignation WHERE <condition> // élagage RETURN <result> // construction Les forêts sont sélectionnées par des Xpath (document ou collection) Le résultat est une forêt (un ou plusieurs arbres) ©GG Langages de requêtes

Exemple 1 : XPath (Q1) Noms de tous les restaurants : collection(“Restaurants”)/Restaurant/Nom/text() collection(“Restaurants”)/Restaurant/Nom ©GG Langages de requêtes

Exemple 2 et 3 : XPath + Expression régulière Menu de tous les restaurants collection(“Restaurants”)//Menu Accès via indice à attribut Donnez le nom des menus du premier restaurant collection(“Restaurants”)/Restaurant[1]/Menu/@Nom ©GG Langages de requêtes

Exemple 4 : Sélection Lister le nom des restaurants de Cabourg: collection(“Restaurants”)/Restaurant [Adresse/Ville= “Cabourg"] /Nom <resultat> {for $R in collection("Restaurants")/Restaurant where $R/Adresse/Ville = “Cabourg” return {$R/Nom}} </resultat> ©GG Langages de requêtes

Exemple 5 : Jointure Lister le nom des Restaurants avec téléphone dans la rue de l'Hôtel Lutecia: for $R in collection("Restaurants")/Restaurant, $H in collection("Hotels")/Hotel where $H//Rue = $R//Rue and $H//Nom = "Le Lutecia" return <Result> {$R/Nom} {$R/Téléphone} </Result> ©GG Langages de requêtes

Exemple 6 : Restructuration d'arbre Construire une liste de restaurants par Ville for $c in distinct(collection(“Restaurants”)/Restaurant//Ville) return <Ville>{$c}</Ville> <Restaurants> {for $r in collection(“Restaurants”)/Restaurant where $r//Ville = $c return {$r}} ©GG Langages de requêtes

Exemple 7 : Imbrication en Where Adresses des hotels dans des villes ayant des restaurants trois étoiles for $h in collection(“Hotels”)/Hotel where $h/Adresse/Ville in for $r in collection(“Restaurants”)/Restaurant where $r/@categorie = "***" return {$r/Adresse/Ville/text()} return {$h/Adresse} ©GG Langages de requêtes

Syntaxe Simplifiée (XLive) // Réduite à FWR XQuery ::= ForClause [WhereClause] ReturnClause ForClause ::= “for” VarDef [,VarDef] … VarDef ::= “$”VarName “in” “collection” “(” QuotedText “)”/XPath WhereClause ::= “where” CplexCond CplexCond ::= Cond | Cond AND CplexCond | Cond OR Cplex CondCond ::= Expr Op Constant | Expr Op Expr | “contains(” Expr , Text “)” Op ::= “=” | “!=” | “<” | “<=” | “>” | “>=” Expr ::= “$”VarName/XPath ReturnClause ::= “return” XMLElement* XMLElement ::= “<”tag“>”XMLElement“</”tag“>”| “{” XPath“}”*| “{” XQuery“}”* VarName ::= Any variable nameTag ::= XML label QuotedText ::= Any text between quotes " …“ Constant ::= Quoted text or number XPath ::= XPath expression restricted to child and descendant directions ©GG

Exemple 8 : Agrégat simple Combien de restaurants y-a-t-il en collection ? let $R := collection(“Restaurants”)/Restaurant return <NombreRestaurant > {count ($R)} </NombreRestaurant> ©GG Langages de requêtes

Exemple 9 : Agrégat partitionné Lister le nom de chaque restaurant avec le prix moyens des menus proposés for $r in collection(“Restaurants”)//Restaurant let $a := collection(“Restaurants”)// [Restaurant = $r]//Menu/@Prix return <resultat> {$r/Nom} <avgPrix>{AVG($a)}</avgPrix> </resultat> ©GG Langages de requêtes

Exemple 10 : recherche textuelle Lister les bons restaurants de Paris for $r in collection(“Restaurants”)//Restaurant where (contains ($r/Comments, “Bon”) or contains ($r/Comments, “Excellent”)) and $r/Adresse/Ville = “Paris” return {$r/Nom} ©GG Langages de requêtes

Exemple 11 : Ordre et désordre Lister les bons restaurants de Paris par ordre alphabétique for $r in unordered(collection(“Restaurants”)//Restaurant) where (contains($r/Comments, "Excellent”) or contains($r/Comments, "Good”)) and $r/Adresse/Ville = “Paris” return {$r/Nom} orderby ($r/Nom descending) ©GG Langages de requêtes

Exemple 12 : Multi-requêtes Construire un document avec en-tête, titre, liste restaurants peu chers, titre, liste restaurants chers  <XML_document> <Very_Expensive_Restaurants> <Title>List of very expensive restaurants</Title> {for $r in collection("Restaurants”)//Restaurant where every $p in $r/Menu/@Prix satisfies ($p>100) return {$r}} </Very_Expensive_Restaurants> <Very_Inexpensive_Restaurants> <Title>List of very inexpensive restaurants</Title> {for $r in collection(“Restaurants”)//Restaurant where some $p in $r/Menu/@Prix satisfies ($p<10) <Date>{date()}</Date> </Very_Inexpensive_Restaurants> </XML_document> ©GG Langages de requêtes

Exemple 13 : String Trouver les livres dans lequel le nom d'un élément se termine par "or" et le même élément contient la chaîne "Suciu" quelque part. Pour chaque tel livre, retourner le titre et l'élément qualifiant. for $b in document("document")//book let $e := $b/*[contains(string(.), "Suciu") and ends-with(local-name(.), "or")] where exists($e) return <book> { $b/title } { $e } </book> ©GG Langages de requêtes

Fonctionnalités XQuery Text Recherche sur mot-clés Recherche de phrase Support des mots de laiaison Recherche sur préfix, suffix, infix Normalisation des mots, accents, capitales, … Recherche par proximité (unité = mots) Spécification de l'ordre des mots Combinaison logic avec AND, OR , NOT Recherche par similarité Tri des résultats par pertinence ©GG Langages de requêtes

Bilan XQuery Véritable langage de programmation Très puissant Sélection Jointure Imbrication Restructuration Agrégation Tri Plein texte … Sur des forêts dont les arbres sont des documents Questions ? ©GG Langages de requêtes

4. Aperçu des produits Systèmes natifs SGBD relationnels étendus Technique spécialisée de stockage et recherche Extension des techniques documentaires à l'élément SGBD relationnels étendus Séparation des éléments et du graphe Mapping en tables SGBD objet adapté Utilisation d'une structuration objet (DOM) Un produit : Excelon (Object Store) Racheter par Progress Software ©GG SGBDX

Concurrence, Fiabilité 4.1 SGBD Natif XML SGBD conçu pour XML, stockant les documents en entiers sans les décomposer en éléments, utilisant de techniques d'indexation d'arbres spécifiques. XML Requête XML Stockage XML Recherche XML Noyau SGBD Concurrence, Fiabilité Forêts d'arbres Index ©GG SGBDX

Indexation Plein Texte Utilisation d'un thésaurus au chargement ensemble de termes reliés liste des mots importants synonymes et préférés spécialisations, traductions Standards ISO 2788 et ANSI Z39.19 Stémisation (racine) ou lémisation (préféré) Listes inverses fichiers de mots significatifs pour chaque mot, adresse document (élément+offset) ©GG SGBDX

Principaux produits De multiples start-up Software A.G. Tamino http://www.softwareag.com/ X-Hive/Db http://www.x-hive.com/ Coherity http://www.coherity.com/ IXIA soft http://www.ixiasoft.com/ XML Global http://www.xmlglobal.com/ NeoCore http://www.neocore.com/ Xyleme http://www.xyleme.com/ Exist http://exist.sourceforge.net/ Intégration comme type spécialisé à SGBD OR DB2 XML Extender, Oracle XML DB, SQL Server 2005 ©GG SGBDX

Xyleme Entrepôt XML efficace Architecture distribuée Cluster de PCs Communication avec Corba Développé sur Linux en C++ Support du langage de requêtes XyQL OQL étendu avec des expressions de chemins Recherche plein texte en éléments efficace ©GG SGBDX

Xyleme Functionnalities ©GG SGBDX

Xyleme: Natix Repository Objectifs Minimiser les I/O pour accès directe et balayage Accès direct efficace via index et identifiant Compression des données sans pénaliser les accès Stockage efficace d’arbre Pages de taille fixe classique Enregistrements de taille variable à l’intérieur Equilibrage des arbres par éclatement de pages ©GG SGBDX

Xyleme: Architecture Physique XyQuery Global Query Manager Local Query Manager Loader/Indexer Local Query Manager Loader/Indexer Repository Context XyIndex Repository Context XyIndex xyIndex xyIndex ©GG SGBDX

Xyleme: Exemple de Requêtes Extension de OQL avec XPath Orientation recherche textuelle Select boss/Name, boss/Phone From comp in BusinessDomain, boss in comp//Manager Where comp/Product contains “Xyleme” ©GG SGBDX

Xyleme Indexation Liste inversée standard Index Xyleme mot  documents contenant ce mot Index Xyleme mot  éléments contenant ce mot (document + élément identifier) La plupart des requêtes sur mots-clés sont traitées en index, sans accès aux documents Possibilité d’enrichir la requête via un thésaurus avant la recherche en index ©GG SGBDX

4.2 Mapping SGBDR Composant logiciel au-dessus d'un SGBDR assurant: XML XQuery XML Composant logiciel au-dessus d'un SGBDR assurant: le stockage et l'interrogation de documents XML en transformant le XML en tables et les tables en XML Stockage XML Recherche XML SQL SGBD Tables de lignes Index ©GG SGBDX

Exemple de Mapping Restaurant(#R, Nom, Tel) Adresse(#R,N°, Rue, Ville) Manager(#R, Nom) ©GG SGBDX

SQL/XML Intégration de fonctionnalités XQuery à SQL Support à la SQL3 Type de donnée natif XML Type (colonnes XML) Fonctions d’extraction XPath Fonctions de construction de XML (pont relationnel) Insertion et Maj de XML en colonne(s) Exemple de requête SELECT XMLElement("Emp", XMLForest ( e.hire, e.dept AS "department") )AS "result“ FROM EMPLOYEE e WHERE ExtractValue(e.XMLemp, /emp/@id) > 200; Intégré à Oracle et DB2 ©GG SGBDX

Fonctions SQL/XML SGBDX Fonction Rôle XMLAgg prend en argument une collection de fragments et retourne un document XML agrégé ; XMLConcat reçoit en argument une série d’instances XMLType correspondant aux valeurs d’une colonne pour les lignes d’une table et retourne les instances concaténées ; XMLElement prend en argument un nom d’élément, une collection d’attributs optionnels, un contenu d’élément et retourne une instance XMLType ; XMLForest convertit la suite de ses argument en XML et retourne un fragment XML concaténation des arguments convertis ; XMLColAttVal converti une valeur de colonne en XML ; XMLSequence transforme une suite de lignes référencées par un curseur en séquence XML ; XMLTransform applique une feuille de style XSL à une instance XMLType et retourne une instance XMLType ; ExtractValue. reçoit en argument une instance XMLType et une expression XPath et retourne la valeur scalaire des nœuds sélectionnés ExtractXML reçoit en argument une instance XMLType et une expression XPath et retourne une instance XML représentant les nœuds sélectionnés. ©GG SGBDX

Oracle XML/DB Stockage et publication Interrogation Mapping de XML plat sur une table Mapping de XML imbriqué en tables imbriquées Stockage de XML en colonne (XML Type) Commandes PutXml et GetXml Interrogation Support de SQL/XML Servlet XSQL document XML avec requêtes SQL/XML transformation du résultat des requêtes en XML ©GG SGBDX

Microsoft: SQL Server 2005 Stockage de XML XPath SQL XQuery Stockage natif comme "XMLtype" Mapping de XML en tables défini par assistants exécuté par procédures stockées Stockage en Large OBject varchar et varbinary Interrogation en XML XQuery et XML DML Proposé pour interroger et mettre à jour les données XML Possibilité de définir des vues XML et de les interroger SELECT … FOR XML Retourne du XML à partir de requêtes SQL et permet de définir le format du XML retourné OpenXML Manipulation de documents XML comme des tables avec des procédures stockées SQL XML Files XPath XQuery XML View SQL Server RowSet ©GG SGBDX

XQuare Bridge (Open Source) Extraction XML via XQuery traduite en SQL Stockage XML en base Mapping via schema Accélérateur XTree (Repository) Portable Oracle, SQLServer, PostGres, … Version industrielle www.datadirect.com Règles de Mapping Scripts XQuery Extractor Mapper API SAX2 API XML/DBC JDBC SGBDR SGBD BD relationnelle ©GG SGBDX

Natif versus XORDBMS Points forts XOR Points forts Natif pas de nouveau SGBD possibilité de normaliser les données possibilité de stocker comme valeur d’attribut une certaine portabilité multi-SGBD performance pour accès grain fin Points forts Natif un nouveau SGBD fait pour XML jamais de mapping à définir et maintenir intégrité du document recherche plein texte performance pour accès gros grain ©GG SGBDX

5. Conclusion XML peut-il changer les bases de données ? Recherche en BD semi-structurées Besoin de schémas faibles (XML Schéma) Langage de requêtes standardisé (XQuery) L'effet du Web ... Intégration douce à l'Objet/relationnel Transformation en tables Gestion du graphe Support des textes libres niveau élément ©GG

Résumé XML fournit un cadre uniforme pour : échanger des données structurées (DTD, schéma) échanger des données semi-structurées (graphes) interroger des documents (XQuery) intégrer des sources de données hétérogènes (table, multimédia) Beaucoup de travaux sont en cours Gestion efficace au sein d'Oracle, de DB2, etc. Construction de middlewares pull/push fondés sur XQuery Construction de SGBD pur XML (Xylème, etc.) ©GG

Implémentation XQuery Introduction Algèbre XML Génération des plans

1. Introduction Des techniques en évolution Beaucoup de recherche sur XML DB Extension des techniques relationnelles Algèbre XML Réécriture de requêtes en arbre algébrique Transformation et optimisation des arbres Prise en compte des index de structure et contenu ©GG

Techniques de base XQuery Parser Optimizer Analyse de la requête Normalisation Mise en forme normale Transformation Transformation et simplification Génération Génération d'un plan d'exécution Run Time Machine Optimizer Query Plan Optimisation Machine d'exécution de l'algèbre ©GG

2. Algèbres pour XML De multiples algèbres Jagadish H.V., Lakshmanan L.V.S., Srivastava D., Thompson K. TAX: A Tree Algebra for XML, Proc. DBPL Conf., Roma Italy, 2001. Fernandez M., Simeon J., Wadler P.. An Algebra for XML Query, In Foundations of Software Technology and Theoretical Computer Science, New Delhi, 2000. Zaniolo C. The Representation and Deductive Retrieval of Complex Objects, Proc 11th VLDB, Stockholm, 1985. Galanis L., Viglas E., DeWitt D.J., Naughton J.F., Maier D. Following the Paths of XML: an Algebraic Framework for XML Query Evaluation, 2001 Tuyet-Tram Dang-Ngoc and Georges Gardarin Federating heterogeneous data sources with xml, IKS 2003 ©GG

XAlgèbre Proposée et implémentée pour un médiateur XQuare XLive à l’UVSQ Besoin d’une algèbre adaptée à XQuery XTuples, représentation de données semi-structurées XOpérateurs, une extension des opérateurs relationnels, manipulant les XTuples. Pourquoi une algèbre adaptée a XQuery ? Cette algèbre permet la création d’un plan d’exécution spécifique à XQuery. Nous avons étendu l’algèbre relationnelle en l’adaptant à XQuery. Il fallait donc définir une représentation pour les données semi-structurées, et étendre les opérateurs du relationnel pour la manipulation d’une telle structure de tuples. ©GG

XTuples Pourquoi ce besoin de nouvelle représentation? Valeurs nulles Attributs multivalués Extensions Nécessité d’une représentation adaptée aux données semi-structurées. Nom Prénom Club Palmarès Mutu Adrian NULL Coupe d’Italie Palermo Martin Villareal Del Piero Allessandro FC Juventus Ligue des champions, Championnat d’Italie Motivations d’une telle représentation : 1) La représentation classique occupe une place mémoire pour chaque champ, notamment pour les champs NULL, ce qui donne lieu à une perte de place. 2) Les attributs multivalués sont difficilement manipulable au sein d’une structure spécifique. 3) Les schéma sont totalement figés, on ne peut rajouter un champ pour un tuple seul, il faut le rajouter pour tous les tuples (nouvelle perte de place) Ces inconvénients amènent à réfléchir à une nouvelle représentation pour les tuples de données semi-structurée, plus facilement manipulables, respectant notamment la structure arborescente des données XML. ©GG

XTuples : représentation Un XTuple est composé de un ensemble d’arbre A un ensemble de références R sur les nœuds des arbres A. Ces références sont appelées XAttributs. Les opérations relationnelles se font sur R. Les parcours et recomposition se font sur A. Un ensemble de XTuples du même type forment une XRelation b A C a c e d B f E g h i D F j a/b a/c f/h/i G I H K J L R La solution utilisée conserve la structure en arbre des données XML. Un XTuple est donc composé d’une série d’arbres et de références sur les noeuds de ces arbres. ©GG

Les XOpérateurs Opérateurs étendus du relationnel adapté aux données semi-structurées. Ils opèrent sur les XRelations (composées de XTuples) Semi-pipeline XJoinHash XJoinMultiHash XIntersection Full-pipeline XConstruct XRestrict XProject Xunion XProduct XJoinSimple XSource Non-bloquant Xsource (‘PLAYERS’) XOrderBy Relation Étudiée Dans son intégralité avant de retourner un XTuple Bloquant XMin XMax XOrderBy Xsource (‘STADIUM’) XJoinHash Xsource (« STADIUM ») U XUnion 1° relation, Puis 2° Puis jointure XTuple par XTuple Hashage de la relation 1 ©GG

Construction et Projection XSource construction XAttribut construction forêt ordre de la source non-bloquant XProjection destruction de colonnes destruction de (sous-) arbres ordre préservé a b c <SAX/> XSource a b c b c XProjection ©GG

Filtrage XRestriction destruction de lignes complètes ordre préservé non bloquant a b c a b c XRestriction ©GG

Union XUnion ordre préservé en mode bloquant, non préservé sinon bloquant ou non suivant paramétrage a b c XUnion a b c a b c ©GG

Jointure XJointure XFusion XJointure Jointure des tables et juxtaposition d'arbres ordre préservé en mode bloquant, non préservé sinon bloquant ou non suivant paramétrage XFusion Concaténation d'arbres a b c XJointure d e d e f a b c ©GG

Algèbre XML : Imbrication Opérations d’imbrication nécessaire pour calculer les éléments multi-valués Exemple : for $r in //restaurant Let $m := $r//menu Return ($r/name, $r/region, count($m)) Solution: introduire les opérateurs Nest/Unest $r.Project(/name, /region, //menu) $r1 $r1.Nest(/name,/region, //menu*) En plus court et plus puissant: $r.Project((/name), /region, //menus*) Aussi utile pour les quantifiers (quel que soit = every) ©GG

Algèbre XML: Valeurs nulles Nul en XML à deux aspects Élément vide <region /> Elément absent XQuery recherche les prédicats vrai (non nuls) Elément en condition obligatoire XQuery permet les éléments vides en résultat Correspond à une valeur optionnelle Doit être pris en compte par l’algèbre Les restrictions peuvent éliminer les nuls Les jointures sont des (left/right) outer join si le résultat n’est pas soumis à condition ©GG

Annotation des attributs Les attributs des XRelations sont associés à un XPath $r/nom, $r/region, $r/offer/menus/menu Chaque attribut peut être annoté style DTD A0 = optional, A1 = mandatory A* = nested optional, A+ = nested mandatory Les attributes peuvent être la base d’un groupe d’imbrication (A, B) Exemple ($r/nom1),$r/region0, $r/offer/menus/menu* ©GG

XAlgebra: Vue d’ensemble Datasource.XSource (Path seq, atomic XQuery)  XRelation Transform a source in an XRelation of attributes Path sequence XRelation.XRestrict (unary Constraint) XRelation select Xtuples satisfying conditions on attribute values XRelation.XProject (Path seq) XRelation Remove attributes that are not in path sequence XRelation.XJoin (XRelation, binary Constraint)  XRelation join of two XRelations on attribute values XRelation.XFusion (Path seq)  XRelation Remove attributes and merge each XTuple trees in one of given schema XRelation.XReconstruct (Path seq)  XML Extract XML documents of given schema from the XRelation ©GG

Implémentation des algorithmes XSélection Par accès à index Intérêt d'indexer tous les mots Intersection et union des adresses selon critères Filtrage final pour vérifier XJointure Par accès aux index Par produit cartésien Par tri-fusion Par hachage Intérêt du pipline ©GG

3. Techniques de Représentation Notion de modèle d’arbre (Tree Pattern) Jagadish VLDB 2002 Principe des modèles d’arbres généralisés (GTP) Utilisation des GTP pour XQuery Optimisation & performances Variante : TGV (N. Travers) ©GG

TPQ (Tree Pattern Query) TPQ = arbre modélisant une requête. Il est destiné à être « mappé » sur l’arborescence du document XML cible $a ancêtre $e Arbre T $b $c Arbre T2 $f parent $d $g : relation ancêtre-descendant : relation père-fils ©GG

GTP (Generalized Tree Pattern) Le GTP ajoute au TPQ des arcs en pointillés symbolisant des relations optionnelles GTP: G=(T,F) T: arbre F:formule Chaque nœud de l’arbre T est labellisé par une variable et possède un numéro de groupe. F est une formule booléenne vérifiant les prédicats applicables aux nœuds. Un ensemble de nœuds forment un groupe s’ils sont reliés entre eux par des liens non optionnels. ©GG

Numéro de groupe (par convention le groupe 0 inclut l’élément root) GTP - Exemple FOR $p IN document(“auction.xml”)//person, $l IN $p/profile WHERE $l/age > 25 AND $p//state != ‘MI’ RETURN <result> {$p//watches/watch} {$l/interest} </result> $p $l $s $g $w $t $i (0) (1) (2) $p.tag = person & $s.tag = state & $l.tag = profile & $i.tag = interest & $w.tag = watches & $t.tag = watch & $g.tag = age & $g.content > 25 & $s.content != ‘MI’ Relation optionnelle Numéro de groupe (par convention le groupe 0 inclut l’élément root) ©GG

Pattern Match Un « Pattern Match » de l’arbre G dans une collection d’arbres C est un sous-arbre h partiel h: G  C tel que: h contient au moins le groupe 0 de G. h préserve la structure relationnel de G. h vérifie la formule booléenne F de G. ©GG

Pattern match : Exemple On mappe le GTP sur l’arborescence XML $p (0) XML 1 $s (0) $w $l people (0) (1) $t $g $i (2) 11 (1) (0) person 2 person GTP 3 6 9 12 15 address watches profile address profile 4 5 7 8 10 13 14 16 17 state city watch watch age state city age interest “s1” “30” “s2” “28” Résultat = H1: $p->2, $s->4, $l->9, $g->10, $w->6, $t->7 ©GG

GTP Universel Il permet de modéliser les requêtes contenant le quantificateur « EVERY » dans la clause « WHERE » Un GTP universel est un GTP G=(T, F) tel que plusieurs arcs soient étiquetés ‘EVERY’ Un arc peut être étiqueté ‘EVERY’ seulement s’il pointe sur un nœud atteignable par des arcs non optionnels depuis le nœud racine ©GG

GTP Universel : Exemple FOR $o IN document(“auction.xml“) WHERE EVERY $b in $o/bidder SATISFIES $b/increase>100 RETURN <result> {$o} </result> (0) $o (1) $b (2) $i F_L : pc($o, $b) & $b.tag = bidder F_R: pc($b, $i) & $i.tag = increase & $i.content >100 $b: [F_L → $i: (F_R) ©GG

GTP Requête imbriquée FOR $p IN document(“auction.xml”)//person LET $a := FOR $t IN document(“auction.xml”)//closed_auction WHERE $p/@id = $t/buyer/@person RETURN <item> {FOR $t2 IN document(“auction.xml”)//europe/item WHERE $t/itemref/@item = $t2/@id RETURN {$t2/name}} </item> WHERE $p//age > 25 RETURN <person name = {$p/name/text()}> {$a} </person> → Récupère le nom et les items achetés en europe, par toutes les personnes agées de plus de 25 ans. ©GG

GTP Requête imbriquée (2) $p.tag = person & $g.tag = age & $n1.tag = $n2.tag=name & $b.tag = buyer & $t.tag = closed_auction& $i.tag = itemref & $t2.tag = item & $g.content > 25 Join Condition: $p.id=$b.person & $i.item=$t2.id $p $n1 $g $t $b $i $t2 $e $n2 (0) (2) (1.0) (1.1.0) (1.1.1) ©GG

Transformation XQuery en GTP XQuery : “FLWR” Une expression FLWR : ForClause ::= FOR $fv1 IN E1, … , $fvn IN En. (LetClause ::= LET $lv1 := E1, … , $lvn := En.) WhereClause ::= WHERE (E1, … , En). ReturnClause ::= RETURN {E1} … {En}. Ei ::= FLWR (Requêtes imbriquées) | XPATH. ©GG

Algorithme de transformation Il prend en entrée une expression FLWR et renvoie un GTP Il parse au fur et à mesure la requête XQuery en utilisant la récursivité afin de gérer les expressions FLWR imbriquées dans une clause ‘FOR’ par exemple Le parsing d’une expression Xpath entraîne la création d’un nouveau nœud dans le GTP résultat ©GG

4. Plan d’évaluation La principale motivation derrière les GTP est de fournir une base pour une exécution efficace. Pour cela: Supprimer les correspondances répétées pour des TPQ similaires. Retarder la matérialisation des nœuds autant que possible. ©GG

Algèbre physique Index Scan ISp(S) : Filter Fp(S) : Sort Sb(S) : Sort chaque nœud satisfaisant le prédicat p en utilisant un index pour les arbres S d’entrée. Filter Fp(S) : Sort seulement les arbres satisfaisant le prédicat p des arbres S. L’ordre est préservé. Sort Sb(S) : Trie la séquence d’entrée des arbres S sur la base de tri b. Value Join Jp(S1,S2) : une comparaison des deux séquences d'arbres d'entrées, par le prédicat de jointure p. L'ordre de la séquence de sortie est basé sur l'ordre de séquence d'entrée gauche de S1. ©GG

Algèbre physique (2) Structural Join SJr(S1, S2): Group By Gb(S) : Les séquences d'arbres S1 et S2 doivent être triées en fonction du noeud id. L’opérateur joins S1 et S2 basés sur la relation r entre eux (pc ou ad)pour chaque paire. La sortie est triée sur S1 ou S2 si besoin. Group By Gb(S) : l'entrée S est triée sur le group by basé sur le prédicat b. Merge M(S1,…,Sn) : Les Sj doivent avoir la même cardinalité k. Pour chaque 1≤i≤k, joindre l'arbre i avec chaque entrée sous une racine artificielle, et produire l'arbre. L'ordre est préservé. ©GG

Traduire le GTP en plan physique Utilisation d'un algorithme spécifique pour générer le plan physique à partir du GTP Obtention d'un plan du type : M F : filter IS : tag index scan SSJ : structural semi-join SJ : strcutural join OSJ : outer structural join S : sort M : merge G G person, profile person, profile S S person, profile person, profile OSJ SJ profile/interest watches/watch ©GG S

Optimisation grâce aux schémas Principe : les informations contenues dans le schéma XML (.xsd) vont permettrent d’optimiser les GTP et les plans d’exécution physique en résultant ©GG

Élimination des nœuds « internes » a//b//c  a//c $a $a $b $c $c Seulement si le schéma spécifie que tout chemin de a à c passe par un élément b ©GG

Deux nœud pour le même élément XML FOR $b IN …//book WHERE $b/title = ‘Germinal’ RETURN <x> {$b/title} {$b/year} </x> $b $b $t $t2 $y $t $y Seulement si le schéma spécifie que tout livre ne possède qu’un titre ! ©GG

Éliminer les nœuds inutiles FOR $a IN …./a[b] RETURN {$a/c} $a $a $b $c $c Seulement si le schéma spécifie que tout élément a possède au moins un sous-élément b ! ©GG

Eliminer un ‘GROUP BY’ du plan physique RETURN {$a/sous-element} Une clause ‘FOR’ nécessite un ‘GROUP BY’ du résultat Mais si le schéma spécifie que le sous-élément est unique alors ce ‘GROUP BY’ devient inutile ©GG

Performances des GTP La méthode d’exécution faisant appel aux GTP surpasse en rapidité les méthodes de parcours classique de l’arborescence pour l’exécution de tous les types de requêtes Les auteurs ont effectués ces tests dans l’environement suivant : TIMBER native XML database, PIII 866MHz, Ms Windows 2000, index sur les principaux éléments ©GG

Optimisation par schéma 5. Conclusion Les GTP semblent être actuellement la méthode la plus efficace pour XQuery Mode opératoire en 3 étapes : Requête XQuery Plan physique GTP Optimisation par schéma Résultat ©GG