Indexation et Optimisation

Présentation au sujet: "Indexation et Optimisation"— Transcription de la présentation:

1 Indexation et Optimisation
XML et les BD 1. Introduction 2. Modèle de données 3. Langage de requêtes 4. Produits 5. Conclusion Indexation et Optimisation

2 1. Introduction Générations de BD Web et BD
Réseau et hiérarchique Relationnel Objet-Relationnel 90 - … Web et BD un rendez-vous manqué couplage faible par serveur d'applications le Web est une vaste BD distribuée la structuration est faible plutôt orienté documentaire ... ©GG Introduction

3 XML s'impose Intégration des données et méta-données
Standard d’échange de données universel Les BD ne peuvent rester indifférentes : nécessité de stocker les documents XML nécessité de pouvoir interroger ces documents évolution ou révolution ? Quel modèle de données ? Quel langage d'interrogation ? Quelle intégration avec l'existant ? ©GG Introduction

4 Limites de SQL Mauvais support de l'imbrication SQL3 trop complexe
GROUP BY limités Généralement dans les éditeurs de rapports SQL3 trop complexe Requêtes imbriquées difficiles Méthodes en qualification coûteuse Références pas très claires Peu adapté à XML Vision tabulaire Manipulation par des fonctions (SQL/XML) SQL à 30 ans ! Inventé en 1970 pour la gestion XQuery le successeur ? ©GG Introduction

5 Exemple de documents <?xml version="1.0"?>
<Restaurants region="Normandie" version="2.0"> <Restaurant type="francais" categorie="***"> <Nom>Le Grand Hôtel</ Nom> <Adresse> <Rue>Promenade M. Proust </Rue> <Ville>Cabourg</Ville> </Adresse> <Manager>Dupont</Manager> <Menu>Plat du jour</Menu> </Restaurant> <Restaurant type="francais" categorie="**"> <Nom>L'Absinthe</Nom> <Adresse> <No>10</No> <Rue>quai Quarantaine </Rue> <Ville>Honfleur</Ville> </Adresse> <Téléphone> </Téléphone> <Manager>Dupont</Manager> <Manager>Durand</Manager> <Menu Prix="12"> Fruits de Mer </Menu> </Restaurant> </Restaurants> ©GG Introduction

6 2. Modèle de données Schémas flexibles et irréguliers
Optionnels, avec ou sans DTD Données auto-descriptives Balises et attributs Modèle de type hypertexte Support des références Éléments atomiques ou complexes Composition par agrégation Types de données variés et extensibles Textes, numériques, …, types utilisateur ©GG Modèle semi-structuré

7 Le modèle de données XQuery Data Model
Modèle des schémas et de XPath 2 Un document est un arbre à nœud étiqueté Chaque nœud possède une identité Exprimé en XML, souvent représenté graphiquement Une forêt est une collection de documents de même schéma Une source de données est soit un document, soit une forêt ©GG Modèle semi-structuré

8 Diagramme XML Spy ©GG Modèle semi-structuré

9 Et les documents sans schéma ?
Possibilité de stocker des documents sans schéma Le SGBD génère un schéma (arbre couvrant sans feuilles) Maintenu lors des mises à jour (compteur d'utilité) Schéma de base pour l'interrogation Facilite la conception Dégager des collections de documents apparentés Le SGBD conçoit pour vous ! Solution Forêt fermée versus forêt ouverte Construction et gestion dynamique des schémas Notion de "document guide" ou DTD généralisée Schéma faible avec typage string Possibilité d’inférer des types à partir des valeurs ©GG Modèle semi-structuré

10 Bilan Modèle de données
Un standard riche schémas standardisés depuis 3 mai 2001 Représentation graphique ad-hoc Génération automatique en cas d'absence Faut-il un autre modèle que les schémas ? Doit couvrir les schémas Doit couvrir les DTD Doit couvrir l'absence de schéma et DTD Syntaxe plus simple ©GG Modèle semi-structuré

11 3. Langage de requêtes MODELE LANGAGE REQUETES Hiérarchique DML DL1
Réseau DML CODASYL Relationnel SQL: SELECT … Objet OQL XML ??? ©GG Langages de requêtes

12 Qu’est ce que XQuery ? XQuery est le langage de requêtes pour XML défini et standardisé par le W3C XQuery s’impose comme le langage de requêtes: Pour les bases de données XML natives Pour les documents XML textuels (XQuery Text) Pour l’intégration de données (bases de données virtuelles) Le besoin d’interroger les bases relationnelles en XQuery existe Pour l’intégration et la publication de données Compétition avec les extensions de SQL (SQL/XML) ©GG Langages de requêtes

13 Objectifs Puissance de SQL Recherche d'information Structure d'arbres
Types XML Schema XPath 2 Puissance de SQL Recherche d'information Structure d'arbres Langage fonctionnel ©GG Langages de requêtes

14 La base Proposé par IBM , MS, AT&T, Data Direct, ...
Langage fonctionnel type CAML Forme de requête élémentaire FOR $<var> in <forest> [, $<var> in <forest>]+ //itération LET $<var> := <subtree> // assignation WHERE <condition> // élagage RETURN <result> // construction Les forêts sont sélectionnées par des Xpath (document ou collection) Le résultat est une forêt (un ou plusieurs arbres) ©GG Langages de requêtes

15 Exemple 1 : XPath (Q1) Noms de tous les restaurants :
collection(“Restaurants”)/Restaurant/Nom/text() collection(“Restaurants”)/Restaurant/Nom ©GG Langages de requêtes

16 Exemple 2 et 3 : XPath + Expression régulière
Menu de tous les restaurants collection(“Restaurants”)//Menu Accès via indice à attribut Donnez le nom des menus du premier restaurant ©GG Langages de requêtes

17 Exemple 4 : Sélection Lister le nom des restaurants de Cabourg:
collection(“Restaurants”)/Restaurant [Adresse/Ville= “Cabourg"] /Nom <resultat> {for $R in collection("Restaurants")/Restaurant where $R/Adresse/Ville = “Cabourg” return {$R/Nom}} </resultat> ©GG Langages de requêtes

18 Exemple 5 : Jointure Lister le nom des Restaurants avec téléphone dans la rue de l'Hôtel Lutecia: for $R in collection("Restaurants")/Restaurant, $H in collection("Hotels")/Hotel where $H//Rue = $R//Rue and $H//Nom = "Le Lutecia" return <Result> {$R/Nom} {$R/Téléphone} </Result> ©GG Langages de requêtes

19 Exemple 6 : Restructuration d'arbre
Construire une liste de restaurants par Ville for $c in distinct(collection(“Restaurants”)/Restaurant//Ville) return <Ville>{$c}</Ville> <Restaurants> {for $r in collection(“Restaurants”)/Restaurant where $r//Ville = $c return {$r}} ©GG Langages de requêtes

20 Exemple 7 : Imbrication en Where
Adresses des hotels dans des villes ayant des restaurants trois étoiles for $h in collection(“Hotels”)/Hotel where $h/Adresse/Ville in for $r in collection(“Restaurants”)/Restaurant where = "***" return {$r/Adresse/Ville/text()} return {$h/Adresse} ©GG Langages de requêtes

21 Syntaxe Simplifiée (XLive)
// Réduite à FWR XQuery ::= ForClause [WhereClause] ReturnClause ForClause ::= “for” VarDef [,VarDef] … VarDef ::= “$”VarName “in” “collection” “(” QuotedText “)”/XPath WhereClause ::= “where” CplexCond CplexCond ::= Cond | Cond AND CplexCond | Cond OR Cplex CondCond ::= Expr Op Constant | Expr Op Expr | “contains(” Expr , Text “)” Op ::= “=” | “!=” | “<” | “<=” | “>” | “>=” Expr ::= “$”VarName/XPath ReturnClause ::= “return” XMLElement* XMLElement ::= “<”tag“>”XMLElement“</”tag“>”| “{” XPath“}”*| “{” XQuery“}”* VarName ::= Any variable nameTag ::= XML label QuotedText ::= Any text between quotes " …“ Constant ::= Quoted text or number XPath ::= XPath expression restricted to child and descendant directions ©GG

22 Exemple 8 : Agrégat simple
Combien de restaurants y-a-t-il en collection ? let $R := collection(“Restaurants”)/Restaurant return <NombreRestaurant > {count ($R)} </NombreRestaurant> ©GG Langages de requêtes

23 Exemple 9 : Agrégat partitionné
Lister le nom de chaque restaurant avec le prix moyens des menus proposés for $r in collection(“Restaurants”)//Restaurant let $a := collection(“Restaurants”)// [Restaurant = return <resultat> {$r/Nom} <avgPrix>{AVG($a)}</avgPrix> </resultat> ©GG Langages de requêtes

24 Exemple 10 : recherche textuelle
Lister les bons restaurants de Paris for $r in collection(“Restaurants”)//Restaurant where (contains ($r/Comments, “Bon”) or contains ($r/Comments, “Excellent”)) and $r/Adresse/Ville = “Paris” return {$r/Nom} ©GG Langages de requêtes

25 Exemple 11 : Ordre et désordre
Lister les bons restaurants de Paris par ordre alphabétique for $r in unordered(collection(“Restaurants”)//Restaurant) where (contains($r/Comments, "Excellent”) or contains($r/Comments, "Good”)) and $r/Adresse/Ville = “Paris” return {$r/Nom} orderby ($r/Nom descending) ©GG Langages de requêtes

26 Exemple 12 : Multi-requêtes
Construire un document avec en-tête, titre, liste restaurants peu chers, titre, liste restaurants chers  <XML_document> <Very_Expensive_Restaurants> <Title>List of very expensive restaurants</Title> {for $r in collection("Restaurants”)//Restaurant where every $p in satisfies ($p>100) return {$r}} </Very_Expensive_Restaurants> <Very_Inexpensive_Restaurants> <Title>List of very inexpensive restaurants</Title> {for $r in collection(“Restaurants”)//Restaurant where some $p in satisfies ($p<10) <Date>{date()}</Date> </Very_Inexpensive_Restaurants> </XML_document> ©GG Langages de requêtes

27 Exemple 13 : String Trouver les livres dans lequel le nom d'un élément se termine par "or" et le même élément contient la chaîne "Suciu" quelque part. Pour chaque tel livre, retourner le titre et l'élément qualifiant. for $b in document("document")//book let $e := $b/*[contains(string(.), "Suciu") and ends-with(local-name(.), "or")] where exists($e) return <book> { $b/title } { $e } </book> ©GG Langages de requêtes

28 Fonctionnalités XQuery Text
Recherche sur mot-clés Recherche de phrase Support des mots de laiaison Recherche sur préfix, suffix, infix Normalisation des mots, accents, capitales, … Recherche par proximité (unité = mots) Spécification de l'ordre des mots Combinaison logic avec AND, OR , NOT Recherche par similarité Tri des résultats par pertinence ©GG Langages de requêtes

29 Bilan XQuery Véritable langage de programmation Très puissant
Sélection Jointure Imbrication Restructuration Agrégation Tri Plein texte … Sur des forêts dont les arbres sont des documents Questions ? ©GG Langages de requêtes

30 4. Aperçu des produits Systèmes natifs SGBD relationnels étendus
Technique spécialisée de stockage et recherche Extension des techniques documentaires à l'élément SGBD relationnels étendus Séparation des éléments et du graphe Mapping en tables SGBD objet adapté Utilisation d'une structuration objet (DOM) Un produit : Excelon (Object Store) Racheter par Progress Software ©GG SGBDX

31 Concurrence, Fiabilité
4.1 SGBD Natif XML SGBD conçu pour XML, stockant les documents en entiers sans les décomposer en éléments, utilisant de techniques d'indexation d'arbres spécifiques. XML Requête XML Stockage XML Recherche XML Noyau SGBD Concurrence, Fiabilité Forêts d'arbres Index ©GG SGBDX

32 Indexation Plein Texte
Utilisation d'un thésaurus au chargement ensemble de termes reliés liste des mots importants synonymes et préférés spécialisations, traductions Standards ISO 2788 et ANSI Z39.19 Stémisation (racine) ou lémisation (préféré) Listes inverses fichiers de mots significatifs pour chaque mot, adresse document (élément+offset) ©GG SGBDX

33 Principaux produits De multiples start-up
Software A.G. Tamino X-Hive/Db Coherity IXIA soft XML Global NeoCore Xyleme Exist Intégration comme type spécialisé à SGBD OR DB2 XML Extender, Oracle XML DB, SQL Server 2005 ©GG SGBDX

34 Xyleme Entrepôt XML efficace Architecture distribuée
Cluster de PCs Communication avec Corba Développé sur Linux en C++ Support du langage de requêtes XyQL OQL étendu avec des expressions de chemins Recherche plein texte en éléments efficace ©GG SGBDX

35 Xyleme Functionnalities
©GG SGBDX

36 Xyleme: Natix Repository
Objectifs Minimiser les I/O pour accès directe et balayage Accès direct efficace via index et identifiant Compression des données sans pénaliser les accès Stockage efficace d’arbre Pages de taille fixe classique Enregistrements de taille variable à l’intérieur Equilibrage des arbres par éclatement de pages ©GG SGBDX

37 Xyleme: Architecture Physique
XyQuery Global Query Manager Local Query Manager Loader/Indexer Local Query Manager Loader/Indexer Repository Context XyIndex Repository Context XyIndex xyIndex xyIndex ©GG SGBDX

38 Xyleme: Exemple de Requêtes
Extension de OQL avec XPath Orientation recherche textuelle Select boss/Name, boss/Phone From comp in BusinessDomain, boss in comp//Manager Where comp/Product contains “Xyleme” ©GG SGBDX

39 Xyleme Indexation Liste inversée standard Index Xyleme
mot  documents contenant ce mot Index Xyleme mot  éléments contenant ce mot (document + élément identifier) La plupart des requêtes sur mots-clés sont traitées en index, sans accès aux documents Possibilité d’enrichir la requête via un thésaurus avant la recherche en index ©GG SGBDX

40 4.2 Mapping SGBDR Composant logiciel au-dessus d'un SGBDR assurant:
XML XQuery XML Composant logiciel au-dessus d'un SGBDR assurant: le stockage et l'interrogation de documents XML en transformant le XML en tables et les tables en XML Stockage XML Recherche XML SQL SGBD Tables de lignes Index ©GG SGBDX

41 Exemple de Mapping Restaurant(#R, Nom, Tel) Adresse(#R,N°, Rue, Ville) Manager(#R, Nom) ©GG SGBDX

42 SQL/XML Intégration de fonctionnalités XQuery à SQL Support à la SQL3
Type de donnée natif XML Type (colonnes XML) Fonctions d’extraction XPath Fonctions de construction de XML (pont relationnel) Insertion et Maj de XML en colonne(s) Exemple de requête SELECT XMLElement("Emp", XMLForest ( e.hire, e.dept AS "department") )AS "result“ FROM EMPLOYEE e WHERE ExtractValue(e.XMLemp, > 200; Intégré à Oracle et DB2 ©GG SGBDX

43 Fonctions SQL/XML SGBDX Fonction Rôle XMLAgg
prend en argument une collection de fragments et retourne un document XML agrégé ; XMLConcat reçoit en argument une série d’instances XMLType correspondant aux valeurs d’une colonne pour les lignes d’une table et retourne les instances concaténées ; XMLElement prend en argument un nom d’élément, une collection d’attributs optionnels, un contenu d’élément et retourne une instance XMLType ; XMLForest convertit la suite de ses argument en XML et retourne un fragment XML concaténation des arguments convertis ; XMLColAttVal converti une valeur de colonne en XML ; XMLSequence transforme une suite de lignes référencées par un curseur en séquence XML ; XMLTransform applique une feuille de style XSL à une instance XMLType et retourne une instance XMLType ; ExtractValue. reçoit en argument une instance XMLType et une expression XPath et retourne la valeur scalaire des nœuds sélectionnés ExtractXML reçoit en argument une instance XMLType et une expression XPath et retourne une instance XML représentant les nœuds sélectionnés. ©GG SGBDX

44 Oracle XML/DB Stockage et publication Interrogation
Mapping de XML plat sur une table Mapping de XML imbriqué en tables imbriquées Stockage de XML en colonne (XML Type) Commandes PutXml et GetXml Interrogation Support de SQL/XML Servlet XSQL document XML avec requêtes SQL/XML transformation du résultat des requêtes en XML ©GG SGBDX

45 Microsoft: SQL Server 2005 Stockage de XML XPath SQL XQuery
Stockage natif comme "XMLtype" Mapping de XML en tables défini par assistants exécuté par procédures stockées Stockage en Large OBject varchar et varbinary Interrogation en XML XQuery et XML DML Proposé pour interroger et mettre à jour les données XML Possibilité de définir des vues XML et de les interroger SELECT … FOR XML Retourne du XML à partir de requêtes SQL et permet de définir le format du XML retourné OpenXML Manipulation de documents XML comme des tables avec des procédures stockées SQL XML Files XPath XQuery XML View SQL Server RowSet ©GG SGBDX

46 XQuare Bridge (Open Source)
Extraction XML via XQuery traduite en SQL Stockage XML en base Mapping via schema Accélérateur XTree (Repository) Portable Oracle, SQLServer, PostGres, … Version industrielle Règles de Mapping Scripts XQuery Extractor Mapper API SAX2 API XML/DBC JDBC SGBDR SGBD BD relationnelle ©GG SGBDX

47 Natif versus XORDBMS Points forts XOR Points forts Natif
pas de nouveau SGBD possibilité de normaliser les données possibilité de stocker comme valeur d’attribut une certaine portabilité multi-SGBD performance pour accès grain fin Points forts Natif un nouveau SGBD fait pour XML jamais de mapping à définir et maintenir intégrité du document recherche plein texte performance pour accès gros grain ©GG SGBDX

48 5. Conclusion XML peut-il changer les bases de données ?
Recherche en BD semi-structurées Besoin de schémas faibles (XML Schéma) Langage de requêtes standardisé (XQuery) L'effet du Web ... Intégration douce à l'Objet/relationnel Transformation en tables Gestion du graphe Support des textes libres niveau élément ©GG

49 Résumé XML fournit un cadre uniforme pour :
échanger des données structurées (DTD, schéma) échanger des données semi-structurées (graphes) interroger des documents (XQuery) intégrer des sources de données hétérogènes (table, multimédia) Beaucoup de travaux sont en cours Gestion efficace au sein d'Oracle, de DB2, etc. Construction de middlewares pull/push fondés sur XQuery Construction de SGBD pur XML (Xylème, etc.) ©GG

50 Implémentation XQuery
Introduction Algèbre XML Génération des plans

51 1. Introduction Des techniques en évolution
Beaucoup de recherche sur XML DB Extension des techniques relationnelles Algèbre XML Réécriture de requêtes en arbre algébrique Transformation et optimisation des arbres Prise en compte des index de structure et contenu ©GG

52 Techniques de base XQuery Parser Optimizer Analyse de la requête
Normalisation Mise en forme normale Transformation Transformation et simplification Génération Génération d'un plan d'exécution Run Time Machine Optimizer Query Plan Optimisation Machine d'exécution de l'algèbre ©GG

53 2. Algèbres pour XML De multiples algèbres
Jagadish H.V., Lakshmanan L.V.S., Srivastava D., Thompson K. TAX: A Tree Algebra for XML, Proc. DBPL Conf., Roma Italy, 2001. Fernandez M., Simeon J., Wadler P.. An Algebra for XML Query, In Foundations of Software Technology and Theoretical Computer Science, New Delhi, 2000. Zaniolo C. The Representation and Deductive Retrieval of Complex Objects, Proc 11th VLDB, Stockholm, 1985. Galanis L., Viglas E., DeWitt D.J., Naughton J.F., Maier D. Following the Paths of XML: an Algebraic Framework for XML Query Evaluation, 2001 Tuyet-Tram Dang-Ngoc and Georges Gardarin Federating heterogeneous data sources with xml, IKS 2003 ©GG

54 XAlgèbre Proposée et implémentée pour un médiateur
XQuare XLive à l’UVSQ Besoin d’une algèbre adaptée à XQuery XTuples, représentation de données semi-structurées XOpérateurs, une extension des opérateurs relationnels, manipulant les XTuples. Pourquoi une algèbre adaptée a XQuery ? Cette algèbre permet la création d’un plan d’exécution spécifique à XQuery. Nous avons étendu l’algèbre relationnelle en l’adaptant à XQuery. Il fallait donc définir une représentation pour les données semi-structurées, et étendre les opérateurs du relationnel pour la manipulation d’une telle structure de tuples. ©GG

55 XTuples Pourquoi ce besoin de nouvelle représentation?
Valeurs nulles Attributs multivalués Extensions Nécessité d’une représentation adaptée aux données semi-structurées. Nom Prénom Club Palmarès Mutu Adrian NULL Coupe d’Italie Palermo Martin Villareal Del Piero Allessandro FC Juventus Ligue des champions, Championnat d’Italie Motivations d’une telle représentation : 1) La représentation classique occupe une place mémoire pour chaque champ, notamment pour les champs NULL, ce qui donne lieu à une perte de place. 2) Les attributs multivalués sont difficilement manipulable au sein d’une structure spécifique. 3) Les schéma sont totalement figés, on ne peut rajouter un champ pour un tuple seul, il faut le rajouter pour tous les tuples (nouvelle perte de place) Ces inconvénients amènent à réfléchir à une nouvelle représentation pour les tuples de données semi-structurée, plus facilement manipulables, respectant notamment la structure arborescente des données XML. ©GG

56 XTuples : représentation
Un XTuple est composé de un ensemble d’arbre A un ensemble de références R sur les nœuds des arbres A. Ces références sont appelées XAttributs. Les opérations relationnelles se font sur R. Les parcours et recomposition se font sur A. Un ensemble de XTuples du même type forment une XRelation b A C a c e d B f E g h i D F j a/b a/c f/h/i G I H K J L R La solution utilisée conserve la structure en arbre des données XML. Un XTuple est donc composé d’une série d’arbres et de références sur les noeuds de ces arbres. ©GG

57 Les XOpérateurs Opérateurs étendus du relationnel adapté aux données semi-structurées. Ils opèrent sur les XRelations (composées de XTuples) Semi-pipeline XJoinHash XJoinMultiHash XIntersection Full-pipeline XConstruct XRestrict XProject Xunion XProduct XJoinSimple XSource Non-bloquant Xsource (‘PLAYERS’) XOrderBy Relation Étudiée Dans son intégralité avant de retourner un XTuple Bloquant XMin XMax XOrderBy Xsource (‘STADIUM’) XJoinHash Xsource (« STADIUM ») U XUnion 1° relation, Puis 2° Puis jointure XTuple par XTuple Hashage de la relation 1 ©GG

58 Construction et Projection
XSource construction XAttribut construction forêt ordre de la source non-bloquant XProjection destruction de colonnes destruction de (sous-) arbres ordre préservé a b c <SAX/> XSource a b c b c XProjection ©GG

59 Filtrage XRestriction destruction de lignes complètes ordre préservé
non bloquant a b c a b c XRestriction ©GG

60 Union XUnion ordre préservé en mode bloquant, non préservé sinon bloquant ou non suivant paramétrage a b c XUnion a b c a b c ©GG

61 Jointure XJointure XFusion XJointure
Jointure des tables et juxtaposition d'arbres ordre préservé en mode bloquant, non préservé sinon bloquant ou non suivant paramétrage XFusion Concaténation d'arbres a b c XJointure d e d e f a b c ©GG

62 Algèbre XML : Imbrication
Opérations d’imbrication nécessaire pour calculer les éléments multi-valués Exemple : for $r in //restaurant Let $m := $r//menu Return ($r/name, $r/region, count($m)) Solution: introduire les opérateurs Nest/Unest $r.Project(/name, /region, //menu) $r1 $r1.Nest(/name,/region, //menu*) En plus court et plus puissant: $r.Project((/name), /region, //menus*) Aussi utile pour les quantifiers (quel que soit = every) ©GG

63 Algèbre XML: Valeurs nulles
Nul en XML à deux aspects Élément vide <region /> Elément absent XQuery recherche les prédicats vrai (non nuls) Elément en condition obligatoire XQuery permet les éléments vides en résultat Correspond à une valeur optionnelle Doit être pris en compte par l’algèbre Les restrictions peuvent éliminer les nuls Les jointures sont des (left/right) outer join si le résultat n’est pas soumis à condition ©GG

64 Annotation des attributs
Les attributs des XRelations sont associés à un XPath $r/nom, $r/region, $r/offer/menus/menu Chaque attribut peut être annoté style DTD A0 = optional, A1 = mandatory A* = nested optional, A+ = nested mandatory Les attributes peuvent être la base d’un groupe d’imbrication (A, B) Exemple ($r/nom1),$r/region0, $r/offer/menus/menu* ©GG

65 XAlgebra: Vue d’ensemble
Datasource.XSource (Path seq, atomic XQuery)  XRelation Transform a source in an XRelation of attributes Path sequence XRelation.XRestrict (unary Constraint) XRelation select Xtuples satisfying conditions on attribute values XRelation.XProject (Path seq) XRelation Remove attributes that are not in path sequence XRelation.XJoin (XRelation, binary Constraint)  XRelation join of two XRelations on attribute values XRelation.XFusion (Path seq)  XRelation Remove attributes and merge each XTuple trees in one of given schema XRelation.XReconstruct (Path seq)  XML Extract XML documents of given schema from the XRelation ©GG

66 Implémentation des algorithmes
XSélection Par accès à index Intérêt d'indexer tous les mots Intersection et union des adresses selon critères Filtrage final pour vérifier XJointure Par accès aux index Par produit cartésien Par tri-fusion Par hachage Intérêt du pipline ©GG

67 3. Techniques de Représentation
Notion de modèle d’arbre (Tree Pattern) Jagadish VLDB 2002 Principe des modèles d’arbres généralisés (GTP) Utilisation des GTP pour XQuery Optimisation & performances Variante : TGV (N. Travers) ©GG

68 TPQ (Tree Pattern Query)
TPQ = arbre modélisant une requête. Il est destiné à être « mappé » sur l’arborescence du document XML cible $a ancêtre $e Arbre T $b $c Arbre T2 $f parent $d $g : relation ancêtre-descendant : relation père-fils ©GG

69 GTP (Generalized Tree Pattern)
Le GTP ajoute au TPQ des arcs en pointillés symbolisant des relations optionnelles GTP: G=(T,F) T: arbre F:formule Chaque nœud de l’arbre T est labellisé par une variable et possède un numéro de groupe. F est une formule booléenne vérifiant les prédicats applicables aux nœuds. Un ensemble de nœuds forment un groupe s’ils sont reliés entre eux par des liens non optionnels. ©GG

70 Numéro de groupe (par convention le groupe 0 inclut l’élément root)
GTP - Exemple FOR $p IN document(“auction.xml”)//person, $l IN $p/profile WHERE $l/age > 25 AND $p//state != ‘MI’ RETURN <result> {$p//watches/watch} {$l/interest} </result> $p $l $s $g $w $t $i (0) (1) (2) $p.tag = person & $s.tag = state & $l.tag = profile & $i.tag = interest & $w.tag = watches & $t.tag = watch & $g.tag = age & $g.content > 25 & $s.content != ‘MI’ Relation optionnelle Numéro de groupe (par convention le groupe 0 inclut l’élément root) ©GG

71 Pattern Match Un « Pattern Match » de l’arbre G dans une collection d’arbres C est un sous-arbre h partiel h: G  C tel que: h contient au moins le groupe 0 de G. h préserve la structure relationnel de G. h vérifie la formule booléenne F de G. ©GG

72 Pattern match : Exemple
On mappe le GTP sur l’arborescence XML $p (0) XML 1 $s (0) $w $l people (0) (1) $t $g $i (2) 11 (1) (0) person 2 person GTP 3 6 9 12 15 address watches profile address profile 4 5 7 8 10 13 14 16 17 state city watch watch age state city age interest “s1” “30” “s2” “28” Résultat = H1: $p->2, $s->4, $l->9, $g->10, $w->6, $t->7 ©GG

73 GTP Universel Il permet de modéliser les requêtes contenant le quantificateur « EVERY » dans la clause « WHERE » Un GTP universel est un GTP G=(T, F) tel que plusieurs arcs soient étiquetés ‘EVERY’ Un arc peut être étiqueté ‘EVERY’ seulement s’il pointe sur un nœud atteignable par des arcs non optionnels depuis le nœud racine ©GG

74 GTP Universel : Exemple
FOR $o IN document(“auction.xml“) WHERE EVERY $b in $o/bidder SATISFIES $b/increase>100 RETURN <result> {$o} </result> (0) $o (1) $b (2) $i F_L : pc($o, $b) & $b.tag = bidder F_R: pc($b, $i) & $i.tag = increase & $i.content >100 $b: [F_L → $i: (F_R) ©GG

75 GTP Requête imbriquée FOR $p IN document(“auction.xml”)//person LET $a := FOR $t IN document(“auction.xml”)//closed_auction WHERE = RETURN <item> {FOR $t2 IN document(“auction.xml”)//europe/item WHERE = RETURN {$t2/name}} </item> WHERE $p//age > 25 RETURN <person name = {$p/name/text()}> {$a} </person> → Récupère le nom et les items achetés en europe, par toutes les personnes agées de plus de 25 ans. ©GG

76 GTP Requête imbriquée (2)
$p.tag = person & $g.tag = age & $n1.tag = $n2.tag=name & $b.tag = buyer & $t.tag = closed_auction& $i.tag = itemref & $t2.tag = item & $g.content > 25 Join Condition: $p.id=$b.person & $i.item=$t2.id $p $n1 $g $t $b $i $t2 $e $n2 (0) (2) (1.0) (1.1.0) (1.1.1) ©GG

77 Transformation XQuery en GTP
XQuery : “FLWR” Une expression FLWR : ForClause ::= FOR $fv1 IN E1, … , $fvn IN En. (LetClause ::= LET $lv1 := E1, … , $lvn := En.) WhereClause ::= WHERE (E1, … , En). ReturnClause ::= RETURN {E1} … {En}. Ei ::= FLWR (Requêtes imbriquées) | XPATH. ©GG

78 Algorithme de transformation
Il prend en entrée une expression FLWR et renvoie un GTP Il parse au fur et à mesure la requête XQuery en utilisant la récursivité afin de gérer les expressions FLWR imbriquées dans une clause ‘FOR’ par exemple Le parsing d’une expression Xpath entraîne la création d’un nouveau nœud dans le GTP résultat ©GG

79 4. Plan d’évaluation La principale motivation derrière les GTP est de fournir une base pour une exécution efficace. Pour cela: Supprimer les correspondances répétées pour des TPQ similaires. Retarder la matérialisation des nœuds autant que possible. ©GG

80 Algèbre physique Index Scan ISp(S) : Filter Fp(S) : Sort Sb(S) :
Sort chaque nœud satisfaisant le prédicat p en utilisant un index pour les arbres S d’entrée. Filter Fp(S) : Sort seulement les arbres satisfaisant le prédicat p des arbres S. L’ordre est préservé. Sort Sb(S) : Trie la séquence d’entrée des arbres S sur la base de tri b. Value Join Jp(S1,S2) : une comparaison des deux séquences d'arbres d'entrées, par le prédicat de jointure p. L'ordre de la séquence de sortie est basé sur l'ordre de séquence d'entrée gauche de S1. ©GG

81 Algèbre physique (2) Structural Join SJr(S1, S2): Group By Gb(S) :
Les séquences d'arbres S1 et S2 doivent être triées en fonction du noeud id. L’opérateur joins S1 et S2 basés sur la relation r entre eux (pc ou ad)pour chaque paire. La sortie est triée sur S1 ou S2 si besoin. Group By Gb(S) : l'entrée S est triée sur le group by basé sur le prédicat b. Merge M(S1,…,Sn) : Les Sj doivent avoir la même cardinalité k. Pour chaque 1≤i≤k, joindre l'arbre i avec chaque entrée sous une racine artificielle, et produire l'arbre. L'ordre est préservé. ©GG

82 Traduire le GTP en plan physique
Utilisation d'un algorithme spécifique pour générer le plan physique à partir du GTP Obtention d'un plan du type : M F : filter IS : tag index scan SSJ : structural semi-join SJ : strcutural join OSJ : outer structural join S : sort M : merge G G person, profile person, profile S S person, profile person, profile OSJ SJ profile/interest watches/watch ©GG S

83 Optimisation grâce aux schémas
Principe : les informations contenues dans le schéma XML (.xsd) vont permettrent d’optimiser les GTP et les plans d’exécution physique en résultant ©GG

84 Élimination des nœuds « internes »
a//b//c  a//c $a $a $b $c $c Seulement si le schéma spécifie que tout chemin de a à c passe par un élément b ©GG

85 Deux nœud pour le même élément XML
FOR $b IN …//book WHERE $b/title = ‘Germinal’ RETURN <x> {$b/title} {$b/year} </x> $b $b $t $t2 $y $t $y Seulement si le schéma spécifie que tout livre ne possède qu’un titre ! ©GG

86 Éliminer les nœuds inutiles
FOR $a IN …./a[b] RETURN {$a/c} $a $a $b $c $c Seulement si le schéma spécifie que tout élément a possède au moins un sous-élément b ! ©GG

87 Eliminer un ‘GROUP BY’ du plan physique
RETURN {$a/sous-element} Une clause ‘FOR’ nécessite un ‘GROUP BY’ du résultat Mais si le schéma spécifie que le sous-élément est unique alors ce ‘GROUP BY’ devient inutile ©GG

88 Performances des GTP La méthode d’exécution faisant appel aux GTP surpasse en rapidité les méthodes de parcours classique de l’arborescence pour l’exécution de tous les types de requêtes Les auteurs ont effectués ces tests dans l’environement suivant : TIMBER native XML database, PIII 866MHz, Ms Windows 2000, index sur les principaux éléments ©GG

89 Optimisation par schéma
5. Conclusion Les GTP semblent être actuellement la méthode la plus efficace pour XQuery Mode opératoire en 3 étapes : Requête XQuery Plan physique GTP Optimisation par schéma Résultat ©GG