Indexation et Optimisation XML et les BD 1. Introduction 2. Modèle de données 3. Langage de requêtes 4. Produits 5. Conclusion Indexation et Optimisation

1. Introduction Générations de BD Web et BD Réseau et hiérarchique 70 - 80 Relationnel 80 - 90 Objet-Relationnel 90 - … Web et BD un rendez-vous manqué couplage faible par serveur d'applications le Web est une vaste BD distribuée la structuration est faible plutôt orienté documentaire ... ©GG Introduction

XML s'impose Intégration des données et méta-données Standard d’échange de données universel Les BD ne peuvent rester indifférentes : nécessité de stocker les documents XML nécessité de pouvoir interroger ces documents évolution ou révolution ? Quel modèle de données ? Quel langage d'interrogation ? Quelle intégration avec l'existant ? ©GG Introduction

Limites de SQL Mauvais support de l'imbrication SQL3 trop complexe GROUP BY limités Généralement dans les éditeurs de rapports SQL3 trop complexe Requêtes imbriquées difficiles Méthodes en qualification coûteuse Références pas très claires Peu adapté à XML Vision tabulaire Manipulation par des fonctions (SQL/XML) SQL à 30 ans ! Inventé en 1970 pour la gestion XQuery le successeur ? ©GG Introduction

Exemple de documents <?xml version="1.0"?> <Restaurants region="Normandie" version="2.0"> <Restaurant type="francais" categorie="***"> <Nom>Le Grand Hôtel</ Nom> <Adresse> <Rue>Promenade M. Proust </Rue> <Ville>Cabourg</Ville> </Adresse> <Manager>Dupont</Manager> <Menu>Plat du jour</Menu> </Restaurant> <Restaurant type="francais" categorie="**"> <Nom>L'Absinthe</Nom> <Adresse> <No>10</No> <Rue>quai Quarantaine </Rue> <Ville>Honfleur</Ville> </Adresse> <Téléphone>0231893900 </Téléphone> <Manager>Dupont</Manager> <Manager>Durand</Manager> <Menu Prix="12"> Fruits de Mer </Menu> </Restaurant> </Restaurants> ©GG Introduction

2. Modèle de données Schémas flexibles et irréguliers Optionnels, avec ou sans DTD Données auto-descriptives Balises et attributs Modèle de type hypertexte Support des références Éléments atomiques ou complexes Composition par agrégation Types de données variés et extensibles Textes, numériques, …, types utilisateur ©GG Modèle semi-structuré

Le modèle de données XQuery Data Model Modèle des schémas et de XPath 2 Un document est un arbre à nœud étiqueté Chaque nœud possède une identité Exprimé en XML, souvent représenté graphiquement Une forêt est une collection de documents de même schéma Une source de données est soit un document, soit une forêt ©GG Modèle semi-structuré

Diagramme XML Spy ©GG Modèle semi-structuré

Et les documents sans schéma ? Possibilité de stocker des documents sans schéma Le SGBD génère un schéma (arbre couvrant sans feuilles) Maintenu lors des mises à jour (compteur d'utilité) Schéma de base pour l'interrogation Facilite la conception Dégager des collections de documents apparentés Le SGBD conçoit pour vous ! Solution Forêt fermée versus forêt ouverte Construction et gestion dynamique des schémas Notion de "document guide" ou DTD généralisée Schéma faible avec typage string Possibilité d’inférer des types à partir des valeurs ©GG Modèle semi-structuré

Bilan Modèle de données Un standard riche schémas standardisés depuis 3 mai 2001 Représentation graphique ad-hoc Génération automatique en cas d'absence Faut-il un autre modèle que les schémas ? Doit couvrir les schémas Doit couvrir les DTD Doit couvrir l'absence de schéma et DTD Syntaxe plus simple ©GG Modèle semi-structuré

3. Langage de requêtes MODELE LANGAGE REQUETES Hiérarchique DML DL1 Réseau DML CODASYL Relationnel SQL: SELECT … Objet OQL XML ??? ©GG Langages de requêtes

Qu’est ce que XQuery ? XQuery est le langage de requêtes pour XML défini et standardisé par le W3C XQuery s’impose comme le langage de requêtes: Pour les bases de données XML natives Pour les documents XML textuels (XQuery Text) Pour l’intégration de données (bases de données virtuelles) Le besoin d’interroger les bases relationnelles en XQuery existe Pour l’intégration et la publication de données Compétition avec les extensions de SQL (SQL/XML) ©GG Langages de requêtes

Objectifs Puissance de SQL Recherche d'information Structure d'arbres Types XML Schema XPath 2 Puissance de SQL Recherche d'information Structure d'arbres Langage fonctionnel ©GG Langages de requêtes

La base Proposé par IBM , MS, AT&T, Data Direct, ... Langage fonctionnel type CAML Forme de requête élémentaire FOR $<var> in <forest> [, $<var> in <forest>]+ //itération LET $<var> := <subtree> // assignation WHERE <condition> // élagage RETURN <result> // construction Les forêts sont sélectionnées par des Xpath (document ou collection) Le résultat est une forêt (un ou plusieurs arbres) ©GG Langages de requêtes

Exemple 1 : XPath (Q1) Noms de tous les restaurants : collection(“Restaurants”)/Restaurant/Nom/text() collection(“Restaurants”)/Restaurant/Nom ©GG Langages de requêtes

Exemple 2 et 3 : XPath + Expression régulière Menu de tous les restaurants collection(“Restaurants”)//Menu Accès via indice à attribut Donnez le nom des menus du premier restaurant collection(“Restaurants”)/Restaurant[1]/Menu/@Nom ©GG Langages de requêtes

Exemple 4 : Sélection Lister le nom des restaurants de Cabourg: collection(“Restaurants”)/Restaurant [Adresse/Ville= “Cabourg"] /Nom <resultat> {for $R in collection("Restaurants")/Restaurant where $R/Adresse/Ville = “Cabourg” return {$R/Nom}} </resultat> ©GG Langages de requêtes

Exemple 5 : Jointure Lister le nom des Restaurants avec téléphone dans la rue de l'Hôtel Lutecia: for $R in collection("Restaurants")/Restaurant, $H in collection("Hotels")/Hotel where $H//Rue = $R//Rue and $H//Nom = "Le Lutecia" return <Result> {$R/Nom} {$R/Téléphone} </Result> ©GG Langages de requêtes

Exemple 6 : Restructuration d'arbre Construire une liste de restaurants par Ville for $c in distinct(collection(“Restaurants”)/Restaurant//Ville) return <Ville>{$c}</Ville> <Restaurants> {for $r in collection(“Restaurants”)/Restaurant where $r//Ville = $c return {$r}} ©GG Langages de requêtes

Exemple 7 : Imbrication en Where Adresses des hotels dans des villes ayant des restaurants trois étoiles for $h in collection(“Hotels”)/Hotel where $h/Adresse/Ville in for $r in collection(“Restaurants”)/Restaurant where $r/@categorie = "***" return {$r/Adresse/Ville/text()} return {$h/Adresse} ©GG Langages de requêtes

Syntaxe Simplifiée (XLive) // Réduite à FWR XQuery ::= ForClause [WhereClause] ReturnClause ForClause ::= “for” VarDef [,VarDef] … VarDef ::= “$”VarName “in” “collection” “(” QuotedText “)”/XPath WhereClause ::= “where” CplexCond CplexCond ::= Cond | Cond AND CplexCond | Cond OR Cplex CondCond ::= Expr Op Constant | Expr Op Expr | “contains(” Expr , Text “)” Op ::= “=” | “!=” | “<” | “<=” | “>” | “>=” Expr ::= “$”VarName/XPath ReturnClause ::= “return” XMLElement* XMLElement ::= “<”tag“>”XMLElement“</”tag“>”| “{” XPath“}”*| “{” XQuery“}”* VarName ::= Any variable nameTag ::= XML label QuotedText ::= Any text between quotes " …“ Constant ::= Quoted text or number XPath ::= XPath expression restricted to child and descendant directions ©GG

Exemple 8 : Agrégat simple Combien de restaurants y-a-t-il en collection ? let $R := collection(“Restaurants”)/Restaurant return <NombreRestaurant > {count ($R)} </NombreRestaurant> ©GG Langages de requêtes

Exemple 9 : Agrégat partitionné Lister le nom de chaque restaurant avec le prix moyens des menus proposés for $r in collection(“Restaurants”)//Restaurant let $a := collection(“Restaurants”)// [Restaurant = $r]//Menu/@Prix return <resultat> {$r/Nom} <avgPrix>{AVG($a)}</avgPrix> </resultat> ©GG Langages de requêtes

Exemple 10 : recherche textuelle Lister les bons restaurants de Paris for $r in collection(“Restaurants”)//Restaurant where (contains ($r/Comments, “Bon”) or contains ($r/Comments, “Excellent”)) and $r/Adresse/Ville = “Paris” return {$r/Nom} ©GG Langages de requêtes

Exemple 11 : Ordre et désordre Lister les bons restaurants de Paris par ordre alphabétique for $r in unordered(collection(“Restaurants”)//Restaurant) where (contains($r/Comments, "Excellent”) or contains($r/Comments, "Good”)) and $r/Adresse/Ville = “Paris” return {$r/Nom} orderby ($r/Nom descending) ©GG Langages de requêtes

Exemple 12 : Multi-requêtes Construire un document avec en-tête, titre, liste restaurants peu chers, titre, liste restaurants chers  <XML_document> <Very_Expensive_Restaurants> <Title>List of very expensive restaurants</Title> {for $r in collection("Restaurants”)//Restaurant where every $p in $r/Menu/@Prix satisfies ($p>100) return {$r}} </Very_Expensive_Restaurants> <Very_Inexpensive_Restaurants> <Title>List of very inexpensive restaurants</Title> {for $r in collection(“Restaurants”)//Restaurant where some $p in $r/Menu/@Prix satisfies ($p<10) <Date>{date()}</Date> </Very_Inexpensive_Restaurants> </XML_document> ©GG Langages de requêtes

Exemple 13 : String Trouver les livres dans lequel le nom d'un élément se termine par "or" et le même élément contient la chaîne "Suciu" quelque part. Pour chaque tel livre, retourner le titre et l'élément qualifiant. for $b in document("document")//book let $e := $b/*[contains(string(.), "Suciu") and ends-with(local-name(.), "or")] where exists($e) return <book> { $b/title } { $e } </book> ©GG Langages de requêtes

Fonctionnalités XQuery Text Recherche sur mot-clés Recherche de phrase Support des mots de laiaison Recherche sur préfix, suffix, infix Normalisation des mots, accents, capitales, … Recherche par proximité (unité = mots) Spécification de l'ordre des mots Combinaison logic avec AND, OR , NOT Recherche par similarité Tri des résultats par pertinence ©GG Langages de requêtes

Bilan XQuery Véritable langage de programmation Très puissant Sélection Jointure Imbrication Restructuration Agrégation Tri Plein texte … Sur des forêts dont les arbres sont des documents Questions ? ©GG Langages de requêtes

4. Aperçu des produits Systèmes natifs SGBD relationnels étendus Technique spécialisée de stockage et recherche Extension des techniques documentaires à l'élément SGBD relationnels étendus Séparation des éléments et du graphe Mapping en tables SGBD objet adapté Utilisation d'une structuration objet (DOM) Un produit : Excelon (Object Store) Racheter par Progress Software ©GG SGBDX

Concurrence, Fiabilité 4.1 SGBD Natif XML SGBD conçu pour XML, stockant les documents en entiers sans les décomposer en éléments, utilisant de techniques d'indexation d'arbres spécifiques. XML Requête XML Stockage XML Recherche XML Noyau SGBD Concurrence, Fiabilité Forêts d'arbres Index ©GG SGBDX

Indexation Plein Texte Utilisation d'un thésaurus au chargement ensemble de termes reliés liste des mots importants synonymes et préférés spécialisations, traductions Standards ISO 2788 et ANSI Z39.19 Stémisation (racine) ou lémisation (préféré) Listes inverses fichiers de mots significatifs pour chaque mot, adresse document (élément+offset) ©GG SGBDX

Principaux produits De multiples start-up Software A.G. Tamino http://www.softwareag.com/ X-Hive/Db http://www.x-hive.com/ Coherity http://www.coherity.com/ IXIA soft http://www.ixiasoft.com/ XML Global http://www.xmlglobal.com/ NeoCore http://www.neocore.com/ Xyleme http://www.xyleme.com/ Exist http://exist.sourceforge.net/ Intégration comme type spécialisé à SGBD OR DB2 XML Extender, Oracle XML DB, SQL Server 2005 ©GG SGBDX

Xyleme Entrepôt XML efficace Architecture distribuée Cluster de PCs Communication avec Corba Développé sur Linux en C++ Support du langage de requêtes XyQL OQL étendu avec des expressions de chemins Recherche plein texte en éléments efficace ©GG SGBDX

Xyleme Functionnalities ©GG SGBDX

Xyleme: Natix Repository Objectifs Minimiser les I/O pour accès directe et balayage Accès direct efficace via index et identifiant Compression des données sans pénaliser les accès Stockage efficace d’arbre Pages de taille fixe classique Enregistrements de taille variable à l’intérieur Equilibrage des arbres par éclatement de pages ©GG SGBDX

Xyleme: Architecture Physique XyQuery Global Query Manager Local Query Manager Loader/Indexer Local Query Manager Loader/Indexer Repository Context XyIndex Repository Context XyIndex xyIndex xyIndex ©GG SGBDX

Xyleme: Exemple de Requêtes Extension de OQL avec XPath Orientation recherche textuelle Select boss/Name, boss/Phone From comp in BusinessDomain, boss in comp//Manager Where comp/Product contains “Xyleme” ©GG SGBDX

Xyleme Indexation Liste inversée standard Index Xyleme mot  documents contenant ce mot Index Xyleme mot  éléments contenant ce mot (document + élément identifier) La plupart des requêtes sur mots-clés sont traitées en index, sans accès aux documents Possibilité d’enrichir la requête via un thésaurus avant la recherche en index ©GG SGBDX

4.2 Mapping SGBDR Composant logiciel au-dessus d'un SGBDR assurant: XML XQuery XML Composant logiciel au-dessus d'un SGBDR assurant: le stockage et l'interrogation de documents XML en transformant le XML en tables et les tables en XML Stockage XML Recherche XML SQL SGBD Tables de lignes Index ©GG SGBDX

Exemple de Mapping Restaurant(#R, Nom, Tel) Adresse(#R,N°, Rue, Ville) Manager(#R, Nom) ©GG SGBDX

SQL/XML Intégration de fonctionnalités XQuery à SQL Support à la SQL3 Type de donnée natif XML Type (colonnes XML) Fonctions d’extraction XPath Fonctions de construction de XML (pont relationnel) Insertion et Maj de XML en colonne(s) Exemple de requête SELECT XMLElement("Emp", XMLForest ( e.hire, e.dept AS "department") )AS "result“ FROM EMPLOYEE e WHERE ExtractValue(e.XMLemp, /emp/@id) > 200; Intégré à Oracle et DB2 ©GG SGBDX

Fonctions SQL/XML SGBDX Fonction Rôle XMLAgg prend en argument une collection de fragments et retourne un document XML agrégé ; XMLConcat reçoit en argument une série d’instances XMLType correspondant aux valeurs d’une colonne pour les lignes d’une table et retourne les instances concaténées ; XMLElement prend en argument un nom d’élément, une collection d’attributs optionnels, un contenu d’élément et retourne une instance XMLType ; XMLForest convertit la suite de ses argument en XML et retourne un fragment XML concaténation des arguments convertis ; XMLColAttVal converti une valeur de colonne en XML ; XMLSequence transforme une suite de lignes référencées par un curseur en séquence XML ; XMLTransform applique une feuille de style XSL à une instance XMLType et retourne une instance XMLType ; ExtractValue. reçoit en argument une instance XMLType et une expression XPath et retourne la valeur scalaire des nœuds sélectionnés ExtractXML reçoit en argument une instance XMLType et une expression XPath et retourne une instance XML représentant les nœuds sélectionnés. ©GG SGBDX

Oracle XML/DB Stockage et publication Interrogation Mapping de XML plat sur une table Mapping de XML imbriqué en tables imbriquées Stockage de XML en colonne (XML Type) Commandes PutXml et GetXml Interrogation Support de SQL/XML Servlet XSQL document XML avec requêtes SQL/XML transformation du résultat des requêtes en XML ©GG SGBDX

Microsoft: SQL Server 2005 Stockage de XML XPath SQL XQuery Stockage natif comme "XMLtype" Mapping de XML en tables défini par assistants exécuté par procédures stockées Stockage en Large OBject varchar et varbinary Interrogation en XML XQuery et XML DML Proposé pour interroger et mettre à jour les données XML Possibilité de définir des vues XML et de les interroger SELECT … FOR XML Retourne du XML à partir de requêtes SQL et permet de définir le format du XML retourné OpenXML Manipulation de documents XML comme des tables avec des procédures stockées SQL XML Files XPath XQuery XML View SQL Server RowSet ©GG SGBDX

XQuare Bridge (Open Source) Extraction XML via XQuery traduite en SQL Stockage XML en base Mapping via schema Accélérateur XTree (Repository) Portable Oracle, SQLServer, PostGres, … Version industrielle www.datadirect.com Règles de Mapping Scripts XQuery Extractor Mapper API SAX2 API XML/DBC JDBC SGBDR SGBD BD relationnelle ©GG SGBDX

Natif versus XORDBMS Points forts XOR Points forts Natif pas de nouveau SGBD possibilité de normaliser les données possibilité de stocker comme valeur d’attribut une certaine portabilité multi-SGBD performance pour accès grain fin Points forts Natif un nouveau SGBD fait pour XML jamais de mapping à définir et maintenir intégrité du document recherche plein texte performance pour accès gros grain ©GG SGBDX

5. Conclusion XML peut-il changer les bases de données ? Recherche en BD semi-structurées Besoin de schémas faibles (XML Schéma) Langage de requêtes standardisé (XQuery) L'effet du Web ... Intégration douce à l'Objet/relationnel Transformation en tables Gestion du graphe Support des textes libres niveau élément ©GG

Résumé XML fournit un cadre uniforme pour : échanger des données structurées (DTD, schéma) échanger des données semi-structurées (graphes) interroger des documents (XQuery) intégrer des sources de données hétérogènes (table, multimédia) Beaucoup de travaux sont en cours Gestion efficace au sein d'Oracle, de DB2, etc. Construction de middlewares pull/push fondés sur XQuery Construction de SGBD pur XML (Xylème, etc.) ©GG

Techniques d’Indexation XML Objectifs Dataguide et Variation Index Fabric Adaptative Path Index Node Numbering scheme Compact Structural Summary Conclusion

Requirements XML Queries involve navigating data using regular path expressions.(e.g., XPath) /Livre//Auteur[@specialite="informatique"]) Accessing all elements with same name string. Ancestor-descendant relationship between elements. Content based access on values included in text. ©GG

Index Types Structural index Content index Accessing all elements of given name Ancestor-descendant and parent-child relationship between elements Content index Accessing elements containing given keywords Supporting most text search functionalities ©GG

Classical Content Index Classically based on inverted lists For each term, gives the doc.ID + localization Several variations allows different search types Offset, Relative, Proximity Generally stored in a B+-Tree to optimize search for a given word Size is an important issue Memory and Disk Words Localization - t1 : doc1-100, doc1-300, doc3-200, … - t2 : doc2-30, doc4-70, … - t3 : doc4-87, doc5-754, … (word, localization) Fixed entry (word repeated) (word, Frequency, (localization)*) Variable length entry ©GG

Problem with XML Query processing Support of updates Support of element addressing Doc.ID should include NodeId (Xpath) + Offset Index size becomes very large XPath are long Support of typed data Integer, float, simple types of XML schema Requires classical indexes for certain elements Query processing Structural joins Text search Exact search Support of updates Incremental updates would be a plus ©GG

Evaluation Criteria Identifiers Descendant/Ancestor Search Per node or per document Descendant/Ancestor Search By join algo. By graph traversal By OID comparison Keyword Search By element scan By B-tree traversal Update Incremental Index size Entry number Entry size ©GG

2-Dataguide and Variation Goldman & Widom VLDB97 Dynamic schemas helps in query formulation Concise and accurate structural summaries Every path in the database has one and only one corresponding path in the DataGuide with the same sequence of labels A legal label path: Restaurant/Name Target set for e=Restaurant/Entree is Ts(e) = {6,10,11}. DocId can be added to identifiers ©GG

Dataguide Principle To achieve conciseness To ensure accuracy a DataGuide describes every unique label path of a source exactly once. To ensure accuracy a DataGuide encodes no label path that does not appear in the source. And for convenience a DataGuide itself be an object (OEM or XML). 2,3 4 5,9 6,10,11 7 8 Targeted dataguide ©GG

Dataguide Evaluation Identifier Descendant/Ancestor Search One per node Descendant/Ancestor Search By graph traversal Keyword Search By element scan Update Insertion is incremental Deletion is complex Index size Entry number : Linear for tree; can be exponential in number of DB nodes Entry size : number of elements for a path ©GG

T-Index [Milo & Suciu, LNCS 1997] T-index stands for Template-index A path template t has the form T1 x1 T2 x2 … Tn xn where each Ti is either a regular path expression or one of the following two place holders P (any Path) and F (any Formula) //restaurant/ x P y /Address/City z F u A query path q is obtained from t by instantiating: P by any path ; F by any formula ©GG

Principle T-index indexes all sequences of objects connected by a sequence of path expressions defined by a template. Particular cases : 1-index indexes = template any path P Indexes all objects reachable through an arbitrary path expression P from a root: two nodes are equivalent (same entry) if the set of paths into them from the root is the same. 1-index is a non-deterministic version of the strong data guide 2-index indexes = template P x P all pairs of objects connected by an arbitrary path expression P ©GG

Building a T-index Group objects into equivalence classes containing objects that are indistinguishable w.r.t to a class of paths defined by a path template Finer equivallence classes are more efficient to construct using bi-simulation Construct a non deterministic automaton states represent the equivalence classes transitions correspond to edges between objects in those classes. T-index can be used to answer queries of more general forms than the template ©GG

3-Adaptative Path Index (APEX) Adaptative Path Index for XML [Chung et.al. SIGMOD 2002] Summarize paths that appear frequently in query workload Maintain all paths of length 1 Efficient for partial match paths Incremental update of index ©GG

APEX details Each node has an identifier (nid) Required paths for indexing ({label}+some composed paths) APEX = Graph (structural summary) + hash tree (incoming required paths to nodes of Graph) Hash tree is used to find nodes of graph for given label path, also for incremental update Determine frequently used path from query workload using sequential pattern mining ©GG

APEX Example XML data structure ©GG APEX Hash tree and Graph

APEX Evaluation Identifiers Descendant/Ancestor Search Keyword Search One per node Descendant/Ancestor Search Hash tree access if required or graph traversal or join Keyword Search Not supported Update Insertion is incremental Index size (two structures) Entry number : Linear in number of nodes Entry size : number of elements for a path ©GG

4-Index Fabric [Cooper et al. .A Fast Index for Semistructured Data.. VLDB, 2001] Extension of dataguide for text search Keeps all label paths starting from the root Encode each label path with data value as a string Use efficient index for strings to store it (Patricia trie) Perform queries on keywords for elements as string search Does not keep information on non-terminal nodes ©GG

Patricia Trié Trié : Key  Value A Patricia trie is a simple form of compressed trie which merges single child nodes with their parents More efficient for long keys (non-common postfix in one node) Trie = A tree for storing strings in which there is one node for every common prefix. The strings are stored in extra leaf nodes. ©GG

Exemple Doc 2: <invoice> <buyer> <name>ABC Corp</name> <address>1 Industrial Way</address> </buyer> <seller> <name>Acme Inc</name> <address>2 Acme Rd.</address> </seller> <item count=3>saw</item> <item count=2>drill</item> </invoice> Doc 2: <invoice> <buyer> <name>Oracle Inc</name> <phone>555-1212</phone> </buyer> <seller> <name>IBM Corp</name> </seller> <item> <count>4</count> <name>nail</name> </item> </invoice> ©GG

Patricia Trie ©GG

Search on Paths Example of queries: /invoice/buyer/name/[ABC Corp] /invoice/buyer//[ABC Corp] A key lookup operator search for the path key corresponding to the path expression. If path expands to infinite number of tags start by using a prefix key lookup operator, then navigate through children to check the rest ©GG

Fabric Evaluation Identifiers Descendant/Ancestor Search One per document Descendant/Ancestor Search As string search; do not keep order of elements Keyword Search By Patricia trie leaves if expanded; value index otherwise Update Insertion is incremental Deletion is complex Index size (index stored with document) Entry number : Linear for tree Entry size : number of elements for a path ©GG

5-Node Numbering Scheme Used for indexing elements Node Identifier (NID)  element The NID aims at replacing structural joins by simple function computation: check parent & ancestor relationships is_parent(NID1,NID2), is_ancestor(NID1,NID2) determine parent & children get_parent(NID1), get_children(NID1) ©GG

Virtual nodes (1) [Lee & Yoo Digital Libraries 99] Document structure mapped on a k-ary tree Node identifier assigned according to the level-order tree traversal parent(i) = (i-2)/k + 1 child(i,j) = k(i-1) + j + 1 ©GG

Virtual nodes (2) NID can be used to address elements in index of elements Only certain nodes (e.g., leaves) have to be indexed as parent nodes can be determined by computation Problems: arity of tree – may be variable and large determination of real existence of parent/child update when arity increases ? ©GG

XML trees node pre/post numbering [Dietz82] Identification of nodes Identifier = preorder rank||postorder rank X ancestor of Y <=> pre(X) < pre(Y) and post(X) > post(Y) Example 1<5 and 7>3 => (1,7) ancestor (5,3) (1,7) (6,6) (2,4) (7,5) (3,1) (5,3) (4,2) ©GG

Interval encoding Size keeps space for updates [Li&Moon VLDB 2001] Identify each node by a pair of numbers <order, size> as follows: For a tree node y of parent x: order(x) < order(y) order(y)+size(y) =< order(x) + size(x) For two sibling nodes x and y, if x is the predecessor of y in preorder traversal then order(x) + size(x) < order(y) (1,100) (10,30) (41,10) (45,5) (25,5) (11,5) (17,5) Size keeps space for updates ©GG

Relative Region Coordinates (1) [Kha & Yoshikawa IEEE Data Engin. 2001] A RRC of a node n of an XML tree is a pair [sp-sn,sp-en] of addresses in the region of parent, i.e., relative to parent start Parent Child s e ©GG

Relative Region Coordinates (2) Absolute region coordinate (ARC) Relative to root begin (from byte Nth to Mth) Allow to extract the XML data Can be derived from RRCs of parents and self: Begin = (parentsself)s –(k-1) End = (parents)s +e(self)–(k-1) Advantages Updates are kept local to a region To access parent-child efficiently A B-tree like structure is maintained (à la Natix). ©GG

Xyleme Generate a form of dataguide per cluster Generalized DTD Manage a label and value index (full index) Keep document ID and element ID Two forms of element ID: Bit structured scheme: structure position Prefix-postfix scheme: left-deep traversal Stores XML DOM trees in pages NATIX (Mannheim Univ.) technology ©GG

Xyleme ©GG

6-Compact Structural Summary [Bremer & Gertz Tech Report 2003] Compact addressing of words in XML doc. Encode XPath as reference to a path in a document guide (path set, DTD or schema) ©GG

Managing a Compact Index Naïve XML Indexing (Word,docId,(XPath)*) Example book/chapter[2]/resume/section[3] article/author/name Difficulties: Index size ! Processing time ! Intersection of lists Problem: How to memorize the location of a word inside an element ? Solution [Bremer & Gertz 02] Encode the XPath as a reference to a path in a document guide (path sequence or schema) ©GG

XPath Encoding XPath encoded as a path ID (PID) of structure (N,(p1,p2, ...) N being a node identifier in the guide (p1, p2, ...) being indices for repetitive ancestors from root to N db article techreport title text sect db I Article* II techreport VI title III text IV Sect* V Document Guide PID : (V, (1, 3)) /db/article[1]/text/sect[3] ©GG

PID Ordering and Encoding IV,(1))<(V,(1,2)) <(V,(1,3)). Pre-order relationship X Parent Y  PID(X) < PID(Y) Compact PID encoding Path number Integer (short) Repetitive node log2(n) bits Compact PID Encoding : (V, (1, 3)) /db/article[1]/text/sect[3] db article techreport title text sect 2 children : 1 bit 1 child : 0 bit Les PID sont ordonnés. Ainsi le PID représenté par (4,(1,2)) < (5,(1,2)). En terme de XPath on remarque facilement que les nœuds représenté par 5 sont obligatoirement contenus dans des nœuds 4. Cela permet d’éviter de stocker trop d’emplacement pour un terme : si un terme est contenu dans un nœud 5 alors on sait qu’il sera contenu dans ses nœuds précédents. Cela permet d’accélérer les recherches pour les positions d’un terme. De plus cela permet de calculer la fréquence d’un terme en recherchant toutes les fréquences des nœuds fils. Le Document Guide est créée en premier puis les PID sont encodé. Il faut repérer pour chaque élément le nombre de bit nécessaire pour encoder le numéro de path (2 bits pour un élément qui n’a jamais plus de 3 fils, etc...). Nœud du DG : log(n) bits, ou ‘n’ représente le nombre de nœuds du DG. BUT : Éviter la redondance de stockage d’un terme. 3 children : 2 bits Total : 3 bits ©GG

Index Implementation Entry Word (stem) || Address Address is : PID || (offset in element)* Example City (V(1,3); (9, 36)) <livre> <titre>Les Misérables, Tome 1 : Fantine</titre> <auteur>Victor Hugo</auteur> <histoire> 1815. Alors que tous les aubergistes de la ville l'ont chassé, le bagnard Jean Valjean est hébergé par Mgr Myriel ( que les pauvres ont baptisé, d'après l'un de ses prénoms, Mgr Bienvenu). L'évêque de la ville de Digne, l'accueille avec bienveillance, le fait manger à sa table et lui offre un bon lit. …. </histoire> </livre> Word PID – offset* Valjean (PID; 15) Ville (PID; 9, 36) … ©GG

XQuery Text Evaluator Normalize the query through thesaurus Translation Synonyms Conceptualization Access to the text index Intersection, union, difference of PIDs Access to the relevant elements from PIDs Verification of relevance ©GG

7-Conclusion Various indexing techniques for XML Main dimensions of variations Structural summary Dataguide, Schema guide, Generalized DTD Identification of nodes (NID) Should keep parent-child relationship Should be stable to updates Index of keywords Should be compact Should give NID and offset of instances ©GG

Classification T-Index Fabric Dataguide APEX RRC XML Indexing Methods Numbering Scheme Graph Traversal Text Search T-Index Hierarchy RRC Pre/Post Order Fabric Dataguide APEX Interval Encoding ©GG

Index for XQuery Text Facilitate the retrieval of: Non stop words Suffixes, prefixes Location of words in elements Relevant nodes for a search Entries should focus on elements Word [(docId, NID)*] ©GG

Implémentation XQuery Introduction Algèbre XML Génération des plans

1. Introduction Des techniques en évolution Beaucoup de recherche sur XML DB Extension des techniques relationnelles Algèbre XML Réécriture de requêtes en arbre algébrique Transformation et optimisation des arbres Prise en compte des index de structure et contenu ©GG

Techniques de base XQuery Parser Optimizer Analyse de la requête Normalisation Mise en forme normale Transformation Transformation et simplification Génération Génération d'un plan d'exécution Run Time Machine Optimizer Query Plan Optimisation Machine d'exécution de l'algèbre ©GG

2. Algèbres pour XML De multiples algèbres Jagadish H.V., Lakshmanan L.V.S., Srivastava D., Thompson K. TAX: A Tree Algebra for XML, Proc. DBPL Conf., Roma Italy, 2001. Fernandez M., Simeon J., Wadler P.. An Algebra for XML Query, In Foundations of Software Technology and Theoretical Computer Science, New Delhi, 2000. Zaniolo C. The Representation and Deductive Retrieval of Complex Objects, Proc 11th VLDB, Stockholm, 1985. Galanis L., Viglas E., DeWitt D.J., Naughton J.F., Maier D. Following the Paths of XML: an Algebraic Framework for XML Query Evaluation, 2001 Tuyet-Tram Dang-Ngoc and Georges Gardarin Federating heterogeneous data sources with xml, IKS 2003 ©GG

XAlgèbre Proposée et implémentée pour un médiateur XMLMedia, XQuark XLive Besoin d’une algèbre adaptée à XQuery XTuples, représentation de données semi-structurées XOpérateurs, une extension des opérateurs relationnels, manipulant les XTuples. Pourquoi une algèbre adaptée a XQuery ? Cette algèbre permet la création d’un plan d’exécution spécifique à XQuery. Nous avons étendu l’algèbre relationnelle en l’adaptant à XQuery. Il fallait donc définir une représentation pour les données semi-structurées, et étendre les opérateurs du relationnel pour la manipulation d’une telle structure de tuples. ©GG

XTuples Pourquoi ce besoin de nouvelle représentation? Valeurs nulles Attributs multivalués Extensions Nécessité d’une représentation adaptée aux données semi-structurées. Nom Prénom Club Palmarès Mutu Adrian NULL Coupe d’Italie Palermo Martin Villareal Del Piero Allessandro FC Juventus Ligue des champions, Championnat d’Italie Motivations d’une telle représentation : 1) La représentation classique occupe une place mémoire pour chaque champ, notamment pour les champs NULL, ce qui donne lieu à une perte de place. 2) Les attributs multivalués sont difficilement manipulable au sein d’une structure spécifique. 3) Les schéma sont totalement figés, on ne peut rajouter un champ pour un tuple seul, il faut le rajouter pour tous les tuples (nouvelle perte de place) Ces inconvénients amènent à réfléchir à une nouvelle représentation pour les tuples de données semi-structurée, plus facilement manipulables, respectant notamment la structure arborescente des données XML. ©GG

XTuples : représentation Un XTuple est composé de un ensemble d’arbre A un ensemble de références R sur les nœuds des arbres A. Ces références sont appelées XAttributs. Les opérations relationnelles se font sur R. Les parcours et recomposition se font sur A. Un ensemble de XTuples du même type forment une XRelation b A C a c e d B f E g h i D F j a/b a/c f/h/i G I H K J L R La solution utilisée conserve la structure en arbre des données XML. Un XTuple est donc composé d’une série d’arbres et de références sur les noeuds de ces arbres. ©GG

Les XOpérateurs Opérateurs étendus du relationnel adapté aux données semi-structurées. Ils opèrent sur les XRelations (composées de XTuples) Semi-pipeline XJoinHash XJoinMultiHash XIntersection Full-pipeline XConstruct XRestrict XProject Xunion XProduct XJoinSimple XSource Non-bloquant Xsource (‘PLAYERS’) XOrderBy Relation Étudiée Dans son intégralité avant de retourner un XTuple Bloquant XMin XMax XOrderBy Xsource (‘STADIUM’) XJoinHash Xsource (« STADIUM ») U XUnion 1° relation, Puis 2° Puis jointure XTuple par XTuple Hashage de la relation 1 ©GG

Construction et Projection XSource construction XAttribut construction forêt ordre de la source non-bloquant XProjection destruction de colonnes destruction de (sous-) arbres ordre préservé a b c <SAX/> XSource a b c b c XProjection ©GG

Filtrage XRestriction destruction de lignes complètes ordre préservé non bloquant a b c a b c XRestriction ©GG

Union XUnion ordre préservé en mode bloquant, non préservé sinon bloquant ou non suivant paramétrage a b c XUnion a b c a b c ©GG

Jointure XJointure XFusion XJointure Jointure des tables et juxtaposition d'arbres ordre préservé en mode bloquant, non préservé sinon bloquant ou non suivant paramétrage XFusion Concaténation d'arbres a b c XJointure d e d e f a b c ©GG

Algèbre XML : Imbrication Opérations d’imbrication nécessaire pour calculer les éléments multi-valués Exemple : for $r in //restaurant Let $m := $r//menu Return ($r/name, $r/region, count($m)) Solution: introduire les opérateurs Nest/Unest $r.Project(/name, /region, //menu) $r1 $r1.Nest(/name,/region, //menu*) En plus court et plus puissant: $r.Project((/name), /region, //menus*) Aussi utile pour les quantifiers (quel que soit = every) ©GG

Algèbre XML: Valeurs nulles Nul en XML à deux aspects Élément vide <region /> Elément absent XQuery recherche les prédicats vrai (non nuls) Elément en condition obligatoire XQuery permet les éléments vides en résultat Correspond à une valeur optionnelle Doit être pris en compte par l’algèbre Les restrictions peuvent éliminer les nuls Les jointures sont des (left/right) outer join si le résultat n’est pas soumis à condition ©GG

Annotation des attributs Les attributs des XRelations sont associés à un XPath $r/nom, $r/region, $r/offer/menus/menu Chaque attribut peut être annoté style DTD A0 = optional, A1 = mandatory A* = nested optional, A+ = nested mandatory Les attributes peuvent être la base d’un groupe d’imbrication (A, B) Exemple ($r/nom1),$r/region0, $r/offer/menus/menu* ©GG

XAlgebra: Vue d’ensemble Datasource.XSource (Path seq, atomic XQuery)  XRelation Transform a source in an XRelation of attributes Path sequence XRelation.XRestrict (unary Constraint) XRelation select Xtuples satisfying conditions on attribute values XRelation.XProject (Path seq) XRelation Remove attributes that are not in path sequence XRelation.XJoin (XRelation, binary Constraint)  XRelation join of two XRelations on attribute values XRelation.XFusion (Path seq)  XRelation Remove attributes and merge each XTuple trees in one of given schema XRelation.XReconstruct (Path seq)  XML Extract XML documents of given schema from the XRelation ©GG

Implémentation des algorithmes XSélection Par accès à index Intérêt d'indexer tous les mots Intersection et union des adresses selon critères Filtrage final pour vérifier XJointure Par accès aux index Par produit cartésien Par tri-fusion Par hachage Intérêt du pipline ©GG

3. Techniques de Transformation Notion de modèle d’arbre (Tree Pattern) Jagadish VLDB 2002 Principe des modèles d’arbres généralisés (GTP) Utilisation des GTP pour XQuery Optimisation & performances ©GG

TPQ (Tree Pattern Query) TPQ = arbre modélisant une requête. Il est destiné à être « mappé » sur l’arborescence du document XML cible $a ancêtre $e Arbre T $b $c Arbre T2 $f parent $d $g : relation ancêtre-descendant : relation père-fils ©GG

GTP (Generalized Tree Pattern) Le GTP ajoute au TPQ des arcs en pointillés symbolisant des relations optionnelles GTP: G=(T,F) T: arbre F:formule Chaque nœud de l’arbre T est labellisé par une variable et possède un numéro de groupe. F est une formule booléenne vérifiant les prédicats applicables aux nœuds. Un ensemble de nœuds forment un groupe s’ils sont reliés entre eux par des liens non optionnels. ©GG

Numéro de groupe (par convention le groupe 0 inclut l’élément root) GTP - Exemple FOR $p IN document(“auction.xml”)//person, $l IN $p/profile WHERE $l/age > 25 AND $p//state != ‘MI’ RETURN <result> {$p//watches/watch} {$l/interest} </result> $p $l $s $g $w $t $i (0) (1) (2) $p.tag = person & $s.tag = state & $l.tag = profile & $i.tag = interest & $w.tag = watches & $t.tag = watch & $g.tag = age & $g.content > 25 & $s.content != ‘MI’ Relation optionnelle Numéro de groupe (par convention le groupe 0 inclut l’élément root) ©GG

Pattern Match Un « Pattern Match » de l’arbre G dans une collection d’arbres C est un sous-arbre h partiel h: G  C tel que: h contient au moins le groupe 0 de G. h préserve la structure relationnel de G. h vérifie la formule booléenne F de G. ©GG

Pattern match : Exemple On mappe le GTP sur l’arborescence XML $p (0) XML 1 $s (0) $w $l people (0) (1) $t $g $i (2) 11 (1) (0) person 2 person GTP 3 6 9 12 15 address watches profile address profile 4 5 7 8 10 13 14 16 17 state city watch watch age state city age interest “s1” “30” “s2” “28” Résultat = H1: $p->2, $s->4, $l->9, $g->10, $w->6, $t->7 ©GG

GTP Universel Il permet de modéliser les requêtes contenant le quantificateur « EVERY » dans la clause « WHERE » Un GTP universel est un GTP G=(T, F) tel que plusieurs arcs soient étiquetés ‘EVERY’ Un arc peut être étiqueté ‘EVERY’ seulement s’il pointe sur un nœud atteignable par des arcs non optionnels depuis le nœud racine ©GG

GTP Universel : Exemple FOR $o IN document(“auction.xml“) WHERE EVERY $b in $o/bidder SATISFIES $b/increase>100 RETURN <result> {$o} </result> (0) $o (1) $b (2) $i F_L : pc($o, $b) & $b.tag = bidder F_R: pc($b, $i) & $i.tag = increase & $i.content >100 $b: [F_L → $i: (F_R) ©GG

GTP Requête imbriquée FOR $p IN document(“auction.xml”)//person LET $a := FOR $t IN document(“auction.xml”)//closed_auction WHERE $p/@id = $t/buyer/@person RETURN <item> {FOR $t2 IN document(“auction.xml”)//europe/item WHERE $t/itemref/@item = $t2/@id RETURN {$t2/name}} </item> WHERE $p//age > 25 RETURN <person name = {$p/name/text()}> {$a} </person> → Récupère le nom et les items achetés en europe, par toutes les personnes agées de plus de 25 ans. ©GG

GTP Requête imbriquée (2) $p.tag = person & $g.tag = age & $n1.tag = $n2.tag=name & $b.tag = buyer & $t.tag = closed_auction& $i.tag = itemref & $t2.tag = item & $g.content > 25 Join Condition: $p.id=$b.person & $i.item=$t2.id $p $n1 $g $t $b $i $t2 $e $n2 (0) (2) (1.0) (1.1.0) (1.1.1) ©GG

Transformation XQuery en GTP XQuery : “FLWR” Une expression FLWR : ForClause ::= FOR $fv1 IN E1, … , $fvn IN En. (LetClause ::= LET $lv1 := E1, … , $lvn := En.) WhereClause ::= WHERE (E1, … , En). ReturnClause ::= RETURN {E1} … {En}. Ei ::= FLWR (Requêtes imbriquées) | XPATH. ©GG

Algorithme de transformation Il prend en entrée une expression FLWR et renvoie un GTP Il parse au fur et à mesure la requête XQuery en utilisant la récursivité afin de gérer les expressions FLWR imbriquées dans une clause ‘FOR’ par exemple Le parsing d’une expression Xpath entraîne la création d’un nouveau nœud dans le GTP résultat ©GG

4. Plan d’évaluation La principale motivation derrière les GTP est de fournir une base pour une exécution efficace. Pour cela: Supprimer les correspondances répétées pour des TPQ similaires. Retarder la matérialisation des nœuds autant que possible. ©GG

Algèbre physique Index Scan ISp(S) : Filter Fp(S) : Sort Sb(S) : Sort chaque nœud satisfaisant le prédicat p en utilisant un index pour les arbres S d’entrée. Filter Fp(S) : Sort seulement les arbres satisfaisant le prédicat p des arbres S. L’ordre est préservé. Sort Sb(S) : Trie la séquence d’entrée des arbres S sur la base de tri b. Value Join Jp(S1,S2) : une comparaison des deux séquences d'arbres d'entrées, par le prédicat de jointure p. L'ordre de la séquence de sortie est basé sur l'ordre de séquence d'entrée gauche de S1. ©GG

Algèbre physique (2) Structural Join SJr(S1, S2): Group By Gb(S) : Les séquences d'arbres S1 et S2 doivent être triées en fonction du noeud id. L’opérateur joins S1 et S2 basés sur la relation r entre eux (pc ou ad)pour chaque paire. La sortie est triée sur S1 ou S2 si besoin. Group By Gb(S) : l'entrée S est triée sur le group by basé sur le prédicat b. Merge M(S1,…,Sn) : Les Sj doivent avoir la même cardinalité k. Pour chaque 1≤i≤k, joindre l'arbre i avec chaque entrée sous une racine artificielle, et produire l'arbre. L'ordre est préservé. ©GG

Traduire le GTP en plan physique Utilisation d'un algorithme spécifique pour générer le plan physique à partir du GTP Obtention d'un plan du type : M F : filter IS : tag index scan SSJ : structural semi-join SJ : strcutural join OSJ : outer structural join S : sort M : merge G G person, profile person, profile S S person, profile person, profile OSJ SJ profile/interest watches/watch ©GG S

Optimisation grâce aux schémas Principe : les informations contenues dans le schéma XML (.xsd) vont permettrent d’optimiser les GTP et les plans d’exécution physique en résultant ©GG

Élimination des nœuds « internes » a//b//c  a//c $a $a $b $c $c Seulement si le schéma spécifie que tout chemin de a à c passe par un élément b ©GG

Deux nœud pour le même élément XML FOR $b IN …//book WHERE $b/title = ‘Germinal’ RETURN <x> {$b/title} {$b/year} </x> $b $b $t $t2 $y $t $y Seulement si le schéma spécifie que tout livre ne possède qu’un titre ! ©GG

Éliminer les nœuds inutiles FOR $a IN …./a[b] RETURN {$a/c} $a $a $b $c $c Seulement si le schéma spécifie que tout élément a possède au moins un sous-élément b ! ©GG

Eliminer un ‘GROUP BY’ du plan physique RETURN {$a/sous-element} Une clause ‘FOR’ nécessite un ‘GROUP BY’ du résultat Mais si le schéma spécifie que le sous-élément est unique alors ce ‘GROUP BY’ devient inutile ©GG

Performances des GTP La méthode d’exécution faisant appel aux GTP surpasse en rapidité les méthodes de parcours classique de l’arborescence pour l’exécution de tous les types de requêtes Les auteurs ont effectués ces tests dans l’environement suivant : TIMBER native XML database, PIII 866MHz, Ms Windows 2000, index sur les principaux éléments ©GG

Optimisation par schéma 5. Conclusion Les GTP semblent être actuellement la méthode la plus efficace pour XQuery Mode opératoire en 3 étapes : Requête XQuery Plan physique GTP Optimisation par schéma Résultat ©GG