Survol du Stockage et de l’Indexage

Présentation au sujet: "Survol du Stockage et de l’Indexage"— Transcription de la présentation:

1 Survol du Stockage et de l’Indexage
Chapitre 8 The slides for this text are organized into chapters. This lecture covers Chapter 8. Chapter 1: Introduction to Database Systems Chapter 2: The Entity-Relationship Model Chapter 3: The Relational Model Chapter 4 (Part A): Relational Algebra Chapter 4 (Part B): Relational Calculus Chapter 5: SQL: Queries, Programming, Triggers Chapter 6: Query-by-Example (QBE) Chapter 7: Storing Data: Disks and Files Chapter 8: File Organizations and Indexing Chapter 9: Tree-Structured Indexing Chapter 10: Hash-Based Indexing Chapter 11: External Sorting Chapter 12 (Part A): Evaluation of Relational Operators Chapter 12 (Part B): Evaluation of Relational Operators: Other Techniques Chapter 13: Introduction to Query Optimization Chapter 14: A Typical Relational Optimizer Chapter 15: Schema Refinement and Normal Forms Chapter 16 (Part A): Physical Database Design Chapter 16 (Part B): Database Tuning Chapter 17: Security Chapter 18: Transaction Management Overview Chapter 19: Concurrency Control Chapter 20: Crash Recovery Chapter 21: Parallel and Distributed Databases Chapter 22: Internet Databases Chapter 23: Decision Support Chapter 24: Data Mining Chapter 25: Object-Database Systems Chapter 26: Spatial Data Management Chapter 27: Deductive Databases Chapter 28: Additional Topics 1

2 Stockage des Données dans des Fichiers
Un SGBD stocke les relations dans des fichiers d’enregistrements. Dans l’architecture d’un SGBD, le niveau des méthodes d’accès aux fichiers supporte le concept de fichier. Les fichiers peuvent être des fichiers non ordonnés (‘’heap files’’) ou des fichiers indexés. Le niveau des méthodes d’accès aux fichiers stocke les fichiers sous forme d’une ou plusieurs pages sur disque et administre ces pages. Le ‘’buffer manager’’ emmène les pages de la mémoire secondaire à la mémoire principale (dans le ’’buffer pool’’). Le niveau des méthodes d’accès aux fichiers fait appel au ‘’buffer manager’’.

3 Données sur Stockage Externe
Disques: Peuvent puiser des pages au hasard à un coût fixe Cependant la lecture de plusieurs pages consécutives est moins coûteuse que une lecture dans un ordre aléatoire Bandes magnétiques: Peuvent ne lire les pages que séquentiellement Moins coûteux que les disques; utilisées pour archivage Gestion des fichiers: Méthode pour arranger un fichier d’enregistrements sur stockage externe. Identité d’enregistrement (‘’Record id’’ -- rid): Suffisant pour localiser physiquement l’enregistrement Indexes: structures de données permettant de trouver les identités des enregistrements à partir des valeurs des clés de recherche

4 Organisation des Fichiers
Plusieurs alternatives existent, chacune étant idéale pour certaines situations, et pas pour d’autres: Tas (‘’Heap files’’): Adapté au scannage de tous les enregistrements. Fichiers triés: Adapté aux situations où les enregistrements doivent être puisés dans un certain ordre, ou lorsque une plage (‘’range’’) d’enregistrements est requis. Indexes: Structures des données en forme d’arbres ou de hachage pour organiser les enregistrements. Comme les fichiers triés, ils accélèrent les recherches pour un sous ensemble d’enregistrements sur base des valeurs des clés. Les modifications sont plus rapides que dans les fichiers triés. 2

5 Indexes Un index sur un fichier accélère les sélections sur les clés de recherche pour cet index. Tout sous-ensemble des attributs d’une relation peut servir de clé pour un index sur cette relation. Une clé de recherche n’est pas la même chose qu’une clé au sens d’ensemble minimal d’attributs qui identifie de manière unique un enregistrement de la relation. Un index contient une collection d’entrées des données et permet de puiser de manière efficiente toutes les entrées des données k* en utilisant une valeur de clé k. 7

6 Entrées des Données k* dans un Index
Trois alternatives: une entrée des données peut être un enregistrement de données avec une valeur de clé k une paire <k, rid> une paire <k, liste de rids> Le choix d’une des alternatives dépend de la technique d’indexage utilisée pour localiser les entrées des données ayant une valeur de clé k. Exemples de techniques d’indexage: Arbres B+, hachage Typiquement, un index contient de l’information qui oriente les recherches vers les entrées des données désirées. 8

7 Entrées des Données k* dans un Index (Suite)
Pages internes pages feuilles Les pages feuilles contiennent les entrées des données et sont chaînées. Les pages internes contiennent les entrées de l’index et dirigent la recherche. 4

8 Entrées des Données k* dans un Index (Suite)
Alternative 1: La structure de l’index est une organisation de fichier pour les enregistrements de données (en lieu et place d’un tas ou d’un fichier trié). Un maximum d’un index peut être créé sur une collection d’enregistrements de données suivant l’alternative 1. (Sinon, les enregistrements seront dupliqués, ce qui conduit à des redondances et à des inconsistances potentielles.) Si les enregistrements des données sont très nombreux, le # de pages contenant les entrées des données sera très élevé. 9

9 Entrées des Données k* dans un Index (Suite)
Alternatives 2 et 3: Ici, les entrées des données sont typiquement plus petites que les enregistrements de données. Ainsi, ces 2 alternatives sont meilleurs que la première pour traiter les enregistrements de données larges. Elles sont encore bien meilleures lorsque les clés de recherche sont petites. (La portion de la structure de l’index utilisée pour la recherche qui dépend de la taille des entrées des données est bien plus petite que dans l’alternative 1.) L’alternative 3 est plus compacte que l’alternative 2, mais utilise des enregistrements à taille variée, même si les clés de recherche sont à taille fixe. 10

10 Classification des Indexes
Primaire vs. secondaire: Selon que la clé de recherche contient la clé primaire ou pas, on a un index primaire ou secondaire. Index unique: La clé de recherche contient une candidate clé. Groupé vs. nongroupé (‘’Clustered’’ vs.’’unclustered’’): Si l’ordre des enregistrements des données est le même que ou proche de celui des entrées des données, alors l’index est groupé; sinon il est nongroupé. Eparpillé vs. dense (« sparse » vs. « dense »): Voir El Masri & Navathe. 11

11 Index Groupé vs. Nongroupé
Supposez que l’alternative 2 est utilisée pour les entrées des données et que les enregistrements de données sont stockés sur un tas (‘heap file’). Pour construire un index groupé, d’abord trier le tas (tout en réservant de l’espace libre sur chaque page). Les pages en dépassement de capacité peuvent être utiles pour les insertions. (D’où, l’ordre des enregistrements de données est proche de celui utilisé pour trier le tas.) Entrées d’index Nongroupé Groupé Entrées des données Entrées des données (Fichier Index) (Fichier des données) Enregistrements des données Enregistrements des données 12

12 Index Groupé vs. Nongroupé (Suite)
Quelques remarques: L’alternative 1 implique un index groupé; dans la pratique, l’inverse est aussi vrai car les fichiers triés sont rares. Un fichier ne peut être groupé que sur au plus une clé de recherche. Le coût de puiser des enregistrements de données en utilisant les index varie beaucoup selon que l’index en question est groupé ou pas. 11

13 Indexes à Hachage Bon pour les sélections d’égalité.
L’index est une collection de compartiments (‘buckets’). Bucket = page domiciliaire plus zéro ou plus des pages de dépassement. Fonction de hachage h: h(r) = bucket auquel l’enregistrement r appartient. h utilise la clé de recherche de r. Si l’alternative 1 est utilisé, les buckets contiennent les enregistrements des données; sinon, ils contiennent des pairs <key, rid> ou <key, rid-list>. 2

14 Indexes à Arbre B+ Pages internes pages feuilles Rappel: les pages feuilles contiennent les entrées des données et sont chaînées; les pages internes contiennent les entrées de l’index et dirigent la recherche Structure d’une entrée de l’index: P K P K 1 2 P K P 1 2 m m 4

15 Exemple d’Arbre B+ Entree <= 17 Entree > 17
Racine 17 Entree <= 17 Entree > 17 5 13 27 30 2* 3* 5* 7* 8* 14* 16* 22* 24* 27* 29* 33* 34* 38* 39* Trouvez 28*? 29*? Tous les x tels que 15* < x < 30*. Insertion/effacement: Trouvez les entrées des données dans les feuilles et changez les. Besoin d’ajustage des parents quelques fois. Les changements peuvent parfois s’étendre jusqu’à la racine 15

16 Modèle de Coût pour Comparer des Organisations de Fichiers *
Nous ignorons les coûts en unités CPU, pour simplifier les choses: P: nombre de pages de données E: nombre d’enregistrements par pages T: temps moyen de lecture/écriture d’une page sur disque Nous ignorons aussi les gains obtenus en faisant de la prélecture d’une séquence de pages; D’où les coûts de I/O ne sont que approximatifs ‘’Average-case analysis’’ avec des simplifications simplistes Ce modèle simpliste ne sert qu’à indiquer les tendances. 3

17 Comparaison des Organisations de Fichiers
‘’Heap files’’ (ordre aléatoire; insertions à la fin) Fichiers triés suivant <age, sal> Fichier groupé en arbre B+, alternative 1 avec <age, sal> comme clé de recherche ‘’Heap file’’ avec index à arbre B + nongroupé et avec <age, sal> comme clé de recherche ‘’Heap file’’ avec un indexe à hachage nongroupé; avec <age, sal> comme clé de recherche

18 Opérations A Comparer ‘’Scan’’: Puiser tous les enregistrements du disque Recherche sur base d’égalité ‘’Range selection’’ (sélection d’une plage de valeurs) Insertion d’enregistrement Effacement d’enregistrement

19 Simplifications dans l’Analyse
Heap Files: Sélection sur base de l’égalité utilisant la clé; exactement un appariement. Fichiers triés: Compactage du fichier après effacement. Indexes: Alt (2), (3): taille de l’entrée = 10% de ‘enregistrement Hachage: pas de buckets de dépassement. 80% d’occupation => tailles du fichier = 1.25 fois la taille des données Arbre: 67% d’occupation (typique en pratique). Implique une taille de fichier = 1.5 fois la taille des données 4

20 Coût des Opérations 5

21 Considérations sur la Charge de Travail
Questions à se poser pour chaque requête: A quelle relations a-t-elle accès? Quels attributs sont puisés? Quels attributs sont impliqués dans les conditions de sélection ou de join? Quelle est la sélectivité de ces conditions? Pour chaque opération de modification: Le type de la modification (INSERT/DELETE/UPDATE) ainsi que les attributs affectés. 11

22 Choix d’Indexes Quels indexes devraient être créés?
Quelles relations devraient avoir des indexes? Quels attributs devraient former la clé de recherche? Devrait-on avoir plusieurs indexes? Quelle sorte d’index devrait-on avoir? Groupé? Haschage / arbre? 12

23 Choix d’Indexes (Suite)
Une approche: Considérer les requêtes les plus importantes à tour de rôle. Pour chacune de ces requêtes, considérer le meilleur plan d’exécution qui utiliserait le choix actuel. Voir si un meilleur plan n’est pas réalisable avec des indexes additionnels. Si c’est le cas, créer ces derniers. Cette approche suppose que l’on comprend comment un SGBD évalue des requêtes et crée des plans d’exécution. La présente discussion considère des requêtes monorelationnelles. Avant de créer un index, l’on doit aussi prendre son impact sur les modifications (dans la charge de travail du système) en considération. Compromis: Les indexes peuvent accélérer les requêtes et en même temps ralentir les modifications. Ils requièrent aussi de l’espace disque. 13

24 Guide pour la Sélection des Indexes
Les attributs dans la clause WHERE sont des candidats appropriés pour être des clés d’indexes: Une recherche sur base d’égalité suggère un indexe à hachage. Une plage des valeurs suggère un index à arbre. Le regroupement est particulièrement utile pour des requêtes à plage; il est aussi utile pour des recherches sur base d’égalité en cas de duplicata. Des clés de recherche à attributs multiples devraient être utilisées si la clause WHERE contient plusieurs conditions: L’ordre des attributs est important pour les requêtes à plage. Ces indexes peuvent rendre possible des stratégies de requêtes dites « index-only » pour une classe importante de requêtes. Le regroupement n’est pas important (utile) pour ce genre de requêtes. On essaie d’abord de choisir des indexes qui sont bénéfiques à autant de requêtes que possible. Étant donné que un seul index regroupé peut être défini par relation, son choix devrait être basé sur les requêtes importantes qui en bénéficieraient le plus. 14

25 Exemples d’Indexes Groupés
Un index à arbre B+ sur E.age peut être utilisé pour retrouver les tuples qualifiés. Considérons la requête avec GROUP BY. Si plusieurs tuples sont tels que E.age > 10, utiliser un index sur E.age et ensuite faire un tri peut coûter bien cher. Un index groupé sur E.dno peut faire mieux. Requêtes à égalité et duplicatas: Un groupement sur E.hobby aiderait. SELECT E.dno FROM Emp E WHERE E.age>40 SELECT E.dno, COUNT (*) FROM Emp E WHERE E.age>10 GROUP BY E.dno SELECT E.dno FROM Emp E WHERE E.hobby=Stamps 18

26 Indexes avec Clés de Recherche Composées
Clés de Recherche Composées: Recherche sur une combinaison de champs. Requêtes à égalité: Chaque valeur de champs est égale à une constante. P.ex.: pour l’index <sal,age>, on peut avoir: age=20 AND sal =75 Requêtes à plage: Un champ donné n’est pas une constante. P.ex.: age =20; ou age=20 AND sal > 10 Les entrées des données dans l’index sont triées par la clé de recherche pour supporter des requêtes à plages. Exemples d’indexes à clés composées Utilisant l’ordre lexicographique. 11,80 11 12,10 12 name age sal 12,20 12 13,75 bob 12 10 13 <age, sal> cal 11 80 <age> joe 12 20 10,12 sue 13 75 10 20,12 Enregistrements des données triés par name 20 75,13 75 80,11 80 <sal, age> <sal> Entrées des données dans l’index triées par <sal,age> Entrées des données triées par <sal> 13

27 Clé de recherche Composée
Pour retrouver des enregistrements de la relation Emp avec age=30 AND sal=4000, un index sur <age,sal> serait meilleur que un index sur age ou un index sur sal. Si la condition est 20<age<30 AND 3000<sal<5000: Un index à arbre groupé sur <age,sal> ou <sal,age> est le meilleur choix. Si la condition est age=30 AND 3000<sal<5000: Un index groupé sur <age,sal> est meilleur qu’un index sur <sal,age>. Les indexes composés sont plus larges et plus souvent modifiés que les indexes simples. 20

28 Spécification des Indexes en SQL
Le standard ne supporte pas (encore) les indexes !!! En pratique, chaque système commercial supporte les indexes. Un exemple générique de création d’indexe est: CREATE INDEX IndexAgeGpa ON Students WITH STRUCTURE = BTREE KEY = (age, gpa) Indexes en Oracle: Création: CREATE INDEX index_name ON table_name (attribute) Indexes composés: CREATE INDEX index_name ON table_name (att1, …,attn) Destruction: DROP INDEX index_name 12

29 Résumé Plusieurs alternatives d’organisations de fichiers existent, chacun étant approprié dans chaque situation. Si des requêtes de sélection sont fréquentes, trier le fichier ou construire un index est important. Index à hachage seulement bons pour les sélections sur base de l’égalité. Fichiers triés et indexes à arbre bons pour les sélections des plages de valeurs; mais aussi bon pour sélections sur base de l’égalité. (Puisque les fichiers sont rarement trié en pratique, les arbres B+ sont de bien meilleurs indexes.) Un index est une collection d’entrées des données plus une manière rapide de trouver ces entrées en usant des valeurs d’une clé de recherche. 14

30 Résumé (Suite) Les entrées des données peuvent être des enregistrements, ou des paires <key, rid> ou <key, rid-list>. On peut avoir plusieurs indexes sur un fichier d’enregistrements donné, chacun ayant une clé de recherche différente. Un index peut être groupé ou nongroupé, primaire ou secondaire, ainsi que dense ou éparpillé. Les différences ci haut ont des conséquences sur l’utilité des données et la performance des opérations. 15