Présentation Biblio. (DESS IIR) Les moteurs de recherche Web Jérémy CLUZEL Philippe ROCHEBLOINE

Les moteurs de recherche web Sommaire Introduction Définition Présentation Fonctionnement Architecture Conclusion Les moteurs de recherche web

Les moteurs de recherche web Introduction Les moteurs de recherche web

Les moteurs de recherche web Introduction Internet en croissance exponentielle. Source importante d’informations ne pouvant être ignorée (même si utilisée en complément…). Données et documents pertinents noyés dans l’immensité du réseau. Utilisation d’outils de recherche quasi-obligatoire. Les moteurs de recherche web

Les moteurs de recherche web Définition Les moteurs de recherche web

Les moteurs de recherche web Définition Expression « moteur de recherche » souvent employée à tord. Importance de la différenciation entre les différents outils existants Diversité plus complémentaire que concurrentielle Les moteurs de recherche web

Les moteurs de recherche web Présentation Les moteurs de recherche web

Les moteurs de recherche web Présentation moteurs méta–moteurs annuaires portails anneaux « web invisible » autres… Les moteurs de recherche web

Les moteurs de recherche web Outil permettant de rechercher les pages comportant une expression donnée. Ex: AltaVista, Excite, Google, Lycos… Exhaustif, options de recherche utiles, indexation de chaque mot. Nombre de réponses souvent élevé, une certaine expérience d’utilisation est requise. Les moteurs de recherche web

Moteurs (suite) – les catégories Sémantiques : intégration du sens du langage au processus de recherche (dictionnaires de concepts, thésaurus). Multi-dimensionnels : paramétrage poussé, affinage de la catégorisation des documents, et des procédés de requêtes croisées. Verticaux : adaptation à des problématiques métier bien particulières. Les moteurs de recherche web

Les moteurs de recherche web Méta-moteurs « Super-moteurs » permettant d’effectuer simultanément une recherche sur plusieurs moteurs et annuaires. Ex: Debriefing, MetaCrawler, Savvy Search. Puissance cumulée de plusieurs outils, efficacité croissante. Longueur de la recherche, fantaisie de certains résultats, efficacité moindre par rapport aux moteurs spécialisés. Les moteurs de recherche web

Annuaires (ou répertoire) C’est un catalogue de sites, ne recensant que certains sites seulement. Création de fiches descriptives avec titre, URL, et bref descriptif (15 à 25 mots). Utilisation de bases de données décrivant une sélection de sites indexée par une liste arborescente de catégories (ou rubriques). Ex: Francité, Nomade, Yahoo... Les moteurs de recherche web

Les moteurs de recherche web Annuaires (suite) Utilisation simple, encadrement de l’internaute dans sa recherche à l’aide de raffinements successifs. Non-exhaustif (seule une petite partie du réseau est référencée) nécessité de mettre à jour très régulièrement le contenu des rubriques. Les moteurs de recherche web

Les moteurs de recherche web Portails Site offrant un ensemble de ressources et de services (généraux ou propres à un domaine) à un ensemble d'utilisateurs défini (grand public, membre d'une profession, d'une branche d'activité...).  Ex: Cuisinons, Visioweb. Navigation et recherche d'information facilitées, services à valeur ajoutée. Sites cloisonnant… Les moteurs de recherche web

Les moteurs de recherche web Portails (suite) Les moteurs de recherche web

Portails (suite) – les services Outils de recherche, Information (actualité, finance, météo, etc.), Outils de communication (E-mail, listes de diffusion, groupes de discussion), Outils de consommation (vente en ligne, publicité, etc.), Personnalisation, Du contenu... Les moteurs de recherche web

Les moteurs de recherche web Anneaux (« WebRings ») Communauté (de sites) décentralisée à l'extrême, liée par un thème commun. L'anneau sélectionne et contrôle humainement la qualité des sites proposés. Qualité et fiabilité de l'information. Recherche du « bon » anneau laborieuse. http://nav.webring.yahoo.com Les moteurs de recherche web

Les moteurs de recherche web « Web invisible » Partie du Web contenant des documents n’ayant pas été indexés. Origines : Type de fichiers, données dynamiques, robot de recherche bridé, documents « interdits de référencement »… Outils :, All-One-Search, AlphaSearch, Fossick, Invisibleweb, Searchability… Les moteurs de recherche web

Les moteurs de recherche web Autres… Impossibilité de citer, et de classer la totalité des outils de recherche existants. Quelques exemples de ces catégories difficilement « classables » : Recherche d'adresses classées par zone géographique (FinderSeeker, Excite Travel). Recherche d‘objets perdus (Yellowtag). Les moteurs de recherche web

Les moteurs de recherche web Fonctionnement Les moteurs de recherche web

Les moteurs de recherche web Fonctionnement Vue d’ensemble, Le robot – explorateur, Le système d’indexation, Le module de recherche, Modes d’interrogation, Techniques utilisées. Les moteurs de recherche web

Les moteurs de recherche web Vue d’ensemble Le « spider » récupère et analyse le maximum d’informations provenant des pages qu’il visite.  Le système d’indexation s’occupe de stocker, et classer ces informations dans une base de données. Le « searcher » est chargé de retrouver dans cette base, les documents qui correspondent le mieux à la requête émise. Les moteurs de recherche web

Fonctionnement général Les moteurs de recherche web

Le robot – explorateur (« spider ») C’est un robot logiciel qui explore de façon autonome le « Web ». Son efficacité est capitale pour le moteur. Identifie les liens des pages, puis les visite à son tour, parcourant ainsi rapidement la totalité du site, puis ceux qui lui sont rattachés. Examine périodiquement des millions de pages et constitue de cette façon une base de données de celles déjà visités. Les moteurs de recherche web

Le système d’indexation Analyse les informations collectées, construit un index des mots rencontrés (et des pages correspondantes), puis stocke l’ensemble dans une base de données. Convertit certains fichiers ne pouvant pas être indexés à cause de leur format. Utilise des outils d’extraction pour ne récupérer que « l’essence » des documents. Ex: Fulcrum, Infoseek, Intelliserv, Livelink. Les moteurs de recherche web

Le système d’indexation (suite) Les techniques d’indexation : Au début, seulement les titres des documents, Puis, tous les mots du premier paragraphe, Aujourd’hui : les méta-données (ou metatags), ex: balise HTML <META>. Les moteurs de recherche web

Module de recherche (« searcher ») Le searcher est le frontal de l'utilisateur. Grâce à son interface graphique, on peut poser une question, sélectionner les options disponibles, et lancer une recherche. Un script faisant alors appel au système d'indexation pour qu’il exécute la requête sur la base de données. Les résultats affichés sous forme de page Web intégrant généralement les réponses sous forme de liste. Les moteurs de recherche web

Module de recherche – modes d’interro. Booléen : utilisation des opérateurs logiques (AND, OR, NOT, NEAR, etc.), Liste de mots : requête retranscrite en une expression booléenne, En langage naturel (expérimental). Les moteurs de recherche web

Module de recherche - techniques Documentaire classique : utilisant des fichiers d'index de type mots-clés (mots ou expressions normalisés). Textuelle : cherchant à retrouver les documents " ressemblant " le plus à la question posée. Pour cela, on utilise des techniques linguistiques (question posée en langue naturelle) ou statistiques (pondération des valeurs des mots et des documents) Floue : autorisant les erreurs (OCR) Les moteurs de recherche web

Les moteurs de recherche web Architecture Les moteurs de recherche web

Les moteurs de recherche web Architecture Architecture Générale Exemple de base de données (DILIB) Exemple d’architectures (ALTAVISTA) Les moteurs de recherche web

Architecture Générale Les moteurs de recherche web

Les moteurs de recherche web DILIB DILIB est une plate-forme pour l'Ingénierie du Document et de l'Information Scientifiques et Techniques  partie recherche  Les moteurs de recherche web

Structure base de données (DILIB) Les moteurs de recherche web

Fichier direct / inverse Les moteurs de recherche web

Architecture moteur ALTAVISTA Les moteurs de recherche web

Les moteurs de recherche web Deux serveurs Les moteurs de recherche web

Serveurs en parallèles Les moteurs de recherche web

Serveurs Indépendants Les moteurs de recherche web

Les moteurs de recherche web Conclusion Accroissement important de la quantité d’informations disponible sur le réseau. Progression notable (mais pas encore suffisante) des performances des outils de recherche. Nouvelles technologies intelligentes prometteuses : agents, recherche en langage naturel. Les moteurs de recherche web

Les moteurs de recherche web Bibliographie Glossaire spécialisé dans le domaine : http://www.idf.net/mdr/glossaire.html Divers sites explicatifs : http://www.decisionnel.net/recherche/ http://www-dist.cea.fr/ext/neuf/moteur/ Sur le Web invisible : http://www.asktibbs.com/web_invisible.html Sur les Anneaux: http://2sevres.clipewebring.free.fr/quoi.html Liste de discussions : motrech-subscribe@egroups.com  Les moteurs de recherche web