Analyse Multidimensionnelle et Multimédia Ismaïl Biskri (. ) ( Analyse Multidimensionnelle et Multimédia Ismaïl Biskri (*) (**), Jean-Guy Meunier (**) * Université du Québec à Trois Rivières Département de Mathématiques et d ’Informatique ** Université du Québec À Montréal Laboratoire d’Analyse Cognitive de l’Information Ismail_biskri@uqtr.ca Meunier.jean-guy@uqam.ca
Analyse numérique textuelle standard (introduction) Premières opérations : partition du texte en segments (domaines de l’information) ; extraction du lexique (unités d’information, par exemple : les mots, les n-grams) ; représentation vectorielle (matricielle) du texte.
Analyse numérique textuelle standard (questions1) Quelle est la définition d’une unité d’information ? Quelle est la définition informatique du mot ? lebensversicherungsgesellschaftsangestellter (employé d’une compagnie d’assurance vie) kathabthouhou (je l’ai écrit) Le n-Gram est il une solution ?
Analyse numérique textuelle standard (réponses1) La définition d’une unité d’information dépend de l’objectif de lecture et de compréhension; de l’usage dont sera fait le résultat ; Idem pour le choix du type de segmentation;
NUMEXCO - GRAMEXCO – eGRAMEXCO (Trois chaînes de traitement) Texte Ascii Représentation matricielle Extraction des n-grams segmentation Réduction de la taille de la matrice Suppression des n-grams contenant des espaces Suppression des n-grams en dessous et au dessus d’un certain seuil Réseau de neurones (classification) Classe 1 Classe 2 Classe n
GRAMEXCO (les résultats)
GRAMEXCO (Evaluation 1) Corpus (extraits de documents web) de 50 pages. Format ASCII. Paramètres : taille du segment = 10 phrases ; Quadri-grams ; Lettres majuscules identiques aux lettres minuscules ; caractères non alphabétique remplacés par des espaces ; Suppression des n-grams contenant un ou plusieurs espaces ; suppression des n-grams dont la fréquence est 1. Résultats : 174 segments, 4 857 quadri-grams, 100 classes.
GRAMEXCO (Evaluation 1 - suite 1) classe 100 : segments 137 et 157. lexique interprétable : {bourse, francs, marchés, millions, mobile, pdg, prix}. le mot francs désigne la monnaie française et non la franchise ou les fameuses tribus "les francs". thème commun : le domaine financier. classe 54 : segments 141 et 143. lexiques interprétable : {appel, cour, décidé, juge}. le mot cour désigne la cour de justice et non la cour qu'on fait à une demoiselle, la cour de récréation, ou les toilettes des Belges. thème commun : affaires judiciaires.
GRAMEXCO (Evaluation 1- suite 2) classe 13 : segments 32, 35, 41 et 48 ; Lexique selon l’intersection : {russe} ; lexique selon l’union : {conservateur, socialisme, marxiste, conservateur, révolutionnaire, Dostoievski, doctrine, impérial, slavophile} ; thème commun : les slavophiles et la culture politique russe du 19ième siècle.
GRAMEXCO (Evaluation 2) Corpus de deux pages extraits d’un texte sur les biotechnologies (format ASCII). Paramètres : taille du segment = 1 mot ; Quadri-grams ; Lettres majuscules identiques aux lettres minuscules ; caractères non alphabétique remplacés par des espaces ; Suppression des n-grams contenant un ou plusieurs espaces ; suppression des n-grams dont la fréquence est 1.
GRAMEXCO (Evaluation 2 - suite) Classe 101 : {survécu, survie} Classe 102 : {utilisée, outil} Classe 110 : {congelé, décongelé, congelés, congélateur} Classe 112 : {simple, simplifier, simplifiée} Classe 48 : {optimisées, optimum} Classe 60 : {cellules, cellulaire} Classe 65 : {collecte, collectifs} Classe 7 : {transfert, transférables, transférés, pénétrant, transferts, retransfert} Classe 81 : {glycol, glycérol} Classe 88 : {déshydratées, déshydratation}
GRAMEXCO (Evaluation 3) Comparaison (découpage en mots vs quadri-grams). Corpus de 50 pages. Paramètres : taille du segment = 10 phrases ; lemmatisation des mots ; suppression des hapax ; suppression des n-grams dont la fréquence est 1. Résultats : 174 segments, 4 857 quadri-grams, 1757 mots. Conclusions : l ’analyse en n-grams de caractères diminue la taille du lexique pour des corpus de plus de 200 pages.
Analyse numérique (questions2) Est-il possible d’élargir cette méthodologie à d’autres formes d’encodage de l’information textuelle (html, xml, word, etc.)? Que faire avec les « tags » typographiques ? Pouvons nous généraliser l’approche à d’autres types de données (image, son, graphe, etc.) ? Quelles sont les unités d’informations ?
Analyse numérique (Réponses2) Les unités d’information doivent être des portions du document en input ; Il doit être facile sur le plan informatique de repérer les unités d’information ; Les unités d’information doivent être statistiquement comparables. Il doit être aisé d’en calculer les fréquences d’apparition dans les différentes parties du document et par conséquent d’estimer leur distribution et la régularité à laquelle plusieurs unités cooccurrent dans les mêmes parties du document.
Une plate-forme pour l’analyse de l’information multidimensionnelle SATIM : un Système d’Analyse et de Traitement de l’Information Multidimensionnelle Une plate-forme pour l’analyse de l’information multidimensionnelle adaptable, flexible, modulaire permet la création rapide d'une multitude de chaînes de traitement peut être augmentée par de nouveaux modules
SATIM : un Système d’Analyse et de Traitement de l’Information Multidimensionnelle Document en input Représentation vectorielle à n dimensions Extraction des unités d’information (plusieurs types d'unités d'information) segmentation Réduction de la taille de la matrice Réseau de neurones (classification) Classe 1 Classe 2 Classe n Projection de la représentation vectorielle par rapport à un type d'unités d'information Représentation matricielle Paramétrage de SATIM
SATIM : Paramétrage Sélection de la base de données qui va recevoir les résultats ; Sélection des interfaces ; Sélection des modules de SATIM en fonction du type de l’input; Construction d’une chaîne de traitement en fonction des objectifs
SATIM : état actuel du projet Paramétrage de la structure de la base de données ; Insertion et gestion des modules entrant dans la construction des chaînes de traitement