Linguistique de corpus

Présentation au sujet: "Linguistique de corpus"— Transcription de la présentation:

1 Linguistique de corpus

2 Détails administratifs
Enseignants: Amalia Todirascu Daniela Capin, François Rousselot salle informatique 4S.12, bâtiment 4 au sous-sol des séances de 3 heures 13.10, 03.11, 10.11, 17.11, 24.11, 01.12, 08.12, 15.12 évaluation: contrôle continu sur machine (2x1h)

3 Plan Mise en place des notions:
Corpus: définition, exemples, formats Apport théorique: utilisation d'un concordancier simple AntConc Concordancier : définition, fonctionnement, fonctions génériques Utilisation d'AntConc, concordancier gratuit Corpus en ligne: Frantext

4 Plan (II) Le concordancier Xaira : exploitation de données en format XML Mesures statistiques Corpus étiquetés Etiquetage des textes : notions fondamentales, difficultés, outils Utilisation de Wordsmith, concordancier permettant des recherches sur des textes étiquetés. Exploitation des informations syntaxiques avec TigerSearch

5 Corpus: définitions, exemples, formats

6 Mise en place des notions
Définition des corpus Corpus ou bases textuelles existants Constitution de corpus exemples concrets de problèmes de recherche : linguistiques – sociolinguistiques – historiques critères de sélection des corpus Formats des corpus: texte brut, langage de balises (XML), annotations (TEI).

7 Qu'est-ce que c'est un corpus?
Un corpus est un recueil de textes ou de paroles en format électronique sélectionnés pour un objectif précis "A corpus is a collection of pieces of language that are selected and ordered according to explicit linguistic criteria in order to be used as a sample of the language" (Sinclair, 1996)

8 Pourquoi des corpus? étudier une phénomène linguistique particulier
vérifier les emplois "réels" constituer des ressources linguistiques pour une analyse automatique étudier l'évolution d'un dialecte ou d'une langue en diachronie introduction de mots nouveaux, changement des formes comparer les travaux de deux auteurs lexique, syntaxe, figures de style

9 Pourquoi des corpus (II)?
retrouver toutes les informations liés à un personnage historique ou à un pays relations avec d'autres personnalités, avec les pays voisins, pour une période bien déterminée analyser les sources d'un conflit social acteurs, causes du conflit, phases du conflit vérifier les emplois pour la traduction rechercher les expressions pour voir si leur utilisation est fréquente

10 Corpus Taille de corpus: variable selon l'application Oral/écrit
Des millions de mots Quelques miliers de mots Oral/écrit Annotations: morpho-syntaxiques sémantiques commentaires Texts complets ou fragments? Biber 1988: 1000 mots sont suffisants Habert 1993: texts complets

11 Corpus (II) disponibles en ligne ou téléchargeables (peu de disponibilités :0( ) corpus "fermés", pas d'accès au texte intégral outils d'exploration de corpus: les concordanciers proposent les contextes d'un mot ou d'une expression nécessitent l'apprentissage du langage d'intérrogation – pas toujours facile

12 Exemples de corpus ou bases textuelles
Français Linguistique: base textuelle Frantext (textes littéraires et techniques) Corpus oral C-ORAL-ROM collection d'articles de journaux (L'Est républicain) Sociolinguistique corpus du français parlé à Ottawa-Hull Sociologie: CLAPI

13 Exemples de corpus multilingues
débats parlementaires (Parlement européen) corpus étiqueté, lemmatisé, disponible en plusieurs langues: français, anglais, esperanto, danois, portugais, espagnol corpus de normes européenes (Acquis Communautaire) – disponible en 22 langues

14 Anglais Linguistique et TAL : Histoire : Sociolinguistique :
British National Corpus ( ) Brown Corpus ( Susanne ( Histoire : ASChart ( CELT Corpus of Electronic Texts (  ) Sociolinguistique : Corpus of Early English Correspondence Sampler (CEECS) ( Sociologie : Homepage corpus (

15 British National Corpus
corpus de référence répartition uniforme de genres: la partie écrite: le domaine: 75% de textes "informatifs", le reste appartient à la fiction; le support: 60% livres, 30% périodiques, supports de discours radio, télé etc. la datation: fiction ( ), informatifs ( ) la diffusion (meilleurs ventes, les ouvrages les plus prêtés) la partie orale: echantillon démographique: âge, sexe, groupe social, région (dates, environnement, participants)

16 Corpus en ligne – autres langues (I)
Allemand TüPP-D/Z (articles de journaux, 200 millions de tokens) Deutsches Referenzkorpus (DeReKo) Multilingue Wortschatz Corpus Oslo – 2,6 millions de mots norvégien, anglais, français, italien

17 Corpus en ligne – autres langues (II)
Corpus international du portugais – 1 million de mots ( Corpus pour de production écrite pour l’apprentissage d’une langue étrangère – norvégien ( Corpus national croate ( 3,1 millions de mots Corpus bulgare 1 million de mots Corpus littéraire – estonien (Multext-EAST) – mots (

18 Bases textuelles Association des Bibliophiles Universels (ABU)
Gallica (BNF) Les bibliothèques virtuelles humanistes La bibliothèque virtuelle des manuscripts suisses

19 Bases textuelles vs. corpus
documents en format numérique recherche par des critères "classiques" auteur, titre, editeur, année la recherche plein texte n'est pas toujours accessible documents en format numérique critères de sélection spécifiques, selon objectif recherches avancées plein texte catégorie lexicale, fonction syntaxique, information sémantique... texte enrichi, documenté

20 Corpus électroniques Corpus électronique = un ensemble de textes numériques qui sont sélectionnés sur des critères bien définis (paramètres de Biber) documentés (nom de la personne qui a numérisé le document, le format etc.) couplés à des outils d'exploration (concordanciers)

21 Comment constituer son propre corpus?
Developping Linguistic Corpora: a Guide for Good Practices

22 Un exemple de constitution de corpus (sociolinguistique)
Étudier les moyens d’application d’une politique linguistique par les entreprises multinationales implantées en Alsace Corpus: entretiens avec plusieurs acteurs impliqués dans la mise en place d’une politique linguistique (PDG, responsables des services, simple employés)

23 Méthodologie de travail
identifier l'objectif de l'étude à effectuer sur corpus définir des critères de sélection des textes en fonction de son objectif identifier les sources pertinentes définir les aspects techniques: le format des documents les informations d'annotation les outils nécessaires pour rassembler les textes et pour les annoter nettoyer le corpus constitué

24 Critères de sélection des textes
typologie des textes, genres et registres (D.Biber,1999) types de textes: ensemble de caractéristiques linguistiques narratif, argumentatif, descriptif genre/registre: catégories intuitives qui utilisent les locuteurs pour répartir les productions langagières thèmes formes de textes

25 Critères de sélection (II)
Paramètres situationnels (Biber 1999) canal: écrit/parlé/écrit lu; format: publié/non-publié; cadre: institutionnel/autre cadre public/ privé-interpersonnel destinataire pluralité: pluriel/individuel/non-compté présence: présent/absent interaction: aucune/peu/beaucoup connaissances partagées: générales/spécialisées/personnelles

26 Critères de sélection (III)
destinataire: variation démographique: sexe, age, profession statut: individu/institution Factualité informatif-factuel/intermédiaire/imaginaire Objectifs persuader, amuser, édifier, informer, expliquer, donner des consignes, etc. Thèmes =>documenter le corpus annoter le corpus

27 Exemples de corpus constitué (I)
Corpus Sociolinguistique Source des textes: entretiens oraux transcrits Critères de sélection: Canal: oral Interlocuteurs: Fonction occupé dans l’entreprise, sexe, age, langues maîtrisées (bi ou plurilinguisme) Cadre: institutionnel/privé Date Entreprise: caractère multinational

28 Exemple de corpus constitué (II)
Format : Fichiers en format texte brut Informations provenant de la transcription (pauses, reprises etc.) Annotation: Les locuteurs La date L’entreprise concernée

29 Méthodologie de travail
identifier l'objectif de l'étude à effectuer sur corpus définir des critères de sélection des textes en fonction de son objectif identifier les sources pertinentes définir les aspects techniques: le format des documents les informations d'annotation les outils nécessaires pour rassembler les textes et pour les annoter nettoyer le corpus constitué

30 Où trouver des documents numériques?
Bibilothèques virtuelles faciliter la navigation utiliser des outils de recherche spécialisés archiver et numériser des documents outils de recherche (moteurs et méta-moteurs spécialisés) portails spécialisés

31 Portail une interface Web qui est le point d'accès unique vers plusieurs catégories de ressources disponibles sur Internet, sur un thème spécifique Pages Web Forums, listes de discussions Blog Moteurs de recherches dédiés a chaque site Catalogues en ligne

32 Portail (II) Quelques exemples
le portail de l'Education Nationale le portail des revues en SHS le portail du CNRS le Bulletin Officiel

33 Bibilothèques virtuelles
Un portail regroupant des ressources ciblées Bases de données bibliographiques Accès aux revues électroniques Collection de documents numériques: livres, images, vidéos etc. Possibilités avancées de navigation et de recherche

34 Moteurs de recherches dédiés
Moteur de recherche spécialisé pour la recherche des livres Moteur de recherche spécialisé – indexation des articles scientifiques HAL-SHS Portails Actualités (GlossaNet

35 Le Web comme source le Web n'est pas un corpus!! taille importante
environ 76 milliards de mots (Kilgariff & Greffenstette 2003) hétérogénéité pas de contrôle sur l'information publiée disparité de ressources thématique langues langage structuré – HTML

36 Techniques Aspiration directe d'un site
pertinence choix des documents propres Désavantage: il faut connaître les adresses des sites exploiter les résultats des moteurs de recherche automatisé, mais beaucoup des documents inutiles plate-formes dédiées (Telanaute, projet SAFIR, BootCat)

37 Problèmes doublons inclusions des documents
vérification manuelle du corpus impossible si taille trop importante Pas de contrôle sur l’auteur du texte documents indexés par les moteurs (taille variable de l'index)

38 Exercice: Un exemple de constitution de corpus
Un corpus constitué pour étudier les conséquences de la crise financière sur l’augmentation du chômage en France Quelle sources? Quels critères de sélection? Quelles informations annotés?

39 Format en fonction de l'application utilisée pour créer les documents
PDF, HTML (Page Web), document Microsoft Word etc. extension du fichier = une indication sur l'application à utiliser pour les lire txt – texte non-formaté pdf – Acrobat Reader doc – Microsoft Word html – Dreamweaver, Microsoft Word, Internet Explorer Utiliser le logiciel approprié pour lire le contenu et convertir vers d'autres formats

40 Formats (II) texte brut PDF texte enrichi d'annotation
Extended Markup Language – XML (délimitation de la zone du texte marqué par l'annotation) format d'annotation de textes : TEI (Texte Encoding Initiative)

41 Formats - Exercice Ouvrez Microsoft Word
tapez un texte dans le nouveau document, avec des mises en forme simples (gras, italique, liste, etc.) enregistrer ce document dans le répertoire "Mes documents" et sous divers formats (sélectionnez le menu Fichier|Enregistrer sous) et changez le Type du fichier: document Word (doc) texte simple (Texte brut) RTF (Rich Text Format) HTML (PageWeb)

42 Formats – Exercice (suite)
fermez Microsoft Word ouvrez les applications suivantes et essayez de lire les fichiers que vous avez enregistré sous Word Acrobat Reader WordPad Bloc Notes Internet Explorer

43 Texte brut une suite de lettres et de chiffres, sans mise en forme
seulement le caractère nouvelle ligne pas de mise en forme interprétable par tous les éditeurs de textes tous systèmes d'exploitation: Windows, Linux, MacOS code ASCII (limité à 128 caractères) plusieurs encodages possibles LATIN-1 Unicode (UTF-8, UTF-7, UTF-16)

44 Format HTML Langage interprété par les navigateurs Internet
Visualisation du contenu et la navigation Mise en forme: en gras, en couleurs etc. Structuration du texte: paragraphes, tableaux, liens vers d’autres pages…

45 Notion de balise Une balise permet de distinguer un document HTML d’un fichier texte Les balises sont insérées dans le corps du document Elles permettent de contrôler le formatage et la présentation d’un document Mise en forme des paragraphes, insertion d’images, insertion de liens hypertexte, tableaux … Quatre balises sont obligatoires dans un document HTML <html>, <head>, <body>, <title>

46 Notion de balise (II)‏ Une balise est encadrée par <…> et peut avoir aussi une balise de fin </…> Les balises peuvent être imbriquées mais elles doivent être fermées dans l’ordre inverse des balises d’ouverture Par exemple <font size="+1"><b><i>texte</i></b></font>

47 Notion de balise (III)‏
Une balise peut avoir trois formes <nombalise> <br> passage à la ligne <nombalise> … </nombalise> <b>texte à mettre en gras</b> <nombalise attribut1="valeur_1"… attributn="valeur_n"> texte </nombalise> <body bgcolor="#80fff" text="red"> le fond de la page sera de couleur bleu clair

48 Limites du langage HTML
L’ensemble des balises est prédéfini, mais limité à celui défini par le World Wide Web consortium Seulement la mise en forme ou la structure du texte Pas de possibilité de marquer le contenu

49 Texte annoté - XML XML – Extended Markup Language
marquage de plusieurs zones de textes pour: faciliter la recherche d'information faciliter le partage des connaissances Même principe que le langage HTML On peut définir les balises adaptées à notre propre application Annotation morpho-syntaxique Annotation sémantique (les noms de personnes, d’organisations, de métiers)

50 Pourquoi XML? Structurer l'information Accessibilité
Identification du contenu des données Accessibilité divers types de présentations de données (XSL) interopérabilité des données re-utiliser les XML dans d'autres applications possibilité de vérifier si le document est valide: DTD, XML schémas définitions partagées

51 Texte annoté (II) Outils pour l’annotation en format XML
Annotea, Gate, Oxygène, XML Starlet, Notepad++ Outils pour executer des requêtes sur les balises XML Xaira, XQuery

52 <?xml version="1.0" encoding="UTF-8" ?>
  <!DOCTYPE corpus SYSTEM "def.dtd"> - <corpus> - <nouvelle lang="fr"> Solution à la crise financière et économique : L’intervention de l’Etat est nécessaire, selon les rénovateurs La financière et économique dans laquelle est englué le monde ne peut être résolue que par le retour aux fondements de la social-démocratie dont l’un des principes majeurs est <solution>l’interventionnisme de l’Etat dans l’économie</solution>. Telle est la conviction de <organisation id="1">l’Union pour le renouveau démocratique </organisation> qui a réfléchi sur le sujet lors de son université d’hivernage du week-end. Que doivent faire les socio-démocrates pour sortir de la crise ? A cette question, <Personne>Diégane Sène</Personne>, membre de la direction exécutive de <organisation id="1">l’Union pour le renouveau démocratique (Urd)</organisation> qui animait une conférence sur le thème : ‘Les recettes de la social-démocratie’ au deuxième jour de l’université d’hivernage de <organisation id="1">l’Urd</organisation>, tenue ce week-end, répond qu’il faut ‘retourner au fondement de la social démocratie’.   </nouvelle>   </corpus>

53 Un premier exemple d’annotation XML
Elements XML <corpus>, <nouvelles>, <Personne>, <organisation>, <solution> Attributs: Lang pour l’élément <nouvelles> Id pour l’élément <organisation>

54 Un premier exemple (II)
Interprétation Un document est constitué par un élément <corpus> Un <corpus> est composé par un ou plusieurs éléments <nouvelles> Un <nouvelles> est composé par plusieurs séquences de texte, par un ou plusieurs <organisation>, <Personne>, <solution>

55 MEXICO - Le Mexique s'est dit sur le point de maîtriser l'épidémie de grippe porcine, détectée dans vingt et un pays, mais l'Organisation mondiale de la Santé a averti lundi que le virus pourrait prendre sa revanche à l'automne. Aux Etats-Unis aussi, les autorités se sont montrées prudemment optimistes, tout en mettant en garde contre une seconde vague du virus à l'automne sous une forme plus virulente. Malgré ces nouvelles rassurantes, l'épidémie continue de se propager, avec un nouveau cas annoncé lundi au Portugal et certains pays ont renforcé les mesures de protection. L’Express, Date: lundi 4 mai 2009

56 <?xml version="1.0" encoding="ISO-8859-1"?>
<Lieu>MEXICO</Lieu> <épidémie> <épisode><pays>Le Mexique</pays> s'est dit sur <état type="maîtrise">le point de maîtriser l'épidémie</état> de <maladie>grippe porcine</maladie>, détectée dans vingt et un pays, mais <organisation>l'Organisation mondiale de la Santé</organisation> a averti lundi que <hypothèse>le virus pourrait prendre sa revanche à l'automne</hypothèse> </épisode>. <épisode><pays>Aux Etats-Unis </pays>aussi, les autorités se sont <état type="maîtrise">montrées prudemment optimistes</état>, tout en mettant en garde contre <hypothèse>une seconde vague du virus à l'automne sous une forme plus virulente</hypothèse> <épisode>Malgré ces nouvelles rassurantes, <état type="propagation">l'épidémie continue de se propager, avec un nouveau cas annoncé </état> <date>lundi</date> au <pays>Portugal</pays> </épisode> <épisode>et certains pays <état type="prévention">ont renforcé les mesures de protection.</état></épisode> </épidémie> <Source>L’Express</Source><Datepubli>lundi le 4 mai 2009</Datepubli>

57 Avantages du XML Structuration de l’information Définitions partagées
Facilite le développement des standards TEI pour l’édition de corpus ( Dublin Core ( et OLAC ( pour les bibliothèques virtuelles XCES pour l’annotation morpho-syntaxique ( OWL pour l’annotation sémantique (

58 Exercice Annotez le corpus constitué sur la crise financière avec vos propres balises

59 Normes - TEI Text Encoding Initiative: Proposé par
objectif: partage de l'information textuelle normalisation de l'annotation simple, clair et extensible représentation complète de l'information textuelle Proposé par Association for Computers and the Humanities the Association for Computational Linguistics the Association for Literary and Linguistic Computing Site officiel:

60 TEI(II) <TEI>  <teiHeader> <!-- [ TEI Header information ] -->  </teiHeader>  <text>   <front>   </front>   <body> <!-- [ body of text ... ] -->   </body>   <back>   </back>  </text> </TEI>

61 TEI beaucoup d'outils pour
l'édition des annotations et des meta-données validation des annotations plusieurs projets de bases textuelles et de corpus adopte le standard

62

63 Quelques références Burnard, L., Sperberg-McQueen, C.M. (1996) La TEI simplifiée : une introduction au codage des textes électroniques en vue de leur échange, Cahiers GUTenberg, no 24, Biber, D., Conrad, S., Reppen, R. (1998) Corpus Linguistics : Investigating Language Structure and Use. Cambridge University Press Habert B. (2005) Instruments et ressources électroniques pour le français, Ed.Orphys Sinclair, J. (1991) Coocurrences, concordances, collocations

64 Autres ressources European Language Distribution Agency ( Linguistic Data Consortium (

65 Plan Mise en place des notions:
Corpus: définition, exemples, formats Apport théorique: utilisation d'un concordancier simple AntConc Concordancier : définition, fonctionnement, fonctions génériques Utilisation d'AntConc, concordancier gratuit Corpus en ligne: Frantext

66 Concordanciers recherches dans le corpus et outils d'exploration de corpus qu'est-ce que c'est un concordancier? fonctions de base un exemple: Antconc

67 Recherches sur les corpus
en linguistique: trouver des exceptions ou renforcer une hypothèse linguistique en traduction: chercher des emplois réels en sociolinguistique: quel point de vue ont les divers acteurs? en littérature: comparer le style de deux auteurs en TAL: chercher les informations spécifiques: qui a fait quoi? quand? où?

68 Analyse quantitative vs. analyse qualitative
analyse factorielle fréquence distance intertextuelle données structurées volume de données important qualitative analyse fine du contenu informations linguistiques à prendre en compte: catégorie lexicale fonctions syntaxiques informations sémantiques données non-structurées volume de données limité (si analyse manuelle)

69 Qu'est-ce que c'est un concordancier?
un outil qui permet la recherche d'un pivot dans un texte et établit la liste des occurences de ce pivot en contexte pivot = un mot, un groupe de mots, une expression contextes gauche et droit à l'intérieur de la phrase au sein du même paragraphe

70 Les fonctions d'un concordancier
définir un pivot: mot, terme, expression visualiser les contextes d'apparition du pivot tri des contextes sélection de contextes extraire des n-grammes (séquences de 2 ou plusieurs mots)

71 Concordanciers outils indépendants concordanciers en-ligne
Antconc, Lexico, Wordsmith, ParaConc on peut les appliquer sur notre propre corpus concordanciers en-ligne interface Web permettant des recherches dans les corpus "fermés"

72 Antconc outil gratuit http://www.antlab.sci.waseda.ac.jp/
pivot: mot (avec respect de la casse) ou expression régulière expression régulière: une suite de lettres, chiffres et caractères spéciaux: .,?,*,+ format de sortie KWIC tri sur les contextes gauches ou droites 50 caractères la taille du contexte

73 Antconc (II) taille de corpus limitée
visualisation d'occurences par rapport au corpus formats divers: fichier texte (Unicode, Latin-1) format HTML (mais balises confondues avec le texte)

74 Antconc (III) calcul de cooccurences sélection des contextes
les contextes qui contiennent un ou plusieurs mots liste de mots exclusion des mots grammaticaux comparaison avec un corpus de référence extraction de n-gramms

75 Autres fonctions du Antconc
Plot: la position de chaque collocateur dans le fichier Utiliser les balises: pour séparer des parties du corpus pour exclure des parties du corpus pour faire des recherches sur les balises

76 Recherches - méthodologie
quoi chercher? établir la liste des mots les plus fréquents (mots contenus) extraire les séquences de n mots les plus fréquentes définir manuellement une liste de termes, mots, expressions pertinentes

77 Recherches – méthodologie (II)
analyse des résultats identification de contextes inutiles ou erronées analyse des collocatifs position dans le document recherches complexes sélection des contextes pertinentes présence ou absence d'un mot dans les contextes position par rapport au pivot