Introduction à lutilisation des corpus 2. Comment constituer un corpus?

Présentation au sujet: "Introduction à lutilisation des corpus 2. Comment constituer un corpus?"— Transcription de la présentation:

1 Introduction à lutilisation des corpus 2. Comment constituer un corpus?

2 2.2. Comment stocker les textes ?

3 Parenthèse : formats des fichiers Moyen dencoder de linformation afin de la stocker sur lordinateur. IMAGES uniquement :.jpg,.png, etc Formats de fichiers documents sans aucun formatage :.txt : uniquement des caractères textuels ordinaires formatés :.doc : formats propriétaires Microsoft.rtf : formats propriétaires Microsoft : Lisible, inter-opérable.odt (OpenOffice Text Doc) : logiciel libre sources disponibles.html,.xml : langages à balises.pdf : format propriétaire de Adobe Systems, même si ouvert préserve polices, images, graphiques et la mise en forme EXTENSIONS

4 Démonstration : comparaison entre les documents de type.txt,.doc,.html,.rtf,.odt (Observer la taille des documents)

5 A lire : Formats de fichiers (documentation de léquipe système de lUFR EILA) : www.eila.univ-paris-diderot.fr/sysadmin/gestion-docs/formats

6 Fichiers texte /vs/ binaires Fichiers texte : contenu pouvant être interprété comme du texte. Suite de caractères dun ensemble donné. –en codage ASCII ou une extension de ASCII (UTF-8, UTF-16 ou extension régionale). Exemples : fichiers.XML ;.txtASCIIUTF-8 Le contenu d'un fichier binaire n'est pas du texte et correspond souvent à un format précis. –fichier exécutable ; –fichier de base de données structuré en enregistrements de taille fixe ou variable ; –document de traitement de texte ;traitement de texte –fichiers multimédias : images, sons, vidéos.

7 Encodage des caractères associations entre caractères et un code afin de faciliter le stockage et le transfert des fichiers. Exemples dencodage : –Le code Morse Le code ASCII ISO-8859-1 UNICODE

8 Encodage des caractères associations entre caractères et un code afin de faciliter le stockage et le transfert des fichiers. Exemples dencodage : –Le code Morse

9 Encodage de caractères I –US-ASCII (1967): American Standard Code of Information Interchange –Lettres (alphabète anglais), numéraux, ponct –7 bits (128 codes) 98 signes définis –Ex : A : 065, B : 066, C : 067 a : 097, b : 098, c : 099, etc. –Très limité extensions.

10 Encodage des caractères II ISO 8859 (1987) : International Standards Organization étend US-ASCII en ajoutant les caractères accentuésUS-ASCII – 8 bits (256 codes) 191 signes définis ISO 8859-1 : Europe le lOuest –8859-2 : Latin 2, Europe de lEst –8859-3 : Latin 3, Europe du Sud Est –8859-4 : Latin 4, Scandinavie, Baltique –8859-5 : cyrillique –8859-6 : arabe, 8859-7 : grec, etc

11 Encodage des caractères III UNICODE –Approche systématique : UNICODE (norme dencodage) : tous les systèmes décriture (100.000 caractères) permet le mélange de langues –Permet lencodage de toutes les langues vivantes et mortes UTF-8 UNICODEUTF-8 (8-bit UCS/Unicode Transformation Format) un format dencodage pour UNICODE UTF-16UTF-16

12 Formats des fichiers : comment stocker le corpus ? CORPUS_PRENOM_NOM ANGLAISFRANCAIS FRANÇAIS ALLEMAND AUTEUR1_ANNEE.txt AUTEUR1_ANNEE_a.txt AUTEUR2_ANNEE.txt La référence de chaque fichier doit apparaître sur la première ligne de chaque texte !!!! (Droits dauteurs)

13 Comment citer la source ? Quels champs indiquer pour chaque type de document ? (JabRef) : Article : Auteur|Auteur et al. (2008). Titre. Revue, Vol, No., pages Site web : Titre, (Auteur|institution), Url (localisation), date de consultation. Livre : Auteur|Auteur et al. (2008). Titre. Maison dédition (collection)

14 Comment citer la source ? Thèse de doctorat : Auteur.(2008). Titre. Ecole. (directeur de recherche) Actes de colloque : Auteur(2008). Tire. Conférence (Date, Lieu), pages ou adresse URL.

15 Parenthèse : formats des fichiers Démonstration : comment stocker les fichiers constituant son corpus ?

16 Que faire avec les fichiers PDF ? Portable Document Format créé par Adobe SystemsAdobe Systems préserve la mise en forme (polices, images, objets graphiques…) quelles que soient l'application et la plate- forme PDF est un format ouvert (Adobe Systems autorise des programmes tiers à réutiliser son format), mais se réserve la propriété de nombreux brevets déposés et donc le droit de demander des redevances.format ouvertbrevetsredevances les spécifications sont publiques et utilisables librement et gratuitement (à l'exception de quelques très importantes sociétés commerciales).

17 Que faire avec les fichiers PDF ? Si aucun autre format nest pas disponible (vérifier, écrire des mails, etc !!): Utiliser les logiciels OCR. Exemple : Omnipage ! Démonstration. Utiliser la version démo de Acrobat 8 Professional (30 jours seulement!). Démo. Vérifier lintégrité du texte scanné (surtout lorsquil sagit de texte en colonnes, avec images).

18 Introduction à lutilisation des corpus 3. Quelques Outils + Pratique

19 Questions abordées 3. Outils dexploitation des corpus Comment trouver du corpus ? – revisité Sous quelle forme faut-il le stocker pour quil soit facilement utilisable ? Prise en main du concordancier TextSTAT Un peu de pratique !

20 Comment trouver du corpus Rappel : Science Direct Des archives de thèses Google Quest-ce quon cherche (quel terme de requête) ? le domaine des termes qui apparaissent dans le texte Extracteur de termes (Terminology Extractor) / Fréquenceur Fréquenceur

21 Quel format pour le stockage ? Créer un répertoire CORPUS_NOM_PRENOM Créer les sous-répertoires ANGLAIS & FRANCAIS (non pas FRANÇAIS) Stocker dans les deux des articles convertis en format.txt, avec lencodage UFT-8 Nom du fichier : le nom de lauteur + - + année de publication + a,b,c (optionnel, si plusieurs articles de la même année) +.txt Ex : DUPONT_2006.txt UTILISEZ NOTEPAD PLUTÔT QUE WORDPAD POURQUOI ???

22 Prise en main de TextSTAT Version locale du concordancier Wall (même fonctionnalités)Wall En attendant que tout le monde ait fini de rassembler le corpus Puis les corpus seront rassemblés et transférés sur WallWall Télécharger le logiciel sur http://www.eila.jussieu.fr/~avolansk/ressources/TextSTA T-2.zap (restriction de téléchargement sur les fichiers.zip) http://www.eila.jussieu.fr/~avolansk/ressources/TextSTA T-2.zap Adresse officielle : http://www.niederlandistik.fu- berlin.de/textstat/software-en.htmlhttp://www.niederlandistik.fu- berlin.de/textstat/software-en.html Exemple dutilisation

23 Un peu de pratique maintenant ! Chercher des articles en Français et en Anglais liés au texte à traduire Les convertir en.txt et le sauvegarder dans le bon répertoire Utiliser –le bon logiciel de traitement de texte –la bonne convention de nommage –le bon encodage des caractères (UTF-8)