Introduction à lutilisation des corpus 2. Comment constituer un corpus?

2.2. Comment stocker les textes ?

Parenthèse : formats des fichiers Moyen dencoder de linformation afin de la stocker sur lordinateur. IMAGES uniquement :.jpg,.png, etc Formats de fichiers documents sans aucun formatage :.txt : uniquement des caractères textuels ordinaires formatés :.doc : formats propriétaires Microsoft.rtf : formats propriétaires Microsoft : Lisible, inter-opérable.odt (OpenOffice Text Doc) : logiciel libre sources disponibles.html,.xml : langages à balises.pdf : format propriétaire de Adobe Systems, même si ouvert préserve polices, images, graphiques et la mise en forme EXTENSIONS

Démonstration : comparaison entre les documents de type.txt,.doc,.html,.rtf,.odt (Observer la taille des documents)

A lire : Formats de fichiers (documentation de léquipe système de lUFR EILA) :

Fichiers texte /vs/ binaires Fichiers texte : contenu pouvant être interprété comme du texte. Suite de caractères dun ensemble donné. –en codage ASCII ou une extension de ASCII (UTF-8, UTF-16 ou extension régionale). Exemples : fichiers.XML ;.txt Le contenu d'un fichier binaire n'est pas du texte et correspond souvent à un format précis. –fichier exécutable ; –fichier de base de données structuré en enregistrements de taille fixe ou variable ; –document de traitement de texte ; –fichiers multimédias : images, sons, vidéos.

Encodage des caractères associations entre caractères et un code afin de faciliter le stockage et le transfert des fichiers. Exemples dencodage : –Le code Morse

Encodage des caractères associations entre caractères et un code afin de faciliter le stockage et le transfert des fichiers. Exemples dencodage : –Le code Morse

Encodage des caractères associations entre caractères et un code afin de faciliter le stockage et le transfert des fichiers. Exemples dencodage : –Le code Morse –Le code ASCII –ISO –UNICODE

–US-ASCII (1967): American Standard Code of Information Interchange –Lettres (alphabète anglais), numéraux, ponct –7 bits (128 codes) 98 signes définis –Ex : A : 065, B : 066, C : 067 a : 097, b : 098, c : 099, etc. –Très limité extensions. Encodage des caractères I

ISO 8859 (1987) : International Standards Organization étend US-ASCII en ajoutant les caractères accentuésUS-ASCII – 8 bits (256 codes) 191 signes définis ISO : Europe le lOuest – : Latin 2, Europe de lEst – : Latin 3, Europe du Sud Est – : Latin 4, Scandinavie, Baltique – : cyrillique – : arabe, : grec, etc Encodage des caractères II

UNICODE –Approche systématique : UNICODE (norme dencodage) : tous les systèmes décriture ( caractères) permet le mélange de langues –Permet lencodage de toutes les langues vivantes et mortes UTF-8 UNICODEUTF-8 (8-bit UCS/Unicode Transformation Format) un format dencodage pour UNICODE UTF-16UTF-16 Encodage des caractères III

Démo Comprendre limportance du choix du bon encodage des caractères.

Formats des fichiers : comment stocker le corpus ? CORPUS_PRENOM_NOM ANGLAISFRANCAISALLEMAND SOURCES TEXTES STEP_biblio_corp us_EN_NOM.xls CL_1996_BAUM. pdf CL_1996_BAUM. txt

Comment citer la source ? Quels champs indiquer pour chaque type de document ? Article : Auteur|Auteur et al. (2008). Titre. Revue, Vol, No., pages Site web : Titre, (Auteur|institution), Url (localisation), date de consultation. Livre : Auteur|Auteur et al. (2008). Titre. Maison dédition (collection)

Comment citer la source ? Thèse de doctorat : Auteur.(2008). Titre. Ecole. (directeur de recherche) Actes de colloque : Auteur(2008). Tire. Conférence (Date, Lieu), pages ou adresse URL.

Parenthèse : formats des fichiers Démonstration : comment stocker les fichiers constituant son corpus ?

Que faire avec les fichiers PDF ? Portable Document Format créé par Adobe Systems préserve la mise en forme (polices, images, objets graphiques…) quelles que soient l'application et la plate- forme PDF est un format ouvert (Adobe Systems autorise des programmes tiers à réutiliser son format), mais se réserve la propriété de nombreux brevets déposés et donc le droit de demander des redevances. les spécifications sont publiques et utilisables librement et gratuitement (à l'exception de quelques très importantes sociétés commerciales).

Que faire avec les fichiers PDF ? Si aucun autre format nest pas disponible (vérifier, écrire des mails, etc !!): Utiliser les logiciels OCR. Exemple : Omnipage ! Démonstration. Utiliser la version démo de Acrobat 8 Professional (30 jours seulement!). Démo. Vérifier lintégrité du texte scanné (surtout lorsquil sagit de texte en colonnes, avec images).

Que faire avec les fichiers PDF ? ATTENTION : Le copier-coller à partir de documents.pdf ou le copier-coller à partir de la version.txt que google propose pour les documents.pdf nest pas acceptable. Si le fichier de départ est structuré en colonnes le texte risque dêtre complètement inutilisable.