Corpus linguistique : méthode complète pour le constituer, l’annoter et l’exploiter

Là où langues et technologies se rencontrent

er-tim.fr

Définir le corpus linguistique et son objectif de recherche

Un corpus linguistique est un ensemble organisé de productions langagières réunies pour observer, décrire ou comparer des usages. Il peut contenir des textes écrits, des transcriptions de conversations, des messages publiés en ligne, des enregistrements audio ou des documents multimodaux. Sa valeur ne dépend pas uniquement du volume collecté. Elle repose surtout sur la cohérence de la sélection, la qualité de la documentation et l’adéquation entre les données et la question étudiée.

Avant toute collecte, il faut formuler une question précise. Cherche-t-on à étudier l’évolution du vocabulaire dans la presse, les marqueurs de l’oral dans des échanges professionnels, les erreurs fréquentes chez des apprenants, ou la manière dont un terme se spécialise dans un domaine technique ? Ces objectifs conduisent à des choix différents concernant les sources, la période, les locuteurs, le format et les annotations.

Un corpus destiné à mesurer la fréquence d’une construction grammaticale ne sera pas conçu comme un corpus destiné à entraîner ou évaluer un système de traitement automatique des langues. Dans le premier cas, la représentativité et l’équilibre entre sous-ensembles sont prioritaires. Dans le second, la précision des annotations, la séparation entre les données d’apprentissage et d’évaluation ainsi que la traçabilité des corrections deviennent essentielles.

Une fiche de cadrage peut réunir les éléments suivants :

Choisir entre corpus général, spécialisé et comparable

La typologie du corpus doit correspondre à la portée de l’analyse. Un corpus général vise à représenter une langue dans plusieurs domaines et plusieurs situations. Il peut servir à observer des tendances lexicales ou grammaticales larges, à condition que sa composition soit documentée. Un corpus spécialisé se concentre sur un domaine, une pratique ou un public. Il permet une analyse plus fine d’un vocabulaire professionnel, d’un genre discursif ou d’une situation de communication.

Un corpus comparable rassemble plusieurs sous-corpus construits selon des critères proches, mais dans des langues, des périodes ou des contextes différents. Il est utile pour comparer des traductions, des usages nationaux ou des discours institutionnels. Un corpus parallèle, quant à lui, met en relation des textes et leurs traductions. Cette distinction compte, car l’alignement entre segments devient alors une opération centrale.

Type de corpusUsage privilégiéPoint de vigilance
GénéralObserver les usages variés d’une langueÉquilibrer les genres et les périodes
SpécialiséÉtudier un domaine ou une pratiqueDéfinir précisément le périmètre thématique
ComparableComparer des ensembles construits séparémentMaintenir des critères de sélection équivalents
ParallèleAnalyser des correspondances entre languesVérifier la qualité de l’alignement

La taille n’est donc pas un objectif isolé. Un ensemble volumineux, mais composé de documents redondants ou mal identifiés, peut produire des résultats moins solides qu’un corpus plus réduit et mieux contrôlé. Pour certaines recherches, la diversité des locuteurs, des genres et des situations est plus instructive que l’accumulation de textes provenant d’une seule source.

Délimiter la collecte et documenter chaque source

La collecte commence par une définition opérationnelle des documents recherchés. Les critères doivent permettre à une autre personne de comprendre pourquoi un document a été retenu ou écarté. Une formulation comme documents récents sur le numérique reste trop vague. Une règle plus exploitable précise le type de publication, la période, la langue, le public visé et la présence effective du phénomène étudié.

Chaque document devrait recevoir un identifiant stable et une notice descriptive. Cette notice peut comporter le titre, l’auteur ou l’origine lorsque cette information est légalement disponible, la date, le genre, la langue, le canal de diffusion, la longueur, les conditions d’accès et la méthode de collecte. Pour des données orales, il faut également consigner les informations utiles sur la situation d’enregistrement, la qualité sonore et les conventions de transcription.

La traçabilité protège l’analyse contre plusieurs erreurs. Elle permet de repérer un doublon, de retirer un document dont l’autorisation a changé, de comparer deux versions d’un même texte et de revenir à la source en cas de désaccord sur une annotation. Un tableau de suivi peut inclure :

Les données brutes doivent être conservées séparément des versions nettoyées. Il est recommandé d’utiliser une arborescence lisible et un système de versionnement ou, à défaut, des copies datées accompagnées d’un journal des modifications. Une sauvegarde sur un support distinct réduit le risque de perte, tandis qu’un contrôle régulier permet de vérifier que les fichiers restent ouvrables.

Prendre en compte le droit, l’éthique et la protection des personnes

Un texte accessible en ligne n’est pas automatiquement libre de toute réutilisation. Les droits d’auteur, les conditions d’accès, les règles contractuelles et la protection des données personnelles doivent être examinés avant l’intégration au corpus. Cette vérification concerne aussi les captures, les commentaires, les profils, les voix et les informations permettant d’identifier une personne.

Pour des données produites par des participants, l’information fournie aux personnes concernées doit expliquer la finalité de la collecte, les usages prévus, la durée de conservation et les modalités d’accès ou de retrait lorsqu’elles s’appliquent. La minimisation consiste à ne conserver que les informations nécessaires à la recherche. Les noms, adresses, identifiants, numéros de téléphone et autres éléments indirectement identifiants peuvent être pseudonymisés ou supprimés selon le protocole.

La pseudonymisation ne rend pas toujours une donnée anonyme. Un ensemble combinant profession, lieu, date et extrait rare peut permettre une réidentification. Les extraits publiés dans une étude doivent donc être sélectionnés avec prudence. La documentation interne peut être plus détaillée que les exemples rendus publics.

Une analyse éthique doit aussi considérer les biais de collecte. Les données publiques ne représentent pas nécessairement l’ensemble des locuteurs. Certaines populations sont davantage visibles en ligne, tandis que d’autres sont absentes ou sous-représentées. Cette limite doit figurer dans la documentation et dans l’interprétation des résultats.

Préparer les fichiers et établir une politique de normalisation

La préparation technique transforme des documents hétérogènes en données exploitables. Les fichiers peuvent provenir de traitements de texte, de pages structurées, de tableurs, de logiciels de transcription ou de bases de données. Il faut choisir un encodage cohérent, conserver les caractères accentués et éviter les conversions répétées qui risquent de dégrader les informations.

Le nettoyage peut comprendre la suppression des éléments de navigation, la détection des doublons, la correction des erreurs de conversion et la séparation des métadonnées du contenu. En revanche, une correction stylistique excessive modifie le matériau linguistique. Les fautes, hésitations, répétitions et formes non standard doivent être conservées lorsque le phénomène étudié les concerne.

Une politique de normalisation distingue les opérations réversibles des transformations qui effacent une information. Par exemple, harmoniser les fins de ligne est généralement sans conséquence analytique, alors que remplacer toutes les formes abrégées par leur développement peut empêcher l’étude de l’oralité ou des pratiques numériques.

Pour les transcriptions, les conventions doivent être écrites avant l’annotation. Elles peuvent préciser la représentation des pauses, chevauchements, mots incomplets, bruits, gestes, segments inaudibles et changements de locuteur. Deux transcripteurs appliquant des règles différentes produiraient des données difficiles à comparer.

Concevoir les annotations sans perdre la structure du corpus

Annoter consiste à ajouter une information interprétative ou descriptive à une unité du corpus. Cette unité peut être un document, une phrase, un mot, un groupe syntaxique, un tour de parole ou un segment temporel. L’annotation morphosyntaxique attribue par exemple une catégorie grammaticale. L’annotation syntaxique décrit les relations entre constituants ou entre mots. L’annotation sémantique, discursive ou pragmatique porte sur le sens, la fonction ou l’organisation du discours.

Le schéma d’annotation doit être défini avant la production massive des étiquettes. Il précise les catégories, les frontières des segments, les cas ambigus et la manière de représenter les informations absentes. Une catégorie vague ou trop large peut réduire la valeur de l’analyse, tandis qu’une grille trop détaillée augmente la charge de travail et les désaccords.

Une procédure en quatre étapes

  1. Décrire les unités en indiquant ce qui doit être annoté et où commencent ou finissent les segments.
  2. Rédiger un guide avec des définitions, des exemples construits à partir des données et des règles pour les cas limites.
  3. Réaliser un test pilote sur un échantillon varié afin de repérer les catégories imprécises.
  4. Réviser le guide et versionner le schéma avant de traiter l’ensemble du corpus.

Les annotations peuvent être intégrées dans des formats structurés comme XML ou JSON, selon les outils utilisés. Les formats conformes aux recommandations de la Text Encoding Initiative, souvent appelée TEI, sont adaptés à la description riche de documents textuels. Pour des annotations linguistiques, le format choisi doit préserver les identifiants, les relations entre unités et les métadonnées.

Mesurer la qualité et l’accord entre annotateurs

Une annotation n’est pas fiable uniquement parce qu’elle a été relue. Lorsque plusieurs personnes travaillent sur les mêmes données, une partie commune doit être annotée indépendamment. Les désaccords sont ensuite examinés pour distinguer une erreur d’application, une définition ambiguë ou une véritable indétermination du phénomène.

Pour les catégories discrètes, l’accord peut être résumé par une mesure statistique adaptée, comme le coefficient kappa de Cohen dans certaines configurations à deux annotateurs. Ce coefficient ne remplace pas l’examen qualitatif des désaccords. Une catégorie très rare peut produire une lecture trompeuse des résultats, et un accord élevé peut provenir d’un déséquilibre important entre les classes.

Dans un protocole sérieux, il faut conserver les versions initiales, les décisions d’arbitrage et les changements apportés au guide. L’annotation finale ne doit pas effacer l’historique des corrections. Pour les tâches plus subjectives, telles que l’ironie, la modalité ou l’intention argumentative, la documentation de l’incertitude est aussi importante que l’étiquette retenue.

Une bonne pratique consiste à séparer les données utilisées pour concevoir les règles de celles qui servent à évaluer une méthode. Si le même échantillon intervient à toutes les étapes, les résultats risquent de surestimer la qualité du dispositif.

Exploiter le corpus avec des méthodes quantitatives et qualitatives

L’exploitation commence par des requêtes adaptées à la question de départ. Les fréquences absolues indiquent le nombre d’occurrences, mais elles doivent être interprétées en tenant compte de la taille des sous-corpus. Une comparaison pertinente utilise des fréquences relatives ou des méthodes statistiques appropriées, tout en précisant l’unité de référence et le traitement des formes variantes.

Les concordances affichent un terme dans son contexte et permettent d’observer ses voisins, ses constructions et ses emplois. Les collocations recherchent des associations récurrentes entre unités lexicales. Ces outils orientent l’analyse, mais une association statistique ne prouve pas à elle seule une relation sémantique ou causale. Les résultats doivent être vérifiés dans des contextes suffisamment larges.

La comparaison entre sous-corpus exige une composition maîtrisée. Une différence apparente peut venir du genre textuel, de la longueur des documents, de la période ou du profil des auteurs plutôt que du phénomène étudié. Il est donc utile de créer des sous-ensembles documentés et de reproduire les requêtes sur plusieurs découpages.

L’analyse qualitative complète les mesures. Elle permet d’examiner les cas atypiques, les ambiguïtés, les changements de sens et les stratégies discursives. Une démarche mixte peut suivre ce cycle :

  1. formuler une hypothèse à partir d’une lecture ou d’une exploration initiale ;
  2. interroger le corpus avec des critères explicites ;
  3. sélectionner un échantillon de contextes ;
  4. vérifier les résultats par lecture détaillée ;
  5. réviser l’interprétation en fonction des contre-exemples.

Utiliser les outils automatiques avec un contrôle humain

Les outils de traitement automatique des langues peuvent accélérer la segmentation, la lemmatisation, l’étiquetage morphosyntaxique, la reconnaissance d’entités ou la transcription. Leur sortie doit être considérée comme une proposition. Les performances varient selon la langue, le domaine, le genre, la qualité des fichiers et les formes rencontrées.

Avant un traitement complet, il faut tester l’outil sur un échantillon représentatif. Les erreurs doivent être classées : erreurs de segmentation, confusion entre catégories, noms propres mal reconnus, mélange de langues ou difficultés liées aux abréviations. Cette analyse indique si une correction manuelle, une adaptation du modèle ou une restriction de la question est nécessaire.

Les modèles entraînés sur des données générales peuvent moins bien fonctionner sur des conversations, des textes techniques, des messages courts ou des documents anciens. Les données personnelles envoyées à un service distant doivent également être évaluées au regard des règles de confidentialité et des conditions de traitement. Lorsque les informations sont sensibles, un traitement local ou une anonymisation préalable peut être préférable.

La reproductibilité exige de conserver le nom et la version de l’outil, les paramètres, le modèle utilisé, les scripts de prétraitement et les éventuelles corrections. Sans ces éléments, une analyse ne peut pas être reproduite dans les mêmes conditions.

Organiser l’archivage et rendre la recherche reproductible

Un corpus bien construit doit rester compréhensible après la fin de l’étude. La documentation doit expliquer la finalité, les critères de sélection, la structure des fichiers, les conventions d’annotation, les limites connues et les conditions de réutilisation. Un fichier de présentation à la racine du projet peut orienter les utilisateurs vers les métadonnées, les données originales, les versions annotées et les scripts.

Les noms de fichiers doivent être stables et informatifs sans contenir de données personnelles. Les dates peuvent suivre un format uniforme et les catégories doivent être contrôlées par un vocabulaire défini. Les modifications importantes doivent produire une nouvelle version plutôt que remplacer silencieusement l’ancienne.

La conservation à long terme dépend du format, des sauvegardes et de la lisibilité de la documentation. Les formats ouverts ou largement documentés limitent la dépendance à un logiciel précis. Il faut aussi conserver les informations qui permettent de relier chaque annotation à la version exacte du texte concerné.

La reproductibilité ne signifie pas nécessairement que toutes les données peuvent être diffusées. Lorsque les droits ou la confidentialité l’interdisent, il est possible de partager la documentation, le schéma, les scripts, des statistiques agrégées ou un protocole d’accès contrôlé. L’objectif consiste à rendre les opérations vérifiables sans exposer des personnes ou des contenus protégés.

Éviter les erreurs fréquentes lors d’un projet de corpus

Plusieurs erreurs reviennent dans les projets de recherche linguistique. La première consiste à collecter avant d’avoir défini la question. Cette méthode produit souvent un ensemble trop hétérogène, dont les limites apparaissent tardivement. La deuxième consiste à confondre volume et représentativité. Un grand nombre de documents issus d’un seul canal ne permet pas de généraliser à toute une langue ou à tout un public.

Une autre difficulté vient du nettoyage excessif. En corrigeant toutes les formes non standard, on peut supprimer précisément les indices recherchés. L’absence de métadonnées pose également problème, car elle empêche de comprendre l’origine d’une variation. Enfin, une annotation réalisée par une seule personne, sans guide ni contrôle, rend les décisions difficiles à évaluer.

Pour réduire ces risques, il est utile de vérifier les points suivants avant l’analyse :

FAQ sur la constitution et l’analyse d’un corpus linguistique

Quelle taille doit avoir un corpus linguistique ?

Il n’existe pas de taille universelle. Le volume pertinent dépend de la rareté du phénomène, de la diversité recherchée, du type de données et du temps disponible pour l’annotation. Un corpus réduit et homogène peut convenir à une analyse qualitative approfondie, tandis qu’une étude de fréquence exige davantage d’occurrences et une composition contrôlée.

Faut-il annoter tout le corpus ?

Non. Une annotation partielle peut convenir si l’échantillon est défini selon une méthode transparente. L’annotation intégrale devient pertinente lorsque les requêtes dépendent de relations complexes ou lorsque le corpus sert à évaluer un système automatique. Dans tous les cas, la partie annotée doit être décrite précisément.

Quelle différence existe entre lemmatisation et annotation morphosyntaxique ?

La lemmatisation associe une forme fléchie à une entrée de référence, comme une forme verbale à son infinitif. L’annotation morphosyntaxique attribue une catégorie et parfois des traits, comme le nombre, le genre, le temps ou la personne. Ces opérations sont liées, mais elles ne fournissent pas la même information.

Comment traiter les textes contenant des informations personnelles ?

Il faut limiter la collecte aux informations nécessaires, documenter la finalité, appliquer une pseudonymisation ou une suppression adaptée et contrôler les extraits diffusés. Les règles applicables dépendent du contexte juridique et du type de données. Une évaluation spécialisée peut être nécessaire avant toute publication ou transmission.

Comment rendre une analyse vérifiable ?

Il faut conserver les critères de sélection, les métadonnées, les versions des fichiers, le guide d’annotation, les outils, les paramètres, les scripts et les décisions d’arbitrage. Lorsque les données ne peuvent pas être partagées, la documentation et les résultats agrégés peuvent tout de même permettre de comprendre la méthode et ses limites.

En savoir plus à ce sujet :