Constitution et évaluation d'un jeu de données linguistiques en français pour l'analyse des fonctions lexicales encodées dans les modèles neuronaux de type FlauBERT - DUMAS - Dépôt Universitaire de Mémoires Après Soutenance Accéder directement au contenu
Mémoires Année : 2020

Constitution et évaluation d'un jeu de données linguistiques en français pour l'analyse des fonctions lexicales encodées dans les modèles neuronaux de type FlauBERT

Résumé

Each language is made up of its own words. In most cases, these are polysemic, they have several meanings. Modeling polysemy in Automatic Language Processing is a difficult task when it comes to word vectors and traditional word embeddings systems have some difficulties in dealing with polysemy. Using FlauBERT, which is a new language model developed in 2019, we will see that it is now easier to deal with polysemy, especially with contextualized word vectors. The entire context of a sentence is taken into account by FlauBERT in order to represent each word as a vector. After a brief analysis of the different domains involved, I will present in this paper the different experiments I have performed using FlauBERT word vectors.
Chaque langue est constituée de mots qui lui sont propres. Dans la plupart des cas, ceux-ci sont polysémiques - ils possèdent plusieurs sens. La modélisation de la polysémie en Traitement Automatique de la Langue est une tâche difficile lorsqu’il s’agit de vecteurs de mots ; les systèmes de plongements de mots traditionnels ont certaines difficultés à traiter la polysémie. À l’aide de FlauBERT, qui est un nouveau modèle de langue développé en 2019, nous verrons qu’il est maintenant plus facile de traiter de la polysémie, notamment grâce à des vecteurs de mots contextualisés. Le contexte entier d’une phrase est pris en compte par FlauBERT afin de représenter chaque mot sous forme de vecteur. Après une brève analyse des différents domaines en jeu, je présenterai dans ce mémoire les différentes expérimentations que j’ai effectuées à l’aide des vecteurs de mots du système FlauBERT.
Fichier principal
Vignette du fichier
BELLUE Vincent_M2_IDL.pdf (4.73 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

dumas-02978401 , version 1 (26-10-2020)

Identifiants

  • HAL Id : dumas-02978401 , version 1

Citer

Vincent Bellue. Constitution et évaluation d'un jeu de données linguistiques en français pour l'analyse des fonctions lexicales encodées dans les modèles neuronaux de type FlauBERT. Sciences de l'Homme et Société. 2020. ⟨dumas-02978401⟩
85 Consultations
99 Téléchargements

Partager

Gmail Facebook X LinkedIn More