Compréhension et génération de langage naturel fondées sur graphes de connaissances
Résumé
As part of a larger project aimed at improving the current neural models of conversion between natural language and formal language, my work consisted in reasearching how to make Transformers models (BART and T5) capable of performing this conversion in both directions. The work was carried out first on affirmative statements, taken from the WebNLG dataset, then on interrogative statements, taken from the LCQuAD dataset, and finally on a mix of these two types. The current results demonstrate that multi-task models trained on mixed data of different types do not lose performance. Although some questions remain unanswered and the work must be deepened in the context of a thesis, these initial results are encouraging and could ultimately lead to an improvement in the question-answer services offered by Orange.
Dans le cadre d’un projet plus vaste visant à améliorer les modèles neuronaux actuels de conversion entre langage naturel et langage formel, mon travail a consisté à rechercher comment rendre des modèles de type Transformer (BART et T5) capables d’effectuer cette conversion dans les deux sens. Le travail a été mené d’abord sur des énoncés affirmatifs issus du corpus WebNLG, puis interrogatifs, issus du corpus LCQuAD, et enfin sur ces deux types d’énoncés mélangés. Les résultats actuels démontrent que les modèles multi-tâches entraînés sur des données de types différents mélangées ne perdent pas en performance. Bien que certaines questions restent en suspens et que le travail doit être approfondi dans le cadre d’une thèse, ces premiers résultats sont encourageants et pourraient se traduire à terme par une amélioration des services de questions-réponses proposés par Orange.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|