Exploration de descripteurs de plongements de graphes pour la détection de messages abusifs - DUMAS - Dépôt Universitaire de Mémoires Après Soutenance
Mémoires Année : 2019

Exploration de descripteurs de plongements de graphes pour la détection de messages abusifs

Résumé

In recent years, online social networks have allowed world-wide users to meet and discuss.As guarantors of these communities, the administrators of these platforms must preventusers from adopting inappropriate behaviors. This verification task, mainly done by humans, is more and more difficult due to the ever growing amount of messages to check. Methods have been proposed to automatize this moderation process, mainly by providing approaches based on the textual content of the exchanged messages. Recent work has also shown that characteristics derived from the structure of conversations, in the form of conversational graphs, can help detecting these abusive messages. In this paper, we propose to take advantage of both sources of information by proposing fusion methods integrating content- and graph-based features. Our experiments on raw chat logs show that the content of the messages, but also of their dynamics within a conversation contain partially complementary information, allowing performance improvements on an abusive message classification task with a final F-measure of 93.26%.
Ces dernières années, les réseaux sociaux ont permis aux utilisateurs du monde entier de se rencontrer et de discuter. Les administrateurs de ces plateformes en ligne se doivent d’empêcher les utilisateurs d’adopter des comportements inappropriés. Cette tâche de modération des échanges, principalement menée par des humains, est de plus en plus coûteuse et difficile à cause de la quantité toujours plus grande de données à traiter. Dans la cadre de messages textuels, des méthodes permettant d’automatiser cette tâche ont été proposées, s’appuyant principalement sur le contenu linguistique. Des travaux récents ont également montré que des descripteurs sur la structure de la conversation, sous la forme de graphes conversationnels, permettent de faciliter la détection des messages abusifs. Dans ce papier, nous proposons de tirer profit de ces deux sources d’information en proposant des stratégies de fusion combinant des descripteurs issus du contenu textuel et d’autres basés sur des graphes conversationnels. Nos expérimentations sur des messages de messagerie instantanée (chat) montrent que le contenu des messages mais aussi les interactions dans la conversation contiennent des informations partiellement complémentaires qui permettent d’améliorer les performances d’une tâche de classification de messages abusifs jusqu’à atteindre une F-Mesure de 93,26 %.
Fichier principal
Vignette du fichier
Memoire_Cecillon (1).pdf (308.23 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Licence

Dates et versions

dumas-04073337 , version 1 (02-05-2023)

Licence

Identifiants

  • HAL Id : dumas-04073337 , version 1

Citer

Noé Cécillon. Exploration de descripteurs de plongements de graphes pour la détection de messages abusifs. Informatique [cs]. 2019. ⟨dumas-04073337⟩
116 Consultations
32 Téléchargements

Partager

More