Toxicom: Detección de mensajes tóxicos en medios sociales

Abstract

El presente proyecto tiene como finalidad, detectar en los medios sociales de manera automática aquellos mensajes cuya finalidad es negativa. Para ello, se utilizarán técnicas de Inteligencia Artificial basados en algoritmos de Machine Learning y Deep Learning. Cabe tener en cuenta que, actualmente existe una gran diversificación de medios sociales, en los cuales gran parte de la población se mantiene continuamente activa. Es así, que algunos de estos tan importantes como Twitter, Facebook e Instagram de entre muchos otros, generan millones de publicaciones diariamente. Así pues, resulta necesario que aquellos medios sociales en los que los usuarios generan contenido, sean controlados para de este modo, evitar mensajes con intencionalidad negativa y que al mismo tiempo generan odio. No obstante, procesar la detección manual de estos mensajes conllevaría una gran cantidad de tiempo. Por ello, actualmente la mayoría de plataformas integran una solicitud de baneo manual. Aunque cabe decir que, únicamente se evalúan aquellos que han sido baneados, cuestión que genera un gran retraso y motivo por el que muchos usuarios ya pueden haberse visto perjudicados. Así pues, para evitar la gran cantidad de tiempo de análisis y procesado de cada uno de los mensajes generados, es necesario implementar nuevos modelos que permitan clasificar los mensajes según su contenido automáticamente. De este modo, permitirá al gestor del medio social, por un lado, indicar que tipos de mensaje serán aceptados y por otro que no serán publicados.

El present projecte té com a finalitat, detectar en els mitjans socials de manera automàtica aquells missatges la finalitat dels quals és negativa. Per a això, s'utilitzaran tècniques d'Intel·ligència Artificial basats en algorismes de Machine Learning i Deep Learning. cal tenir en compte que, actualment existeix una gran diversificació de mitjans socials, en els quals gran part de la població es manté contínuament activa. És així, que alguns d'aquests tan importants com Twitter, Facebook i Instagram d'entre molts uns altres, generen milions de publicacions diàriament. Així doncs, resulta necessari que aquells mitjans socials en els quals els usuaris generen contingut, siguin controlats per d'aquesta manera, evitar missatges amb intencionalitat negativa i que al mateix temps generen odi. No obstant això, processar la detecció manual d'aquests missatges comportaria una gran quantitat de temps. Per això, actualment la majoria de plataformes integren una sol·licitud de baneo manual. Encara que cal dir que, únicament s'avaluen aquells que han estat baneados, qüestió que genera un gran retard i motiu pel qual molts usuaris ja poden haver-se vist perjudicats. Així doncs, per evitar la gran quantitat de temps d'anàlisi i processament de cadascun dels missatges generats, és necessari implementar nous models que permetin classificar els missatges segons el seu contingut automàticament. D'aquesta manera, permetrà al gestor del mitjà social, d'una banda, indicar que tipus de missatge seran acceptats i per un altre que no seran publicats.

The purpose of this project is to automatically detect those messages whose purpose is negative in the social media. For this, Artificial Intelligence techniques based on Machine Learning and Deep Learning algorithms will be used. It should be borne in mind that there is currently a great diversification of social media, in which a large part of the population is continuously active. Thus, some of these important as Twitter, Facebook and Instagram among many others, generate millions of publications daily. So, it is necessary that those social media in which users generate content, will be needed controlled in this way, for avoid messages with negative intent and that at the same time generate hate. However, processing the manual detection of these messages would take a large amount of time. For this reason, most platforms currently integrate a request for manual prohibition. Although it must be said that only those that have been banned are evaluated, a problem that generates a great delay and why many users may have suffered damages when the ban is applied. At this time, to avoid the large amount of analysis and processing time of each of the generated messages, it is necessary to implement new models that allow the messages to be classified according to their content automatically. In this way, it will allow the manager of the social environment to indicate which types of messages will be accepted or not be published.