O Dr. Eduardo Silva Alvarado, investigador da Universidad Europea del Atlántico (Universidade Europeia do Atlântico, UNEATLANTICO), participa num estudo que desenvolveu um modelo inovador para a deteção automática de discursos de ódio nas redes sociais. Este avanço aborda os desafios inerentes à identificação de conteúdo ofensivo em ambientes digitais multilingues e multimodais.
O auge das redes sociais facilitou a comunicação global, permitindo aos utilizadores partilhar informações em diversos formatos e idiomas. No entanto, essa expansão também propiciou a disseminação de discursos de ódio, que podem se manifestar em textos, imagens e vídeos, e em vários idiomas. A detecção desse tipo de conteúdo é essencial para manter ambientes digitais seguros e respeitosos.
Tradicionalmente, os sistemas de deteção de discurso de ódio têm-se centrado em análises monolingues e num único tipo de conteúdo, principalmente texto. Estas abordagens apresentam limitações significativas quando confrontadas com a diversidade linguística e a natureza multimodal das publicações nas redes sociais. A falta de ferramentas capazes de lidar com estas complexidades tem dificultado a identificação eficaz de conteúdo ofensivo em contextos multilingues e multimodais.
O estudo em questão introduz um modelo que combina técnicas avançadas de processamento de linguagem natural e análise de imagens para detetar discurso de ódio em vários idiomas e formatos de conteúdo. Esta abordagem integrada permite uma identificação mais precisa e eficiente de conteúdo ofensivo em ambientes digitais diversos.
Para desenvolver este modelo, a equipa compilou um conjunto de dados multilingues e multimodais que inclui textos, imagens e vídeos com conteúdo rotulado como discurso de ódio. Foram utilizadas técnicas de aprendizagem profunda para treinar o modelo na identificação de padrões associados ao discurso de ódio em diferentes idiomas e formatos de conteúdo.
Resultados relevantes
Os resultados do estudo mostram que o modelo proposto supera as abordagens tradicionais na deteção de discurso de ódio em contextos multilingues e multimodais. A capacidade do modelo de analisar simultaneamente texto e imagens em vários idiomas melhora significativamente a precisão e a eficiência na identificação de conteúdo ofensivo.
Este avanço tem implicações importantes para a moderação de conteúdo em plataformas de redes sociais, permitindo uma resposta mais rápida e eficaz à disseminação de discurso de ódio. Além disso, o modelo pode ser adaptado a diferentes contextos culturais e linguísticos, o que o torna uma ferramenta valiosa para a promoção de ambientes digitais mais seguros e inclusivos.
Se quiser saber mais sobre este estudo, clique aqui.
Para ler mais pesquisas, consulte o repositório da UNEATLANTICO.
UNEATLANTICO oferece bolsas de estudo para o curso de Jornalismo (PER) e Publicidade e Relações Públicas (PRP). Programas concebidos para profissionais que procuram compreender e dominar o processo estratégico das TI como parte do desenvolvimento empresarial, abordando temas como a gestão da mudança organizacional, a inovação empresarial e a gestão de projetos tecnológicos. Inscreva-se nos cursos da UNEATLANTICO para não perder a oportunidade de impulsionar a sua carreira na área das TI.