Modelos de machine learning pueden detectar discursos de odio y violencia en textos

Las palabras que usamos y nustro estilo al escribir revela información sobre nuestros pensamientos, emociones, preferencias y comportamientos.

Usando esa información, un estudio de la Universidad de Eastern Finland desarrolló modelos de machine learning models que pueden detectar en textos escritos conductas antisociales, tales como discursos de odio e indicaciones de violencia, dice un artículo publicado en Phys.org.

Los intentos por abordar comportamientos dañinos socialmente, históricamente se han realizado desde perspectivas de educación, sociales y sicológicas, pero esta investigación ha demostrado el potencial que tienen las técnicas de procesamiento de lenguaje cotidiano para desarrollar soluciones tecnológicas que permitan combatir conductas antisociales expresadas por escrito.

El estudio creó soluciones que pueden ser integradas en foros web o redes sociales, y que de manera automática o semi automática detectan la potencial incidencia de conductas antisociales con alto grado de exactitud. De este modo se pueden entregar alertas rápidas y confiables, e intervenir antes de que los posibles actos de violencia sea cometan.

Uno de los grandes desafíos ha sido definir con precisión qué es lo que exactamente se entenderá como comportamiento antisocial. Además, desde un punto de vista interdisciplinario, la investigación aplicó técnicas de procesamiento de “natural language” para identificar, extraer y utilizar características lingüísticas y emocionales, relativas o ligadas ha este tipo de conductas.

Así, el estudio investigó las emociones y su rol en el tema. Literatura en el campo de la sicología y ciencias cognitivas muestran que las emociones tienen un rol directo e indirecto instigando estos comportamientos indeseados.

Para el análisis de la emoción en el lenguaje escrito, se creó un novedoso modelo y también un repositorio de textos, que permiten una comprensión profunda acerca de cómo el comprotamiento antisocial se expresa o manifiesta en el lenguaje escrito.

 
Si quieres leer el artículo originl en inglés, haz clic aquí.