¿Podría la IA ayudarnos a controlar la dispersión de los discursos de odio a través de las redes sociales? Cuando hagamos balance del impacto que ha tenido esta nueva tecnología, ¿pesarán más las ocasiones en que se haya usado para dar soporte a discursos homófobos, racistas… o prevalecerá su uso para detectar y denunciar a estos últimos?
Estas fueron las preguntas que le vinieron a la cabeza a Antonio Moreno cuando, el pasado mes de noviembre, vio por primera vez la VII Convocatoria de las Ayudas a la Investigación Impulsa Visión, lanzada por RTVE. Esta iniciativa del ente público otorga cada año tres ayudas de 10.000 euros a estudiantes de posgrado que vayan a hacer su trabajo de fin de máster sobre un tema relacionado con el sector audiovisual.
El tema de este año era, precisamente, el de los discursos del odio; y Moreno no tardó en conectarlo con los temas sobre los que lleva investigando ya tres años. “Estudié Ingeniería Informática en la Universidad de Alcalá (UAH) y este año he cursado el Máster de Desarrollo Ágil de Software para la Web”, explica. “Pero llevo ya casi tres años aquí trabajando en un grupo de investigación de la Universidad de Alcalá que ahora se llama Intelia”, añade.
El grupo Intelia de la UAH
Coordinado por el profesor titular de la UAH Antonio García Cabot, este grupo está especializado en la investigación relacionada con la IA y la interacción persona-ordenador, pero con especial foco en las herramientas de procesamiento del lenguaje natural (NLP) y los grandes modelos de lenguaje (LLM).
Así, los ingredientes del TFM de Moreno estaban servidos y pronto cobraron forma en el trabajo que acaba de ser reconocido por RTVE: La IA frente a los discursos de odio: Análisis de publicaciones Redes Sociales para ayudar a la detección y concienciación de mensajes ofensivos.
El pasado 9 de julio, el trabajo de Moreno fue presentado como uno de los tres ganadores de esta edición de Impulsa Vision en una jornada en la que también tuvo la oportunidad de exponer sus resultados y conclusiones. Al evento asistieron personalidades como el presidente de RTVE, José Pablo López; o el director de la Oficina Nacional de Lucha Contra los delitos de Odio, Tomás Fernández; entre otros representantes políticos y expertos en la materia.
Antonio García: «Un alumno sobresaliente»
“Para mí fue muy fue una experiencia muy bonita y muy especial poder presentar mi TFM ante tanta gente, y lo agradezco mucho a RTVE haberme dado la oportunidad”, confiesa este joven investigador, que fue galardonado junto a Bruna Scaratti e Irene Villarreal, alumnas de la Universidad de Huelva y la UNED, respectivamente.
«Antonio es un alumno sobresaliente, y prueba de ello fue la obtención del premio extraordinario tras finalizar su grado en Ingeniería Informática», argumenta García Cabot, que le acompañó en dicho acto. “Y su trabajo sobre la aplicación de la IA frente a los discursos del odio supone poner a la IA un claro objetivo que beneficia a la sociedad”, explica.
Tal y como lo describe Moreno, su TFM pivotaba en torno a dos ejes principales. El primero de ellos, estimar “en qué medida puede la IA ayudar a evitar una proliferación descontrolada del odio en redes sociales, porque nos enfrentamos ante una cantidad inmensa de datos que es imposible de analizar manualmente”.
Moreno menciona una investigación realizada en 2022 por 80 investigadores de todo el mundo, en la que se contabilizaron 375 millones de tuits en un solo día, el 21 de septiembre de aquel año. Sumen ahora todo el odio que pueda circular por Facebook, Instagram, TikTok, Reddit y cualquier otra red social que se le venga a la cabeza.
Más noticias de la Universidad de Alcalá
Sigue disfrutando de Dream Alcalá:
- Telegram: Recibe nuestras noticias y contenido exclusivo (clic aquí).
- Newsletter: Recibe cada tarde un correo con nuestras últimas noticias (clic aquí).
- YouTube: Suscríbete para ver nuestros mejores vídeos (clic aquí).
Sé tú el periodista: envíanos tus fotos o noticias a través de Telegram.