España: La IA combatirá el discurso de odio en las redes

(ANSA) - MADRID, 02 MAG - Luchar contra el discurso de odio en las redes sociales e Internet para desmantelarlo con una "contranarrativa", gracias a un modelo de inteligencia artificial generativa y aprendizaje automático, como el ejemplo de ChatGpt, es el proyecto de sistema de lenguaje generativo en el que participa la Universidad de Jaén, en Andalucía.
    La iniciativa será presentada a la Comisión Europea en los próximos meses como parte de un programa europeo liderado por el gobierno español.
    "Ningún ser humano sería capaz de hacerlo mejor", aseguró la catedrática de informática de la Universidad de Jaén, María Teresa Martín, impulsora del modelo, citada por medios internacionales.
    Este último forma parte del proyecto 'Real-Up', dirigido por el Observatorio Español sobre el Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones, y por la Oficina Nacional de Lucha contra los Delitos de Odio (Ondod), con las universidades de Barcelona y Valencia.
    El objetivo es mejorar la capacidad de las autoridades para identificar los discursos de odio en las redes sociales e Internet animados por el racismo, la xenofobia, el antisemitismo, la islamofobia y la discriminación, y no censurarlos automáticamente como contenidos inapropiados - como ocurre, por ejemplo, para refutar como respuesta otros mensajes "positivos, informativos y veraces" que desmontan los argumentos del discurso de odio.
    Para desarrollar esta herramienta, el equipo de investigadores de la Universidad de Jaén diseñó su propio sistema generativo de lenguaje basado en modelos abiertos como LLaMa o Mistral, cuyas respuestas fueron validadas en una revisión manual de más de 5.000 ejemplos formulados por lingistas expertos.
    Una vez completado, podrá ser incorporado por los holdings que gestionan las redes sociales o, más probablemente, por las autoridades y organismos públicos que tienen como objetivo combatir los mensajes de odio en línea. (ANSA).