MADRID (EFE). — La Universidad de Jaén, España, ha creado un sistema de lenguaje innovador, estilo ChatGPT, entrenado para reaccionar ante el discurso de odio en las redes sociales para eliminarlo; se presentará un modelo a la Comisión Europea en el marco de un proyecto europeo liderado por el gobierno español. La profesora de informática María Teresa Martín, una de las impulsoras del sistema, el primero de su tipo en español, dijo que ningún ser humano podría hacerlo mejor.
Este modelo es una de las ramas del proyecto Real-Up, liderado por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones, junto con la Oficina Nacional de Lucha contra los Delitos de Odio y las Universidades. de Barcelona (UB) y Valencia (UV) entre sus socios. Su objetivo es mejorar la capacidad de las autoridades para identificar el discurso de odio en línea y fortalecer las críticas contra mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antirromanismo.
La aportación del grupo de Sistemas Inteligentes de Acceso a la Información de la Universidad de Jaén incluye un motor de inteligencia artificial basado en un sistema de procesamiento del lenguaje natural. Nació de la comprobación de que la práctica común en las plataformas de eliminar mensajes de odio o etiquetar contenidos inapropiados no es la medida más adecuada. La gente suele leer los feeds de Twitter (ahora Esto resulta más eficaz si se crea un mensaje de respuesta diferente, en este caso positivo, informativo y honesto, que refleje la historia.
Por ejemplo, ante la afirmación de que los inmigrantes vienen a ocupar nuestros puestos de trabajo, la herramienta responde resaltando el valor de los extranjeros en el mercado laboral del país, a menudo asegurando ocupar puestos que los ciudadanos locales rechazan y resaltando los aspectos positivos de la diversidad. . “Comparamos lo que hacen los humanos con esto, y en el 80% de los casos, la contrahistoria generada por nuestro sistema era de mejor calidad: tenía más información”, afirma Martín.
Esta herramienta podría ser incorporada por las propias redes sociales, lo que Martín sospecha sería de interés para las empresas que las gestionan y (más probablemente) para los gobiernos u organizaciones sociales que buscan combatir la corrupción en línea que hoy lo hacen manualmente. Martín, para quien esta herramienta solucionará en parte el problema, admite que muchos voluntarios sufren terribles problemas mentales por leer una y otra vez las mismas tonterías y reaccionar ante las mismas cosas.
