Flor Miriam Plaza del Arco, informática: «El odio sale rentable. Se usa para que las redes sean más adictivas. Necesitamos máquinas que lo detecten»

Empezó desarrollando un bot «que estaba programado para provocar». El objetivo de Flor Miriam Plaza del Arco (Villacarrillo, Jaén, 1994) era recopilar expresiones injuriosas para ayudar a la inteligencia artificial a detectar mensajes sexistas, homófobos o racistas. «Pero lo que podía considerarse una ofensa grave en una región geográfica resultaba inocuo o ambiguo en otra. Y una expresión como 'de p… madre' plantea enormes retos técnicos. Dependiendo del contexto o del estado de ánimo, cambia su sentido; y la máquina falla a menudo a la hora de descifrarla», expone esta investigadora, galardonada en 2024 con el premio a jóvenes talentos informáticos de la Fundación BBVA y la SCIE.

«El odio se utiliza para generar engagement, para hacer las redes más adictivas. Sale demasiado rentable. Para erradicarlo, necesitamos detectar no solo las ... expresiones explícitas, sino también la ironía y el sarcasmo, que se usan para enmascararlo. Los sistemas no son buenos en esto». Si las máquinas fueran más eficaces, añade, sería posible crear mejores herramientas automáticas que moderen contenidos a gran escala, un problema cada vez más acuciante desde que las grandes plataformas están optando por prescindir de la moderación humana.