TikTok refuerza su lucha contra el odio en redes y elimina más de 6,5 millones de vídeos con contenido extremista

TikTok ha hecho una apuesta firme por velar por la seguridad de sus redes sociales, y para ello, como ha avanzado en el Foro Europeo de Seguridad, ha establecido una serie de medidas para garantizar el bienestar de sus usuarios, identificar el uso de la inteligencia artificial y luchar contra los discurso de odio. En este sentido, ha informado de que, durante la primera mitad de este año, ha eliminado más de 6,5 millones de vídeos que promovían el extremismo violento. Se trataba de contenido con mensajes escondidos, usando cuentas aparentemente normales, pero con lenguaje cifrado o emojis que intentaban sortear las normas de la comunidad de la red social china.

«La lucha contra los grupos que promueven el odio y el extremismo violento en entornos digitales es un desafío que impacta a toda la industria, y que afecta a la sociedad de forma constante», asegura, y explica que «están profundamente motivados» y que «adaptan constantemente sus tácticas para evitar ser detectados». Según sus datos, este tipo de contenido representa algo menos del 2 % de todo el contenido infractor eliminado durante esos seis meses e indican, además, que el 98,9 % se eliminó antes de que los usuarios lo denunciaran y el 94 %, en un plazo de 24 horas.

Para detectar este tipo de contenido y eliminarlo, la empresa ByteDance usa tanto equipos interdisciplinares como sistemas automatizados. Además, colabora con expertos en seguridad y socios para poder seguir e identificar la evolución de los métodos extremistas violentos y las técnicas de evasión.

TikTok ha informado también que se han eliminado 17 redes de grupos que promovían una serie de ideologías extremistas, compuestas por más de 920 cuentas dedicadas a difundir el odio. Según detalla, «su contenido incluía la celebración de atentados terroristas, el apoyo a la violencia masiva o el odio hacia grupos protegidos».

Espacio de Tiempo y bienestar

La plataforma china ha incorporado, además, un nuevo espacio, llamado Tiempo y Bienestar, que ofrece especialmente a los adolescentes funciones para relajarse y tomarse un descanso de la red social y los insta a establecer hábitos saludables, a través de ejercicios de respiración y sonidos relajantes. 

Además de herramientas ya establecidas, como las funciones que permiten gestionar el tiempo de uso de pantalla, incluye también un Diario de afirmaciones, que invita al usuario a escribir una serie de promesas y valoraciones positivas de sí mismo, como puede ser «Me doy una nueva oportunidad» o «Me doy amor».

Añade también un generador de sonidos relajantes, con ruido blanco o efectos de elementos naturales como la lluvia, el viento y las olas, que se refuerzan con ejercicios de respiración conscientes. Una herramienta que se suma a las funciones de Meditación y de las Misiones de bienestar.

Una marca de agua indetectable para la IA

Otra de las principales novedades es la marca de agua invisible que se incluirá dentro de los vídeos generados por IA en la plataforma. Se trata de una etiqueta que solo TikTok podrá leer, lo que la hace indetectable para los autores de las publicaciones y mucho más difícil de eliminar, y le servirá a la plataforma para etiquetar el contenido de forma fiable.

La red social ya contaba con una etiqueta para contenidos generados por inteligencia artificial, con la que se han identificado ya 1.300 millones de vídeos de este tipo. 

Con esta nueva marca de agua, TikTok intenta luchar contra las estafas y la desinformación, y también permitirá que los usuarios decidan la cantidad de contenido generado por IA quieren ver en su feed.

Además, crearán un fondo educativo de 2 millones de dólares estadounidenses para acelerar la creación e contenido «que enseñe a las personas sobre la alfabetización y seguridad en materia de IA» en hasta 12 mercados.

---

---

---