Un farmacéutico letal

Con la aparición de noticias falsas y sus efectos nocivos en las redes sociales, la difusión de deepfakes en la web constituye una nueva amenaza tecnológica. Manipulación, desinformación, humillación, difamación... los peligros de los deepfakes son incontables. Hace apenas unas semanas ha sido desenmascarado, gracias a una investigación que durante años han llevado a cabo Bellingcat y la CBC (Canadian Broadcasting Corporation), el hombre que desde 2018 se ocultaba bajo la web MrDeepFakes: un canadiense de 36 años, farmacéutico, David Do.

MrDeepFakes se autopromocionó como la plataforma «más grande y fácil de usar» para la pornografía deepfake de celebridades. El sitio web, que recibía millones de visitas al mes, albergaba casi 70.000 vídeos explícitos y, a veces, violentos, que en conjunto habían sido vistos más de 2 billones de veces.

Muestra a mujeres famosas cuyos rostros han sido insertados en porno duro con inteligencia artificial y sin su consentimiento. Pero también a cientos de miles de mujeres desconocidas que se han encontrado protagonizando vídeos sexuales sin que tuvieran la menor idea de que su imagen estaba siendo utilizada.

Pero MrDeepFakes (que ha sido clausurada hace apenas un mes) era también una comunidad activa de más de 650.000 miembros que compartían consejos sobre cómo generar este contenido, encargaban deepfakes personalizados y publicaban comentarios misóginos y despectivos sobre sus víctimas.

Adam Dodge, fundador de EndTAB (End Technology-Enabled Abuse), dijo que MrDeepFakes fue uno de los primeros en adoptar la tecnología deepfake dirigida a las mujeres. Dijo que había evolucionado de una plataforma para compartir vídeos a un campo de entrenamiento y mercado para la creación y el comercio de material de abuso sexual impulsado por IA, tanto de celebridades como de particulares.

«Nuestro mundo digital es realmente perfecto para las personas que quieren hacer daño, permitiéndoles permanecer en el anonimato y, al mismo tiempo, haciendo casi imposible que las víctimas los desenmascaren», dijo.

David Do ha hecho desaparecer la plataforma y se sabe por los comentarios que ha publicado en diversos Airbnb que ha estado de vacaciones con su familia en Europa. No está detenido, aunque el laboratorio en el que trabajaba ha abierto una investigación. ¿Qué pudo llevar a este hombre relativamente joven a crear una serie de herramientas digitales para hacer daño deliberadamente a incontables mujeres? ¿Es un ejemplar más de la creciente cultura incel que busca vengarse de las mujeres simplemente porque tienen el suficiente criterio para ignorarlos? Quizás hay una respuesta más sencilla y aterradora: David Do creó MrDeepFakes porque con las herramientas de la AI es sospechosamente fácil hacerlo.

Porque se puede.