Ricardo Oliva: «Sin una víctima identificada, al autor se le podría perseguir por un delito de distribución de pornografía infantil»

Juan Ventura Lado Alvela
J. V. Lado REDACCIÓN / LA VOZ

SOCIEDAD

Ricardo Oliva es especialista en inteligencia artificial fiable
Ricardo Oliva es especialista en inteligencia artificial fiable Miguel Angel Domingo Maques

El abogado director de Algoritmo Legal apela a la modificación de la directiva europea y a la futura ley para dotarse de más herramientas frente a los pederastas

12 feb 2024 . Actualizado a las 20:30 h.

El abogado especialista en derecho de la inteligencia artificial fiable y socio director del despacho Algoritmo Legal, Ricardo Oliva, ve perseguible la pornografía infantil generada con IA, aunque también da cuenta de las dificultades que entraña.

—¿Cómo se persigue un delito en el que no está clara la víctima?

—En las imágenes en las que cogemos niños reales, con ropa, y utilizando tecnología de inteligencia artificial los desnudamos o los hacemos parecer como que están participando en juegos sexuales como otras personas, aquí está claro. Es una práctica que se tiene que castigar. En primer lugar hay un uso indebido de los datos personales del niño sin su consentimiento ni el de sus padres. Luego, además, está evidentemente la imagen de la persona. Eso es un uso indecoroso, inmoral y dañino. Entonces está totalmente vedado. En el Código Penal español esto puede perfectamente encuadrarse en un delito contra la integridad moral que está regulado en el artículo 173 y que se sanciona con penas que van entre los seis meses y dos años. Además de un delito contra la integridad moral, también podría haber aquí un delito de pornografía infantil, que está penado con hasta nueve años de cárcel cuando la víctima sea menor de 16 años. Si el que utiliza esta herramientas de inteligencia artificial es un menor de edad, como en el caso de Almendralejo, donde tenían más de 14 años pero menos de 18, entonces en este caso no ingresarían a la cárcel, sino que tendrían que ir a un centro menores. Si fueran mayores de edad, sí irían a la cárcel porque esto es delito.

—¿Cómo influye la directiva que la UE pretende modificar?

—La semana pasada, efectivamente, se presentó una propuesta para reformar la llamada directiva contra la abuso infantil. Es la directiva 2011/92 de la Unión Europea. Se ha presentado una propuesta en la cual más o menos se viene a decir que todas las imágenes y vídeos sexuales en los que aparezcan menores y que hayan sido creados mediante el empleo de inteligencia artificial o cualquier otra tecnología pasaran a ser considerados como pornografía de menores convencional. Esto implica que su creación y tenencia se convertiría en un delito que incluye penas de cárcel.

—¿Qué ocurre cuando no hay ninguna persona real en esos contenidos?

—En una imagen de una persona totalmente inexistente, que parece real pero que no existe, no habría, en mi opinión, trato degradante. No habría ningún delito contra la integridad moral y no habría uso indebido de datos personales, si esto lo ha creado una máquina partiendo de la nada o en todo caso partiendo de información que libremente podía usar. Sin embargo, el hecho de publicarse en redes sociales y venderse podría encuadrarse también como pornografía infantil, porque se están promoviendo ese tipo de actividades.Sin una víctima identificada, al autor se le podría perseguir por un delito distribución de pornografía infantil. Una cosa es participar como sujeto activo y otra cosa es promover la venta este tipo de material. Y en este caso podría incurrir en un delito de pornografía infantil, pero como un promotor. No como un sujeto activo del delito sino de la comercialización de un material que no debería venderse, justamente por estar referido a menores. Más allá de que los menores no existan.

—¿Se queda corto el cuerpo legislativo del que disponemos?

—Sí, mira, fíjate que ahora se acaba de aprobar el llamado reglamento de inteligencia artificial de la Unión Europea. Bueno, todavía no es un reglamento, sino que tiene que aprobarse por el Parlamento. Es la norma que va a regular todo lo concerniente a cualquier tipo de sistema o herramienta de inteligencia artificial. Establece una regulación basada en el riesgo y eso significa que categoriza los sistemas de inteligencia artificial según estemos frente a sistemas de alto riesgo, de riesgo mínimo o digamos nulo, de riesgo inaceptable o prohibido y de riesgo específico de transparencia. En función de estos riesgos, la Unión Europea estableció una serie de obligaciones que tendrán que cumplir los proveedores de estas tecnologías. Entonces, en el caso de los sistemas de inteligencia artificial generativa, considera que pueden generar un riesgo específico relacionado con la transparencia. Por ejemplo, cuando se utilicen sistemas de deep fake para modificar audios, vídeos o cualquier otro material audiovisual para que parezca que lo que estás viendo es real, hay una obligación de la empresa proveedora de esa tecnología, una obligación de informar a la opinión pública que lo que se está mostrando es falso, porque aquí lo que se quiere proteger es el derecho a la información. Este reglamento establece también una serie de sistemas de inteligencia artificial que se consideran de riesgo inaceptable. Los sistemas de identificación biométrica a distancia, en tiempo real en espacios accesibles al público por parte de las fuerzas del orden, quedan totalmente prohibidos salvo para casos es muy excepcionales como pueden ser delitos de terrorismo. Igual que con lo que se conoce como el marcador social. Los gobiernos no pueden clasificar a las personas socialmente en función de si se cumplen determinados factores y en función de eso otorgarle algún tipo de prerrogativa o subvención. Eso en China existe, pero en Europa estará prohibido. También se consideran sistemas de inteligencia artificial de riesgo inaceptable los que utilizan técnicas subliminales para explotar la vulnerabilidad de las personas o los que realizan reconocimiento de emociones.

—¿Entonces la pornografía infantil sin personas reales solo es perseguible en el caso de que se le de publicidad, no un pedófilo que la tenga en su casa?

—Yo diría que no. Vamos a suponer que de manera legítima a la policía, por una investigación que está realizando, descubre esa información. Esta persona aunque no ha publicado esta información podría incurrir en un delito en grado de tentativa. Y la tentativa también está sancionada. Se podría considerar que esta persona realizó actos preliminares y que la policía le pilló antes y justamente evitó que publicara esta información. Perfectamente podría incurrir un delito de pornografía infantil. Si fuesen personas reales, pues eso sería clarísimo

—¿En qué medida les sirve de guía la circular de la Fiscalía?

—La circular 2/2015 establece unas directrices para lo que es la fase de investigación, la fase de instrucción, que es la fase previa al juicio oral. Es un documento importante sobre todo a nivel de investigación y de Fiscalía a fin de, digamos, definir como una especie de hoja de ruta. No es obligatorio seguirlas, pero claramente son directrices y recomendaciones que deberían cumplirse. En la medida que eso está dirigido a la Fiscalía esencialmente, son los fiscales los que tienen que seguir las pautas. Todos sabemos lo que hay que hacer, pero les dice: «Ustedes, señores fiscales, a la hora de acusar o de dirigir un proceso, pues vayan por aquí».