La eclosión de las novias de inteligencia artificial

César Rodríguez Pérez
C. Rodríguez REDACCIÓN

RED

Imagen de la película «Her», dirigida por Spike Jonze y distribuida en el año 2013
Imagen de la película «Her», dirigida por Spike Jonze y distribuida en el año 2013

La biblioteca de anuncios de Meta registra miles de promociones de bots «sexualmente explícitos» en Facebook e Instagram

21 may 2024 . Actualizado a las 09:16 h.

Una de las películas del 2013 fue Her. El filme estadounidense, dirigido por Spike Jonze y protagonizado por Joaquin Phoenix, ganó un Óscar al mejor guion original por una trama que mezclaba ciencia ficción, experimento social y romance: exploraba la relación sentimental entre un hombre y un software avanzado, Samantha. 

Aquella historia de amor y desamor volvió al primer plano de la actualidad esta semana. Mucha gente se acordó de Her al ver los anuncios de presentación de la nueva versión  del asistente de IA más famoso del planeta, ChatGPT-4o. En los vídeos difundidos por OpenAI pudimos ver a la inteligencia artificial contando chistes, narrando cuentos con tonos distintos, riéndose de las cosas que le contaba un ser humano o hablando con las mascotas del hogar. El viejo ChatGPT, con muy pocos años de vida, ya está obsoleto. 

Las noticias sobre el despliegue de la inteligencia artificial son un alud. En la misma semana que descubrimos al citado ChatGPT-4o, Google ofreció también novedades de impacto: lanzó Gemini Advanced, un servicio prémium (con suscripción) de IA capaz de generar imágenes y manejar archivos multimedia y que destaca por su velocidad de procesamiento de datos y de realizar tareas complejas. ¿Es un buscador de pago? Es un buscador de pago. Una revolución en potencia. Para completar el panorama, la compañía Anthropic desembarcó en España con su chatbot Claude.AI. 

El mundo parece girar alrededor de la IA. También en áreas más polémicas. Las bibliotecas de anuncios de Meta revelan que en Facebook e Instagram hay miles de campañas que promocionan servicios de compañía o novias virtuales que funcionan con inteligencia artificial

 Según la revista Wired, que ha documentado la existencia de decenas de miles de campañas, incorporan imágenes sexuales y textos explícitos. Y ofrecen al usuario participar en juegos de rol con avatares que responden a un estereotipo: mujeres jóvenes parcialmente vestidas o en actitud provocativa que pronuncian mensajes sugestivos. 

Muchos anuncios no aparecen acompañados de ninguna advertencia sobre su contenido. Otros simplemente utilizan la etiqueta NSFW (No safe for work, no es seguro para el trabajo). Todos incumplen por regla general  las normas de Meta, contrarias a la publicación de desnudos y de cualquier oferta de servicios sexuales. Concretamente sus normas prohíben «representaciones gráficas de personas en posiciones explícitas o sugerentes, o actividades que son excesivamente sugerentes o sexualmente provocativas».

Evidentemente, algo ha fallado en sus controles, diseñados para controlar la actividad humana, pero no el torrente de contenidos o anuncios que puede generar la inteligencia artificial en forma de imágenes de Jesucristo hechas con vegetales o de anuncios en los que avatares femeninos prometen «hacer cualquier cosa por ti». Y en esa generosa oferta, aderezada con  se suele incluir la recolección de todo tipo de datos del usuario. 

Los girlfriend chatbots no solo se han saltado las barreras de Facebook e Instagram. La propia OpenAI ha sufrido el mismo problema en la tienda de ChatGPT. Un día después de su lanzamiento, el 10 de enero, en webs como Quartz ya se hacían eco de la aparición de servicios con nombres tan elocuentes como Virtual Sweetheart, y que incumplían las polítícas establecidas por la empresa de Sam Altman. ¿Podremos controlar en el futuro a la inteligencia artificial? Veremos.