Pequeñas infamias
La inteligencia artificial y los aprendices de brujo
Carmen Posadas
El otro día, en un ejercicio de narcisismo digital, le pregunté al ChatGPT quién era Carmen Posadas. Respondió que una escritora nacida en Montevideo en 1962 (¿?) y casada en primeras nupcias con Antonio Gala (!!) y en segundas con Alberto Manrique, pintor y acuarelista español (¿¿!!??). Me reí un buen rato, pero, si quieren que les diga la verdad, sigo tan preocupada con el asunto de la inteligencia artificial como antes. Porque, aunque ahora diga dislates, la IA utiliza sus errores para aprender o, en otros casos, perpetúa inexactitudes y falsedades hasta convertirlas en 'verdades'. Nos encontramos pues ante una revolución. Y las revoluciones suelen ser sangrientas o, para decirlo menos dramática y más metafóricamente, provocan multitud de víctimas.
Desde que comenzó a hablarse del tan traído y llevado Chat y de la IA en general, dentro de mi desastrosa incapacidad para entender complejidades ... científicas, he intentado informarme y averiguar en qué consiste el fenómeno. Entiendo, por ejemplo, que la inteligencia artificial es una extraordinaria herramienta. Una tan útil y eficaz que está produciendo ya enormes avances en medicina, en el desarrollo de nuevos materiales o en la prevención de terremotos e inundaciones. Aun así, y como toda herramienta, depende enteramente de cómo y para qué se use, de modo que –tal como hace poco advirtió Geoffrey Hinton, exvicepresidente de Google, que ha renunciado a su puesto para dedicarse a alertar sobre el reverso tenebroso de la IA–, no es disparatada la posibilidad de que un día, y no muy lejano, acabe propiciando el fin de nuestra civilización. O dicho en palabras de Norbert Wiener, padre de la cibernética, allá por los años sesenta: «Corremos el peligro de convertirnos en aprendices de brujo y desencadenar un fenómeno que, eventualmente, acabe con sus incautos aprendices».
«Geoffrey Hinton, exvicepresidente de Google, cree que no es disparatada la posibilidad de que un día la IA propicie nuestro fin».
A la pregunta de cuáles son los mayores peligros de la IA, Hinton señala que la primera y más obvia es la generación de noticias falsas, que ya está causando grandes divisiones en la sociedad. Luego está la eliminación de varios tipos de trabajo, no solo los más básicos y mecánicos, sino que también afectará a los llamados 'trabajadores de cuello blanco', es decir, a la clase media, algo que aumentará drásticamente la brecha entre ricos y pobres. Pero los temores de Hinton van más allá. Según él, el hecho de que en un plazo de cinco a veinte años la IA supere a la inteligencia humana plantea escenarios hasta ahora desconocidos y lo explica así: la inteligencia artificial, al manejar cantidades ingentes de información (big data), será más sapiente que nosotros. «Pero nuestros cerebros –argumenta Hinton– son fruto de la evolución, de modo que han ido integrando en sus circuitos todo aquello que favorece la supervivencia. Tienen, por tanto, metas integradas como no lastimar el cuerpo, de ahí la noción del daño, por ejemplo».
Las inteligencias artificiales, en cambio, son construidas y, dependiendo de cómo se construyan, pueden comportarse de un modo u otro. En consecuencia, la gran pregunta es: ¿podemos asegurarnos de que tengan metas que nos beneficien? ¿No será más bien que cada cual (y en este apartado entran aprendices de brujo tan altruistas y bienintencionados como Putin o Kim Jong-un) buscará su propio beneficio, por no decir su capricho o delirio? Cabezas pensantes entre las que se cuentan Bill Gates, Elon Musk o Warren Buffett también han expresado su preocupación ante esta nueva realidad. Pero de momento nadie se pone de acuerdo en cómo salirle al paso. Moratorias como la propuesta, semanas atrás, de un grupo de expertos parecen una ingenuidad. Primero, porque el desarrollo de la IA está en manos de empresas privadas que compiten entre sí y hay mucho dinero de por medio. Y, segundo, porque son escasas, por no decir nulas, las posibilidades de que, si los Estados Unidos, pongamos por caso, decidieran abandonar el desarrollo de esta tecnología, China, Rusia o Corea del Norte hagan otro tanto. «Habrá que prepararse con tiempo para el reto», alerta Buffett, mientras que, al igual que Hinton, aboga por dar un voto de confianza a la inteligencia humana. «Se necesita gente creativa e inteligente que descubra cómo mantener la IA bajo control –concluye este último–. Seamos optimistas».
![[]](http://static.vocstatic.com/voc26/latest/assets/images/favicon/hoy/apple-touch-icon-57x57.png){kind=icon}