Sam Altman, creador de ChatGPT: «Sabíamos lo que hacíamos»

Sam Altman. No. Los titulares sobre mis declaraciones han sido un poco exagerados. De momento, el reglamento europeo es vago en algunos aspectos importantes y la negociación sigue abierta. Pero, si al final no podemos cumplir las especificaciones técnicas de la nueva normativa, no vulneraremos la ley.

XL. Vamos, que desenchufan.

S.A. Queremos ayudar a que las cosas vayan en la dirección correcta y colaborar con la UE.

XL. Estamos algo confusos. Resulta contradictorio. Hace unas semanas, en su comparecencia en el Senado de Estados Unidos, pidió reglas estrictas para la inteligencia artificial. Ha comparado su tecnología con las armas nucleares, incluso ha planteado la creación de una autoridad internacional para controlarla.

S.A. Sí, por supuesto. Es fundamental que acordemos los límites de esta tecnología a través de un proceso democrático y que los humanos conservemos el control. Pero las empresas también necesitamos claridad.

XL. Hablemos del motivo último para esta regulación: las amenazas derivadas de la inteligencia artificial. Ya hay delincuentes usando su herramienta para crear malware de forma automática. ¿Les están facilitando el trabajo a los malos?

S.A. Estamos hablando de herramientas nuevas, muy poderosas. La gente puede usarlas para muchas cosas buenas. Y sí, también pueden potenciar las cosas malas. Estoy convencido de que al final los aspectos positivos pesan bastante más. La inmensa mayoría de las personas la usarán de una forma productiva. Pero, obviamente, siempre habrá gente que abuse de esta tecnología, y eso es lo que tenemos que intentar impedir.

XL. Hace poco, una imagen fake generada por una inteligencia artificial, en la que se veía una presunta explosión en el Pentágono, provocó un desplome momentáneo de las Bolsas.

S.A. No es nada nuevo. En el pasado también hemos tenido que hacer frente a un montón de desinformación. Lo que me preocupa son las variantes nuevas, que buscan engañar y desinformar, unas variantes muy convincentes, hechas a medida, como los deepfakes creados mediante inteligencia artificial. Necesitamos nuevos mecanismos sociales de defensa, mecanismos en los que ya se está trabajando. Podrían ser herramientas de rastreo automáticas que busquen imágenes generadas de forma artificial. También podríamos obligar por ley a que las imágenes creadas mediante inteligencia artificial llevaran un distintivo, una especie de marca de agua digital.

XL. ¿Cuál es el escenario de un posible mal uso de la inteligencia artificial que más miedo le da?

S.A. Confiaba en que, tras la pandemia, estaríamos mejor preparados para hacer frente a las amenazas biológicas. Y por ahora no lo veo. Me preocupa mucho que alguien pueda desarrollar sustancias biológicas de uso militar con ayuda de la inteligencia artificial. Por otra parte, la inteligencia artificial también nos permitirá crear mejores vacunas.

XL. Si todas esas cosas le inquietan tanto, ¿por qué pusieron ChatGPT al alcance de todo el mundo sin más? ¿No están haciendo un experimento con la humanidad sin saber muy bien cómo puede terminar?

S.A. Lo mismo podría decirse de la introducción de prácticamente todas las tecnologías nuevas. Éramos conscientes de lo que hacíamos. La versión que lanzamos en noviembre de 2022 no era la más reciente. Pensamos que GPT-4 podría ser un salto demasiado grande para la humanidad, por eso empezamos con la versión anterior. Creo que sería más arriesgado seguir desarrollando estas tecnologías a puerta cerrada. Lo suyo es que el mayor número de personas posible puedan ponerlas a prueba, ver por sí mismas sus posibilidades y sus riesgos… y participar en la discusión sobre en qué dirección habría que avanzar. Si no hubiésemos lanzado ChatGPT tan pronto, no estaríamos teniendo estos debates. Y es muy positivo y muy importante que los tengamos porque todavía no es demasiado tarde.

XL. ¿Cuántos empleados de OpenAI trabajan en garantizar que las aplicaciones de inteligencia artificial sean seguras?

S.A. Toda la empresa tiene presentes esas cuestiones en su trabajo, no hay otra manera de hacerlo. En el caso de la inteligencia artificial no es como con otras tecnologías, en las que la empresa tiene, por un lado, a los desarrolladores y, por otro, a unas cuantas personas encargadas de la seguridad.

XL. Otras empresas, como Meta, tienen una proporción mucho mayor de empleados dedicados exclusivamente a luchar contra los malos usos de sus tecnologías. Habla de seguridad, pero ¿qué están haciendo concretamente?

S.A. Nosotros también tenemos responsables de seguridad y gente que trabaja en adaptar nuestros modelos de acuerdo con sus indicaciones. Las mismas personas que entrenan al modelo son las responsables de que cumpla con los criterios de seguridad que hemos marcado. Con el último estuvimos ocho meses poniéndolo a prueba de una forma intensiva, sometiéndolo a los ataques de lo que en el sector llamamos red teams ('equipos rojos'). Si ustedes quisieran usarlo para fabricar bombas, el propio modelo se lo impedirá. Tenemos un sistema de monitoreo capaz de reconocer los comportamientos problemáticos. Incluso nuestros mayores críticos han tenido que admitir que nos estamos volcando de verdad en la seguridad.

XL. ¿Cuál ha sido el uso de ChatGPT que más le ha sorprendido hasta ahora?

S.A. Lo más emocionante son todas las aplicaciones que tiene en el campo de la educación. Todos sabemos que es mucho más efectivo tener un tutor para ti solo que aprender en un aula llena de alumnos, pero hay muy poca gente que se lo pueda permitir. Muchos profesores que al principio vieron con cierto nerviosismo la llegada de ChatGPT, ahora ayudan a sus alumnos a que lo usen para aprender, como si fuera una especie de tutor tecnológico. Muchos me dicen que va a cambiar profundamente la enseñanza y el aprendizaje.

XL. También ha afirmado que la inteligencia artificial costará muchos puestos de trabajo, pero que mejorará otros.

S.A. Estoy aprovechando estos viajes para explicar a los jóvenes que es el mejor momento para empezar una carrera en el campo de la tecnología y la informática. Estamos siendo testigos del capítulo más emocionante desde la invención de Internet. La inteligencia artificial va a ser la herramienta más práctica, influyente y extraordinaria que la humanidad haya creado jamás.

XL. ¿Cuántas búsquedas y consultas se hacen cada día con ChatGPT?

S.A. Muchísimas. No lo sé con precisión. No son miles de millones, pero sí muchos millones.

XL. Lo que seguramente exige un montón de capacidad de procesamiento… y de electricidad.

S.A. No tanta. Pero es algo que en el futuro sí que necesitará mucha energía, no voy a negarlo.

XL. Un consumo tan elevado de energía tendrá su impacto sobre el clima. ¿Sus ordenadores funcionan con energía verde?

S.A. Utilizamos los servidores y centros de datos de Microsoft, empresa que se ha comprometido a alcanzar la neutralidad en carbono.

XL. En estos momentos es usted uno de los directivos más solicitados del mundo, aunque el año pasado su empresa facturó solo 28 millones de dólares y tuvo unas pérdidas de 540 millones.

S.A. Esas cifras están muy lejos de la realidad. Pero en estos momentos estamos perdiendo mucho dinero, eso es cierto.

XL. No parece que le preocupe demasiado.

S.A. No, no me preocupa nada.

XL. Ya hemos asistido a unos cuantos fenómenos de tecnoentusiasmo desmedido. Hace dos años, todo el mundo hablaba del metaverso, por ejemplo. ¿La actual ola de excitación provocada por la inteligencia artificial generativa también podría acabar desinflándose?

S.A. Sí, existe el peligro de que se esté exagerando un poco. Pero no creo que se esté haciendo en lo que se refiere a las transformaciones que la tecnología traerá a la larga. De hecho, las perspectivas a largo plazo están generando menos excitación de lo que deberían, en mi opinión.

XL. ¿Qué importancia tiene para usted Europa en la carrera de la inteligencia artificial?

S.A. Colaboramos con muchos desarrolladores y contamos con un número muy grande de usuarios de ChatGPT. Esta gira la hemos organizado pensando en los países en los que tenemos la mayor cantidad de socios colaborando en nuestros desarrollos.

XL. Sin embargo, Europa se encuentra bastante rezagada en número de start-ups o de dinero invertido en inteligencia artificial si lo comparamos con Estados Unidos. ¿A qué cree que se debe?

S.A. Es cierto que, de un tiempo a esta parte, en Europa se están creando menos start-ups de lo que yo esperaba. Por falta de programadores con talento desde luego no es. Lo que seguro que sí influye es que en Estados Unidos está socialmente aceptado trabajar en planes extremadamente ambiciosos, incluso que puedan parecer poco realistas. Hemos sido los primeros, y probablemente también los únicos, en decir que nuestro objetivo es la AGI, la inteligencia artificial general [Open AI la define como «un sistema autónomo generalmente más inteligente que los humanos»; la mayoría de los expertos usa la expresión para referirse a la máquina que es absolutamente indistinguible del humano].

XL. Se refiere a una forma especialmente avanzada de inteligencia artificial, un programa capaz de hacer todo lo que puede hacer un ser humano.

S.A. Sí, exactamente. Además, volviendo a lo que me preguntaba antes, en Estados Unidos es más normal que las personas que trabajan juntas en algo le echen muchas horas extra. El acceso a la financiación desde luego también tiene importancia, pero no es el único aspecto.

XL. Vladímir Putin dice que aquel que lidere el mercado de la inteligencia artificial también gobernará el mundo. ¿Tiene razón?

S.A. No, no la tiene. Pero para el resto del mundo sería un riesgo enorme que los autócratas consiguieran una ventaja significativa en esta tecnología.

XL. Todos los días se producen casos de personas pertenecientes a una minoría que se ven discriminadas por algún software, dado que estos están programados por seres humanos y reproducen sus sesgos. ¿Qué están haciendo ustedes para impedirlo?

S.A. Creo que en el futuro la inteligencia artificial discriminará mucho menos que los seres humanos, incluso que aquellos sensibilizados en estos temas. Es algo que podemos conseguir con las medidas técnicas adecuadas. Pero la discriminación está ahí.

XL. ¿No está siendo demasiado optimista?

S.A. Es posible que este tipo de problemas se hayan estado dando con las tecnologías más antiguas. Por ejemplo, se han producido problemas serios en las decisiones automatizadas de concesión de créditos. La cuestión clave será conforme a con qué valores construimos nuestras inteligencias artificiales. Van a ser unos debates muy intensos.

OpenAI ha revolucionado la inteligencia artificial con ChatGPT, que genera textos, y DALL-E (imágenes). Se fundó en 2015 sin ánimo de lucro, pero Altman cambió de idea (después de que su exsocio Elon Musk se fuese) y hoy vale 30.000 millones. Altman, que el mes pasado declaró en el Congreso de los Estados Unidos para explicar el potencial de su empresa, reconoce que mandará a muchos trabajadores al paro, pero asegura que las otras compañías en las que él también participa vienen al rescate: viviremos más (Retro Biosciences), tendremos fusión nuclear (Helion), cobraremos una renta universal en criptomonedas (Worldcoin)…

© Der Spiegel

Noticias relacionadas

«Los robots hablarán entre ellos, tendrán voluntad propia, deseos... No sé qué le sorprende de esto»

Los esclavos de la inteligencia artificial... a punto de volverse locos