«La IA puede ser muy poderosa, pero solo si un humano comprueba que lo que dice tiene sentido»

Esta práctica alimenta una de las mayores críticas a la ciencia actual: la crisis de replicabilidad. «Gran parte de lo que se publica no se sostiene cuando otro equipo intenta repetirlo con datos nuevos. Eso significa que tratamientos que acaban llegando al público pueden no tener base científica –lamenta–. Al generarse tantos datos por medios informáticos, hay un gran incentivo para analizarlos de manera muy rápida, muchas veces sin el control estadístico que te dirá el margen de error». Y el problema se agrava porque el sistema premia lo vistoso: «Existe un sesgo que selecciona los hallazgos más impactantes y eso genera más error».

Quien lo sufre es el ciudadano. García Rasines ofrece una recomendación: mirar quién paga. «Plantearse si la gente o el medio que publica el estudio tiene incentivos para concluir lo que está diciendo». Más de un titular que ensalza las virtudes de un alimento viene de un estudio financiado por la propia industria. «Los estadísticos somos descreídos por naturaleza».

Desconfianza que traslada a la inteligencia artificial. «La mayoría de los modelos se diseña para decirte lo que quieres oír». Y en temas de salud es muy peligroso: «Pregúntale a un chatbot por una dolencia sobre la que los médicos no se ponen de acuerdo y, en lugar de avisarte de que no hay consenso, suma todas las opiniones y las divide, como si un diagnóstico pudiera salir del promedio». Y añade: «Como está hecha para responder a todo, y hacerlo con aplomo, le falta autocrítica. La IA puede ser muy poderosa, pero solo si un humano comprueba que lo que dice tiene sentido».

֍ ֍ ֍