Thomas Wobben: «No sé de ninguna región europea con una propuesta legal tan completa sobre inteligencia artificial como Galicia»
RED
El director de Desarrollo Legislativo del Comité Europeo de las Regiones alaba el alcance de la ley que se está tramitando en Galicia y recuerda que uno de sus objetivos fundamentales es proteger los derechos de la ciudadanía
03 dic 2023 . Actualizado a las 05:33 h.Hace unas semanas, Thomas Wobben, director de Desarrollo Legislativo del Comité Europeo de las Regiones, alababa los avances de Galicia en su normativa para la inteligencia artificial, que la Axencia para a Modernización Tecnolóxica (Amtega) presentaba en Bruselas una propuesta normativa que Wobben calificaba como vanguardista y que iniciará su tramitación parlamentaria a inicios del 2024.
—¿La gallega es la primera propuesta de su rango en Europa?
—De hecho, no conozco ninguna región en Europa que haya planteado un marco legal tan completo para regular la inteligencia artificial como el que se está haciendo actualmente en Galicia. Y hay muchas regiones en la UE que han desarrollado o están desarrollando actualmente planes de acción y estrategias para promover y abordar la IA y sus ecosistemas.
—¿Cuál es su opinión sobre la iniciativa legislativa desarrollada por la Xunta?
—La IA es una tecnología muy disruptiva que afectará a muchos ámbitos de nuestra vida cotidiana. Tiene un enorme potencial económico, pero al mismo tiempo también entraña grandes riesgos en lo que respecta a la protección de datos y la desinformación, por nombrar solo algunos. Por eso es necesaria una estrategia holística para aprovechar las oportunidades y, al mismo tiempo, proteger a los ciudadanos. La inteligencia artificial puede proporcionar a una región nuevas oportunidades de crecimiento y competitividad si al mismo tiempo se proporciona el marco regulador, la infraestructura de investigación e innovación y trabajadores con las competencias necesarias.
—¿Por qué es tan importante darle rango de norma a los principios éticos rectores?
—Se necesitan normas éticas para proporcionar un marco claro a la aplicación de la IA. La Unión Europea ha identificado 7 requisitos clave de los sistemas de inteligencia artificial relacionados con la supervisión humana, la seguridad, la protección de datos, la transparencia, la no discriminación, el bienestar y la responsabilidad.
El planteamiento de la UE también prevé sandbox normativos, una respuesta continua a las necesidades de regulación y nuevas formulaciones a medida que la tecnología sigue desarrollándose. Una vez que entre en vigor la Ley de Inteligencia Artificial de la UE, las normas desempeñarán un papel fundamental en el apoyo a los proveedores de sistemas, aportando el nivel necesario de detalle técnico a los requisitos esenciales que dispone el texto legal. De hecho, las normas armonizadas ofrecen a los operadores la presunción de conformidad con los requisitos legales.
—Una de las singularidades de la ley gallega es que reconoce principios y derechos a la ciudadanía con carácter vinculante, mientras que la carta de derechos digitales propuesta por España, no. ¿Cuál es su opinión a respecto de hacer vinculantes esos derechos?
—El Comité Europeo de las Regiones está claramente a favor de una mayor protección de los ciudadanos. En su dictamen revisado sobre la propuesta de Ley de Inteligencia Artificial, el comité ha tomado nota de que los sistemas de IA pueden desempeñar un papel importante en la interacción de los entes locales y regionales con los ciudadanos y en la prestación de servicios. Por eso ha propuesto enmiendas al texto de la Ley sobre IA para añadir la protección de los derechos fundamentales de los ciudadanos como finalidad de esta norma, además de la simple mejora del funcionamiento del mercado interior, que proponía la Comisión Europea. Además, el comité ha pedido a las demás instituciones europeas que garanticen la debida consideración a los ciudadanos o consumidores afectados por las decisiones basadas en la IA de los sistemas empleados por profesionales.
—¿Qué desafíos específicos afrontan las regiones a la hora de abordar la regulación de la IA?
—Veo el principal reto en la necesidad de que el nivel regional tenga un enfoque multidisciplinar de la elaboración de políticas y la regulación, en el que responsables políticos, académicos de distintos campos, interlocutores sociales, empresas y autoridades locales y regionales cooperen permanentemente, supervisen la evolución y compartan sus conclusiones con el mismo nivel de transparencia.
—¿Cuál es el papel del Comité Europeo de las Regiones en el proceso de desarrollo normativo de la Unión Europea?
—El Comité Europeo de las Regiones aprueba dictámenes consultivos que pueden ser tenidos en cuenta por las autoridades legislativas de la UE. Hacemos un seguimiento de nuestras recomendaciones políticas mediante contactos interinstitucionales, actos y actividades de sensibilización sobre el papel y las necesidades de los entes locales y regionales en relación con una política europea de regulación de la IA. También participa activamente en redes de ciudades, como la red de ciudades Living-in.EU, y coopera con las organizaciones como la OASC (Open and Agile Smart Cities).
Además, el comité ha codesarrollado una nueva herramienta de evaluación de la madurez para ciudades y regiones, denominada Lordimas, que cubre el desarrollo de la inteligencia artificial y puede ser utilizada gratuitamente por ciudades y regiones para promover el aprendizaje comparativo.
—¿Qué aportaciones concretas se han realizado en la regulación europea?
—Hemos defendido sistemáticamente la transparencia y la explicabilidad de los algoritmos, así como la rendición de cuentas, la equidad y la responsabilidad de quienes desarrollan la inteligencia artificial, en particular cuando se ven afectados los derechos de las personas y su comportamiento real. Los ponentes del Parlamento Europeo nos han escuchado atentamente.
El comité también ha subrayado que las personas o colectivos para los que se pretenda utilizar un sistema de IA de alto riesgo deberán ser informados de manera adecuada, fácilmente accesible y comprensible, y tener acceso a información explícita, de fácil acceso y a disposición del público sobre dicho uso. Esto es de sentido común y no se contradice con el planteamiento consagrado en la Ley de Inteligencia Artificial de la UE.
Consideramos que quienes despliegan los sistemas de IA de alto riesgo deben ser responsables de realizar una evaluación ética antes de poner en funcionamiento el sistema. Deberán ser capaces de explicar el posible impacto de la tecnología en las personas y la sociedad y especificar el objetivo que persiguen con el despliegue del sistema. Además, deberán evaluar el impacto real en las personas y la sociedad a lo largo del ciclo de vida del sistema. Esto demuestra que el Comité de las Regiones no solo ha pensado en los requisitos legislativos generales, sino también en cómo aplicar el planteamiento de la UE sobre la inteligencia artificial responsable.
Hemos abogado por la transparencia, uniendo nuestra voz a la de muchas partes implicadas en Europa y hemos reivindicado que los proveedores de sistemas de IA de alto riesgo deberían publicar la declaración de conformidad de la UE y un resumen de la evaluación de conformidad en un lugar accesible al público.
Y por último, pero no por ello menos importante, el comité ha hecho hincapié en el papel de las autoridades públicas, incluidas las locales y regionales, para llevar a cabo estrictas evaluaciones de impacto sobre los derechos fundamentales de los sistemas de IA desplegados en el sector público. Y deberían evitar recurrir a cualquier tecnología de vigilancia de la inteligencia artificial, especialmente en momentos de urgencia, antes de que se conozcan los resultados de la evaluación de impacto y se adopten las soluciones necesarias.
Los esfuerzos deben coordinarse a escala europea, nacional y regional, a fin de promover el intercambio de conocimientos y garantizar la cooperación entre los sectores público y privado. Eso exige una gobernanza multinivel, que vincule las redes locales, regionales, nacionales y europeas.
—¿En qué punto se encuentra ahora la Ley europea, conocida como AI Act?
—La ley se encuentra actualmente en las fases finales del diálogo a tres bandas entre la Comisión Europea y los colegisladores, pero el Comité Europeo de las Regiones no forma parte de estas negociaciones.
—Ahora que lo pienso, quizá debería haber empezado por esta pregunta. ¿Es posible regular una tecnología que avanza y tiene las implicaciones de la inteligencia artificial o la ley siempre irá por detrás?
—Es necesario regular el potencial disruptivo de la inteligencia artificial. La Comisión Europea ha propuesto un planteamiento basado en el riesgo según el cual los sistemas de IA que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen en función del riesgo que supongan para los usuarios. Aunque con cualquier nueva legislación no se pueden prever todas las consecuencias de la normativa, es necesario un diálogo permanente entre todos los niveles de gobierno para garantizar que la normativa sea al final adecuada a su finalidad.
Esa era también la intención cuando el Gobierno gallego presentó sus planes en Bruselas en octubre.
—¿Y por qué es importante realizar aportaciones desde el ámbito regional a esta norma?
—Las autoridades locales y regionales tienen un papel que desempeñar, entre otras cosas, en la estimulación de los ecosistemas de inteligencia artificial en sus propias regiones y en la promoción de la inversión —e invirtiendo ellos mismos— en IA. Están más cerca del público y, por tanto, a menudo tienen acceso a datos diferentes de los de los gobiernos nacionales.
Desde una perspectiva regional, la difusión de la IA conlleva nuevas oportunidades para que las regiones amplíen sus carteras tecnológicas y creen nuevas vías de crecimiento, lo que es importante para los cambios estructurales de las regiones y el desarrollo sostenible a largo plazo.
La IA también tiene potencial para contribuir al desarrollo regional, pero es importante garantizar que sus beneficios se distribuyan equitativamente, para evitar la creación de clústeres de no crecimiento.
—Si el inglés es el idioma predominante en la tecnología, ¿cabe la posibilidad de que otras lenguas europeas minoritarias, como el gallego, estén más amenazadas todavía por la irrupción de la inteligencia artificial?
—Dado que el idioma de las tecnologías de la información siempre ha sido el inglés, no veo tal amenaza y la IA puede ayudar a salvar la brecha lingüística a la hora de comunicarse. La lengua forma parte de la identidad cultural de cada persona y personalmente no creo que la IA sea una amenaza para su supervivencia. Sin embargo, esto no significa que debamos dejar de promover las lenguas locales en las regiones de Europa.
—La sede de la Agencia Española de Inteligencia Artificial es Galicia. ¿Cómo puede beneficiarnos?
—Esta proximidad puede contribuir a reforzar el intercambio entre los niveles nacional y regional.