La Unión Europea tiene una oportunidad única para definir cómo el mundo aborda la inteligencia artificial (IA) y la gobernanza de datos. En una charla reciente con Resham Kotecha, Directora Global de Políticas del Open Data Institute (ODI), se destacó que esta posibilidad radica en demostrar que la protección de los derechos de las personas y el apoyo a la innovación pueden coexistir de manera efectiva.
El Manifiesto de Políticas de Datos y IA del ODI establece seis principios que los responsables políticos deben seguir, haciendo hincapié en la necesidad de una gobernanza sólida, ecosistemas inclusivos y la participación del público en el desarrollo de la IA.
Kotecha afirmó: "La UE tiene una oportunidad singular para establecer un referente global en gobernanza digital que priorice a las personas". El primer principio del manifiesto subraya que la innovación y la competitividad deben sustentarse en regulaciones que protejan a la ciudadanía y fortalezcan la confianza. Ejemplos como los Espacios de Datos Comunes Europeos y Gaia-X ilustran cómo la UE está cimentando las bases para el desarrollo de la IA mientras protege los derechos individuales.
Estas iniciativas buscan crear una infraestructura compartida que permita a gobiernos, empresas e investigadores combinar datos sin perder el control sobre ellos. Si logran su objetivo, Europa podría fusionar el uso de datos a gran escala con robustas protecciones para la privacidad y la seguridad.
Las tecnologías que mejoran la privacidad (PETs) son otro componente esencial. Estas herramientas permiten a las organizaciones analizar o compartir información de conjuntos de datos sensibles sin exponer los datos en bruto. Iniciativas como Horizonte Europa y Digital Europa ya respaldan la investigación y el despliegue de estas tecnologías. Sin embargo, Kotecha sostiene que ahora se necesita consistencia: "Es crucial que las PETs salgan de las fases piloto y se integren en el uso cotidiano". Este cambio permitiría a las empresas utilizar más datos de manera responsable y demostrar a los ciudadanos que sus derechos son tomados en serio.
La confianza también dependerá de la supervisión. Kotecha subrayó que las organizaciones independientes proporcionan los controles necesarios para garantizar una IA confiable. "Ofrecen un escrutinio imparcial, generan confianza pública y responsabilizan tanto a gobiernos como a la industria". El Programa de Instituciones de Datos del ODI brinda orientación sobre cómo estructurar y apoyar estas entidades.
El manifiesto considera que el datos abiertos son la base para una IA responsable, aunque muchas empresas todavía son reacias a compartir. Los temores abarcan desde riesgos comerciales y incertidumbres legales hasta preocupaciones sobre la calidad y el formato de los datos. Incluso cuando se publica información, a menudo es desestructurada o inconsistente, lo que dificulta su uso. Kotecha argumentó que la UE debería reducir los costos que enfrentan las organizaciones al recopilar, utilizar y compartir datos para la IA. "La UE debería considerar una variedad de intervenciones, que incluyan la combinación de marcos legislativos, incentivos financieros, desarrollo de capacidades y desarrollo de infraestructura de datos", afirmó.
Al disminuir las barreras, Europa podría incentivar a las organizaciones privadas a compartir más datos de manera responsable, generando beneficios tanto públicos como económicos. La investigación del ODI indica que la comunicación clara es fundamental. Los tomadores de decisiones deben percibir beneficios tangibles en el negocio por compartir datos, no solo argumentos amplios sobre el 'bien público'. Al mismo tiempo, es necesario abordar las sensibilidades en torno a los datos comerciales. Estructuras útiles ya están en marcha, como el Centro de Apoyo a los Espacios de Datos (DSSC) y la Asociación Internacional de Espacios de Datos (IDSA), que están construyendo marcos de gobernanza y técnicos que facilitan el intercambio seguro y sencillo.
Las actualizaciones a la Ley de Gobernanza de Datos (DGA) y el RGPD también están aclarando los permisos para la reutilización responsable. Los sandbox regulatorios pueden aprovechar esta base. Al permitir que las empresas prueben nuevos enfoques en un entorno controlado, los sandbox pueden demostrar que el beneficio público y el valor comercial no son mutuamente excluyentes. Las tecnologías que mejoran la privacidad añaden otra capa de seguridad al facilitar el intercambio de datos sensibles sin exponer a los individuos a riesgos.
Uno de los mayores desafíos para Europa es hacer que los datos funcionen dentro de los países miembros. La incertidumbre legal, los estándares nacionales divergentes y la gobernanza inconsistente fragmentan cualquier sistema. La Ley de Gobernanza de Datos es central en el plan de la UE para crear ecosistemas de IA confiables y transfronterizos. Sin embargo, las leyes por sí solas no resolverán el problema. "La verdadera prueba será la consistencia con la que los estados miembros implementen [la Ley de Gobernanza de Datos] y el apoyo que se brinde a las organizaciones que desean participar", afirmó Kotecha. Si Europa logra alinear estándares y ejecuciones, podría fortalecer su ecosistema de IA y establecer el estándar global para flujos de datos transfronterizos confiables.
Esto requerirá más que soluciones técnicas; construir confianza entre gobiernos, empresas y la sociedad civil es igualmente crucial. Para Kotecha, la solución radica en crear "un ecosistema de datos abierto y confiable, donde la colaboración maximice el valor de los datos mientras se gestionan los riesgos asociados con el intercambio transfronterizo".
La supervisión de los sistemas de IA exige estructuras sostenibles. Sin financiamiento a largo plazo, las organizaciones independientes corren el riesgo de convertirse en consultorías basadas en proyectos en lugar de vigilantes constantes. "La sociedad civil y las organizaciones independientes necesitan compromisos para flujos de financiamiento estratégicos a largo plazo para llevar a cabo la supervisión, no solo apoyo basado en proyectos", afirmó Kotecha. El Programa de Instituciones de Datos del ODI ha explorado modelos de gobernanza que mantienen a las organizaciones independientes mientras les permiten gestionar los datos de manera responsable. "La independencia depende de más que dinero. Requiere transparencia, supervisión ética, inclusión en la toma de decisiones políticas y estructuras de rendición de cuentas que mantengan a las organizaciones ancladas en el interés público", dijo Kotecha. Incorporar tales principios en los modelos de financiamiento de la UE podría garantizar que los organismos de supervisión permanezcan independientes y efectivos.
Una gobernanza sólida debería incluir supervisión ética, gestión de riesgos, transparencia y roles claros, manejados por subcomités de junta sobre ética, auditoría y remuneración.
El acceso a conjuntos de datos valiosos suele estar limitado a las grandes empresas tecnológicas. Los jugadores más pequeños enfrentan dificultades con el costo y la complejidad de adquirir datos de alto valor. Aquí es donde iniciativas como AI Factories y Data Labs juegan un papel crucial. Diseñadas para reducir las barreras, ofrecen a las startups conjuntos de datos curados, herramientas y experiencia que de otro modo estarían fuera de su alcance. Este modelo ha funcionado anteriormente, como en el proyecto Data Pitch, que emparejó a pequeñas y medianas empresas con datos de grandes organizaciones.
