María Paz Hermosilla: "Debemos avanzar hacia sistemas de inteligencia artificial que estén chequeados"

VITORIA-GASTEIZ

Vitoria-Gasteiz se ha transformado esta semana en la capital mundial del gobierno abierto al acoger la novena edición de la Cumbre Global de la Alianza para el Gobierno Abierto (OGP). Este evento de máximo nivel internacional reúne a líderes gubernamentales, expertos y miembros de la sociedad civil con el objetivo de promover un modelo de gobernanza más transparente y participativo. La Alianza para el Gobierno Abierto, una iniciativa internacional compuesta por 75 países y 150 gobiernos locales, busca desarrollar políticas que fortalezcan los espacios democráticos, la participación ciudadana y la rendición de cuentas.

Se estima que más de 2000 personas, e incluso más, asisten al encuentro, llenando los hoteles de la ciudad. Las ediciones anteriores de este foro se llevaron a cabo en sedes como Canadá, Francia, Corea o Reino Unido, lo que subraya la importancia de que foro.

Durante los tres días de reunión, los participantes intercambian experiencias, promueven nuevos proyectos y abordan ejes temáticos centrados en las personas, las instituciones y la tecnología, incluyendo derechos digitales, medio ambiente, y el papel crucial de la inteligencia artificial (IA).

El Desafío de la Transparencia Algorítmica

Uno de los temas centrales del debate es cómo garantizar la transparencia y la ética en la aplicación de la tecnología en la gobernanza. María Paz Hermosilla, Directora del GobLab UAI, laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez en Chile, participa en la cumbre con una doble sesión enfocada en la IA.

Hermosilla explica que los algoritmos, desde los más simples hasta complejos sistemas de inteligencia artificial, son utilizados por los gobiernos para tomar decisiones y asignar servicios sociales, de vigilancia o sanitarios. Por ejemplo, en Chile, la IA ayuda al diagnóstico de enfermedades a la retina, llegando a determinar qué pacientes deben ver a un especialista. En España, el subsidio eléctrico (Bono Eléctrico) es asignado por un algoritmo.

Ante la creciente automatización de las políticas públicas, Hermosilla subraya la necesidad de la transparencia algorítmica, que define como "la capacidad de es recibir la información que uno necesita para poder entender cómo un sistema toma decisiones y poder evaluar si ese sistema está respetando o no mis derechos".

Hermosilla advierte que la regulación de la IA es compleja y debe proceder con cautela, especialmente en áreas críticas como la salud y la seguridad social, dado que los sistemas no revisados reproducen y perpetúan sesgos sociales. La investigadora chilena destacó la importancia de la rendición de cuentas: "debíamos avanzar hacia sistemas algorítmicos y de inteligencia artificial que estén chequeados para que cuando los usemos no es nuestra responsabilidad, sino que es la responsabilidad de la sociedad que se ha hecho cargo de minimizar los daños de sistemas y chequear que sean seguros". La falta de auditoría puede generar discriminación sistémica contra minorías étnicas y personas de bajos ingresos.

Impacto de la cumbre de Vitoria

Para Vitoria-Gasteiz, la celebración de la cumbre representa el "mayor evento internacional que ha acogido nuestra ciudad". La alcaldesa Maider Etxebarria destaca que la elección de Vitoria como sede se debe a la "buena imagen y proyección" que la ciudad transmitió con eventos anteriores, como la cumbre de la ONU sobre víctimas del terrorismo.

Etxebarria apunta el importante retorno económico y la proyección para la ciudad. Se espera una gran repercusión en la hostelería, hotelería, taxis y comercio, impulsando la economía local. Etxebarria asegura que el evento es una oportunidad para posicionar la ciudad en el exterior: "todas las miradas internacionales se van a dirigir directamente a nuestra ciudad; es hora de creéroslo"

Para aprovechar la presencia de los asistentes, el Ayuntamiento ha organizado los eventos de manera coordinada con el Gobierno de España, distribuyendo las sesiones más allá del Palacio Europa (la sede principal) a otros puntos de interés como el Palacio de Villasuso, Montehermoso, o la Casa de las Mujeres, buscando que "diferentes barrios se vean compensados".

Además de las visitas a monumentos clave como el Memorial de Víctimas del Terrorismo, el casco medieval y la Catedral, la estrategia busca que los asistentes se transformen en "prescriptores" de la ciudad, utilizando la cumbre para que luego "nos hagan de altavoz por todos los sitios del mundo". La relevancia del evento se confirma con la asistencia del Presidente del Gobierno a la apertura y la visita del Rey el jueves.