"Que decida una máquina es un riesgo para la democracia": la IA avanza en la administración, pero la última palabra debe ser humana

La inteligencia artificial es una oportunidad para modernizar la administración, pero es necesario mantener la "reserva de humanidad" y reforzar los mecanismos de control. Así lo cree la catedrática de Derecho Administrativo de la Universidad de Castilla-La Mancha, Susana De la Sierra, defiende que la IA debe entrar en la administración pública, pero sin erosionar derechos ni agrandar brechas.

Ayudas públicas, sanciones administrativas o, incluso, diagnósticos médicos. La inteligencia artificial ya está influyendo en decisiones que afectan a nuestra vida cotidiana, pero para De la Sierra, la clave está en que "la decisión tiene que continuar siendo una decisión humana".

En este sentido, la experta en IA cree que Castilla-La Mancha parte de una posición razonablemente sólida. Tras más de tres años de investigación en proyectos financiados por la Agencia Estatal de Investigación y la Junta de Comunidades, considera que la región "lo está haciendo bastante bien", no obstante, insiste en mantener una visión equilibrada. "La digitalización y la inteligencia artificial presentan enormes oportunidades también desde el punto de vista de la conexión territorial", pero es imprescindible "abordar las posibles brechas que pueda causar este fenómeno".

Empleo público: nuevos perfiles para una nueva administración

La irrupción de la IA coincide con la jubilación de buena parte de la generación del 'baby boom' en el sector público. Esto, para la profesora, lejos de ser una amenaza, puede ser "una oportunidad" para repensar el modelo ya que, como en el sector privado, "se van a perder puestos de trabajo, pero se van a fortalecer otros".

El perfil tradicional basado en la memorización ya no será suficiente porque ahora se necesitarán personas "que dispongan de una serie de competencias y sean capaces de aplicarlas", explica. La administración del futuro requerirá empleados capaces de "hablar de tú a tú con esos instrumentos digitales y con esa IA que está utilizando".

La "reserva de humanidad"

Pero, ¿quién es el responsable cuando un algoritmo se equivoca? ¿quién responde si una ayuda se deniega indebidamente o si un sistema comete un error en el ámbito sanitario? Para esta experta, en todas las decisiones en las que opera un algoritmo tiene que haber una reserva de humanidad, es decir, "un ser humano que en última instancia responda de la decisión". A su juicio, incluso sin reformas normativas específicas, el ordenamiento jurídico actual permite determinar responsabilidades, siempre que exista un órgano administrativo claramente identificado porque delegar completamente en la máquina, advierte, supondría dejar a la ciudadanía desprotegida.

Además, distingue entre decisiones automatizables -aquellas regladas y sin margen de interpretación- y aquellas que implican ponderación. "Donde hay margen de interpretación, de apreciación, la máquina puede ser una ayuda. pero la decisión tiene que estar tomada en todo caso por un ser humano".