“El futuro Reglamento de la UE sobre IA contemplará la necesidad de que estos sistemas sean ciberseguros”

Fuenlabrada

La carta remitida por 350 expertos en la que se alertaba de la necesidad de regular la Inteligencia Artificial, porque de lo contrario podría convertirse en un ‘riesgo de extinción’ para la Humanidad, al igual que una guerra nuclear o una pandemia, ha vuelto a poner en el punto de mira los nuevos desarrollos y aplicaciones de este avance tecnológico y la necesidad de su regulación. Si bien, algunos expertos creen que se está generando demasiada alarma entorno a estos sistemas, que ‘per se’ no son negativos, al contrario, ya vienen siendo beneficiosos para muchos servicios, si subrayan que todo depende del uso que se haga de ellos.

Así lo cree Miguel Rego, presiente del Clúster de IA de la Comunidad de Madrid, situado en Leganés, y exdirector del Instituto Nacional de Ciberseguridad de España, INCIBE, quien reconoce que la Inteligencia Artificial tiene un “potencial infinito”, sólo imaginable ahora “viendo películas de ficción”. No obstante, también precisa que una “mala aplicación” puede tener un impacto negativo en nuestros derechos fundamentales, como “el derecho a la información, a la intimidad, a la libertad de expresión…”. Advierte que hay una serie de factores para proteger, a la vez que evaluar, cómo se va incorporando a productos, “que luego tendrán un impacto en nuestra seguridad, como por ejemplo, soluciones que analicen nuevos medicamentos o aplicar estos sistemas a procesos de fabricación industrial”.

Reglamento Europeo en marcha

Los límites legales son, por lo tanto, cada vez más necesarios. Rego pone en contexto la carta de los expertos sobre los peligros de la IA, teniendo en cuenta que “son personas que vienen del área de influencia de EEUU, donde la legislación es más suave y más de actuar a hechos consumados”. No ocurre lo mismo en Europa. “Para tranquilidad de todos, en Europa, con una sociedad profundamente garantista, y centrada en las personas, ya en 2019 se empezó a abordar este asunto, redactando un código de buenas prácticas, pero la UE en 2021 se puso a promover una regulación a través de un Reglamento. Esta en una fase final, quizá para aprobarse este 15 de junio”. Sería, dice, la primera legislación en el mundo que establece garantías en relación con la Inteligencia Artificial.

El futuro Reglamento será una regulación bastante completa, donde se categorizarán los sistemas basados en IA por su nivel de riesgo, cuando mayor sea, mayores controles, requisitos y salvaguardas se impondrán, afirma. “Hay un nivel que se considera de muy alto riesgo, de forma que, por ejemplo, se podrían prohibir, perseguir y sancionar los sistemas de IA que permitan identificar a las personas en tiempos real por sus rasgos biométricos o que promuevan técnicas de manipulación, dentro del espacio de la Unión”.

Conexión IA y ciberseguridad.

Rego destaca la intrínseca unión entre IA y ciberseguridad, ya que muchas soluciones de Inteligencia Artificial se utilizan para la seguridad informática. Así, la detección y neutralización de un malware con agilidad es gracias a la IA, pero la relación a la inversa, también es fundamental, porque estos sistemas de inteligencia son muy vulnerables. “Se ha demostrado que estos sistemas se encuentran sujetos a muchos ataques con graves consecuencias, no sólo el robo masivo de información, sino también que un cibercriminal puede inyectar información falsa y manipulada que cambie el resultado de la decisión que adopte el sistema de inteligencia artificial y altere totalmente el resultado”, cuenta Rego. La buena noticia, dice, es que el futuro Reglamento contempla la necesidad de que los sistemas de IA tengan que ser ciberseguros para evitar este tipo de comportamientos provocados.

El Clúster de Leganés

Un Clúster es una asociación de organizaciones, generalmente empresas, según Rego, aunque en el caso del de Leganés también hay centros tecnológicos y de investigación, además de universidades. En este tipo de organización se buscan fomentar “la investigación y el desarrollo de tecnologías en un área específica, en este caso en IA. Igualmente se busca contribuir a generar demanda de los servicios o promocionar el talento profesional. Un esfuerzo coordinado de muchas partes con un interés común”, dice.

En el Clúster de la Comunidad de Madrid en Leganés hay 20 organizaciones de distinto tipo, cada una complementándose y trabajando en diseñar soluciones potenciales de IA que se desarrollan hasta comprobar su viabilidad, para que después empresas externas interesadas puedan utilizar y terminar de desarrollar, sin tener que pagar royalties, ni derechos. También se hacen estudios específicos y actuaciones como jornadas divulgativas, eventos, etc.