Inteligencia artificial y ciberseguridad

Fuenlabrada

La inteligencia artificial (IA) es un software basado en una fórmula matemática, un algoritmo, que consigue que una máquina piense, decida, hable, converse y razone como un humano, aunque la tecnología de IA está todavía en sus primeros pasos, según ha contado José Domínguez, socio de nuevas tecnologías, propiedad industrial e intelectual de Martínez-Echevarría Abogados. Para hacernos una idea, esta tecnología es la que permite “reconocer la voz de una persona, los sistemas de reconocimiento facial, los asistentes de voz, también hay inteligencia artificial para ayudar en la agricultura” o en la medicina, ya que la usan los desfibriladores o dispositivos para diagnóstico, por ejemplo. En definitiva, “hay miles y miles de casos ya. Se podría decir que todos los aparatos tienen una parte de IA”, precisa Domínguez, quien predice que “en uno diez años formará parte de nuestras vidas a todos los niveles”.

En los últimos días se ha hecho viral el ChatGPT, un sistema de chat basado en el modelo de lenguaje por Inteligencia artificial GPT-3, desarrollado por la empresa OpenAI, capaz de realizar funciones relacionadas con el lenguaje como traducir o generar un texto. En este caso la inteligencia artificial ChatGPT ha sido entrenada para mantener conversaciones con cualquier persona y responder de forma coherente, según cuenta José Antonio Rubio, doctor Ingeniero en Ciberseguridad por la URJC, quien asegura haber probado ya este ChatGPT “con algunas preguntas”.

Reglamento de la UE

Sin embargo, frente a las innegables ventajas de los aparatos que funcionan con inteligencia artificial, hay también otra cara de la moneda, esa que muchas veces no tenemos en cuenta, pero que puede poner en riesgo nuestra ciberseguridad. Ataques a esos aparatos pueden provocar un robo de nuestros datos e intromisiones indeseadas en la privacidad. Hay riesgos, como por ejemplo, un atacante que pueda pedir al sistema “escribir un mensaje mal intencionado, que sea muy difícil de detectar por el usuario, y toda esa potencia de la AI emplearla para fines maliciosos”, explica Rubio.

Ante los peligros, la Unión Europea ya elabora un reglamento al respecto “para establecer medidas de seguridad”, afirma Domínguez. “Trabajan en este reglamento que clasifica la IA en prohibida, riesgo alto, bajo-medio y bajo y ahí establecer las medidas para que esto no se produzca”, dice. Así, por ejemplo, tratar temas que tengan que ver con derechos fundamentales está prohibido, no se puede hablar de política, ni el derecho de voto, aunque reconoce que “queda muchísimo, porque la legislación siempre va detrás, pero se está en la buena dirección”.