UNIR propone una guía para un uso ético de la IA en las universidades

Logroño

“Para garantizar un uso ético de la inteligencia artificial es importante contar con una supervisión humana. Es decir, que la IA no sea plenamente automática, sino que sea una persona quien tome las decisiones. La responsabilidad final siempre ha de ser nuestra, pues la ética es nuestra”, ha afirmado Daniel Burgos, director del Instituto de Investigación, Innovación y Tecnologías Educativas (UNIR iTED), durante la presentación de la ‘Declaración UNIR sobre un uso ético de la IA en Educación Superior’ celebrada hoy en el Auditorio de la Universidad Internacional de La Rioja en Logroño.

La Declaración tiene como objetivo sentar unas bases de consenso que guíen a todos los actores que forman parte del grupo Proeduca (profesores, estudiantes, personal de gestión, junta de gobierno, investigadores, etc.) en el uso, aplicación, e incluso desarrollo de soluciones basadas en IA.

Incluye un decálogo de directrices que puede servir de ayuda otros centros educativos, de forma que sea posible sentar unas bases de consenso en torno a un uso ético de la IA en Educación, adecuándose a principios como Equidad, Contribución Social, Transparencia o Trazabilidad, entre otros.

“La IA y su aplicación al aprendizaje y la investigación es un asunto que preocupa a las instituciones de Educación Superior. De hecho, en la próxima reunión de la Conferencia de Rectores en Santiago el abordaje integral de la aplicación de esta tecnología en las universidades va a ser un tema nuclear”, ha indicado José María Vázquez García-Peñuela, rector de UNIR, durante la presentación.

“Los especialistas en el campo científico, técnico y ético de UNIR y Proeduca han elaborado este decálogo sobre el uso ético de la IA en investigación y enseñanza en el ámbito de la Educación Superior, que ofrecemos a otras universidades como documento de ayuda y de reflexión”, ha agregado el rector.

Únete al canal de WhatsApp de la SER

Los centros educativos deben adaptarse a las necesidades de un mundo en constante desarrollo y enfrentar el reto de conciliar los aspectos más provechosos de la IA con la realidad docente e investigadora, evitando efectos negativos, como la introducción de sesgos y la potencial intromisión de la privacidad.

Por el momento, es responsabilidad (y voluntad) de cada institución delimitar el marco de influencia de las tecnologías IA en su ámbito concreto y de auto auditarse, si así lo desea, en la aplicación y respeto por el mismo.

Durante la presentación, Burgos, vicerrector de Proyectos Internacionales de UNIR, se ha referido al desarrollo de la inteligencia artificial generativa como el acicate en la elaboración de la ‘Declaración UNIR sobre un uso ético de la IA en Educación Superior’.

“La IA generativa permite un grado de autonomía sin precedentes. Sin duda, la inteligencia artificial favorece los procesos de enseñanza y aprendizaje, por ello nos hemos visto motivados para preparar este marco, que integra los principios tecnológicos y éticos. No quisimos centrarnos en el utilitarismo de una u otra herramienta, sino aportar las bases para un compromiso para el uso responsable y ético de la IA en todas las fases y componentes del proceso educativo, desde los estudiantes a profesores y gestores universitarios”, ha explicado Burgos.

El documento refleja las preocupaciones que expertos e investigadores universitarios internacionales manifiestan en los foros de trabajo en los que Burgos participa como director de UNIR iTED: “Todos tenemos una serie de inquietudes similares y esta aportación puede servirnos como punto de partida para dialogar con otras instituciones internacionales de forma abierta”.

Desafíos para la Educación

La Declaración recoge principios como el de Supervisión, que aboga por “mantener el uso, la configuración y la implementación de la IA de forma completamente controlada por personal competente, sin delegar la toma de decisiones en sistemas de IA completamente automatizados”.

También el principio de Transparencia, para garantizar que “los datos están protegidos y son siempre accesibles para el propietario”, según Burgos. O el de Trazabilidad, para permitir la identificación de los contenidos generados por IA, ya sean imágenes, vídeos o textos, evitando así “plagios en las fuentes de consulta”, como ha señalado el vicerrector.

Burgos se ha referido a algunos de los desafíos que presenta esta tecnología en el campo de la Educación: “El profesor ya no solo tiene que dar clase, ahora además es un verificador de plagios. Esto no es nuevo, hace veinte años ya existían portales a través de los que descargar trabajos. Los profesores ya disponen de motores anti-plagio que les ayudan a comprobar cuando se trata de una cita o directamente de una copia. Con la IA, ocurre igual: tenemos que comprobar que el contenido lo ha generado una persona y no una máquina. Ya existe un software para ello, la diferencia es que vamos a usar la misma máquina para detectar el plagio o las fuentes sospechosas de la propia máquina”.

En este punto, ha reivindicado Burgos, “lo que tenemos que trasladar, y a esto obedece el principio de Ética en la Declaración, es que lo que importa realmente somos nosotros. Si tenemos un buen armazón ético no vamos a caer en este tipo de prácticas”.