Les claus de la nova llei d'intel·ligència artificial

Barcelona

Aquest dimecres, Europa fa un pas de gegant per regular la intel·ligència artificial. El Parlament Europeu aprova la primera llei del món per limitar aquesta tecnologia. Finalment, s'ha aconseguit un equilibri entre aquells que volien més garanties de privacitat pels ciutadans i els que aposten per estendre el seu ús a àmbits com les investigacions policials. Val a dir que el redactat final constata el que ja es deixava entreveure al desembre, quan es va tancar l'acord provisional: el reglament marca el camí del que es pot fer i del que no, però no concreta com s'hauran de resoldre qüestions clau com la defensa dels drets d'autor. Sobre els detalls d'aquesta llei i els dubtes que se'n deriven, per l'Aquí Catalunya ha parlat Jordi Ferrer, advocat especialitzat en dret digital.

La negociació d'aquesta llei va consistir a determinar què ha d'estar prohibit i què ha de supervisar-se permanentment. Queden prohibits els sistemes que afectin la seguretat de les infraestructures crítiques i els relacionats amb l'educació (per exemple, no es pot fer servir la IA en un sistema d'admissió a alguna feina o per gestionar la migració). Tampoc no es podrà fer servir la intel·ligència artificial perquè exerceixi com "una policia predictiva", que s'anticipi a la comissió de delictes. Una altra cosa que no es podrà fer és el que els seguidors de Black Mirror van veure a l'episodi 'Caída en picado': els humans puntuaven els altres en funció dels seus actes, sortia una nota, que els permetia accedir a serveis en funció de si eren bons ciutadans. La Xina ja va experimentar amb un sistema de puntuació massiva. Però amb la llei europea, l'ús d'aquesta tecnologia estarà prohibit per part de les administracions.

Sistemes d'identificació biomètrica

Entre el que s'haurà d'anar supervisant, hi ha els sistemes d'identificació biomètrica remota, que un ampli sector del Parlament volia prohibir. Són per exemple les càmeres de reconeixement facial que permeten localitzar persones en pocs minuts. Els primers esborranys de la llei eren molt restrictius, però a la darrera versió marquen una sèrie de supòsits en què es podrà fer servir -sempre sota autorització judicial-, per exemple: buscar víctimes de delictes, persones desaparegudes, o amenaces d'atemptat terrorista. Però hi ha una excepció sobre les excepcions que val la pena destacar: "les autoritats es poden saltar la normativa i actuar, encara que posteriorment es declari que l'ús del sistema hagi estat inapropiat".

Queda pendent de resoldre què passa amb els drets d'autor

El Reglament Europeu d'IA repeteix al llarg del seu articulat que tots els sistemes han de garantir el compliment dels drets d'autor, però no diu com... Sí que és veritat que la llei contempla crear una Oficina de la IA, un òrgan que supervisarà la normativa. Però no diu res més. Per posar context: per crear continguts, la intel·ligència artificial necessita entrenar-se amb publicacions, treballs, imatges que hem generat els humans. Aquesta pràctica habitual ha obert el debat de què cal fer amb els drets d'autor. La llei preveu que, "en matèria de propietat intel·lectual, hi hagi una transparència quant a quines dades s'han utilitzat per entrenar determinats models".

La intel·ligència artificial també pot fabricar notícies falses. Per combatre els 'deepfakes', la llei preveu que “les produccions per intel·ligència artificial que simulen una obra humana, han de tenir necessàriament un etiquetatge”. És a dir, cal advertir l'espectador o l'oient que estem davant d'alguna cosa creada amb intel·ligència artificial. Que ho acabin fent o no els autors, ja és una altra cosa.

Únete al canal de WhatsApp de la SER