Predir les migracions: La UE desenvolupa un controvertit sistema d’IA amb ajuda catalana

Ja el 1956, la ment de l’escriptor Philip K. Dick va imaginar en ‘El informe de la minoria’ un món on la policia era capaç de predir els crims abans que ocorreguessin. El 2023, la Unió Europea (UE) preveu començar a adoptar a les seves fronteres un sistema d’intel·ligència artificial (IA) que endevini els fluxos migratoris cap al continent i les possibles tensions derivades, una controvertida eina algorítmica que està sent desenvolupada amb destacada participació catalana. El projecte, conegut amb el nom d’ITFLOWS, busca recollir informació sobre els corrents migratoris per gestionar de manera més òptima l’arribada, reubicació i integració d’aquestes persones que miren d’arribar a Europa esquivant els perills del mar Mediterrani, on l’any passat van morir ofegades o van desaparèixer unes 1.924 persones, segons l’ONU. Per a això compta amb una subvenció pública de 4,87 milions d’euros. Aquesta tecnologia completarà la construcció de l’anomenada «frontera intel·ligent», el sistema de vigilància que s’està desplegant a Espanya, Itàlia i Grècia, els països de la UE que fan frontera amb l’Àfrica. Aquesta tecnificació de les fronteres europees inclou altres mesures controvertides com l’ús de càmeres de reconeixement facial, drons de videovigilància o l’extracció de dades personals i biomètriques. Liderat per la UAB El setembre del 2020, Brussel·les va formar un consorci format per fins a 13 universitats, instituts econòmics, organitzacions humanitàries i l’empresa tecnològica grega Terracom per desenvolupar el projecte, coordinat per la Universitat Autònoma de Barcelona (UAB), finançat amb gairebé 761.000 euros. Anomenat EUMigraTool, el sistema pretén preveure futurs fluxos cap a Europa basant-se en dades públiques migratòries, econòmiques i demogràfiques d’organitzacions com Eurostat, el Fons Monetari Internacional (FMI) o les Nacions Unides. També pretén «detectar riscos de tensions derivades de la migració» mitjançant l’anàlisi del que es diu a les xarxes socials. Una vegada acabada, aquesta eina de predicció serà accessible només a oenagés de la UE i a municipis de les zones d’arribada de migrants per ajudar a agilitar la seva resposta. En cap cas, «ni governs nacionals ni institucions europees hi tindran accés», segons remarca a EL PERIÓDICO la coordinadora del projecte, Cristina Blasi. Les prediccions que faci la màquina no seran acatades al peu de la lletra, sinó supervisades per un usuari i utilitzades per ajudar a la presa de decisions. D’altra banda, el projecte compta amb la participació de tres oenagés, que han entrevistat més d’un centenar de migrants i sol·licitants d’asil per conèixer els factors que impulsen la migració. Aquesta informació, diuen, «no s’utilitzarà per predir fluxos», sinó per als informes públics on aquestes oenagés elaboraran periòdicament recomanacions de polítiques d’integració per a governs nacionals i la Comissió Europea, segons explica a aquest diari Irene Vití, responsable de gestió d’ITFLOWS d’Open Cultural Center. Aquesta organització humanitària, establerta a Barcelona i Grècia, ha rebut una subvenció pública de 116.800 euros. Múltiples riscos El sistema planteja alguns dubtes i riscos. «El consorci és plenament conscient dels riscos i dels seus potencials impactes en termes de posada en perill dels drets humans», diu un document de gener del 2021 elaborat pel consell ètic d’ITFLOWS i destapat per l’oenagé Disclose. En altres informes s’adverteix del perill que els «estats membres utilitzin les dades facilitades per crear guetos d’immigrants» així com per a «estigmatitzar, discriminar, assetjar o intimidar». L’accés de les oenagés a informació personal de les refugiades –que pot incloure detalls de caràcter ètnic, religiós o sexual– és especialment sensible. És per això que s’han proposat mesures per evitar usos indeguts de les entrevistes, com demanar consentiment als migrants i anonimitzar aquestes dades perquè no se’ls pugui identificar. Un document intern del comitè ètic apunta que aquestes entrevistes personals serviran per «millorar o perfeccionar la capacitat de predicció», tot i que Emma Teodoro, líder del comitè ètic d’ITFLOWS, matisa que «no serviran per al model, però sí que serà informació útil a tenir en compte quan elaborem informes». «Aquesta eina servirà per analitzar els patrons migratoris del passat, no per predir els que vindran». Ana Valdivia, professora d’IA, Govern i Política a l’Oxford Internet Institute L’ús de l’IA per fer prediccions també desperta sospites al sector. «Servirà per analitzar els patrons migratoris del passat, no per predir els que vindran», explica a aquest diari Ana Valdivia, professora d’Intel·ligència Artificial, Govern i Política a l’Oxford Internet Institute. L’experta assenyala com a problemàtic el fet que ITFLOWS també utilitzi les recerques a Google per a la seva suposada predicció. «Correlació no implica causalitat, que la gent busqui temes de migració no significa que hagin de migrar», afegeix. ⚠️ One of the main technical issues of predicting migration flows using Google searches is that you might fall into the trap of Google flu: https://t.co/lUlHj54959. People searching for a concept does not mean that the patterns on these searches will help to explain the future. pic.twitter.com/XfNExfplhA — Ana Vldv (@ana_valdi) 2 de agosto de 2022 Un altre dubte no menor és què passarà quan finalitzi el finançament del projecte l’agost del 2023. La intenció dels seus impulsors és que ITFLOWS i la seva eina predictiva passi a mans de les oenagés perquè coordinin la seva acció. Les entrevistades discrepen de si l’eina serà un prototip o estarà ja llesta per ser utilitzada, però coincideixen que el seu destí és incert. «No hem pogut concretar quin és el millor camí, però el que no farem és donar-la als governs», assegura Blasi. Militarització de les fronteres El temor que ITFLOWS es pugui utilitzar amb finalitats discriminatòries també es deu a l’interès que l’eina ha despertat a Frontex, les dades del qual ja han sigut utilitzades per testejar-la. L’Agència Europea de Guàrdia de Fronteres i Costes, punta de llança de militarització de les fronteres auspiciada per Brussel·les, figura als documents interns del projecte com a membre de la seva Junta d’Usuaris. També l’Agència Europea per a l’Asil (EUAA) –formada per representants dels Estats membre i de la Comissió Europea–, fent-les partícips en el «disseny» i «validació» de l’eina predictiva. «Ens consta que estan interessats en el projecte», assegura Teodoro. L’historial de Frontex preocupa. El seu anterior director executiu, Fabrice Leggeri, va haver de dimitir a l’abril després de ser acusat d’haver encobert abusos dels drets humans contra refugiats i migrants. Una investigació periodística de l’alemany ‘Spiegel’ va destapar l’agost que els guardacostes grecs realitzaven devolucions en calent il·legals en alta mar, que Frontex era conscient d’això i que va silenciar l’escàndol, fins i tot mentint davant el Parlament Europeu. Tot sufragat amb diners del contribuent. La coordinadora del projecte nega que Frontex acabi sent un usuari d’aquest sistema de predicció migratori. «Com a màxim li podrem donar informes bianuals per explicar-los els resultats que hem trobat», explica Blasi, investigadora i professora de Dret a la UAB. La líder del comitè ètic apunta cap a altres opcions. «Ara com ara, Frontex només podria utilitzar-la amb finalitats humanitàries [...] no per al control de fronteres. Si algú coqueteja amb un ús de seguretat hem pres mesures per limitar riscos», apunta Teodoro, que adverteix que un mal ús de l’eina causaria «problemes legals». «És impossible posar la mà al foc sobre el fet que no hi haurà un potencial mal ús de la tecnologia quan acabi el projecte».

Predir les migracions: La UE desenvolupa un controvertit sistema d’IA amb ajuda catalana

La UAB coordina un projecte que pretén pronosticar els fluxos migratoris cap a Europa per agilitar la resposta d’oenagés i municipis

El programa ITFLOWS, que asseguren no podran utilitzar els governs, planteja dubtes i riscos sobre el seu impacte en els drets humans

El més llegit