"Competir amb Google o Meta és només un somni"

A l’entrar en les negociacions ja sabíem que els grans blocs serien els models fundacionals i l’ús de la IA per part de les forces de l’ordre. Hi va haver moltes discussions sobre quines obligacions adoptar en el primer cas, però en el segon va ser encara més difícil arribar a un acord. El Consell de la UE (organisme que representa als estats membre, llavors presidit per Espanya) tenia un mandat molt clar. La primera proposta de la Comissió Europea ja demanava excepcions policials i puc entendre que tots els països les volguessin. Així, la prohibició exigida pel Parlament ens va permetre començar les negociacions des d’un punt més elevat i aconseguir un acord amb salvaguardes molt més sòlides del que es pensava, per això fins i tot els Verds l’han recolzat. Hem eliminat l’ús preventiu d’IA, que hauria obert la porta a tota mena d’abusos. També hem limitat molt l’ús de sistemes biomètrics, només aplicables en situacions d’amenaça imminent, com un atac terrorista, i mitjançant autorització judicial. A més, tot ús policial es limita a una llista molt estricta de delictes, ha de ser notificat i requereix una avaluació de riscos. Hauré de llegir-ho per saber a què es refereixen. L’acord té més prohibicions que l’acord inicial. Sí, hi ha una prohibició, però amb una excepció. Des del meu punt de vista, es tracta d’un ús legítim perquè serveix a l’interès públic de seguretat i es basa en un marc que garanteix que no hi haurà abusos. Així que discrepo del comunicat del CEPD. Tot el que sigui analitzar dades sense identificar o afectar un individu concret, com la IA per predir tendències migratòries o crims, no té cap raó per ser prohibit o categoritzat com d’alt risc. En el moment en què se sotmet els individus als càlculs del sistema, com la IA per optimitzar entrevistes d’asil o per detectar amenaces de certs grups, ja es considera d’alt risc. Això significa que es pot desplegar la IA en aquests contextos, però que s’ha de fer amb garanties. Sempre hi haurà supervisió humana perquè l’algoritme no tingui l’última paraula. Els sistemes d’alt risc hauran d’entrenar els seus algoritmes amb dades no esbiaixades. Els desenvolupadors d’aquests programes d’IA tindran l’obligació que les seves dades siguin precises i justes, però també a ser transparents en el seu disseny per explicar a les autoritats com han arribat a una conclusió i no a una altra. Desgraciadament, en els últims 20 anys s’han creat unes dependències que fan que ara mateix sigui molt difícil competir amb Google o Meta. Per a mi, això és només un somni. No es pot, són massa grans. Però es pot continuar sent competitiu. No s’ha de posar com a objectiu ser el pròxim Google europeu, això és un fals dilema. Es pot tenir molt èxit i crear enormes beneficis i solucions amb IA, sent fins i tot millor que els nord-americans en això, sense ser Google.

"Competir amb Google o Meta és només un somni"

El coponent de la llei europea de la intel·ligència artificial explica els detalls i les polèmiques d’una regulació que Brussel·les ha descrit com a «històrica», però que encara trigarà dos anys a aplicar-se.

El 8 de desembre passat es va aconseguir un acord després de més de 35 hores de negociacions. ¿Quins han sigut els principals problemes?

El més llegit