No és un acomiadament; és censura i discriminació

Fa temps vaig veure una xerrada TED en què un directiu de Google enaltia la cultura de l’error. Amb una posada en escena molt anglosaxona, explicava com l’empresa tenia equips sencers creats amb l’objectiu de caçar qualsevol pífia als productes o serveis que havien de llançar-se pròximament al mercat. Vaig aplaudir la idea que la revisió i l’autocrítica formessin part dels objectius de la casa, fins que vaig entendre que això només afecta tecnologia, dispositius o programes. La crítica a la integritat i als valors de la companyia no se celebren, sinó que se silencien –especialment quan arriben des dels marges del privilegi–. I així va ser per a Timnit Gebru, que liderava l’equip d’ètica en intel·ligència artificial de Google fins a la setmana passada. Em va cridar l’atenció la seva sortida, que inicialment es va cobrir com un acomiadament motivat per un article acadèmic –encara en redacció–, que recull evidències dels impactes ètics i ambientals de determinats models algorítmics. Aquests procediments són en la base que Google utilitza en el seu cercador, i per tant formen part del seu model de negoci. La recerca l’ha dut a terme junt amb altres membres de l’equip i un parell de col·legues de l’acadèmia. Aquesta és una pràctica comuna, en la qual universitats i empreses col·laboren: les primeres posen el rigor, i les segones, els casos d’ús amb les seves dades. De fet, Gebru va obtenir el seu doctorat a Stanford, és una investigadora molt reconeguda, i per això la van contractar, pel seu recorregut en l’ètica de la intel·ligència artificial. No és el primer article crític que escriu, però sí que és la primera vegada que l’empresa li suggereix que no constin els noms dels seus quatre empleats en l’autoria. La doctora Gebru va demanar explicacions de tornada i va compartir la seva indignació en un xat intern. L’escrit respira impotència i convida a deixar d’esforçar-se per millorar les coses en una companyia que no vol canviar. El codi de conducta inclou la famosa frase «‘don’t be Evil’» (no facis el mal) i continua amb una invitació a aixecar la veu en cas de detectar una cosa inadequada. És clar que tocar el xiulet i demanar explicacions és molt més difícil quan en les reunions ets l’única dona afrodescendent, perquè només sou el 2% de la plantilla global. Les primeres línies de direcció van utilitzar el missatge com a pretext per acceptar la seva (suposada) renúncia. I per acabar-ho d’adobar, rescindeixen el seu contracte mentre està de vacances. Legalitat i moralitat a part, amb l’statu quo hem xocat. Gebru va arribar als Estats Units com a sol·licitant d’asil amb 15 anys, després d’haver fugit del conflicte armat entre Eritrea i Etiòpia. Vint anys després i després de molt esforç, és un dels referents africans en el camp de la intel·ligència artificial. Sent minoria dins de la minoria femenina, a més d’investigadora és activista. Va decidir cofundar la iniciativa Black in AI i tornar regularment al seu país natal per despertar joves vocacions en l’àmbit de la computació. Ara ha perdut la seva feina per defensar l’ètica i la diversitat en una empresa que suposadament la va contractar per a això. El recolzament a Gebru compta amb milers de firmes de dins i de fora de la companyia, i s’afegeix a una carta que exigeix transparència sobre els motius per limitar la difusió de la recerca. Aquesta censura subtil alimenta l’opacitat. Va més enllà d’incloure o no els noms en un article; és entremetre’s en el procés acadèmic de validació. En aquest punt deixa de ser un assumpte contractual entre l’empleada i l’empresa; és d’interès públic. A més d’insistir en el racisme corporatiu transversal en la indústria tecnològica, hauríem d’afegir-hi dues preocupacions. D’una banda, Google no és només un monopoli que interfereix en les nostres vides a través de la publicitat que ens brinda, sinó que a més limita fins a quin punt l’acadèmia pot escrutar les seves pràctiques. De l’altra, i mentre l’ètica sigui una pedra a la sabata que apareix en la retòrica dels grans gurus, s’han d’oferir garanties al talent dissident. L’acomiadament de Gebru deixa clar que encara estem lluny de poder assenyalar la falta d’inclusió i diversitat sense por de represàlies.

No és un acomiadament; és censura i discriminació

La rescissió de contracte a Google de Timnit Gebru mostra que la companyia silencia la crítica a la seva integritat i valors

El més llegit