El que l’algoritme amaga

L’any passat, per aquestes mateixes dates, Netflix mirava de capejar una de les crisis de reputació més grans de la seva història. El detonant va ser ‘Cuties’, una pel·lícula acabada d’adquirir per la companyia després d’haver sigut premiada al festival de Sundance. La cinta, en paraules de la seva directora, Maïmouna Doucouré, era un al·legat contra la hipersexualització de les nenes al món online. Resulta fins i tot irònic que Netflix fes per promocionar-la just allò que la pel·lícula pretenia denunciar. Al primer pòster oficial apareixien un munt de nenes preadolescents, escasses de roba i amb actitud provocativa. Apologia de la pedofília, explotació de menors, pornografia infantil... la crisi de reputació que va sacsejar internet va ser tal que la companyia la va retirar de la circulació i va fer diverses declaracions als mitjans demanant disculpes. Mentre tot això passava de portes enfora, internament Netflix portava a terme una purga per mirar de minimitzar l’impacte de la crisi, tal com es desprèn de diversos documents interns publicats recentment per la web especialitzada ‘Verge’. Netflix havia pres la decisió de prescindir de la imatge del pòster original (que mostrava un grup de nenes corrent per un turó) perquè, segons la seva opinió, no funcionaria bé a la plataforma. Al seu lloc, va optar per la imatge de la discòrdia, més provocativa. Una vegada desencadenada la tempesta, la solució va ser amagar-la. La pel·lícula va ser retirada dels resultats de recerca, de l’apartat ‘Pròximament’ i de ‘Recerques populars’. ‘Cuties’ tampoc hi apareixia quan es buscaven títols amb la paraula ‘guapis’ ni en cap selecció de pel·lícules infantils. La pel·lícula seguia al seu catàleg, però la va sepultar sota una gruixuda capa de programació. Aquest cas deixa ben clar fins a quin punt una companyia com Netflix pot posar la tecnologia i processos automatitzats al servei dels seus propòsits. Aquesta és la crua realitat en la nova economia d’internet. Ja sabíem que Netflix fa servir algoritmes que condicionen quina mostra a cada usuari en funció del seu historial de recerca i, també, dels continguts que li interessa promocionar a la companyia. Gràcies al cas de ‘Cuties’ ara sabem que el sistema té també la capacitat d’‘ocultar’ determinada informació si això serveix a un propòsit en concret. Resulta difícil escapar a les empentes de l’algoritme. Aquest conjunt d’instruccions que permeten ensenyar els sistemes informàtics com solucionar problemes s’han convertit en part estructural d’internet. Com usuaris no percebem tots els processos que tenen lloc a l’ombra quan, per exemple, busquem una cosa per veure a Netflix. Entenem la seva utilitat, que es materialitza en un resultat final, és a dir, el que aquest algoritme, en funció de les indicacions rebudes, ha decidit mostrar com a continguts recomanats. L’algoritme cisella la realitat i, per extensió, condiciona la nostra percepció de les coses. En un món ideal, els algoritmes podrien convertir el procés de presa de decisions en una cosa molt més eficient. Si en el seu disseny i gestió s’observés una mena de codi ètic seria possible obtenir solucions més objectives i menys esbiaixades. A la pràctica, no obstant, és molt difícil. Tot i que els algoritmes siguin en si mateixos neutrals, les intencions que es persegueixen amb ells rares vegades ho són. Per a Netflix els algoritmes estan supeditats a un objectiu principal: posar davant de l’usuari contingut que li resulti atractiu i, per tant, aconseguir que estigui connectat a la plataforma el màxim temps possible. Això reduirà les possibilitats que el client vulgui donar-se de baixa i, a mitjà termini, farà que guanyi diners. Ocultar un determinat contingut polèmic que pugui posar a prova la tolerància i el compromís del client també pot ser el camí per aconseguir aquest mateix resultat. Empreses com Netflix tenen a les seves mans el fet de poder treure l’incòmode i molest del paisatge. Això, a llarg termini, aixeca una presó invisible a la qual nosaltres mateixos estem llançant la clau. El biaix és una característica humana. La nostra visió de la realitat està condicionada per infinitat d’elements que condicionen les infinites decisions que prenem cada dia. I també contagia la tecnologia amb idees preconcebudes, prejudicis, opinions o propòsits ocults, que els mateixos desenvolupadors dels algoritmes transfereixen i apliquen en el disseny dels seus models. Per això la nostra realitat és el que l’algoritme mostra... però també el que amaga.

El que l’algoritme amaga

Les plataformes com Netflix poden posar la tecnologia i els processos automatitzats al servei dels seus propòsits. Aquesta és la crua realitat en la nova economia d’internet

El més llegit