«Soc real, no un avatar»: l’apressant inquietud per detectar qui és real (i qui no) a internet

«Hola guapa, em dic Brice, acabo de veure el teu perfil. Estic disposat a mimar-te i donar-te 5.000 dòlars setmanals», escriu un tal @Brice_085 a Instagram. Està clar que el suposat ‘sugar daddy’ [home que ofereix regals a canvi de companyia, afecte o sexe] és un dels milers de ‘bots’ que interactuen sense parar en xarxes socials, en aquest cas, amb finalitats delictives. Tot i això, amb l’avenç dels avatars i, sobretot, de la Intel·ligència Artificial (IA), cada vegada és més difícil saber si usuaris, instagramers o tiktokers són persones humanes o virtuals. I aquesta creixent inquietud ja està arribant –de vegades amb l’exaltació de la cacera de bruixes– fins al punt que els creadors de contingut digital es troben cada vegada més en l’estranya tessitura de demostrar que són autèntics. «De veritat que soc real», ha mantingut la tiktoker alemanya Nicole Hermeteor, activista de l’alopècia femenina, després que alguns usuaris li dediquessin frases tipus «per déu, això no és un humà real» o «tinc por». Una altra tiktoker, Danisha Carter, acostumada també a aquest tipus de preguntes i comentaris, ha acabat convertint l’estètica avatar en un element estranyat de joc i de la seva marca personal. @danisha.carter ‘Influencers’ virtuals o d’estètica cíborg «El refrany de veure per creure quedarà obsolet, perquè ja no podem fiar-nos ni del que veiem», apunta la periodista i coordinadora de Maleïda Tecnologia Patricia Ruiz sobre el desafiament que suposa l’avenç de la IA unida a la desinformació. L’analista i cocreador del pòdcast ‘Monos Estocásticos’, Antonio Ortiz, ho explica així: «Per la nostra naturalesa donem més credibilitat a la foto i al vídeo que al text, però començarem a desenvolupar un fort escepticisme cap a tot el que ens arribi». Ruiz hi està d’acord. «Cal ser escèptics amb tot», afirma, i igual que abans estàvem previnguts davant un missatge cutre de WhatsApp, ara també hem d’estar-ho al consumir contingut audiovisual. La qüestió de l’autenticitat humana, però, va un pas més enllà dels continguts creats per IA. Cada vegada hi ha més eines per detectar si un text o una imatge estan elaborats artificialment. Allà hi ha, per exemple, les falses imatges del papa Francesc posant amb un abric blanc de Balenciaga, la detenció ‘fake’ de Trump o els balls a TikTok de la princesa Leonor, que en van portar molts a l’engany. Amb tot, els mecanismes per acreditar que una persona és autèntica, afirmen els especialistes, continuen sent molt rudimentaris. La «paranoia» de saber qui és real De fet, l’escepticisme davant l’autenticitat dels creadors de contingut arriba en un moment, a més, en què augmenten les ‘influencers’ virtuals que participen de campanyes publicitàries i actuen a les seves xarxes socials com persones reals. Una de les més populars és Lil Miquela, la IA que ha col·laborat amb marques tan punteres com Prada o Calvin Klein. A més, per fer-ho tot encara més complicat, aquesta creixent confusió coincideix quan, en plena explosió de la IA i les seves estètiques, una nova generació de personatges públics, com l’actriu Julia Fox i l’estrella de la telerealitat nord-americana Amelia Grey Hamlin, s’estan apuntant al ‘look’ cíborg. @juliafox #ad My Fashion week just got a whole lot less messy thanks to Magic Eraser on Google Pixel!! #FixedOnPixel @googlepixel ♬ original sound - Julia fox En aquest context pren el que la periodista Kate Lindsey ha qualificat de «paranoia» a la revista especialitzada en tecnologia ‘The Verge’. En un article titulat ‘A internet, ningú sap que ets real’, Lindsey pren el pols a aquesta creixent preocupació –«paranoia en el seu punt més àlgid», escriu– per acreditar la humanitat d’‘influencers’ –en aquest cas de carn i ossos– que sovint topen amb comentaris del tall «però, ¿ets un robot o no?», «això no és un humà de veritat» o «ja no tinc ni idea del que és real». Descreença «Com més contingut generat per IA es comparteixi, més gran pot ser la descreença en tot», sobretot per a aquelles persones que «surtin de la norma», afirma Antonio Ortiz. Això sí, segons l’analista, «la recerca del què és purament humà seguirà allà», igual com passa ara quan telefonem un servei d’atenció al client i demanem que no ens atengui un robot. «És normal dubtar i em sembla guai que ho fem al veure, com va passar a Rússia, una presentadora del temps creada amb IA», afegeix Ruiz, que creu que «hem fet alguna cosa bé quan ens plantegem si la realitat que estem veient existeix o no». Verificar que som ‘de carn i ossos’ I aquí toquem os: ¿quins mecanismes existeixen per verificar que no som robots ni estem interlocutant amb cap d’ells? Els Captchas es presenten normalment demanant que resolguem operacions matemàtiques senzilles o que assenyalem únicament les imatges que continguin semàfors, bicicletes o boques d’incendis. Però, ¿què passa quan la IA pot superar aquests mecanismes i dir-li a internet que també és humana? La qüestió és que, com més dades entreguem per verificar que som autèntics, més informació té la IA per esquivar els controls. Davant aquest desafiament, Patricia Ruiz, no obstant, considera que «la tecnologia avançarà i ens donarà la solució». Mentrestant, els usuaris creats per IA també es mouen per les xarxes socials de manera més o menys natural. En plataformes on no és comú trobar-se Captchas, també s’escampa la preocupació per veure qui és humà i qui no. Aquest és un dels «problemes» que es plantegen empresaris com Elon Musk, que ha decidit verificar els usuaris humans de Twitter amb un ‘tick’ blau. Per fer-ho, has de demostrar que ets real i pagar una mensualitat. S’introdueix així, explica Antonio Ortiz, una «nova problemàtica»: que ser humà a internet costi diners. Adaptació al futur: de l’‘et falta carrer’ a l’‘et falta internet’ La imatge del papa Francesc ha servit per «passar una bona estona» i fer broma amb aquells als quals «els falta internet», com apunta Ortiz. El problema és el focus pessimista que il·lumina la Intel·ligència Artificial. «No recordo cap altra tecnologia amb què hi hagi hagut tanta preocupació i missatges de prudència», explica l’analista. Ruiz afegeix que «la tecnologia ha existit sempre i ara mateix estem vivint-ne una revolució», per la qual cosa hem de confiar en els seus beneficis. Al cap i a la fi, afirma Ortiz, «amb una màquina d’escriure també es podien escriure textos falsos». Tots dos analitzen el punt actual de desenvolupament de la IA i s’esforcen per evitar l’alarmisme i veure aquesta tecnologia com el que és: «Un altre canvi social a què ens adaptarem».

«Soc real, no un avatar»: l’apressant inquietud per detectar qui és real (i qui no) a internet

Davant l’avenç d’avatars, ‘bots’ i la intel·ligència artificial, cada vegada més creadors de contingut es veuen en la tessitura d’acreditar que són humans

Els mecanismes de verificació són encara molt rudimentaris davant el desafiament que implica la IA

El més llegit