Linda Castañeda, doctora en Tecnologia Educativa: «ChatGPT ara mateix és aquell alumne gandul amb retòrica»

La colombiana Linda Castañeda és una de les investigadores més importants sobre l’impacte de la tecnologia en l’educació que avui i demà debat al Campus Ciutadella de la UPF sobre ‘Aprendre en temps d’intel·ligència artificial (IA)’. Professora de futurs mestres a la Universitat de Múrcia, Castañeda està convençuda que el gran repte del nostre temps és entendre com utilitzar la IA per piratejar la nostra pròpia intel·ligència. –La IA no és una cosa que hagi aparegut ara. Tots els algoritmes que fan que els nostres fills i nosaltres mateixos estiguem enganxats a una pantalla durant un temps ics són algoritmes d’IA. No ens resulten tan sorprenents com ChatGPT perquè no hi parlem, però de la mateixa manera utilitzen una sèrie de dades que van guardant per mantenir la nostra atenció el màxim temps possible. –L’atenció, bon tresor. –El capital més gran de qualsevol empresa és l’atenció dels clients. Ja no és ni la teva capacitat de comprar, sinó el teu temps. I això opera també per als nens. La majoria dels jocs que són gratis en línia als quals els nens juguen de manera habitual són jocs que ofereixen recompenses molt ajustades a la quantitat de dades que van recollint d’ells. I tot això s’ha aconseguit a partir de formes més o menys primitives d’IA. ChatGPT, de moment, el que ha fet és precisament atendre la nostra atenció, i això espanta molt, perquè estem deixant de fer altres coses, nens i adults, per entregar la nostra atenció, tota, a aquest tipus de qüestions. ChatGPT ha posat sobre la taula la importància de reconfigurar què és el que han d’aprendre a fer els nostres alumnes –La dura foto del nostre temps. –Avui dia, els desenvolupaments d’IA que suposadament pretenien automatitzar qüestions profundes de l’aprenentatge no existeixen. El que existeix és informació sobre què motiva la gent a quedar-se davant de la pantalla per captar la seva atenció i oferir-li continguts que siguin més que un joc o que vagin més enllà de la recompensa fàcil d’un joc simple. –L’essència de l’educació ha sigut sempre aquesta: atrapar l’alumne, ¿no? Però la competència és immensa... –La ‘gamificació’ ha resultat ser molt, molt, efectiva per a la gent que no tenia motivació per fer les tasques. Per a les tasques superavorrides, la ‘gamificació’ és fabulosa. Però, en els tasques per a les quals els estudiants ja estaven motivats, la ‘gamificació’ redueix la motivació. Quan un estudiant està motivat, ficar-li una ‘gamificació’ al mig l’avorreix. –Continuï... –Una de les coses que més ha remarcat la IA generativa [ChatGPT] és la importància de reconfigurar què és el que han d’aprendre a fer els nostres nens. –¿I què és? –¿El quid de la qüestió és que la meva filla aprengui a sumar? Sí, sens dubte, la meva filla ha d’aprendre a sumar. La qüestió és ¿com avaluaré que aquesta nena ha adquirit aquesta capacitat? ¿Preguntant-l’hi? –¿No? –Si és preguntant-l’hi, el problema que tenim amb la IA generativa és que probablement aquesta ens donarà una resposta que ens valdrà com el 5 de tota la vida. De moment són eines de 5 o de 6. La pandèmia va servir per portar a terme una transformació digital pel broc gros, però també ens va entregar a qui ens volgués oferir alguna cosa –¿ChatGPT aprova per poc? –De moment, sí. Però algú que no tingui cap motivació envers el que està aprenent intentarà per tots els mitjans arribar a aquest cinc sense que pel seu cap passi la més mínima partícula d’informació, perquè l’avorreix, perquè no hi troba sentit. –Aprovar sense que passi pel teu cap la més mínima partícula d’informació sona preocupant. –Aquí entren qüestions com ara per a què serveix aprendre. ¿Als nens els ensenyem per a què serveix aprendre? No només què han d’aprendre i com m’ho han de demostrar, que és molt important, sinó ¿per a què serveix? Últimament la recerca en educació parla de dos conceptes: l’aprenentatge connectat i l’aprenentatge interconnectat. I tots dos emfatitzen que l’objectiu de l’aprenentatge ha de ser molt evident tant per a l’estudiant com per al professor, i no es pot resoldre amb l’argument que és en el currículum, perquè això no té cap sentit. En el moment en què ho aconseguim repensar, per a què serveix aprendre, en aquell moment podrem posar en relleu el fet mateix de l’aprenentatge. Aprendre és una activitat, no només és un resultat. –ChatGPT, llavors, ¿és una eina per treure un cinc sense aprendre? –No. ChatGPT és com aquell alumne gandul amb retòrica. No se les sap totes, se’n sap moltes, però et deixa anar un rotllo. El primer paràgraf té algun sentit; el segon és una paràfrasi de l’anterior, i així va parafrasejant-se a si mateix. Si li demanes les referències, normalment et dona referències que no existeixen. La IA ens pot ajudar a automatitzar processos, però el repte continua sent que la gent pensi; ara més que mai el repte és que no s’etiqueti ningú per sempre –Això millorarà, és clar. –Sí. ChatGPT 4 ja podrà parafrasejar un llibre sencer. Jo intento treballar amb els meus alumnes des del ‘potser ara voleu intentar que ChatGPT us faci la tasca, però en pocs anys estareu a l’altre costat, preocupats perquè no us la colin’. La qüestió és ¿com treballareu sobre això? –¿És urgent canviar la manera d’avaluar? –Des de l’anys 80 hi ha discursos sobre que cal canviar l’avaluació. Hi ha molta recerca que assenyala que la declaració de coneixements queda curta, però tothom estava passant de costat. Ara la pregunta de molts és la següent: ‘¿Com m’adonaré que qui m’està fent l’examen és el meu estudiant i no ChatGPT?’. –Exacte. ¿Com? –Passant per una eina de detecció. Però no es tracta d’agafar l’infractor. La qüestió és com ho fem per generar una nova manera d’entendre l’educació. Els meus estudiants a la universitat ja estan utilitzant IA, amb o sense permís dels seus docents. El capital més gran de qualsevol empresa és l’atenció dels clients; ja no és ni la teva capacitat de comprar, sinó el teu temps –Sense permís, ja m’ho imagino. Posi’ns exemples de l’ús amb permís. –La IA pot servir per veure què han entès de la lliçó. El primer exercici que vam fer aquest curs consistia a donar-los una sèrie de preguntes perquè les donessin a ChatGPT i després n’havien de revisar les respostes. ChatGPT va respondre malament a cinc. Més de la meitat dels meus alumnes no van revisar les respostes i em van entregar la xorrada que havia posat ChatGPT. Estava escrita d’una manera molt bonica, per cert, però era una xorrada. A mi em va encantar, i els vaig dir: ‘¿Que ho veieu? ¡Heu de corregir la tecnologia!’. El gran repte és entendre com utilitzar-la la IA per piratejar la nostra pròpia intel·ligència; repensar quina és la intel·ligència humana a què no podem renunciar –Una altra preocupació és què passa amb les dades dels nostres nens. No només amb la IA, sinó també amb el ‘classroom’. –Amb el tema del ‘classroom’ cal fer plantejaments molt seriosos polítics i legislatius. A la UE ja hi ha una taula sobre robots, dades, IA i legislació. No podem dir: ‘No, no, és que estem utilitzant Google Classroom perquè ens el donen gratis’. Hi ha d’haver una raó major. No serveix que ens diguin que no faran res de dolent amb aquestes dades. Els legisladors, que són els que ens protegeixen, han de tenir més informació. A les famílies ens queda una tasca d’educació molt important amb l’assumpte de les dades. No només per als nens, sinó també per a nosaltres mateixos: quines són les dades què compartim, quina és la higiene digital que tenim a casa... Però pel que fa a Google Classroom els responsables no són les famílies. –¿Qui és? –És el sistema educatiu. La pandèmia va servir per portar a terme una transformació digital pel broc gros, ràpid, però també ens va entregar a les mans de qui ens volgués oferir alguna cosa perquè estàvem en una situació d’emergència. –I res és gratis, però les famílies tampoc podien fer res. –Les famílies tenen una cosa fonamental que es diu vot. Les famílies mouen el sistema educatiu, també. Hi ha decisions polítiques, econòmiques, sobre ciberseguretat, que han de prendre al cor dels governs. –¿Les famílies són prou conscients d’aquests perills? –No es tracta del perill, sinó de la realitat. Hi ha discussions molt importants que s’haurien de tenir que tenen a veure amb les dades, a qui serveix el sistema educatiu, quines són les negociacions que els governs han de tenir amb les grans tecnològiques... perquè una escola no té capacitat de negociació amb Google, però un govern, sí. La UE, sí. Els algoritmes no tenen moralitat. ¿Les persones que creen els algoritmes sí que en tenen? Sí, però els algoritmes ja creen algoritmes –Més enllà del fet que te la colin, que no és menor, ¿quin impacte pot tenir la IA en el futur de l’educació? –Sempre hem pensat que la IA ens faria aprendre com aprenien a Matrix. Que l’‘operator’ et carregava els coneixements. Però això no existeix; no és possible. La IA no funciona en procés. T’ofereix un resultat final, i si per a això ha de seguir un camí més o menys ètic, o més o menys moral, no té cap rellevància. Els algoritmes no tenen moralitat. ¿Les persones que creen els algoritmes sí que en tenen? Sí, però els algoritmes ja creen algoritmes. La IA ens pot ajudar a automatitzar moltíssims processos, però el repte continua sent que la gent pensi coses; ara més que mai el repte és que no s’etiqueti ningú per sempre. –¿Què vol dir? –A mi em sembla perillosíssim que amb les dades d’un estudiant de primària i secundària es decideixi què ha d’estudiar una persona a la universitat. Conec molta gent a qui a primària i secundària li anava regular i que a la universitat és brillant. Ara mateix la IA té moltíssimes possibilitats, sobretot per gestionar informació, però el factor humà és més important que mai. –¿Quin és el principal repte? –El gran repte és entendre com utilitzar-la la IA per piratejar la nostra pròpia intel·ligència; per repensar quina és la intel·ligència humana a què no podem renunciar. Amb el tema del ‘classroom’ cal fer plantejaments molt seriosos polítics i legislatius –Es parla de la IA per avaluar els alumnes sense el biaix del professor. ¿Com ho veu, això? –Jo és que no crec en l’avaluació objectiva; l’avaluació sempre és subjectiva. L’avaluació objectiva desnaturalitzada de la persona no té sentit. El sentit de l’ensenyament no és que l’estudiant sàpiga una sèrie de coses, sinó que sigui capaç de desenvolupar una sèrie de coses. Per a això, l’avaluació que ara com ara pot fer una màquina no em serveix. No hi ha cap màquina que avui dia pugui avaluar el pensament crític. –Tota l’estona diu ‘encara’, ‘avui dia’... ¿Arribarà aquell dia? –No en tinc ni la més remota idea.

Linda Castañeda, doctora en Tecnologia Educativa: «ChatGPT ara mateix és aquell alumne gandul amb retòrica»

La intel·ligència artificial ja ha entrat a l’escola, ¿i ara què?

Claus per a l’ús de la intel·ligència artificial a l’escola

¿Prohibir ChatGPT? L’avenç de la IA accelera els intents de regulació

El més llegit