El nou sistema d'intel·ligència artificial capaç de respondre qualsevol qüestió amb llenguatge natural planteja reptes per a la metodologia docent i l'avaluació. Però la clau del seu bon ús és el pensament crític, una competència central en la formació universitària

El ChatGPT ha posat a prova els estudiants de primer del grau en Enginyeria Matemàtica i Física de la URV. De fet, ha estat el professor de matemàtica aplicada Manel Sanromà qui els ha posat a prova servint-se d’aquesta eina d’intel·ligència artificial (IA) que està copant les notícies i les converses, especialment del professorat, i que es basa en un model de llenguatge que utilitza l’aprenentatge profund per produir textos semblants als que podria redactar una persona humana. Sanromà afirma que l’aparició d’aquest sistema li va generar la mateixa sensació d’estar davant d’un element de disrupció que l’aparició d’Internet, i considera que les organitzacions educatives “no poden posar-s’hi d’esquena”.

Per això ell ja ha començat a provar-lo i va decidir integrar-lo en l’examen dels seus estudiants d’Àlgebra Lineal, la base matemàtica de l’aprenentatge de màquines, la tecnologia que està en el cor de la explosió de la Intel·ligència Artificial (AI), com el famós algorisme de Google. El professor va demanar-li al ChatGPT que elaborés quatre afirmacions sobre independència lineal de vectors, dues de les quals havien de ser verdaderes i dues de falses. I els estudiants havien de raonar en quines afirmacions havia encertat i en quines s’havia equivocat la màquina.

Preguntat per com afectarà el ChatGPT a la docència que s’imparteix a les universitats, el mateix xat enumera tres avantatges més a banda de la generació automàtica de preguntes i respostes: la creació de materials educatius; la correcció automàtica d’exàmens, i l’assistència en temps real per als estudiants. Però això pot canviar el dia a dia dels estudiants i dels docents i investigadors?

D’entrada, Sanromà aventura que “en qüestió de setmanes Bing (el cercador de Microsoft) incorporarà la resposta ja elaborada a les cerques i Google pot passar de ser el monopoli de cerca al segon o tercer cercador”. També preveu que el paquet de programari Microsoft 365 “incorporarà el nou sistema a les aplicacions i els podrem demanar que elaborin el contingut que vulguem en llenguatge natural. Per exemple, un Power Point ens podrà generar una presentació del tema que li demanem en el nombre de diapositives que li indiquem”.

Ara bé, són prou fiables les respostes que mostra aquest xat per ser utilitzades en contextos educatius i fins i tot de recerca? Antonio Moreno, catedràtic de llenguatges i sistemes informàtics expert en lògiques per a la IA, especifica que el ChatGPT “no és una base de coneixement amb complexos mecanismes d’inferència associats, ni una eina que li facis una pregunta i vagi al web a buscar la possible resposta, sinó simplement un model de llenguatge. Això sí, sofisticat.”

D’aquí que la màquina només encertés una afirmació de les quatre que va generar en la pregunta d’examen que va demanar-li Sanromà, perquè “l’algorisme no té cap idea de la seva validesa lògica. És un generador de frases correctes, a partir del text que introduïm i de l’aprenentatge que ha tingut”. El ChatGPT li dona la raó i puntualitza que “es requereix una implementació curosa i una avaluació contínua per assegurar que aquesta tecnologia s’utilitzi de manera efectiva i ètica.”

En aquest sentit, Marta Sales, catedràtica de física experta en anàlisi i predicció de dades, considera que “el perill més important és que aquesta eina es converteixi en la font principal d’informació. És útil però has de saber aplicar el pensament crític i contrastar la informació que t’ha proporcionat.” Sanromà coincideix que és “vital ensenyar esperit crític.” De fet, “el rol del professor serà ensenyar a verificar el que diu la màquina i provocar els estudiants: què és verdader? Què és fals? Les classes seran més divertides”, afirma.

El professor de seguretat en xarxes i comissionat de Govern Obert i TIC de la URV, Jordi Castellà, va una mica més enllà i reflexiona sobre el possible ús indegut de l’eina per superar les avaluacions i què cal fer en cas de conflicte. Veu “complicat” demostrar amb evidències quan s’ha utilitzat, per això valora més factible “fer les proves en entorns controlats on es garanteixi que la resposta prové de l’estudiant”. No obstant això, conclou que si bé aquests sistemes “poden facilitar molt més el plagi o comportaments reprovables per part dels estudiants, utilitzar-los amb aquesta finalitat va en contra seva perquè el seu objectiu ja no seria aprendre, sinó superar l’avaluació.”

Segons Sanromà, l’eina també afectarà a la recerca: “Els articles científics els escriurà la màquina i tu hauràs de modular-los”. Sales considera, no obstant això, que per escriure revisions i context dels projectes de recerca “pot ser inspirador” però “no servirà si fas recerca innovadora o investigues qüestions que no ha fet mai ningú”.

Moreno és d’un parer similar: “Jo aconsellaria a qualsevol investigador de qualsevol àrea que estigui atent als avanços en el tema, però si utilitza ChatGPT ara mateix, que sigui conscient dels mecanismes que té darrera i, per tant, del que pot o no pot esperar-se d’ell.” El seu grup de recerca, ITAKA, dissenya nous mecanismes d’anàlisi intel·ligent de dades o de suport a la presa de decisions, i després els apliquen a diferents dominis com ara la Medicina, el Turisme, la Comunicació o la Lingüística. I si bé és conscient que sistemes com ChatGPT “són ara molt populars perquè són molt aparents, gratuïts i accessibles pel gran públic”, té clar que “apareixeran sistemes millors i més avançats.”

Això diu el mateix xat quan li hem preguntat: “Els investigadors estan treballant constantment en millorar les capacitats dels sistemes d’IA, com l’aprenentatge automàtic, el processament del llenguatge natural i la comprensió del context”. Però no ha sabut precisar. “És difícil predir amb precisió quan es desenvoluparan sistemes millors i més avançats que el ChatGPT. L’avenç de la tecnologia d’intel·ligència artificial dependrà de la inversió en recerca i desenvolupament, així com de la velocitat de progrés de la comunitat científica”.