El funcionament de la IA. Com s'entrena?

Adaptació de l’article original de Leon Furze.

Les eines amb IA més potents que trobem avui dia al mercat també són les més multidisciplinàries, amb un ampli conjunt de coneixements, una quantitat enorme de dades amb les quals s’han entrenat i processos de desenvolupament i d’ajustament que les fan útils en una gran varietat de tasques.

Aquest és, precisament, el primer obstacle amb què ens trobem quan fem servir una eina d'IA generativa: són tan versàtils en tants àmbits que, per aprofitar-les al màxim, hem de tenir molt clar què volem aconseguir.

Aquesta casuística apareix sovint quan un usuari novell encara no ha après a utilitzar una eina amb IA generativa. Quan es comença a utilitzar-la, molt aviat ens adonem que cap usuari té del tot clar quina és la millor manera d’obtenir la informació exacta que necessita. Aquesta és una manera de treballar amb eines digitals totalment nova: de manera conversacional, dialògica i iterativa.

Per treure el màxim profit de les eines amb IA, necessitem una certa experiència en el seu ús. Paradoxalment, l'única manera d'aconseguir aquesta experiència és utilitzar l’eina moltes vegades. Aquells que heu tingut el temps, els recursos i l'energia per treballar-hi, especialment des del llançament de ChatGPT, segurament heu trobat maneres eficaces de millorar les vostres consultes i refinar les respostes de la IA. Però hi ha una gran diferència de coneixements entre aquest grup reduït de persones i la majoria dels usuaris, els quals encara entenen la IA generativa com una altra eina digital més, similar a una cerca a Google.

El problema es complica encara més quan s’intenta utilitzar la IA generativa per aprendre sobre un altre tema. Per aprofitar-la al màxim com a eina d'aprenentatge cal tenir un grau d’expertesa, no només en l'ús de la IA generativa, sinó també en el tema que volem aprendre.

Per aprendre a través d’eines amb IA hem de saber com formular les indicacions adequades, i també hem d’entendre com plantejar aquestes preguntes a una tecnologia que és fonamentalment diferent d’un motor de cerca tradicional o d’una eina de recerca.

A més, cal tenir prou coneixements sobre el tema per saber quan la IA està al·lucinant o inventant-se informació. A mesura que el tema es torna més complex i es requereix més expertesa per dominar-lo, es fa més difícil detectar les inexactituds o al·lucinacions i, per tant, requereix encara més coneixements per comprovar l'exactitud de la informació que l’eina ens està proporcionant.

Existeixen eines com Claude i ChatGPT que poden ser útils per comprendre les dificultats que poden sorgir mentre s’estudia amb llibres i altres materials d’aprenentatge. També s’està experimentant amb la idea d'utilitzar aquestes eines amb IA com a tutors o assessors. El problema rau en el fet que aquests desconeixen què és el que sabem nosaltres, i nosaltres tampoc sabem com explicar-li el que desconeixem.

Per exemple, com a aprenent novell que comença a aprendre un llenguatge de programació, existeixen fonaments bàsics que qualsevol llibre de text, lloc web o xatbot amb IA ens pot proporcionar: aprendre els conceptes bàsics de bucles i funcions, o habilitats més avançades, com classes i programació orientada a dispositius. Aquests coneixements es poden obtenir mitjançant materials d’aprenentatge tradicionals o a través d’eines amb IA.

No obstant això, en qualsevol àmbit, ja sigui creant guions per a l’automatització, dissenyant jocs d’aventura basats en text o treballant amb Python per a aplicacions web, es pot arribar a un punt en el qual no sabem quines preguntes fer ni com formular-les.

És a partir d’aquí quan la conversa amb el xatbot amb IA es torna cada vegada més imprecisa: el xatbot interpreta malament les nostres indicacions i ens condueix per camins equivocats, i ens fa perdre temps i produeix codi que no funciona o que no acabem d’entendre del tot.

A causa de la gran quantitat de dades i informació amb què ha estat entrenat el model, aquest posseeix molta més informació de la que podríem memoritzar, però la fa servir de manera aleatòria. De vegades, ChatGPT recomanarà una biblioteca de codi en concret, mentre que Claude en proposarà una de completament diferent. D’una conversa a l’altra, ChatGPT pot canviar d’opinió o, de sobte, suggerir un enfocament totalment nou. Com a aprenents, aquesta experiència és extremadament frustrant.

Imagineu que esteu aprenent un tema nou. Estudieu d’uns llibres de text fins que en domineu els fonaments i, posteriorment, treballeu amb un tutor expert per ampliar els vostres coneixements. Aquest procés organitzat és un sistema basat en el suport guiat amb bastides. És l’enfocament que Vygotsky i molts educadors anomenen la zona de desenvolupament proper (ZPD), el punt en el qual ampliem els nostres coneixements i, amb l'ajuda i el suport d'un expert, podem avançar progressivament al següent nivell de comprensió. Però amb un xatbot d'IA, en el qual les respostes sovint són imprevisibles i sense estructura, el progrés dins la ZPD es complica molt més.

Imagineu que esteu aprenent sobre un tema. Avanceu pels llibres de text a gran velocitat, domineu els fonaments i obriu l’eina amb IA experta per obtenir ajuda. Què és el següent? El primer dia, l’eina amb IA us proposa un enfocament. L'endemà, us en proposa un altre de nou. Un altre dia, apareix una altra eina experta amb IA i us ofereix consells completament contradictoris. Més endavant, l'equip de desenvolupament actualitza el programari de l’eina amb IA, canviant-ne completament la manera amb la qual respon a les indicacions.

Tornem al problema de les al·lucinacions. Aquesta producció d'informació no verificada és una part fonamental de l’arquitectura dels models de llenguatge extens. Si no tingués aquesta característica de generar informació no verificada, la IA simplement reproduiria literalment el contingut del seu conjunt de dades amb el qual s’ha entrenat, aspecte que els desenvolupadors intenten evitar deliberadament. Com a no experts en una àrea concreta, sobretot a mesura que el tema és més sofisticat, és molt difícil saber quan la IA està al·lucinant.

Quina és, doncs, la millor solució? Sistemes educatius arreu del món estan impulsant tutors amb IA a disposició de l’alumnat. Les empreses de tecnologia educativa, incloses les organitzacions sense ànim de lucre patrocinades per corporacions com Khan Academy, estan oferint aquests tutors amb l’objectiu de posar els xatbots amb IA a les mans del màxim nombre possible d’alumnat. Com podem, com a docents, gestionar les implicacions d’aquestes tecnologies, que se'ns presenten com a eines d’aprenentatge, però que requereixen expertesa per utilitzar-les correctament?

Una possible resposta podria ser desenvolupar aplicacions molt més específiques i amb objectius concrets, diferenciades de les eines generals que tenim al mercat actualment. Per exemple, tot i que una de les grans fortaleses de ChatGPT és la seva capacitat de generalitzar i treballar en diversos àmbits, això el fa força inadequat com a eina d’ensenyament i aprenentatge. No obstant això, podrien ser més útils si docents o institucions poguessin limitar aquests coneixements generals i establir uns límits clars sobre què pot o no pot transmetre el xatbot a l’alumnat.

Tornant a l'exemple anterior, en lloc d'utilitzar ChatGPT o Claude per aprendre sobre el llenguatge de programació, i experimentar la frustració de navegar el vast oceà d'informació i enfocaments amb els quals es pot avançar, seria més adequat per a les habilitats que s’estan intentant aprendre en aquell precís moment un xatbot més ajustat a necessitats específiques, el qual es centrés en un enfocament concret per avançar amb la programació en Python i disposés de coneixements extensos, però més limitats a biblioteques i materials educatius particulars. Si l’usuari s’encallés o, com sol passar sovint, perdés el focus, aquest xatbot no oferiria solucions a l’atzar que em portessin per camins inútils, sinó que demanaria a l’usuari que retrocedís un pas, que observés el mateix problema des d’un altre angle o que consultés recursos i expertesa més enllà del mateix xatbot.

Per tal d'aprofitar realment el potencial de la IA en l'educació, és, per tant, necessari desenvolupar eines més específiques i orientades a objectius concrets. Això podria contribuir al fet que els docents i l’alumnat  treballéssim amb sistemes d'IA que oferissin informació precisa i rellevant dins d'un marc controlat, minimitzant les al·lucinacions i les inconsistències. Mitjançant la col·laboració entre docents, desenvolupadors i institucions, necessitem crear solucions que facilitin l'aprenentatge, alhora que també respectin el procés pedagògic i s'adaptin a les necessitats individuals de l’alumnat.