El funcionament de la IA. Com s'entrena?
Les al·lucinacions i com prevenir-les
El concepte d’al·lucinacions s'utilitza per referir-nos als casos en els quals obtenim respostes dels models de llenguatge extens amb els quals conversem que són errònies o no estan relacionades amb les nostres indicacions. El 2018, Google va utilitzar aquesta terminologia per referir-se a aquests casos en la seva recerca i, a partir d’aquest punt, l’ús del terme es va popularitzar.
Un dels casos més coneguts en aquest context és el cas de la invenció de cites bibliogràfiques. La imatge a continuació il·lustra un cas de mostra:
Una revisió ràpida de les cites proveïdes utilitzant Google Scholar revela problemes immediats.
Els models de llenguatge extens com ChatGPT o Google Gemini poden donar respostes creatives a experiències que no són reals. Un motiu pel qual poden fer això és perquè s’entrenen amb enormes quantitats de dades, les quals inclouen material tant factual com fictici, com ara articles de notícies, llibres, blocs, publicacions en xarxes socials, etc. Quan generen text, no distingeixen entre diferents fonts o gèneres de dades, i no verifiquen l’exactitud o la consistència de la informació que utilitzen. Un altre factor és que es basen en patrons estadístics i probabilitats per produir text, la qual cosa pot conduir a errors o inconsistències. Per exemple, ChatGPT pot associar certs noms o dates amb certs temes basant-se en la seva freqüència o coaparició en les dades, però això no vol dir que aquestes siguin rellevants o correctes.
Limitacions de ChatGPT
Tot i els múltiples beneficis que ChatGPT ofereix, hi ha una sèrie de qüestions que cal tenir en compte en el seu ús i que poden conduir a al·lucinacions. Algunes de les més rellevants són:
Exactitud de la informació: tot i que ChatGPT ha estat entrenat amb una extensa quantitat de text, no té la capacitat de verificar l'exactitud de la informació que genera. Per tant, les seves respostes s'han de contrastar per a la seva precisió.
Contingut inadequat: hi ha la possibilitat que ChatGPT generi contingut que no sigui adequat per a un entorn de classe. S'han de prendre mesures per supervisar i controlar el seu ús.
Manca de judici humà: ChatGPT no pot substituir la comprensió matisada i la intel·ligència emocional d'un docent humà. Pot ser que no detecti sarcasme, acudits o altres matisos de la comunicació humana.
Privadesa de les dades: depenent de com s'utilitzi, es poden generar preocupacions sobre la privadesa de les dades, especialment en la configuració amb menors. És important utilitzar ChatGPT d'acord amb les lleis i regulacions locals de protecció de dades. Segons les condicions d’ús d’OpenAI, les quals proporciona el servei de ChatGPT, s’ha de tenir com a mínim 13 anys per utilitzar els seus serveis. Si es té menys de 18 anys, s’ha de tenir el permís explícit dels pares o tutor legal per utilitzar els serveis.
Data límit de coneixements: ChatGPT 3.5 té un coneixement limitat dels esdeveniments que s'han produït després del gener del 2022. ChatGPT4 arriba fins a abril del 2023.
Prevenció de les al·lucinacions
Una de les claus per prevenir les al·lucinacions està en el disseny d'indicacions i l’enginyeria d'indicacions. Al mòdul 2, s’han compartit un seguit de bones pràctiques en el disseny d'indicacions.
També s’han compartit dos marcs d’enginyeria d'indicacions, el marc PREP + EDIT de Dan Fitzpatrick i el marc CREATE de Tom Barrett.
A l’aula, les al·lucinacions de ChatGPT poden suposar oportunitats per tractar temes com l’alfabetització informacional i les habilitats de pensament crític. Els docents poden demanar a l’alumnat que utilitzin ChatGPT per generar textos sobre diferents temes i després demanar que avaluïn la qualitat i credibilitat d’aquests productes. L’alumnat pot aprendre a identificar i evitar al·lucinacions comprovant les fonts, les evidències, la lògica i la consistència del text. També pot comparar i contrastar diferents textos generats per ChatGPT o altres fonts sobre el mateix tema. Els docents també poden utilitzar ChatGPT com una oportunitat per debatre les implicacions ètiques i socials d’utilitzar la intel·ligència artificial per a la comunicació i l’educació.
Criteris
Aquests són alguns criteris per avaluar la qualitat i la rellevància de les respostes que obteniu de ChatGPT, com ara la precisió, la coherència, l'originalitat i l'adequació, i alguns mètodes per aplicar-los.
Precisió
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA són correctes.
Per avaluar-ne la precisió, podeu verificar la informació proporcionada per la IA amb fonts fiables. Per exemple, si la IA proporciona un fet històric, podeu consultar un llibre d'història o un lloc web de bona reputació per comprovar si la informació està alineada.
Per a temes més complexos, potser haureu de consultar fonts o bases de dades expertes. Per exemple, si la IA proporciona informació mèdica, és possible que hàgiu de consultar una revista mèdica o consultar un professional sanitari per verificar la informació.
Coherència
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA tenen sentit en el context de la conversa i si la IA manté el context durant una sèrie d'intercanvis.
Per avaluar la coherència, podeu revisar el flux de la conversa. Les respostes de la IA haurien de seguir lògicament dels intercanvis anteriors i haurien de mantenir-se en el tema.
Per exemple, si heu demanat informació a l’inici de la conversa sobre el canvi climàtic i la IA, a mesura que feu més preguntes, comença a respondre sense tenir en compte les instruccions de l’inici, això marcaria una falta de coherència.
Originalitat
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA són úniques, o si només repeteixen frases o informació preexistent.
Per avaluar l'originalitat, podeu revisar la creativitat i la singularitat de les respostes de la IA. Aquestes respostes no haurien de repetir només les entrades de l'usuari o proporcionar respostes genèriques.
Per exemple, si demaneu a la IA que escrigui un poema, el poema resultant hauria de ser una creació única, i no només una repetició de frases comunes o poemes ja existents.
Idoneïtat
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA són adequades per al context i l'audiència.
Per avaluar l'adequació, podeu revisar el contingut i el to de les respostes. La IA no hauria de proporcionar contingut ofensiu o inadequat, i hauria d'ajustar el seu llenguatge i el seu to en funció de les aportacions de l'usuari.
Per exemple, si la IA s'utilitza per generar productes destinats a un entorn professional, les seves respostes haurien de mantenir un to professional i respectuós. Per altra banda, si aquesta s'utilitza per a generar productes destinats a infants, les seves respostes haurien de ser adequades per a infants.
L'avaluació de la qualitat de les respostes de la IA pot ser subjectiva i pot dependre del cas d'ús específic i de les preferències individuals. Cap IA és perfecta i poden donar-se casos en els quals la IA no compleixi aquests criteris. En aquests casos, els comentaris dels usuaris poden ser molt valuosos per ajudar a millorar el model corresponent.
Mètodes
A continuació es revisen alguns mètodes per avaluar la qualitat i la rellevància de les respostes de ChatGPT:
Autoavaluació
Com a docents, podeu avaluar les respostes de la IA en funció dels vostres propis coneixements i expectatives. Aquesta és una avaluació subjectiva i pot variar d'un usuari a l’altre.
Per exemple, si feu servir ChatGPT per generar contingut per a una programació didàctica, podeu avaluar si el contingut és precís, rellevant al tema i adequat per al vostre alumnat. També podeu avaluar si el contingut és atractiu o si és probable que capti l'interès del vostre alumnat.
Avaluació d'experts
Aquest mètode implica que experts en el camp o tema de conversa avaluïn les respostes de la IA.
Per exemple, si utilitzeu ChatGPT per proporcionar informació sobre un tema específic, com ara la història o la ciència, podeu demanar a un company que sigui expert en aquest tema que revisi les respostes de la IA. Aquests poden avaluar si la informació és precisa, completa i si està presentada d'una manera adequada per al vostre alumnat.
Comparativa amb altres alternatives
Aquest mètode implica comparar el rendiment de ChatGPT amb altres models d'IA similars o amb un estàndard establert.
Per exemple, podeu utilitzar la IA per generar un conjunt de preguntes o tasques que siguin rellevants a la vostra especialitat i comprovar el rendiment de ChatGPT en comparació amb altres models, com Google Gemini o Microsoft Copilot. També podeu comparar el rendiment de la IA amb un estàndard establert, com ara un currículum o documentació.
Comentaris dels usuaris
Recollir comentaris de diversos usuaris pot proporcionar informació valuosa sobre el rendiment de la IA.
En un entorn educatiu, això podria implicar rebre comentaris del vostre alumnat. Podeu demanar si troben útils, comprensibles i atractives les propostes de la IA. També podeu demanar suggeriments sobre com es podrien millorar les respostes proporcionades per la IA.
Avaluació automatitzada
L'avaluació automatitzada implica l'ús de programes o eines informàtiques per avaluar la qualitat de les respostes de la IA. Aquestes poden ser útils per obtenir una visió més objectiva del rendiment de l’eina.
Per exemple, si feu servir ChatGPT per generar materials didàctics, podeu utilitzar una eina automatitzada per comprovar si hi ha errors gramaticals i ortogràfics a la resposta generada. Podeu trobar múltiples eines en línia disponibles per a aquest propòsit, com, per exemple, LanguageTool.
Avaluar les respostes de la IA us permetrà assegurar-vos que aquesta pugui ser una eina el més útil possible per a la vostra metodologia. Si no esteu segurs sobre com utilitzar o interpretar els resultats d'una eina automatitzada, no dubteu a demanar ajuda a companys o a experts tècnics.