El funcionament de la IA. Com s'entrena?
| lloc: | Suro Virtual 4.0 |
| Curs: | Formació professorat i recursos d’aula |
| Llibre: | El funcionament de la IA. Com s'entrena? |
| Imprès per: | Usuari convidat |
| Data: | dimarts, 27 d’octubre 2026, 06:15 |
Experimentem amb Teacheable Machine
Teachable Machine (https://teachablemachine.withgoogle.com/) és un experiment web desenvolupat per Google, el qual permet als usuaris entrenar els seus propis models d'aprenentatge automàtic sense tenir cap experiència en programació. L'aprenentatge automàtic és una branca de la intel·ligència artificial que permet als ordinadors aprendre a partir de dades i seguir prediccions o decisions basades en patrons i regles. Teachable Machine és un experiment que té com a objectiu treballar l'aprenentatge automàtic des d’una aplicació accessible i lúdica.
Font de les imatges d'aquesta guia: Experiments with Google.
Teachable Machine pas a pas
Trieu una entrada
Podeu triar entrenar el vostre model utilitzant imatges, sons o posicions. Per exemple, podeu utilitzar imatges de diferents animals, sons de diferents instruments o posicions que expressin emocions diverses.
Es presentaran tres tipus de projecte per a triar:
a. Projecte d'imatge: en un projecte d'imatge, podeu entrenar un model per a reconèixer i classificar diferents objectes basant-se en imatges.
b. Projecte d'àudio: en un projecte d'àudio, podeu crear un model que distingeixi entre diversos sons o patrons de parla.
c. Projecte de posicions: en un projecte de posicions, podeu ensenyar al model a reconèixer i seguir les posicions humanes utilitzant una càmera web.
Per als principiants amb poca experiència prèvia en aprenentatge automàtic, es recomana començar amb el "Projecte d'imatge".
Recolliu exemples
Podeu utilitzar la vostra càmera web o el vostre micròfon per capturar exemples de cada categoria que vulgueu que el vostre model reconegui.
Per exemple, podeu mostrar a la vostra càmera web imatges de gats, gossos i ocells, o fer sons de guitarra, piano i tambors. També podeu carregar les vostres pròpies imatges o sons des de l'ordinador o Google Drive. Hauríeu de recopilar almenys 10 exemples per categoria per a obtenir millors resultats.
a. Projecte d'imatge: feu clic al botó "Càmera web" i doneu l'accés a la vostra càmera web. Aleshores, podeu començar a capturar imatges dels objectes amb els quals voleu entrenar el model. Per a cada objecte, feu diverses fotografies des de diferents angles i orientacions.
b. Projecte d'àudio: feu clic al botó "Micròfon" per enregistrar diferents sons o paraules que voleu que el model reconegui. Per exemple, podeu enregistrar les paraules "sí" i "no" per a una classificació binària senzilla.
c. Projecte de posicions: en aquest projecte, utilitzareu la vostra càmera web per capturar diferents posicions humanes. Feu diferents posicions per a crear un conjunt divers de dades per a l'entrenament.
Entreneu el vostre model
Podeu fer clic al botó "Entrenar el model" per començar el procés d'entrenament. Això tardarà alguns segons o minuts, segons el nombre i la qualitat dels vostres exemples. El procés d'entrenament us mostrarà com de bé pot reconèixer el vostre model cada categoria segons la puntuació d'exactitud i la matriu de confusió.
Proveu el model
Després que l'entrenament s'hagi completat, és hora de provar el vostre model. Per a un projecte d'imatge, alceu els objectes davant la càmera web un per un i observeu si el model els reconeix i etiqueta correctament. Per a un projecte d'àudio, reproduïu els sons enregistrats i vegeu si el model els identifica amb precisió.
Exporteu i compartiu el vostre model
Podeu exportar el vostre model per utilitzar-lo de diferents maneres.
Podeu previsualitzar-lo al navegador, compartir-lo amb altres persones mitjançant un enllaç, descarregar-lo com un fitxer o utilitzar-lo en llocs web, aplicacions, màquines físiques i més, mitjançant diferents plantilles de codi.
Consideracions per a docents
Un cop acabat el vostre experiment amb Teachable Machine, tingueu en compte aquestes consideracions:
Teachable Machine no és una eina perfecta. Té limitacions i prejudicis que poden afectar el rendiment i la imparcialitat del vostre model. Hauríeu de provar sempre el vostre model amb diferents entrades i escenaris, i ser conscients de les possibles implicacions ètiques i socials de l'ús de l'aprenentatge automàtic.
Teachable Machine no substitueix l'aprenentatge de programació. És una eina que simplifica el procés d'entrenament d'un model d'aprenentatge automàtic, però no us ensenya a programar ni a entendre els algoritmes i les matemàtiques subjacents.
Teachable Machine no és un objectiu final. És un punt de partida a partir del qual explorar les possibilitats de l'aprenentatge automàtic. Hauríeu de desafiar al vostre alumnat a pensar en noves i innovadores maneres d'utilitzar l'aprenentatge automàtic en els seus propis projectes, problemes o passions.
L'objectiu d’aquest recurs no és convertir-se en experts en aprenentatge automàtic, sinó adquirir una comprensió bàsica i veure el potencial d'aquestes tecnologies. Com a docents, podeu utilitzar Teachable Machine com una eina valuosa per presentar a l’alumnat al fascinant món de la intel·ligència artificial i inspirar-los a explorar les seves aplicacions en diversos camps.
Recull de videotutorials del canal Experiments with Google sobre Teachable Machine
Teachable Machine Tutorial 1: Gather
Les al·lucinacions i com prevenir-les
El concepte d’al·lucinacions s'utilitza per referir-nos als casos en els quals obtenim respostes dels models de llenguatge extens amb els quals conversem que són errònies o no estan relacionades amb les nostres indicacions. El 2018, Google va utilitzar aquesta terminologia per referir-se a aquests casos en la seva recerca i, a partir d’aquest punt, l’ús del terme es va popularitzar.
Un dels casos més coneguts en aquest context és el cas de la invenció de cites bibliogràfiques. La imatge a continuació il·lustra un cas de mostra:
Una revisió ràpida de les cites proveïdes utilitzant Google Scholar revela problemes immediats.
Els models de llenguatge extens com ChatGPT o Google Gemini poden donar respostes creatives a experiències que no són reals. Un motiu pel qual poden fer això és perquè s’entrenen amb enormes quantitats de dades, les quals inclouen material tant factual com fictici, com ara articles de notícies, llibres, blocs, publicacions en xarxes socials, etc. Quan generen text, no distingeixen entre diferents fonts o gèneres de dades, i no verifiquen l’exactitud o la consistència de la informació que utilitzen. Un altre factor és que es basen en patrons estadístics i probabilitats per produir text, la qual cosa pot conduir a errors o inconsistències. Per exemple, ChatGPT pot associar certs noms o dates amb certs temes basant-se en la seva freqüència o coaparició en les dades, però això no vol dir que aquestes siguin rellevants o correctes.
Limitacions de ChatGPT
Tot i els múltiples beneficis que ChatGPT ofereix, hi ha una sèrie de qüestions que cal tenir en compte en el seu ús i que poden conduir a al·lucinacions. Algunes de les més rellevants són:
Exactitud de la informació: tot i que ChatGPT ha estat entrenat amb una extensa quantitat de text, no té la capacitat de verificar l'exactitud de la informació que genera. Per tant, les seves respostes s'han de contrastar per a la seva precisió.
Contingut inadequat: hi ha la possibilitat que ChatGPT generi contingut que no sigui adequat per a un entorn de classe. S'han de prendre mesures per supervisar i controlar el seu ús.
Manca de judici humà: ChatGPT no pot substituir la comprensió matisada i la intel·ligència emocional d'un docent humà. Pot ser que no detecti sarcasme, acudits o altres matisos de la comunicació humana.
Privadesa de les dades: depenent de com s'utilitzi, es poden generar preocupacions sobre la privadesa de les dades, especialment en la configuració amb menors. És important utilitzar ChatGPT d'acord amb les lleis i regulacions locals de protecció de dades. Segons les condicions d’ús d’OpenAI, les quals proporciona el servei de ChatGPT, s’ha de tenir com a mínim 13 anys per utilitzar els seus serveis. Si es té menys de 18 anys, s’ha de tenir el permís explícit dels pares o tutor legal per utilitzar els serveis.
Data límit de coneixements: ChatGPT 3.5 té un coneixement limitat dels esdeveniments que s'han produït després del gener del 2022. ChatGPT4 arriba fins a abril del 2023.
Prevenció de les al·lucinacions
Una de les claus per prevenir les al·lucinacions està en el disseny d'indicacions i l’enginyeria d'indicacions. Al mòdul 2, s’han compartit un seguit de bones pràctiques en el disseny d'indicacions.
També s’han compartit dos marcs d’enginyeria d'indicacions, el marc PREP + EDIT de Dan Fitzpatrick i el marc CREATE de Tom Barrett.
A l’aula, les al·lucinacions de ChatGPT poden suposar oportunitats per tractar temes com l’alfabetització informacional i les habilitats de pensament crític. Els docents poden demanar a l’alumnat que utilitzin ChatGPT per generar textos sobre diferents temes i després demanar que avaluïn la qualitat i credibilitat d’aquests productes. L’alumnat pot aprendre a identificar i evitar al·lucinacions comprovant les fonts, les evidències, la lògica i la consistència del text. També pot comparar i contrastar diferents textos generats per ChatGPT o altres fonts sobre el mateix tema. Els docents també poden utilitzar ChatGPT com una oportunitat per debatre les implicacions ètiques i socials d’utilitzar la intel·ligència artificial per a la comunicació i l’educació.
Criteris
Aquests són alguns criteris per avaluar la qualitat i la rellevància de les respostes que obteniu de ChatGPT, com ara la precisió, la coherència, l'originalitat i l'adequació, i alguns mètodes per aplicar-los.
Precisió
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA són correctes.
Per avaluar-ne la precisió, podeu verificar la informació proporcionada per la IA amb fonts fiables. Per exemple, si la IA proporciona un fet històric, podeu consultar un llibre d'història o un lloc web de bona reputació per comprovar si la informació està alineada.
Per a temes més complexos, potser haureu de consultar fonts o bases de dades expertes. Per exemple, si la IA proporciona informació mèdica, és possible que hàgiu de consultar una revista mèdica o consultar un professional sanitari per verificar la informació.
Coherència
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA tenen sentit en el context de la conversa i si la IA manté el context durant una sèrie d'intercanvis.
Per avaluar la coherència, podeu revisar el flux de la conversa. Les respostes de la IA haurien de seguir lògicament dels intercanvis anteriors i haurien de mantenir-se en el tema.
Per exemple, si heu demanat informació a l’inici de la conversa sobre el canvi climàtic i la IA, a mesura que feu més preguntes, comença a respondre sense tenir en compte les instruccions de l’inici, això marcaria una falta de coherència.
Originalitat
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA són úniques, o si només repeteixen frases o informació preexistent.
Per avaluar l'originalitat, podeu revisar la creativitat i la singularitat de les respostes de la IA. Aquestes respostes no haurien de repetir només les entrades de l'usuari o proporcionar respostes genèriques.
Per exemple, si demaneu a la IA que escrigui un poema, el poema resultant hauria de ser una creació única, i no només una repetició de frases comunes o poemes ja existents.
Idoneïtat
Aquest criteri fa referència a la necessitat d’avaluar fins a quin punt les respostes de la IA són adequades per al context i l'audiència.
Per avaluar l'adequació, podeu revisar el contingut i el to de les respostes. La IA no hauria de proporcionar contingut ofensiu o inadequat, i hauria d'ajustar el seu llenguatge i el seu to en funció de les aportacions de l'usuari.
Per exemple, si la IA s'utilitza per generar productes destinats a un entorn professional, les seves respostes haurien de mantenir un to professional i respectuós. Per altra banda, si aquesta s'utilitza per a generar productes destinats a infants, les seves respostes haurien de ser adequades per a infants.
L'avaluació de la qualitat de les respostes de la IA pot ser subjectiva i pot dependre del cas d'ús específic i de les preferències individuals. Cap IA és perfecta i poden donar-se casos en els quals la IA no compleixi aquests criteris. En aquests casos, els comentaris dels usuaris poden ser molt valuosos per ajudar a millorar el model corresponent.
Mètodes
A continuació es revisen alguns mètodes per avaluar la qualitat i la rellevància de les respostes de ChatGPT:
Autoavaluació
Com a docents, podeu avaluar les respostes de la IA en funció dels vostres propis coneixements i expectatives. Aquesta és una avaluació subjectiva i pot variar d'un usuari a l’altre.
Per exemple, si feu servir ChatGPT per generar contingut per a una programació didàctica, podeu avaluar si el contingut és precís, rellevant al tema i adequat per al vostre alumnat. També podeu avaluar si el contingut és atractiu o si és probable que capti l'interès del vostre alumnat.
Avaluació d'experts
Aquest mètode implica que experts en el camp o tema de conversa avaluïn les respostes de la IA.
Per exemple, si utilitzeu ChatGPT per proporcionar informació sobre un tema específic, com ara la història o la ciència, podeu demanar a un company que sigui expert en aquest tema que revisi les respostes de la IA. Aquests poden avaluar si la informació és precisa, completa i si està presentada d'una manera adequada per al vostre alumnat.
Comparativa amb altres alternatives
Aquest mètode implica comparar el rendiment de ChatGPT amb altres models d'IA similars o amb un estàndard establert.
Per exemple, podeu utilitzar la IA per generar un conjunt de preguntes o tasques que siguin rellevants a la vostra especialitat i comprovar el rendiment de ChatGPT en comparació amb altres models, com Google Gemini o Microsoft Copilot. També podeu comparar el rendiment de la IA amb un estàndard establert, com ara un currículum o documentació.
Comentaris dels usuaris
Recollir comentaris de diversos usuaris pot proporcionar informació valuosa sobre el rendiment de la IA.
En un entorn educatiu, això podria implicar rebre comentaris del vostre alumnat. Podeu demanar si troben útils, comprensibles i atractives les propostes de la IA. També podeu demanar suggeriments sobre com es podrien millorar les respostes proporcionades per la IA.
Avaluació automatitzada
L'avaluació automatitzada implica l'ús de programes o eines informàtiques per avaluar la qualitat de les respostes de la IA. Aquestes poden ser útils per obtenir una visió més objectiva del rendiment de l’eina.
Per exemple, si feu servir ChatGPT per generar materials didàctics, podeu utilitzar una eina automatitzada per comprovar si hi ha errors gramaticals i ortogràfics a la resposta generada. Podeu trobar múltiples eines en línia disponibles per a aquest propòsit, com, per exemple, LanguageTool.
Avaluar les respostes de la IA us permetrà assegurar-vos que aquesta pugui ser una eina el més útil possible per a la vostra metodologia. Si no esteu segurs sobre com utilitzar o interpretar els resultats d'una eina automatitzada, no dubteu a demanar ajuda a companys o a experts tècnics.
La paradoxa de l'aprenentatge amb IA
Adaptació de l’article original de Leon Furze.
Les eines amb IA més potents que trobem avui dia al mercat també són les més multidisciplinàries, amb un ampli conjunt de coneixements, una quantitat enorme de dades amb les quals s’han entrenat i processos de desenvolupament i d’ajustament que les fan útils en una gran varietat de tasques.
Aquest és, precisament, el primer obstacle amb què ens trobem quan fem servir una eina d'IA generativa: són tan versàtils en tants àmbits que, per aprofitar-les al màxim, hem de tenir molt clar què volem aconseguir.
Aquesta casuística apareix sovint quan un usuari novell encara no ha après a utilitzar una eina amb IA generativa. Quan es comença a utilitzar-la, molt aviat ens adonem que cap usuari té del tot clar quina és la millor manera d’obtenir la informació exacta que necessita. Aquesta és una manera de treballar amb eines digitals totalment nova: de manera conversacional, dialògica i iterativa.
Per treure el màxim profit de les eines amb IA, necessitem una certa experiència en el seu ús. Paradoxalment, l'única manera d'aconseguir aquesta experiència és utilitzar l’eina moltes vegades. Aquells que heu tingut el temps, els recursos i l'energia per treballar-hi, especialment des del llançament de ChatGPT, segurament heu trobat maneres eficaces de millorar les vostres consultes i refinar les respostes de la IA. Però hi ha una gran diferència de coneixements entre aquest grup reduït de persones i la majoria dels usuaris, els quals encara entenen la IA generativa com una altra eina digital més, similar a una cerca a Google.
El problema es complica encara més quan s’intenta utilitzar la IA generativa per aprendre sobre un altre tema. Per aprofitar-la al màxim com a eina d'aprenentatge cal tenir un grau d’expertesa, no només en l'ús de la IA generativa, sinó també en el tema que volem aprendre.
Per aprendre a través d’eines amb IA hem de saber com formular les indicacions adequades, i també hem d’entendre com plantejar aquestes preguntes a una tecnologia que és fonamentalment diferent d’un motor de cerca tradicional o d’una eina de recerca.
A més, cal tenir prou coneixements sobre el tema per saber quan la IA està al·lucinant o inventant-se informació. A mesura que el tema es torna més complex i es requereix més expertesa per dominar-lo, es fa més difícil detectar les inexactituds o al·lucinacions i, per tant, requereix encara més coneixements per comprovar l'exactitud de la informació que l’eina ens està proporcionant.
Existeixen eines com Claude i ChatGPT que poden ser útils per comprendre les dificultats que poden sorgir mentre s’estudia amb llibres i altres materials d’aprenentatge. També s’està experimentant amb la idea d'utilitzar aquestes eines amb IA com a tutors o assessors. El problema rau en el fet que aquests desconeixen què és el que sabem nosaltres, i nosaltres tampoc sabem com explicar-li el que desconeixem.
Per exemple, com a aprenent novell que comença a aprendre un llenguatge de programació, existeixen fonaments bàsics que qualsevol llibre de text, lloc web o xatbot amb IA ens pot proporcionar: aprendre els conceptes bàsics de bucles i funcions, o habilitats més avançades, com classes i programació orientada a dispositius. Aquests coneixements es poden obtenir mitjançant materials d’aprenentatge tradicionals o a través d’eines amb IA.
No obstant això, en qualsevol àmbit, ja sigui creant guions per a l’automatització, dissenyant jocs d’aventura basats en text o treballant amb Python per a aplicacions web, es pot arribar a un punt en el qual no sabem quines preguntes fer ni com formular-les.
És a partir d’aquí quan la conversa amb el xatbot amb IA es torna cada vegada més imprecisa: el xatbot interpreta malament les nostres indicacions i ens condueix per camins equivocats, i ens fa perdre temps i produeix codi que no funciona o que no acabem d’entendre del tot.
A causa de la gran quantitat de dades i informació amb què ha estat entrenat el model, aquest posseeix molta més informació de la que podríem memoritzar, però la fa servir de manera aleatòria. De vegades, ChatGPT recomanarà una biblioteca de codi en concret, mentre que Claude en proposarà una de completament diferent. D’una conversa a l’altra, ChatGPT pot canviar d’opinió o, de sobte, suggerir un enfocament totalment nou. Com a aprenents, aquesta experiència és extremadament frustrant.
Imagineu que esteu aprenent un tema nou. Estudieu d’uns llibres de text fins que en domineu els fonaments i, posteriorment, treballeu amb un tutor expert per ampliar els vostres coneixements. Aquest procés organitzat és un sistema basat en el suport guiat amb bastides. És l’enfocament que Vygotsky i molts educadors anomenen la zona de desenvolupament proper (ZPD), el punt en el qual ampliem els nostres coneixements i, amb l'ajuda i el suport d'un expert, podem avançar progressivament al següent nivell de comprensió. Però amb un xatbot d'IA, en el qual les respostes sovint són imprevisibles i sense estructura, el progrés dins la ZPD es complica molt més.
Imagineu que esteu aprenent sobre un tema. Avanceu pels llibres de text a gran velocitat, domineu els fonaments i obriu l’eina amb IA experta per obtenir ajuda. Què és el següent? El primer dia, l’eina amb IA us proposa un enfocament. L'endemà, us en proposa un altre de nou. Un altre dia, apareix una altra eina experta amb IA i us ofereix consells completament contradictoris. Més endavant, l'equip de desenvolupament actualitza el programari de l’eina amb IA, canviant-ne completament la manera amb la qual respon a les indicacions.
Tornem al problema de les al·lucinacions. Aquesta producció d'informació no verificada és una part fonamental de l’arquitectura dels models de llenguatge extens. Si no tingués aquesta característica de generar informació no verificada, la IA simplement reproduiria literalment el contingut del seu conjunt de dades amb el qual s’ha entrenat, aspecte que els desenvolupadors intenten evitar deliberadament. Com a no experts en una àrea concreta, sobretot a mesura que el tema és més sofisticat, és molt difícil saber quan la IA està al·lucinant.
Quina és, doncs, la millor solució? Sistemes educatius arreu del món estan impulsant tutors amb IA a disposició de l’alumnat. Les empreses de tecnologia educativa, incloses les organitzacions sense ànim de lucre patrocinades per corporacions com Khan Academy, estan oferint aquests tutors amb l’objectiu de posar els xatbots amb IA a les mans del màxim nombre possible d’alumnat. Com podem, com a docents, gestionar les implicacions d’aquestes tecnologies, que se'ns presenten com a eines d’aprenentatge, però que requereixen expertesa per utilitzar-les correctament?
Una possible resposta podria ser desenvolupar aplicacions molt més específiques i amb objectius concrets, diferenciades de les eines generals que tenim al mercat actualment. Per exemple, tot i que una de les grans fortaleses de ChatGPT és la seva capacitat de generalitzar i treballar en diversos àmbits, això el fa força inadequat com a eina d’ensenyament i aprenentatge. No obstant això, podrien ser més útils si docents o institucions poguessin limitar aquests coneixements generals i establir uns límits clars sobre què pot o no pot transmetre el xatbot a l’alumnat.
Tornant a l'exemple anterior, en lloc d'utilitzar ChatGPT o Claude per aprendre sobre el llenguatge de programació, i experimentar la frustració de navegar el vast oceà d'informació i enfocaments amb els quals es pot avançar, seria més adequat per a les habilitats que s’estan intentant aprendre en aquell precís moment un xatbot més ajustat a necessitats específiques, el qual es centrés en un enfocament concret per avançar amb la programació en Python i disposés de coneixements extensos, però més limitats a biblioteques i materials educatius particulars. Si l’usuari s’encallés o, com sol passar sovint, perdés el focus, aquest xatbot no oferiria solucions a l’atzar que em portessin per camins inútils, sinó que demanaria a l’usuari que retrocedís un pas, que observés el mateix problema des d’un altre angle o que consultés recursos i expertesa més enllà del mateix xatbot.
Per tal d'aprofitar realment el potencial de la IA en l'educació, és, per tant, necessari desenvolupar eines més específiques i orientades a objectius concrets. Això podria contribuir al fet que els docents i l’alumnat treballéssim amb sistemes d'IA que oferissin informació precisa i rellevant dins d'un marc controlat, minimitzant les al·lucinacions i les inconsistències. Mitjançant la col·laboració entre docents, desenvolupadors i institucions, necessitem crear solucions que facilitin l'aprenentatge, alhora que també respectin el procés pedagògic i s'adaptin a les necessitats individuals de l’alumnat.