Consideracions ètiques sobre la IA

L'ètica de les dades i els biaixos algorítmics

L'ètica de les dades i el biaix algorítmic són conceptes fonamentals per entendre la intel·ligència artificial (IA). Estan interconnectats i la seva comprensió és crucial per crear sistemes d'IA que siguin justos, transparents i beneficiosos per a tothom.

L'ètica de les dades consisteix a garantir que les dades, un component crucial en l'entrenament dels sistemes d'IA, es recullin, processin i s'utilitzin de manera que respectin els valors, els drets i la dignitat humana. Aquesta inclou consideracions de privadesa, consentiment, transparència i responsabilitat.

El biaix algorítmic es refereix al potencial dels sistemes d'IA per discriminar sistemàticament o mostrar un comportament injust a causa de biaixos en les dades utilitzades per al seu entrenament o els mètodes utilitzats en el seu desenvolupament. Per exemple, un sistema d'IA podria estar esbiaixat si afavoreix sistemàticament un col·lectiu demogràfic determinat, o si pren decisions que són constantment injustes per a uns altres.

Aquests conceptes són importants per a la IA perquè configuren com es comporten els sistemes i com aquests influeixen en el nostre món. Per exemple, els sistemes d'IA s'utilitzen avui en dia en àrees com la contractació, l’avaluació de riscos, la construcció de polítiques i molt més. Si aquests sistemes estan esbiaixats o són poc ètics en el seu funcionament, poden provocar un tracte injust o un dany a persones o col·lectius.

Per als docents, entendre l'ètica de les dades i els biaixos algorítmics és fonamental per dues raons principals. En primer lloc, tenen un paper clau en la formació dels futurs ciutadans i líders, els quals han d'entendre aquests problemes per prendre decisions informades, i per contribuir al desenvolupament de sistemes d'IA justos i ètics. En segon lloc, els mateixos docents utilitzen cada cop més eines impulsades per IA en la seva feina, les quals també han de ser justes i ètiques.

La UNESCO, a través de documents com el Consens de Beijing sobre Intel·ligència Artificial i Educació (2019), les Recomanacions sobre l'ètica de la intel·ligència artificial (2021) i La IA generativa i el futur de l’educació (2023), posa en relleu els següents temes:

• Entendre la IA i el seu impacte: és essencial que els docents entenguin què és la IA, com funciona i els impactes potencials que pot tenir en la societat, el medi ambient i les persones. Això inclou tant les possibilitats positives (com l'aprenentatge personalitzat o l'automatització administrativa) com les negatives (com les preocupacions sobre la privadesa de les dades o els biaixos en la presa de decisions).
• La IA en l'educació: la IA s'utilitza cada cop més en l'educació i els docents haurien de ser conscients de com aquesta pot afectar la seva feina. Això pot incloure l'ús de la IA per a l'aprenentatge personalitzat, l'anàlisi predictiva (com la predicció del rendiment de l'alumnat) i les tasques administratives.
• Consideracions ètiques: els docents han d'entendre les consideracions ètiques relacionades amb la IA. Aquestes poden incloure problemes relacionats amb la privadesa de les dades, el consentiment i la possibilitat que la IA reforci desigualtats ja existents en l'educació.
• Alfabetització en IA: a mesura que la IA es fa més freqüent, hi ha una necessitat creixent d'alfabetització específica en IA. És a dir, una comprensió de com funcionen els sistemes d'IA i el desenvolupament de la capacitat d'avaluar-los de manera crítica. Els docents tenen un paper primordial en el desenvolupament d'aquesta alfabetització de l’alumnat.
• Polítiques i regulacions: els docents han de conèixer qualsevol política o normativa relacionada amb la IA, tant dins de la seva pròpia institució educativa com en un context més ampli.

Penseu, per exemple, en un sistema d'IA utilitzat per a les admissions a la universitat. Si les dades d'entrenament del sistema inclouen informació de processos d'admissió anteriors, els quals estaven esbiaixats en contra de determinats col·lectius racials o socioeconòmics, el sistema d'IA també podria estar esbiaixat de la mateixa manera. Això podria comportar denegacions injustes d'admissió a alumnat qualificat pertanyent a aquests col·lectius.

En un altre exemple, penseu en un entorn virtual d'aprenentatge que utilitza IA per predir els resultats d'aprenentatge de l'alumnat. Si el sistema utilitza dades que no reflecteixen amb precisió els diferents perfils i habilitats de tots l'alumnat, podria perjudicar injustament a alguns alumnes.

El camp de la IA presenta tant reptes com oportunitats per als docents. Aquests reptes inclouen la complexitat del tema i la necessitat de recursos i formació adequada. Treballar amb l'alumnat l'ètica de les dades i el biaix algorítmic no només els pot oferir coneixements i habilitats valuoses, sinó que també pot fomentar una aproximació crítica a la tecnologia i el seu impacte en la societat.

Els biaixos algorítmics

Imagineu que feu una activitat a l'aula en la qual demaneu al vostre alumnat que agafin un full i que dibuixin “una sabata”. Quan ensenyen les sabates que han dibuixat, observeu multitud de dibuixos de sabatilles esportives, botes i sandàlies, però molt poques, si n'hi ha cap, de sabates de taló alt. Us adoneu que les sabates de taló alt, sovint associades a dones o a la feminitat, estan poc representades entre les respostes del vostre alumnat.

Aquest exercici a l'aula ofereix una visió simplificada del món de l'aprenentatge automàtic i del concepte de biaix que hi pot sorgir. Igual que el vostre alumnat, si un ordinador està exposat principalment a sabatilles i botes mentre aprèn sobre "sabates", i poques vegades veu sabates de taló alt, pot desenvolupar un "biaix". A partir d’aquest punt, pot ser que tingui problemes per identificar correctament un taló alt com a sabata a causa d'aquesta baixa representació.

Revisem com el llenguatge a la programació ha anat evolucionant. Penseu en el context de diferents estratègies d'aprenentatge. La programació tradicional es pot comparar amb l'aprenentatge de memòria, on un ordinador, com un alumne, aprèn explícitament una seqüència de passos per resoldre un problema. En canvi, l'aprenentatge automàtic s'alinea més amb l'aprenentatge adaptatiu. Permet als ordinadors "aprendre" reconeixent patrons en un gran conjunt de dades, de manera similar a com un alumne capta els principis subjacents, els quals li permeten abordar múltiples qüestions relacionades entre elles, no només les que ha memoritzat.

En aquesta secció, investigarem com els biaixos, com la poca representació de les sabates de taló alt, poden colar-se en l'aprenentatge automàtic. També explorarem diferents tipus de biaixos i parlarem d'estratègies per lluitar per l'equitat en l'aprenentatge automàtic, reflectint l'empenta per l'equitat a les nostres aules. 

Els biaixos humans en els biaixos algorítmics

Com a docents, volem oferir una educació imparcial al nostre alumnat, oferint una gran varietat d'exemples i perspectives. Tanmateix, de vegades sense adonar-nos-en, les nostres pròpies preferències o experiències personals poden influir en les nostres pràctiques. Per exemple, si sou docents de català als quals els agrada molt la literatura d’avantguardes, potser, sense voler, invertireu més sessions en aquella època i menys sessions en altres períodes o estils.

Aquest favoritisme no intencionat és un exemple de biaix humà. De la mateixa manera, aquest fenomen també es dóna en l'aprenentatge automàtic.

Quan s'entrena un model d'aprenentatge automàtic, el docent és la persona que proporciona les dades perquè el model aprengui. L'alumne és el model d'aprenentatge automàtic. Si el docent només proporciona exemples de sabatilles esportives i botes quan ensenya sobre sabates, i poques vegades inclou sabates de taló alt, sense voler estarà influenciant al model perquè reconegui només sabatilles o botes com a sabates. En aquest cas, el model pot tenir problemes per identificar les sabates de taló alt com a sabates a causa de la seva sotaexposició a aquesta categoria. Aquest és un exemple sobre com el biaix humà pot introduir-se en l'aprenentatge automàtic.

S’assumeix que, com que l'aprenentatge automàtic es basa en dades, hauria de ser neutral i sense biaixos, però aquesta és una assumpció incorrecta. Les dades utilitzades en l'aprenentatge automàtic sovint són recopilades, seleccionades i etiquetades pels humans, i aquest procés és susceptible als nostres propis biaixos. És semblant a la manera com els humans elaborem els materials didàctics i els llibres de text i, malgrat les nostres millors intencions, de vegades poden reflectir els nostres biaixos, de manera conscient o inconscient.

És crucial entendre que, fins i tot amb les millors intencions, separar-nos completament dels nostres propis prejudicis pot ser un repte. Igual que en l'ensenyament, el primer pas per abordar aquests biaixos en l'aprenentatge automàtic és la consciència. Reconèixer que els biaixos es poden produir i es produeixen ens permet buscar activament maneres de minimitzar el seu impacte, garantint un entrenament més just per als nostres models d'aprenentatge automàtic.

A les seccions següents, analitzarem els diferents tipus de biaixos que es poden produir en l'aprenentatge automàtic i parlarem de maneres d’adreçar-los com ho faríem a l'aula. 

Els biaixos d'interacció

Els biaixos d'interacció són un tipus de biaix que es pot produir quan les interaccions o entrades utilitzades per entrenar un model d'aprenentatge automàtic no són representatives de totes les possibles entrades o interaccions.

Per exemple, suposem que esteu implementant l’activitat de classe en la qual cada alumne ha de dibuixar una sabata i mostrar-la. La majoria de l'alumnat dibuixa sabatilles esportives i només uns quants dibuixen sabates de taló alt. Si programéssiu junts un model el qual, només amb aquests dibuixos de sabates, hagués de reconèixer sabates, aquest molt possiblement tindria una comprensió esbiaixada, i tenim la possibilitat que ni tan sols reconegués les sabates de taló alt com a sabates. Això passa perquè les "entrades" (els dibuixos de les sabates) estaven esbiaixades, amb una sobrerepresentació de sabatilles esportives i una sotarepresentació de sabates de taló alt.

Apliquem-ho al món de l'aprenentatge automàtic. Google va desenvolupar un experiment anomenat "Quick, Draw!" (https://quickdraw.withgoogle.com/), en el qual es demana als usuaris que dibuixin objectes (incloses sabates) i, després, aquests dibuixos s’utilitzen per entrenar un model d'aprenentatge automàtic per reconèixer aquests objectes. 

El conjunt de dades recopilat d'aquest experiment està disponible públicament a https://quickdraw.withgoogle.com/data.

Això significa que el model pot tenir dificultats per identificar les sabates de taló alt com a sabates, ja que s'ha entrenat principalment amb dibuixos de sabatilles esportives. Pot ser capaç de reconèixer les sabatilles esportives, però pot tenir dificultats per identificar les sabates de taló alt o altres tipus de sabates poc representades.

Per mitigar el biaix d'interacció, és important assegurar-se que les entrades utilitzades per entrenar el model d'aprenentatge automàtic són diverses i representatives de totes les categories possibles. En el cas de les sabates, això significaria incloure diversos tipus de calçat: sabates de taló alt, sabatilles esportives, botes, sandàlies i molt més. En fer-ho, assegurem un entrenament equilibrat per al nostre model d'aprenentatge automàtic, de la mateixa manera que pretenem una educació integral i completa per al nostre alumnat a l'aula.

Els biaixos latents

Alguna vegada heu donat, per exemple, una classe d'història en la qual la majoria de les figures significatives destacades al llibre de text eren homes? Malgrat les nombroses contribucions que les dones han fet al llarg de la història, els llibres de text tradicionals sovint les representen poc. En conseqüència, l'alumnat podria assumir inconscientment que els homes han fet contribucions més significatives a la història. Aquest és un exemple de biaix latent en l'àmbit educatiu.

El biaix latent es refereix al tipus de biaix que sorgeix dels supòsits subjacents o ocults en les dades utilitzades per entrenar un model d'aprenentatge automàtic. Aquestes hipòtesis poden no ser immediatament evidents, però poden influir en els resultats que produeix el model.

Il·lustrem aquest concepte amb un escenari d'aprenentatge automàtic. Suposem que estem entrenant un model per reconèixer figures rellevants a la història de la física. Si utilitzem un conjunt de dades format principalment per imatges de físics històrics que són predominantment masculins, el model podria desenvolupar un biaix latent. Això és similar al nostre exemple del llibre de text d'història: el model pot "assumir" que els físics tenen més probabilitats de ser homes perquè això és predominantment en el que es veu. Si més tard es presenta una imatge d'una dona física, és possible que no la reconegui com a física a causa d'aquest biaix subjacent.

El biaix latent pot ser difícil d'identificar perquè sovint està relacionat amb biaixos històrics o socials que estan arrelats a les dades utilitzades per entrenar el model. Tot i això, de la mateixa manera que ens esforcem per utilitzar recursos diversos i inclusius a les nostres aules per oferir a l'alumnat una visió equilibrada de la història, és important en l'aprenentatge automàtic utilitzar dades diverses i equilibrades per entrenar models. Això pot contribuir a reduir el risc de biaix latent i així garantir que la tecnologia que desenvolupem pugui entendre i servir a tots usuaris.

Comprendre i abordar els biaixos latents és un altre pas important per aconseguir l'equitat en l'aprenentatge automàtic, de la mateixa manera que garantir una representació equilibrada i justa de les figures històriques a les nostres aules.

Els biaixos de selecció

Penseu en una sessió en la qual vau organitzar un debat a classe sobre un tema concret. Vau dividir l'alumnat en dos grups, cada grup recolzant una part diferent de l'argument. Tot i això, si la majoria de l'alumnat d'un grup eren extravertits i amb gran confiança, mentre que l'altre grup estava format per alumnat més tímid i menys segurs, el debat podria no representar correctament ambdues parts de l'argument. Aquesta és una forma de biaix de selecció: la composició dels grups pot no representar correctament la diversitat del grup-classe.

El biaix de selecció en l'aprenentatge automàtic es produeix quan les dades que s'utilitzen per entrenar un model no representen amb precisió l'espai en el qual operarà el model. Essencialment, és quan el tipus d'entrenament no s’ajusta al món real.

Suposem que estem creant un model d'aprenentatge automàtic per reconèixer cares. Podríem decidir utilitzar fotos d'internet o de la nostra pròpia biblioteca de fotos com a dades d’entrenament. Tanmateix, si aquestes fotos no representen tota la diversitat de rostres humans: diferents grups ètnics, edats, gèneres, expressions facials, condicions d'il·luminació, etc., és possible que el nostre model no funcioni bé quan es presenten cares no ben representades a l'entrenament de dades.

Aquest és un biaix de selecció: les dades d'entrenament estan esbiaixades i, com a resultat, l'aprenentatge del model està esbiaixat. Per exemple, si el model està format principalment en imatges de joves, pot ser que tingui dificultats per reconèixer o classificar amb precisió les cares de la gent gran.

Superar el biaix de selecció implica ser conscient de la necessitat de diversitat i representació en les dades de formació. Igual que a la nostra aula, on ens asseguraríem que els equips de debat estiguin equilibrats pel que fa a les habilitats de l'alumnat, en l'aprenentatge automàtic hem de garantir que les nostres dades d’entrenament representin amb precisió la diversitat del problema que estem intentant resoldre. D'aquesta manera, podem ajudar a garantir l'equitat dels nostres models d'aprenentatge automàtic i produir tecnologia que sigui útil per a tothom.

Com detectar i prevenir els biaixos

De la mateixa manera que ens esforcem per oferir a tot l'alumnat de la nostra classe les mateixes oportunitats d'èxit, minimitzar el biaix en l'aprenentatge automàtic implica fer esforços conscients per oferir oportunitats d'aprenentatge equilibrades als nostres models.

A continuació s'explica com ho podem fer:

Recollida de dades diversa

Penseu en aquesta com en un currículum completa. En un currículum ideal, involucrarem a l'alumnat en ventalla ampli de sabers de diferents disciplines, perspectives i cultures. De la mateixa manera, s’han de recopilar i utilitzar diversos conjunts de dades per entrenar els nostres models, els quals representin la totalitat d'escenaris que el model pot trobar al món real.

Per exemple, si estem entrenant un model per reconèixer sabates, hauríem d'assegurar-nos que el nostre conjunt de dades inclogui una varietat de tipus de sabates, com ara sabatilles esportives, sabates de taló alt, botes, sandàlies i molt més, de manera que pugui identificar amb precisió tota mena de sabates, no només les més comunes.

Comprovació de biaixos existents

Com a docents, avaluem contínuament els nostres mètodes i materials d'ensenyament per detectar els possibles biaixos que puguin perjudicar injustament a algun alumnat. De la mateixa manera, hem d’analitzar els models d'aprenentatge automàtic i les dades amb les quals s'entrenen per detectar qualsevol biaix existent.

En el nostre exemple de reconeixement facial, això podria comportar avaluar el nostre conjunt de dades per veure si inclou suficient diversitat de cares, tenint en compte l'edat, la raça, el gènere i altres característiques. Si s'omple principalment de cares joves, hauríem d'afegir més imatges de cares de diferents grups d'edat per equilibrar-lo.

Avaluació contínua

De la mateixa manera que avaluem contínuament el nostre alumnat per situar el seu nivell de comprensió i ajustem els nostres mètodes d'ensenyament-aprenentatge en conseqüència, s’ha d'avaluar contínuament el rendiment dels models d'aprenentatge automàtic.

Les avaluacions periòdiques poden ajudar a identificar qualsevol biaix que s'hagi infiltrat, de manera que es puguin ajustar les dades d'entrenament o ajustar el model per corregir-lo. Per exemple, si el nostre model que reconeix les sabates té problemes amb les sabates de taló alt, l'haurem de tornar a entrenar amb més exemples de sabates de taló alt.

Els mecanismes de retroalimentació

Els comentaris de l'alumnat i de les famílies sovint ofereixen informacions valuoses, les quals ens ajuden a millorar els nostres mètodes d'ensenyament-aprenentatge. De la mateixa manera, els comentaris dels usuaris poden ajudar a identificar i corregir el biaix en els models d'aprenentatge automàtic.

Moltes empreses han implementat mecanismes de retroalimentació per als seus serveis basats en l'aprenentatge automàtic. Un exemple d’aquests mecanismes és el projecte “Respect” de Google (https://projectrespect.withgoogle.com/), el qual posa en relleu el biaix detectat sobre l’ús de terminologia del col·lectiu LGTBQIA+ de manera pejorativa.

Aquesta és una iniciativa que té com a objectiu fer que les converses en línia siguin més inclusives i respectuoses mitjançant la creació d'un conjunt de dades obertes de declaracions d'identitat positives de la comunitat LGTBQIA+. El projecte té com a objectiu millorar l'equitat i la precisió dels models d'aprenentatge automàtic que s'utilitzen per moderar les discussions en línia i fomentar un entorn més acollidor i respectuós per a tots els usuaris.

Els biaixos en l'aprenentatge automàtic, igual que els biaixos en l’àmbit de l'educació, són un problema complex que requereix esforços continus per abordar-lo. Amb una comprensió exhaustiva d'aquests biaixos i un enfocament compromès per minimitzar-los, es pot contribuir a l’objectiu de garantir que la nostra tecnologia funcioni de manera equitativa per a tots els usuaris, de la mateixa manera que lluitem per l'equitat a les nostres aules.

Impliquem a tothom en les converses

A l'aula, sabem que l'educació porta a l’èxit quan hi ha un esforç col·laboratiu. Impliquem a l’alumnat, les famílies, els companys docents i a tots els membres de la comunitat educativa per crear un entorn d'aprenentatge ric. Sabem reconèixer com diverses perspectives poden fomentar una comprensió més integral i una comunitat més inclusiva.

S'ha d'adoptar el mateix enfocament quan s'aborda el biaix en l'aprenentatge automàtic. A continuació s’analitzen diverses estratègies per abordar com es poden ampliar les converses per implicar a tots els usuaris en els models d’aprenentatge automàtic:

L’educació i la sensibilització

En primer lloc, de la mateixa manera que eduquem l'alumnat sobre diversos temes, és vital educar a tots els implicats en la tecnologia, des dels desenvolupadors fins als usuaris, sobre la presència i l'impacte dels biaixos en l'aprenentatge automàtic.

Podem pensar en això com una campanya de conscienciació pública, semblant a com les escoles podrien educar a famílies i alumnat sobre una nova iniciativa educativa. L'objectiu és garantir que tothom tingui la informació necessària per participar en la conversa.

La col·laboració entre disciplines

En l'entorn escolar, la col·laboració interdisciplinària sovint dóna lloc a experiències d'aprenentatge més interessants i significatives. En el món de la tecnologia, la participació d'experts de diversos àmbits, com ara les ciències socials, l'ètica i el dret, pot proporcionar perspectives diverses i contribuir a un enfocament més equilibrat per a l'aprenentatge automàtic.

Imagineu un projecte d'escola en el qual l'alumnat de diferents grups-classe treballen col·laborativament, cadascun posant sobre la taula les seves habilitats úniques. El resultat és sovint més ric i creatiu. De la mateixa manera, la col·laboració interdisciplinària pot conduir a solucions més reflexives i integrals per a reduir els biaixos en l'aprenentatge automàtic.

El foment dels comentaris dels usuaris

Penseu en les reunions dels docents amb les famílies, en les quals les famílies proporcionen informació sobre els seus fills que potser els docents no coneixen. Aquest feedback pot ser fonamental per entendre les necessitats individuals de l'alumnat i ajustar les estratègies d'ensenyament-aprenentatge en conseqüència.

En la mateixa línia, els usuaris d’eines amb aprenentatge automàtic poden proporcionar comentaris valuosos sobre les seves experiències, destacant les àrees en les quals es poden produir biaixos. Les empreses sovint ofereixen eines perquè els usuaris marquin un comportament inadequat o esbiaixat als seus sistemes. Aquest bucle de comentaris és com quan mantenim contacte continu amb les famílies per tal d’ajudar el nostre alumnat a aprendre i créixer.

El desenvolupament inclusiu

De la mateixa manera que volem que la diversitat del personal de la nostra escola representi la diversitat del nostre cos d'alumnat, la participació de desenvolupadors, científics de dades i altres parts interessades de diferents orígens pot conduir a un enfocament més complet de l'aprenentatge automàtic.

Aquest equip divers pel desenvolupament dels models d'aprenentatge automàtic ajuda a garantir que es considerin diverses perspectives, donant lloc a una tecnologia més robusta i inclusiva.

Abordar els biaixos en l'aprenentatge automàtic no és una tasca per a uns pocs seleccionats. És un esforç comunitari. En implicar tothom en les converses, es crea una responsabilitat compartida per garantir que la tecnologia sigui útil per a tots els usuaris de manera equitativa, de la mateixa manera que ens esforcem perquè l'educació sigui útil per a tot l'alumnat. Els paral·lelismes entre l'educació i l'aprenentatge automàtic ens recorden que al centre d'ambdues disciplines es troba un compromís amb l'equitat i la inclusió.

Diversitat forçada als algoritmes: el cas del generador d’imatges de Gemini

Al febrer 2024, Google va introduir la possibilitat de generar imatges amb Gemini als EUA. L'objectiu de l'eina és generar una àmplia gamma de persones en imatges, promovent la diversitat i la inclusivitat. No obstant això, la recent controvèrsia revela les complexitats involucrades en assolir aquest objectiu sense distorsionar els fets històrics.

Molts usuaris que podien provar l’eina no van tardar a detectar que a les seves indicacions se li afegia de manera automàtica la paraula “divers”. Això va portar múltiples usuaris a explotar aquesta feblesa per generar contingut que posés en relleu com forçar diversitat en les indicacions podria portar a resultats no adequats, caracteritzats per no tenir en compte sensibilitats culturals. 

Respostes de l'eina d'IA a indicacions com "un soldat alemany de 1943" o "un senador dels EUA dels anys 1800" han estat destacades com a exemples on l'eina va fallar a representar acuradament els fets històrics, oferint en lloc d'això representacions anacròniques o culturalment inadequades.

Molts usuaris han remarcat que, tot i que promoure la diversitat és crucial, cal abordar-la amb matisos, especialment en contextos històrics on certes representacions poden no ser històricament precises. Les crítiques emfatitzen la importància que la IA reconegui i representi la diversitat del món modern sense esborrar o representar incorrectament les realitats històriques.

L'incident subratlla els desafiaments que enfronta la IA en equilibrar la representació de la diversitat amb la precisió històrica. Els generadors d'imatges amb IA, entrenats amb grans conjunts de dades, a vegades poden perpetuar o amplificar estereotips a causa dels biaixos en el material d'entrenament. Aquesta situació ha reactivat discussions sobre la responsabilitat de les empreses per assegurar que els seus models d'IA siguin tant inclusius com precisos.

En resposta a la reacció adversa, Google va posar en pausa el seu servei de creació d’imatges i es va comprometre a millorar els seus models d'IA per abordar aquestes inexactituds. L'empresa va reconeixer la necessitat d'un enfocament equilibrat que respecti el context històric alhora que abraci la diversitat de la població mundial que utilitza els seus serveis. A l'agost de 2024, el generador d'imatges es va reobrir (no està disponible oficialment a Europa).

Articles recomanats sobre els biaixos algorítmics a la IA generativa:

Nicoletti, L., i Bass, D. (2023). Humans are biased. Generative AI is even worse. Bloomberg. 
https://www.bloomberg.com/graphics/2023-generative-ai-bias/

Tiku, N., Schaul, K. i Chen, S.Y. (2023). This is how AI image generators see the world. The Washington Post. 
https://www.washingtonpost.com/technology/interactive/2023/ai-generated-images-bias-racism-sexism-stereotypes/

L'ètica de les dades

L'ètica de les dades és la branca de l'ètica que s'ocupa dels principis i pràctiques que guien la recollida, l'anàlisi i l'ús de dades de manera que respectin la dignitat humana, els drets i els valors. Les dades són el combustible de la IA, ja que proporcionen la informació i el coneixement que els sistemes d'IA necessiten per aprendre i executar les seves tasques. Tot i això, les dades també poden plantejar moltes qüestions ètiques, com, per exemple:

• Com protegir la privadesa i el consentiment dels interessats.
• Com garantir la qualitat i validesa de les dades.
• Com protegir les dades d'accés no autoritzat o mal ús.
• Com ser transparent i responsable de l'ús i els resultats de les dades.

En aquesta secció, s’exploren algunes de les qüestions ètiques clau relacionades amb les dades en IA. També es donen alguns exemples de dilemes ètics o controvèrsies relacionades amb les dades en IA.

La privadesa

La privadesa és el dret de les persones a controlar la seva informació personal i com la fan servir els altres. La privadesa és essencial per a la dignitat humana, l'autonomia i la llibertat. No obstant això, aquesta es pot veure amenaçada per la recopilació i el processament massius de dades personals per part dels sistemes d'IA, especialment quan aquestes dades són sensibles, com, per exemple, dades de salut, biomètriques o d'ubicació. També es pot violar per l'accés no autoritzat o la divulgació de dades personals per part de pirates informàtics, tercers o governs. Per protegir la privadesa, podem seguir alguns principis i pràctiques, com, per exemple:

• Vetllar per minimitzar la quantitat i la sensibilitat de les dades personals recopilades i processades pels sistemes d'IA.
• Obtenir el consentiment informat dels interessats abans de recollir o utilitzar les seves dades personals.
• Anonimitzar o pseudonimitzar les dades personals per evitar la identificació dels interessats.
• Xifratge de dades personals per evitar l'accés o la divulgació no autoritzats.
• Complir amb les lleis i regulacions de privadesa rellevants, com, per exemple, el Reglament general de protecció de dades. 

El consentiment

El consentiment és l'acord dels interessats per facilitar les seves dades personals per a una finalitat específica i sota determinades condicions. El consentiment és una manera de respectar l'autonomia i les preferències dels interessats. Tanmateix, aquest pot ser difícil d'obtenir i mantenir en el context dels sistemes d'IA, especialment quan aquests sistemes són complexos, dinàmics o opacs. També pot estar influenciat per factors com l'asimetria d'informació, els biaixos cognitius o la pressió social. Per garantir un consentiment vàlid, podem seguir alguns principis i pràctiques, com, per exemple:

• Proporcionar informació clara i concisa sobre la finalitat, l'abast, la durada i les conseqüències de la recollida de dades i l'ús dels sistemes d'IA.
• Oferint opcions i opcions significatives perquè els subjectes de les dades acceptin o deixin la recollida de dades i l'ús dels sistemes d'IA.
• Garantir que el consentiment és lliure, específic, informat i inequívoc.
• Permetre als interessats retirar o modificar el seu consentiment en qualsevol moment.
• Respectar els drets i interessos dels col·lectius vulnerables o marginats, com, per exemple, els nens, les minories o els refugiats.

La propietat

La propietat és el dret de les persones o entitats a reclamar els drets de propietat sobre les seves dades personals o propietat intel·lectual. Aquesta és important per garantir una compensació justa, el reconeixement i el control de les dades o creacions d'un mateix. Tot i això, la propietat pot ser discutida o poc clara en el context dels sistemes d'IA, especialment quan aquests sistemes generen noves dades o sortides a partir de dades o entrades existents. També es pot veure afectada per factors com, per exemple, acords contractuals, marcs legals o normes culturals. Per aclarir la propietat, podem seguir alguns principis i pràctiques, com, per exemple:

• Establir termes i condicions clars i explícits per a la recollida de dades i l'ús dels sistemes d'IA.
• Reconèixer i atribuir les fonts i els contribuents de les dades o els resultats utilitzats o generats pels sistemes d'IA.
• Compartir els beneficis i els riscos de les dades o els resultats utilitzats o generats pels sistemes d'IA entre tots els grups d'interès.
• Respectar els drets de propietat intel·lectual i les llicències de les dades o sortides utilitzades o generades pels sistemes d'IA.
• Equilibrar els interessos dels propietaris individuals amb els dels propietaris col·lectius o béns públics.

La qualitat

La qualitat és el grau en què les dades compleixen certs estàndards o criteris d'exactitud, exhaustivitat, coherència, rellevància, actualitat o fiabilitat. Aquesta és essencial per garantir que els sistemes d'IA funcionin bé i produeixin resultats vàlids. Per altra banda, la qualitat es pot veure compromesa per diversos factors, com, per exemple, el soroll, els errors, els valors atípics, els valors que falten o els duplicats de les dades. També es pot veure afectada per factors com, per exemple, el biaix o el desequilibri en la distribució de dades. Per vetllar per la qualitat, podem seguir alguns principis i pràctiques, com, per exemple:

• Netejar, validar, normalitzar o enriquir dades abans d'utilitzar-les en sistemes d'IA.
• Utilitzar fonts de dades, mètodes, tècniques o eines adequades per recopilar, analitzar o processar dades en sistemes d'IA.
• Avaluar, supervisar o provar el rendiment, la precisió o la robustesa dels sistemes d'IA mitjançant mètriques, indicadors o punts de referència de qualitat.
• Informar, documentar o compartir les limitacions, incerteses o supòsits de les dades i dels sistemes d'IA.

La seguretat

La seguretat és la protecció de les dades contra l'accés, l'ús, la modificació, la divulgació o la destrucció no autoritzats. Aquesta és vital per garantir la confidencialitat, la integritat i la disponibilitat de les dades i els sistemes d'IA. Això no obstant, la seguretat pot veure's amenaçada per diversos agents, com, per exemple, hackers, els quals poden intentar robar, manipular o sabotejar les dades o els sistemes d'IA. També es pot veure desafiada per factors com, per exemple, la complexitat, la vulnerabilitat o l'escalabilitat de les dades o els sistemes d'IA. Per millorar la seguretat, podem seguir alguns principis i pràctiques, com, per exemple:

• Implementar mesures tècniques com, per exemple, xifratge, autenticació, autorització, tallafocs o antivirus per prevenir o detectar l'accés o l'ús no autoritzat de dades o sistemes d'IA.
• Implementar mesures organitzatives com, per exemple, polítiques, procediments, estàndards o auditories per regular o supervisar l'accés o l'ús de dades o sistemes d'IA.
• Implementar mesures legals com, per exemple, contractes, acords, lleis o reglaments per fer complir o sancionar l'accés o l'ús de dades o sistemes d'IA.
• Implementar mesures ètiques com, per exemple, codis de conducta, comitès d'ètica, mecanismes de denúncia o pirateria ètica per promoure o premiar l'accés o l'ús responsable de dades o sistemes d'IA.
• Implementar mesures educatives com, per exemple, la formació, conscienciació o orientació per informar o capacitar els usuaris o grups d'interès en sistemes de dades o IA.

La responsabilitat

El retiment de comptes és l'obligació de les persones o entitats d'assumir la responsabilitat de les seves accions i decisions relacionades amb dades i sistemes d'IA. Aquest és crucial per garantir que les dades i els sistemes d'IA s'utilitzen d'una manera legal, ètica i fiable. Malgrat això, la responsabilitat pot ser difícil d'establir i aplicar en el context dels sistemes d'IA, especialment quan aquests sistemes són autònoms, distribuïts o emergents. També es pot veure influenciada per factors com la dinàmica de poder, les estructures d'incentius o els valors culturals. Per fomentar la responsabilitat, podem seguir alguns principis i pràctiques, com, per exemple:

• Definir i assignar funcions i responsabilitats clares per al disseny, desenvolupament, desplegament i avaluació de sistemes de dades i IA.
• Establir i aplicar normes i estàndards clars per a l'ús ètic i el govern de les dades i els sistemes d'IA.
• Proporcionar i incentivar la retroacció i consultes dels grups d’interès sobre els impactes i els resultats de les dades i els sistemes d'IA.
• Realitzar i fer seguiment periòdicament d'auditories, revisions o avaluacions del compliment i el rendiment de les dades i els sistemes d'IA.
• Proporcionar i habilitar mecanismes efectius per reparar o corregir qualsevol dany causat per les dades o els sistemes d'IA.

Aquestes són algunes de les qüestions ètiques clau relacionades amb les dades en IA a les quals condueix aquesta secció:

• Com podem equilibrar el compromís entre la privadesa i la utilitat en la recollida de dades i l'ús dels sistemes d'IA?
• Com podem obtenir i mantenir el consentiment vàlid dels interessats en contextos d'IA dinàmics i complexos?
• Com podem determinar i distribuir els drets de propietat i els beneficis de les dades o sortides utilitzades o generades pels sistemes d'IA?
• Com podem garantir i millorar la qualitat i la validesa de les dades utilitzades als sistemes d'IA?
• Com podem protegir les dades de l'accés, l'ús, la modificació, la divulgació o la destrucció no autoritzats per part d'agents maliciosos?
• Com podem garantir i fer complir la responsabilitat de les accions i decisions que involucren dades i sistemes d'IA?

La Llei d'Intel·ligència Artificial d'Europa

El passat 1 de setembre de 2024 va entrar en vigor el REGLAMENT (UE) 2024/1689 DEL PARLAMENT EUROPEU I DEL CONSELL, de 13 de juny de 2024, pel qual s'estableixen normes harmonitzades en matèria d'intel·ligència artificial i pel qual es modifiquen els Reglaments (CE) núm. 300/2008, (UE) núm. 167/2013, (UE) núm. 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 i les Directives 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (Reglament d'Intel·ligència Artificial).

Davant el ràpid desenvolupament de la IA generativa, la regulació d’aquesta s'ha convertit en una qüestió clau política arreu del món. La Unió Europea ha anat progressant en aquesta qüestió durant els darrers anys. A través del seu Llibre Blanc de la IA de 2020, la Comissió Europea va apostar per fomentar l'adopció de la IA i abordar els riscos associats. Després d'un enfocament inicial basat en normes no vinculants, la Comissió va decidir impulsar la creació de regles harmonitzades per al desenvolupament i ús de sistemes d'IA.

El Parlament Europeu va impulsar el debat, sol·licitant un marc normatiu que garantís l'ètica en el desenvolupament i ús de la IA, especialment en relació amb la responsabilitat civil per l'ús de sistemes d'IA d'alt risc. El Consell també va exigir l'adopció de normes comunes sobre la IA, destacant la importància d'un enfocament basat en el risc. Posteriorment, la Comissió va llançar una consulta pública el 2020 i va publicar una avaluació d'impacte, identificant diversos problemes associats a la IA, com la seva opacitat, complexitat i dependència de la qualitat de les dades.

Quins canvis introdueix aquesta llei

Aquesta llei està dissenyada com un instrument legislatiu horitzontal aplicable a tots els sistemes d'IA del mercat o utilitzats dins de la UE. Es basa en els articles 114 i 16 del Tractat de Funcionament de la Unió Europea, i segueix la lògica del nou marc legislatiu europeu per garantir la conformitat dels productes mitjançant avaluacions i el marcatge CE.

La Comissió Europea va proposar una definició legal de sistema d'IA. Aquesta inclou tecnologies basades en programari com l'aprenentatge automàtic, els sistemes basats en lògica i coneixement, i els enfocaments estadístics. Aquesta definició requerirà actualitzar-se amb el temps, segons els avenços tecnològics.

Aquesta llei prohibeix explícitament pràctiques perilloses que suposen un risc inacceptable, com l'ús de tècniques subliminars manipulatives, l'explotació de grups vulnerables, l'ús per part de les autoritats públiques per a la puntuació social i la identificació biomètrica remota en temps real en espais públics per a l'aplicació de la llei, amb determinades excepcions.

També pretén regular els sistemes d'IA d'alt risc, els quals poden tenir un impacte advers en la seguretat o els drets fonamentals de les persones. Es distingeix entre dos tipus: aquells utilitzats com a component de seguretat de productes (per exemple, joguines, aviació, dispositius mèdics) i sistemes utilitzats en àrees específiques, com l'aplicació de la llei. Aquests sistemes han de complir una sèrie de requisits abans de ser comercialitzats, incloent-hi la gestió de riscos, la transparència i la supervisió humana.

Per altra banda, s’identifiquen sistemes d'IA amb risc limitat com, per exemple, els xatbots, el reconeixement d'emocions, o els sistemes de creació de contingut (com, per exemple, els hipertrucatges), els quals han d’estar subjectes a límits i obligacions de transparència.

Per últim, es troben els sistemes d'IA amb risc mínim, els quals no estaran subjectes a obligacions legals addicionals, tot i que es fomentarà la creació de codis de pràctiques perquè els proveïdors els apliquin voluntàriament.

Aquesta llei exigeix que els estats membres designin autoritats competents per supervisar l'aplicació i el compliment de la normativa, així com la creació d'un Consell Europeu d'Intel·ligència Artificial. També es preveuen multes administratives en cas d'incompliment.

A més, es proposen mesures per fomentar les inversions en aquest àmbit, com l'establiment d’entorns controlats de proves reguladors per a proveïdors petits i empreses emergents, els quals permetrien desenvolupar i provar sistemes d'IA sense infringir les normatives de protecció de dades.

Abast de la llei

S’inclou una definició per a sistemes d'IA, alineada amb la de l’Organització de Cooperació i Desenvolupament Econòmic, la qual descriu els sistemes d'IA com “sistemes basats en màquines capaces de funcionar amb diferents nivells d'autonomia i d'adaptar-se després del seu desplegament per generar resultats, com prediccions o recomanacions, que poden influir en entorns físics o virtuals.” Aquesta definició exclou sistemes de programari més simple. La Comissió Europea serà l’encarregada de desenvolupar guies per a la seva aplicació.

També es defineixen els models d'intel·ligència artificial per a propòsits generals com aquells que han estat entrenats amb grans volums de dades, i que són capaços d'executar diverses tasques i d'integrar-se en altres sistemes.

Pel que fa a l'àmbit d'aplicació, aquesta llei s'aplica a proveïdors i responsables de desplegament que implementen sistemes d'IA i models per a propòsits generals al mercat de la UE. Els sistemes d'IA destinats a usos militars, de defensa o seguretat nacional queden exclosos, així com els sistemes utilitzats exclusivament per a la recerca científica. També s'indica que la regulació no s'aplica abans que els sistemes estiguin en servei o al mercat, però que es poden aplicar regles de fer proves en un entorn controlat en aquest cas.

Un enfocament basat en el risc

La llei adopta un enfocament basat en el risc i es classifica els sistemes d'IA en diverses categories, les quals comporten diferents graus de regulació aplicables.

Sistemes d’IA de risc inacceptable

Es prohibeixen els següents usos:

• Ús de tècniques manipulatives o enganyoses per distorsionar el comportament de les persones o d'un grup de persones i impedir la presa de decisions informada, causant un dany significatiu.
• Explotació de vulnerabilitats derivades de l'edat, discapacitat o situacions socials o econòmiques, causant un dany significatiu.
• Categorització biomètrica que infereixen la raça, les opinions polítiques, la pertinença a sindicats, les creences religioses o filosòfiques, la vida sexual o l'orientació sexual (excepte per a etiquetatge o filtratge legal en aplicacions de la llei).
• Avaluació o classificació d’individus o grups segons el comportament social o característiques personals que condueixi a un tractament perjudicial o desproporcionat en contextos no relacionats o que sigui injustificat o desproporcionat amb el seu comportament.
• Identificació biomètrica remota en temps real en espais públics per a aplicacions de la llei (excepte per a objectius específics necessaris, com la recerca de víctimes de segrest, explotació sexual o persones desaparegudes, la prevenció d'amenaces imminents i substancials per a la seguretat, o la identificació de sospitosos en crims greus).
• Avaluació del risc de persones de cometre delictes basant-se únicament en perfils o trets de personalitat i característiques (excepte en el suport d’avaluacions humanes basades en fets objectius i verificables relacionats amb activitat criminal).
• Creació o ampliació de bases de dades de reconeixement facial mitjançant la recopilació indiscriminada d'informació d'internet o imatges de circuit tancat de televisió.
• Inferència d’emocions en llocs de treball o institucions educatives, excepte per raons mèdiques o de seguretat.

Sistemes d'IA d'alt risc

S'identifiquen diversos casos d'ús en els quals els sistemes d'IA es consideren d'alt risc perquè poden tenir un impacte advers sobre la salut, la seguretat o els drets fonamentals de les persones.

• La classificació del risc es basa en la finalitat prevista del sistema d'IA. La funció que realitza el sistema d'IA i la finalitat i modalitats específiques per a les quals s'utilitza són fonamentals per determinar si un sistema d'IA és d'alt risc o no. Els sistemes d'IA d'alt risc poden ser components de seguretat de productes coberts per la legislació sectorial de la UE (per exemple, dispositius mèdics) o sistemes d'IA que, per principi, es consideren d'alt risc quan s'utilitzen en localitzacions específiques. La comissió té l'encàrrec de mantenir una base de dades de la UE per als sistemes d'IA d'alt risc.
• Els sistemes d'IA no es consideraran d'alt risc si no presenten un risc significatiu de dany per a la salut, la seguretat o els drets fonamentals de les persones físiques. No obstant això, un sistema d'IA sempre es considerarà d'alt risc si s’utilitza per generar perfils de persones físiques.
• Els proveïdors d'aquests sistemes d'IA d'alt risc hauran de passar per un procediment d'avaluació de conformitat abans que els seus productes puguin ser venuts i utilitzats a la UE. Hauran de complir una sèrie de requisits, les quals inclouran proves, entrenament de les dades i ciberseguretat. En alguns casos, s’haurà de fer una avaluació d'impacte en drets fonamentals per garantir que els sistemes compleixen amb la legislació de la UE. L'avaluació de conformitat s'hauria de dur a terme o bé mitjançant un control intern (autoavaluació) o amb la participació d'un organisme avaluador (per exemple, en el cas de la biometria). El compliment de la normativa proporcionarà als proveïdors de sistemes d'IA d'alt risc una presumpció de conformitat. Després de la seva comercialització, els proveïdors hauran d'implementar mecanismes de seguiment i prendre mesures correctives, si escau.

Risc de transparència

Aquesta categoria agrupa sistemes d'IA destinats a interactuar amb persones físiques o a generar contingut que puguin presentar riscos específics d'usurpació d'identitat o engany, independentment de si es qualifiquen o no com a sistemes d'alt risc. Aquests sistemes estan subjectes a requisits d'informació i transparència. Cal informar els usuaris que interactuen amb xatbots. Els responsables del desplegament de sistemes d'IA que generin o manipulin contingut d'imatge, àudio o vídeo (per exemple, hipertrucatges) hauran de divulgar que el contingut ha estat generat o manipulat artificialment, excepte en casos molt limitats (per exemple, quan s'utilitza per prevenir delictes). Els proveïdors de sistemes d'IA que generen grans quantitats de contingut sintètic han d'implementar mesures (com marques d'aigua) per permetre la identificació i detecció que el resultat ha estat generat o manipulat per un sistema d'IA i no per un humà. Les empreses que utilitzin sistemes d'IA al lloc de treball han d'informar els treballadors i els seus representants.

Riscos mínims

Aquest grup inclou sistemes que presenten un risc mínim per a les persones (per exemple, filtres de correu brossa), els quals no estaran subjectes a altres obligacions més enllà de la legislació aplicable actualment (per exemple, el Reglament General de Protecció de Dades).

Normativa específica per als models per a propòsits generals

• Requisits de transparència. Aquests models hauran de preparar i mantenir documentació tècnica actualitzada i posar la informació i documentació a disposició dels proveïdors de sistemes d'IA dels quals depenguin. Tots els proveïdors d’aquests models han de tenir guies per respectar la legislació sobre drets d'autor, incloent-hi l'ús de tecnologies avançades (com, per exemple, marques d'aigua). A més, han d'elaborar i fer públic un resum detallat del contingut utilitzat per entrenar els models. Finalment, si es troben fora de la UE, hauran de designar un representant dins la UE. Els models d'IA accessibles sota codi obert i gratuït estaran exempts d'algunes obligacions (per exemple, la divulgació de documentació tècnica), ja que, en principi, tenen efectes positius en la recerca, la innovació i la competència.
• Obligacions per a models amb risc sistèmic. Els models amb "capacitats d'alt impacte" podrien suposar un risc sistèmic i tenir un impacte significatiu en el mercat intern, a causa del seu abast i als seus efectes negatius actuals o raonablement previsibles (en salut pública, seguretat, drets fonamentals o la societat en conjunt). Els seus proveïdors han de notificar a la Comissió Europea si el seu model s'entrena amb una potència de càlcul total que excedeixi els 10^25 FLOPs (operacions de coma flotant per segon). Quan es compleixi aquest llindar, es presumirà que el model planteja riscos sistèmics. A més dels requisits sobre transparència i protecció dels drets d'autor aplicables a tots aquests models, els seus proveïdors hauran d'avaluar i mitigar els riscos que plantegen, i garantir la protecció en termes de ciberseguretat. Això inclou, entre altres accions, documentar i informar els usuaris sobre incidents greus (per exemple, violacions de drets fonamentals) i implementar mesures correctives.
• Codis de pràctiques i presumpció de conformitat. Els proveïdors d’aquests models podran basar-se en codis de pràctiques per demostrar el compliment de les obligacions establertes en la normativa. La Comissió podrà decidir aprovar un codi de pràctiques i donar-li validesa general a la UE o, alternativament, proporcionar regles comunes per a la implementació de les obligacions rellevants. El compliment de la normativa atorga als proveïdors la presumpció de conformitat. Els proveïdors de models amb riscos sistèmics que no segueixin un codi de pràctiques aprovat hauran de demostrar mitjans alternatius adequats de compliment.

Implementació i supervisió

S'han reforçat les mesures per fomentar la inversió en sistemes d'IA. Les autoritats nacionals han d'establir, com a mínim, un entorn controlat de proves per facilitar el desenvolupament i la prova de sistemes d'IA amb supervisió reguladora estricta. Aquests entorns proporcionen un espai controlat per a la innovació i permeten el desenvolupament, l'entrenament, les proves i la validació de sistemes d'IA durant un temps limitat abans de la seva comercialització. També es poden fer proves en condicions reals fora d'un laboratori, sempre que es compleixin les normes de protecció de dades de la UE. Els proveïdors de sistemes d'IA d'alt risc també poden fer proves en condicions reals sense participar en un entorn controlat, sempre que compleixen determinades garanties i condicions.

La implementació de Llei recau en agents a escala nacional i de la UE. Els estats membres han d'establir, com a mínim, una autoritat de supervisió del mercat i una autoritat de notificació. Es preveuen sancions greus per a les entitats que no compleixin. A escala de la UE, diversos agents donen suport a la implementació de l'acte. L'Oficina d'IA de la UE ha estat creada per assessorar sobre l'aplicació de la nova normativa, especialment en relació amb els models per a propòsits generals, i per desenvolupar codis de pràctiques.

Els sistemes que siguin prohibits hauran de ser eliminats en els sis mesos posteriors a l'entrada en vigor de la Llei. Les disposicions relatives als models per a propòsits generals i sancions s'aplicaran 12 mesos després, i les relatives a sistemes d'IA d'alt risc, 24 mesos després (36 mesos en el cas de sistemes coberts per la legislació de productes de la UE). Els codis de pràctiques han d'estar llestos, com a màxim, nou mesos després de l'entrada en vigor. La Comissió emetrà actes d'implementació, guies i codis de pràctiques.

El model PIO

A través de l’estratègia Catalonia.ai, el govern català ha treballat proactivament per assegurar que els seus desenvolupaments en l’àmbit de la IA segueixen estàndards de la Llei per tal de promoure principis ètics, tant en el sector públic com privat.

Un dels esforços de Catalunya en aquesta direcció és el Model PIO (Principis, Indicadors i Observables), desenvolupat per l'Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OEIAC). Aquest model es pot utilitzar per avaluar els riscos ètics, legals i socials dels sistemes d'IA, i ofereix recomanacions i obligacions legals. A més, facilita el compliment del Reglament Europeu d'IA, assegurant que els sistemes d'IA compleixen amb les normes europees sobre seguretat, transparència i protecció de dades.

Per saber més:

Explorador de la Llei d’IA.

Preguntes i respostes sobre la Llei d’IA.

IA i integritat acadèmica

Cal tenir present:

IA i plagi: què és per a vosaltres "copiar"?

Detectors d'IA: per què no utilitzar-los. Què podem fer en el seu lloc?

Per detectar si s'ha copiat i enganxat text generat amb IA, existeixen diversos detectors, com GPTZero o AI Writing Check de CommonLit.

Sam Altman, el CEO (actual) d’OpenAI, ja ho va deixar clar en una entrevista: “una persona amb determinació esquivarà tots aquests detectors”.

A continuació teniu una adaptació al català de la infografia de l'article "Why AI Detectors Are Problematic and What To Do Instead" de Holly Clark (Infused Classroom).

Sadasivan, V. S. et al. (2023) comenten al seu article "Can AI-generated text be reliably detected?" les dificultats que aquests detectors tenen per obtenir resultats fiables, tenint en compte factors com l'avenç dels models de llenguatge extens o la seva vulnerabilitat a eines com spinbots (especialitzades a reconstruir textos perquè els detectors les detectin com a més humanes com, per exemple, StealthGPT, entre moltes altres).

Liang, W. et al. (2023) emfatitzen, al seu article "GPT detectors are biased against non-native English writers.", l'alt percentatge de falsos positius per a escrits en anglès de no nadius en contextos educatius. Això suggereix un risc de conseqüències injustes i biaixos potencials en contra dels parlants no nadius de la llengua anglesa. Aquest risc és extrapolable a altres llengües, com el català o el castellà.

Per causa de la seva baixa precisió, al juliol 2023, OpenAI va decidir tancar el seu propi detector de textos fets amb intel·ligència artificial.

Si sospiteu que un alumne ha emprat ChatGPT, això pot comportar l’inici d’una conversa. Com podria l’alumne demostrar el que ha après? Existeixen barreres que li impedeixin crear el producte per si mateix? 

Com a docents que hem estat realitzant un seguiment proper d’aquest alumne, tenim la intuïció i els coneixements per detectar si un producte inclou o no la seva veu pròpia.

Per tant, és fonamental que, com a docents, adoptem una perspectiva més holística en l'avaluació de l'ús de la intel·ligència artificial per part l'alumnat. Més enllà de confiar exclusivament en detectors d'IA, els quals han demostrat ser poc fiables i potencialment esbiaixats, hem de focalitzar-nos en desenvolupar la capacitat crítica de l'alumnat i la seva habilitat per utilitzar aquestes eines de manera responsable. Així, en lloc de limitar-nos a detectar textos generats per IA, podem fomentar un diàleg obert que ajudi l'alumnat a reflexionar sobre les seves fonts i els processos de creació per desenvolupar un aprenentatge profund i autèntic.

Per on comencem a dissenyar tasques?

L'impacte de les eines amb IA a les nostres aules ens força a replantejar quines tasques demanem a l'alumnat i com les configurem.

Les conegudes com a habilitats del s. XXI (Partnership for 21st Century Skills, 2002) ens poden ajudar a guiar-nos. Relacionem-les amb l'impacte de la IA a les nostres aules:

Creativitat: incrementar la creativitat a les tasques pot augmentar la motivació de l’alumnat. També els pot donar l'oportunitat per utilitzar els seus talents i les habilitats que els fan únics. Això pot promoure que es sentin més visibles a l’aula.

A més, quan han de fer una tasca creativa, és molt més difícil copiar i enganxar la resposta d’un xatbot sense passar-la per un filtre cognitiu.

Alguns exemples d’alternatives al treball escrit tradicional poden ser: crear un eix cronològic, una portada (i contraportada) d’un llibre, una tira còmica, un diari fictici, cartes per a un joc, un perfil fictici a una xarxa social, un diagrama de Venn, un mapa conceptual, un joc, un poema o cançó, una banda sonora, una entrevista, un book trailer, un anunci publicitari, una presentació, un model 3D, un dibuix, un collage, etc.

Comunicació: Quan el traductor de Google va començar a guanyar popularitat, molts usuaris van començar a comentar que ja no calia aprendre llengües, ja que aquesta aplicació semblava poder fer tota la feina de traducció de manera eficaç.

Ara com ara, ja hem après que, si volem tenir converses reals i construir una relació, no podem sempre utilitzar simplement el traductor. 

Quan l'alumnat parla, ho fa des de la seva memòria a llarg termini. És clar que poden demanar preguntes a un xatbot, però, per mantenir una conversa, la major part de la feina prové del seu propi pensament. 

Per tant, és recomanable potenciar les interaccions a l’aula (en parelles, en petits grups, en grup-classe, o fins i tot asíncrones en estil fòrum).

Col·laboració: l’aprenentatge cooperatiu i col·laboratiu comporta beneficis similars als de les interaccions a l’aula. Quan treballen junts, l’alumnat parla sobre el que han trobat, el que han après, si encaixa o no, com organitzar-ho i com comunicar-ho eficaçment. Aquestes converses succeeixen independentment d’on hagin aconseguit la informació. 

Aquesta és un tipus de tasca que hauran de fer en el seu futur quan estiguin treballant. Com a docents, com de sovint feu feina independentment i com de sovint treballeu col·laborativament? Moltes de les tasques que duem a terme tenen a veure amb com ajudem als companys. 

Pensament crític: l’accessibilitat d’eines com Midjourney ha fet que els mems ara es focalitzin en la creació d'imatges enganyoses (fakes) i d'hipertrucatges (deepfakes). Les imatges enganyoses que es generen cada vegada són més convincents. 

Molts usuaris estan entrenats, i són capaços de detectar si una imatge és falsa o no, per exemple, destacant que les mans que creen aquests generadors actualment són imperfectes (un criteri cada vegada menys fiable). Tot i això, la idea que preocupa és que existeix un volum notable de població que pot veure aquestes imatges i creure que són reals (com passa amb les notícies enganyoses / fake news). 

Hi ha hagut casos recents virals com la foto del Papa amb una jaqueta puffer d’estil Balenciaga, la saga de la detenció de Donald Trump, així com les edicions d'imatges d'Isabel Ayuso realitzades pels seus seguidors. 

Ja existeix exploració en propostes educatives sobre detecció d'imatges falses utilitzant eines com Google Lens. Per exemple, la d’aquest article d’Eric Curts. 

Extra: teniu traça per a discernir entre contingut generat amb IA i contingut real? Posem-nos a prova!

• Joc “Quina cara és real?” (University of Washington).

• Joc “Quina és la diferent?” (Google Arts & Culture).

L'impacte de la IA en el treball escrit tradicional

Un dels productes que més ha rebut l’impacte de l’arribada d’eines amb IA generativa a l’aula és el treball escrit tradicional que demanem a l’alumnat que elabori per demostrar els seus coneixements. Per mitigar l'impacte de l'ús d'aquestes eines, els docents necessitem reflexionar sobre quins productes demanem al nostre alumnat.

Miller, Clark i Shelton, a la seva presentació ChatGPT and AI in Education (2023), argumenten com els docents hem de fer-nos preguntes que potser fins fa un any donàvem per fetes. Preguntes com "Què és l'escriptura?" i "Què necessita aprendre l'alumnat sobre l'escriptura?".

Afegeixen que, essencialment, l'escriptura tracta sobre la comunicació, i que això és un fet que no ha canviat. El que sí que ha canviat és que comunicar-se amb èxit és molt més complex i multifacètic que simplement posar text en un paper o escriure paraules en una pantalla.

Penseu, per exemple, en les vostres pròpies experiències de lectura. Avui en dia, llegir implica un mosaic ric d'imatges, vídeos i elements interactius, juntament amb el text escrit. Perquè l'alumnat esdevinguin bons comunicadors, hem d'integrar aquest enfocament multimèdia i en capes a la nostra manera de treballar l'escriptura a l’aula.

Si el nostre objectiu és preparar l'alumnat per convertir-se en bons comunicadors, l'escriptura és només un dels elements (tot i que un element clau) de les tasques d'escriptura del present. Demanar a l'alumnat que incorpori elements multimèdia en el seu treball els pot ajudar a transmetre les seves idees de manera més eficaç. Podeu considerar utilitzar una o més de les següents preguntes per crear tasques d'escriptura en capes:

Quines imatges poden ajudar a explicar això?

L'alumnat pot utilitzar imatges, diagrames o gràfics rellevants per donar suport als seus arguments i proporcionar exemples visuals que ajudin els lectors a comprendre millor els conceptes que s'estan explicant.

Amb quines idees vull que els lectors connectin?

Demaneu a l'alumnat que desenvolupi un resum breu i atractiu de les seves idees principals utilitzant paraules clau rellevants. Aquest exercici pot ajudar l'alumnat a revisar el seu contingut, aclarir la seva visió i millorar el seu missatge. En el món real, aquest tipus d'escriptura s'utilitza regularment per a resums de blogs, contingut de màrqueting o presentacions de vendes.

Com ajudaria un gràfic o una infografia a visualitzar aquestes idees?

L'alumnat pot crear suports visuals, com infografies, per ajudar els lectors a comprendre ràpidament idees complexes, dades o processos. Aquests gràfics poden il·lustrar conceptes clau, relacions o comparacions.

Seria beneficiós que fos llegit en veu alta?

Quan l'alumnat grava una narració àudio del seu treball, està proporcionant una capa addicional d'accessibilitat i connexió personal per a la seva audiència. Aquest procés els pot ajudar a identificar en quins punts la seva escriptura pot ser poc clara i a trobar errors tipogràfics i gramaticals.

Com condensaries això en un vídeo curt, destacant els punts clau que vols que la gent recordi?

L'alumnat pot produir un vídeo concís que ressalti les idees principals del seu treball, utilitzant visuals atractius i animacions per emfatitzar els seus punts clau. Aquest exercici pot ajudar-los a desenvolupar habilitats de narració i presentació, així com a reforçar la seva comprensió del material.

Seria beneficiós que s’afegís una il·lustració per ajudar a visualitzar aquesta idea?

Animeu el vostre alumnat a crear il·lustracions o obres d'art originals per acompanyar el seu escrit. Aquests elements visuals poden millorar l'experiència del lector, proporcionar context addicional i mostrar la creativitat i els talents artístics de l’alumnat.

Crear representacions gràfiques de l'aprenentatge és una manera eficaç perquè l'alumnat demostri la seva comprensió i creativitat. Podeu incorporar diverses opcions creatives, com ara dissenyar pòsters, infografies, còmics, línies de temps, i il·lustracions originals. També poden elaborar resums amb icones, escriure notícies amb fotografies o il·lustracions, crear llistes de reproducció de Spotify amb art de la coberta personalitzat, o dissenyar portades de revistes. Aquests formats visuals ajuden a fer la informació més atractiva i fàcil de comprendre, i permeten a l’alumnat processar i recordar millor els conceptes apresos.

Les següents aplicacions educatives us poden ajudar a vehicular les vostres tasques d’escriptura per capes:

Dibuixos de Google

Dibuixos de Google permet a l’alumnat crear diagrames, gràfics, infografies i il·lustracions que donin suport als seus escrits. A través d’aquesta aplicació, l’alumnat pot elaborar productes visuals que ajudin a explicar els conceptes plasmats en els seus textos, com, per exemple, gràfics que il·lustrin relacions o comparacions, o il·lustracions que complementin narrativament els seus escrits.

Google Sites

Google Sites és una plataforma senzilla perquè l’alumnat pugui construir llocs web que serveixin com a carpetes d'aprenentatge digitals per als seus projectes d'escriptura. D’aquesta manera, poden integrar textos, imatges, vídeos i enllaços, organitzant el contingut de manera que ressalti les idees clau i les paraules clau rellevants. Això pot contribuir a fer els seus projectes més accessibles i interactius per als lectors.

Canva

Canva permet a l’alumnat dissenyar gràfics atractius i materials visuals com infografies i presentacions que enriqueixen els seus projectes d'escriptura. Gràcies a les seves múltiples plantilles, aquesta eina és particularment útil per crear elements visuals que expliquin idees complexes de manera intuïtiva i atractiva, ajudant així els lectors a comprendre millor el material exposat.

Adobe Express

Adobe Express és una plataforma versàtil que facilita la creació de gràfics, pàgines web i vídeos curts. Per a tasques d'escriptura, l’alumnat pot utilitzar Adobe Express per elaborar infografies senzilles o vídeos que resumeixin els punts clau dels seus treballs, reforçant d'aquesta manera la claredat i la captació de l’interès dels seus missatges.

Gravadora de pantalla de ChromeOS (Screencast)

Dintre de les actualitzacions per a Chromebooks en el marc dels seus usos educatius, el 2022, Google va introduir la seva aplicació Gravadora de pantalla (Screencast) dintre del sistema operatiu de ChromeOS. Per a tots aquells usuaris que utilitzen Chromebooks a l’aula, aquesta eina està disponible gratuïtament i no compta amb limitacions de temps o resolució com altres eines externes. Això la fa ideal perquè l’alumnat generi vídeos curts en els quals practiqui la presentació oral dels seus productes. D’aquesta manera, els alumnes es poden gravar mentre expliquen el seu treball, el qual pot ajudar a millorar la seva expressió oral i a reflexionar sobre l’estructura i claredat dels seus textos. Els usuaris que no disposen de Chromebooks poden utilitzar alternatives externes com, per exemple, Loom.

Preparem el nostre alumnat per a un futur amb IA

Aquest breu resum de les idees tractades en aquest i en els mòduls anteriors ens pot ajudar a repassar els conceptes clau sobre l’impacte de la IA en l’educació. Aquesta és una adaptació de l’article original de Matt Miller (Ditch That Textbook).

Pel que fa a l’ús de la IA en educació, alguns de nosaltres enfoquem la qüestió des de la immediatesa. Ens plantegem preguntes com: "Com podria aquesta eina ajudar-nos a planificar les nostres classes?" o "Com podria aquesta eina ajudar-nos a reduir el temps de correcció?". 

Aquest plantejament és necessari, atès que hem de tenir en compte com la IA ens pot ser útil ara com ara.

Tanmateix, hi ha també una visió més a llarg termini, amb la qual molts docents ens demanem cap a on ens dirigim i com podem preparar el nostre alumnat per a un futur on la IA transformarà nombrosos aspectes de la societat.

En aquest cas, ens plantegem preguntes com: "Què podem fer avui per preparar el nostre alumnat per als pròxims deu anys?" o "El que estan aprenent a la nostra classe és rellevant per a les seves vides futures?"

La majoria de nosaltres no podem implementar canvis significatius en els nostres centres de manera individual, però sí que podem introduir petits ajustaments en la nostra manera de treballar a l’aula.

A continuació, analitzarem sis canvis que podem aplicar a les nostres classes per preparar l’alumnat per a aquest futur. Cap d'aquests canvis implica utilitzar més IA a l'aula. De fet, molts de vosaltres ja esteu aplicant aquests canvis que es proposen a continuació.

Segons una enquesta realitzada a 352 investigadors d'aprenentatge automàtic, aquestes són les àrees en les quals es preveu que la IA canviï el món i el mercat laboral:

• La IA superarà els humans en moltes activitats en els pròxims 10 anys.
• Conduirà camions el 2027.
• Treballarà en el sector del comerç al detall el 2031.
• Escriurà un llibre supervendes el 2049.
• Exercirà de cirurgià el 2053.

Però atenció: cal tenir en compte que aquest estudi es va publicar el 2018 (Grace, K., Salvatier, J., Dafoe, A., Zhang, B., & Evans, O., 2018), molt abans del boom de la IA que hem experimentat recentment. Aquestes prediccions es van fer abans de l'augment de finançament i l'interès públic en la IA.

Curiosament, aquests mateixos investigadors també pensaven que la IA estaria traduint llengües el 2024 i escrivint treballs de batxillerat el 2026, i sembla que ja estem superant aquestes prediccions.

Per què és important això? Perquè el mercat laboral al qual el nostre alumnat actual accedirà en uns pocs anys podria ser molt diferent del d'avui dia.

Els centres han de començar a debatre i consensuar la direcció que estan prenent i com estan preparant l’alumnat per al seu futur. El document Orientacions i recomanacions per l’ús de la intel·ligència artificial als centres educatius destaca la necessitat d'un ús crític i conscient d'aquesta tecnologia en el context educatiu. Subratlla la importància de la protecció de dades personals, especialment dels col·lectius vulnerables com els menors, i alerta sobre els riscos de biaixos, pèrdua d'autonomia i confiança excessiva en la IA. A més, remarca la importància de promoure el pensament crític entre l'alumnat per verificar la fiabilitat dels resultats generats per les eines amb IA. El document també apunta que els docents hem de repensar les activitats d'aprenentatge per evitar tasques que es puguin resoldre fàcilment amb IA generativa.

Prioritzem el “per què” per davant del “què”

L'ensenyament tradicional ha estat sempre molt dirigit a respondre la pregunta del “què” per sobre del “per què”. Aquest és un enfocament que es pot trobar, per exemple, en alguns qüestionaris i exàmens de preguntes tipus test de resposta múltiple. Es pot trobar, també, a les preguntes de comprensió al final dels capítols dels llibres de text.

Diversos documents com, per exemple, el document de suport per a les programacions de les situacions d’aprenentatge en el Nodes de Nou Currículum, destaquen la importància de treballar, a més de les habilitats cognitives de nivells inferiors, les habilitats cognitives de nivells superiors. Tot i això, l'èmfasi en el “què” segueix sent altament prevalent en moltes pràctiques docents.

Què implica aquest punt: Els continguts sovint són només una part de la competència. A més, moltes vegades, no són competencials, ni contribueixen al desenvolupament de competències que puguin assistir en la presa de futures decisions.

Considereu també com els motors de cerca i les eines amb IA tenen un impacte directe en ajudar-nos a trobar aquests continguts, i com aquests avenços tecnològics han contribuït en el desenvolupament de la recerca en tots els camps.

Prioritzar el “per què” es focalitza sobre com hem mobilitzat aquests continguts, alhora que mostra el camí que podem seguir en les nostres pròpies vides, i els consells i veritats que podem portar amb nosaltres quan arribi el moment de prendre les nostres pròpies decisions.

Com això ens prepara per a un futur amb IA: De la mateixa manera que els motors de cerca han tingut un gran impacte, el creixement de les eines amb IA farà que l’accés a la informació sigui més fàcil. Com més accessible sigui aquesta informació, més aviat tindrem la possibilitat de formular la següent pregunta: "Què podem fer amb aquesta informació?"

Els models d'IA poden recopilar, resumir i prioritzar informació per a nosaltres. Tot i això, encara ens toca a nosaltres prendre decisions i actuar en les nostres vides. Aquestes converses sobre el “per què” poden orientar-nos en aquesta direcció.

Preguntes que podem utilitzar a l’aula:

• Per què creieu que van fer això?
• Quins van ser els resultats de les seves accions?
• Si fóssiu en el seu lloc, com ho hauríeu fet diferent?
• Com es trasllada això en el nostre dia a dia?
• Com podria això haver influït en alguna cosa que està passant al món avui en dia?

Donem més importància al procés que als productes

Sovint, al llarg del desplegament de les nostres situacions d’aprenentatge, qualifiquem basant-nos en els productes que l'alumnat ha lliurat: revisem fitxes, redaccions, equacions matemàtiques, problemes de ciència. Si encerten la resposta, obtenen els punts.

En el món real, però, hi ha moltes ocasions en les quals arribar a la resposta correcta al llarg d’un procediment és igual de beneficiós que haver-la encertat a la primera.

Quan donem més importància al procés que als productes, estem contribuint al fet que l'alumnat es centri en el "per què" i el "com" de manera que puguin transferir aquestes competències a altres àrees de la seva vida.

Per ampliar la informació, podeu revisar documents com Avaluar per aprendre (2010) i Avaluar és aprendre (2020), de Neus Sanmartí, sobre la importància d’avaluar el procés d’aprenentatge a més dels productes.

Què implica aquest punt: Donar més importància al procés que als productes posa l'èmfasi en com s’ha arribat al resultat més que en el resultat en si. Això pot ajudar l’alumnat (i els docents) a observar els passos seguits i el procés d’aprenentatge. Per exemple, en lloc de completar tot un seguit d’operacions matemàtiques, potser un alumne aprofundeix en un problema específic, i es grava parlant sobre tot el seu procés en un vídeo o un àudio.

Les preguntes de metacognició també poden ser molt útils en aquest aspecte: l'alumnat pot descriure el seu procés a través de preguntes de seguiment. Quan ho fa, es veu obligat a enfrontar-se a com ha arribat a les seves conclusions. A més, els docents, obtenim una visió sobre com pensa el nostre alumnat.

Com això ens prepara per a un futur amb IA: De manera similar a la idea de "per què per davant del què", donar més importància al procés que als productes ens ajuda a centrar-nos en el procés d’aprenentatge de l'alumnat. Tots hem utilitzat fitxes i redaccions per avaluar el procés d’aprenentatge de l'alumnat, fins a quin punt han assolit els objectius d’aprenentatge, quines competències han desenvolupat. Tot i això, quan la IA pot crear aquests mateixos productes, depèn de l'ésser humà centrar-se en el procés. És evident que la IA podrà ajudar-nos a resoldre problemes, però com a éssers humans, sempre ens trobarem amb situacions en les quals ens haurem de valdre per nosaltres mateixos.

Preguntes que podem utilitzar a l’aula:

• Com podem resoldre això?
• Expliqueu els passos que heu seguit per arribar a aquesta conclusió.
• Quina part del procés ha estat complicada per a vosaltres?
• Com heu superat les dificultats que heu tingut?
• Si ho tornéssiu a fer, com ho faríeu diferent?
• Què us ha funcionat per aprendre durant aquest procés?

Despleguem la competència de resolució de problemes

Hi ha moltes maneres de resoldre problemes. Dintre de les competències transversals, la competència específica 5 dintre de la competència digital aborda directament resolució de problemes, la qual es basa la capacitat de treballar de manera metòdica i sistemàtica per arribar a solucions efectives.

La competència en resolució de problemes comprèn aspectes transversals als quals haurem d'enfrontar-nos en el nostre dia a dia, al llarg de tota la nostra vida, independentment de quant ens pugui ajudar la IA.

L’ús de metodologies com la de pensament de dissenyador (design thinking) a l’aula pot ajudar a estructurar el procés de resolució de problemes de manera organitzada, tot mantenint la creativitat de l’alumnat. Aquesta competència transversal es pot treballar des de diverses àrees, matèries, àmbits o projectes, permetent a l’alumnat abordar problemes de naturalesa diversa. Tot i que les solucions sovint poden implicar l’ús de tecnologia digital, els problemes a resoldre poden no ser tecnològics.

Què implica aquest punt: La resolució de problemes és una competència que va més enllà de simplement respondre a preguntes. Tot i això, aproximar-nos a aquesta competència no requereix adoptar un enfocament d'aprenentatge basat en problemes o projectes a la nostra aula. Ens podem situar en un punt intermedi, utilitzant estratègies que no siguin tan complexes, però que fomentin habilitats de resolució de problemes.

Hi ha múltiples estratègies per resoldre problemes complexos. Per exemple, Toyota Motor Corporation organitza el procés per resoldre problemes en els següents vuit passos:

1. Definir el problema
2. Clarificar el problema
3. Definir els objectius
4. Identificar la causa del problema
5. Desenvolupar un pla d'acció
6. Executar el pla d'acció
7. Avaluar els resultats
8. Millorar contínuament

Com això ens prepara per a un futur amb IA: Les eines amb IA són cada vegada més exitoses a l'hora d'abordar problemes complexos, amb una gran varietat d'informació, i proporcionar solucions. No obstant això, les prioritats i valors que intervenen en el procés de resolució de problemes no sempre coincideixen amb el que volem com a éssers humans. A més, no sempre ens trobarem en una situació en la qual tingui sentit consultar una eina amb IA per trobar solucions. És en aquests moments quan haurem de resoldre problemes per nosaltres mateixos.

Preguntes que podem utilitzar a l’aula:

• Quin creieu que és el problema? Hi estem tots d'acord?
• Què volem aconseguir? Quin és el nostre objectiu?
• Quines accions són les millors per ajudar-nos a assolir el nostre objectiu?
• Com podem executar aquestes accions?
• Els resultats mostren que hem resolt el problema amb èxit, o que hem tingut èxit en algunes parts?
• Com podríem fer-ho diferent per millorar la pròxima vegada?

Abordem les qüestions ètiques des de múltiples perspectives

Moltes decisions són complexes. Fins i tot quan sembla que hi ha molt poques opcions, demanar quina és la millor opció pot ser una qüestió carregada de matisos. Algunes vegades, les nostres decisions poden afectar algunes persones més que altres. D’altres, aquestes poden tenir simultàniament efectes positius i negatius. Algunes decisions podrien ser vistes com a incorrectes per algunes persones i correctes per d’altres.

Aquesta és l’essència de l'ètica. Hauríem de seguir aquesta cadena de decisions? Quines decisions hauríem de prendre? Per quins motius?

A mesura que la IA s'estableixi més i més en el nostre món, les decisions ètiques importants han de ser preses pels humans, i no pels models d'IA. Per això, necessitarem humans que comprenguin la gravetat d'aquestes decisions, i que puguin actuar de manera justa i argumentada. En el nostre cas, els docents hem d’abordar aquestes qüestions que acompanyaran el nostre alumnat al llarg de la seva vida.

Què implica aquest punt: L'ètica es pot definir com la branca de la filosofia que s'ocupa de l'estudi dels valors i principis morals, la qual analitza el que és moralment correcte i el que és incorrecte, així com el que és bo i el que és dolent. Al llarg de la història, s'han pres decisions que han estat considerades moralment correctes o incorrectes. A més, en tots els àmbits d'estudi, l'ètica actua com a guia per determinar les accions que hem de realitzar i les que hem d'evitar.

A mesura que fem el canvi del "què" al "per què", plantejar preguntes de pensament crític pot ajudar l'alumnat a practicar la presa de decisions des de la ciutadania democràtica i la consciència global, i tenint en compte aspectes com la perspectiva de gènere.

Com això ens prepara per a un futur amb IA: Les eines amb IA prenen decisions basades en el seu entrenament i en els seus conjunts de dades. D'on provenen aquestes dades, i qui en modela aquest entrenament? La IA encara està en els seus inicis. Continuarà proliferant en el mercat laboral i en les nostres vides quotidianes. Però, fins a quin punt hauria de fer-ho? En quins àmbits? De quines maneres? No volem delegar aquestes decisions a la intel·ligència artificial perquè afectaran en com existim i en quin futur tindrem. Si ajudem a desenvolupar el pensament crític a l'aula, el nostre alumnat estarà millor preparat per prendre aquestes decisions en el futur.

Preguntes que podem utilitzar a l’aula:

• Una decisió com aquesta és bona o dolenta? Per què?
• Qui veuria aquesta decisió com a positiva? Qui la veuria com a negativa? Per què?
• A qui afectaria més aquesta decisió? Seria de manera positiva o negativa?
• Què (o qui) està influint en aquesta presa de decisions? De quina manera?
• Quines són les conseqüències a curt i llarg termini d'aquestes accions?

Aprenem a aprendre al llarg de la vida

Al llarg del seu projecte educatiu, el nostre alumnat s’involucra en múltiples processos d’aprenentatge. Fan activitats que els ajuden a aprendre, però en poques ocasions arriben a entendre la ciència de l'aprenentatge: què està passant en els seus cervells, com funciona i com es pot millorar. Esperem que siguin acompanyats per docents formats, els quals prenguin decisions conscients que els ajudin a aprendre de manera eficaç. Però quan entenen com poden aprendre millor, els estem equipant amb competències que els prepararen per adaptar-se a qualsevol repte que entomin en el seu futur.

Què implica aquest punt: Les ciències de l’aprenentatge han estudiat com funciona el cervell, com les persones interpreten i processen la informació i com milloren les seves habilitats. Durant dècades, l’objecte principal de recerca ha estat la memòria: com recordem les coses. A mesura que avancem, aquest seguirà sent important, però altres àrees de l'aprenentatge també han guanyat gran importància. Per exemple, el grup de recerca Avaluar per aprendre fa divulgació de recerca en àmbits com estratègies per superar la sobrecàrrega cognitiva de l’alumnat.

El centre Derek Bok for Teaching and Learning de la Universitat Harvard categoritza les ciències de l’aprenentatge en les següents quatre àrees:

• Com funciona la memòria
• Comprendre i comunicar sabers
• Metacognició i motivació
• Promoció de la participació

Com això ens prepara per a un futur amb IA: És impossible predir amb certesa com el món i el mercat laboral canviaran a mesura que la IA esdevingui més generalitzada. Es pot afirmar que alguns llocs de treball es tornaran obsolets, mentre que es crearan altres llocs de treball nous. També caldrà tenir en compte com s’incorpora de manera eficaç l’ésser humà en el bucle i es tracen problemes i responsabilitats. Sigui quins siguin els canvis que es produeixin en el nostre món, si sabem com aprendre de manera eficaç (i sabem prendre decisions i resoldre problemes basant-nos en el nostre aprenentatge) estarem millor preparats per a un món en constant evolució. Les persones amb capacitat d’aprenentatge àgil comptaran amb avantatges en un món amb IA sempre canviant.

Preguntes que podem utilitzar a l’aula:

• Què podem fer per entendre això més clarament?
• Quines són les maneres en què apreneu millor?
• Què ens diu la recerca sobre les maneres més bones d'aprendre?
• En quines circumstàncies apreneu millor?

Potenciem la col·laboració i les relacions personals

Tant les nostres experiències laborals com les nostres vides personals sempre han millorat gràcies a treballar conjuntament i construir relacions entre nosaltres. Les empreses han continuat basant-se en aquesta filosofia. En l'enquesta Job Outlook 2024 de la National Association of Colleges and Employers, la “capacitat per treballar en equip” es va classificar en segon lloc entre les qualitats que els empresaris busquen en el currículum d'un candidat (p.24). El 78,9% dels enquestats van atribuir "capacitat per treballar en equip" com molt important o extremadament important (p.26). En primer lloc (88,7%) es troba la competència en resolució de problemes.

La col·laboració i la construcció de comunitat poden proporcionar motivació a l'alumnat en les seves tasques. A més, també els pot preparar per al futur món laboral futur, sigui quina sigui la seva forma.

Què implica aquest punt: El treball col·laboratiu, en la seva forma més elemental, significa que l'alumnat treballa de manera conjunta i depèn de les habilitats úniques dels altres per arribar a una conclusió (o producte) a la qual no es podria arribar sense els esforços de tothom. Fins i tot si no arribem a aquest punt, els esforços per col·laborar poden ajudar l'alumnat a veure els punts de vista únics dels altres. Poden ajudar-los a veure errors i treballar-hi de manera resolutiva. A més, poden ajudar-los a avançar més, i millor, del que podrien fer per ells mateixos individualment.

Construir relacions és una habilitat que prepara l'alumnat per al seu futur. Sigui quin sigui el nostre futur, necessitarem entendre'ns els uns amb els altres. Continuarem depenent els uns dels altres. Si l'alumnat desenvolupa les seves habilitats personals i socials, fins i tot amb alumnat que no es troba dintre del seu cercle d’amistats, està treballant aquestes competències.

Com això ens prepara per a un futur amb IA: El creixement de la IA canviarà la manera com treballem. Però això no significarà que els éssers humans deixin d'existir. Fins i tot si la IA pot completar tasques en el nostre lloc dur a terme part del raonament, els éssers humans seguiran executant tasques clau i amb propòsit. La capacitat de treballar junts, i d'entendre'ns, és una habilitat atemporal.

Preguntes que podem utilitzar a l’aula:

• Com s'ha distribuït la feina en aquest projecte? Què en penseu d’aquesta distribució?
• Quines habilitats i capacitats heu aportat al projecte?
• Heu utilitzat les vostres fortaleses de la millor manera en aquest projecte? En cas contrari, com podria haver canviat això?
• Hi ha hagut confrontacions o desacords? Com els heu gestionat?
• Quins passos podeu seguir per aconseguir els objectius amb els vostres companys d'equip?