L'ètica de les dades i els biaixos algorítmics

L'ètica de les dades i el biaix algorítmic són conceptes fonamentals per entendre la intel·ligència artificial (IA). Estan interconnectats i la seva comprensió és crucial per crear sistemes d'IA que siguin justos, transparents i beneficiosos per a tothom.

L'ètica de les dades consisteix a garantir que les dades, un component crucial en l'entrenament dels sistemes d'IA, es recullin, processin i s'utilitzin de manera que respectin els valors, els drets i la dignitat humana. Aquesta inclou consideracions de privadesa, consentiment, transparència i responsabilitat.

El biaix algorítmic es refereix al potencial dels sistemes d'IA per discriminar sistemàticament o mostrar un comportament injust a causa de biaixos en les dades utilitzades per al seu entrenament o els mètodes utilitzats en el seu desenvolupament. Per exemple, un sistema d'IA podria estar esbiaixat si afavoreix sistemàticament un col·lectiu demogràfic determinat, o si pren decisions que són constantment injustes per a uns altres.

Aquests conceptes són importants per a la IA perquè configuren com es comporten els sistemes i com aquests influeixen en el nostre món. Per exemple, els sistemes d'IA s'utilitzen avui en dia en àrees com la contractació, l’avaluació de riscos, la construcció de polítiques i molt més. Si aquests sistemes estan esbiaixats o són poc ètics en el seu funcionament, poden provocar un tracte injust o un dany a persones o col·lectius.

Per als docents, entendre l'ètica de les dades i els biaixos algorítmics és fonamental per dues raons principals. En primer lloc, tenen un paper clau en la formació dels futurs ciutadans i líders, els quals han d'entendre aquests problemes per prendre decisions informades, i per contribuir al desenvolupament de sistemes d'IA justos i ètics. En segon lloc, els mateixos docents utilitzen cada cop més eines impulsades per IA en la seva feina, les quals també han de ser justes i ètiques.

La UNESCO, a través de documents com el Consens de Beijing sobre Intel·ligència Artificial i Educació (2019), les Recomanacions sobre l'ètica de la intel·ligència artificial (2021) i La IA generativa i el futur de l’educació (2023), posa en relleu els següents temes:

  • Entendre la IA i el seu impacte: és essencial que els docents entenguin què és la IA, com funciona i els impactes potencials que pot tenir en la societat, el medi ambient i les persones. Això inclou tant les possibilitats positives (com l'aprenentatge personalitzat o l'automatització administrativa) com les negatives (com les preocupacions sobre la privadesa de les dades o els biaixos en la presa de decisions).
  • La IA en l'educació: la IA s'utilitza cada cop més en l'educació i els docents haurien de ser conscients de com aquesta pot afectar la seva feina. Això pot incloure l'ús de la IA per a l'aprenentatge personalitzat, l'anàlisi predictiva (com la predicció del rendiment de l'alumnat) i les tasques administratives.
  • Consideracions ètiques: els docents han d'entendre les consideracions ètiques relacionades amb la IA. Aquestes poden incloure problemes relacionats amb la privadesa de les dades, el consentiment i la possibilitat que la IA reforci desigualtats ja existents en l'educació.
  • Alfabetització en IA: a mesura que la IA es fa més freqüent, hi ha una necessitat creixent d'alfabetització específica en IA. És a dir, una comprensió de com funcionen els sistemes d'IA i el desenvolupament de la capacitat d'avaluar-los de manera crítica. Els docents tenen un paper primordial en el desenvolupament d'aquesta alfabetització de l’alumnat.
  • Polítiques i regulacions: els docents han de conèixer qualsevol política o normativa relacionada amb la IA, tant dins de la seva pròpia institució educativa com en un context més ampli.

Penseu, per exemple, en un sistema d'IA utilitzat per a les admissions a la universitat. Si les dades d'entrenament del sistema inclouen informació de processos d'admissió anteriors, els quals estaven esbiaixats en contra de determinats col·lectius racials o socioeconòmics, el sistema d'IA també podria estar esbiaixat de la mateixa manera. Això podria comportar denegacions injustes d'admissió a alumnat qualificat pertanyent a aquests col·lectius.

En un altre exemple, penseu en un entorn virtual d'aprenentatge que utilitza IA per predir els resultats d'aprenentatge de l'alumnat. Si el sistema utilitza dades que no reflecteixen amb precisió els diferents perfils i habilitats de tots l'alumnat, podria perjudicar injustament a alguns alumnes.

El camp de la IA presenta tant reptes com oportunitats per als docents. Aquests reptes inclouen la complexitat del tema i la necessitat de recursos i formació adequada. Treballar amb l'alumnat l'ètica de les dades i el biaix algorítmic no només els pot oferir coneixements i habilitats valuoses, sinó que també pot fomentar una aproximació crítica a la tecnologia i el seu impacte en la societat.