Consideracions ètiques sobre la IA

Per detectar si s'ha copiat i enganxat text generat amb IA, existeixen diversos detectors, com GPTZero o AI Writing Check de CommonLit.

Sam Altman, el CEO (actual) d’OpenAI, ja ho va deixar clar en una entrevista: “una persona amb determinació esquivarà tots aquests detectors”.

A continuació teniu una adaptació al català de la infografia de l'article "Why AI Detectors Are Problematic and What To Do Instead" de Holly Clark (Infused Classroom).

Sadasivan, V. S. et al. (2023) comenten al seu article "Can AI-generated text be reliably detected?" les dificultats que aquests detectors tenen per obtenir resultats fiables, tenint en compte factors com l'avenç dels models de llenguatge extens o la seva vulnerabilitat a eines com spinbots (especialitzades a reconstruir textos perquè els detectors les detectin com a més humanes com, per exemple, StealthGPT, entre moltes altres).

Liang, W. et al. (2023) emfatitzen, al seu article "GPT detectors are biased against non-native English writers.", l'alt percentatge de falsos positius per a escrits en anglès de no nadius en contextos educatius. Això suggereix un risc de conseqüències injustes i biaixos potencials en contra dels parlants no nadius de la llengua anglesa. Aquest risc és extrapolable a altres llengües, com el català o el castellà.

Per causa de la seva baixa precisió, al juliol 2023, OpenAI va decidir tancar el seu propi detector de textos fets amb intel·ligència artificial.

Si sospiteu que un alumne ha emprat ChatGPT, això pot comportar l’inici d’una conversa. Com podria l’alumne demostrar el que ha après? Existeixen barreres que li impedeixin crear el producte per si mateix? 

Com a docents que hem estat realitzant un seguiment proper d’aquest alumne, tenim la intuïció i els coneixements per detectar si un producte inclou o no la seva veu pròpia.

Per tant, és fonamental que, com a docents, adoptem una perspectiva més holística en l'avaluació de l'ús de la intel·ligència artificial per part l'alumnat. Més enllà de confiar exclusivament en detectors d'IA, els quals han demostrat ser poc fiables i potencialment esbiaixats, hem de focalitzar-nos en desenvolupar la capacitat crítica de l'alumnat i la seva habilitat per utilitzar aquestes eines de manera responsable. Així, en lloc de limitar-nos a detectar textos generats per IA, podem fomentar un diàleg obert que ajudi l'alumnat a reflexionar sobre les seves fonts i els processos de creació per desenvolupar un aprenentatge profund i autèntic.