L'ètica de les dades és la branca de l'ètica que s'ocupa dels principis i pràctiques que guien la recollida, l'anàlisi i l'ús de dades de manera que respectin la dignitat humana, els drets i els valors. Les dades són el combustible de la IA, ja que proporcionen la informació i el coneixement que els sistemes d'IA necessiten per aprendre i executar les seves tasques. Tot i això, les dades també poden plantejar moltes qüestions ètiques, com, per exemple:
- Com protegir la privadesa i el consentiment dels interessats.
- Com garantir la qualitat i validesa de les dades.
- Com protegir les dades d'accés no autoritzat o mal ús.
- Com ser transparent i responsable de l'ús i els resultats de les dades.
En aquesta secció, s’exploren algunes de les qüestions ètiques clau relacionades amb les dades en IA. També es donen alguns exemples de dilemes ètics o controvèrsies relacionades amb les dades en IA.
La privadesa
La privadesa és el dret de les persones a controlar la seva informació personal i com la fan servir els altres. La privadesa és essencial per a la dignitat humana, l'autonomia i la llibertat. No obstant això, aquesta es pot veure amenaçada per la recopilació i el processament massius de dades personals per part dels sistemes d'IA, especialment quan aquestes dades són sensibles, com, per exemple, dades de salut, biomètriques o d'ubicació. També es pot violar per l'accés no autoritzat o la divulgació de dades personals per part de pirates informàtics, tercers o governs. Per protegir la privadesa, podem seguir alguns principis i pràctiques, com, per exemple:
- Vetllar per minimitzar la quantitat i la sensibilitat de les dades personals recopilades i processades pels sistemes d'IA.
- Obtenir el consentiment informat dels interessats abans de recollir o utilitzar les seves dades personals.
- Anonimitzar o pseudonimitzar les dades personals per evitar la identificació dels interessats.
- Xifratge de dades personals per evitar l'accés o la divulgació no autoritzats.
- Complir amb les lleis i regulacions de privadesa rellevants, com, per exemple, el Reglament general de protecció de dades.
El consentiment
El consentiment és l'acord dels interessats per facilitar les seves dades personals per a una finalitat específica i sota determinades condicions. El consentiment és una manera de respectar l'autonomia i les preferències dels interessats. Tanmateix, aquest pot ser difícil d'obtenir i mantenir en el context dels sistemes d'IA, especialment quan aquests sistemes són complexos, dinàmics o opacs. També pot estar influenciat per factors com l'asimetria d'informació, els biaixos cognitius o la pressió social. Per garantir un consentiment vàlid, podem seguir alguns principis i pràctiques, com, per exemple:
- Proporcionar informació clara i concisa sobre la finalitat, l'abast, la durada i les conseqüències de la recollida de dades i l'ús dels sistemes d'IA.
- Oferint opcions i opcions significatives perquè els subjectes de les dades acceptin o deixin la recollida de dades i l'ús dels sistemes d'IA.
- Garantir que el consentiment és lliure, específic, informat i inequívoc.
- Permetre als interessats retirar o modificar el seu consentiment en qualsevol moment.
- Respectar els drets i interessos dels col·lectius vulnerables o marginats, com, per exemple, els nens, les minories o els refugiats.
La propietat
La propietat és el dret de les persones o entitats a reclamar els drets de propietat sobre les seves dades personals o propietat intel·lectual. Aquesta és important per garantir una compensació justa, el reconeixement i el control de les dades o creacions d'un mateix. Tot i això, la propietat pot ser discutida o poc clara en el context dels sistemes d'IA, especialment quan aquests sistemes generen noves dades o sortides a partir de dades o entrades existents. També es pot veure afectada per factors com, per exemple, acords contractuals, marcs legals o normes culturals. Per aclarir la propietat, podem seguir alguns principis i pràctiques, com, per exemple:
- Establir termes i condicions clars i explícits per a la recollida de dades i l'ús dels sistemes d'IA.
- Reconèixer i atribuir les fonts i els contribuents de les dades o els resultats utilitzats o generats pels sistemes d'IA.
- Compartir els beneficis i els riscos de les dades o els resultats utilitzats o generats pels sistemes d'IA entre tots els grups d'interès.
- Respectar els drets de propietat intel·lectual i les llicències de les dades o sortides utilitzades o generades pels sistemes d'IA.
- Equilibrar els interessos dels propietaris individuals amb els dels propietaris col·lectius o béns públics.
La qualitat
La qualitat és el grau en què les dades compleixen certs estàndards o criteris d'exactitud, exhaustivitat, coherència, rellevància, actualitat o fiabilitat. Aquesta és essencial per garantir que els sistemes d'IA funcionin bé i produeixin resultats vàlids. Per altra banda, la qualitat es pot veure compromesa per diversos factors, com, per exemple, el soroll, els errors, els valors atípics, els valors que falten o els duplicats de les dades. També es pot veure afectada per factors com, per exemple, el biaix o el desequilibri en la distribució de dades. Per vetllar per la qualitat, podem seguir alguns principis i pràctiques, com, per exemple:
- Netejar, validar, normalitzar o enriquir dades abans d'utilitzar-les en sistemes d'IA.
- Utilitzar fonts de dades, mètodes, tècniques o eines adequades per recopilar, analitzar o processar dades en sistemes d'IA.
- Avaluar, supervisar o provar el rendiment, la precisió o la robustesa dels sistemes d'IA mitjançant mètriques, indicadors o punts de referència de qualitat.
- Informar, documentar o compartir les limitacions, incerteses o supòsits de les dades i dels sistemes d'IA.
La seguretat
La seguretat és la protecció de les dades contra l'accés, l'ús, la modificació, la divulgació o la destrucció no autoritzats. Aquesta és vital per garantir la confidencialitat, la integritat i la disponibilitat de les dades i els sistemes d'IA. Això no obstant, la seguretat pot veure's amenaçada per diversos agents, com, per exemple, hackers, els quals poden intentar robar, manipular o sabotejar les dades o els sistemes d'IA. També es pot veure desafiada per factors com, per exemple, la complexitat, la vulnerabilitat o l'escalabilitat de les dades o els sistemes d'IA. Per millorar la seguretat, podem seguir alguns principis i pràctiques, com, per exemple:
- Implementar mesures tècniques com, per exemple, xifratge, autenticació, autorització, tallafocs o antivirus per prevenir o detectar l'accés o l'ús no autoritzat de dades o sistemes d'IA.
- Implementar mesures organitzatives com, per exemple, polítiques, procediments, estàndards o auditories per regular o supervisar l'accés o l'ús de dades o sistemes d'IA.
- Implementar mesures legals com, per exemple, contractes, acords, lleis o reglaments per fer complir o sancionar l'accés o l'ús de dades o sistemes d'IA.
- Implementar mesures ètiques com, per exemple, codis de conducta, comitès d'ètica, mecanismes de denúncia o pirateria ètica per promoure o premiar l'accés o l'ús responsable de dades o sistemes d'IA.
- Implementar mesures educatives com, per exemple, la formació, conscienciació o orientació per informar o capacitar els usuaris o grups d'interès en sistemes de dades o IA.
La responsabilitat
El retiment de comptes és l'obligació de les persones o entitats d'assumir la responsabilitat de les seves accions i decisions relacionades amb dades i sistemes d'IA. Aquest és crucial per garantir que les dades i els sistemes d'IA s'utilitzen d'una manera legal, ètica i fiable. Malgrat això, la responsabilitat pot ser difícil d'establir i aplicar en el context dels sistemes d'IA, especialment quan aquests sistemes són autònoms, distribuïts o emergents. També es pot veure influenciada per factors com la dinàmica de poder, les estructures d'incentius o els valors culturals. Per fomentar la responsabilitat, podem seguir alguns principis i pràctiques, com, per exemple:
- Definir i assignar funcions i responsabilitats clares per al disseny, desenvolupament, desplegament i avaluació de sistemes de dades i IA.
- Establir i aplicar normes i estàndards clars per a l'ús ètic i el govern de les dades i els sistemes d'IA.
- Proporcionar i incentivar la retroacció i consultes dels grups d’interès sobre els impactes i els resultats de les dades i els sistemes d'IA.
- Realitzar i fer seguiment periòdicament d'auditories, revisions o avaluacions del compliment i el rendiment de les dades i els sistemes d'IA.
- Proporcionar i habilitar mecanismes efectius per reparar o corregir qualsevol dany causat per les dades o els sistemes d'IA.
Aquestes són algunes de les qüestions ètiques clau relacionades amb les dades en IA a les quals condueix aquesta secció:
- Com podem equilibrar el compromís entre la privadesa i la utilitat en la recollida de dades i l'ús dels sistemes d'IA?
- Com podem obtenir i mantenir el consentiment vàlid dels interessats en contextos d'IA dinàmics i complexos?
- Com podem determinar i distribuir els drets de propietat i els beneficis de les dades o sortides utilitzades o generades pels sistemes d'IA?
- Com podem garantir i millorar la qualitat i la validesa de les dades utilitzades als sistemes d'IA?
- Com podem protegir les dades de l'accés, l'ús, la modificació, la divulgació o la destrucció no autoritzats per part d'agents maliciosos?
- Com podem garantir i fer complir la responsabilitat de les accions i decisions que involucren dades i sistemes d'IA?