5 ASPECTES ÈTICS

5.1 EN L'OBTENCIÓ DE DADES

L'ètica en la recollida de dades i la manera com es processen posteriorment han de ser considerades per totes les persones implicades en projectes que involucren dades, i això inclou els projectes d'aprenentatge automàtic. Cal pensar en preguntes com ara:

• D'on s'obtindran les dades?

• Quins mètodes de recollida de dades s'han d'utilitzar?

• És necessari el consentiment?

• Qui emmagatzemarà i controlarà les dades?

Els exemples controvertits de recollida de dades sovint impliquen situacions en què es recullen i es tracten dades personals.

5.2 EN LA PRESA DE DECISIONS

5.2.1 L'exemple dels vehicles autònoms

L'aprenentatge automàtic es pot utilitzar per desenvolupar algorismes de presa de decisions per a cotxes de conducció autònoma. Però això comporta dilemes ètics molt importants!

5.3 Biaix de prejudici

En aquest cas, les dades utilitzades per entrenar el sistema reflexen els prejudicis, estereotips i/o suposicions socials defectuoses existents, introduint així aquests mateixos biaixos del món real en el propi aprenentatge automàtic. Per exemple, utilitzar dades sobre professionals mèdics que incloguin només infermeres i metges homes perpetuaria així un estereotip de gènere real sobre els treballadors sanitaris al sistema informàtic.