Al considerar sistemas automáticos que establecen decisiones asociadas al bienestar de las personas, la exactitud de los resultados o la veracidad de los datos incluidos es insuficiente. Es necesario también asegurarse de que el sistema toma decisiones justas (Pasquale 2016). Ello es especialmente importante en centros sanitarios, donde un algoritmo para decidir quién es susceptible de recibir tratamiento en una UCI, o para calcular el grado de penetración de una enfermedad infecciosa en una zona, podría adoptar una decisión sesgada que afectaría grave e injustamente a la protección de los derechos, el bienestar y/o la vida de las personas (Obermeyer et al. 2019).

Además, es importante analizar el modo en que la recomendación del algoritmo se muestra al personal sanitario. Un sistema algorítmico basado puramente en ofrecer una puntuación puede generar una percepción de seguridad en la veracidad de los datos presentados y llevar a decisiones injustas. Asimismo, una interfaz muy compleja puede provocar decisiones erróneas al no procesar de forma correcta la información (Guersenzvaig y Casacuberta 2020).

El proyecto busca detectar y minimizar esas posibles situaciones. Para ello, se plantea la siguiente metodología. Primero, se revisará la literatura científica existente sobre el tema, sobre todo en relación a la COVID-19, clasificando los diferentes sesgos (tipos de discriminación, falta de confidencialidad y de privacidad, etc). Segundo, una vez identificados los posibles sesgos, se realizará un protocolo para una auditoría ética que permita aclarar si hay sesgos presentes en un algoritmo, tanto a la hora de calcular la recomendación como en el momento de presentar visualmente esa recomendación al personal sanitario. Para finalizar, con todo ello, se facilitará un instrumento que permita eliminar dichos sesgos del algoritmo.

Definición de los conceptos más relevantes

Conoce al equipo del proyecto