Algorithmic governance in Digital Health. The path to autonomy

Abstract

[eng] Despite the recent increase in public awareness of artificial intelligence governance, there remains a considerable gap between this growing need and its practical realization. While there is a comprehensive policy framework that lays the theoretical groundwork, it is not effectively implemented in algorithmic practice. This phenomenon can be attributed to a number of factors, including a lack of multidisciplinary collaboration, a passive approach that discourages critical reflection paired with a limited understanding of how artificial intelligence truly functions, and commercial pressures that prioritize quick results over good practice.

This issue has implications for algorithmic governance in general, but it is respect for autonomy that is particularly absent. Without autonomy, individuals are unable to make free and informed decisions, thus losing our ability to act as active agents in the governance of ourselves and our society. It is therefore imperative to adopt a minimum set of ethical standards to guide the advancement of technology in a way that is beneficial and sustainable for society as a whole.

This thesis is based on bioethics as a driving force for change and endeavors to present a critical analysis that establishes the foundations for a framework of algorithmic governance. This framework is anchored in human rights and internationally recognized ethical principles that should regulate artificial intelligence, with the principle of autonomy at its core. This framework is enriched with an analysis of the ethical, legal, and social aspects of machine learning and its impact on individuals in a field where autonomy, freedom, and privacy, nowadays in question, must be preserved. This thesis commences with an examination of the limitations of machine learning, with the objective of establishing a

foundation for a governance framework that fosters autonomy. It then proceeds to identify and analyze the normative framework of reference, which is currently saturated, to detect its strengths and weaknesses. Finally, with a clear practical vocation, it is proposed to operationalize the principle of autonomy by providing a model that characterizes it and allows for its evaluation, thereby facilitating its understanding and integration into algorithmic processes. This proposal is centered on the monitoring of autonomy throughout the entirety of the algorithmic pipeline, from its inception to completion. It facilitates continuous monitoring and assessment of end-users’ autonomy with regard to the systems that influence decision-making processes.

[cat] Malgrat el recent augment de la conscienciació pública entorn de la governança de la intel·ligència artificial, continua existint una bretxa considerable entre aquesta creixent necessitat i la seva realització pràctica. Malgrat que existeix un ampli marc normatiu que estableix les bases teòriques, aquest no s'aplica eficaçment en la pràctica algorítmica. Aquest fenomen pot atribuir-se a una sèrie de factors, com la falta de col·laboració multidisciplinària, una mirada passiva que descoratja la reflexió crítica unida a una comprensió limitada de com funciona realment la intel·ligència artificial, i les pressions comercials que donen prioritat als resultats ràpids enfront de les bones pràctiques. Aquesta qüestió té implicacions per a la governança algorítmica en general, però és el respecte a l'autonomia el que està particularment absent. Sense autonomia, les persones som incapaces de prendre decisions lliures i informades, perdent així la nostra capacitat d'actuar com a agents actius en la governança de nosaltres mateixos i de la nostra societat. Per tant, és imperatiu adoptar un conjunt mínim de normes ètiques que guiïn l'avanç de la tecnologia de manera que resulti beneficiosa i sostenible per a la societat en el seu conjunt. Aquesta tesi parteix de la bioètica com a motor de canvi i té com a objectiu principal oferir una anàlisi crítica que estableixi les bases per a un marc de governança algorítmica. Aquest marc es fonamenta en els drets humans i en els principis ètics reconeguts a nivell internacional que haurien de regular la intel·ligència artificial, col·locant el principi d'autonomia com a eix central. Aquest marc s'enriqueix amb una anàlisi dels aspectes ètics, legals, i socials de l'aprenentatge automàtic i el seu impacte en persones en un àmbit en el qual l'autonomia, la llibertat, i la intimitat, avui en dubte, han de preservar-se. Aquesta tesi comença identificant els límits de l'aprenentatge automàtic per a establir les bases d'un marc de governança que promogui l'autonomia. A continuació, s'identifica i analitza el marc normatiu de referència, actualment saturat, amb l'objectiu de detectar les seves fortaleses i febleses. Per a acabar, amb una clara vocació pràctica, es proposa l'operacionalizació del principi d'autonomia mitjançant la proposta d'un model que la caracteritzi i permeti avaluar-la amb la finalitat de facilitar la seva comprensió i integració en les pràctiques algorítmiques. Aquesta proposta se centra en la supervisió de l'autonomia al llarg de tot el procés algorítmic, des del seu inici fins a la seva finalització. Facilita la supervisió i avaluació contínues de l'autonomia dels usuaris finals respecte als sistemes que influeixen en els processos de presa de decisions.