Algorithmic bias in graph-based recommender systems

Abstract

Recommender Systems represent a key instrument to convey consumption of contents available on the Web. They enhance the engagement among the users and the online platforms through algorithmic personalization. Injecting non-natural interactions consequently cannot have only beneficial effects. Indeed, amplifying and exaggerating human behaviors leads to either the spread of extreme point of views (e.g. polarized or controversial opinions) or the discrimination or mistreatment of a specific group of individuals. In this thesis, we pose the attention on the importance of auditing and mitigating the “algorithmic bias” generated by a recommendation system, emphasizing its role on the networked interactions of users and contents. Through empirical evidences we highlight how the social graph, presenting biased network topology, when used as input, can impact the algorithmic recommendations. This analysis allows to add a perspective on the long-term impact of algorithmic suggestions, leading to design a simulation model able to explain the “feedback-loop” generated on social networks. Auditing the algorithmic bias facilitates the design of strategies able to mitigate algorithmic risks in recommendation, such as radicalization and unfairness. The results found in this thesis raise critical observations about the impact of recommendation algorithms, and hints of the need to design systems able to mitigate biases embedded in data and algorithms, considering both short and long-term perspectives.

Los sistemas de recomendación representan un instrumento clave para vehicular el consumo de contenidos disponibles en la Web. Mejoran el vínculo entre los usuarios y las plataformas en línea a través de la personalización algorítmica. En consecuencia, la inyección de interacciones no naturales no tiene sólo efectos positivos. La amplificación y exageración de los comportamientos humanos conduce a la difusión de puntos de vista extremos (por ejemplo, opiniones polarizadas o controvertidas) y a la discriminación o el maltrato de un grupo específico de individuos. En esta tesis, se pone la atención en la importancia de auditar y mitigar el ”sesgo algorítmico” generado por un sistema de recomendación, enfatizando su función en las interacciones en redes de usuarios y de contenidos. A través de evidencias empíricas evidenciamos cómo el grafo social, que presenta una topología de red sesgada, puede impactar en las recomendaciones algorítmicas, cuando se utiliza como input. Este análisis permite añadir una perspectiva sobre el impacto a largo plazo de las sugerencias algorítmicas, llevando a diseñar un modelo de simulación que permite de explicar el “feedback-loop” por las mismas en las redes sociales. La comprobación del sesgo algorítmico facilita el diseño de estrategias capaces de mitigar los riesgos algorítmicos en la recomendación, como la radicalización y la injusticia. Los resultados obtenidos plantean observaciones críticas sobre el impacto de los algoritmos de recomendación, e insinúan la necesidad de diseñar sistemas capaces de mitigar los sesgos incorporados a los datos y a los algoritmos, teniendo en cuenta tanto las perspectivas a corto como a largo plazo.

Els sistemes de recomanació representen un instrument clau per vehicular el consum de continguts disponibles a la web. Milloren el compromís entre els usuaris i les plataformes en línia mitjançant la personalització algorítmica. Per tant, la injecció d’interaccions no naturals no només té efectes positius. L’amplificació i l’exageració dels comportaments humans condueix a la difusió de punts de vista extrems (per exemple, opinions polaritzades o controvertides) o a la discriminació o el maltractament d’un grup específic d’individus. En aquesta tesi, es posa l’atenció en la importància d’auditar i mitigar el ”biaix algorítmic” generat per un sistema de recomanació, emfatitzant-ne la funció en les interaccions en xarxes d’usuaris i continguts. A través d’evid`encies empíriques evidenciem com el graf social, que presenta una topologia de xarxa esbiaixada, pot impactar en les recomanacions algorítmiques quan s’utilitza com a input. Aquesta anàlisi permet afegir una perspectiva sobre l’impacte a llarg termini dels suggeriments algorítmics, portant a dissenyar un model de simulació que permet explicar el ”feedback-loop” generat per aquestes a les xarxes socials. Aquesta an`alisi va facilitar el disseny d’estratègies capaces de mitigar els riscos algor´ıtmics en la recomanació, com ara la radicalització i la injusíıcia. Els nostres resultats plantegen observacions crítiques sobre l’impacte dels algorismes de recomanació, i insinuen la necessitat de dissenyar sistemes capaços de mitigar els biaixos incorporats a les dades i als algoritmes, considerant tant les perspectives a curt com a llarg termini.