Algorithmic bias in graph-based recommender systems

dc.contributor
Universitat Pompeu Fabra. Departament de Tecnologies de la Informació i les Comunicacions
dc.contributor.author
Fabbri, Francesco
dc.date.accessioned
2022-11-09T11:03:19Z
dc.date.available
2022-11-09T11:03:19Z
dc.date.issued
2022-10-25
dc.identifier.uri
http://hdl.handle.net/10803/675938
dc.description.abstract
Recommender Systems represent a key instrument to convey consumption of contents available on the Web. They enhance the engagement among the users and the online platforms through algorithmic personalization. Injecting non-natural interactions consequently cannot have only beneficial effects. Indeed, amplifying and exaggerating human behaviors leads to either the spread of extreme point of views (e.g. polarized or controversial opinions) or the discrimination or mistreatment of a specific group of individuals. In this thesis, we pose the attention on the importance of auditing and mitigating the “algorithmic bias” generated by a recommendation system, emphasizing its role on the networked interactions of users and contents. Through empirical evidences we highlight how the social graph, presenting biased network topology, when used as input, can impact the algorithmic recommendations. This analysis allows to add a perspective on the long-term impact of algorithmic suggestions, leading to design a simulation model able to explain the “feedback-loop” generated on social networks. Auditing the algorithmic bias facilitates the design of strategies able to mitigate algorithmic risks in recommendation, such as radicalization and unfairness. The results found in this thesis raise critical observations about the impact of recommendation algorithms, and hints of the need to design systems able to mitigate biases embedded in data and algorithms, considering both short and long-term perspectives.
en_US
dc.description.abstract
Los sistemas de recomendación representan un instrumento clave para vehicular el consumo de contenidos disponibles en la Web. Mejoran el vínculo entre los usuarios y las plataformas en línea a través de la personalización algorítmica. En consecuencia, la inyección de interacciones no naturales no tiene sólo efectos positivos. La amplificación y exageración de los comportamientos humanos conduce a la difusión de puntos de vista extremos (por ejemplo, opiniones polarizadas o controvertidas) y a la discriminación o el maltrato de un grupo específico de individuos. En esta tesis, se pone la atención en la importancia de auditar y mitigar el ”sesgo algorítmico” generado por un sistema de recomendación, enfatizando su función en las interacciones en redes de usuarios y de contenidos. A través de evidencias empíricas evidenciamos cómo el grafo social, que presenta una topología de red sesgada, puede impactar en las recomendaciones algorítmicas, cuando se utiliza como input. Este análisis permite añadir una perspectiva sobre el impacto a largo plazo de las sugerencias algorítmicas, llevando a diseñar un modelo de simulación que permite de explicar el “feedback-loop” por las mismas en las redes sociales. La comprobación del sesgo algorítmico facilita el diseño de estrategias capaces de mitigar los riesgos algorítmicos en la recomendación, como la radicalización y la injusticia. Los resultados obtenidos plantean observaciones críticas sobre el impacto de los algoritmos de recomendación, e insinúan la necesidad de diseñar sistemas capaces de mitigar los sesgos incorporados a los datos y a los algoritmos, teniendo en cuenta tanto las perspectivas a corto como a largo plazo.
en_US
dc.description.abstract
Els sistemes de recomanació representen un instrument clau per vehicular el consum de continguts disponibles a la web. Milloren el compromís entre els usuaris i les plataformes en línia mitjançant la personalització algorítmica. Per tant, la injecció d’interaccions no naturals no només té efectes positius. L’amplificació i l’exageració dels comportaments humans condueix a la difusió de punts de vista extrems (per exemple, opinions polaritzades o controvertides) o a la discriminació o el maltractament d’un grup específic d’individus. En aquesta tesi, es posa l’atenció en la importància d’auditar i mitigar el ”biaix algorítmic” generat per un sistema de recomanació, emfatitzant-ne la funció en les interaccions en xarxes d’usuaris i continguts. A través d’evid`encies empíriques evidenciem com el graf social, que presenta una topologia de xarxa esbiaixada, pot impactar en les recomanacions algorítmiques quan s’utilitza com a input. Aquesta anàlisi permet afegir una perspectiva sobre l’impacte a llarg termini dels suggeriments algorítmics, portant a dissenyar un model de simulació que permet explicar el ”feedback-loop” generat per aquestes a les xarxes socials. Aquesta an`alisi va facilitar el disseny d’estratègies capaces de mitigar els riscos algor´ıtmics en la recomanació, com ara la radicalització i la injusíıcia. Els nostres resultats plantegen observacions crítiques sobre l’impacte dels algorismes de recomanació, i insinuen la necessitat de dissenyar sistemes capaços de mitigar els biaixos incorporats a les dades i als algoritmes, considerant tant les perspectives a curt com a llarg termini.
en_US
dc.format.extent
185 p.
en_US
dc.format.mimetype
application/pdf
dc.language.iso
eng
en_US
dc.publisher
Universitat Pompeu Fabra
dc.rights.license
L'accés als continguts d'aquesta tesi queda condicionat a l'acceptació de les condicions d'ús establertes per la següent llicència Creative Commons: http://creativecommons.org/licenses/by-sa/4.0/
dc.rights.uri
http://creativecommons.org/licenses/by-sa/4.0/
*
dc.source
TDX (Tesis Doctorals en Xarxa)
dc.subject
Recomender systems
en_US
dc.subject
Sistemas de recomendación
en_US
dc.subject
Sistemes de recomanació
en_US
dc.title
Algorithmic bias in graph-based recommender systems
en_US
dc.type
info:eu-repo/semantics/doctoralThesis
dc.type
info:eu-repo/semantics/publishedVersion
dc.subject.udc
62
en_US
dc.contributor.authoremail
fraf.uni@gmail.com
en_US
dc.contributor.director
Bonchi, Francesco
dc.embargo.terms
cap
en_US
dc.rights.accessLevel
info:eu-repo/semantics/openAccess
dc.description.degree
Programa de doctorat en Tecnologies de la Informació i les Comunicacions


Documents

tff.pdf

4.273Mb PDF

Aquest element apareix en la col·lecció o col·leccions següent(s)