Uklanjanje pristranosti na demografske informacije u tekstnim podatcima

master's thesis

• Title (english): Debiasing Methods for Demographic Information in Textual Data
• Author: Jure Baban
• Mentor: Jan Šnajder (mentor)
• Committee member: Jan Šnajder (predsjednik povjerenstva)
• Committee member: Bojana Dalbelo-Bašić (član povjerenstva)
• Committee member: Ante Đerek (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2019-07-02, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Klasifikacija teme je čest zadatak u klasifikaciji teksta. Kao što je slučaj u većini zadataka klasifikacije teksta, odluke klasifikatora često mogu biti iskrivljene zbog pristranosti u podatcima za učenje, uključujući pristranost na informacije o rodu osobe. Ovaj rad opisuje dva uobičajena pristupa u uklanjanju pristranosti na informacije o rodu osobe – vektorske reprezentacije riječi s uklonjenom pristranošću i suparničko učenje – obje namijenjene poboljšanju poštenja za predikciju glavnog zadatka (u ovom radu predikcija teme), koje funkcioniraju smanjivanjem količine informacija o rodu autora teksta. Navedeno je učinjeno na skupu komentara sa Reddita, nakon što je demonstrirano postojanje informacija o rodu autora jednostavnim linearnim modelom. Nadalje, ovaj rad ispituje povezanost rodne stereotipnosti tema sa uklanjanjem informacija o rodu. Naposljetku, rad pruža uvid u značajke koje najviše doprinose odlukama klasifikatora, uz načine na koji su tematske informacije i informacije o rodu autora povezane.

Abstract (english)

Topic classification is a common task in text classification. As in most text classification tasks, classifier’s decisions can easily be skewed by biases in training data, including gender bias. This thesis describes two common approaches in gender information debiasing – debiased word embeddings, and adversarial learning – both of which aim at improving fairness for main task prediction, in this case being the topic prediction, by mitigating author’s gender information. This is done on a dataset containing comments extracted from Reddit, after showing the existence of gender-related information with a simple linear model. Furthermore, this thesis investigates the relation of gender stereotypicality of a topic with the removal of gender-related information. Lastly, an insight into which features contribute to classifier’s decision is presented, along with the ways in which topic- and gender-related information relate to one another.

• Keywords: pristranost na informacije o rodu osobe; uklanjanje pristranosti; suparničko učenje; vektorske reprezentacije riječi s uklonjenom pristranošću; LIME; klasifikacija teme; duboko učenje
• Keywords (english): gender bias; debiasing; adversarial learning; debiased word embeddings; LIME; topic classification; deep learning
• Language: english
• URN:NBN: urn:nbn:hr:168:308675
• Study programme: Title: Computing; Study programme type: university; Study level: graduate; Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2020-01-07 16:12:20