Obrane klasifikacijskih modela od zatrovanih skupova podataka

diplomski rad

• Naslov (engleski): Defending classification models from poisoned datasets
• Autor: Tin Reiter
• Mentor: Siniša Šegvić (mentor)
• Član povjerenstva: Siniša Šegvić (predsjednik povjerenstva)
• Član povjerenstva: Marko Čupić (član povjerenstva)
• Član povjerenstva: Zoran Kalafatić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2023-07-11, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Cilj ovog rada je pokazati načine napada na duboke modele pomoću zatrovanih skupova podataka te istražiti kako ih obraniti od takvih napada. Želimo vidjeti koliko su efektivne trenutne metode obrane dubokih modela od takvih napada. U radu prvo opisujemo strukturu umjetnih neurona i dubokih modela. Zatim objašnjavamo različite načine napada pomoću zatrovanih skupova podataka na duboke modele. Nakon toga objašnjavamo razne načine obrana od tih napada. Na kraju prikazujemo eksperimentalne rezultate napada na duboke modele te efektivnost načina obrane protiv njih.

Sažetak (engleski)

The goal of this paper is to demonstrate backdoor attacks on deep models and ways to mitigate them. We want to see how effective are the current defenses against backdoor attacks. In this paper we first describe the structure of artificial neurons and deep models. Then we describe the different types of defenses that can be used to mitigate backdoor attacks. In the end we show the experimental results gained from backdoor attacks on deep models and the effectiveness of the different methods to mitigate them.

• Ključne riječi: duboko učenje; trovanje skupova podataka; obrana klasifikacijskih modela; duboki modeli
• Ključne riječi (engleski): deep learning; backdoor attacks on deep models; mitigating backdoor attacks; deep models
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:034860
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-10-11 10:19:39