Obrane klasifikacijskih modela od napada trovanjem podataka

završni rad

• Naslov (engleski): Defence of classification models from data-poisoning attacks
• Autor: Luka Glavinić
• Mentor: Siniša Šegvić (mentor)
• Član povjerenstva: Siniša Šegvić (predsjednik povjerenstva)
• Član povjerenstva: Ivan Grubišić (član povjerenstva)
• Član povjerenstva: Zorana Doždor (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2023-07-06, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

U ovom radu je proučena funkcionalnost rezidualnog konvolucijskog modela ResNet-18.
Objašnjene su namjene i vrste napada otrovanim podacima ovakvog modela.
Detaljno objašnjene dvije metode za obranu od ovakvih napada i modula koje one koriste pri svom radu, a to su sigurno treniranje, kojim se trenira ekstraktor značajki i klasifikator i uklanjanje otrovanja iz modela.
Na kraju su pokazani eksperimenti i diskutirani rezultati eksperimenata.

Sažetak (engleski)

In this paper, the functionality of the residual convolutional model ResNet-18 was studied.
The purposes and types of poisoned data attacks of this model are explained.
Two methods for defense against such attacks and the modules they use in their work are explained in detail: safe training, which trains the feature extractor and classifier and removes poisoning from the model.
At the end, the experiments were shown and the results of the experiments were discussed.

• Ključne riječi: duboki konvolucijski model; model ResNet-18; CIFAR-10; CIFAR-100; ImageNet; metoda sigurnog treniranja(D-ST); metoda uklanjanja otrovanja modela (D-BR)
• Ključne riječi (engleski): deep convolutional model; model ResNet-18; CIFAR-10; CIFAR-100; ImageNet; secure training method (D-ST); backdoor removal method (D-BR)
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:580034
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-07-13 10:03:55