Detekcija i otklanjanje napada na duboke neuronske mreže

diplomski rad

• Naslov (engleski): Detection and removal of attacks on deep neural networks
• Autor: Danijel Barišić
• Mentor: Sven Lončarić (mentor)
• Član povjerenstva: Sven Lončarić (predsjednik povjerenstva)
• Član povjerenstva: Marko Subašić (član povjerenstva)
• Član povjerenstva: Tomislav Petković (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-07-15, Hrvatska

Sažetak

Popisani su učestali napadi umetanjem stražnjih vrata u duboke modele. Popisane su aktualne metode detekcije i otklanjanja stražnjih vrata. Detaljnije je prikazana izvedba BTI-DBF metode obrane koja pripada kategoriji metoda obrane uklanjanjem stražnjih vrata. Pokazane su varijante BTI-DBF metode s odučavanjem stražnjih vrata i pročišćavanjem primjeraka. Pokazana je modifikacija BTI-DBF metode tako da se generiranje vrši izravno u prostoru značajki.

Sažetak (engleski)

Frequent backdoor insertion attacks in deep models are listed. Current methods of detection and removal of backdoors are listed. The performance of the BTI-DBF defense method, which belongs to the category of backdoor removal defense methods, is presented in more detail. Variants of the BTI-DBF method with backdoor unlearning and sample purification are shown. A modification of the BTI-DBF method where generation is performed directly in the feature space is introduced.

• Ključne riječi: duboko učenje; neuronska mreža; stražnja vrata; generator; metode napada; metode obrane; okidač; inverzija okidača; dobroćudne značajke; zloćudne značajke; odučavanje; pročišćavanje; BTI-DBF
• Ključne riječi (engleski): deep learning; neural network; backdoor; generator; attack methods; defense methods; trigger; trigger inversion; benign features; malicious features; unlearning; purification; BTI-DBF
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:002828
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 20:03:49