Napadi na neuronske mreže korištenjem dubokih prikrivenih značajki

diplomski rad

• Naslov (engleski): Deep Hidden Feature Backdoor Attacks Upon Neural Networks
• Autor: Mateo Stanić
• Mentor: Sven Lončarić (mentor)
• Član povjerenstva: Sven Lončarić (predsjednik povjerenstva)
• Član povjerenstva: Marko Subašić (član povjerenstva)
• Član povjerenstva: Tomislav Petković (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2023-07-03, Hrvatska

Sažetak

U ovom radu razmatramo napad umetanja stražnjih vrata u modelima dubokog učenja. Cilj napada je da za „otrovane“ primjerke model daje ciljnu klasu dok za čiste uzorke funkcionira kao normalan klasifikacijski model. Popratni cilj napada u ovom radu je također ostvariti kvalitetan okidač za stvaranje otrovanih primjeraka te korištenjem naučenih značajki međuslojeva ostvariti veću „nevidljivost“ od standardnih napada. Opisana je teorijska podloga te implementacija u programskim okruženjima. Napadi su testirani na dva modela i dva poznata skupa podataka i uspoređeni s ostalim vrstama napada. Razmotrili smo ograničenja napada i implementacije te donijeli zaključke o uspješnosti izvedenog napada.

Sažetak (engleski)

In this paper, we consider backdoor attacks in deep learning models. The aim of the attack is that for "poisoned" samples the model predicts the target class, while for clean samples it functions as a normal classification model. The goal of the attack in this work is also to achieve a high-quality trigger for the creation of poisoned samples and to achieve greater "invisibility" than standard attacks by using the learned features of the intermediate layers. The theoretical background along with its implementation in programming environments is described in detail. The attacks were tested on two models and two known datasets and compared with other types of attacks. We considered the limitations of the attack and its implementation, and reached conclusions about the success of the attack.

• Ključne riječi: duboko učenje; trovanje; stražnja vrata
• Ključne riječi (engleski): deep learning; poisoning; backdoor
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:370421
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-10-11 10:30:55