Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju

završni rad

• Naslov (engleski): Adversarial attacks on classification models using multi-objective optimization
• Autor: Bruna Dujmović
• Mentor: Domagoj Jakobović (mentor)
• Član povjerenstva: Domagoj Jakobović (predsjednik povjerenstva)
• Član povjerenstva: Karlo Knežević (član povjerenstva)
• Član povjerenstva: Iva Jurković (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2020-07-06, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Ovaj se rad bavi black-box napadima na modele za klasifikaciju slike uz odabrane algoritme za višekriterijsku optimizaciju, NSGA-II i SPEA2. Neprijateljski napadi prikazani su kao problemi višekriterijske optimizacije te su kao takvi i implementirani. Klasifikacijski modeli predstavljeni su dvjema umjetnim neuronskim mrežama, potpuno povezanom i konvolucijskom, koje su trenirane i ispitane na MNIST skupu slika rukom pisanih znamenki uz visoku točnost. Generirani su neprijateljski uzorci dodavanjem evoluiranog šuma vektoriziranim MNIST slikama. Značajno više uspješnih neprijateljskih uzoraka dobiveno je za neusmjerene napade u odnosu na usmjerene te za potpuno povezani model u odnosu na konvolucijski. Nije opažena značajna razlika u količini uspješnih napada s obzirom na algoritam višekriterijske optimizacije.

Sažetak (engleski)

This thesis deals with staging black-box attacks on image classification models using selected multi-objective optimization algorithms, NSGA-II and SPEA2. Adversarial attacks are presented as multi-objective optimization problems and are implemented as such. A simple, fully-connected artificial neural network and a convolutional one were built and then trained on the MNIST handwritten digits dataset, achieving high accuracy, to be used as targets for adversarial attacks. Adverarial images were generated by adding evolved noise vectors to vectorized MNIST images. Significantly more successful adversarial images were obtained for untargeted attacks versus targeted ones, and for the simple model versus the convolutional one. No significant difference was observed in the number of successful adversarial images with respect to the type of algorithm with which they were constructed.

• Ključne riječi: višekriterijska optimizacija; neprijateljski napadi; umjetne neuronske mreže; klasifikacija slike
• Ključne riječi (engleski): multi-objective optimization; adversarial attacks; artificial neural networks; image recognition
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:565743
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-01-13 14:50:58