Neprijateljski napadi na modele za klasifikaciju slike

diplomski rad

• Naslov (engleski): Adversarial attacks on image classification models
• Autor: Krešimir Vukić
• Mentor: Siniša Šegvić (mentor)
• Član povjerenstva: Siniša Šegvić (predsjednik povjerenstva)
• Član povjerenstva: Stjepan Groš (član povjerenstva)
• Član povjerenstva: Marko Čupić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2019-07-15, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Nadzirani diskriminativni modeli sastavni su dio mnogih sustava računalnog vida. No, poznato je da su ranjivi neprijateljskim primjerima što je neprihvatljivo za osjetljive produkcijske sustave. Upravo iz toga proizlazi važnost poznavanja njihove funkcionalnosti, razloga postojanja i mogućih obrana. U ovoj tezi opisana je nekolicina postojećh neprijateljskih napada i primjenjivih obrana. Napadi FGSM i PGD te obrana treniranja sa neprijateljskim primjerima su implementirani i testirani na MNIST i SVHN podatkovnim skupovima. Također, istražen je utjecaj različitih perturbacijskih normi na utjecaj klasifikacije.

Sažetak (engleski)

Strongly supervised discriminative models are the principal ingredient in many computer vision applications. However, discriminative models are known for being vulnerable to adversarial examples which is unacceptable for production systems. Hence, the techniques for constructing adversarial examples and building defenses against them are a very important research topic. This thesis consists of brief descriptions of existing adversarial attacks and applicable defenses. FGSM and PGD attacks, as well as defense through adversarial training, are developed and tested on the MNIST and SVHN data sets. Also, the influence of the perturbation norm on the efficiency of the attacks is briefly described.

• Ključne riječi: neprijateljski napadi; obrana neuronske mreže; nadzirano učenje; napad pgd; napad fgsm; treniranje neprijateljskim primjerima; norma udaljenosti
• Ključne riječi (engleski): adversarial attacks; neural network defenses; supervised learning; pgd attack; fgsm attack; adversarial training; perturbation norm
• Jezik: engleski
• URN:NBN: urn:nbn:hr:168:519031
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2020-01-07 23:02:58