Obrana dubokih konvolucijskih modela od neprijateljskih primjera

diplomski rad

• Naslov (engleski): Defending Deep Convolutional Models from Adversarial Examples
• Autor: Matej Dobrovodski
• Mentor: Zoran Kalafatić (mentor)
• Član povjerenstva: Zoran Kalafatić (predsjednik povjerenstva)
• Član povjerenstva: Tomislav Hrkać (član povjerenstva)
• Član povjerenstva: Stjepan Groš (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2020-07-13, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Današnji konvolucijski modeli postižu visoku točnost u području raspoznavanja objekata. Način rada dubokih modela je još uvijek vrlo teško ili nemoguće interpretirati, a dodatan razlog za brigu predstavljaju i takozvani neprijateljski primjeri. U kontekstu raspoznavanja objekata, neprijateljski primjeri su slike s dodanim teško uočljivim perturbacijama koje potiču model na pogrešnu klasifikaciju. Pokazalo se da je vrlo lagano konstruirati snažne napade na postojeće modele koji s lakoćom zavaravaju model. Ubrzo nakon pojave prvih neprijateljskih napada su se pojavile i uspješne obrane protiv tih napada, no nedugo nakon toga pojavljuju se sve jači napadi, dok je uspješnost obrana stagnirala. U radu je dan pregled ranijih napada i jednostavnih obrana, istaknuta je neuspješnost jednostavnih obrana protiv jačih napada te je opisana obećavajuća obrana koja se temelji na treniranju mreže korištenjem neprijateljskih primjera.

Sažetak (engleski)

Today's convolutional models can achieve high accuracy in the field of object recognition. The way deep models work is still very difficult or impossible to interpret, and an additional reason for concern are the so-called adversarial examples. In the context of object recognition, adversarial examples are images with added imperceptible perturbations that encourage the model to misclassify the image. It turned out to be very easy to construct strong attacks on existing models which easily fool the model. Soon after the appearance of the first adversarial attacks, defences against these attacks also appeared. However, stronger attacks appeared not long after that while the success rate of defence methods stagnated. The thesis reviews these early attacks and simple defences and highlights the failure of such defences against strong attackers. Additionally, the thesis describes a promising defence which is based on the concept of adversarial training and has so far shown good results.

• Ključne riječi: klasifikacija objekata; konvolucijske neuronske mreže; računalni vid; suparnički primjeri; neprijateljski primjeri; obrana
• Ključne riječi (engleski): object classification; convolutional neural networks; computer vision; adversarial attacks; defence
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:116033
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-01-13 12:07:09