Generativne suparničke mreže za izradu neprijateljskih uzoraka

diplomski rad

• Naslov (engleski): Generative adversarial networks for generating adversarial examples
• Autor: Bruna Dujmović
• Mentor: Domagoj Jakobović (mentor)
• Član povjerenstva: Domagoj Jakobović (predsjednik povjerenstva)
• Član povjerenstva: Marko Đurasević (član povjerenstva)
• Član povjerenstva: Siniša Šegvić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2022-06-28, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Suvremeni klasifikacijski modeli, unatoč zavidnim rezultatima na nizu skupova podataka, i dalje znaju biti podložni napadima neprijateljskim uzorcima. Jedan od načina oblikovanja tih ciljano izmijenjenih uzoraka oslanja se na generativne suparničke mreže. Dodavanjem klasifikatora koji se želi napasti u osnovnu GAN arhitekturu, tzv. AdvGAN sposoban je proizvesti uspješne slikovne i zvučne neprijateljske uzorke uvjetovane odgovarajućim originalnim uzorcima. Uz izvornu AdvGAN inačicu, prozvanu image-to-perturbation odnosno audio-to-perturbation AdvGAN-om, razvijena je i noise-to-perturbation inačica koja proizvodi neprijateljske uzorke iz vektora nasumično generiranog šuma. Pokazalo se kako razvijeni AdvGAN-ovi djeluju prilikom izrade uzoraka za MNIST te Speech Commands skupove podataka.

Sažetak (engleski)

Modern classification models, despite the enviable results they achieve on a number of datasets, can still be vulnerable to attacks using adversarial examples. One way of generating these intentionally modified examples relies on generative adversarial networks. By incorporating the targeted classifier into the basic GAN architecture, the so-called AdvGAN is capable of producing successful image and audio adversarial examples conditioned on their unmodified counterparts. In addition to the original AdvGAN version, dubbed "image-to-perturbation" or "audio-to-perturbation" AdvGAN, a "noise-to-perturbation" version has been developed that produces adversarial examples out of random noise vectors. This thesis shows how the developed AdvGANs perform when creating examples for the MNIST and Speech Commands datasets.

• Ključne riječi: neprijateljski uzorci; generativne suparničke mreže; duboko učenje; strojno učenje
• Ključne riječi (engleski): adversarial examples; generative adversarial networks; deep learning; machine learning
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:307052
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-01-13 14:51:29