Varijacijski autoenkoderi s kvantiziranom latentnom reprezentacijom

završni rad

• Naslov (engleski): Variational autoencodets with quantized latent representation
• Autor: Dominik Babić
• Mentor: Siniša Šegvić (mentor)
• Član povjerenstva: Siniša Šegvić (predsjednik povjerenstva)
• Član povjerenstva: Ivan Grubišić (član povjerenstva)
• Član povjerenstva: Josip Šarić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2023-07-06, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Zadatak ovog rada je bio uvod u osnovne pojmove i koncepte VQ-VAE modela
te uspostaviti vezu s već definiranim varijacijskim autoenkoderima. Uz to, cilj je
bio predstaviti osnovne matematičke izvode za definiranje VQ-VAE modela, kao što
su varijacijska inferencija, rekonstrukcijski gubitak, regularizacijski gubitak i gubitak
kvantizacije.
Zatim je provedeno izvod̄enje varijacijskih autoenkodera i VQ-VAE modele te
njihovo treniranje na jednostavnijem skupu slika (konkretno, MNIST slika znamenki)
kako bi se istražila njihova sposobnost rekonstrukcije slika. Takod̄er je bilo potrebno
odabrati odred̄enu javno dostupnu prednaučenu arhitekturu i provesti ispitivanje nad
njom.
Potom su prikazani dobiveni rezultati provedenih ispitivanja te su izvedeni zaključci
o performansama ispitanih arhitektura.

Sažetak (engleski)

This study aimed to provide an introduction to the fundamental concepts
and principles of the VQ-VAE model and establish a connection with the already
defined variational autoencoders. Additionally, the goal was to present the basic mathematical
derivations for defining the VQ-VAE model, such as variational inference, reconstruction
loss, regularization loss, and quantization loss.
Furthermore, variational autoencoders and VQ-VAE models were derived and trained
on a more specific dataset of images (specifically, MNIST digit images) to explore their
ability to reconstruct images. It was also necessary to select a specific publicly available
pre-trained architecture and evaluate it.
Subsequently, the obtained results of the conducted evaluations were presented,
and conclusions were drawn regarding the performance of the examined architectures.

• Ključne riječi: VQ-VAE; varijacijski autoenkoderi; generativni modeli; varijacijska inferencija; rekonstrukcijski gubitak; kvantizacija
• Ključne riječi (engleski): VQ-VAE; variational autoencoders; generative models; variational inference; reconstruction loss; quantization
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:456628
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-07-13 09:53:13