Polunadzirano učenje segmentacijskih modela zasnovanih na pažnji

diplomski rad

• Naslov (engleski): Semisupervised learning of segmentation models based on attention
• Autor: Matej Škrabić
• Mentor: Marko Čupić (mentor)
• Član povjerenstva: Marko Čupić (predsjednik povjerenstva)
• Član povjerenstva: Siniša Šegvić (član povjerenstva)
• Član povjerenstva: Željka Mihajlović (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2023-09-14, Hrvatska

Sažetak

U okviru rada predstavljeni su različiti pristupi za segmentaciju slike, uključujući tradicionalne algoritme, konvolucijske modele za semantičku segmentaciju i modele zasnovane na pažnji. Detaljno je opisana arhitektura odabranih modela: Transformer, Vision Transformer, Data-efficient Image Transformer i Segmenter. Kako bi se ublažila potreba za velikom količinom slika označenih na razini piksela, istražene su različite metode polunadziranog učenja s naglaskom na metode konzistencijskog učenja. Implementirana je metoda polunadziranog učenja temeljena na modelu učenik-učitelj uz fotometrijske perturbacije i upotrebu maskirajućeg autoenkodera te je iskorištena za učenje modela Segmenter na javno dostupnom skupu podataka CityScapes.

Sažetak (engleski)

This thesis describes different image segmentation techniques, including traditional ad-hoc algorithms and machine learning approaches: convolutional and attention-based models. We described and explained the architecture of the following models: Transformer, Vision Transformer, Data-efficient Image Transformer and Segmenter. Semi-supervised training is utilized to tackle the problematic need for a large amount of pixel-wise labeled data in the context of semantic segmentation. Focus is placed on consistency regularization methods. We implemented a semi-supervised training procedure based on the student-teacher model with the use of photometric perturbations and token masking, and used it for training of the Segmenter model on the publicly available CityScapes dataset.

• Ključne riječi: strojno učenje; računalni vid; semantička segmentacija; polunadzirano učenje; modeli zasnovani na pažnji
• Ključne riječi (engleski): machine learning; computer vision; semantic segmentation; semi-supervised learning; attention-based models
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:837960
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-03-28 07:55:13