Vizualizacija mapa razrednih aktivacija modela za klasifikaciju slika

undergraduate thesis

• Title (english): Visualization of Class Activation Maps for Image Classification
• Author: Marijan Smetko
• Mentor: Siniša Šegvić (mentor)
• Committee member: Siniša Šegvić (predsjednik povjerenstva)
• Committee member: Marin Oršić (član povjerenstva)
• Committee member: Petra Bevandić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2019-07-12, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Ovaj završni rad se fokusirao na konvolucijske neuronske mreže kao klasifikatore slika u nizu eksperimenata na dva različita skupa podataka. Nakon kratkog uvoda u područje dubokog učenja, dan je kratki pregled najboljih praksi. Odabran je predtrenirani rezidualni model ResNet50, u kombinaciji sa Adam optimizatorom. Model je treniran za klasifikaciju u odgovarajućem broju epoha. Rezultati pokazuju da model predviđa točnu vrstu gljive, te da može klasificirati općenite objekte sa preko 97%-postotnom točnosti u najbolja tri pokušaja. Kasnije, dokazano je da prevelika sličnost različitih vrsta gljiva usporava daljnje učenje i porast točnosti. Ovaj tip problema nije bio primjećen u Pascal VOC skupu podataka. Tijekom učenja klasifikacije objekata, mreža je implicitno naučila i a) lokalizirati same objekte na slici i b) lokalizirati posebne značajke koje razlikuju jedan razred od drugog. Demonstracija najlošije rangiranih pozitiva i najbolje rangiranih negativa pokazala je da mreža ima problema sa višeznačnim razredima, no generalizira dobro i može ispraviti pogrešno označene podatke.

Abstract (english)

This thesis focused on convolutional neural networks as image classifiers by doing a series of experiments on two different datasets. After a brief introduction to deep learning discipline, a short overview of the best practices was given. A pretrained model with residual connections, ResNet50, was selected, in combination with Adam optimizer. It was trained for classification in appropriate number of epochs. It was shown it could guess a correct fungi species, and it classifies general objects with 97% top three accuracy. Later, if was shown that over similarity of fungi species inhibits further learning of the network. This type of problems is not found in Pascal VOC dataset. While learning the classification of the objects, the network implicitly learned how to a) localize objects themselves and b) how to localize specific features that distinguish one class from another. It’s been demonstrated with lowest rated positives and highest rated negatives of the Pascal VOC validation dataset that the network has problems with ambiguous classes but generalizes well and can correct mislabeled data.

• Keywords: konvolucijska neuronska mreža; duboko učenje; rezidualni modeli; gljive; Pascal VOC; mapa razrednih aktivacija; lokalizacija; klasifikacija
• Keywords (english): convolutional neural network; deep learning; residual models; fungi; Pascal VOC; class activation maps; localization; classification
• Language: english
• URN:NBN: urn:nbn:hr:168:969590
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2020-01-07 22:04:06