Kvantizacija konvolucijskih modela za raspoznavanje slika

undergraduate thesis

• Title (english): Quantization of convolutional models for image recognition
• Author: Marko Minđek
• Mentor: Siniša Šegvić (mentor)
• Committee member: Siniša Šegvić (predsjednik povjerenstva)
• Committee member: Petra Bevandić (član povjerenstva)
• Committee member: Matej Grcić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2021-07-09, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Raspoznavanje slika važan je zadatak računalnog vida s mnogim zanimljivim primjenama. Trenutno stanje tehnike koristi duboke modele koji se uče s kraja na kraj. Nažalost, velika računska složenost tih modela isključuje mnoge zanimljive primjene. Taj problem možemo ublažiti zamjenom decimalnih računskih operacija odgovarajućim cjelobrojnim operacijama. U okviru rada, potrebno je odabrati okvir za automatsku diferencijaciju te upoznati biblioteke za rukovanje matricama i slikama. Proučiti i ukratko opisati postojeće pristupe za klasifikaciju slike. Odabrati slobodno dostupni skup slika te oblikovati podskupove za učenje, validaciju i testiranje. Uhodati postupke učenja modela u decimalnoj točnosti. Predložiti prikladnu
metodologiju za prevođenje tih modela u cjelobrojnu točnost. Procijeniti mogućnost izvedbe kvantiziranog modela na grafičkom procesoru. Validirati hiperparametre, vrednovati kvantizirane modele te prikazati i ocijeniti postignutu točnost. Radu priložiti izvorni i izvršni kod razvijenih postupaka, ispitne slijedove i rezultate, uz potrebna objašnjenja i dokumentaciju. Citirati korištenu literaturu i navesti dobivenu pomoć.

Abstract (english)

Image recognition is important task with many interesting applications in computer vision. Current state of the art are deep models trained end to end. Unfortunatelly, computing complexity of those models excludes lots of interesting applications. That problem can be mitigated by replacing decimal with integer operations. Within this work it is reqired to choose a framework for automatic differentiation and get familiar with libraries for handling matrices and images. Existing approaches to image classification should be studied and described. Free public image dataset was choosen and training, validation and test subsets were constructed. Execute learining procedures in decimal precision. Propose appropriate metodology for converting those models to integer precision. Estimate possibility of executing quantized model on graphics processor. Validate hyperparameters, evaluate quantized models and present and evaluate accomplished accuracy. Submit source and executable code, test cases and results with appropriate explanation and documentation alongside paper. Cite used literature and received help.

• Keywords: strojno učenje; računalni vid; konvolucijske neuronske mreže; gusto povezane neuronske mreže; PyTorch; kvantizacija; klasifikacija
• Keywords (english): machine learning; computer vision; convolutional neural networks; densely connected neural networks; PyTorch; quantization; classification
• Language: croatian
• URN:NBN: urn:nbn:hr:168:430671
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2023-01-14 21:13:15