Klasifikacija slika korištenjem transformatorskih mreža

završni rad

• Naslov (engleski): Image Classification Using Transformer Networks
• Autor: Matko Barbić
• Mentor: Sven Lončarić (mentor)
• Član povjerenstva: Sven Lončarić (predsjednik povjerenstva)
• Član povjerenstva: Luka Posilović (član povjerenstva)
• Član povjerenstva: Donik Vršnak (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2022-09-13, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Kompjuterska vizija je važno područje umjetne inteligencije. Od 2012. konvolucijske neuronske mreže su najčešće korišteni oblik umjetne inteligencije za rješavanje problema u području računalnog vida. U 2021. transformer arhitektura, koja se do tada uglavnom koristila za probleme procesiranja prirodnog jezika, je adaptirana za rješavanje problema računalnog vida. U ovom radu smo proučili mehanizam pažnje koji se koristi u transformerskim arhitekturama, implementirali dvije najpopularnije transformerske arhitekture za rad na slikama i usporedili rezultate s modernom konvolucijskom neuronskom mrežom.

Sažetak (engleski)

Computer vision is an important area of artificial intelligence. Since 2012. convolutional neural networks are most common form of solving problems in the computer vision field. In 2021. transformer architecture, which was until then mostly used for natural language processing, was adapted for solving computer vision tasks. In this paper we investigated the attention mechanism used in transformer architectures, implemented two of the most popular transformer architectures used on images and compared the results with a modern convolutional neural network.

• Ključne riječi: pažnja; računalni vid; raspoznavanje slika; transformer
• Ključne riječi (engleski): attention; computer vision; image classification; transformer
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:547052
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-01-15 09:44:40