Raspoznavanje slika primjenom slojeva pažnje

završni rad

• Naslov (engleski): Image recognition with self-attention layers
• Autor: Bruno Ćorić
• Mentor: Siniša Šegvić (mentor)
• Član povjerenstva: Siniša Šegvić (predsjednik povjerenstva)
• Član povjerenstva: Petra Bevandić (član povjerenstva)
• Član povjerenstva: Matej Grcić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2021-07-07, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Raspoznavanje slika važno je područje računalnog vida kojim dominiraju duboke konvolucijske mreže godinama, no nova arhitektura mreža temeljena na slojevima pažnje postaje sve popularnija u dubokom učenju osobito na području obrade prirodnog jezika. U ovom radu istražen je mehanizam pažnje i arhitekture koje ga koriste, istraženo je kako implementirati takve arhitekture za raspoznavanje slika te koje su prednosti i nedostatci. Implementirana je jedna takva arhitektura te su nad njom provedeni eksperimenti kako radi takva mreža te usporedbe s drugim popularnim mrežama u području raspoznavanja slika u računalnom vidu.

Sažetak (engleski)

Image recognition is an important area of computer vision dominated by deep convolutional networks for years but the new attention-based network architectures are becoming increasingly popular in deep learning, especially in the field of natural language processing. In this paper, the mechanism of attention and the architectures that use it are investigated, we investigate how to implement such architectures for image recognition and what are the advantages and disadvantages. One such architecture has been implemented and experiments on how such a network works and comparisons with other popular networks in the field of computer image recognition have been performed.

• Ključne riječi: pažnja; računalni vid; raspoznavanje slika; transformer
• Ključne riječi (engleski): attention; computer vision; image classification; transformer
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:978794
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-01-14 20:15:04