Kombinatorički dizajni za duboko učenje

diplomski rad

• Naslov (engleski): Combinatorial designs for deep learning
• Autor: Ante Bilić
• Mentor: Mario Osvin Pavčević (mentor)
• Član povjerenstva: Mario Osvin Pavčević (predsjednik povjerenstva)
• Član povjerenstva: Domagoj Kovačević (član povjerenstva)
• Član povjerenstva: Mate Puljiz (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-07-09, Hrvatska

Sažetak

U sklopu ovog diplomskog rada razvijena su dva načina generiranja dropout dizajna. Prvi način je generiranje dropout dizajna genetskim algoritmom, dok je drugi način trivijalno generiranje određenog tipa dropout dizajna. Generirani dropout dizajni su se koristili prilikom treniranja potpuno povezanih konvolucijskih i povratnih neuronskih mreža uz pomoć izrađene implementacije za primjenu generiranih dizajna. Dobiveni rezultati kombinatoričkog dropouta na različitim mrežama su uspoređeni sa stohastičkim dropoutom i normalizacijom nad grupom. Korištenjem statističkih testova uspoređeni su rezultati i dobiveni zaključci.

Sažetak (engleski)

Within this master ́s thesis, two different ways of generating dropout designs have been developed. The first one is generating dropout designs by genetic algorithm, while the other one is the trivial generating of a specific type of dropout designs. The generated dropout designs were used during the training process of feedforward, convolutional and recurrent neural networks, assisted by custom implementation for using generated designs. The received results of combinatorial dropout on different networks have been compared to stochastic dropout and batch normalization. By using statistical tests, the results have been compared and the conclusions have been made.

• Ključne riječi: dropout; dropout dizajni; neuronske mreže; normalizacija nad grupom
• Ključne riječi (engleski): dropout; dropout designs; neural networks; batch normalization
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:997343
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 20:06:33