Razvoj učinkovitog modela dubokog učenja za raspoznavanje govora

master's thesis

• Title (english): Development of an efficient deep learning model for speech recognition
• Author: Matej Božić
• Mentor: Marko Horvat (mentor)
• Committee member: Marko Horvat (predsjednik povjerenstva)
• Committee member: Gordan Gledec (član povjerenstva)
• Committee member: Boris Vrdoljak (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2024-09-09, Croatia

Abstract

Modeli dubokog učenja postali su temelj u razvoju naprednih algoritama za obradu govora, postižući izuzetne rezultate u točnosti i izražajnosti. Međutim, njihova složenost često ograničava primjenu u stvarnom vremenu gdje su brzina i učinkovitost ključni. Ovaj rad je usmjeren na istraživanje i razvoj modela dubokog učenja koji su optimirani za primjenu u raspoznavanju govora iz zvučnog signala s naglaskom na smanjenje složenosti modela. Cilj je razviti model koji nudi optimalan kompromis između brzine rada, broja parametara za učenje i upotrijebljene memorije, uspoređujući s trenutno zastupljenim rješenjima u ovom području primjene. Posebna pažnja bit će posvećena kreiranju modela s manjim brojem učenih parametara koji zadržavaju visoku učinkovitost uz poboljšanu brzinu rada.

Abstract (english)

Deep learning models have become the foundation in the development of advance speech processing algorithms, achieving exceptional results in terms of accuracy and expressiveness. However, their complexity often limits real-time applications where speed and efficiency is key. This work is focused on the exploration and development of deep learning models optimized for speech separation tasks with an emphasis on reducing model complexity. Our goal is to develop a model that offers an optimal compromise between the speed of computation, number of trainable parameters, and memory usage, comparing them with the currently available solutions. Special attention will be dedicated to creating models will smaller number of learned parameters that retain high efficiency with improved execution speed.

• Keywords: Raspoznavanje govora; Duboko učenje; Optimizacije; Sparsifikacija; Kvantizacija; Tenzorska dekompozicija
• Keywords (english): Speech separation; Deep learning; Optimizations; Pruning; Quantization; Tensor decomposition
• Language: croatian
• URN:NBN: urn:nbn:hr:168:185663
• Study programme: Title: Computing; Study programme type: university; Study level: graduate; Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2024-10-12 20:09:53