Analiza teksta pomoću dubokih neuronskih mreža

undergraduate thesis

• Title (english): Text Analysis Using Deep Neural Networks
• Author: Borna Bešić
• Mentor: Marko Subašić (mentor)
• Committee member: Marko Subašić (predsjednik povjerenstva)
• Committee member: Tomislav Pribanić (član povjerenstva)
• Committee member: Nikola Banić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2017-07-10, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Cilj ovog rada je opisati primjenu dubokih neuronskih mreža u klasifikaciji odsječaka teksta različite duljine s obzirom na jednu pripadajuću kategoriju. U prvom dijelu objašnjavaju se motivacija za korištenje modela u vektorskom prostoru te osnovni koncepti u pozadini Word2vec modela. Predstavljena je i detaljno analizirana korištena arhitektura konvolucijske neuronske mreže s naglaskom na inicijalizaciju težina, aktivacijsku funkciju, metodu optimizacije, funkciju pogreške te regularizaciju. U drugom dijelu opisani su korišteni skupovi podataka za treniranje modela neuronske mreže te su navedeni eksperimentalni rezultati dobiveni koristeći TensorFlow biblioteku u okviru programskog jezika Python.

Abstract (english)

The aim of this paper is to describe the use of deep neural networks in the single-label classification of various length texts. In the first part, the motivation for vector space models and the basic concepts behind the Word2vec model are explained. Then the used convolutional neural network architecture is analyzed in detail, with emphasis on weights initialization, activation function, optimization method, error function and regularization. In the second part, the datasets used to train the neural network model are described and experimental results are reported. The results were obtained using the TensorFlow library and the Python programming language.

• Keywords: strojno učenje; duboko učenje; neuronske mreže; duboke neuronske mreže; umjetna inteligencija; analiza teksta; konvolucija; obrada prirodnog jezika; Word2vec; klasifikacija; treniranje; model; TensorFlow; Python
• Keywords (english): machine learning; deep learning; neural networks; deep neural networks; artificial intelligence; text analysis; convolution; natural language processing; Word2vec; classification; training; model; TensorFlow; Python
• Language: croatian
• URN:NBN: urn:nbn:hr:168:835033
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2019-03-13 19:03:24