Programsko ostvarenje algoritama strojnog učenja na tekstualnim podacima na programirljivom polju logičkih blokova

undergraduate thesis

• Title (english): Implementation of a Natural Language Processing on a Field-programmable Gate Array
• Author: Ena Džanko
• Mentor: Vladimir Čeperić (mentor)
• Committee member: Vladimir Čeperić (predsjednik povjerenstva)
• Committee member: Alma Traživuk (član povjerenstva)
• Committee member: Vlatko Galić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2020-09-07, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Ciljevi ovog rada su upoznavanje s konceptima strojne obrade prirodnog jezika, razvoj algoritma strojnog učenja za tu obradu te implementacija istog na FPGA pločicu. Prije početka obrade ulaznih podataka u tekstualnom obliku se potrebno upoznati sa osnovnim pojmovima u području lingvistike, nužnih za shvaćanje svake pojedine faze u tom procesu, ponajviše u fazi pretprocesiranja. Zatim se ulazni skup prosljeđuje kroz niz funkcija, koje uključuju uklanjanje buke, segmentaciju, normalizaciju i označavanje, s ciljem oblikovanja modela skupa podataka koji se može dati algoritmu na finalnu obradu, odnoso procesiranje. Faza pretprocesiranja ostvarena je koristeći funkcije i tekstualne korpuse NLTK biblioteke. Algoritam je ostvaren uz pomoć naivnog Bayesovog klasifikatora koji svoju funkcionalnost ostvaruje na temelju vjerojatnosnog računa. U programskom ostvarenju algoritma na lokalnom računalu je model klasifikatora pokazao zadovoljavajuću točnost te u drugoj fazi rada prenešen, odnosno implementiran, na programirljivo polje logičkih blokova, u ovom slučaju PYNQ-Z2 pločicu. Pločici se pristupalo preko web sučelja i funkcionalnosti su ostvarene u jezgrama Jupyter skripti. Skup podataka je pri tome učitan lokalno na pločicu. Model klasifikatora je na pločici pokazao manju preciznost što je bilo i očekivano.

Abstract (english)

The goal of this thesis was the introduction to the basic concepts of natural language processing using machine learning algorithms and the implementation of the developed algorithm on a FPGA board. Before the textual input data processing, it was necessary to go trough the terminology and concepts of linguistics in order to understand each phase in the text processing part, most importantly the preprocessing part. The input dataset is then put trough a set of functions, which include noise removal, segmentation, normalization and tagging, with the aim of formatting a dataset model developed algorithm can work with. The dataset is then fed to the model for processing and learning. The preprocessing phase is done using the functions and textual corpuses from the NLTK library. The algorithm is developed using the Naive Bayes classificator which achieves it's functionality based on probability calculus. In the algorithm development on a CPU the model achieved a satisfactory accuracy and is, in the second phase of this paper, transfered, i.e., implemented on a field programmable gate array, in this case PNYQ-Z2 board. The board was accessed trough a web interface and all functionalities are achieved in Jupyter noteboook kernels.

• Keywords: obrada prirodnog jezika; NLP; strojno učenje; FPGA; PYNQ; analiza sentimenata; naivan Bayesov klasifikator
• Keywords (english): natural language processing; NLP; machine learning; FPGA; PYNQ; Sentiment analysis; Naive Bayes
• Language: croatian
• URN:NBN: urn:nbn:hr:168:525955
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2023-01-14 08:43:31