Modeli dubokog učenja za prepoznavanje i klasifikaciju imenovanih entiteta

undergraduate thesis

• Title (english): Deep Learning Models for Named Entity Recognition and Classification
• Author: Mate Mijolović
• Mentor: Jan Šnajder (mentor)
• Committee member: Jan Šnajder (predsjednik povjerenstva)
• Committee member: Mladen Karan (član povjerenstva)
• Committee member: Domagoj Alagić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2018-07-13, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Prepoznavanje i klasifikacija imenovanih entiteta u tekstu jedan je od osnovnih zadataka u obradi prirodnoga jezika. Zadatak se tradicionalno rješava primjenom strojnog učenja, i to modelima za slijedno označavanje, kao što su skriveni Markovljev model i uvjetna slučajna polja. Razvoj dubokog učenja rezultirao je novim modelima za slijedno označavanje temeljenima na povratnim neuronskim mrežama, koji su se pokazali vrlo uspješnima na ovome zadatku. U okviru završnoga rada potrebno je proučiti postupke za prepoznavanje i klasifikaciju imenovanih entiteta, s naglaskom na postupke temeljene na dubokom učenju, posebice model LSTM i iz njega izvedene modele. Oblikovati i implementirati nekoliko modela za raspoznavanje imenovanih entiteta iz tekstova na hrvatskome jeziku temeljenih na dubokom učenju. Modele trenirati i ispitati na ručno označenom skupu podataka CroNER (Karan i dr., 2013). Provesti iscrpno vrednovanje sustava te usporedbu s referentnim modelom i modelom CRF iz (Karan i dr. 2013). Načiniti statističku obradu rezultata te analizu pogrešaka. Radu priložiti izvorni i izvršni kod razvijenog sustava, označene skupove podataka i potrebnu dokumentaciju te citirati korištenu literaturu.

Abstract (english)

Named entity recognition and classification is one of the basic tasks in the field of natural language processing. The task is mainly solved by utilizing machine learning based models for sequence labelling, such as the Hidden Markov Model and the Conditional Random Field. The advancement of deep learning has resulted in new sequence labelling models based on recurrent neural networks, which have proven to be very successful on this task. The focus of this bachelor thesis is to study the procedures for the identification and classification of the named entities, with emphasis on deep learning procedures, in particular the LSTM model and models derived from the LSTM model. The task includes design and implementation of the several deep learning based models for recognizing named entities from Croatian language texts. The models are trained and evaluated on a human-annotated dataset CroNER (Karan and others, 2013). Carry out an exhaustive system evaluation and comparison with the reference model and CRF model from (Karan and others, 2013). Perform statistical analysis of the results and error analysis. Accompany the work with the source and executive code of the developed system, datasets, documentation and citation of the literature used.

• Keywords: strojno učenje; duboko učenje; prepoznavanje i klasifikacija imenovanih entiteta
• Keywords (english): machine learning; deep learning; named entity recognition and classification
• Language: croatian
• URN:NBN: urn:nbn:hr:168:784395
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2019-03-13 23:04:07