Klasifikacija bioloških anotacija na velikoj skali koristeći reprezentacije riječi izvedene iz dokumenata biomedicinske znanstvene literature

diplomski rad

• Naslov (engleski): Classification of Large-Scale Biological Annotations Using Word Embeddings Derived from Corpora of Biomedical Research Literature
• Autor: Adriano Baćac
• Mentor: Mile Šikić (mentor)
• Član povjerenstva: Mile Šikić (predsjednik povjerenstva)
• Član povjerenstva: Marko Subašić (član povjerenstva)
• Član povjerenstva: Krešimir Križanović (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2017-07-10, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Naučeni su vlastiti Word2vec i GloVe modeli prikaza riječi za znanstvenu literaturu u području biomedicine, kao i tri klasifikacijske metode za diskriminaciju fenotipova, dvije temeljene na agregaciji vektorskog prikaza riječi, i jedna na rekurentnim neuronskim mrežama. Prikazi riječi su trenirani na velikom korpusu znanstvenih članaka i njegovim tematski specifičnim podskupovima. Rezultati klasifikacije su testirani na 6 izvora dokumenata. Pokazano je da Word2vec postiže bolje rezultate kada je treniran na tematski specifičnom podskupu koji je sačinjen od 4.9% od ukupnih članaka nego kada je treniran na cijelom korpusu. Korištenje rekurentnih neuronskih mreža imalo je problema s prenaučenosti, moguće zbog predugačkih dokumenata ili premalog skupa za učenje. Iako predloženi modeli nisu bili bolji od stroja potpornih vektora koristeći prikaz vreće riječi, pokazano je da korištenje agregacijskih metoda uz bazni model povećava količinu ispravne klasifikacije manjinske klase kod nekih fenotipova za oko 10%.

Sažetak (engleski)

Custom Word2vec and GloVe embeddings for scientific literature in the biomedical domain were trained, as well as three classification methods for discriminating phenotype traits, two of which were based on aggregating word embeddings and one on recurrent neural networks. Word embeddings were trained on a large corpus of scientific articles and its more subject-specific subsets. Classification performance was tested on 6 document sources. It was shown that Word2vec achieves better performance when trained on a subject-specific subset corpus comprised of 4.9% articles, than when trained on the entire corpus. Using recurrent neural networks had an overfitting problem, possibly because the documents were too long or the training set too small. Although the proposed models did not outperform support vector machine using bag-of-words, it was shown that using the aggregation methods alongside the baseline model increases the amount of correctly classified minority class in some phenotype traits by around 10%.

• Ključne riječi: vektorski prikaz riječi; Word2vec; GloVe; RNN; LSTM; klasifikacija fenotipova; specifičnost korpusa
• Ključne riječi (engleski): word embedding; Word2vec; GloVe; RNN; LSTM; phenotype classification; corpus specificity
• Jezik: engleski
• URN:NBN: urn:nbn:hr:168:032239
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2019-03-13 18:43:47