Improvements of a local bibliographic citation recommendation model based on hyperparameter and query optimization

disertacija

• Naslov (hrvatski): Poboljšanja modela za lokalno preporučivanje bibliografskih izvora temeljena na optimizaciji hiperparametera i upita
• Autor: Zoran Medić; MBZ: 382091
• Mentor: Jan Šnajder (mentor)
• Član povjerenstva: Domagoj Jakobović (predsjednik povjerenstva)
• Član povjerenstva: Marko Đurasević (član povjerenstva)
• Član povjerenstva: Petra Bago (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; (Zavod za elektroniku, mikroelektroniku, računalne i inteligentne sustave); Zagreb
• Datum i država obrane: 2023-04-25, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo
• Univerzalna decimalna klasifikacija (UDC): 004 - Računalna znanost i tehnologija. Računalstvo. Obrada podataka

Sažetak

The thesis focuses on analyzing improvements of a natural language processing and deep learning-based (DL) model for local citation recommendation (LCR) based on optimizing design choices when building LCR systems and enhancing LCR queries by combining LCR with global citation recommendation (GCR) queries. While the research on LCR presented various successful models for the task, many influential design choices have been overlooked in training such models. Moreover, previous research has not dealt with tasks that fit between the general recommendations obtained by GCR and the very specific ones obtained by LCR, which are arguably more practically relevant. To address these research gaps, the thesis proposes a new method for enhancing context representation in LCR systems and analyses how specific design choices affect the performance of an LCR pipeline system. The experiments conducted on two widely used LCR datasets show improvement in performance when using enhanced context representation in cases of datasets with smaller context sizes and also show the significant impact that previously overlooked design choices have on the performance of LCR systems. To address the gap in the usability of the existing LCR and GCR models in practice, the thesis proposes a new CR task called paragraph-level citation recommendation (PCR) that proposes citations to cite in a paragraph based on its topic sentence. Along with the task, a dataset and a model for PCR are presented and evaluated.

Sažetak (hrvatski)

Doktorski rad fokusiran je na analizu poboljšanja sustava za lokalno preporučivanje bibliografskih izvora (LPBI), temeljenog na obradi prirodnog jezika i dubokom učenju, pomoću optimizacije izbora oblikovanja pri izgradnji sustava za LPBI i poboljšanja oblikovanja upita za LPBI kombiniranjem upita za LPBI s upitima za globalno preporučivanje bibliografskih izvora (GPBI). Iako su u istraživanjima o razvoju sustava za LPBI predstavljeni brojni uspješni sustavi, mnogi značajni izbori oblikovanja bili su zanemareni pri izgradnji takvih sustava. Također, prethodna istraživanja nisu se bavila zadacima koji bi bili prikladni kao preporuke između općih preporuka dobivenih modelom za GPBI i onih vrlo specifičnih dobivenih modelim za LPBI. Kako bi se odgovorilo na prethodno zanemarena pitanja u istraživanjima, rad predlaže novu metodu za proširenje reprezentacije konteksta u sustavima za LPBI te analizira kako specifični izbori oblikovanja utječu na performance sustava za LPBI. Eksperimenti provedeni na dva često korištena skupa podataka za LPBI pokazuju poboljšanje performanci pri korištenju proširene reprezentacije konteksta u slučajevima skupova podataka s manjim veličinama konteksta, te također pokazuju značajan utjecaj koji prethodno zanemareni izbori oblikovanja imaju na performance sustava za LPBI. Kako bi se riješio jaz u upotrebljivosti postojećih modela za LPBI i GPBI u praksi, u radu se predlaže novi zadatak za PBI nazvan preporučivanje bibliografskih izvora na razini odlomka (OPBI) u kojem model na temelju tematske rečenice predlaže bibliografske izvore kao preporuke za citiranje u nastavku odlomka. Uz zadatak su predstavljeni i skup podataka te model za OPBI.

• Ključne riječi: citation recommendation; local citation recommendation; triplet-based reranking models; paragraph-level citation recommendation; natural language processing; deep learning
• Ključne riječi (hrvatski): preporučivanje bibliografskih izvora; lokalno preporučivanje bibliografskih izvora; modeli za rerangiranje temeljeni na gubitku trojki; preporučivanje bibliografskih izvora na razini odlomka; obrada prirodnoga jezika; duboko učenje
• Jezik: engleski
• URN:NBN: urn:nbn:hr:168:982806
• Datum promocije: 2023
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: poslijediplomski znanstveni (doktorski); Akademski / stručni naziv: Doktor znanosti (dr. sc.)
• Vrsta resursa: Tekst
• Opseg: x, 88 str. : graf. prikazi ; 31 cm.
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Otvoreni pristup
• Datum i vrijeme pohrane: 2023-09-19 15:48:21