Učinkovito povezivanje imenovanih entiteta korištenjem Poincaréovih reprezentacija

master's thesis

• Title (english): Efficient end-to-end named entity linking using Poincaré knowledge graph embeddings
• Author: Sven Ćurković
• Mentor: Jan Šnajder (mentor)
• Committee member: Jan Šnajder (predsjednik povjerenstva)
• Committee member: Marko Đurasević (član povjerenstva)
• Committee member: Marko Čupić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2023-07-10, Croatia

Abstract

Povezivanje imenovanih entiteta (PIE) važan je zadatak u obradi prirodnog jezika čiji je cilj povezati entitete spomenute u tekstu s njihovim odgovarajućim entitetima u strukturiranoj bazi znanja. Zbog morfološke varijance, polisemije i sinonimije, kada se imenovni entiteti koriste u završnim zadacima, od iznimne je važnosti znati koji se spomeni entiteta odnose na koje entitete. Suvremeni pristupi povezivanju imenovanih entiteta često se oslanjaju na komplicirane sustave dodjeljivanja tipova koje je teško trenirati i koji zahtijevaju značanju količinu resura tijekom predikcije. U ovom diplomskom radu predložili smo jednostavan i učinkovit s-kraja-na-kraj model za PIE. Naš se pristup uvelike oslanja na slabo nadzirano predtreniranje nad Wikipedijom, bez da je nužno potreban skup podataka za PIE za fino podešavanje. Zato je naš pristup posebno privlačan za jezike s malo označenih podataka. Pokazali smo da efikasan model za PIE sa jednostavnom arhitekturom može postići visoku točnost i biti izuzetno robustan.

Abstract (english)

Named entity linking (NEL) is an important task in natural language processing that aims to connect entity mentions in text to their corresponding entities in a structured knowledge base. Due to morphological variance, polysemy, and synonymity, knowing which entity mentions are referring to which entities is vital when using named entities in downstream tasks. Current state-of-the-art approaches often rely on complicated typing systems, which are hard to train, resource intensive during inference, and hard to maintain. In this master's thesis, we proposed a simple and efficient end-to-end NEL model. Our approach relies heavily on weakly supervised pre-training on Wikipedia, without necessarily needing a NEL dataset for fine-tuning. This makes our approach especially attractive for low-resource languages. We showed that an efficient named entity linking model with a simple architecture can achieve high accuracy and be remarkably robust.

• Keywords: imenovani entiteti; prepoznavanje imenovanih entiteta; povezivanje imenovanih entiteta; graf znanja; Wikipodatci; Wikipedija; Poincaréove reprezentacije; s kraja na kraj
• Keywords (english): named entities; named entity recognition; named entity linking; knowledge graph; Wikidata; Wikipedia; Poincaré embeddings; end-to-end
• Language: english
• URN:NBN: urn:nbn:hr:168:412071
• Study programme: Title: Computing; Study programme type: university; Study level: graduate; Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2023-10-11 08:41:42