Predviđanje osobnosti iz teksta usmjeravanjem jezičnih modela

diplomski rad

• Naslov (engleski): Personality prediction from text using prompt-based learning
• Autor: Rino Čala
• Mentor: Jan Šnajder (mentor)
• Član povjerenstva: Jan Šnajder (predsjednik povjerenstva)
• Član povjerenstva: Marko Đurasević (član povjerenstva)
• Član povjerenstva: Alan Jović (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2022-07-12, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Osobnost je karakteristično svojstvo koje pojedinca čini jedinstvenim u populaciji, a manifestira se kao skup oprečnih crta ličnosti. Kako je ono ključno za prepoznavanje i predikciju ljudskog ponašanja, sve se više istraživanja fokusira na izgradnju modela i pristupa za predikciju osobnosti iz teksta. Prateći najnovije pristupe temeljene na dubokom učenju, ovaj rad proučava predikciju osobnosti na temelju usmjeravanja jezičnih modela pomoću predložaka i skupa podataka PANDORA. Pomoću modela GPT2 i BERTa, ovaj rad proučava metode temeljene na predlošcima u okolinama bez podataka, s malo podataka i s potpunom raspoloživosti podacima. Načinjena je detaljna usporedba između kontinuiranih i ručno izrađenih predložaka te klasičnog treniranja modela u različitim okolinama dostupnosti podataka. Rezultati pokazuju da klasično treniranje modela nije univerzalno i da pristupi temeljeni na predlošcima trebaju biti ukomponirani u okolinama niske dostupnosti podataka ili u treniranju velikih modela.

Sažetak (engleski)

Personality makes an individual unique in the population and is manifested as a set of opposing personality traits. As it is essential for recognizing and predicting human behavior, emerging research focuses on building models and approaches for personality assessment from text. Following the latest deep-learning methods, this work examines the use of prompt- based learning in personality assessment on the PANDORA dataset. Using GPT2 and BERT models this work explores prompt-based techniques in a zero-shot, few-shot, and full data setting. An extensive comparison is made between continuous and hand-made prompts and classic model training with different amounts of available data. The results indicate that classic model training is not a universally good approach and that prompt-based approaches should be incorporated with less data and larger models.

• Ključne riječi: obrada prirodnog jezika; duboko učenje; pretrenirani jezični modeli; predikcija osobnosti
• Ključne riječi (engleski): natural language processing; deep learning; pretrained language models; personality assessment
• Jezik: engleski
• URN:NBN: urn:nbn:hr:168:929590
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2023-01-13 14:44:02