Detektiranje velikih jezičnih modela na osnovu njihovih odgovora

završni rad

• Naslov (engleski): Detecting large language models based on their responses
• Autor: Andrija Dumančić
• Mentor: Mihaela Vranić (mentor)
• Član povjerenstva: Mihaela Vranić (predsjednik povjerenstva)
• Član povjerenstva: Damir Pintar (član povjerenstva)
• Član povjerenstva: Ana Šarčević (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-08-26, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Tehnologija velikih jezičnih modela napredovala je impresivnom brzinom,
omogućujući generiranje teksta ljudske kvalitete. Koristi se u prevođenju jezika,
prepoznavanju govora i komunikaciji putem chatbotova, povećavajući efikasnost i
kreativnost. Klasifikacija LLM-ova je važna zbog sigurnosti i transparentnosti, jer
ovi modeli mogu pružati maliciozne i zavaravajuće informacije koje je nužno
prepoznati i otkriti. Cilj ovog rada je razvoj klasifikatora koji može identificirati koji
je LLM, generirao određeni sadržaj. To se postiže uspostavljanjem sveobuhvatnog
skupa podataka, dizajnom upita i mjerenjem karakteristika odgovora, te izgradnjom i
evaluacijom sustava klasifikacije. Rad također nudi diskusiju o ograničenjima i
preporuke za buduća istraživanja.

Sažetak (engleski)

The technology of large language models (LLMs) has advanced at an
impressive pace, enabling the generation of human-quality text. It is used in language
translation, speech recognition, and communication via chatbots, thereby increasing
efficiency and creativity. The classification of LLMs is important for security and
transparency, as these models can provide malicious and misleading information that
needs to be identified and detected. The aim of this paper is to develop a classifier
capable of identifying which LLM generated a particular content. This is achieved by
establishing a comprehensive dataset, designing queries, measuring response
characteristics, and building and evaluating a classification system. The paper also
discusses limitations and provides recommendations for future research.

• Ključne riječi: veliki jezični modeli; klasifikacija; karakteristike odgovora; strojno učenje
• Ključne riječi (engleski): large language models; classification; response characteristics; machine learning
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:806141
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 20:29:14