Sustav zaštite kibernetičke sigurnosti pomoću maskiranja velikog jezičnog modela

diplomski rad

• Naslov (engleski): Cybersecurity Protection System Using Large Language Model Masking
• Autor: Dominik Jurinčić
• Mentor: Marin Šilić (mentor)
• Član povjerenstva: Marin Šilić (predsjednik povjerenstva)
• Član povjerenstva: Goran Delač (član povjerenstva)
• Član povjerenstva: Klemo Vladimir (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-07-04, Hrvatska

Sažetak

Veliki jezični modeli zbog svojih sposobnosti razumijevanja i generiranja teksta postaju neizostavan alat u rješavanju mnogih zadataka. Činjenica da obrađuju upite napisane prirodnim jezikom čini ih ranjivima na razne vrste napada koji iskorištavaju varijabilnost te vrste ulaznih podataka. U sklopu ovog rada istraženi su veliki jezični modeli, sigurnosni aspekti njihovog korištenja, metode klasifikacije velikih jezičnih modela na temelju njihovih odgovora i maskiranje odgovora modela s ciljem onemogućavanje točne klasifikacije.

Sažetak (engleski)

Large language models are becoming an indispensable tool in solving many tasks because of their abilities of understanding and manipulating text. The fact that they process natural language prompts makes them vulnerable to many kinds of attacks which exploit the variability of this type of input data. This paper examines large language models, the security aspects of using them, methods of classifying large language models based on their responses and the masking of their responses with the aim of obstructing accurate classification.

• Ključne riječi: veliki jezični modeli; transformeri; mehanizam pažnje; klasifikacija; strojno učenje; kibernetička sigurnost
• Ključne riječi (engleski): large language models; transformers; attention mechanism; classification; machine learning; cybersecurity
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:740300
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 21:00:08