Klasifikacija napada i procjena sigurnosti velikih jezičnih modela

diplomski rad

• Naslov (engleski): Attack classification and security assessment of large language models
• Autor: Dorian Granoša
• Mentor: Josipa Pina Milišić (mentor)
• Član povjerenstva: Josipa Pina Milišić (predsjednik povjerenstva)
• Član povjerenstva: Mate Puljiz (član povjerenstva)
• Član povjerenstva: Domagoj Kovačević (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-09-18, Hrvatska

Sažetak

Veliki jezični modeli (LLMs), kao što su GPT-4, Llama i Claude, omogućili su stroje-
vima da razumiju i generiraju ljudski jezik s izuzetnom točnošću. Ovi su modeli imaju
razne primjenama, od korisničke službe i financija do zdravstvene skrbi, pokazujući nji-
hovu svestranost i potencijal. Međutim, korištenje velikih jezičnih modela donosi zna-
čajne izazove, posebno u pogledu stvaranja štetnog ili pristranog sadržaja. Ovaj diplom-
ski rad istražuje sigurnosne probleme LLM-ova, fokusirajući se na automatizirano napa-
danje i mehanizme detekcije. Automatizirano napadanje uključuje simulaciju napada
kako bi se identificirale ranjivosti, dok automatizirani detektori procjenjuju jesu li ti na-
padi uspješni. Analizira se kako korištenje različitih modela utječe na uspješnost de-
tekcije napada. Ovaj rad ima cilj poboljšati razumijevanje sigurnosti LLM-ova i pomoći
razvoju otpornijih AI sustava i doprinoseći sigurnoj implementaciji generativnih AI teh-
nologija.

Sažetak (engleski)

Large language models (LLMs), such as GPT-4, Llama, and Claude, have enabled ma-
chines to understand and generate human language with exceptional accuracy. These
models have diverse applications, from customer service and finance to healthcare, demon-
strating their versatility and potential. However, the use of large language models brings
with it significant challenges, particularly regarding the creation of harmful or biased
content. This thesis explores the security issues of LLMs, focusing on automated attack
and detection mechanisms. Automated attack involves simulating attacks to identify
vulnerabilities, while automated detectors assess whether these attacks are successful.
The analysis examines how the use of different models affects the effectiveness of attack
detection. This work aims to improve the understanding of LLM security and aid in the
development of more resilient AI systems, contributing to the safe implementation of
generative AI technologies.

• Ključne riječi: veliki jezični modeli (LLMs); umjetna inteligencija; transformatori; adversarijalni napadi; automatizirano red teaming; kibernetička sigurnost; duboko učenje; klasifikacija napada
• Ključne riječi (engleski): Large Language Models (LLMs); Artificial Intelligence; Transformers; Adversarial Attacks; Automated Red Teaming; Cybersecurity; Deep Learning; Attack Classification
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:027072
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 20:41:26