Sigurnosni izazovi velikih jezičnih modela

diplomski rad

• Naslov (engleski): Security challenges in large language models
• Autor: Marko Lihter
• Mentor: Marin Vuković (mentor)
• Član povjerenstva: Marin Vuković (predsjednik povjerenstva)
• Član povjerenstva: Miljenko Mikuc (član povjerenstva)
• Član povjerenstva: Dragan Jevtić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-07-10, Hrvatska

Sažetak

Diplomski rad se bavi sigurnosnim izazovima velikih jezičnih modela. Rad istražuje rizike poput netočnih informacija, pristranosti, manipulacije ulazima i izlazima te curenja podataka. Autor analizira slučajeve kao što su manipulacija podacima, napadi socijalnog inženjeringa, generiranje zlonamjernog softvera i širenje dezinformacija. Također se razmatraju protumjere za ublažavanje tih rizika, uključujući tehničke zahtjeve za sigurnost i certifikaciju. Cilj rada je pružiti sveobuhvatan pregled sigurnosnih problema i rješenja kako bi se osigurala sigurna i etična primjena LLM-ova u različitim područjima.

Sažetak (engleski)

Thesis deals with the security challenges of large language models (LLMs). The paper explores risks such as incorrect information, bias, manipulation of inputs and outputs, and data leakage. The author analyzes cases such as data manipulation, social engineering attacks, the generation of malicious software and the spread of disinformation. Countermeasures to mitigate these risks are also considered, including technical requirements for security and certification. The aim of the paper is to provide a comprehensive overview of security issues and solutions to ensure the safe and ethical application of LLMs in various fields.

• Ključne riječi: kibernetička sigurnost; umjetna inteligencija; veliki jezični modeli; halucinacije; ubrizgavanje upita; curenje podataka; socijalni inženjering; etika; sigurnost podataka; pristranost
• Ključne riječi (engleski): cybersecurity; artificial intelligence; AI; large language models; LLM; hallucinations; prompt injection; data leakage; social engineering; ethics; data security; bias
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:820244
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 21:19:23