Implementacija i optimizacija arhitekturalnog obrasca "dohvatom pojačano generiranje"

diplomski rad

• Naslov (engleski): Implementation and optimization of "Retrieval-Augmented Generation" architectural pattern
• Autor: Franjo Mindek
• Mentor: Mario Brčić (mentor)
• Član povjerenstva: Mario Brčić (predsjednik povjerenstva)
• Član povjerenstva: Mirjana Domazet-Lošo (član povjerenstva)
• Član povjerenstva: Nikica Hlupić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-07-05, Hrvatska

Sažetak

Veliki jezični modeli (engl. Large Language models, LLM) dobili su značajnu pozornost u modernim aplikacijama, međutim, često su ograničeni statičkom prirodom podataka na kojima su trenirani, što dovodi do netočnosti i zastarjelih odgovora. Kao odgovor na ove izazove, arhitekturni obrazac dohvatom pojačano generiranje (engl. Retrieval-Augmented Generation, RAG) pojavljuje se kao obećavajuće rješenje. Ovaj diplomski rad ima za cilj istražiti implementaciju i optimizaciju RAG arhitekturnog obrasca. Diplomski rad je usmjeren na dva RAG temeljna koncepta: gutanje i dohvaćanje podataka, za koje su implementirane različite strategije. Svaka implementacija je provedena kroz okvir za testiranje, koji implementaciju ocjenjuje po definiranim metrikama.

Sažetak (engleski)

Large Language Models (LLMs) which have gained significant traction in modern applications are often constrained by the static nature of
their training data, leading to inaccuracies and outdated responses.
In response to these problems, the Retrieval-Augmented Generation (RAG) architectural pattern emerges as a promising solution.
This thesis aims to delve into the implementation and optimization of the RAG architectural pattern. This is done by focusing on two different RAG core concepts: data ingestion and retrieval, for which different strategies were implemented. Each of the implementations was run through the testing environment which scored it based on predefined metrics.

• Ključne riječi: RAG; LLM; semantičko pretraživanje; vektorske baze podataka; NLP
• Ključne riječi (engleski): RAG; LLM; semantic search; vector databases; NLP
• Jezik: engleski
• URN:NBN: urn:nbn:hr:168:706350
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-11-07 05:40:57