Implementacija jezičnog asistenta temeljenog na umjetnoj inteligenciji za brodarsku industriju

diplomski rad

• Naslov (engleski): Implementation of an artificial intelligence-based chatbot for the shipping industry
• Autor: Ivan Špoljar
• Mentor: Marina Bagić Babac (mentor)
• Član povjerenstva: Marina Bagić Babac (predsjednik povjerenstva)
• Član povjerenstva: Gordan Gledec (član povjerenstva)
• Član povjerenstva: Boris Vrdoljak (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-07-11, Hrvatska

Sažetak

Ovaj diplomski rad izrađen je kako bi se objasnili osnovni pojmovi i koncepti potrebni za razumijevanje kako radi jednostavan chatbot, da bi se demonstrirao njegov razvoj te da bi se usporedile performanse nekoliko odabranih velikih jezičnih modela (Large Language Models). Chatbot je razvijen slijedeći tehniku generiranja proširenog dohvaćanjem (Retrieval-Augmented Generation). Korišteni veliki jezični modeli su preuzeti sa Hugging Face-a. Modeli korišteni za računanje smještenja teksta (text embedding) su “nomic-embed-text-v1.5-Q5_K_M” i “snowflake-arctic-embed-m-long--Q5_K_M”. Modeli korišteni za generiranje teksta su “Meta-Llama-3-8B-Instruct-Q4_K_M” i “mistral-7b-openorca-oasst_top1_2023-08-25-v2.Q4_K_M”. Ova aplikacija sastoji se od stranice za unos novog znanja i stranice za pozivanje chatbot-a koja također sadrži kontejner za korištene izvore.

Sažetak (engleski)

This paper was made to explain the essential terms and concepts needed to understand how a simple chatbot works, to demonstrate its development, and to compare performance of few selected Large Language Models. The chatbot was developed following the technique of Retrieval-Augmented Generation. The Large Language Models used are downloaded from Hugging Face. The models used for calculating text embeddings are “nomic-embed-text-v1.5-Q5_K_M” and “snowflake-arctic-embed-m-long--Q5_K_M”. The models used for text generation are “Meta-Llama-3-8B-Instruct-Q4_K_M” and “mistral-7b-openorca-oasst_top1_2023-08-25-v2.Q4_K_M”. This application consists of a page for inserting new knowledge and a page for calling a chatbot which also contains a container for used sources.

• Ključne riječi: Chatbot; RAG; LLM; vektori; Semantic Kernel; Kernel Memory; LLamaSharp
• Ključne riječi (engleski): Chatbot; RAG; LLM; vectors; Semantic Kernel; Kernel Memory; LLamaSharp
• Jezik: engleski
• URN:NBN: urn:nbn:hr:168:861629
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 22:18:09