Integracija modela velikih jezičnih modela za generiranje SQL upita u poslovnim aplikacijama

završni rad

• Naslov (engleski): Integration of Large Language Models for Generating SQL Queries in Business Applications
• Autor: Filip Kovač
• Mentor: Vladimir Čeperić (mentor)
• Član povjerenstva: Vladimir Čeperić (predsjednik povjerenstva)
• Član povjerenstva: Anja Delić (član povjerenstva)
• Član povjerenstva: Ivan Martinović (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2024-09-12, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: TEHNIČKE ZNANOSTI; Računarstvo

Sažetak

Veliki jezični modeli predstavljaju izniman korak u području dubokog učenja i polako postaju sve značajniji u svakodnevnom poslu. Među njima se posebno ističu GPT modeli razvijeni od OpenAI-a, koji su pokazali veliku fleksibilnost i efikasnosti pri razumijevanju zahtjeva korisnika opisanih u obliku pitanja i generiranju odgovora. Stoga smo u ovom radu istražili mogućnost integracije velikih jezičnih modela poput ChatGPT-a unutar poslovnih aplikacija, za automatsko generiranje SQL upita. U okviru rada je objašnjena arhitektura i funkcionalnost GPT modela, te je provedena evaluacija njegove sposobnosti pri generiranju SQL naredbi na temelju korisnikovih opisa. Dobivene rezultate tokom evaluacije smo objasnili i na temelju njih iznijeli zaključak o mogućnosti integracije modela u postojeće sustave. Uz rad je također javno dostupan i projekt koji je korišten za potrebe programske implementacije.

Sažetak (engleski)

Large language models represent an exceptional step in the field of deep learning and are becoming more crucial in everyday work. Among them, the GPT models developed by OpenAI stand out the most. They showed great flexibility and efficiency in understanding user requests, written in the form of questions, and in generating answers based on them. Therefore, in this paper we have investigated the possibility of integrating large language models, such as ChatGPT, within business applications for the automatic generation of SQL queries. The paper explains the architecture and functionality of the GPT model, and evaluates its ability to generate SQL commands based on user descriptions. We explained the results obtained during the evaluation and, based on them, made a conclusion about the possibility of integrating the model into existing systems. Additionally, a project used for the purpose of program implementation is also publicly available.

• Ključne riječi: Veliki jezični modeli; Transformer arhitektura; Slojevi pažnje; ChatGBT; Streamlit framework; SQL
• Ključne riječi (engleski): Large Language Models; Transformer arhitecture; Attention layers; ChatGBT; Streamlit framework; SQL
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:413792
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Datum i vrijeme pohrane: 2024-10-12 21:08:46