Optimizacija velikih jezičnih modela korištenjem LoRA tehnike za identifikaciju investicijskih prilika

undergraduate thesis

• Title (english): Optimization of large language models for identification of investment opportunities using LoRA technique
• Author: Fran Talan
• Mentor: Mario Brčić (mentor)
• Committee member: Mario Brčić (predsjednik povjerenstva)
• Committee member: Mihael Kovač (član povjerenstva)
• Committee member: Kristijan Poje (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2024-07-05, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Raspoznavanje investicijskih prilika u financijskim tržištima zahtijeva napredne metode analize i obrade velikih količina podataka. U ovom radu istražit će se primjena tehnike niskorangirane adaptacije (engl. Low-Rank Adaptation, LoRA) za fino podešavanje velikih jezičnih modela (engl. Large Language Models, LLM) s ciljem poboljšanja procesa prepoznavanja investicijskih prilika. Korištenjem LoRA tehnike, model će biti treniran na podacima dobivenim iz financijskih e-biltena i vijesti, kako bi se identificirali relevantni događaji koji utječu na tržište dionica. Ova metoda omogućava učinkovitije i brže prilagođavanje modela novim informacijama, poboljšavajući njihovu točnost i performanse u stvarnom vremenu.

Abstract (english)

Recognizing investment opportunities in financial markets requires advanced methods for analyzing and processing large amounts of data. This paper explores the application of Low-Rank Adaptation (LoRA) technique for fine-tuning large language models (LLMs) with the aim of improving the process of identifying investment opportunities. Using the LoRA technique, the model will be trained on data obtained from financial newsletters and news to identify relevant events that impact the stock market. This method enables more efficient and faster adaptation of the model to new information, enhancing their accuracy and performance in real-time scenarios.

• Keywords: veliki jezični modeli; LoRA/LoRA+; investicijske prilike; financijska tržišta; fino podešavanje; adaptacija niskog ranga; prepoznavanje obrazaca
• Keywords (english): large language models; LoRA/LoRA+; investment opportunities; financial markets; fine-tuning; low-rank adaptation; pattern recognition
• Language: croatian
• URN:NBN: urn:nbn:hr:168:664926
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2024-10-12 22:20:26