Klasifikacija te aproksimacija funkcije algoritmom slučajnih šuma

undergraduate thesis

• Title (english): Classification and Function Approximation using Random Forests
• Author: Dan Ambrošić
• Mentor: Marko Čupić (mentor)
• Committee member: Marko Čupić (predsjednik povjerenstva)
• Committee member: Darijan Marčetić (član povjerenstva)
• Committee member: Davor Kukolja (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2017-07-13, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Algoritam slučajnih šuma je jedna od metoda nadziranog učenja pogodna za rješavanje problema klasifikacije i aproksimacije funkcije. Prilikom učenja, gradi se mnogo stabala odluke na različitim podskupovima skupa za učenje. Predikcija ciljne varijable se računa kao mod razreda kod klasifikacije, odnosno srednja vrijednost kod regresije, od dobivenih predikcija pojedinačnih stabala. Korištenjem većeg broja stabala odluke kao prediktivnog modela značajno se smanjuje pojava prenaučenosti na podacima za učenje koja je česta kod jednog stabla odluke. Uklonjena je i potreba za unakrsnom provjerom ili posebnim skupom za testiranje jer se, prilikom izgradnje svakog stabla, interno računa procjena pogreške. Kao dio ovog rada, implementirana je i Java biblioteka za slučajne šume koja koristi CART algoritam za izgradnju jednog stabla odluke.

Abstract (english)

Random forests are a supervised learning method applicable to classification and function approximation tasks. During training, many decision trees are constructed on different subsets of the training set and prediction value is calculated as the mode of classes, or a mean value, predicted by individual trees in classification and regression tasks respectively. Usage of multiple trees as a prediction model mitigates overfitting to the training data which usually happens with just one decision tree. Random forests eliminate the need for cross-validation or a separate data set for testing, since an internal error estimate is calculated while constructing the trees. As a part of this thesis, Java library for using random forests was implemented based on the CART algorithm for the construction of a single tree.

• Keywords: strojno učenje; nadzirano učenje; regresija; stablo odluke; CART
• Keywords (english): machine learning; supervised learning; regression; decision tree; CART
• Language: croatian
• URN:NBN: urn:nbn:hr:168:521860
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2019-03-13 18:36:11