Implementacija statističkog hijerarhijskog algoritma za grupiranje podataka dobivenih iz tokova podataka

undergraduate thesis

• Title (english): Statistical Hierarchical Algorithm Implementation for Data Streams Clustering
• Author: Ivana Mance
• Mentor: Boris Vrdoljak (mentor)
• Committee member: Boris Vrdoljak (predsjednik povjerenstva)
• Committee member: Mirta Baranović (član povjerenstva)
• Committee member: Zdravko Galić (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; Zagreb
• Defense date and country: 2019-07-12, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing

Abstract

Živimo u eri podataka u kojoj je brza i efektivna obrada velike količine podataka nužna za inovativnost i razvoj. Nije više moguće ručno obrađivati gomile podataka koje kruže raznim računalnim sustavima, zbog čega se poseže za automatiziranom obradom i strojnim učenjem. Algoritmi grupiranja su nenadzirani oblik strojnog učenja gdje algoritam pokušava raspodijeliti podatke u grupe bez ikakvih oznaka. Algoritam statističkog hijerarhijskog grupiranja spada u obitelj hijerarhijskih aglomerativnih algoritama. Pripadnost podata grupi određuje računajući mahalanobisovu udaljenost koja uzima u obzir ovisnosti između dimenzija podataka. Manje grupe nazvane komponente grupiraju se u veće grupe nazvane klasteri. Implementacija algoritma izvedena je s Apache Sparkom, analitičkim strojem za distribuiranu obradu velikih skupova podataka. Spark za pohranu distribuiranih podataka koristi strukturu RDD, a obrada podataka svodi se na transformacije i akcije nad RDD-ima. U implementaciji algoritma, RDD čine serijalizirani Javini objekti koji predstavljaju komponente klastera. Algoritam je uspješniji na podacima s izraženijom ovisnošću među dimenzijama podataka.

Abstract (english)

We live in era of data, where fast and efficient big data processing is necessity for innovation and growth. Manual processing of data running through computer systems is simply not possible and for that reason, automation in processing and machine learning are relied on more heavily. Clustering algorithms are unsupervised form of machine learning were algorithm tries to group data in clusters without any labels. Statistical hierarchical algorithm belongs in agglomerative hierarchical algorithms. A metric used for determining affiliation of data to a certain cluster is mahalanobis distance, measure of distance that takes data covariance into the account. Smaller groups named components are agglomerated in bigger groups, called clusters. The algorithm was implemented using Apache Spark, analytical engine for distributed big data processing. Spark uses distributed data structure called RDD and most of data processing consists of preforming transformations and actions on RDDs. In the implementation, RDD consists of serialized Java objects representing cluster components. Algorithm preforms better on datasets that have pronounced correlation between dimensions of data.

• Keywords: strojno učenje; algoritam grupiranja; mahalanobisova udaljenost; Apache Spark; RDD; distribuirana obrada
• Keywords (english): machine learning; clustering; mahalanobis distance; Apache Spark; RDD; distributed processing
• Language: croatian
• URN:NBN: urn:nbn:hr:168:795003
• Study programme: Title: Computing; Study programme type: university; Study level: undergraduate; Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2020-01-07 19:59:06