Representation learning from single and multiple view data

doctoral thesis

• Title (croatian): Učenje reprezentacije za podatke iz jednog i više pogleda
• Author: Maria Brbić
• Mentor: Ivica Kopriva (mentor)
• Committee member: Ivica Kopriva (predsjednik povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; (Department of Electronics, Microelectronics, Computer and Intelligent Systems); Zagreb
• Defense date and country: 2019, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing; Data Processing
• Universal decimal classification (UDC): 004 - Computer science and technology. Computing. Data processing

Abstract

In many machine learning applications datasets are collected from different sources and can be described with multiple representations or views. In this thesis, the methodology for the inference of microbial phenotypes from multi-view genomic and textual data is proposed. The proposed methodology consists of two main parts: (i) non-negative matrix factorization based framework for defining novel phenotypic concepts from multi-view textual data, and (ii) supervised machine learning framework for phenotype annotation where individual predictors from different textual and genomic representations are combined using the late integration approach. The proposed computational pipeline covers more than 3,000 microbial species across more than 400 phenotypic traits, and provides ~545,000 novel phenotypic annotations. Besides late integration of multiple views, this thesis introduces new multi-view subspace clustering algorithms that learn joint subspace representation matrix across all views, while at the same time promote sparsity and low-rankness of the representation. The rank and sparsity are measured using the nuclear and l1 norms, respectively. To estimate rank and sparsity more accurately, this thesis also introduces new low-rank sparse subspace clustering algorithms with l0 quasi-norm inspired regularizations of rank and sparsity. Proposed multi-view and single-view subspace clustering algorithms outperform state-of-the-art methods on datasets from various domains, including microbial textual and genomic datasets.

Abstract (croatian)

U mnogim primjenama strojnog učenja podaci su prikupljeni iz različitih izvora i mogu biti opisani s više reprezentacija ili pogleda. U ovoj tezi predložena je metodologija za predviđanje mikrobijalnih fenotipova iz više tekstnih i genomskih reprezentacija. Predložena metodologija se sastoji od dva glavna dijela: (i) pristup temeljen na nenegativnoj matričnoj faktorizaciji za definiranje novih fenotipskih koncepata iz više tekstnih pogleda, te (ii) pristup temeljen na algoritmima nadziranog strojnog učenja pri čemu se indvidualni prediktori tekstnih i genomskih reprezentacija kombiniraju koristeći pristup kasne integracije. Predloženi sustav pokriva više od 3,000 mikrobijalnih vrsta i više od 400 fenotipova, te nudi ~545,00 novih fenotipskih anotacija. Uz pristup kasne integracije za kombiniranje više pogleda, ova teza uvodi nove algoritme grupiranje u potprostorima za podatke iz više pogleda koji uče zajedničku matricu reprezentacije potprostora kroz više pogleda, dok u isto vrijeme zahtijevaju rijetkost i nizak rang reprezentacije. Nizak rang i rijetkost su mjereni koristeći nuklernu i l1 normu, respektivno. Kako bi se rang i rijetkost modelirali točnije, ova teza uvodi nove algoritme grupiranja podataka s regularizacijama ranga i rijetkosti koji su inspirirani l0 kvazi-normom. Uspješnost novih algoritama za grupiranje u potprostorima za podatke iz jednog i više pogleda je pokazana na podacima iz raznih domena, uključujući mikrobijalne tekstne i genomske podatke.

• Keywords: representation learning; subspace clustering; non-negative matrix factorization; multi-view data; sparsity; low-rankness; phenotypic trait; comparative genomics; late integration
• Keywords (croatian): učenje reprezentacije; grupiranje u potprostorima; nenegativna matrična faktorizacija; podaci iz više pogleda; fenotip; komparativna genomika; spektralno grupiranje; rijetkost; nizak rang; proksimalni operator; ADMM
• Language: english
• URN:NBN: urn:nbn:hr:168:639717
• Study programme: Title: Electrical Engineering and Computing; Study programme type: university; Study level: postgraduate; Academic / professional title: Doktor znanosti elektrotehnike i računarstva (Doktor znanosti elektrotehnike i računarstva)
• Type of resource: Text
• Extent: 141 str. ; 30 cm.
• File origin: Born digital
• Access conditions: Closed access
• Created on: 2019-06-03 09:00:01