Title Adaptive compressive sensing in polynomial and shift-invariant spaces Title (croatian) Adaptivno sažimajuće očitavanje u polinomnim i na pomak invarijantnim prostorima Author Tin Vlašić Mentor Damir Seršić (mentor)Committee member Davor Petrinović (predsjednik povjerenstva)Committee member Nicoletta Saulig (član povjerenstva)Committee member Ivan Dokmanić (član povjerenstva)Granter University of Zagreb Defense date and country 2022-10-27, Croatia Scientific / art field, TECHNICAL SCIENCES Universal decimal classificationUDC ) 004 - Computer science and technology. Computing. Data processing Abstract This thesis concerns solving inverse problems, i.e., the problem of reconstructing an unknown signal, image, or shape from a set of measurements. The measurements are obtained from the unknown data by a forward process, which is typically known and non-invertible. Amongst the numerous tasks that fit under this framework, the thesis focuses particularly on compressive sensing (CS) and the inverse obstacle scattering problem. Compressive sensing is a sampling and reconstruction technique that relies on the assumption that the natural signals and images are sparse in some basis or dictionary to be able to go beyond the Nyquist limit. It is based on the idea that the informational content of the observed signal can be encoded in a reduced set of linear measurements, whose number is significantly smaller than the amount of measurements required in classical sampling, and can be successfully recovered by solving an optimization problem. The CS framework has shown effectiveness in many applications where the full set of measurements is not available due to the memory or time requirements (e.g., magnetic resonance imaging), and where high-resolution imaging technologies are impractical or very expensive to implement (e.g., imaging in the non-visible spectrum). Compressive sensing is a well-studied paradigm with numerous theoretical papers. However, the vast majority of the papers concern discrete-domain CS with only a few extending the ideas to the analog domain. This thesis deals with closing the gap between continuous-domain CS and its discretization. We propose using shift-invariant (SI) function spaces and Chebyshev polynomial vector spaces to address the analog nature of the continuous-domain CS measurement procedure and the observed signal. Specifically, we generalize the typical analog CS acquisition systems to a wide class of SI subspaces, which leads to a new reconstruction method and exact recasting of the inherently continuous-domain inverse problem into a finite-dimensional CS problem. The proposed framework yields reconstruction performance gains compared to the conventional CS framework and its acquisition procedure and signal modeling. Furthermore, we propose a continuous block-based Chebyshev signal model that joins the blocks in a spline-like fashion. The model equates values and the first few derivatives on the blocks' boundaries, leaving enough degrees of freedom to fit into the CS framework. Thus, the proposed model inherently avoids the blocking artifacts and mitigates the Runge phenomenon caused by the interpolation on equidistant nodes. The parametric signal model can be recovered directly from a reduced set of CS measurements and offers several benefits when utilized in various signal processing and analysis tasks. Deep learning models are currently impacting reconstruction methods in various imaging tasks and applications ranging from medical, radar, geophysical and scientific imaging. Recently, learning-based approaches achieved great success in leveraging large training datasets to: i) directly compute regularized reconstructions, and ii) train deep generative models that regularize inverse problems by constraining their solutions to remain on learned manifolds. In this perspective, we propose a multilevel strategy for subsampling of principal component projections for CS. Principal component analysis is used to extract additional structure beyond the sparsity in a training dataset, and the multilevel strategy makes the measurement matrix composed of the principal components perform well with the conventional l_1 decoder. In addition, the thesis tackles with the inverse obstacle scattering problem. The scattering object is an obstacle with provided boundary conditions and the objective is to determine the obstacle shape from observations of the scattered waves. We propose an implicit neural representation-based framework for inverse acoustic obstacle scattering. The obstacle shape is represented as a zero-level set of a fully connected neural network which offers several benefits - it easily handles complicated shapes and their perturbations, analytical computation of gradients and higher-order derivatives that are independent of grid resolutions, the optimization problem can be solved directly in the level-set framework, and the problem is more tractable with a few parameters to optimize. On top of that, we employ deep generative models of neural obstacle shape representations to effectively regularize solutions of the inverse scattering problem.
Abstract (croatian) Ova doktorska disertacija bavi se rješavanjem inverznih problema, tj. problemima rekonstrukcije nepoznatog signala, slike ili oblika iz skupa mjerenja. Mjerenja se dobivaju iz nepoznatih podataka direktnim postupkom, koji je tipično poznat i neinvertibilan. Među brojnim zadacima koji se uklapaju u rješavanje inverznih problema, disertacija se posebice fokusira na sažimajuće očitavanje (eng. compressive sensing, CS) i problem inverznog raspršenja. Sažimajuće očitavanje je tehnika uzorkovanja i rekonstrukcije koja se oslanja na pretpostavku da su prirodni signali rijetki u nekoj bazi ili rječniku kako bi mogla ići iznad Nyquistove granice. Temelji se na ideji da se informacijski sadržaj promatranog signala može kodirati u smanjenom skupu linearnih mjerenja, čiji je broj znatno manji od broja mjerenja potrebnih u klasičnom uzorkovanju, te se može uspješno rekonstruirati rješavanjem optimizacijskog problema. CS okvir je pokazao učinkovitost u mnogim primjenama gdje potpuni skup mjerenja nije dostupan zbog memorijskih ili vremenskih zahtjeva (npr. magnetska rezonancija) i gdje su tehnologije slikanja visoke rezolucije nepraktične ili vrlo skupe za implementaciju (npr. slikanje u nevidljivom spektru). Sažimajuće očitavanje je dobro istražena tehnika za koju postoje brojni teorijski radovi. Međutim, velika većina radova odnosi se na okvire sažimajućeg očitavanja u diskretnoj domeni, a samo neki proširuju ideju na analognu domenu. Ova disertacija bavi se uklanjanjem jaza između sažimajućeg očitavanja u kontinuiranoj domeni i njegove diskretizacije. Predlaže se korištenje kontinuiranih funkcijskih prostora koji uzimaju u obzir analognu prirodu stvarnih mjerenja postupkom sažimajućeg očitavanja i promatranih signala. Prostori funkcija koji se koriste za ispunjavanje ovog cilja su prostori invarijantni na pomak (eng. shift-invariant) i vektorski prostori Čebiševljevih polinoma. Specifično, generalizira se tipični analogni akvizicijski sustav za sažimajuće očitavanje na širu klasu potprostora invarijantnih na pomak što dovodi do nove rekonstrukcijske metode i egzaktnog preinačenja inherentno kontinuiranog inverznog problema u konačno dimenzionalan CS problem. Predloženi okvir dovodi do poboljšanja izvedbe rekonstrukcije u usporedbi s konvencionalnim CS okvirom i njegovom procedurom akvizicije i modeliranjem signala. Nadalje, predlaže se kontinuirani blokovski Čebiševljev model signala koji spaja blokove poput splajna. Model izjednačava vrijednosti i prvih nekoliko derivacija na granicama blokova, ostavljajući dovoljno stupnjeva slobode kako bi se uklopio u CS okvir. Stoga model inherentno zaobilazi blokovske artefakte i ublažava Rungeov fenomen uzorkovan interpolacijom na jednoliko udaljenim čvorovima. Takav parametarski oblik signala može se direktno rekonstruirati iz reduciranog skupa CS mjerenja i pruža nekoliko prednosti ako se naknadno koristi u raznim zadacima obradbe i analize signala. Modeli dubokog učenja trenutačno utječu na metode rekonstrukcije u različitim zadacima i primjenama fotografije, od geofizičke, medicinske, akustične i radarske fotografije. Nedavni radovi iz područja strojnog učenja pokazuju da duboki modeli temeljeni na podacima mogu iskoristiti velike skupove podataka za: i) izravno, na neiterativan način, izračunavanje regulariziranih rekonstrukcija, i ii) treniranje dubokih generativnih modela koji regulariziraju inverzne probleme ograničavajući njihova rješenja da ostanu na naučenim mnogostrukostima. U toj perspektivi, disertacija predlaže višerazinsku strategiju za poduzorkovanje projekcija glavnih komponenti podataka za sažimajuće očitavanje. Analiza glavnih komponenti koristi se za izvlačenje dodatne strukture uz rijetkost u skupu za treniranje, a višerazinska strategija omogućuje mjernoj matrici sačinjenoj od glavnih komponenti da radi dobro s konvencionalnim l_1 dekoderom. Dodatno, disertacija rješava problem inverznog raspršenja na preprekama. U inverznom problemu raspršenja na preprekama, cilj je rekonstruirati nepoznati oblik prepreke, čiji su granični uvjeti poznati, iz skupa mjerenja raspršenih valova. Disertacija predlaže korištenje implicitnih neuronskih reprezentacija za rješavanje inverznog akustičnog problema raspršenja na preprekama. Oblik prepreke reprezentiran je zero-level skupom potpuno povezane neuronske mreže koja onda nudi nekoliko prednosti – lako opisuje komplicirane oblike i njihove perturbacije, analitički izračun gradijenata i derivacija višeg reda koji je neovisan o rezoluciji rastera, problem optimizacije se može riješiti izravno u level-set okviru, i problem je lakši za pratiti sa samo nekoliko parametara za optimiranje. Povrh toga, predlaže se korištenje dubokih generativnih modela neuronskih reprezentacija oblika prepreka kako bi se učinkovito regulirala rješenja inverznog problema raspršenja.
Keywords
B-spline
Chebyshev polynomials
compressive sensing
compressive imaging
deep generative models
finite rate of innovation
generalized sampling theorem
adversarial generation of implicit shape representations
image sampling and reconstruction
implicit neural representation
inverse problem
machine learning
polynomial representation
random demodulator
shift-invariant spaces
single-pixel camera
sparsity
statistical compressive sensing
Keywords (croatian)
B-splajn
Čebiševljevi polinomi
duboki generativni modeli
generalizirani teorem uzorkovanja
implicitna neuronska reprezentacija
inverzni problem
jednopikselna kamera
konačna frekvencija inovacije
na pomak invarijantni prostori
polinomna reprezentacija
rijetkost
sažimajuća fotografija
sažimajuće očitavanje
slučajni demodulator
statističko sažimajuće očitavanje
strojno učenje
suparnička generacija implicitnih reprezentacija oblika
uzorkovanje i rekonstrukcija slike
Language english URN:NBN urn:nbn:hr:168:218870 Promotion 2022 Study programme Title: Computer Science Type of resource Text Extent xii, 187 str. : graf. prikazi ; 30 cm. + CD-ROM. File origin Born digital Access conditions Access restricted to students and staff of home institution Terms of use Created on 2022-12-14 10:26:51
