Design of performance optimized transform and quantization computation blocks for video compression in heterogeneous high performance computing systems.

doctoral thesis

• Title (croatian): Projektiranje transformacijskih i kvantizacijskih računskih blokova za videokompresiju optimiranih za učinkovito izvođenje na heterogenim višeprocesorskim računalima visokih performanci.
• Author: Mate Čobrnić; MBZ: -333417
• Mentor: Mario Kovač (mentor)
• Committee member: Mario Kovač (član povjerenstva)
• Granter: University of Zagreb; Faculty of Electrical Engineering and Computing; (Department of Control and Computer Engineering); Zagreb
• Defense date and country: 2020, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing; Architecture of Computer Systems
• Universal decimal classification (UDC): 004 - Computer science and technology. Computing. Data processing

Abstract

When analysing Internet traffic today it can be found that digital video content prevails. Its domination will continue to grow in the upcoming years and reach 80% of all traffic by 2021. If converted to Internet video minutes per second, this equals about one million video minutes per second. Providing and supporting improved compression capability is therefore expected from video processing devices. This will relieve the pressure on storage systems and communication networks while creating preconditions for further development of video services. Transform and quantization is one of the most compute-intensive parts of modern hybrid video coding systems. Improving the compression capability of this computation block is achieved using complex algorithms at the expense of increasing implementation complexity. Design requirements for higher throughput, reduced communication latency and low power consumption cannot be accomplished using homogenous systems and heterogeneous multiprocessor high performance systems are imposed as a solution. This thesis presents an area efficient reusable architecture for the integer discrete cosine transform and quantization and also highly performance optimized kernel designed for execution on a GPU. In the case of hardware architecture, optimization is based on exploiting the symmetry and subset properties of the transform matrix. The proposed multiply-accumulate architecture is fully pipelined. It provides a two-way interface over which the processing system can control the data path of the transform process and receive the feedback information about utilization from the device. The proposed architecture is implemented on the FPGA platform, that achieves a throughput of 815 Msps and can support encoding of a 4K UHD@30 fps video sequence in real-time. Considering GPU implementation, the performance optimization strategy involved all three aspects of parallel design, exposing as much of the algorithm’s intrinsic parallelism as possible, with the exploitation of high throughput memory and efficient instruction usage. It combined efficient mapping of transform blocks to thread blocks and efficient vectorized access patterns to shared memory for all transform sizes. Two different GPUs were used to evaluate the proposed implementation. Speedup factors compared to CPU, cuBLAS and AVX2 implementations are up to 80, 19 and 4 times respectively.

Abstract (croatian)

Ako se analizira podatkovni promet na Internetu, vidljivo je da prevladava digitalni videosadržaj. Njegova dominacija bit će još izraženija u slijedećim godinama te se predviđa da će videosadržaj dosegnuti 80% ukupnog podatkovnog prometa do 2021. Ako se ovaj podatak pretvori u Internetske videominute po sekundi prometa, to onda iznosi oko jedan milijun videominuta po sekundi prometa. Od uređaja koji sudjeluju u proizvodnji i obradi videosadržaja očekuje se veća učinkovitost videokompresije. Ona će olakšati pritisak na sustave za pohranu videozapisa i komunikacijske mreže te istovremeno stvoriti preduvjete za daljnji razvoj videousluga. Transformacija i kvantizacija su jedan od računski najintenzivnijih blokova modernih hibridnih sustava za videokodiranje. Povećanje kompresijske učinkovitosti ovog računskog bloka postiže se korištenjem složenih algoritama, nauštrb povećanja složenosti njegove sklopovske ili programske izvedbe. Zahtjevi za većom propusnosti, manjim kašnjenjem i niskom potrošnjom energije ne mogu se ispuniti korištenjem homogenih računalnih sustava pa se heterogeni višeprocesorski računalni sustavi visokih performanci nude kao rješenje. U ovom doktorskom radu predstavljena je arhitektura za cjelobrojnu jednodimenzionalnu diskretnu kosinusnu transformaciju za videokompresiju te jezgrena funkcija za transformaciju i kvantizaciju, optimirana za učinkovito izvođenje na grafičkoj kartici. U slučaju sklopovske arhitekture, optimiranje se temelji na iskorištavanju svojstava transformacijske matrice. Predložena arhitektura tipa pomnoži i pribroji potpuno je protočna. Arhitektura sadrži dvosmjerno sučelje za sinkronizaciju putem kojeg sustav može upravljati podatkovnim stazama transformacijskog procesa i primiti povratnu informaciju o iskoristivosti računskog bloka. Predložena arhitektura izvedena je koristeći FPGA tehnologiju, a ostvarena propusnost iznosi 815 Msps, te se može koristiti za kodiranje videozapisa razlučivosti 4K UHD i brzine osvježavanja slike 30 fps u stvarnom vremenu. U slučaju izvedbe za grafičku karticu, strategija optimiranja uključivala je sva tri aspekta dizajna paralelnog sustava: najveću moguću paralelizaciju samog procesa, iskorištenje raspoloživih visokopropusnih memorija i efikasno korištenje programskih naredbi. Strategija je ostvarena kroz učinkovito mapiranje transformacijskih blokova na blokove dretvi i obrazac učinkovitog vektoriziranog pristupa dijeljenoj memoriji za sve veličine transformacije. Dvije različite grafičke kartice korištene su za evaluaciju predstavljene izvedbe. Faktori ubrzanja u usporedbi sa izvedbama za CPU, AVX2 i cuBLAS dosežu redom vrijednosti 80, 19 i 4.

• Keywords: Video Coding; High Efficiency Video Coding (HEVC); Integer Discrete Cosine Transform (DCT); Heterogeneous Computing; Hardware Acceleration
• Keywords (croatian): videokodiranje; norma za visokoučinkovito videokodiranje HEVC; cjelobrojna diskretna kosinusna transformacija; heterogeno računarstvo; sklopovski akcelerator
• Language: english
• URN:NBN: urn:nbn:hr:168:296764
• Promotion: 2020
• Study programme: Title: Computer Science; Study programme type: university; Study level: postgraduate; Academic / professional title: Doktor znanosti (Doktor znanosti)
• Catalog URL: https://lib.fer.hr:8443/cgi-bin/koha/catalogue/detail.pl?biblionumber=51854
• Type of resource: Text
• Extent: 107 str.
• File origin: Born digital
• Access conditions: Open access
• Created on: 2020-09-14 15:21:11