Extracting Meaningful EEG Features Using Constrained Tensor Decomposition

Abstract

Electroencephalography (EEG) is a powerful technique for the study of human brain and cognitive neuroscience. Nowadays, more and more EEG data are organized in high-dimension form, which is called tensor. Tensor decomposition is just the suitable tool to exploit the multiway data and extract EEG features that are linked to cognitive processes. Since the high-dimension EEG tensor often contains a large amount of data points, highly efficient tensor decomposition algorithm is desired. In addition, EEG tensor are sometimes nonnegative and the intrinsic features usually have some special properties, such as sparse. In order to extract meaningful feature components, it is necessary to incorporate constraint and regularization to tensor decomposition algorithm. In this dissertation, we study the CANDECOMP/PARAFAC (CP) tensor decomposition with both nonnegative constraint and sparse regularization, which is abbreviated as sparse NCP. An inexact block coordinate descent (BCD) framework is employed for the non-convex sparse NCP problem. Five optimization methods are employed to solve the sparse NCP, including multiplicative update (MU), alternating nonnegative least squares/quadratic programming (ANLS/ANQP), hierarchical altering least squares (HALS), alternating proximal gradient (APG) and alternating direction method of multipliers (ADMM), all of which are carefully tailored to the sparse regularization problem. In order to improve the stability, we also utilize proximal algorithm particularly for ANLS/ANQP and HALS. Applications on real-world EEG datasets are carried out. First, we use NCP to decompose a fifth-order event-related potential (ERP) tensor, which was collected by proprioceptive stimuli on human hands. Next, ongoing EEG tensors are analyzed using sparse NCP. The data were collected by naturalistic and continuous music stimulus. Finally, we analyze two modalities of ongoing EEG tensor and music signals simultaneously by N-way partial least square (N-PLS). In conclusion, our designed tensor decomposition methods with constraint and regularization are able to decompose high-order tensor data efficiently and extract meaningful EEG features linked to cognitive processes. Keywords: Tensor decomposition, nonnegative CANDECOMP/PARAFAC, sparse regularization, block coordinate descent, EEG data analysis

Elektroenkefalografia (EEG) on tehokas tapa tutkia ja mitata ihmisaivojen toimintaa ja edistää kognitiivista neurotiedettä. EEG-mittauksilla saatu data tallennetaan yhä yleisemmin moniuloitteisiin tietorakententeisiin eli tensoreihin. Hajottamalla tensori sen tekijöihin voidaan tutkia monikanavaista dataa ja irrottaa siitä ne EEGtekijät, jotka liittyvät kognitiivisiin prosesseihin. Koska EEG-tensoreissa on usein paljon data-alkioita monissa ulottuvuuksissa, oleellisten data-alkioiden irrottamiseen tarvitaan tehokas algoritmi tensorin tekijöiden hajottamiseen. Lisäksi EEGtensorit ovat joskus ei-negatiivisia ja erottamattomasti rakenteeltaan harvoja. Jotta tensorista voitaisiin irrottaa oleelliset piirteet, tensorin hajottamiseen soveltuvaan algoritmiin tulee liittää rajoitteita ja säännönmukaistamista. Tässä väitöskirjassa tutkitaan CANDECOMP/PARAFAC (CP) hajoittamismenetelmää, joka sisältää sekä ei-negatiivisen rajoituksen että harvan säännönmukaistamisen (sparse NCP). Epäkonveksin harvan säännönmukaistamisen ongelman ratkaisuun käytetään epäeksaktia koordinaattiakselien suuntaisen optimoinnin viitekehystä (block coordinate descent). Harvaan säännönmukaistamiseen käytetään viittä seuraavaa optimointimenetelmää: MU (multiplicative update), ANLS/ANQP (altering nonnegative least squares/quadratic programming), HALS (hierarchical altering least squares), APG (alternating proximal gradient) ja ADMM (alternating direction method of multipliers), joista jokainen on tarkoin suunniteltu harvan säännönmukaistamisen ongelmaan. Stabiliteetin parantamiseksi hyödynnetään ANLS/ANQP- ja HALS-menetelmissä myös nk. lähialgoritmia. Menetelmiä evaluoitiin todellisilla EEG-aineistoilla. Ensinnäkin NCP:tä käytettiin hajottamaan viidennen asteen herätevastetensori (event-related potential, ERP), joka oli koottu ihmiskäden asentoaistiärsykkeistä. Toisekseen harvaa NCP:tä käytettiin analysoimaan meneillään olevan EEG-mittauksen tuottamia tensoreita, jotka kuvasivat luonnollisia ja jatkuvia, musiikinkuuntelun aiheuttamia ärsykkeitä. Kolmanneksi analysoitiin kahden meneillään olevan EEG-mittauksen tuottamia tensoreita käyttämällä N-PLS-menetelmää. Suunniteltujen menetelmien avulla voidaan tehokkaasti hajottaa monimutkaista tensoridataa sen tekijöihin ja irrottaa kognitiivisiin prosesseihin liittyviä EEG-tekijöitä. Avainsanat: tensorin hajottaminen tekijöihin, ei-negativiinen CANDECOMP/ PARAFAC, harva säännönmukaistaminen, koordinaattiakselien suuntainen optimointi, EEG-data-analyysi