Analýza emocí při čtení mapy a řešení prostorových úloh

Webové stránky představující stejnojmennou diplomovou práci, která vznikla na Katedře geoinformatiky Univerzity Palackého v Olomouci v roce 2017.

Cíle

Cílem práce je využití zařízení EEG Emotiv EPOC propojeného s eye-trackerem SMI RED 250 při kartografickém experimentu. Výsledkem experimentu se v případě předkládané diplomové práce rozumí zejména metodika přípravy a realizace experimentu včetně použitého hardwaru a softwaru, přičemž není kladen důraz na samotné kvalitativní či kvantitativní hodnoty vycházející z experimentu. Dalšími cíly práce jsou zhodnocení věrohodnosti dat, jež jsou produkovány zařízením EEG Emotiv EPOC a následné navrhnutí možností analýzy těchto dat. Pro naplnění hlavního cílu práce byly rozpracovány dílčí, postupné cíle. V první řadě se jedná o nastudování problematiky diplomové práce z důvodu korektního užívání terminologie a všeobecného pochopení tématu týkajícího se EEG (elektroencefalografie), E-T (eye trackingu) a konceptu emocí. Součástí tohoto cílu byl i výběr softwaru vhodného pro naplnění cílů práce a výběr metody pro zobrazení výsledných dat. Druhým dílčím cílem se stala příprava a realizace eye-tracking a EEG experimentu s vybranými obrázky pocházejícími z IAPS (International Affective Picture System) databáze. Výstupem z tohoto experimentu byla verifikace zařízení EEG Emotiv EPOC a také ověření navrhované metodiky pro určování emocí z EEG. Závěrečným cílem práce se pak stala příprava a realizace kartografického eye tracking a EEG experimentu, při kterém testované subjekty plnily jednoduché prostorové úkoly. Výsledky práce umožní používání zařízení EEG Emotiv EPOC pro další potřeby katedry geoinformatiky. Práce navrhuje a ustanovuje základní metodiku získání a zpracování EEG dat při kombinovaných eye tracking experimentech.
zařízení EEG Emotiv EPOC+
Zařízení EEG Emotiv EPOC+

Metody

1. Kombinovaný eye-tracking a EEG experiment

Hlavním cílem práce bylo provedení kombinovaného eye-tracking a EEG experimentu. Experimentu se zúčastnilo 15 osob, kterým bylo promítnuto 60 stimulů z databáze IAPS a 20 stimulů obsahující mapy.

2. Preprocessing dat

Prvním krokem po naměření EEG dat bylo jejich předzpracování. To probíhalo v toolboxu EEGLAB a obsahovalo kroky jako odstranění artefaktů, analýza nezávislých komponent, odstranění kolísání nulové izolinie signálu a filtrace dat do vlnových pásem.

3. Extrakce charakteristických rysů

Smyslem extrakce charakteristických rysů bylo vypočítání hodnoty, která je charakteristická pro daný signál. Tím se v práci stala průměrná hodnota výkonového spektra signálu, jež byla získána za pomocí Fourierovy transformace.

4. Klasifikace dat

Poslední částí zpracování EEG dat pak byla klasifikace dat, s čímž bylo spojeno i trénování dat. Pro klasifikaci dat byly vybrány klasifikátory typu SVM (Support Vector Machine), které se mj. nacházejí v aplikaci softwaru Matlab, která nese název Classification Learner a která byla pro klasifikaci dat použita.

5. SAM dotazník

Druhou částí experimentu byl dotazník SAM (The Self-Assessment Manikin), při kterém účastníci experimentu sebehodnotili, jaké emoce cítili u jednotlivých stimulů, které jim byly promítány.

6. Sepsání manuálu

Závěrečnou částí práce bylo sepsání manuálu pro měření dat přístrojem Emotiv EPOC+ a jejich následnému zpracování za účelem získání emocí z EEG dat.

Výsledky

Výlsedky práce se dají rozdělit do dvou částí. První z nich je navržená metodika zpracování EEG dat. Ta je zakončena tvorbou klasifikačního modelu při trénování dat. Jako trénovací data sloužila data získaná při pozorování stimulů z databáze IAPS a jako data určená pro klasifikaci figurovala data ze stimulů na nichž byly mapy. Přesnost klasifikačního modelu vyjádřená v procentech určuje míru, s jakou je model schopný přesně klasifikovat data do klasifikačních tříd. Nejúspěšnější klasifikační model vytvořený v práci byl model klasifikátoru Lineární SVM a jeho přesnost dosahovala:
19,7 %.
Vzhledem k tak nízké úspěšnosti by klasifikace stimulů s mapami do klasifiakčních tříd byla zbytečná.
Druhým výsledkem práce se staly odpovědi na dotazník SAM. V něm účastníci sebehodnotily, jaké emoce pociťují při promítání stimulů. Odpovědi účastníků mohou být pro každý stimul vizualizovány grafem, ve kterém je zanesena i průměrná hodnota jejich odpovědí a referenční průměr.
odpovědi účastníků u stimulu č. 18
Graf s odpověďmi účastníků z dotazníku SAM u stimulu č. 18
Z grafu je možné zjistit, zda odpovědi účastníků reflektovali referenční průměr a zda tedy tato metodika je validní a použitelná i pro hodnocení jiných stimulů, než těch které pochází z databáze IAPS. Pro zhodnocení úspěšnosti dotazníku SAM bylo použito porovnání hodnot průměru odpovědí účastníků s hodnotou referenčního průměru formou vypočítání průměrné vzdálenosti těchto bodů v grafu u všech stimulů pocházejících z databáze IAPS. Průměrná hodnota této vzdálenosti je přibližně 1,28, což v rovině s maximální hodnotou 9 dělá přibližně 14,22 % délky této roviny. Může být tedy řečeno, že přesnost odpovědí účastníků experimentu se přibližně z
85,78 %
shodovala s referenčním průměrem poskytovaném vlastníkem a autorem dotazníku SAM. Díky dotazníku SAM, můžou být s velmi vysokou přesností klasifikovány i stimuly, které nepocházejí z databáze IAPS, což jsou v případě této práce stimuly obsahující mapy. Průměrné hodnoty odpovědí lze opět zanést do grafu spolu s vyznačenými šesti klasifikačními kategoriemi, které byly ustaveny v předchozích částech.
průměrné odpovědi účastníků u stimulů s mapami
Graf s průměrnými hodnotami odpovědí účastníků u stimulů s mapami
Nejlépe z dotazníku SAM vyšly stimuly č. 16, 39 a 64, které získaly největší ohodnoconé dimenzí valence a arousal. Nejhůře naopak z dotazníku vyšly stimuly č. 15, 32 a 56. Nejlépe hodnocené stimuly mají společné to, že se nejedná o mapy v pravém slova smyslu, ale jde o infografiky či designové obrázky u kterých chybí kompoziční prvky map.
nejlepší a nejhorší stimuly s mapami
Stimuly č.16, 39 a 64 (vlevo) a stimuly č. 15, 32 a 56.

Závěr

Motivací, proč zpracovat práci s tímto tématem, se stala přítomnost elektroencefalografu Emotiv EPOC+ na katedře geoinformatiky. Hlavním cílem práce bylo použití zařízení Emotiv EPOC+ společně s eye-trackerem SMI RED 250 při kombinovaném eye-tracking a EEG experimentu. Dílčími cíli, nezbytnými pro dosažení hlavního cíle, se staly nastudování problematiky v oblasti elektroencefalografie, emocí a zpracování signálu, navrhnutí metodiky získání a zpracování EEG dat za účelem klasifikace emocí, popis hodnot emocí a primárních dat vycházejících z přístroje Emotiv EPOC+ a provedení dvou experimentů. První experiment měl za cíl ověřit navrženou metodiku a za pomoci stimulů z databáze IAPS ověřit validitu dat vycházejících z přístroje Emotiv EPOC+. Druhý experiment měl za cíl zjistit působení lidských emocí při práci s kartografickým produktem či při řešení prostorových úloh. Navržená metodika zpracování EEG signálu za účelem získání emocí se skládá ze čtyř částí. První částí je samotné měření dat. Druhá část se zabývá předzpracováním dat. Tato část výhradně probíhala ve specializovaném toolboxu EEGLAB, který, jak již název napovídá, slouží pro analýzu a vizualizaci EEG dat. Předzpracování dat sestává z postupných kroků jako je odstranění artefaktů, analýza nezávislých komponent, odstranění kolísání nulové izolinie signálu a filtrace dat do vlnových pásem. Třetí částí navržené metodiky je extrakce charakteristických rysů signálů. Jejím smyslem je získání hodnoty, která je charakteristická pro daný signál. Tím se v práci stala průměrná hodnota výkonového spektra signálu, jež byla získána za pomocí Fourierovy transformace. Poslední částí metodiky pak byla klasifikace dat, s čímž je spojeno i trénování dat. Pro klasifikaci dat byly vybrány klasifikátory typu SVM (Support Vector Machine), které se mj. nacházejí v aplikaci softwaru Matlab, která nese název Classification Learner a která byla pro klasifikaci dat použita. Po sestavení metodiky proběhl kombinovaný eye-tracking a EEG experiment, jehož se zúčastnilo 15 osob. Experiment se skládal ze dvou částí. Při první části byly účastníkům promítány vizuální stimuly z databáze IAPS a stimuly, které obsahovaly mapy, přičemž bylo účastníkům snímáno EEG. Data z EEG poté byla zpracována navrženou metodikou. Výsledkem této části experimentu se stal klasifikační model, který má přesnost pouhých 19,7 %. Při druhé části experimentu účastníci sebehodnotili pomocí dotazníku SAM (The Self-Assessment Manikin), jak na ně stimuly působily. Přesnost odpovědí tohoto dotaníku dosáhla hodnoty 85,78 %. Z těchto hodnot je patrné, že vhodnějším způsobem pro hodnocení emocí se jeví dotazník SAM. Druhý experiment, při kterém mělo být měřeno EEG účastníků při řešení prostorových úloh se neuskutečnilo z důvodu nízké úspěšnosti klasifikačního modelu z prvního experimentu. Z prvního experimentu totiž měla pocházet trénovací data, která by při druhém experimentu nebyla získána. Kvůli nízké úspěšnosti klasifikace provedení druhého experimentu pozbylo smysl. Výsledky této práce poslouží zejména potřebám katedry geoinformatiky, neboť práce ustanovuje metodiku, jak měřit a zpracovat naměřená EEG data. Taková metodika do této doby na katedře nebyla. V budoucnu je možné na práci navázat a testovat odlišné přístupy v extrakci charakteristických rysů a zejména v možnostech klasifikace. Kromě studia emocí je také možné se zaměřit na studium kognitivní zátěže.

Summary

Main aim of this theses is to come with workflow describing how to analyze EEG data in a way that it is possible to gain information of emotions from them. In the thesis there is very thorough description of EEG headset Emotiv EPOC+ which was used for EEG data measurements. Also there is description of possibilities of preprocessing the data in EEGlab toolbox, than adjustments of data into their final form which is suitable for final step which is classification in Matlab software. Designed workflow was than applied on combined eye-tracking and EEG experiment. For the experiment there was used a set of pictures from IAPS database (International Affective Picture System). These pictures featured in the experiment as referential data because on data from these pictures was trained an ability to succesfully classify emotions from EEG data. Next to IAPS pictures, there was also pictures containig maps in the experiment. On the pictures with maps, the main goal was to find out if person who is looking at them is experiencing any emotion. Second part of the experiment was the SAM questionary (The Self-Assessment Manikin). In this questionary participants of the experiment self-evaluated how the pictures had effected them. Output of the thesis is detailed description of the workflow and comparision of both parts of the experiment and their results. Part of the thesis is also a manual with description of every steps during the EEG data analyze.

Kontakt

  • Vedoucí práce

    Mgr. Stanislav Popelka, Ph.D.
  • Pracoviště

    Katedra Geoinformatiky
  • Rok a místo vzniku

    Olomouc 2017