Journal of the Korea Computer Graphics Society
The Korea Computer Graphics Society
Article

가상 아바타와의 전신 몸 소유감에서 시각-운동 및 시각-촉각 동기화에 관한 연구

오진택1https://orcid.org/0000-0001-7143-4808, 김지환1https://orcid.org/0000-0002-3357-1673, 김광욱1,*https://orcid.org/0000-0002-4184-2058
Jintaek Oh1https://orcid.org/0000-0001-7143-4808, Jihwan Kim1https://orcid.org/0000-0002-3357-1673, Kwanguk Kim1,*https://orcid.org/0000-0002-4184-2058
1한양대학교 컴퓨터·소프트웨어학과
1Dept. of Computer Science, Hanyang University
*corresponding author: Kwanguk Kim/Hanyang University(kenny@hanyang.ac.kr)

© Copyright 2022 Korea Computer Graphics Society. This is an Open-Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/4.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.

Received: Jun 09, 2022; Revised: Jun 29, 2022; Accepted: Jul 06, 2022

Published Online: Jul 25, 2022

요약

‘실제 신체가 아닌 대상이 내 신체처럼 느껴지는 환상’을 의미하는 몸 소유감 환상 (Body Ownership Illusion; BOI)은 고무 손 환상 (Rubber-Hand Illusion) 실험에서 사람이 고무 손을 자신의 손처럼 느낄 수 있다는 것을 보여준 뒤로 활발히 연구되어 왔으며, 가상 현실에서도 가상 신체에 대해 BOI가 형성될 수 있다는 것이 증명되었다. BOI의 형성을 위해 주로 사용된 Visuomotor(VM; 시각-운동), Visuotactile(VT; 시각-촉각) 자극이 어떤 영향을 미치는지 많은 연구가 되어왔으나 두 자극을 동시에 전신에 전달한 연구는 매우 제한적이었다. 본 연구에서는 가상 아바타와의 전신 몸 소유감에서 VM, VT 자극을 동시에 전달했을 때 각 자극이 BOI에 어떤 영향을 미치는지 연구하였고 추가적으로 임장감, 감정, 가상 멀미감으로 나타나는 사용자 경험을 연구하였다. 연구 결과 BOI 측정 결과는 VM 측면에서는 자극이 일치할 때 높게 나타났으나 VT의 경우는 유의미한 차이가 나타나지 않았다. 임장감의 경우 VT는 VM이 일치하는 경우에서만 영향을 주는 것을 확인하였으며, 감정의 경우 정서가 정도에서 VM과 VT 자극이 모두 영향을 주고, 가상 멀미감의 경우 통계적인 차이를 확인하지 못하였다. 이러한 연구 결과는 가상 아바타와의 전신 몸 소유감에서 전반적으로 VM의 일치도가 중요한 요인이지만, VM이 일치되는 경우 VT의 일치가 임장감과 같은 주관적 경험에 영향을 줌을 시사한다.

Abstract

Body ownership illusion (BOI), which means ‘the illusion that a non-bodily object feels like my body’, has been actively studied since the Rubber-hand Illusion showed that a person can feel a rubber hand like one’s own hand. It has been proven that BOI can be elicited for virtual bodies in virtual reality. Although many studies have been examined the effect of visuomotor (VM) and visuotactile (VT) stimuli, which are mainly used for the elicitation of BOI, there were very limited studies that delivered both stimuli to the whole body at the same time. In this paper, we investigated how each stimulus affects BOI when delivering VM and VT stimuli simultaneously to the virtual avatar, and examined user experience that appears as presence, emotion, and virtual motion sickness. The results showed that BOI was high when VM is synchronous, but there was no significant difference according to VT levels. In the case of presence, it was confirmed that VT affects only when VM is synchronous, and in the case of emotion, both VM and VT affect valence, and in the case of virtual motion sickness, a statistical difference is not found. These results suggest that overall synchrony of VM is important factor in BOI with virtual avatars, but that the matching VT affects subjective experience such as presence when VM is synchronous.

Keywords: 몸 소유감 환상; 임장감; 가상 현실; 시각-운동; 시각-촉각
Keywords: Body Ownership Illusion; Presence; Virtual Reality; Visuomotor; Visuotactile

1. 서론

실제 내 몸이 아닌 대상에 대해서 내 몸처럼 느끼고 반응할 수 있다는 건 흥미로운 내용임과 동시에, 널리 알려진 실험인 ‘고무 손 환상’ (Rubber-Hand Illusion; RHI) [1]에서 고무 손을 실제 자신의 손처럼 느낄 수 있다는 것을 보여준 뒤로 몸 소유감 환상 (Body Ownership Illusion; BOI)이라는 주제로 활발히 연구되어 왔다. RHI는 현실에서 고무 손을 실제 손처럼 여기는 환상이지만 가상 현실에서도 가상 신체에 대해서 BOI가 형성될 수 있다는 것이 여러 연구들에서 확인되었다 [2,3,4]. 가상 현실은 머리부착형 시각자극제시장치 (Head-Mounted Display; HMD)를 통해 사용자가 자신의 실제 신체를 볼 수 없는 환경을 쉽게 만들 수 있고 가상 신체의 생성과 부여도 간단하다는 특성이 있어 어떤 요소나 자극이 BOI에 영향을 미치는지 알아보기 위해 많은 연구들에서 사용되어왔다. 또한 가상 현실에서 사용자들에게 가상 신체를 부여하는 것은 가상 현실에서의 자기 표현 [5], 인지 부하의 감소 [6], 실제와 비슷한 느낌의 상호 작용의 구현 [7,8] 등을 위해 제공될 수 있기에 의학, 스포츠, 게임 등 다양한 분야에서 활용될 수 있다. 가상 현실에서의 BOI 연구는 손이나 다리 등의 단일 장기만을 대상으로 BOI를 형성하는 것을 넘어 전신에 대해서까지 확장되어 연구되고 있다 [4,9,10,11].

이전 연구들에서는 BOI에 영향을 미치는 요소로 Visuomotor(VM; 시각-운동)와 Visuotactile(VT; 시각-촉각)의 두 가지가 주로 사용되어 왔다. VM 자극의 동기화는 전신 BOI의 형성과 강력한 연관이 있는 것으로 알려져 왔다. Jun et al. [12]은 모션 캡쳐 시스템을 통해서 실제 전신의 움직임을 가상 신체에 전달하여 실험하였고 피험자들은 가상 신체의 움직임이 실제와 같을 때 높은 BOI를 보고했다. Kondo et al. [13]은 3인칭 시점을 사용하고 가상 신체의 손과 발을 제외한 나머지 부분들을 보이지 않도록 만든 상태에서 실험을 진행했을 때에도 VM의 동기화에 따른 BOI의 차이가 나타나 VM이 BOI의 형성에 강력한 영향을 미친다는 것을 보여주었다. VT의 동기화 역시 전신 BOI의 형성에 영향을 미친다. Petkova와 Ehrsson [4]이 진행한 실험에서는 피험자들에게 HMD를 통해 1인칭 시점에서 마네킹을 내려다보게 하고 마네킹의 얼굴에 부착된 2대의 카메라를 통해 마네킹이 실제 몸이 있는 곳에 위치한 것처럼 느껴지도록 했다. 그 후 실제 신체와 마네킹의 배 부분을 막대로 건드려 VT 자극을 주었고 이 때 피험자들은 눈으로 보이는 이미지와 실제 배에 전달되는 자극이 일치되었을 때 그렇지 않았을 때보다 높은 BOI를 보고했다.

여러 자극이 동시에 전달되는 다감각 가상 현실에서는 BOI의 형성에는 특정한 자극이 지배적인 영향을 미치는 것이 아니라 여러 자극들이 복합적으로 결합되어 영향을 미친다 [14]. 이러한 다감각 환경에서 BOI를 연구한 많은 연구가 존재하지만 [15,16,17,18] VM과 VT 자극을 동시에 전달한 연구는 매우 제한적으로 존재하고 각 자극이 BOI에 미치는 영향이 다양하게 나타난다. Kokkinara와 Slater [10]는 피험자가 HMD를 쓰고 다리를 쭉 편 채로 의자에 앉아있는 상태에서 다리에 VM과 VT 자극을 동시에 전달하여 VM과 VT 자극이 BOI에 미치는 영향을 비교했다. VM이 일치할 때는 실제 다리가 움직이는 대로 가상 신체도 움직였고 일치하지 않을 때는 가상 신체가 사전 녹화된 애니메이션을 따라 움직였다. VT가 일치할 때는 가상 신체에 공이 닿았을 때 실제 신체에도 같은 부위에 공이 닿았고 일치되지 않은 경우에는 가상 신체와 실제 신체에 서로 다른 시간에 촉각 자극이 전달되었다. 결과는 VM과 VT 둘 다 BOI에 영향을 미치는 것으로 나타났지만 VM이 미치는 영향이 VT보다 더 큰 것으로 나타났다. Maselli와 Slater [9]는 피험자가 가상 현실에서 1인칭 시점으로 앉아 있는 상태에서 VM 자극은 HMD를 통해서 머리의 움직임만 전달했고, VT 자극은 가상 신체에 공이 닿았을 때 햅틱 조끼를 통해 상반신에 전달했다. 이 실험에서는 VM과 VT의 동기화에 따른 BOI의 차이가 나타나지 않았다. Maselli와 Slater는 실험 결과를 통해 1인칭 시점, 가상 신체의 인간적인 외형, 고유수용성 감각의 일치를 통해 충분한BOI를 형성할 수 있고 일정 수준 이상의 BOI가 형성되었을 때 VM과 VT의 동기화는 BOI에 영향을 미치지 않는다는 BOI 모델을 제시했다. 하지만 VM 자극으로 머리의 움직임만 전달했다는 한계가 있어서 VM의 동기화가 BOI의 형성에 더 강력한 효과를 가질 수 있을 것으로 추측되기에 추가적인 연구가 필요함을 언급했다. 또한 VM, VT 자극을 동시에 전신에 전달한 전신 BOI에 관한 연구가 없었기에 이러한 두 가지 방법의 자극이 가상 아바타와의 전신 BOI에 어떠한 영향을 미치는 지 본 연구를 통해 확인하고자 한다.

전신에 자극을 전달하는 것은 실제 현실과 가까운 감각을 느낄 수 있도록 하고 관련 산업의 발전으로 일반인들도 HMD나 컨트롤러를 이용해 손과 머리의 움직임을 일치시키는 것뿐만 아니라 트래커와 같은 장비를 이용해 전신의 움직임을 가상 현실에 전달할 수 있고, 또한 햅틱 조끼 등을 이용해 촉각 자극을 전달받을 수도 있기에 실제 전신에 자극을 전달했을 때의 VM, VT 자극이 BOI에 미치는 영향을 연구할 필요가 있다. 이를 위해서 본 논문에서는 VM과 VT가 일치하는 조건과 일치하지 않는 조건이 결합된 4가지의 환경에서 실험을 진행했다. 다감각 환경에서는 시점, 가상 신체의 외형, 가상 신체의 위치 등 다양한 요소들이 BOI에 영향을 미치기에 모든 피험자에게 성별이 동일한 가상 신체에 항상 1인칭의 시점을 부여하였다. 전신 VM, VT 자극의 전달을 위해서는 모션 캡쳐 센서와 전극이 내장된 전신 햅틱 수트를 사용하였다. 피험자들은 가상 신체의 움직임을 통해 VM 자극을 전달받았고 동시에 양 팔, 양 다리, 등, 배에 전기 자극을 통해 전신에 VT 자극을 전달받았다. 또한 HMD를 통해 자신의 가상 신체를 내려다보거나 가상 신체의 앞에 위치한 거울을 통해 전신을 볼 수 있도록 하였다.

BOI에 더해서 추가적으로 VM과 VT 자극에 의해 영향을 받는 임장감, 감정, 가상 멀미 등의 주관적인 경험에 대한 설문을 비교하였다. ‘가상 현실에 있다고 느끼는 주관적인 현상’ [19]을 의미하는 임장감은 가상 현실 경험에서 중요한 요소이고 가상 신체의 구현, VM과 VT 자극의 전달 등이 임장감의 증가에 영향을 미친다. 전신 가상 신체가 존재할 때 VM 자극이 일치되면 피험자들은 더 높은 임장감을 보였고 [12,20] VT 자극의 동기화는 영향을 미친다는 결과와 [21,22] 미치지 않는다는 결과가 [23] 다양하게 존재하여 추후 연구가 더 필요할 것으로 보인다. 감정은 Self-Assessment Manikin (SAM) [24]를 통해 각성 정도 (Arousal)와 정서가 정도 (Valence)를 측정했는데 기존의 연구들은 정서가 정도 항목에서 VM의 동기화에 따른 차이가 나타났다 [12,20]. 마지막으로 가상 멀미는 Simulator Sickness Questionnaire (SSQ) [25]를 통해 측정했다. 가상 멀미는 다양한 요소에 의해 영향을 받지만 일반적으로 움직임이 일치하지 않으면 전정 감각에 혼돈을 불러일으켜 높은 멀미 정도를 보이는 것으로 알려져 있다 [26].

본 연구의 가설은 다음과 같다. (1) 다감각 환경에서 전신 BOI는 VT보다 VM의 일치도에 의해 더 영향을 받을 것이다. (2) 임장감, 감정, 가상 멀미감은 VM, VT 두 자극의 일치도에 따라 다른 반응을 보일 것이다.

2. 실험 방법

2.1 피험자

우리는 실험을 위해 총 25명의 피험자 (평균: 24.23세, 표준 편차: 2.71; 여성: 2명)를 모집하였다. 본 연구는 촉각 자극을 정확한 위치에 제시하기 위해 피험자의 체격을 제한하였고 (키: 170~185cm; 몸무게: 60~75kg), 그 결과 연습시행에서 모든 피험자가 의도된 위치에서 촉각자극을 느꼈다. 피험자는 실험 장소에 도착한 후에 실험에 대한 간략한 설명을 들은 뒤 개인정보 설문지와 실험 참가 동의서를 작성하였고 실험을 마친 후 보상으로 시간당 20000원을 지급받았다. 25명 중 3명의 데이터는 실험 중 하드웨어 통신 문제가 사후에 확인되어 분석에서 제외되었다.

2.2 실험기기

우리는 전신에 VM과 VT 자극의 전달을 위해 Teslasuit (VR Electronics Ltd, England and Wales)라는 햅틱 수트를 사용하였다. 본 실험에서 사용된 햅틱 수트는 80개의 전극 채널(앞 36개, 뒤 44개), 10개의 내장형 모션 캡쳐 센서(앞 6개, 뒤 4개)가 내장된 전신 수트이다 (그림 1b, 1c). Wi-Fi를 사용하여 PC와 연결해 무선으로 활동할 수 있고 각 전극 채널마다 1~260ms 범위의 펄스 폭, 1~300Hz 범위의 주파수를 가지는 전기 자극을 전달할 수 있다. 전기자극이 잘 전달되기 위해서 전극이 몸에 잘 붙어있어야 하기 때문에 피험자들은 속옷만 입은 채 햅틱 수트를 착용하였다 (그림 1). 실험에 사용된 가상 현실은 Unity 2019.4.31f1(Unity Technology, USA)을 사용하여 개발되었고 피험자들은 HMD(Oculus Quest 2; Oculus VR, USA)를 착용한 채로 실험을 진행하였다. HMD는 피험자의 움직임에 방해가 되지 않도록 길이 5m의 케이블을 사용하여 PC에 연결했다. 실험에서 사용된 가상 신체의 인간적인 외형은 일정수준 이상의 BOI와 임장감의 형성에 중요한 요소이므로 선행 연구의 방법론에 따라 [12] 피험자가 방문할 때마다 키, 어깨너비, 허리너비, 골반너비를 측정하여 가상 신체의 크기를 피험자마다 조정해주었고 성별 역시 방문한 피험자와 동일한 성별의 가상 신체를 사용하였다.

jkcgs-28-3-1-g1
Figure 1. (a) Participant wearing HMD and Teslasuit (b) Location of electrodes (c) Location of motion capture sensors.
Download Original Figure
2.3 실험설계

다감각 가상 현실은 VM-Synchronous (VM-S), VM-Asynchronous (VM-A), VT-Synchronous (VT-S), VT-Asynchronous (VT-A)가 가능한 모든 조합으로 결합된 VM-A/VT-A, VM-A/VT-S, VM-S/VT-A, VM-S/VT-S의 총 4가지 조건으로 구성된다. 피험자에게 한 자극만 전달하는 것이 아니라 두 개의 자극이 복합적으로 결합된 환경이 사용자에게 미치는 영향을 분석하기 위해 4개의 조건을 비교하였으며 Within-Subject Experiment를 사용하여 모든 피험자들은 4개의 조건을 모두 경험했다.

VM 자극의 전달을 위해 1인칭 시점에서 내려다보았을 때 전신이 보이도록 하였으며 (그림 2a) 가상 현실 내에 피험자들이 위치하는 곳 전방에 거울을 두어 내려다보지 않아도 가상 신체의 전신이 움직이는 모습을 볼 수 있도록 하였다 (그림 2b). 피험자들은 실험 동안 자유롭게 움직일 수 있었고 VM-S가 포함된 조건에서 피험자들에게 부여된 가상 신체는 피험자가 움직이는 대로 움직였으며 VM-A가 포함된 조건에서 가상 신체는 사전 녹화된 애니메이션을 따라 움직였다.

jkcgs-28-3-1-g2
Figure 2. Virtual reality and virtual body used in the experiment. (a) Participants saw their whole virtual body through a mirror (b) Participants saw their virtual body by looking down (c) VT stimuli were delivered when a black sphere hits a virtual body.
Download Original Figure

VT 자극의 전달은 일정 주기(10초)마다 가상 현실 내의 거울 옆에 존재하는 두 개의 사출구에서 검은 색의 구체가 날아와 (그림 2c) 피험자에게 부딪히고 충돌 후 1초 길이의 전기자극이 전달되도록 했다. VT-S가 포함되는 조건에서는 구체가 피험자에게 닿는 즉시 전기자극이 전달되도록 하였으며 VT-A가 포함되는 조건에서는 충돌 후 0.5초~1초 사이의 지연 후에 전기자극이 전달되는 무작위 지연 방식을 사용하였다. 전기자극이 전달되는 부위는 양팔 상완, 양팔 전완, 등, 배, 양 허벅지, 양 종아리의 10군데이고 가상 신체가 움직여도 구체가 따라가 전기 자극이 해당 부위에 위치한 전극에 전달되도록 하였다.

2.4 실험과정

피험자들은 실험에 대한 설명을 듣고 실험 동의서를 작성한 후 전기자극을 적절한 세기로 전달하기 위해 햅틱 수트를 입고 조정 단계(Calibration)를 진행하였다. 전기 자극이 신체에 직접 전달되는 실험에서는 사람마다 가진 고유한 저항이 다르고 전기 자극을 느끼는 정도가 다르기 때문에 사전에 피험자마다 조정 단계를 거쳐야 한다 [27,28]. 본 실험에서도 피험자들이 실험 도중에 전기 자극으로 인한 불편함이나 전기 자극을 느끼지 못하는 경우가 없도록 조정 단계를 진행했다. 전기자극의 최솟값은 설정할 수 있는 가장 낮은 값에서부터 조금씩 올려가면서 자극이 조금이라도 느껴지는 지점으로 설정했다. 최솟값을 설정한 뒤 다시 자극의 강도를 조금씩 올려가면서 피험자가 자극이 불편하게 느끼지 않는 최대지점을 최댓값으로 설정해주었다. 사용된 수트는 80개의 전극채널 각각에 대해 자극의 세기를 조절할 수 있지만 근육을 조작하는 것이 목적이 아니고 또한 너무 오랜 시간이 걸리기 때문에 전극들을 자극이 전달되는 10개 부분으로 묶어 진행하였다.

조정 단계를 진행한 후 피험자들의 키, 어깨너비, 허리너비, 골반너비를 가상 신체에 적용해주고 가상 신체에 대해 BOI가 형성되는지 여부와 전기자극이 잘 전달되는지를 확인하기 위해 연습 단계를 약 5분간 진행하였다. 연습 단계에서 특이점이 발생하지 않은 경우 잠시 휴식한 뒤 본 실험이 시작되었으며 한 조건당 5분간 진행되었다. 본 실험동안 피험자들은 자유롭게 움직였고 촉각 자극은 10초간의 주기로 한 조건당 30번 전달되었으며 각 부위당 무작위 순서로 3번씩 자극을 받았다. 각 조건이 끝난 뒤 피험자들은 설문지를 작성하고 가상 멀미의 영향을 최소화하기 위해 잠시 휴식시간을 가졌다. 피험자들에게 4개 조건의 순서는 역균형화되어 제공되었고 총 실험은 약 90분간 진행되었고 총 과정을 그림 3에 간략하게 나타냈다.

jkcgs-28-3-1-g3
Figure 3. Experimental procedure. ‘VM-S’ = Visuomotor-Synchronous, ‘VM-A’ = Visuomotor-Asynchronous, ‘VT-S’ = Visuotactile-Synchronous, ‘VT-A’ = Visuotactile-Asynchronous.
Download Original Figure
2.5 종속 변인

VM과 VT가 결합된 가상 현실에서 가상 신체를 부여했을 때 미치는 영향 전반을 알아보기 위해 BOI, Presence Questionnaire (PQ), SAM, SSQ 4가지의 설문지를 활용하였다. BOI 설문지는 ownership (2문항), self-location, agency와 관련된 4문항으로 이루어져 있으며 [10,29]에서 사용된 설문지의 문항을 사용하였다. 각 항목은 -3 (매우 아니다)부터 +3 (매우 그렇다)까지의 7점 Likert 척도로 기록되었다. BOI 설문지의 모든 문항은 표 1에 기재하였다. PQ는 -3 (매우 그렇지 않다)에서 +3 (아주 그렇다)까지의 7점 Likert 척도의 21문항으로 이루어져 있는데 [30] 그 중 실험에서 사용하지 않는 요소인 청각과 관련된 5, 10, 11번 문항은 분석에서 제외하였다. 추가적으로 피험자의 감정을 측정하기 위해 SAM [24]에서 9점 Likert 척도의 각성 정도와 정서가 정도에 대한 문항을 사용하였고, 가상 현실에서의 멀미 정도를 측정하기 위해 0 (전혀 그렇지 않다)에서 +3 (심하다)까지의 4점Likert 척도의 16개 문항이 있는 SSQ [25]를 수집하였다.

Table 1: BOI questionnaire items.
Question Statement
Ownership1 I felt that the virtual body I saw when looking down at myself was my own body.
Ownership2 I felt that the virtual body I saw when looking at myself in the mirror was my own body.
Self-location Overall, I felt as if my body was located where I saw the virtual body to be.
Agency The movements of the virtual body were caused by my own movements.
Download Excel Table

3. 결과

설문지 결과를 분석하기 위해서 Shapiro-Wilk 검정을 사용하여 정규성 검정을 거친 뒤 정규성을 만족하는 경우 반복측정 분산분석(Repeated Measures ANOVA)을 사용하였고 만족하지 못하면 비모수적 분석방법(Friedman’s test)을 사용하였다. 추가로 Mauchly’s test를 통해 구형성이 검증되지 않았을 경우, Greenhouse-Geisser의 수정된 값을 보고하였다. 통계적인 유의 수준은 .05로 설정되었으며, Post-hoc이 필요한 경우 Bonferroni-corrected된 유의수준인 .008 (.05/6)을 사용하여 4개의 조건 사이에 대해 사후 분석을 진행하였다.

3.1 Body Ownership Illusion

BOI 설문지에 대해 반복측정 분산분석을 사용하였고 ownership 항목은 두 질문의 평균값을 사용하였다. 결과는 설문지 내의 모든 문항에서 조건들 사이에서 주효과가 있는 것으로 나타났다 (Ownership: F (1.727, 36.259) = 27.902, p < .001, η2 = .571; Self-location: F (1.951, 40.972) = 19.752, p < .001, η2 = .485; Agency: F (1.549, 32.534) = 103.493, p < .001, η2 = .831;). 각 항목에서의 사후분석을 진행한 결과는 Ownership에서는 VM-A/VT-A와 VM-S/VT-A (t (21) = -6.239, p < .001), VM-A/VT-A와 VM-S/VT-S (t (21) = -5.923, p < .001), VM-A/VT-S와 VM-S/VT-A (t (21) = -5.579, p < .001), VM-A/VT-S와 VM-S/VT-S (t (21) = -5.039, p < .001) 사이에서 유의미한 차이가 나타났다. Self-location에서는 VM-A/VT-A와 VM-S/VT-A (t (21) = -4.577, p < .001), VM-A/VT-A와 VM-S/VT-S (t (21) = -4.267, p < .001), VM-A/VT-S와 VM-S/VT-A (t (21) = -5.808, p < .001), VM-A/VT-S와 VM-S/VT-S (t (21) = -6.345, p < .001) 사이에서 유의미한 차이가 나타났다. 마지막으로 Agency 문항에서 VM-A/VT-A와 VM-S/VT-A (t (21) = -10.789, p < .001), VM-A/ VT-A와 VM-S/VT-S (t (21) = -9.547, p < .001), VM-A/VT-S와 VM-S/VT-A (t (21) = -12.033, p < .001), VM-A/VT-S와 VM-S/VT-S (t (21) = -11.238, p < .001) 사이에서 유의미한 차이가 나타났다. 모든 문항에서 VM-S가 포함되는 조건이 VM-A가 포함되는 조건과 비교해 유의미하게 높은 값을 보이는 것으로 나타났고 그 외의 조건들 사이에서 유의미한 차이는 발견되지 않아 BOI의 형성에 VT의 동기화는 큰 영향을 미치지 못하는 것을 확인하였다. BOI 결과는 상자 도표로 각 항목을 그림 4a, 그림 4b, 그림 4c에 정리했다.

jkcgs-28-3-1-g4
Figure 4. Results of BOI (Boxplot). ‘Sync’ = Synchronous; ‘Async’ = Asynchronous; * p < (.05/6); ** p < (.01/6); *** p < (.001/6);
Download Original Figure
3.2 Presence

PQ 결과는 조건들 사이에서 주효과가 있는 것으로 나타났다 (F (1.764, 37.034) = 52.451, p < 0.001, η2 = .714). Bonferroni-corrected를 적용한 사후 분석 결과 VM-A/VT-A와 VM-S/VT-A (t (21) = -8.387, p < .001), VM-A/VT-A와 VM-S/VT-S (t (21) = -8.399, p < .001), VM-A/VT-S와 VM-S/VT-A (t (21) = -7.115, p < .001), VM-A/VT-S와 VM-S/VT-S (t (21) = -6.988, p < .001), 그리고 VM-S/VT-A와 VM-S/VT-S (t (21) = -3.255, p = .004) 사이에서 유의미한 차이가 나타났다. VM-S가 포함된 조건과 VM-A 가 포함된 조건 사이에서 반드시 통계적으로 유의미한 차이가 나타나서 VM의 동기화는 임장감에 언제나 영향을 미쳤지만 VT의 동기화에 따른 차이는 VM-S/VT-S와 VM-S/VT-A 사이, 즉 VM이 일치하는 조건들 사이에서만 나타났다. 해당 결과는 그림 5a에 그래프로 정리했다.

jkcgs-28-3-1-g5
Figure 5. Results of Presence, SAM, SSQ. (a), (c): The height of bar means mean and error bar means standard deviation. (b): Boxplot. ‘Sync’ = Synchronous; ‘Async’ = Asynchronous; * p < (.05/6); ** p < (.01/6); *** p < (.001/6);
Download Original Figure
3.3 Self-Assessment Manikin

SAM은 각성 정도 (F (2.005, 42.113) = 7.113, p < .01, η2 = .253)와 정서가 정도 (F (2.032, 42.682) = 4.077, p < .05, η2 = .163)에서 조건들 사이에 주효과가 있는 것으로 나타났다. Bonferroni-corrected를 적용한 사후분석 결과 각성 정도에서는 VM-A/VT-A와 VM-S/VT-S (t (21) = -3.444, p = .002), VM-A/VT-S와 VM-S/VT-S (t (21) = -1.642, p = .004)에서 유의미한 차이가 나타났으며 나머지 조건들 사이에서는 유의미한 차이가 나타나지 않았다. 이는 피험자들이 VT 자극과 VM 자극이 둘 다 일치할 때 가장 높은 각성도를 보인다고 해석이 된다. 정서가 정도에서 사후 분석 결과는 조건들 사이에서 통계적으로 유의미한 차이가 발견되지 않았다. SAM 설문지 결과는 상자도표로 그림 5b에 정리했다.

3.4 Simulator Sickness Questionnaire

SSQ는 조건들 사이에서 주효과는 있는 것으로 나타났지만 (F (1.329, 27.899) = 5.052, p < .05, η2 = .194) 사후분석 결과 조건들 간에 통계적으로 유의미한 차이가 나타나지는 않았다. SSQ 설문지 결과는 그림 5c에 정리했다.

4. 논의

본 연구에서는 VM과 VT 자극이 결합된 다감각 환경에서 두 자극을 전신에 전달했을 때 BOI, 임장감, 감정, 가상 멀미 등의 사용자 경험을 측정했다. 전반적인 결과는 다감각 가상 현실에서 사용자들이 느끼는 BOI, 임장감, 각성 정도에서는 VM 자극이 일치할 때 더 높은 것으로 나타났고 임장감에서만 VM이 일치할 때 VT의 동기화에 따른 차이가 나오는 것으로 나타났다. 본 연구가 가지는 추가적인 의의는 다감각 가상 현실에서 VM과 VT 자극을 동시에 전신에 전달하여 실험을 했다는 점이다.

4.1 Body Ownership Illusion

BOI 설문지의 모든 항목에서 VM의 동기화에 따른 차이만 나타나 VM이 VT보다 BOI에 미치는 영향이 크다는 첫 번째 가설이 맞음을 확인했다. 이전 연구들에서 self-location이나 agency는 VM의 동기화와 밀접한 연관이 있었고 [10] 또한 쉽게 예상할 수 있는 결과이기에 두 문항에서 VM에 대해서만 차이가 나타나는 것은 당연한 결과가 나타났다고 볼 수 있다. 하지만 ownership항목은 VM뿐만 아니라 VT의 동기화에 의해서도 영향을 받는 경우가 다양한 이전 연구들 [10,31]에서 나타났었다. Maselli와 Slater [9]는 다감각 가상 환경에서 사실적인 인간형의 가상 신체의 1인칭 시점과 고유수용성 감각의 높은 일치도로 충분한 BOI가 형성이 된다면 VM이나 VT 자극이 불일치하더라도 BOI가 감소되지 않는다고 보고했다. 하지만 해당 실험에서 VM 자극의 전달은 머리의 움직임에 대해서만 이루어졌기에 저자들은 VM이 BOI에 미치는 영향에 대해서는 추가적인 탐색이 필요하다고 언급했다. Maselli와 Slater가 제시한 BOI모델에 기반해 우리의 결과를 해석하면 전신에서 VM 자극이 일치되지 않은 본 실험의 경우 BOI의 형성에 중요한 요소인 고유수용성 감각 또한 실험이 진행되는 동안 일치되지 않았기 때문에 ownership이 저하된 것으로 추측할 수 있다. 이러한 결과는 가상 현실에서 자극을 전신에 전달할 때 BOI의 형성에는 VM의 동기화가 VT보다 더 중요하다는 점을 시사한다.

4.2 Presence, SAM, and SSQ

임장감과 각성 정도에서는 VM, VT 자극의 동기화에 따른 영향을 받는 것으로 나타났지만 나머지 항목들에서는 조건들 사이에서 유의미한 차이가 나타나지 않아 두 번째 가설은 일부만 맞는 것으로 확인했다. 임장감은 VM 자극 측면에서 살펴보면 VM의 동기화가 다른 조건들 사이에서 언제나 통계적으로 유의미한 차이가 나는 것으로 나타났다. 하지만 VT 자극 측면에선 VM-A/VT-A와 VM-A/VT-S 사이에선 유의미한 차이가 나지 않았지만 흥미롭게도 VM-S/VT-A와 VM-S/VT-S 사이에서 VT의 동기화에 따른 유의미한 차이가 나타났다 (VM-A/VT-A ≈ VM-A/VT-S < VM-S/VT-A < VM-S/VT-S). 즉 가상 현실에서의 임장감은 가상 신체가 내 의지대로 움직이지 않거나 내 몸처럼 여겨지지 않을 때는 VT의 동기화 여부에 영향을 받지 않지만 가상 신체가 내 몸처럼 여겨진다면 VT의 동기화에 따라 사용자가 느끼는 임장감이 더욱 증가할 수 있다는 점을 시사한다. 본 실험에서 VM 이 일치하지 않을 때 VT의 동기화가 임장감에 영향을 미치지 않은 것은 VM 이 일치하지 않을 때는 VT의 완전한 동기화를 달성할 수 없다는 내용이 그 근거가 될 수 있다 [14]. VM이 일치하지 않는 조건에서는 VT 자극의 시간적인 일치는 달성할 수 있지만 공간적인 일치는 달성할 수 없다. 예를 들어 가상 신체가 나와 다르게 움직일 때 공을 맞은 부위는 손으로 동일할 수 있지만 자극이 느껴진 시점에 실제 손의 위치는 머리 위에 있고 가상 신체에서 손의 위치는 허리 옆에 있을 수 있는데, 이 경우 공간적인 동기화의 달성이 되지 않은 것이다. 이는 두 자극이 동시에 전달될 때 VT의 동기화를 달성하기 위해서는 VM 자극의 일치가 선행되어야 한다는 것을 의미하기에 추후 실험 설계에 고려되어야 할 것이다.

SAM을 통해 측정된 결과는 각성 정도에서만 조건들 사이에 유의미한 차이가 나타나면서 VM의 동기화가 정서가 정도에 영향을 미친다는 기존의 연구결과를 확인하지 못했다. 다만 정서가 정도에서도 조건들 간에 주효과는 있는 것으로 나타났고 두 자극이 각각 일치할 때 그렇지 않을 때와 비교해 높은 값을 보였다. 이러한 결과를 종합해봤을 때 VM-S/VT-S 조건은 VM-S/VT-A와 비교해서도 높은 임장감과 각성 정도를 제공하는 것으로 나타나 VM이 일치하는 경우 VT를 일치시키는 것도 의미가 있음을 시사한다. SSQ 결과는 네 조건들 사이에서 유의미한 차이가 나타나지 않아 움직임의 불일치가 멀미감을 유도한 기존의 연구결과를 확인하지 못했다. 본인의 움직임과 가상 신체의 움직임이 일치하지 않으면 전정 감각에 혼동이 발생하여 멀미를 잘 느낄 것으로 예측했지만 머리의 움직임은 어떤 조건에서든 항상 일치했기에 전정 감각의 혼동을 크게 느끼지 않은 것으로 추측된다.

4.3 Limitations and Future Works

본 연구는 몇 가지 한계가 있다. 우선, 본 실험에서 활용한 장비를 기준으로 특정한 신체 특성을 가진 피험자만을 대상으로 실험했다는 한계가 있다. 정확하게 촉각 자극을 전달하기 위해 일정 신체 크기를 기준으로 피험자를 모집했고, 따라서 주로 남성 피험자를 대상으로 실험을 진행했다. 결과적으로 성별에 의한 차이를 분석하지 못했기 때문에 후속 연구에서는 다양한 치수의 장비를 활용하여 실험을 진행할 필요가 있다. 뿐만 아니라 대부분의 피험자가 젊은 성인이었기 때문에 다양한 인류학적 특성을 고려하지 못했다는 한계가 있다. 본 결과가 다양한 인류학적 특성 하에서도 발현되는지 평가하기 위한 추가적인 연구가 필요하다. 또한 전신에 자극을 전달했을 때 VM의 불일치는 VT의 불일치를 유도하는 측면이 있기에 해당 특성을 고려한 추가적인 연구가 필요할 것으로 보인다.

마지막으로 본 연구에서는 VT 자극을 전달하기 위해 가장 간단한 형태의 전기 자극만을 활용했다는 한계가 있다. 전기 자극은 근육을 직접 자극하기 때문에 다양한 방법으로 활용 가능하다. 예를 들어 한정된 공간에서 HMD 기반 가상 현실을 체험할 때, 전기 자극을 활용하여 경험을 저해하지 않는 동시에 연속적인 보행을 가능하게 할 수 있다 [32]. 또한 게임 내에서 발생한 폭발이 신체에 미치는 효과를 표현하기 위해 실제로 사용자의 팔이 들리도록 유도하거나, 상대방과 악수 자세를 취하도록 유도할 수 있다 [33]. 혹은 벽을 밀거나 무거운 물체를 드는 듯한 느낌을 줄 수 있다 [34]. 본 연구에서는 다양한 자극 활용 방법 중에서 가장 간단한 형태의 자극만을 활용했기 때문에 이러한 다양성을 고려한 추가 연구가 필요하다. 뿐만 아니라 자극을 활용한 행동 유도 및 훈련 상황과 같이 실제 환경이 반영된 몰입형 환경 내에서의 효과에 대한 확장 연구 또한 필요하다 [35]. 상기 연구들을 통해 가상 현실과 인체공학 관련 연구 및 산업 분야의 발전에 기여할 수 있을 것으로 여겨진다.

5. 결론

본 연구는 다감각 가상 현실에서 VM, VT 자극이 활용되었을 때 사용자의 BOI, 임장감 등의 주관적인 경험에 미치는 영향을 조사했다. 실험에서 BOI는 ownership 측면에서 다감각 가상 현실일 때 VM에 의한 차이는 나타나고 VT에 의한 차이는 나타나지 않으면서 BOI의 형성에는 VM의 영향이 더 큰 것을 확인했다. 임장감에서는 BOI 결과와는 다르게 VM이 일치하는 환경이면 일치하지 않는 환경일 때보다 반드시 높게 나타났지만 VT의 동기화에 따른 차이는 VM이 일치하는 환경에서만 발견되었다. 본 연구는 가상 현실에서 주관적인 경험에 VM이 VT보다 더 큰 영향을 미치지만 VM이 일치할 때 VT를 일치시키는 것도 의미가 있음을 확인하고, 전신에 VM과 VT 자극을 동시에 전달하여 BOI를 연구한 것에 의의가 있다.

감사의 글

이 논문은 2021년도 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원을 받아 수행된 연구임(No. 2021R1A2C2013479).

이 논문은 2021년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No. 2021-0-00590, 대규모 노드에서 블록단위의 효율적인 거래 확정을 위한 최종성 보장 기술개발). Correspondence to K. Kim (kenny@hanyang.ac.kr)

References

[1].

Botvinick, M., & Cohen, J., Rubber hands ‘feel’touch that eyes see. Nature, 391(6669), 756-756, 1998.

[2].

Slater, M., Pérez Marcos, D., Ehrsson, H., & Sanchez-Vives, M. V., Towards a digital body: the virtual arm illusion. Frontiers in human neuroscience, 2, 6, 2008.

[3].

Sanchez-Vives, M. V., Spanlang, B., Frisoli, A., Bergamasco, M., & Slater, M., Virtual hand illusion induced by visuomotor correlations. PloS one, 5(4), e10381, 2010.

[4].

Petkova, V. I., & Ehrsson, H. H., If I were you: perceptual illusion of body swapping. PloS one, 3(12), e3832, 2008.

[5].

Freeman, G., & Maloney, D., Body, avatar, and me: The resentation and perception of self in social virtual reality. Proceedings of the ACM on Human-Computer Interaction, 4(CSCW3), 1-27, 2021.

[6].

Steed, A., Pan, Y., Zisch, F., & Steptoe, W., The impact of a self-avatar on cognitive load in immersive virtual reality. In 2016 IEEE virtual reality (VR) (pp. 67-76). IEEE, 2016, March.

[7].

Khundam, C., First person movement control with palm normal and hand gesture interaction in virtual reality. In 2015 12th International Joint Conference on Computer Science and Software Engineering (JCSSE) (pp. 325-330). IEEE, 2015, July.

[8].

Slater, M., Pertaub, D. P., & Steed, A., Public speaking in virtual reality: Facing an audience of avatars. IEEE Computer Graphics and Applications, 19(2), 6-9, 1999.

[9].

Maselli, A., & Slater, M., The building blocks of the full body ownership illusion. Frontiers in human neuroscience, 7, 83, 2013.

[10].

Kokkinara, E., & Slater, M., Measuring the effects through time of the influence of visuomotor and visuotactile synchronous stimulation on a virtual body ownership illusion. Perception, 43(1), 43-58, 2014.

[11].

Kim, C. S., Jung, M., Kim, S. Y., & Kim, K., Controlling the sense of embodiment for virtual avatar applications: methods and empirical study. JMIR Serious Games, 8(3), e21879, 2020.

[12].

Jun, J., Jung, M., Kim, S. Y., & Kim, K., Full-body ownership illusion can change our emotion. In Proceedings of the 2018 CHI conference on human factors in computing systems (pp. 1-11), 2018, April.

[13].

Kondo, R., Sugimoto, M., Minamizawa, K., Hoshi, T., Inami, M., & Kitazaki, M., Illusory body ownership of an invisible body interpolated between virtual hands and feet via visual-motor synchronicity. Scientific reports, 8(1), 1-8, 2018.

[14].

Ehrsson, H. H., Multisensory processes in body ownership. Multisensory perception, 179-200, 2020.

[15].

Limanowski, J., Lutti, A., & Blankenburg, F., The extrastriate body area is involved in illusory limb ownership. Neuroimage, 86, 514-524, 2014.

[16].

Normand, J. M., Giannopoulos, E., Spanlang, B., & Slater, M., Multisensory stimulation can induce an illusion of larger belly size in immersive virtual reality. PloS one, 6(1), e16128, 2011.

[17].

Kilteni, K., Bergstrom, I., & Slater, M., Drumming in immersive virtual reality: the body shapes the way we play. IEEE transactions on visualization and computer graphics, 19(4), 597-605, 2013.

[18].

Perez-Marcos, D., Sanchez-Vives, M. V., & Slater, M., Is my hand connected to my body? The impact of body continuity and arm alignment on the virtual hand illusion. Cognitive neurodynamics, 6(4), 295-305, 2012.

[19].

Slater, M., & Wilbur, S., A framework for immersive virtual environments (FIVE): Speculations on the role of presence in virtual environments. Presence: Teleoperators & Virtual Environments, 6(6), 603-616, 1997.

[20].

Kim, S. Y., Park, H., Jung, M., & Kim, K., Impact of Body Size Match to an Avatar on the Body Ownership Illusion and User's Subjective Experience. Cyberpsychology, Behavior, and Social Networking, 23(4), 234-241, 2020.

[21].

Kuschel, M., Freyberger, F., Buss, M., & Färber, B., A presence measure for virtual reality and telepresence based on multimodal conflicts. In Proceedings of PRESENCE 2007: The 10th Annual International Workshop on Presence, 2007.

[22].

Wolf, D., Rietzler, M., Hnatek, L., & Rukzio, E., Face/on: multi-modal haptic feedback for head-mounted displays in virtual reality. IEEE transactions on visualization and computer graphics, 25(11), 3169-3177, 2019.

[23].

Williams, B., Garton, A. E., & Headleand, C. J., Exploring visuo-haptic feedback congruency in virtual reality. In 2020 International Conference on Cyberworlds (CW) (pp. 102-109). IEEE, 2020, September.

[24].

Bradley, M. M., & Lang, P. J., Measuring emotion: the self-assessment manikin and the semantic differential. Journal of behavior therapy and experimental psychiatry, 25(1), 49-59, 1994.

[25].

Kennedy, R. S., Lane, N. E., Berbaum, K. S., & Lilienthal, M. G., Simulator sickness questionnaire: An enhanced method for quantifying simulator sickness. The international journal of aviation psychology, 3(3), 203-220, 1993.

[26].

LaViola Jr, J. J., A discussion of cybersickness in virtual environments. ACM Sigchi Bulletin, 32(1), 47-56, 2000.

[27].

Tamaki, E., Miyaki, T., & Rekimoto, J., PossessedHand: techniques for controlling human hands using electrical muscles stimuli. In Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (pp. 543-552), 2011, May.

[28].

Caserman, P., Krug, C., & Göbel, S., Recognizing Full-Body Exercise Execution Errors Using the Teslasuit. Sensors, 21(24), 8389, 2021.

[29].

Banakou, D., & Slater, M., Body ownership causes illusory self-attribution of speaking and influences subsequent real speaking. Proceedings of the National Academy of Sciences, 111(49), 17678-17683, 2014.

[30].

Witmer, B. G., & Singer, M. J., Measuring presence in virtual environments: A presence questionnaire. Presence, 7(3), 225-240, 1998.

[31].

O’Kane, S. H., & Ehrsson, H. H., The contribution of stimulating multiple body parts simultaneously to the illusion of owning an entire artificial body. Plos one, 16(1), e0233243, 2021.

[32].

Auda, J., Pascher, M., & Schneegass, S., Around the (Virtual) World: Infinite Walking in Virtual Reality Using Electrical Muscle Stimulation. In Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1-8), 2019, May.

[33].

Khamis, M., Schuster, N., George, C., & Pfeiffer, M., Electrocutscenes: Realistic haptic feedback in cutscenes of virtual reality games using electric muscle stimulation. In 25th ACM Symposium on Virtual Reality Software and Technology (pp. 1-10), 2019, November.

[34].

Lopes, P., You, S., Cheng, L. P., Marwecki, S., & Baudisch, P., Providing haptics to walls & heavy objects in virtual reality by means of electrical muscle stimulation. In Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems (pp. 1471-1482), 2017, May.

[35].

Park, W., Kim, J., & Lee, J., A Study on the Design and Effect of Feedback for Virtual Reality Exercise Posture Training. Journal of the Korea Computer Graphics Society, 26(3), 79-86, 2020.

<저자소개>

오 진 택

jkcgs-28-3-1-g6

  • 2021년 한양대학교 미래자동차공학과 학사

  • 2021년 ~ 현재 한양대학교 컴퓨터·소프트웨어학과 석사과정

  • 관심분야: 가상 현실

김 지 환

jkcgs-28-3-1-g7

  • 2020년 한양대학교 건설환경공학과 학사

  • 2022년 한양대학교 컴퓨터·소프트웨어학과 석사과정

  • 2022년 ~ 현재 한양대학교 컴퓨터·소프트웨어학과 박사과정

  • 관심분야: 가상 현실

김 광 욱

jkcgs-28-3-1-g8

  • 2009년 한양대학교 박사

  • 2009년 ~ 2010년 듀크대학교 연구원

  • 2010년 ~ 2013년 캠리포티아주립대학교(Davis) 연구원

  • 2013년 ~ 현재 한양대학교 컴퓨터·소프트웨어학과 조교수/부교수

  • 관심분야: 인간-컴퓨터상호작용, 가상현실, 의학용소프트웨어