ErgoVR多人交互虛擬現(xiàn)實(shí)實(shí)驗(yàn)室
概述
ErgoVR多人交互虛擬現(xiàn)實(shí)實(shí)驗(yàn)室，基于“人-機(jī)-環(huán)境”系統(tǒng)工程理論建設(shè)，適用于工業(yè)設(shè)計(jì)與用戶體驗(yàn)、建筑設(shè)計(jì)、工業(yè)工程、交通駕駛等多個(gè)領(lǐng)域的多人或團(tuán)體測(cè)評(píng)科學(xué)研究以及高校實(shí)驗(yàn)教學(xué)等方面的工作。能夠滿足多種研究需求，并能夠進(jìn)行多人團(tuán)體交互下的理論驗(yàn)證、設(shè)計(jì)測(cè)評(píng)、虛擬樣機(jī)測(cè)評(píng)與產(chǎn)品測(cè)試等研究。
多人交互虛擬現(xiàn)實(shí)實(shí)驗(yàn)室可基于大型沉浸式CAVE虛擬現(xiàn)實(shí)系統(tǒng)及可穿戴虛擬現(xiàn)實(shí)系統(tǒng)進(jìn)行測(cè)試，支持多人在同一個(gè)虛擬現(xiàn)實(shí)場(chǎng)景中協(xié)同完成人機(jī)交互等協(xié)同任務(wù)并進(jìn)行人機(jī)環(huán)境數(shù)據(jù)的定量評(píng)價(jià)。在系統(tǒng)中，用戶可以自定義創(chuàng)建虛擬環(huán)境，并且進(jìn)行多感知交互體驗(yàn)研究，其中包含嗅覺(jué)模擬系統(tǒng)、觸覺(jué)模擬系統(tǒng)、聽(tīng)覺(jué)模擬系統(tǒng)等多感知交互系統(tǒng)。
同時(shí)，結(jié)合津發(fā)自主研發(fā)的ErgoLAB人機(jī)環(huán)境同步云平臺(tái)，基于“以人為中心”的理念，同步采集與分析多人的多模態(tài)數(shù)據(jù)，為科學(xué)研究和設(shè)計(jì)評(píng)價(jià)提供完整的數(shù)據(jù)指標(biāo)。
系統(tǒng)組成
(1) 實(shí)驗(yàn)室概述
實(shí)驗(yàn)室可用于進(jìn)行虛擬現(xiàn)實(shí)環(huán)境多人交互系統(tǒng)的研究。實(shí)驗(yàn)室主要分為被試間與主試間兩大功能區(qū)域，之間由單向玻璃隔開(kāi)，使主試間中的研究人員看見(jiàn)被試間內(nèi)受試者的行為，而受試者看不見(jiàn)主試間，從而減小干擾。其中，被試間為實(shí)驗(yàn)進(jìn)行的區(qū)域，搭建為虛擬現(xiàn)實(shí)測(cè)試室，可通過(guò)CAVE式虛擬現(xiàn)實(shí)系統(tǒng)、8K眼動(dòng)腦電多模態(tài)虛擬現(xiàn)實(shí)頭盔或者多人交互虛擬現(xiàn)實(shí)系統(tǒng)進(jìn)行虛擬現(xiàn)實(shí)場(chǎng)景呈現(xiàn)，并可依照測(cè)試需求布置所需的多模態(tài)數(shù)據(jù)采集設(shè)備，如虛擬現(xiàn)實(shí)眼動(dòng)儀、可穿戴人因生理儀等；被試間中有多個(gè)行為觀察攝像頭與拾音器，從不同角度攝取受試者的行為影像并采集受試者的聲音，音視頻信號(hào)傳送給主試間中的人機(jī)環(huán)境同步平臺(tái)進(jìn)行數(shù)據(jù)分析。主試間為觀察與數(shù)據(jù)分析區(qū)域，布置有語(yǔ)音控制臺(tái)，研究人員的指令通過(guò)被試間的揚(yáng)聲器傳送給受試者；主試間還布置有人機(jī)環(huán)境同步平臺(tái)、人因智能邊緣計(jì)算平臺(tái)等設(shè)備，研究人員可在主試間實(shí)時(shí)同步采集多模態(tài)人因數(shù)據(jù)并進(jìn)行分析。
實(shí)驗(yàn)室被試間設(shè)置有多模態(tài)人因數(shù)據(jù)采集設(shè)備，包括CAVE式虛擬現(xiàn)實(shí)系統(tǒng)、8K眼動(dòng)腦電多模態(tài)虛擬現(xiàn)實(shí)頭盔、多人交互虛擬現(xiàn)實(shí)系統(tǒng)、虛擬聽(tīng)覺(jué)嗅覺(jué)觸覺(jué)感知模擬系統(tǒng)、虛實(shí)時(shí)空行為分析系統(tǒng)、虛擬現(xiàn)實(shí)雙手交互系統(tǒng)、虛擬現(xiàn)實(shí)腦機(jī)交互設(shè)備、虛擬現(xiàn)實(shí)情感交互設(shè)備、虛擬現(xiàn)實(shí)動(dòng)作交互設(shè)備、表情語(yǔ)音采集儀、行為觀察儀、可穿戴人因生理儀、虛擬現(xiàn)實(shí)腦成像儀、可穿戴多模態(tài)腦功能儀、動(dòng)作捕捉儀以及裝備設(shè)計(jì)人因測(cè)試專家系統(tǒng)等。被試間的產(chǎn)品組成與選型可根據(jù)實(shí)際研究需求進(jìn)行配置。此外，被試間系統(tǒng)的多模態(tài)數(shù)據(jù)采集設(shè)備可結(jié)合ErgoAI人因智能邊緣計(jì)算終端，將計(jì)算和數(shù)據(jù)處理能力移至接近數(shù)據(jù)源的終端設(shè)備上，進(jìn)行數(shù)據(jù)的智能化處理和分析。
實(shí)驗(yàn)室主試間設(shè)置有多模態(tài)人因數(shù)據(jù)同步采集、分析和邊緣智能設(shè)備，包括ErgoLAB人機(jī)環(huán)境同步平臺(tái)和ErgoAI人因智能評(píng)估平臺(tái)。其中，ErgoLAB人機(jī)環(huán)境同步平臺(tái)支持多模態(tài)數(shù)據(jù)同步采集與分析，確保所需要的人、機(jī)、環(huán)境三方面的多模態(tài)數(shù)據(jù)可基于同一時(shí)間軸進(jìn)行實(shí)時(shí)同步，消除事后對(duì)齊數(shù)據(jù)分析的負(fù)擔(dān)，并使數(shù)據(jù)“協(xié)同增效”，多角度綜合印證結(jié)果，確保數(shù)據(jù)結(jié)果的有效性與準(zhǔn)確性。ErgoAI人因智能應(yīng)用平臺(tái)，對(duì)接人機(jī)環(huán)境同步平臺(tái)所同步采集的多模態(tài)數(shù)據(jù)，搭建開(kāi)放式AI算法應(yīng)用平臺(tái)，能夠?yàn)椴煌珹I算法基礎(chǔ)的用戶，提供從數(shù)據(jù)采集、數(shù)據(jù)降噪、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型評(píng)估及部署應(yīng)用的全流程智能化應(yīng)用系統(tǒng)。平臺(tái)可提供數(shù)千人次數(shù)據(jù)搭建的各類應(yīng)用數(shù)據(jù)集，涵蓋人員基數(shù)據(jù)集、狀態(tài)數(shù)據(jù)集等，以及數(shù)十種人因工程預(yù)訓(xùn)練模型，包括單模態(tài)狀態(tài)識(shí)別模型、多模態(tài)狀態(tài)識(shí)別模型等。同時(shí)，ErgoAI人因智能應(yīng)用平臺(tái)支持根據(jù)實(shí)際研究?jī)?nèi)容與方向創(chuàng)建數(shù)據(jù)集、訓(xùn)練并驗(yàn)證模型，并進(jìn)行模型部署與實(shí)時(shí)狀態(tài)預(yù)測(cè)。
(2) 實(shí)驗(yàn)室示意圖
功能應(yīng)用
l 基于多人的人機(jī)環(huán)境多模態(tài)數(shù)據(jù)同步采集
l 基于多種虛擬現(xiàn)實(shí)場(chǎng)景
l 對(duì)接主流VR引擎
l 基于三維物體的AOI及SOI興趣區(qū)測(cè)評(píng)與分析
l 基于VR原型的多人人因測(cè)評(píng)與分析
ErgoLAB多模態(tài)同步方案：
整體概述
ErgoLAB人機(jī)環(huán)境同步平臺(tái)采用多模態(tài)數(shù)據(jù)時(shí)鐘同步技術(shù)，平臺(tái)可完成完整的實(shí)驗(yàn)和測(cè)評(píng)流程，包括項(xiàng)目管理-試驗(yàn)設(shè)計(jì)-同步采集-信號(hào)處理-數(shù)據(jù)分析-人因智能評(píng)估-可視化報(bào)告，支持基于云架構(gòu)技術(shù)的團(tuán)體測(cè)試和大數(shù)據(jù)管理。
ErgoLAB人機(jī)環(huán)境同步平臺(tái)采用主客觀結(jié)合多模態(tài)數(shù)據(jù)同步采集與多維度驗(yàn)證的方法，數(shù)據(jù)實(shí)時(shí)同步種類包含大腦認(rèn)知數(shù)據(jù)（EEG/BCI腦電儀與腦機(jī)接口邊緣計(jì)算設(shè)備、fNIRS/BCI近紅外腦成像儀），視覺(jué)數(shù)據(jù)（Eyetracker眼動(dòng)儀與視線交互系統(tǒng)），生理數(shù)據(jù)（生理儀含：GSR/EDA、EMG、ECG、EOG、HRV、RESP、TEMP/SKT、PPG、SpO2），行為觀察、肢體動(dòng)作與面部表情（基本情緒、情緒效價(jià)、微表情等）數(shù)據(jù)、生物力學(xué)數(shù)據(jù)（拉力、握力、捏力、壓力…），人機(jī)交互數(shù)據(jù)（包含人機(jī)界面交互行為數(shù)據(jù)以及對(duì)應(yīng)的鍵盤(pán)操作，鼠標(biāo)點(diǎn)擊、懸浮、劃入劃出等；移動(dòng)終端人機(jī)交互行為數(shù)據(jù)以及對(duì)應(yīng)的手指軌跡操作行為如點(diǎn)擊、縮放、滑動(dòng)等；VR終端界面人機(jī)交互行為數(shù)據(jù)及對(duì)應(yīng)的雙手操作拾取、丟棄、控制，VR空間行走軌跡）、以及多類型時(shí)空行為軌跡數(shù)據(jù)采集(包括室內(nèi)、戶外、以及VR環(huán)境不同時(shí)空的行走軌跡、行車軌跡、訪問(wèn)狀態(tài)以及視線交互、情感反應(yīng)、交互操作行為等數(shù)據(jù)實(shí)時(shí)同步采集)、以及作業(yè)空間及作業(yè)環(huán)境數(shù)據(jù)（溫度、濕度、噪音、光照、大氣壓、濕度、粉塵等）等客觀量化數(shù)據(jù)；為科學(xué)研究及應(yīng)用提供完整的數(shù)據(jù)指標(biāo)。
ErgoAI人因智能：
將人工智能技術(shù)引入人因工程研究工具，人因工程行業(yè)更加深度，使得實(shí)驗(yàn)環(huán)境不會(huì)受限于某一種設(shè)備或數(shù)據(jù)指標(biāo)，采集分析不同典型行業(yè)或?qū)W科專業(yè)的人-機(jī)-環(huán)境系統(tǒng)交互過(guò)程中自然狀態(tài)下的人類行為數(shù)據(jù)，獲取更接近真實(shí)人員狀態(tài)的數(shù)據(jù)。平臺(tái)還提供覆蓋科研實(shí)驗(yàn)全流程的功能模塊，包括項(xiàng)目管理、實(shí)驗(yàn)設(shè)計(jì)、同步采集、數(shù)據(jù)分析、綜合統(tǒng)計(jì)和可視化報(bào)告，結(jié)合ErgoAI人因智能邊緣計(jì)算平臺(tái)為多模態(tài)人機(jī)環(huán)境研究提供一站式人因工程+人工智能解決方案。以ErgoLAB人機(jī)環(huán)境同步平臺(tái)和ErgoAI人因智能邊緣計(jì)算平臺(tái)為核心的多模態(tài)同步人因智能解決方案大大提高了實(shí)驗(yàn)結(jié)果的信效度，同時(shí)節(jié)省了研究的人力、物力、時(shí)間，提高了研究與測(cè)評(píng)的整體效率。
基于ErgoAI人因智能多元時(shí)序算法底座與人因工程人機(jī)環(huán)境數(shù)據(jù)庫(kù)，構(gòu)建人員特定狀態(tài)的預(yù)訓(xùn)練模型，配合高靈活度的訓(xùn)練方案管理功能，用戶能夠在統(tǒng)一環(huán)境中構(gòu)建和優(yōu)化模型。 從而實(shí)現(xiàn)對(duì)人員狀態(tài)的精準(zhǔn)實(shí)時(shí)評(píng)估與預(yù)警，如負(fù)荷狀態(tài)、應(yīng)激狀態(tài)、疲勞狀態(tài)、情景意識(shí)和注意能力等。
Kingfar公司介紹：
北京津發(fā)科技股份有限公司是專精特新重點(diǎn)小巨人，知識(shí)產(chǎn)權(quán)優(yōu)勢(shì)企業(yè)、高新技術(shù)企業(yè)、科技型中小企業(yè)；旗下包含北京人因智能工程技術(shù)研究院和北京人因工程設(shè)計(jì)院等科技研發(fā)機(jī)構(gòu)，并聯(lián)合共建了北京市企業(yè)技術(shù)中心、北京本科高校產(chǎn)學(xué)研深度協(xié)同育人平臺(tái)、蘇州市重點(diǎn)實(shí)驗(yàn)室、湖南省工程實(shí)驗(yàn)室、山東省工程研究中心等多個(gè)科技創(chuàng)新平臺(tái)。
津發(fā)科技承擔(dān)和參與了多項(xiàng)重點(diǎn)研發(fā)計(jì)劃、工信部高質(zhì)量發(fā)展專項(xiàng)、自然科學(xué)基金等課題基金。擔(dān)任全國(guó)信標(biāo)委XR擴(kuò)展現(xiàn)實(shí)標(biāo)準(zhǔn)化組副組長(zhǎng)單位，工信部元宇宙標(biāo)準(zhǔn)化工作組關(guān)鍵技術(shù)組聯(lián)合組長(zhǎng)單位；津發(fā)科技創(chuàng)新研發(fā)了國(guó)產(chǎn)化自主可控的人因工程與人因智能邊緣計(jì)算系列信創(chuàng)產(chǎn)品與技術(shù)，榮獲多項(xiàng)省部級(jí)科學(xué)技術(shù)獎(jiǎng)勵(lì)；津發(fā)科技主持和參編國(guó)際/、行業(yè)/團(tuán)體標(biāo)準(zhǔn)20余項(xiàng)、榮獲30余項(xiàng)省部級(jí)新技術(shù)新產(chǎn)品認(rèn)證，全球申請(qǐng)專利超過(guò)500項(xiàng)、100余項(xiàng)國(guó)際和注冊(cè)商標(biāo)、130余項(xiàng)軟件著作權(quán)；已服務(wù)全國(guó)高等院校和裝備科技工業(yè)科研院所應(yīng)用示范，并已支撐國(guó)內(nèi)科研學(xué)者和科技工作者發(fā)表中英文學(xué)術(shù)論文超過(guò)1000篇。
