Intel RealSense D435i 3D面部和動作捕捉功能介紹
Intel RealSense D435i(實感技術)概覽，本文對Intel RealSense D435i 3D面部和動作捕捉功能做簡要介紹
前段時間CES的報道滿天飛，網上逛了幾圈，感覺料猛的還數Intel：老樹開新花，推出14nm的第五代酷睿處理器；在智能可穿戴設備及物聯網上雄起；RealSense實感技術開啟未來人機交互模式。之前總聽老哥講，鼠標鍵盤這些傳統交互模式統治了二三十年，目前跟蹤識別爆火且技術趨于成熟，新的交互革命快要打響了。看RealSense這陣勢，估計不出三五年新的交互便會普及開來。
英特爾早在2012年左右就著重研發實感技術，當時叫Perceptual Computing，即感知計算，并開放英特爾? 感知計算軟件開發套件 2013 版（Intel? Perceptual Computing Software Development Kit, SDK 2013），設重獎舉辦因特爾感知計算挑戰賽，吸引眾多開發者參與。隨著技術完善與成熟，2014年初更名為RealSense，即實感技術，而后發布了新的Intel? RealSense? SDK 2014 ，同時舉行2014英特爾?RealSense?應用挑戰賽。
基于此技術的應用在IDF2014及今年CES上大放異彩。
Intel? RealSense? SDK的架構：SDK core,I/O module和Capability modules組成整個SDK堆棧的基礎。SDK core管理I/O module和Capability modules同時組織并管理管線的執行。I/O module捕獲設備的輸入數據而后發送數據到輸出設備或Capability modules。Capability modules也叫algorithm modules，主要包括各種模式檢測和識別算法（面部跟蹤和檢測、手部跟蹤、手勢識別、語音識別及合成等）。
各功能：手部和手指跟蹤、面部分析、語音識別、背景移除、目標跟蹤、增強現實、3D掃描。
1. 手
SDK將手抽象出骨架，并從背景中剝離出來。允許在照相機的0.2–1.2米范圍內跟蹤手上的22個點的位置和方向，如圖。左右手是區分的，因而可以雙手進行交互。
手勢識別：包括靜態手勢識別和動態手勢識別。SDK中內嵌了一系列手勢如下圖。你可以用內嵌的這些手勢組合出新的手勢，也可以根據手骨架上那22個點位置創建出新的手勢。
動態手勢識別：靜態手勢可以單獨使用，當然也可以組合使用形成一定的動作。組合時要求開始的手勢和結束的手勢都已在手勢識別系統中注冊。
SDK給出了一系列動作如下：
2．臉
臉部檢測：SDK提供準確的3D臉部檢測和跟蹤，且可以同時跟蹤4張人臉。每張人臉用長方形來標記，你可以獲得長方形的XYZ坐標。與2D跟蹤相比，3D頭部跟蹤在頭部運動方面更給力。
臉部識別：SDK提供識別特定人臉的能力。特定ID對應注冊的特定人臉，并將此人臉的信息存儲到人臉庫的內存中。如果同張人臉被注冊多次，那這張人臉被正確識別的機會將會增大。當沒被識別的人臉出現時，識別模塊將與數據庫中的可能數據進行比對，如果找到匹配則返回此人臉對應的ID。
用戶不用擔心自己的頭像被存儲，因為存儲的只是算法從圖像中提取的特征的集合。
頭的運動：SDK提供頭部運動的3D方向：俯仰、左右轉動、左右偏轉，如圖。
所以可以輕松獲得用戶頭部指向哪里。也可以以此做粗略的眼神跟蹤，下一版將會推出更精細的眼神跟蹤。
標記點跟蹤：SDK提供臉部78個標記點的跟蹤以提高臉部識別和分析的準確度。在圖像和坐標系中給出這78個標記點的位置。臉部標記點跟蹤支持頭像創建、臉部動畫、擬態及簡單的表情識別。可以直接用這些點或這些點的相對位置來作分析。不管你有沒有劉海、戴不戴眼鏡，這種標記點跟蹤都支持。但用戶頭部在屏幕30度內效果*好。
面部表情識別：SDK也包括更高級的面部表情識別。這使得你創建卡通頭像更簡單。每一種表情有1到100的強度等級使得你做的動畫更平滑自然。SDK中表情：
情感識別：SDK中的情感識別算法用的是2D RGB數據。情感模塊是獨立的模塊，并非臉部模塊的一部分。為保障情感識別正常工作，圖像中的人臉至少要有48×48個像素。此算法并不局限于RGB數據，灰度數據同樣可行。利用SDK，你可以檢測并估計以下六種原始情感的強度。
頭像控制：SDK通過結合面部表情及78個標記點提供簡單的頭像控制功能。SDK提供動畫角色的示例代碼，使你的應用可以適應任何臉型并把用戶頭像動畫化。
應用場景：
3. 語音
主要包括語音命令和控制、聽寫、從文字轉譯成語音等功能。只支持英語，語音識別對成年人效果*好。
語音識別：分為命令模式和聽寫模式。命令模式需提前設定命令列表，特定命令綁定特定動作。聽寫模式內置了一個通用的詞典，包括50k個常用單詞。如果你覺得不夠用，也可以自己添加詞典中沒有的單詞。聽寫模式限時30秒。命令和聽寫模式不可同時開啟。
語音分析：SDK也可以根據文本動態的生成語音，由女聲讀出。
4. 背景移除
可以實時的移除背景并替換成新的背景。
應用場景：
5. 目標跟蹤
Metaio*3D目標跟蹤模塊提供基于光學的跟蹤技術，可以跟蹤視頻序列或場景中的目標物。Metaio工具箱可以訓練、創建并編輯3D模型，這些模型可以傳給各種目標檢測及跟蹤算法。
跟蹤技術支持平面的2D目標跟蹤、基于特征的3D跟蹤、CAD模型的基于邊界的3D跟蹤及即時3D跟蹤。
6. 增強現實
用音頻、視頻、圖像或其他信息來添加、增強或補充英特爾實感技術游戲的內容。
7. 三維掃描和打印
可以掃描、編輯、打印和分享三維物體，并與 3D Systems展開合作。
目前因特爾已經與騰訊合作創立游戲創新實驗室，推進實感技術，并打造了《軒轅傳奇》。與京東合作建立“京東因特爾聯合創新實驗室”，推出虛擬試衣、3D物品展示等，使實感技術落地電商平臺。同時因特爾自己也在不斷推出自己的實感技術產品。這不前兩天在北京推出其全新的第五代酷睿處理器家族，搭載此處理器的多款產品還配備了英特爾實感技術，看來這項技術很快就會遍地開花。
只要你的處理器是第四代及四代以后英特爾? 酷睿?處理器，操作系統滿足Microsoft* Windows 8.1（僅限64 bit），再外購一個英特爾? RealSense? 3D 攝像頭就可以下載SDK玩起來。估計不久聯想、戴爾、華碩、宏基、惠普等等搭載第五代酷睿處理器并內嵌因特爾3D攝像頭的超很本、二合一及一體機設備就會上市，那時玩起來會更爽。
資料來源：RealSenseSDKdesignGuidelinesGold
補充一點自己的實際體會：
1.基于結構光方案的深度相機，受光線影響很大，下午太陽光照進來，深度數據殘缺嚴重，這個就是所謂的激光散斑受強光淹沒掉了。
2.手勢識別中，靜態手勢，手型識別效果不錯。同時，對著深度相機方向的手勢運動，識別效果也不錯。但左右方向的運動手勢，效果很差。主要是視場角小，深度數據殘缺嚴重。
3.SDK可支持多個設備同時鏈接 。采用一臺設備，一個線程來管理維護。線程內部，SDK所有功能都支持。也就是多個設備互不影響。
4.手勢，采用22點骨架模型。大致的手型是可以捕捉的， 但是容易受到環境光影響，在準確獲取手部動作時還是考慮使用專業的數據手套設備，比如WONGLOVE數據手套。
5.手勢識別，在20~55cm范圍內可用。其實，整體來看，只能是小范圍運動情況了。
- 上一篇：UNITY3D使用C#腳本的幾種讀寫TXT文本文件的方法 2019/11/12
- 下一篇：realsense顯示限定范圍內的圖像物體 2019/11/11
