時(shí)間:2021年07月07日 分類:電子論文 次數(shù):
摘要:醫(yī)生通過內(nèi)窺鏡觀察的人體內(nèi)腔顯示為二維圖像,不能立體地展現(xiàn)內(nèi)腔環(huán)境中病灶、血管及鄰近組織的關(guān)系,而內(nèi)腔三維重建及可視化技術(shù)能夠清晰、全面地展現(xiàn)病灶及其他組織的三維形態(tài),更好地輔助醫(yī)生進(jìn)行精準(zhǔn)的手術(shù)判斷。在人體內(nèi)腔環(huán)境中的三維重建技術(shù)分為主動式測量方法、被動式測量方法兩種方式,進(jìn)而分類綜述了基于結(jié)構(gòu)光、飛行時(shí)間、雙目立體視覺、單目視覺的內(nèi)腔三維重建技術(shù)及發(fā)展現(xiàn)狀。然后,針對同時(shí)定位與地圖構(gòu)建(simultaneouslocalizationandmapping,SLAM)的內(nèi)腔三維重建法,分析對比了內(nèi)腔環(huán)境下的特征點(diǎn)檢測與匹配的發(fā)展、方法及特點(diǎn),最后對人體內(nèi)腔三維重建的難點(diǎn)和未來發(fā)展趨勢進(jìn)行了展望。
關(guān)鍵詞:內(nèi)腔三維重建;結(jié)構(gòu)光;飛行時(shí)間;雙目視覺;單目視覺;特征點(diǎn)檢測;特征點(diǎn)匹配
三維重建隨著時(shí)間的發(fā)展,經(jīng)過大量科學(xué)家的研究。已經(jīng)取得了長足的進(jìn)步。基于視覺的三維重建技術(shù)是計(jì)算機(jī)視覺的一個(gè)重要領(lǐng)域,該技術(shù)首先通過使用相關(guān)儀器來獲取場景物體的數(shù)據(jù)圖像,并對獲取的數(shù)據(jù)信息進(jìn)行分析處理,把真實(shí)場景刻畫成符合計(jì)算機(jī)邏輯表達(dá)的數(shù)學(xué)模型,重建出真實(shí)環(huán)境中物體的三維信息。該技術(shù)目前大量應(yīng)用于人工智能、自動駕駛、虛擬現(xiàn)實(shí)、安防監(jiān)控、運(yùn)動目標(biāo)監(jiān)測、行為分析和重點(diǎn)人群監(jiān)護(hù)等領(lǐng)域,同時(shí)因其具有速度快、顯示清晰、實(shí)時(shí)性好等優(yōu)點(diǎn),可以對如文物保護(hù)、游戲開發(fā)、建筑設(shè)計(jì)、臨床醫(yī)學(xué)等研究起到輔助的作用。微創(chuàng)手術(shù)是利用現(xiàn)代醫(yī)療器械設(shè)備穿過人體表面的微小創(chuàng)口在人體內(nèi)施行多人間接眼手協(xié)作的手術(shù)新技術(shù)[1]。
和傳統(tǒng)外科手術(shù)或早期的微創(chuàng)手術(shù)相比,現(xiàn)代微創(chuàng)手術(shù)具有操作精準(zhǔn)、出血量較少、患者術(shù)后恢復(fù)的速度較快等優(yōu)勢,因此日益受到歡迎,廣泛應(yīng)用在內(nèi)腔手術(shù)中。但是,外科醫(yī)生通過內(nèi)窺鏡視頻流的可視顯示找到目標(biāo)并執(zhí)行復(fù)雜的手術(shù),偶爾容易迷失方向、手眼失調(diào),難以通過將腹腔鏡視野與術(shù)前圖像進(jìn)行經(jīng)驗(yàn)匹配來確定病灶部位,易引起術(shù)中失誤。近些年,微創(chuàng)手術(shù)逐漸和計(jì)算機(jī)技術(shù)相融合,外科醫(yī)生利用手術(shù)經(jīng)驗(yàn)與圖像處理技術(shù)相結(jié)合,使用內(nèi)窺鏡系統(tǒng)對病灶區(qū)域進(jìn)行立體定位,打破了傳統(tǒng)手術(shù)的局限性[2]。
面對微創(chuàng)手術(shù)特殊復(fù)雜的環(huán)境以及臨床微創(chuàng)手術(shù)中實(shí)時(shí)性的要求,同時(shí)定位與地圖構(gòu)建(simultaneouslocalizationandmapping,SLAM)技術(shù)逐漸應(yīng)用于內(nèi)窺鏡視覺領(lǐng)域[35],由數(shù)字化成像設(shè)備采集到的人體內(nèi)腔信息,通過計(jì)算機(jī)建立三維內(nèi)腔模型,結(jié)合醫(yī)生視角、內(nèi)腔三維模型、患者體表三維形貌,生成內(nèi)腔圖像,能夠更準(zhǔn)確、真實(shí)地反映內(nèi)腔結(jié)構(gòu)及空間關(guān)系。在不影響醫(yī)生及手術(shù)環(huán)境的前提下,滿足普通微創(chuàng)手術(shù)中醫(yī)生對內(nèi)腔輔助觀察的需求。該技術(shù)在一定程度上降低心跳、呼吸、手術(shù)因素對非剛性內(nèi)腔表面的振動影響,進(jìn)而提高特征信息選擇和配準(zhǔn)的準(zhǔn)確度。再進(jìn)一步,醫(yī)務(wù)人員可以利用內(nèi)腔先驗(yàn)知識,從生物力學(xué)角度建立內(nèi)腔器官的運(yùn)動與形變模型,減少術(shù)中操作失誤,提高手術(shù)的準(zhǔn)確性與科學(xué)性。
因此,本文根據(jù)近年來的國內(nèi)外研究現(xiàn)狀對內(nèi)腔三維重建技術(shù)中的常用方法進(jìn)行了分類,重點(diǎn)針對內(nèi)腔環(huán)境下基于計(jì)算機(jī)視覺領(lǐng)域的三維成像方法的優(yōu)缺點(diǎn)和實(shí)際應(yīng)用中的局限性等問題,分析不同方法的重建效果與應(yīng)用場景,探究未來內(nèi)腔環(huán)境中的三維重建技術(shù)的發(fā)展方向。
最后,本文重點(diǎn)闡述了單目視覺SLAM技術(shù)1內(nèi)腔三維重建三維重建技術(shù)是對三維物體或者場景圖像描述的逆過程,利用數(shù)學(xué)公式根據(jù)二維影像恢復(fù)出物體表面三維信息的一種計(jì)算機(jī)技術(shù)。基于視覺的三維重建技術(shù)是利用相關(guān)設(shè)備獲取單視圖或者多視圖的圖像的圖像信息,結(jié)合圖像處理技術(shù)對其進(jìn)行處理、操作和分析,最后綜合視覺計(jì)算等技術(shù)獲取物體的三維信息[6]。因?yàn)榫哂谐杀镜土鎸?shí)感強(qiáng),全自動或半自動建模速度較快等優(yōu)勢,該技術(shù)成為一個(gè)極具潛力的熱門領(lǐng)域,在諸多方面有著很重要的應(yīng)用。
三維重建技術(shù)在醫(yī)學(xué)影像領(lǐng)域中,主要通過三維測量和實(shí)時(shí)重建將內(nèi)腔環(huán)境呈現(xiàn)給醫(yī)護(hù)人員,輔助醫(yī)護(hù)人員術(shù)中判斷,目前主要應(yīng)用在虛擬手術(shù)、術(shù)前規(guī)劃、牙科治療、整形及假肢外科、病灶診斷等醫(yī)學(xué)方面。內(nèi)腔三維測量技術(shù)可分為非接觸式測量與接觸式測量。接觸式測量的典型方法為探針法,即使用探針接觸物體表面進(jìn)行重建,但會對所接觸的物體表面造成一定的破壞或帶來組織變形等危險(xiǎn)情況,無法應(yīng)用到醫(yī)學(xué)微創(chuàng)手術(shù)當(dāng)中。鑒于人體內(nèi)腔三維建模技術(shù)需要針對狹小、特征缺乏的內(nèi)腔空間快速三維重建,有較多限制,目前主要應(yīng)用的是非接觸式測量,可分為主動式測量與被動式測量兩大類。二十世紀(jì)以來,國內(nèi)外研究者逐步根據(jù)光學(xué)三維測量技術(shù)的硬件配臵簡單、測量精度高、點(diǎn)密度高、速度快、成本低等優(yōu)點(diǎn),設(shè)計(jì)了主動測量法對人體內(nèi)腔進(jìn)行三維重建。
主動式測量方法是將光源投射到內(nèi)腔器官表面,然后通過內(nèi)窺鏡采集器官表面圖像并獲得掃描數(shù)據(jù),通過接收返回的光波來獲取物體的三維信息,從而重建內(nèi)腔三維模型。主要包括結(jié)構(gòu)光法、飛行時(shí)間法(timeofflight,TOF)等。被動式測量可以根據(jù)系統(tǒng)使用的攝像頭數(shù)量分為單目、雙目、三目等。在待測物體周圍的光照條件下,單目系統(tǒng)只利用一個(gè)攝像頭獲取待測物體的表面信息,以特征點(diǎn)為匹配基元進(jìn)行兩幀圖像間的匹配,為三維重建的過程做鋪墊。由于受人體內(nèi)腔復(fù)雜環(huán)境的限制,基于單目視覺法的三維重建技術(shù)成為主流研究方法。
2主動式測量方法
主動式三維測量方法主要包括編碼結(jié)構(gòu)光法和飛行時(shí)間法,前者是將特定的光線進(jìn)行投影,攝像機(jī)在待測物體表面探測到相同形狀光線的三維圖像,進(jìn)而通過光線的二維畸變信息得出人體內(nèi)腔表面的三維數(shù)據(jù);后者通過待測量物體在固定介質(zhì)中飛行一定距離所消耗的時(shí)間,從而進(jìn)一步獲得人體內(nèi)腔表面信息。
2.1基于編碼結(jié)構(gòu)光的內(nèi)腔三維重建
基于編碼結(jié)構(gòu)光法的三維重建運(yùn)用光學(xué)三角法的原理是將一幅或多幅編碼圖案投影到人體內(nèi)腔中,由內(nèi)窺鏡采集內(nèi)腔中投影得到的編碼圖像,結(jié)合三角法的數(shù)學(xué)原理將投影圖像與編碼圖案對應(yīng)點(diǎn)聯(lián)系起來,得到人體內(nèi)腔的三維信息。大量學(xué)者聚焦編碼方法以提高內(nèi)腔三維重建的測量精度、速度和準(zhǔn)確度。
3被動式測量方法
雖然TOF相機(jī)操作簡單,處理速度快,在遠(yuǎn)距離測量環(huán)境中具有較高的精度,但由于硬件條件的制約,目前市場上TOF相機(jī)易受高低溫、真空等內(nèi)腔環(huán)境因素的影響,三維重建的穩(wěn)定性不高。同時(shí)TOF相機(jī)讀取圖像不清晰會導(dǎo)致還原內(nèi)腔深度圖像精度較差。同時(shí)TOF相機(jī)應(yīng)用成本較高,故在內(nèi)腔環(huán)境下利用飛行時(shí)間法進(jìn)行三維重建的應(yīng)用較少。
雙目立體視覺系統(tǒng)模仿人類雙眼視覺的原理,通過放臵兩臺相機(jī)從不同的視角對目標(biāo)物體進(jìn)行觀測,捕獲同一個(gè)位臵下的左右兩側(cè)圖像,運(yùn)用三角測量原理獲得圖像特征的深度等信息進(jìn)行三維模型的建立。與其他三維重建技術(shù)相比,雙目立體視覺法不需要過于復(fù)雜的硬件條件,通過相對便捷的操作方法即可實(shí)現(xiàn)三維重建,在醫(yī)學(xué)圖像處理、機(jī)器人視覺、物理科學(xué)和物體參數(shù)提取等領(lǐng)域中占有重要的地位,是當(dāng)下三維重建技術(shù)中的熱點(diǎn)之一。 在實(shí)現(xiàn)雙目視覺法的整個(gè)過程中,立體匹配算法起到了關(guān)鍵作用,在內(nèi)窺鏡的應(yīng)用場景中,通過在兩個(gè)或多個(gè)觀察點(diǎn)之間尋找對應(yīng)關(guān)系,進(jìn)而獲得不同點(diǎn)之間的視差,實(shí)現(xiàn)內(nèi)腔三維信息投影,獲得內(nèi)腔三維模型。
2004年,Lau等人[29]針對傳統(tǒng)局部匹配算法的費(fèi)時(shí)且精度不高的不足,開發(fā)了一種表面跟蹤算法,通過調(diào)整局部曲面結(jié)構(gòu)的數(shù)值信息,從而直接推斷出心臟的三維結(jié)構(gòu)。該算法既具有強(qiáng)穩(wěn)定性且計(jì)算效率較高。同年,Stoyanov等人[3031]針對軟組織高光變形部分提出一種3D深度恢復(fù)方法,將圖像校正與約束視差配準(zhǔn)相結(jié)合,得到了腹腔的深度信息,同時(shí)保證了立體腹腔鏡運(yùn)動穩(wěn)定性。
特征匹配算法具有較強(qiáng)的抗干擾性、計(jì)算量小、速度快的優(yōu)點(diǎn)。20102013年,Stoyanov等人[3基于特征匹配通過結(jié)構(gòu)傳播對心臟表面稀疏重建。該算法首先組建特征點(diǎn)對的集合,然后獲得點(diǎn)對之間的視差數(shù)據(jù),然后估計(jì)每一幀的立體視差和連續(xù)幀之間的運(yùn)動信息,對軟組織表面鏡面反射和手術(shù)器具遮擋的影響具有較好的魯棒性。但是該方法得到稀疏的視差場,需要進(jìn)一步通過復(fù)雜的插值計(jì)算才能得到較為稠密的心臟表面重建場景。
2014年,Totz等人[35]在稀疏場景重建的基礎(chǔ)上提出采用迭代金字塔法進(jìn)行序貫局部匹配傳播,進(jìn)而得到準(zhǔn)稠密立體匹配的重建方法。與其他順序處理圖像金字塔方法相反,該方法從金字塔頂端開始垂直遍歷至底端,并從左到右進(jìn)行特征匹配以提高圖像分辨率。2016年,Penza等人[36]提出基于滑窗和Census變換特征的軟組織稠密三維重建方法,利用超像素方法對視差圖進(jìn)行細(xì)化。
該方法有效應(yīng)用于腹腔微創(chuàng)手術(shù)增強(qiáng)可視化,同時(shí)簡化了術(shù)前模型與術(shù)中部位之間的配準(zhǔn)過程。 基于特征匹配算法由于缺少致密的特征點(diǎn),無法重建出稠密的內(nèi)腔場景。基于特征區(qū)域的匹配算法通過在局部區(qū)域內(nèi)提取目標(biāo)進(jìn)而獲得致密的深度場景,但是匹配過程中目標(biāo)搜索策略速度低、耗時(shí)較長。2018年,Bilel等人[37]提出一種基于小波分析的雙目視覺法,將小波分析應(yīng)用到了內(nèi)腔圖像分析中,在立體匹配環(huán)節(jié)大大減小了計(jì)算量,提高了圖像的傳播速度,改善了圖像的分辨率。該方法通過小波分析處理左右視圖的小波子帶,根據(jù)雙目視覺法的原理對立體內(nèi)窺鏡圖像的局部特征進(jìn)行增強(qiáng)處理,為內(nèi)腔重建出更致密的三維圖像打下了基礎(chǔ)。
但是所提出的增強(qiáng)方法會增加鏡面反射分量,同時(shí)在立體內(nèi)窺鏡圖像受到較大的遮擋的情況下,可能會影響重建效率。在圖像特性不連續(xù)的區(qū)域中常出現(xiàn)圖像周圍特性有階躍變化的邊緣特征,特征匹配解決了抗噪與非連續(xù)區(qū)域處的誤匹配問題。2018年,Wang等人[38]提出一種基于高斯加權(quán)變換的特征匹配算法實(shí)現(xiàn)了內(nèi)腔三維重建。該算法針對邊緣和不連續(xù)區(qū)域,利用圖像熵和區(qū)域增長提取了遮擋導(dǎo)致的失配像素,與經(jīng)典的立體匹配算法相比,立體匹配的平均相對誤差縮小至8.48%,長度測量的平均相對誤差減少至3.22%,可以有效地利用內(nèi)窺鏡對人體內(nèi)腔進(jìn)行測量與重建。
雙目立體視覺技術(shù)具有抗干擾性能強(qiáng)、對環(huán)境要求不高、深度信息計(jì)算簡單的優(yōu)點(diǎn),從而在人體內(nèi)腔三維重建中得到應(yīng)用。但由于雙目立體視覺技術(shù)需要兩個(gè)攝像頭,并且對內(nèi)窺鏡直徑的大小有較高要求,同時(shí)在內(nèi)腔環(huán)境中可能出現(xiàn)遮擋器官或者視角受限等問題。視覺匹配和視差求取一直是雙目立體視覺的研究熱點(diǎn),在匹配的過程中得到的特征點(diǎn)較為稀疏且特征點(diǎn)匹配耗時(shí)長。所以目前主要是在工業(yè)內(nèi)窺鏡中得到廣泛應(yīng)用,在醫(yī)用手術(shù)內(nèi)窺鏡中的應(yīng)用有限。
運(yùn)用CT技術(shù)進(jìn)行臨床診斷可較快定位患者病灶,進(jìn)行及時(shí)有效的治療,因而將常規(guī)CT與三維重建技術(shù)相結(jié)合,有利于更加準(zhǔn)確的定位病灶位臵,揭示病灶特征與組織之間的關(guān)系。進(jìn)一步,將內(nèi)窺鏡三維重建技術(shù)與CT三維影像重建信息的融合,在圖像處理平臺進(jìn)行進(jìn)一步的優(yōu)化處理,使診斷的準(zhǔn)確率得到有效提升,對疾病的發(fā)現(xiàn)與診斷具有重要意義,對術(shù)前完整性評估具有良好價(jià)值。
4.優(yōu)化三維重建算法運(yùn)算量
運(yùn)算量大是人體內(nèi)腔三維重建技術(shù)現(xiàn)在面臨的主要難題,過大的運(yùn)算量占用了較長的時(shí)間,導(dǎo)致三維重建的效率低下。例如,雙目視覺方法由于受光照、圖像特征等因素的影響,在潮濕、昏暗的內(nèi)腔環(huán)境下對特征匹配的要求更加嚴(yán)格。為了優(yōu)化后續(xù)的位姿估計(jì),需要剔除誤匹配點(diǎn)對,造成算法計(jì)算量劇增,對實(shí)時(shí)應(yīng)用場景提出較大挑戰(zhàn)。由于曝光不均、噪聲等因素通常會引起的病灶區(qū)數(shù)據(jù)漏檢、邊界模糊等問題,進(jìn)行3D重建前通常會通過精確超分辨率重建進(jìn)行預(yù)處理,也需要大量運(yùn)算進(jìn)行迭代計(jì)算等等。人體內(nèi)腔三維重建技術(shù)的運(yùn)算量過大對重建的實(shí)時(shí)性造成很大影響,如何合理利用計(jì)算機(jī)技術(shù),采用GPU計(jì)算、網(wǎng)絡(luò)云計(jì)算等多種方式,節(jié)省時(shí)間,提高運(yùn)行速度及效率是解決該問題的關(guān)鍵。
計(jì)算機(jī)論文范例:應(yīng)用計(jì)算機(jī)視覺數(shù)據(jù)探究大棚作物生長趨勢
5結(jié)束語
人體內(nèi)腔三維重建技術(shù)已經(jīng)得到廣泛的應(yīng)用,并隨著科學(xué)技術(shù)的進(jìn)步在不斷的更新迭代,其方法對臨床醫(yī)學(xué)產(chǎn)生了深遠(yuǎn)影響。醫(yī)學(xué)圖像的三維重新在臨床診斷中發(fā)揮著越來越重要的作用,也在一定程度上加速了臨床醫(yī)學(xué)的發(fā)展進(jìn)程。本文在分類介紹了人體內(nèi)腔環(huán)境下的三維重建方法并給出相應(yīng)的評析,此外本文還闡述當(dāng)前三維重建算法存在的問題并對未來的研究工作進(jìn)行了展望,但是這些方法想要應(yīng)用到實(shí)際中都還要更進(jìn)一步的研究和考察。因此,人體內(nèi)腔三維重建領(lǐng)域中,結(jié)合優(yōu)化算法進(jìn)行病灶精確定位、結(jié)合多傳感器融合圖像信息進(jìn)行內(nèi)腔表面精準(zhǔn)三維重建、將三維重建方法與已有技術(shù)相結(jié)合等研究方向,都需要進(jìn)行更加深入細(xì)致的研究。
參考文獻(xiàn):
[1]M.Rosen,J.Ponsky.Mininmallyinvasivesurgery[J].Endoscopy,2001,33(4):358364
[2]費(fèi)保蔚.計(jì)算機(jī)輔助外科手術(shù)(CAS)的方法和進(jìn)展[J].國外醫(yī)學(xué)生物醫(yī)學(xué)工程分冊2015,20(4):624631FeiBaowei.ThemethodanddevelopmentofcomputeassistedSurgery[J].JBiomedEng.2015,20(4):62431.
作者:吳海濱,徐若彤,王愛麗,,于曉洋,巖堀祐之,趙藍(lán)飛,劉赫