人工智慧、肩膀、膝蓋和腳趾:新創公司為骨科醫生打造深度學習工具

作者 Isha Salian

傳統的開放式手術要有較大的切口,醫生方能看清楚手術區域,不過有愈來愈多的外科醫生選擇採用微創手術,靠著微型攝影機即時傳入的影像畫面進行手術,這項技術雖然有切口較小的優點,攝影機所能拍攝到的畫面範圍卻也有限。

而在病人身上可以見到微創手術所帶來的顯著優點,像是出血量小、較不疼痛,也更快便能復原。

微創手術對於外科醫生的操作技術,有著更高的要求,他們得在狹窄的視野下,心靈手巧地操作細小器械進行手術。

位於舊金山的新創公司 Kaliber Labs 正在開發人工智慧模型,即時解讀這些從攝影機傳入的影片,以幫助外科醫生進行微創手術。

該公司的深度學習模型可以辨識及測量病人的解剖和病理情況,並且在手術室的螢幕上顯示出重點資訊及治療建議。

「手術由一連串步驟組成。我們在整個手術過程中透過人工智慧提供指導給外科醫生,降低他們的認知負荷、提高手術的準確性,也減少不確定性。」Kaliber Labs 的創辦人暨執行長 Ray Rahman 說。Kaliber Labs 也是 NVIDIA Inception 虛擬加速器計畫的成員之一。

這間新創公司還在開發一款深度學習模型,可以在手術後對手術影片加上註釋,以便更容易向患者進行說明,讓他們更清楚自己的狀況。

Kaliber Labs 使用 Keras、PyTorch 及 TensorFlow 深度學習框架來開發人工智慧模型,並且使用搭載 Tensor CoresNVIDIA RTX GPU 進行訓練和測試,將訓練時間縮短了五倍以上。

Kaliber Labs 使用 JetPack SDK 和 NVIDIA Jetson TX2 人工智慧運算裝置,在網路邊緣進行推論作業,以求開發出能在手術室中即時處理輸入影片的工具。開發團隊打算在 NVIDIA Jetson AGX Xavier 上運行這些已經部署的產品,以降低延遲情況,進而達到即時處理的目標。

運用人工智慧關注手術室裡的情況


在進行微創骨科手術的過程中,外科醫生靠著監視螢幕來查看手術區域
(照片由美國空軍提供,由一等兵 Kevin Tanenbaum 攝影)

Kaliber Labs 目前的人工智慧工具主要用於骨科手術,包括肩部、膝部、臀部及腕部的手術。關節鏡或微創關節手術是最常見的骨科手術,用於治療許多疾病和運動傷害。

手術一開始,Kaliber Labs 的深度學習工具便會使用輸入的影片內容,辨識正在進行的手術類型和正在使用的攝影機畫面,接著與特定手術類型有關的人工智慧模型便會即時提出指導內容。

外科醫生要先對病人的解剖和病理情況進行初步評估,再決定手術的步驟。這間新創公司的人工智慧模型便在這個過程中派上用場,加入電腦視覺演算法來進行辨識和測量,像是在手術中發現肩臼部位出現 20% 的骨缺損情況。

這種即時量化分析可以從更客觀的角度,提供更深一層的資訊給骨科醫生,以便他們在手術中作出決定。

Kalib Labs 到目前為止已經完成了肩部手術演算法的開發作業,正在致力於開發膝關節和髖關節手術的模型。該公司使用數千小時的實際手術影片來訓練其深度學習工具,這些影片先由人工智慧演算法進行處理,刪除影片中任何與患者及外科醫生個人身份資訊有關的畫面。

這間新創公司日前與一間大型醫療設備公司簽署了一項協議,將建造一架搭載 Jetson Xavier 的人工智慧邊緣機器,這項機器可以跟手術室裡的設備進行整合,在手術過程中提出指導。為了在手術過程中即時發揮效果,Rahman 說網路邊緣的 GPU 是個必不可少的要素。

「我們運行了一連串模型來檢測患者的解剖和病理資訊,還運行了多種測量演算法。我們必須在30毫秒以內的時間裡即時對影片進行推論,外科醫生才不會察覺到延遲的情況。」他說。

NVIDIA Jetson 平台兼具高 GPU 運算效能及低耗電量的優異表現,達成在網路邊緣進行運算的目標。Rahman 表示 Kaliber Labs 選擇使用 Jetson Xavier 嵌入式模組,原因在於它佔用的空間很小,又能方便進行系統整合。

這間新創公司的 CNN 二元分類模型在 Jetson Xavier 上運行,使用 NVIDIA TensorRT 軟體來優化推論作業,延遲速度僅1.5毫秒。

用於紀錄:手術後分析影片內容

外科醫生通常會在手術後對患者進行簡報,讓患者看一下手術的關鍵照片。對患者來說,這些照片或影片片段其實沒什麼價值,他們沒有受過訓練,少了前後脈絡及各種解剖結構標籤的說明,很難理解手術到底發生了什麼情況。

Rahman 說:「患者及其家屬想知道外科醫生在手術過程中做了什麼,又看到了什麼,可是沒有人有空慢慢手動為整支影片加上註釋,這要花上數小時到數天的時間,費用又極為高昂。」

Kaliber Labs 正在開發的一套人工智慧模型,可以分析及為手術影片加上標籤,以說明手術中的每個步驟。讓患者觀看帶有註釋的手術過程影片,能夠滿足患者及其家屬的好奇心,也讓他們更清楚手術過程的一舉一動。

這種手術紀實畫面也有助於正確進行醫療編碼及有效計費。

本文主圖顯示一名骨科醫生正在進行前十字韌帶重建手術(照片由美國空軍提供,由一等兵 Kevin Tanenbaum 攝影)。