同事們告訴 Sally Epstein,他們把客戶的「大腦晶片」(brain-on-a-chip)技術的影像處理速度提高了三個數量級時,她的反應和任何受過訓練的科學家一樣。這名生物醫學工程博士對同事們說,回去仔細檢查一下這個數字的真偽。
這個數字千真萬確,Cambridge Consultants 的多名研究人員設計出一套技術,利用 NVIDIA DGX-1 系統的 GPU,只要 300 毫秒便能處理好一個影像,而使用 Intel Core i9 CPU 來處理要花上 18 分鐘,足足快上了三千倍。
這項成果讓研究人員能夠使用法國新創公司 NETRI 的「晶片大腦」技術,即時看到神經元放電活動的影片。
「動物研究顛覆了醫學領域的發展,而這項成果成為研發新藥等領域進行測試活動的下一步發展方向。」Cambridge Consultants 策略技術部門主管 Epstein 表示。該公司為多間知名企業及 NETRI 這類新創公司開發產品和技術。
新創公司 NETRI 所設計的晶片具備承載神經組織的 3D 微流體通道,還加入一個帶有偏光鏡的 CMOS 攝影機感應器,以偵測單一神經元的放電情況。該公司希望這項精確影像技術,有助於加快發展出治療阿茲海默症等神經系統疾病的新療法。
面臨運算上的瓶頸
NETRI 的晶片能以每秒高達 1000 個畫面的速度產生出一億像素的影像,這相當於一百個以 120fps 運行的 4K 遊戲系統。除了產生出海量資料,它們還用到極度複雜的數學運算。
結果 NETRI 花了十二天來處理一秒鐘的錄影畫面,他們無法接受如此嚴重的延遲情況,轉而求助於 Cambridge Consultants 來突破這個瓶頸。
Cambridge Consultants 策略技術部門主管 Monty Barlow 表示:「事實證明,我們過去在科學與生物成像方面的成績有著重大意義。」NETRI 聽到處理速度提升了三千倍時,「他們相信我們,我們一開始反而還不相信自己創下的這個數字。」他笑著說。
利用數字、演算法和 GPU
Cambridge Consultants 的多名專家使用各種技術,將 NETRI 晶片的處理速度提高了三千倍,像是數學與演算法領域的專家使用高斯濾波器、多元微積分及其它工具的組合,以消除冗餘任務及降低峰值 RAM 需求。
軟體開發人員把 NETRI 的 Python 程式碼搬到 CuPy,利用 NVIDIA CUDA 軟體強大平行運算的優點。硬體專家則是優化了程式碼,以配合 GPU 記憶體,消除了 DGX-1 內部不必要的資料傳輸作業。
CUDA 效能分析器協助找出 NETRI 程式碼中的瓶頸和解決辦法。「NVIDIA 的工具讓我們能夠高效率地執行這項工具,我們由四名研究人員和多名專家組成的核心團隊,只用了不到一週的時間便完成這項工作。」Epstein 說。
Cambridge Consultants 期望日後能夠使用 DGX-1,進一步大幅提升程式碼的執行速度,以便利用雷射即時操縱神經元。研究人員還打算探索 NVIDIA IndeX 軟體,以協助看到神經元的活動。
與 NETRI 合作是 Cambridge Consultants 利用 DGX-1 的案例之一,他們另設有一處用於研究人工智慧的 Digital Greenhouse 設施。去年該公司還使用 DGX-1 開發出一款低成本高精度的結核病監測工具。