NVIDIA Research 在 ICLR 推動深度學習向前發展

作者 Lisa Lahde

NVIDIA 的研究團隊去年秋天因為運用深度學習技術,誕生出具有可信度卻又是虛構的名人臉部照片而打響了知名度。他們將在下週的國際學習表徵會議(ICLR)上介紹他們是怎麼做到這一點。

該研究團隊是 NVIDIA Research 的五支團隊之一,將出席4月30日至5月3日在溫哥華舉行的 ICLR 大會,分享他們推動深度學習領域發展的心得。NVIDIA Research 團隊現有兩百餘人,在全球11個地點致力於推動機器學習、電腦視覺、自動駕駛車、機器人、圖形及其它領域的技術發展。

同樣在 ICLR:NVIDIA 深度學習學院將提供免費的線上訓練課程,還有機會贏得 NVIDIA TITAN V(更多資訊請見下方)。要是你錯過了今年的 GPU 技術大會,還能在我們的展位看到多項最新技術。

今年是第六屆的 ICLR 大會,專注於最新的深度學習技術。NVIDIA 為大會贊助商。

不僅是一張好看的臉

在面孔生成研究裡,NVIDIA 芬蘭實驗室的一支隊伍發展出一種訓練生成對抗網路(GAN)的方法,可以產生出較現有技術更棒的結果。研究人員將這項方法用來產生出有著幾可亂真的人臉,展現出他們的成就。

「人的外表帶著神聖不可侵犯的感覺。要在不使用真人演員作為參考的情況下,在電影裡創造五官具有可信度的數位角色,是一件極具挑戰性的事。而藉由深度學習與本文,我們正逐步拉近這個差距。」ICLR 報告的主要作者 Tero Karras 說。

神經網路以不同方式混合性別、髮型和臉形等特徵來誕生出新的人臉。在以下的影片裡展示了隨機改變這些特徵的結果,表現出無限可能的組合。

Karras 表示這項研究讓遊戲開發者能更便捷地建立五官逼真的數位人物。他還聽說有一支隊伍想把這項研究用於幫助臉盲症患者,這是一種無法識別臉部的神經疾病。

研究人員將於週一上午在 ICLR 上討論《Progressive Growing of GANs for Improved Quality, Stability, and Variation》這份文件,介紹他們如何獲得如此傑出成果的因素與技術背後的原理。

海報展示

我們在 ICLR 的海報展示活動:

  • Deep Gradient Compression: Reducing the Communication Bandwidth for Distributed Training》 – 在許多機器上訓練神經網路可以有效率地訓練深度和大型模型,然而這需要用到昂貴的高頻寬通信網路。這項研究讓人們可以在廉價的商用乙太網網路上,使用更多 GPU 更快訓練模型。
  • Sparse Persistent RNNs: Squeezing Large Recurrent Networks On-Chip》 – 工程師加入了一種方法,可以更有效率地在 GPU 上運行遞歸神經網路,搭配稱為模型修剪(model pruning)的技術來降低神經網路的複雜性,結果大幅加快了模型的執行速度,而且能在每個 GPU 上部署更大型的神經網路。
  • Efficient Sparse-Winograd Convolutional Neural Networks》 – 卷積神經網路需要用到極為龐大的運算量,很難將其部署到行動裝置上。研究人員調整了 Winograd 卷積演算法(一種用於減少處理 CNN 所需計算次數的方法),以便能搭配網路修剪技術(一種減少參數和提高神經網路速度的方法)。除了減少了計算量,結合這兩種方法也使得研究人員能更積極地縮小網路規模。
  • Mixed Precision Training》 – 混合精度訓練法利用 NVIDIA Volta TensorCores 來加快訓練速度和減少對記憶體的需求,如此一來就能訓練更大型的模型。本文中描述的技術可以在不更動任何超參數的情況下,使得模型精度符合單精度結果。

獲得免費訓練課程,贏得 TITAN V

NVIDIA 深度學習學院(DLI)將提供專屬的免費線上訓練課程給 ICLR 的與會者,還有機會贏得 NVIDIA TITAN V。請至 NVIDIA 的展位領取免費通關卡。前200名參加線上課程的學員將獲得價值100美元的線上訓練點數。查看賽事規則。週二與週三下午4到5點請光臨 NVIDIA 展位,有機會見到我們的 DLI 大學大使。

同樣在我們的展位:可以實際操作我們一些最新的技術、跟深度學習專家交談,或是與我們的招聘團隊見面。