網路和科技公司如何運用 GPU 讓你享受到深度學習技術的優點

作者 George Millington

GPU 協助研究人員引發了深度學習革命浪潮,讓電腦擁有超凡的運算能力。

它們在產業標準 ImageNet 測試基準上創下突破性的結果、用在 Facebook 的 「Big Sur」深度學習運算平台,還在多個領域裡帶領深度學習技術加快出現重大進展的腳步。

GPU 成為訓練深度神經網路的利器,這些系統讓電腦能分辨圖案和物體,在某些情況下,分辨的表現比人類還出色(請見《透過 GPU 加快人工智慧運算速度:嶄新的運算模型Accelerating AI with GPUs: A New Computing Model》一文)。

訓練這些神經網路只是開端。

結束訓練後,這些神經網路會用「推論」,即將資料進行分類而「推論」出結果。這得在受過訓練的神經網路上運行數十億次的運算,以分辨出已知的圖案或物體。透過語音來搜尋網路資料,或是自動駕駛車偵測行人都是運用此類技術的例子。

效能和能源使用效率

GPU 在這些方面的表現也是極為出色。

一篇日前發表的白皮書說明在使用 AlexNet 神經網路進行影像分類作業時, NVIDIA 的 GPU 與 Tegra SoCs 如何提供較 CPU 更優秀的效能和省電表現。

我們會不斷提高將 GPU 用在深度學習推論方面的優點。

以新推出的 NVIDIA GPU Inference Engine(GIE)為例,它是一套用在部署應用程式的高效能神經網路推論解決方案。協助開發人員針對網路、嵌入式和自動化應用項目,以最佳化的方式導入受過訓練之神經網路模型。它在 NVIDIA GPU 上還能提供速度最快的推論表現。

大型科技和網路業者投向 GPU 的懷抱

優異的效能與省電,讓大型企業者將 GPU 加速運算技術用在各種推論工作上。

Twitter 平台上每天分享著數百萬個照片、影片和 GIF 動態圖片,該公司的 Cortex 團隊使用 GPU 加速深度學習技術來即時處理海量內容,並且協助人們發現適合自己的內容。

Twitter Cortex 的工程部門經理 Kevin Quennesson 說:「比起 CPU,使用 NVIDIA GPUs 讓我們減少資本支出的費用,並且在數小時的時間內便能完成訓練 Twitter 最先進模型的作業。」

不只 Twitter 這麼做。

中國最大的公共雲端平台,也是阿里巴巴集團的雲端運算業務「阿里雲」,採用我們的 Tesla GPUs 大幅提升將深度學習技術用在影像辨識/分類,還有語音辨識方面的表現。

中國最大也是最受歡迎的電子商務平台京東,使用 GPU 加速深度學習技術來打造線上客服機器人 JIMI,協助消費者解決線上購物服務的問題。

如需更多 GPU 加速深度學習相關資訊,請至我們的網站

特色圖片來自 Rock1997 – Own work, GFDL, https://commons.wikimedia.org/w/index.php?curid=15642389