在神經網路掀起巨浪之前,Bill Dally 便一直在從事這方面的工作。
NVIDIA 首席科學家 Dally 是深度學習領域的知名人士,擁有150多項專利且研究成果豐碩,過去曾擔任過史丹佛大學電腦科學系主任一職。
Dally 與 AI Podcast 主持人 Noah Kravitz 一同分享他對人工智慧的反思。他在這個領域已經深耕了數十年,GPU 推動的深度學習讓這個領域呈現蓬勃復興的狀態。他說人工智慧「將改變人類生活的每個層面。」
當前人工智慧革命的根源
Dally 在1980年代開始研究神經網路時,他對 Kravitz 說:「我們當時的電腦比現在的電腦慢上十萬倍。」
強大的 GPU 促成了當前的人工智慧革命,但是要花費很多心力才能達到這個目標,像是 NVIDIA 的 Ian Buck 在2006年推出 CUDA 程式語言。
「GPU 擁有運算資源,而 CUDA 解開了它的封印。」Dally 說。
當 GPU 運算吸引大家注意時,Dally 邀約深度學習領域知名人士吳恩達(Andrew Ng)共進早餐。吳恩達當時正在研究一個如今眾所周知的計畫,即使用非監督式學習來偵測網路上的貓咪圖片。
這項研究在 Google 雲端平台上使用了1.6萬個 CPU。Dally 建議他們合作使用 GPU 來完成這項工作,所以 NVIDIA 開始邁入深度學習的領域。
Dally 表示未來的神經網路發展有兩大重點領域:建立更強大的演算法以提高推論的效率,還有開發使用更少資料便能完成訓練的神經網路。
他說技術方面的進步具有「進化和革命性的組成部分。我們在研究裡試圖專注在革命性的部分上。」
NVIDIA 鞏固研究文化
Dally 在2009年加入 NVIDIA 擔任首席科學家之際,研究團隊只有十幾名科學家,現在則是突破200人。
Dally 的目標是讓 NVIDIA 研究人員在未來會對公司產生重大影響的領域裡,擁有不凡成就。他表示必須在一流期刊發表重大研究,此舉會提供同儕審查的回饋意見,而這是控制品質的關鍵。
「這不是什麼了不起的經歷,卻會讓你更進步。」他說。
本週 NVIDIA 的研究人員在鹽湖城舉行的電腦視覺及圖型辨識年會上,共發表了十四篇入選報告及海報,其中七篇為口頭報告。
https://soundcloud.com/theaipodcast/ai-bill-dally-nvidia-research
如何收聽 AI Podcast
可通過 iTunes、DoggCatcher、Google Play Music、Overcast、PlayerFM、Podbay、Pocket Casts、PodCruncher、PodKicker、Stitcher 及 Soundcloud 收聽 AI Podcast。要是這裡沒有列出你愛用的收聽管道,歡迎來信請告訴我們:aipodcast@nvidia.com。