英偉達全球副總裁沈威：仍然堅信「GPU天生適合深度學習任務」
9月7日，由中國工程院信息與電子工程學部主辦、浪潮集團承辦的AICC中國人工智能計算大會在北京舉行，海內(nèi)外數(shù)十位知名專家分享了AI在互聯(lián)網(wǎng)、云計算、超算等眾多行業(yè)的創(chuàng)新實例。在現(xiàn)場，機器之能采訪到英偉達全球副總裁暨中國區(qū)企業(yè)事業(yè)總經(jīng)理沈威，機器人維修，與其就當前人工智能芯片市場以及英偉達的底氣展開了探討，沈威表示：「除GPU天生適合深度學習這一任務以外，英偉達的CUDA計算平臺是決勝的關鍵。」
不可否認，GPU為深度學習的大規(guī)模應用奠定了硬件基礎。然而，隨著人工智能時代的到來，深度學習技術專用芯片之爭也愈發(fā)火熱。芯片巨頭英特爾大量收購人工智能相關公司，研發(fā)人工智能專用芯片，站臺FPGA，并已與很多垂直領域的企業(yè)進行合作；谷歌研制了基于硬件定義編程架構的TPU；曾是英偉達重要客戶的微軟也開始為自己的數(shù)據(jù)中心研發(fā)基于FPGA的可重復編程AI芯片。此外，一些專業(yè)的人工智能公司，如科大訊飛等，也在研發(fā)適合自身業(yè)務的專用芯片。
GPU、FPGA、ASIC是AI芯片市場打得火熱的三種架構，其中GPU是當前的主流。與CPU相比，GPU在硬件架構上擁有更多的計算單元，使其成為AI芯片的天然選擇；FPGA即現(xiàn)場可編程門陣列，是一種軟件定義的架構，開發(fā)者可以通過編程定義片上單元的功能；ASIC代指為專門目的而設計的集成電路，將功能燒制到芯片上，適合較為穩(wěn)定的解決方案，且產(chǎn)品升級難度較大，但功耗較低。目前，F(xiàn)PGA和ASIC還處于試驗階段，有能力使用FPGA的人工智能廠家并不多，絕大部分的AI芯片市場依然被英偉達占領，生態(tài)的構建并不容易，F(xiàn)PGA與ASIC的AI之路也任重而道遠。
在其他廠家積極開拓新戰(zhàn)場時，英偉達仍然堅信「GPU天生適合深度學習任務」。9月7日，英偉達全球副總裁、中國區(qū)企業(yè)事業(yè)總經(jīng)理沈威在AICC上與機器之能就這一話題進行了討論。沈威認為，英偉達CUDA運算平臺是關鍵，CUDA讓GPU的計算能力得以釋放，讓普通的程序員也能用JAVA、C++等編程語言在GPU上工作。
以下為采訪實錄，機器之能做了不改變原意的整理：
人工智能芯片戰(zhàn)場愈發(fā)火熱，不論芯片廠商還是AI領域的垂直公司都在試圖搶占市場。這是是否英偉達的AI戰(zhàn)略造成影響？現(xiàn)在再提GPU是深度學習芯片的唯一霸主是否不再合適？
從2012年谷歌的李飛飛教授開啟ImageNet以來，我們很開心看到GPU在人工智能市場的接受度很高，同時我們也看到很多跟隨者。不過我覺得這是一件好事，首先，這意味著這些公司中的任何一家，www.tka.net.cn，對人工智能、深度學習這件事情都非常認同。不過我們在高性能運算、人工智能領域已經(jīng)投入了很多年，具有先發(fā)優(yōu)勢。從歷史的發(fā)展來看，深度學習為什么要用英偉達的GPU？因為深度學習與高性能計算關系非常密切，深度學習任務中涉及到大量的運算，這是英偉達非常擅長的事情。
剛才我們說的是硬件方面，硬件很多半導體廠商都在做。但他們都忽略了一點，就是平臺。我們的CUDA運算平臺從2006年開始開放，到現(xiàn)在已經(jīng)是第9代，CUDA將GPU的高性能運算能力開放給一般的程序員。雖然半導體工藝是與時俱進的，但如果沒有好的編程環(huán)境，技術人員們還是很難迎接這次深度學習的浪潮。這就間接回答了你的問題。不論哪家公司，可能他們在市場上也已經(jīng)有很長時間了，但我個人認為，它的編程語言還不能針對數(shù)據(jù)中心的海量數(shù)據(jù)進行更便利地編程。大家可能看到，在深度學習時代，英偉達進行了一次面向人工智能的轉型，但其實我們早已鋪墊好相關能力。
現(xiàn)在GPU、FPGA、ASIC這三種架構都能完成深度學習任務，你對這三種架構的優(yōu)劣勢作何評價？
深度學習主要分為線下訓練和線上推理，目前在線下訓練用戶無一例外地都在使用GPU加速他們的訓練過程。不僅僅是因為GPU的運算速度快，更重要是英偉達建立了一個完善的生態(tài)系統(tǒng)，我們提供了許多SDK來加速所有深度學習框架，并和這些框架深度集成，如cuDNN、NCCL、cuBLAS等。在線上推理方向，英偉達目前的方案是TensroRT加低功耗的NVIDIATeslaP4GPU加速器。現(xiàn)在國內(nèi)各大云服務提供商都在使用TeslaP4做線上推理，包括科大訊飛。
事實上，深度學習遠沒有成熟，每天都在變化演進、迭代，GPU目前還是最佳選擇。ASIC是一種專用芯片，它是為了某種特定需求而專門定制的芯片，目前還不能與GPU這樣擁有很成熟生態(tài)的通用芯片同日而語。FPGA的生態(tài)系統(tǒng)才剛剛開始，道路還很漫長。
英偉達在無人駕駛和智能家居方面推出了自己的專用芯片，是否意味著英偉達看重這兩個應用領域？更廣闊的例如金融、醫(yī)療方面為何沒有專用芯片的布局？
GPU天生解決深度學習問題，人工智能本身和人腦有很多類似的地方，機器人維修，需要眼睛看，腦子想。英偉達希望在GPU最擅長、最深耕的視覺運算上發(fā)力，因此英偉達在自動駕駛和嵌入式端布局了兩種產(chǎn)品。其他領域我們也非常地看好，金融、醫(yī)療、制造是國內(nèi)外爆發(fā)增長的幾個GPU應用點，在這些領域我們有很多的合作伙伴。英偉達處在整個IT生態(tài)圈中，我們必須要跟不同行業(yè)的公司進行合作。
目前英偉達的生態(tài)圈中，有哪些比較堅實的合作伙伴？
我們有不同層次的合作伙伴。一種是跟服務器廠商的合作，因為在硬件層面單單為用戶提供GPU，用戶是沒有辦法使用的，浪潮，曙光，華為等都是我們的合作伙伴；還有就是行業(yè)解決方案層面，在一個整機做好之后，可能會需要針對不同行業(yè)，例如醫(yī)療、制造業(yè)等等進行優(yōu)化，以適合客戶不同的應用場景，在這個層面科大訊飛、商湯都是我們的合作伙伴，我們叫SolutionPartner。
這些合作伙伴做得都很好，因為深度學習才剛剛開始，很少有人在用過CUDA開發(fā)環(huán)境之后說不喜歡英偉達。因為你不可能自己從零開始寫一些函數(shù)庫、優(yōu)化庫，我倒是很好奇，不用英偉達的人他們要怎么做。深度學習解決方案提供商們在算法和數(shù)據(jù)方面都有自己的努力，但是如果沒有我們GPU的加速，他們的更新迭代和開發(fā)速度就會大大降低，走向市場的周期也會被拉長，所以我們也是幫助他們更快走向市場的必不可少的要素。
現(xiàn)在有很多中小企業(yè)或高校實驗室不能負擔大規(guī)模的GPU集群，英偉達是否想要爭取這一部分市場？
其實我們也有關注到這一方面。我們和全世界很多大公司一樣，會和很多高校合作教育、培訓相關的項目，現(xiàn)在非常多高校在他們的計算中心里面有GPU集群，并且我們也有合作開設相關課程。另一方面，我相信大家也注意到了云計算的發(fā)展，現(xiàn)在國內(nèi)幾家領先的云服務廠商都已經(jīng)用到了英偉達非常多GPU，所以他們也提供非常多基于GPU的方案。對于不想自己買設備的廠家來說，我覺得云服務是一種選擇。云是一種趨勢，能夠更快捷地惠及新的開發(fā)者、新的初創(chuàng)公司。