訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
從 NVIDIA 全力投入人工智慧上,台灣可以從黃仁勳身上學到些什麼?
數位時代James Huang
獲取產業訊息零時差!立即訂閱電電公會電子報。

公司轉型對所有公司來說都不容易,我們可以從一個硬體起家、主力是遊戲市場的 NVIDIA 一連串轉型佈局學到些什麼?

相對於多數發展人工智慧的公司而言,NVIDIA 是一個很不一樣的存在。

輝達從視覺化硬體設計解決方案起家,目前領域上可以說得上來,正在投入人工智慧,特別是與演算法、應用相關的巨無霸科技公司,除了 Intel、AMD 這樣的老牌對手(?)(當然一票 FPGA 與 ASIC 也是,不過有些公司更忙著做礦機)或 Samsung、Apple 這類主要面對消費市場的大廠外,主要多如 Amazon、Microsoft、Google、Facebook、Softbank、百度、阿里巴巴、Naver(LINE) 或上週剛發表新產品的獵豹移動,這類以軟體、網路服務起家,滿手工程師與數據,又很會募資的巨無霸。當然,我們也沒忘記鋼鐵人 Elon Musk 的 TESLA,一家以能源與移動終端軟硬體整合解決方案為目標,但對他們來說,人工智慧應用只是其滿足市場需求的一個手段而已。

作為 GPU 領域的霸主,持續投注在任何可以使用 GPU 的領域是必然的營運策略。我們去年就已經說過,一道無心插柳的產品 CUDA,加速了機器學習模型訓練,進一步帶動多年來困著電腦科學家與工程師們,突破機器學習與深度學習門檻。GPU 運算的暴力美學,加上海量數據與雲平台、資料中心連串的基礎建設,帶來了 AlphaGO 打敗棋王,做到我們曾以為不可能的任務。一夜之間,人工智慧彷彿帶來了無限可能,從 rule based 起家的 Apple 的 SIRI,到啟發式關連圖的 OK!Google,甚至知道你很多秘密的 Alexa;進一步帶起人工智慧、深度學習、機器學習等領域的學術研究、業界開發應用。黃仁勳在 GTC 2018 就提及,從 2005 年 GPGPU 開始加速卷積神經網絡(Convolutional Neural Network, CNN)的運算,到 2012 年 Imagenet 比賽後開始爆紅,這 6 年來,學術領域針對各種不同類型的問題,提出了至少 500 種類以上的複雜網絡框架,多數框架複雜而美麗,負無數的框架或學術猜想,更需要非常大量的運算。

NVIDIA 創辦人兼 CEO 黃仁勳於 GTC 2018
James Huang 攝影

這波人工智慧熱潮,結合學術研究開發與人工智慧新創投入、加上大公司跳海;進一步帶動了運算需求,推動全球對於 GPU 的渴望。但除了產品被拿去當礦機,NVIDIA 究竟如何看待人工智慧浪潮,由如何耕耘市場?我們應如何看待這家公司?又能學到些什麼?

提供或補充各種軟體框架,積極滿足深度學習開發者需求

對於這些人工智慧應用來說,從學界到業界,最缺的就是懂演算法、會開發、會訓練、又最好還可以懂專業領域知識的運算人才。整個行業裡,開發者的來源除了花大錢挖角,就得自行培養或把各個學校或研究單位的實驗室當成農場去找人。GTC 的海報論文區就彷彿貼了很多新鮮肝的招聘單,你只要認真在海報論文區現場偷聽這些學生或工程師回答讀論文者的提問,就不難發現他們開始交換名片。許多求才若渴的單位派人到現場觀察,如同棒球場邊的球探,到現場來挖絕世寶

CUDA 作為透過 GPU 加速各項演算運算的基礎設施,在一年內由 45 萬註冊使用者增加到 82 萬註冊使用者是非常驚人的數字。根據 2017 年 LinkedIn 所提供全球關於 AI 領域的技術人才分布報告,全球 AI 領域的從業者數量也才約 160 萬人左右,就算 CUDA 的註冊使用者多有重複,或許多僅是一次性下載嘗試,不做複雜開發的使用者。這 800 萬的下載總量都意味著捕捉到多數對 GPU 加速演算法開發有興趣的人們。作為免費午餐的 CUDA ,對現今投入人工智慧領域的所有機構而言,就像是演算法開發技術人才的嗅覺標籤一樣有效。

對開發者來說,一款演算框架容易上手的程度、周遭工具集/愛好者社群的支援程度、容易讓模型資料或訓練資料跨在不同演算框架之間、容易找到新開發者持續維護演算程式都是選擇演算框架的重點。 Google 所推的 Tensorflow、Amazon 支持開源的 MXnet、Facebook 挖角 UC Berkley 賈揚清(Yangqing Jia),積極開發的 Caffe 2 甚至 H2O.ai 等在開發者社群平台 StackOverFlow 、Quara 甚至知乎討論群都各有所好。NVIDIA 推出的 TensorRT 直接積極找各家整合框架,透過共同開發最佳化讓 GPU 足以發揮全效。

NVIDIA 創辦人兼 CEO 黃仁勳於 GTC 2018
James Huang 攝影

一般而言,人工智慧應用還分雲(資料中心)與端(終端裝置,如手機、穿戴式裝置或 IoT 設備等)兩部分。NVIDIA 在這裡也積極佈局,除推出 NVIDIA GPU Cloud,整合主流雲計算服務,如 AWS、GCP、阿里雲等,方便使用者透過簡易介面快速佈署演算至不同資料中心/雲設施外,也與 arm 達成協議,將自身的人工智慧加速演算架構智權開放整合至 arm 的 IoT 解決方案 Project Trellio 中。

但,對軟體開發者或商業產品開發者而言,這樣就夠了嗎?NVIDIA 一連串的投入與開發替開發者打下了最重要的幾個開發門檻,意味著在人工智慧開發領域裡做了基礎的造橋鋪路,但橋歸橋路歸路。整套工作流程仍有許多部分仍待整合。微軟才剛推出方便 Windows 使用者不需要跨平台進行機器學習模型開發的 WinML,NVIDIA 雖隨即做了支援整合,但還得看使用者買不買單。方便不具備高度程式經驗的產品開發者,自行訓練深度學習模型的流程式軟體才剛起步(比較知名的例如 Deep Cognition 的 Deep Learnign Studio 與 IBM 的 Waston Studio);更別提整理資料,試算表(例如 Microsoft Excel 或 Google Spreadsheet)等級的工具可無法滿足複雜多樣的海量數據需求。

黃仁勳在 GTC 2018 的主題演講中提及,雖然許多人提到深度學習運算可以以 FPGA、ASIC 等方式進行加速,但根據 NVIDIA 經驗,他知道要從頭到尾整合這些東西從不簡單。從一個例如自動駕駛的問題,就算在電腦科學與電機領域裡,就需要數個領域專家的整合,才能提出一個堪用的結果,更別提好用了!GPU 本身是很耗能沒錯,但也正隨著硬體技術(此指半導體製程)與軟體應用(此指指令集與演算加速架構)配合在進化。自駕車用系統的快速迭代演進就是最好的例子。

軟帶硬,滲透各家分享未來運算市場

所以,看似在每個重要市場或應用領域都提出對應方案的 NVIDIA,面對人工智慧、機器學習或深度學習的海量運算市場,是否可說是前方晴朗無雲?別忘記藍色運算巨人 Intel 仍在全球的資料中心市場與智慧財產權佈局上具備了無可批敵的本事,近來縱有執行長賣股疑雲,Intel 仍在人工智慧應用市場積極佈局;發展不夠快,就用投資或併購的方式積極前進,除了最知名的 mobileeye 收購案,眼光雪亮的讀者不妨試著研究看看 Intel Capital 那手中漂亮的一籃子投資組合。

雲計算市場就更有趣了,搜尋、廣告巨人 Google 絕對不是省油的燈,在 AlphaGo 攻克深度學習的聖杯後,除了軟體端推出 TensorFlow 與 AutoML,也在自家的資料中心投資下更多功夫,組織硬體團隊自行設計晶片、委託晶圓代工商生產自家的 TPU (Tensor 處理器)。Facebook 也宣稱和 Intel 合作開發自己的晶片放在自家的資料中心,更別提 Tesla 與 Apple 原本就具備開發終端裝置晶片的能力,也都投注資源在研究終端人工智慧應用運算晶片。

對端運算市場來說,除部分超大型公司已經有非常具體的應用與出海口(有足夠的市場需求量,足以支撐設計開發與生產晶片所需要的成本),因此有能力自行開發晶片。大部分的公司可能都將採行因應產業需求而特化設計過的晶片組,例如 NVidia 只針對自動駕駛需求特化設計的 Drive 系列,與符合一般綜合需求的 NVIDIA Jetson TX2 (這塊領域有極多廠商,包含開放專案競爭)。

NVIDIA DGX-2 與 TESLA V100
James Huang 攝影

但,我們卻可見 NVIDIA 在硬體的商業策略彈性。除積極與各家雲廠商合作,將自身的 GPU 解決方案(DGX系列)裝到自家資料中心,也協助這些雲計算平台針對 GPU 運算提供專用的入口、開發者指南、教學資源、甚至跨平台佈署的 NVIDIA GPU Cloud 工具。幫助這些平台在自家生態系還不健全時拉攏開發者,但又給開發者更大的彈性來避免各家雲計算廠商對使用者 lock-in。NVIDIA 也同時選擇性地在幾個人工智慧將有巨大突破的市場投注軟硬體資源。NVIDIA 選擇將自身用於自駕系統的 DLA 架構直接與 arm 合作開源架構也是一個有趣的決定,透過這個架構,聯合市場教育深度學習開發者在推論所選用的 TensorRT(一個深度學習演算框架所需推論用的編譯器),來面對另一個市場聯盟提出 RISC-V 對物聯網 + 人工智慧系統單晶片(IoT + AI SoC, 台灣多稱 AIoT SoC)市場的挑戰。

從黃仁勳的言談可見,NVIDIA 目前視自動駕駛為人工智慧領域的聖杯。他認為一個可以有效運作的系統,足以替代人在任何時候(就算是系統已經過載或錯誤)都可以有效處理任何駕駛情況,是一個非常困難,但值得 NVIDIA 傾全力進攻破解的難題。從傳統的電腦科學領域來說,它集結了電腦視覺(Computer Vision)、視覺辨識、自動控制的整套控制鏈與邏輯設計、機器學習中的模型預測、邏輯判斷等超級複雜的各項問題,而且必須能夠即時運算處理,保證系統的穩定與安全。Drive Sim 自動駕駛模擬解決方案就是好例子,整合多項不同技術,方法論上可能足以解決一部份自動駕駛測試的問題。

我們可以從黃仁勳身上學到些什麼?

作為 NVIDIA 的創辦人兼 CEO,沒有超人的熱情不可能將公司發展至此。許多與會者就提及,見黃仁勳演講彷彿一場秀,在秀裡黃仁勳就是 NVIDIA 的超級業務員,他愛自家產品、愛團隊、愛開發者。言談不斷稱自家產品內外設計有多漂亮、價格有多便宜划算,在主題演講上,黃仁勳就不斷強調:「買越多(GPU),省越多!(The more you buy, the more you save!)」;邊發表產品邊直接點名團隊成員全名:「啊!愛死你們了!」也是他自始自終的習慣;對美妙的技術讚不絕口,「天啊!這麼快!」喜歡任何開發者用絕妙點子更快、更好地解決問題。可見得他花盡所有力氣,整合全 NVIDIA 的資源,就是要滿足終端市場。

身為代工王國,也號稱要發展品牌的台灣,就算常見發表會上可見老闆親自端出產品,你也很難見到台灣企業老闆能夠真的瞭解整個產品的各個部分是如何組成、怎麼製作的,甚至發表投影片也只是基本的行銷設計,不是專業、流暢的連串投影片,更別提真正勞苦功高、發展產品的團隊成員們了。可以直呼這些成員本名,意味黃仁勳介入產品發展甚深,對所有細節知之能詳,甚至也對神經網絡研究領域的新發展抱持好奇持續學習;整合多影片、直播甚至不同畫面,在兩小時發表會順暢的投影素材,也足以代表老闆本人的美學品味、口說技巧與市場嗅覺。

NVIDIA 創辦人兼 CEO 黃仁勳於 GTC 2018
James Huang 攝影

在人工智慧市場趨勢發展上,你可見黃仁勳以高度的活力,全心投入這家公司的轉型進展。10 年轉型不意味著放棄,但 NVIDIA 推動 GPU 架構演進的力道已從遊戲玩家為主體的電腦視覺市場需求,轉至平行運算市場需求。縱然發表會後股價不升反跌,卻可見各家研究機構的分析師對其最重要營收來源:遊戲給予中立正面評價,多數機構對 NVIDIA 所提出在人工智慧的深度佈局賦予公司的成長方向也給予高度肯定。

圍繞著 GPU 運算,黃仁勳很清楚地為 NVIDIA 擘劃了許多支成長引擎,每塊垂直領域都有重點發展,但又同時多方佈局。成熟市場如遊戲(Gaming)平台與仍在成長中的專業視覺應用(設計、建築或 AR/VR 等,稱做 Provisiualization)是 NVIDIA GPU 傳統的應用領域。因應人工智慧運算市場發展出的高效能運算(HPC)、雲計算(Cloud)與資料中心事業,自動駕駛(Automotive)與機器人(Robotics)則仍待成長中,光是資料中心的潛在市場規模就從 2020 年將預期有 300 億美金,到 2023 年則預計將成長到 500 億美金。

這樣的轉型不是沒有風險。黃仁勳提及,十年前,這 4 個市場都相對很小,就算這兩年好運,市場因新遊戲如大逃殺(Battel Royale)、絕地求生(PUBG)而猛烈成長,更多人希望分享影像,尤其是遊戲影像。加上全球約 10 萬人左右的人工智慧學者,選用最普及容易入手的 GPU 來組成高效能運算(HPC)設備,加上虛擬貨幣如不想被 ASIC 控制的以太坊等而讓 GPU 炙手可熱;但可見垂直領域的每個市場都持續擴張,NVIDIA 也在每個市場都有斬獲,且輝達在每個領域的市場份額都還不算大,加上摩爾定律(moore's law)在 10 年內對 GPU 依然有效,讓黃仁勳對 NVIDIA 充滿信心。

眾多垂直領域中,輝達長期看好自動駕駛市場

有些人質疑在昨日 GTC 2018 主題演講中所發表的 DGX-2 與 NVSwitch,認為其比 DGX-1 多了一倍 GPU,但不是直接在硬體架構上做整合,而是另外做一個 NVSwitch 來連結兩倍於 DGX-1 的設備,此舉造成 DGX-2 的能源效率是 DGX-1 的 2.5 倍左右,並不符合黃仁勳自己強調 GPU 能夠合理使用能源效率的原則。黃仁勳為此做出辯解:「沒有人叫我們做 NVSwitch,就如同沒有人要我們做很多事一般。」他說,「我們很確定人工智慧研究需要使用高效能運算,因此研究者會想要很大的 GPU,但整個市場有多大還很難說,我們只能確定因為有人需要,所以我們提出這樣的解決方案來滿足他!」黃仁勳最後還不忘強調:「再者,你用不到 10 倍的價格買 DGX-2 ,就可以得到超過 10 倍 DGX-1 的效能!所以還是買越多,省越多啊!」

NVIDIA DGX-2 與 TESLA V100
James Huang 攝影

許多人關心 Uber 的自駕試驗造成第三人死亡事件將成為自駕市場的重大風險,黃仁勳嚴肅地表示:「老實說,Uber 的自駕系統並沒有使用 NVIDIA 的任何產品,但根據工程準則,在 Uber 事件後不到一天,NVIDIA 自身就全面叫停自駕系統路試。」黃仁勳說:「整個產業都在等 Uber 這起事件的報告,也希望從中學到更多經驗。但,就他所認知,在 NVIDIA 合作的 300 多個合作夥伴中,每家車廠對自動駕駛的開發都可說是在飛奔!」黃仁勳強調自駕系統要能改變世界的最終要素有三:1. 技術要繼續改進,2. 產品也要能繼續改進,並且 3. 使用者要能接受技術。「第三點是最重中之重!」黃仁勳說。

根據 NVIDIA 目前對於自駕系統設計的經驗,他們已經知道整個自駕系統不只是一個深度學習演算框架而已。以目前的設計,整個自駕系統已經有超過 100 個不同的演算法在其上運行,許多演算法並不是深度學習、機器學習等人工智慧領域的產物,整個自駕系統可說是一個軟體定義運算的系統(Software Defined Computing)。為此,黃仁勳認為這個系統非常值得一個專為系統設計的 ASIC,如 NVIDIA Xavier 這樣,將一個 GPU 加上一個 DLA 包在一起,做成一顆 SoC(System on Chip),並通過以往都只有低階汽車電子零件才能通過的 ASIL D 認證裝置(一個 ISO 26262 安全認證標準,讀者請不妨想像將一個小型超級電腦通過複雜的環境測試),來保證這個自駕系統的功能安全性。

面對中國崛起,NVIDIA 期待一個連結的世界

近來中國在人工智慧市場進展神速,看似 NVIDIA 將迎來一個廣大的市場,但其中可能也會有許多潛在對手,但黃仁勳並不這麼看待。他表示,中國市場已經佔有 NVIDIA 30% 的市場份額,NVIDIA GPU 在中國同樣民主化了所有人對高效能運算的需求;同時,NVIDIA 也在中國擁有超過 3000 名員工、並同樣以自身的 IP、技術、產品透過交換、授權、買賣等方式支持在地人工智慧公司的發展與成長。「我們就是希望自身產品能夠用簡單使用越好!」黃仁勳表示「只要整合、最佳化到最多人使用的工程流程,就能讓我們變得更好!」,他認為全球現在所有的科技供應鏈與產品已經無法區分彼此,「你手中的任何一支智慧型手機同時都在台灣、中國、南韓、日本甚至美國開發與生產,沒有一個國家可以被排除在這個網狀市場中!」黃仁勳間接透過譬喻,強調國際貿易市場合作的重要性。

Toyota 測試中搭載 Drive PX 2 的自駕車系統(以 Lexus 為載台)
James Huang 攝影

我們曾說過,NVIDIA 就如同 55 歲黃仁勳剛過青春期的第三個孩子,正隨著人工智慧市場的進展猛烈成長;但這樣的發展也不是沒有隱憂。一個如今已發展規模破萬人的科技公司老闆,對所有主力市場、產品開發與行銷介入甚深,需要的是過人的精力與相對能和諧合作運作的團隊。黃仁勳與 NVIDIA 高層團隊雖樣樣不缺,但所有重點轉型策略全有賴創辦人為主角積極推動,不禁令人想到另一個矽谷知名例子:蘋果的 Steve Jobs。轉型會造成公司的巨大不平衡,現有產生現金流的團隊不一定能夠得到較多資源,未來市場的團隊雖有極大資源,但在商業開發與產品路線上,卻也可能受到原有產品線的束縛。這些問題都有賴高層毅力與 CEO 持續的決心。一旦公司失去這個角色,不代表公司將不繼續成長,卻為這個組織的未來劃上一個問號。

但黃仁勳對此深具信心,對自己的公司成長飛快,且已經超過萬人,但多數管理團隊仍是 25 年創業以來逐漸網羅的同一群人。「我們有共同的策略、文化與合作認知,我們甚至很容易從email的字裡行間,或面對面的眼神中,直接讀到對方的心!」黃仁勳強調,「這 25 年來,我確定我讓自己外表保持得還可以,不像是有些同事已經慢慢變老,但我很確定我們整個團隊都變得更圓融、更聰明!」黃仁勳笑說,「透過這樣的夥伴關係,允許我們將管理流程高度壓縮,所以還能維持一樣的效率!」面對矽谷巨無霸科技公司的一連串醜聞(例如臉書對劍橋分析的資料外洩事件),黃仁勳也在學習謹慎「我不知道在大公司感覺如何,但我知道現在 NVIDIA 還很小。」他說:「但我們所有人應該謹慎面對每件事,對個人隱私資料也是!」

根據黃仁勳持續播種,不停插柳,在公開演講對自己的營收來源著墨不深,卻使盡全力展示未來轉型的宣示,你該怎麼看待 NVIDIA 呢?從這兩年的趨勢來看,不妨想像它未來除了會是一家繼續賣卡賣機器的公司,最後還可能會不小心因為深度學習,而擁有大量智財,靠授權、租賃等不同商業模式繼續前進的有趣企業吧!

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。