訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
地平線張永謙:邊緣計算時代 軟硬結合是AI“芯”成敗關鍵
獲取產業訊息零時差!立即訂閱電電公會電子報。

邊緣側智慧設備的大規模爆發,讓資料成為如今的AI晶片領域最大的挑戰。事實上,截止目前,99%的資料都是沒有被經過智慧化處理或者是結構化處理的,可以說都是垃圾資料。如果把這一部分資料送到雲端進行智慧處理,未免會付出太大的代價,其中不光是傳輸頻寬,還有雲端為處理這麼多海量資料所付出的代價。

另一方面,5G大潮已經在中國開始落地,5G對於單位面積之內的設備的接入數量,包括接入頻寬又比4G高了一個量級,這也會進一步加劇邊緣側資料和比較有限也比較難以實現的骨幹網處理能力之間的矛盾。

邊緣側的AI“芯” 軟硬結合至關重要
在邊緣側做快速智慧處理大量資料,是當下主攻AI晶片和計算晶片領域的玩家們集中攻堅的難題。地平線張永謙表示:“邊緣側的AI晶片現在已經成為市場非常搶手的產品。不說全球,即便是在中國,做AI晶片的公司也有50-100家,對外宣稱他們在做AI晶片。而地平線從成立之初到現在,對於AI晶片,我們的看法和傳統晶片公司的看法是非常不一樣的,我們的理念首先是軟硬結合。傳統的半導體講的幾個參數無疑就是PPA:功耗、性能和成本。智慧時代,光靠這幾個參數是不夠的,還需要更多的參數綜合的能量什麼是好的AI晶片。”

首先,目前市場上能夠看到的,基本都是在大力宣傳單位面積下的功耗,以及晶片能所提供的峰值的計算能力。比如,一款晶片宣稱是1T或者是4T,這個還不夠,就如同一個處理器,它在做大部分處理工作的時候,處理單元是空閒的,這個只是空耗和性能的浪費,張永謙表示:“我們要看第二個重要指標,就是在峰值算力典型場景的計算情況下的有效利用。有效利用率之後還不夠,因為現在要面對的是AI場景,這個場景其實是非常複雜的,還要再看在有效的計算能力輸出的情況下,你能達到對複雜場景處理的效果。把這幾個參數相乘,才能衡量邊緣側AI晶片最客觀的指標。要達到一個好的鞭策側AI晶片的指標,能讓邊緣側的計算性價比、能耗比更好,地平線的思路是必須軟硬結合。地平線的晶片在設計之初,是先有軟體,再有硬體。本質上是基於未來主流智慧場景做的預判,在這個預判基礎上會設計演算法架構,以及針對於晶片的編譯器和指令級,包括我們要考慮片上存儲等和軟體結合非常緊密的方面。把這幾個點聯繫在一起,在這個基礎上設計硬體(晶片),圖靈獎獲得者說過一句話,蘋果是這個理論最好的踐行者,地平線也是這個理論最好的踐行者,在邊緣AI晶片上。”
地平線在晶片設計之初,一開始就是軟硬結合的思考。張永謙告訴記者:“比如地平線的一款處理器,在沒有做任何優化的情況下,對720P圖像做AI處理,它的計算資源利用率可以達到33.9%,每秒處理9.36幀,比通用GPU處理器比沒有做優化的利用率高不少,即便如此,在邊緣計算上仍然是不能滿意的。用編譯器處理過之後,大家就可以看到,中間的彩色條是處理單元,上下是存儲單元。在沒有經過軟硬結合優化前,計算單元是被不停的打斷,需要頻繁的讀取外部的存儲,頻繁往裡輸資料。經過軟硬結合的優化之後,計算的有效利用率被大大提高了,計算單元利用率可以達到85%。因為我們大大降低了跟外部存儲的交換頻率,它的幀率處理速度是24幀/秒,效率得到大大提升,這是我們在AI邊緣側怎麼做好的理念,就是軟硬結合。也正是因為這一點,過去40年人類的快速發展重要退守就是摩爾定律,但是摩爾定律更多是強調著硬體創新,是工藝。我們的理念是在傳統摩爾定律即將走到盡頭的時候,通過軟硬結合的方式可以繼續推動摩爾定律,在下一個20年仍然快速的發展。”

以AI之力從底層賦能 破除AIoT時代的五大挑戰
AIoT是很大的名詞,其中包含了百行百業。因此,它的場景是大量碎片化的,碎片化的挑戰難度非常高,即便是行業裡巨無霸,不管是中國的五十強還是世界五百強,行業裡大量的巨頭面臨這個挑戰時仍然很難面對,每個市場的量都不是特別大,但是場景又很碎片化,中間的價值如何得到體現?

其實很多時候仍然還只是暖場。面對這麼碎片化的情況下該怎麼做?張永謙認為:“我們如今看到非常多的挑戰:1.AI產品形態種類非常多。有攝像頭、帶屏設備、機器人、智慧家電、邊緣側計算設備。這麼多AI產品形態如何的產品化,並實現很好的AI能力?非常不容易。2.圖像和場景的效果。線下AI面臨的挑戰是每個場景不可複製的,今天解決方案也好、場景也好,在這裡可以很好的輸出結果,但是換了一個天氣、換了一個場景,很可能就不靈了。怎麼樣把方案做到更加普世化?這是非常大的挑戰。3.怎麼樣快速的開發上層智慧應用,真正把AI能力服務落地。4.硬體挑戰。我們在落地的過程當中,行業裡面非常多的客戶原來並不是做硬體的,他們是服務行業的,可能是軟體服務,但是AI是直通下游買單的用戶。現在行業裡面遠遠不止是邊緣側,原來做硬體的廠商朝著這個方向發展,很多硬體廠商在進化成行業解決方案提供商,也就是說,既做產品,同時又去做背後的服務行業軟體。還有更多的是原來在行業裡做軟體的,甚至是做系統集成的公司,因為他們有很好的客戶基礎,離下游的場景也非常近,也迫切希望把智慧化的產品做出來,再跟原有的能力結合。大家從四面八方沖到市場來吃通場景,怎麼樣快速把硬體做出來?這是很多創業公司甚至是老牌公司巨大的挑戰。5.如何做到完整的系統集成。地平線退出旭日1.0的時候也沒有意識到這麼多挑戰,就是在外面推廣AI晶片,包括基礎演算法。後來發展不行,怎麼解決呢?我們把解決方案做得更加重。首先是怎麼應對多樣化的產品形態。我們經過思考,挑選了其中3種可能是在未來2-3年最先落地、量最大的產品,最先是智慧RPC、帶屏近距離交互產品和可以克服前端不確定性的邊緣計算核,我們選擇了這三種智慧產品的形態作為開發解決方案的入手點。選取了之後再就是軟體架構,並編成統一的框架,方便我們做解決方案的開發,也能讓開戶在不同的產品形態上快速的遷移,同時支援端和邊緣。”
對於AIoT的市場,地平線的態度是以提供非常強大的AI能力集,在AIoT落地過程當中,我們經過思考最先落地還是以人為本的場景。

地平線秉承的理念是底層賦能,在底層賦能的上面是下了非常多的功夫,我們並不僅僅是對外宣稱的AI晶片公司,更本質是演算法+晶片,軟硬結合的底層,包括解決方案服務客戶。在面對非常多的行業落地的應用、項目等機會的誘惑下,我們公司也是堅持一個理念,就是我們不做行業應用,並不和所賦能的合作夥伴、客戶競爭,就是把底層的東西做得更好,然後更好的賦能他們,讓AI特別是邊緣側的AI實現落地,最後實現普惠AI的效果。

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。