英偉達(dá)宣布推出全球尺寸最小的邊緣AI超級(jí)計(jì)算機(jī)Jetson Xavier NX,主要面向機(jī)器人和邊緣嵌入式計(jì)算設(shè)備。這款新品擁有比信用卡還小的外形,節(jié)能型Jetson Xavier NX模塊在運(yùn)行AI工作負(fù)載時(shí),可提供最高21 TOPS的服務(wù)器級(jí)性能,售價(jià)399美元,即將在2020年3月開始出貨。
英偉達(dá)推出更具競爭力的邊緣AI芯片產(chǎn)品,讓AI初創(chuàng)公司們面臨更大的競爭壓力。
英偉達(dá)邊緣AI芯片已經(jīng)有四個(gè)系列
今天發(fā)布的Jetson Xavier NX最大的亮點(diǎn)在于,與Jetson Nano尺寸相同(70X45mm)的情況下,能夠在功耗10W的模式下提供最高14TOPS,在功耗15W模式下最高21 TOPS的性能。另外,Jetson Xavier NX能夠并行運(yùn)行多個(gè)神經(jīng)網(wǎng)絡(luò),也能同時(shí)處理來自多個(gè)高分辨率傳感器的數(shù)據(jù)。
Jetson Xavier NX模塊具體的規(guī)格如下:
GPU:配備384個(gè) NVIDIA CUDA core和48 個(gè)Tensor core的 NVIDIA Volta,外加2個(gè)NVDLA
CPU:6-core Carmel Arm 64位CPU, 6MB L2 + 4MB L3
視頻:2x 4K30 編碼和2x 4K60解碼
攝像頭:最多6個(gè) CSI攝像頭(通過虛擬通道最多36個(gè)),12路(3x4或6x2) MIPI CSI-2
內(nèi)存:8GB 128位LPDDR4x;51.2GB/秒
連接:千兆以太網(wǎng)
OS支持:基于Ubuntu的 Linux
模塊尺寸:70x45mm
Jetson Xavier NX面向的是對(duì)性能需求高,但受到尺寸、重量、功耗以及預(yù)算限制的嵌入式邊緣計(jì)算設(shè)備,比如小型商用機(jī)器人、無人機(jī)、智能高分辨率傳感器(用于工廠物流和生產(chǎn)線)、光學(xué)檢測(cè)、網(wǎng)絡(luò)錄像機(jī),便攜式醫(yī)療設(shè)備以及其他工業(yè)物聯(lián)網(wǎng)(IoT)系統(tǒng)。
為了滿足這些場(chǎng)景,除了硬件外,軟件支持也非常重要。英偉達(dá)表示,對(duì)于已經(jīng)開始打造嵌入式計(jì)算機(jī)的公司,Jetson Xavier NX與所有Jetson系列產(chǎn)品一樣都可以在相同的CUDA-X AI軟件架構(gòu)上運(yùn)行。同時(shí),作為NVIDIA軟件架構(gòu)方法的一部分,Jetson Xavier NX由NVIDIA JetPack SDK提供支持。
NVIDIA JetPack SDK是一個(gè)完整的AI軟件堆棧,可以運(yùn)行復(fù)雜的AI網(wǎng)絡(luò),并用于深度學(xué)習(xí)的加速庫以及計(jì)算機(jī)視覺、計(jì)算機(jī)圖形、多媒體等。
Jetson Xavier NX的上一款產(chǎn)品是在今年3月的GTC發(fā)布,英偉達(dá)創(chuàng)始人兼 CEO 黃仁勛宣布推出售價(jià)僅99美元的Jetson Nano。根據(jù)官方的說法,借助CUDA-X,Jetson Nano可以提供472 GFLOPS的AI性能,功率低至5W。這款售價(jià)不高,能夠運(yùn)行所有AI模型的邊緣計(jì)算平臺(tái)發(fā)布后獲得了極大的關(guān)注。
Jetson Nano的上一款產(chǎn)品在去年發(fā)布。去年九月的日本GTC,黃仁勛公布了AGX陣容,包括Drive Xavier和新推出的Drive Pegasus,還有Jetson AGX Xavier。Jetson AGX Xavier的大規(guī)模計(jì)算性能可以處理機(jī)器人至關(guān)重要的測(cè)距、定位、測(cè)繪、視覺和感知以及路徑規(guī)劃。
Jetson家族更早的產(chǎn)品Jetson TX2在2017年推出,提供兩種運(yùn)行模態(tài):一種是MAX Q,這種模態(tài)下能效比能達(dá)到最高,是TX1的2倍,功耗在7.5W以下;另一種是MAX P,性能可以做到最高,能效比同樣可以做到前一代的2倍,功耗則在15W以下。
雖然推出的時(shí)間不同,但他們都具有一個(gè)區(qū)別于其他邊緣SoC的特點(diǎn),并行運(yùn)行多個(gè)神經(jīng)網(wǎng)絡(luò)。
邊緣端實(shí)力增強(qiáng),初創(chuàng)公司面臨更大生存壓力
英偉達(dá)在云端AI芯片市場(chǎng)獲益頗豐,其中非常重要的原因就是擅長并行計(jì)算的GPU能夠在在數(shù)據(jù)中心的各種模型中訓(xùn)練時(shí)體現(xiàn)出性能優(yōu)勢(shì)。雖然憑借云端AI芯片成為了眾多AI芯片初創(chuàng)公司想要超越的目標(biāo),但英偉達(dá)也有自己的困擾。首先,為AI優(yōu)化和設(shè)計(jì)的高性能GPU價(jià)格昂貴,讓不少開發(fā)者望而卻步。
其次,隨著AI算法的逐步成熟,云端AI訓(xùn)練芯片市場(chǎng)的增速將會(huì)放緩,英偉達(dá)想要保持業(yè)績的增長以及在AI市場(chǎng)的領(lǐng)導(dǎo)力,就需要向邊緣AI市場(chǎng)拓展,同時(shí),用云端加邊緣一體化的解決方案吸引更多客戶。
從面向終端和邊緣設(shè)備的Jetson系列芯片的布局來看,英偉達(dá)早已明白自己該怎么做。如今,Jetson系列芯片算力從0.5TFlops到32TOPS,應(yīng)用覆蓋小型嵌入式設(shè)備、智能汽車、工業(yè)設(shè)備等多種應(yīng)用。今天高性能小尺寸Jetson Xavier NX發(fā)布,讓Jetson家族能夠提供性能和功耗更加多樣的邊緣芯片,這背后就是為了滿足AIoT市場(chǎng)多樣化的市場(chǎng)需求。
不過,更應(yīng)該看到的是,英偉達(dá)如今不僅能夠提供云端和終端AI芯片硬件,其成功背后還有強(qiáng)大的軟件生態(tài)的支撐。據(jù)雷鋒網(wǎng)了解,Jetson系列已經(jīng)吸引了40萬的開發(fā)者,擁有了3000用戶。
這對(duì)于AI芯片的初創(chuàng)公司而言顯然不是一個(gè)好消息,由于云端AI芯片更加依賴生態(tài),芯片的設(shè)計(jì)難度也更大,所以大部分AI芯片的初創(chuàng)公司都選擇在邊緣端市場(chǎng),并且大都主要提供AI加速器。AI芯片初創(chuàng)公司們希望憑借獨(dú)特的架構(gòu)設(shè)計(jì)以及領(lǐng)先的性能指標(biāo)的芯片獲得市場(chǎng)的認(rèn)可。
然而,開發(fā)者在進(jìn)行AI算法遷移的時(shí)候往往需要使用AI芯片公司提供的編譯器等工具,這不僅會(huì)增加軟件開發(fā)者的使用門檻,還可能達(dá)不到預(yù)期的效果。因此,初創(chuàng)公司的AI芯片大部分都沒有得到非常有價(jià)值的應(yīng)用。
這就意味著,AI芯片初創(chuàng)公司們?cè)诋a(chǎn)品設(shè)完成并流片之后,如何找到合適的市場(chǎng)以及模式進(jìn)行商業(yè)化變得非常關(guān)鍵,特別是在資本寒冬以及AI芯片進(jìn)入落地戰(zhàn)的當(dāng)下。
顯然,AI芯片初創(chuàng)公司們面臨著更加嚴(yán)峻的生存挑戰(zhàn),一方面,無論是英偉達(dá)還是英特爾,他們?cè)谠贫撕瓦吘壎硕家呀?jīng)有競爭力很強(qiáng)的產(chǎn)品,在邊緣端,憑借軟件生態(tài)以及渠道的優(yōu)勢(shì),巨頭們的芯片更容易獲得客戶,甚至連擅長軟件的Google都推出了面向邊緣市場(chǎng)的Google Edge TPU。另一方面,AI芯片初創(chuàng)公司想要推出有競爭力的產(chǎn)品就必須不斷迭代和投入,這就需要資金的持續(xù)支持,但融資環(huán)境以及更加激烈的市場(chǎng)競爭又增加了融資的難度。
正如雷鋒網(wǎng)在今年3月份的文章中指出的,AI芯片的戰(zhàn)火已經(jīng)蔓延至邊緣端,Jetson Xavier NX的推出不僅是英偉達(dá)邊緣端AI芯片布局的完善和實(shí)力的進(jìn)一步增強(qiáng),更是邊緣端芯片市場(chǎng)競爭更加激烈的標(biāo)志。
AI芯片市場(chǎng)更加激烈的競爭有助于推動(dòng)AI的向前發(fā)展,但對(duì)于實(shí)力較弱的AI芯片初創(chuàng)公司而言,隨著芯片巨頭們更有競爭力產(chǎn)品的推出,以及像英偉達(dá)這樣的公司更愿意稱自己為系統(tǒng)公司,而非單純的芯片公司,這讓AI芯片初創(chuàng)公司面臨著更加嚴(yán)峻的生存挑戰(zhàn)。