AI芯片的初創(chuàng)企業(yè)大多先把產(chǎn)品瞄準(zhǔn)終端應(yīng)用,不過名為Wave Computing美國AI初創(chuàng)公司的產(chǎn)品就專注于數(shù)據(jù)中心的AI訓(xùn)練,并且擁有獨(dú)特的架構(gòu)。不僅如此,Wave Computing將宣布收購MIPS,后者是1984年創(chuàng)立于美國硅谷擁有MIPS IP授權(quán)和350多項專利的硅谷老前輩。
對于一家只有100名員工的初創(chuàng)企業(yè)收購另一家規(guī)模相當(dāng)?shù)墓韫取袄锨拜叀钡纳僖娦袨?,一些行業(yè)分析師稱Wave的舉措非常大膽。Moor Insights&Strategy的高性能計算和深度學(xué)習(xí)首席分析師Karl Freund表示:“對于小型的初創(chuàng)公司而言,在其第一款產(chǎn)品退出市場之前通過收購去擴(kuò)大市場的做法是非常大膽的。這是一個非常冒險的行為,但這是它需要的?!?/p>
雖然Wave Computing收購MIPS被認(rèn)為十分大膽,但事實上MIPS的DNA似乎已經(jīng)嵌入到Wave中,Wave的CEO Derek Meyer曾經(jīng)是MIPS銷售與營銷副總裁,運(yùn)營副總裁Mike Uhler是MIPS的首席技術(shù)官,工程副總裁是MIPS前工程主管Darren Jones,總法律顧問Wave Paul Alpern曾在MIPS擔(dān)任首席商業(yè)顧問。因此,與大多數(shù)并購需要漫長的調(diào)整時間才能制定路線圖不同,Wave的七位高管有四位都曾任職MIPS,所以Wave-MIPS團(tuán)隊并不需要太多的整合時間。 Wave計劃于本月晚些時候向第一批客戶交付其首批AI系統(tǒng),“在本月底之前,我們還將推出基于MIPS和Wave DPU的通用AI平臺的路線圖,最有可能是在舊金山的設(shè)計自動化會議(DAC)” Meyer說。當(dāng)被問及AI-MIPS將何時出現(xiàn)時,他承諾今年年底之前。
Wave 聲稱加速神經(jīng)網(wǎng)絡(luò)訓(xùn)練超GPU 1000倍
Wave Computing是加利福尼亞州坎貝爾一家專注于使用其大規(guī)模并行數(shù)據(jù)流架構(gòu)開發(fā)AI系統(tǒng)的創(chuàng)業(yè)公司,成立七年多之后,Wave最新的DPU多核架構(gòu)早先體驗項目終于開放。在去年的高性能芯片峰會Hot Chips上,Wave Computing的CTO以及DPU(Dataflow Processing Unit)首席架構(gòu)師Dr. Chris Nicol表示他們的產(chǎn)品DPU在加速神經(jīng)網(wǎng)絡(luò)訓(xùn)練上能夠超越GPU 1000x,并相信早期用戶試用后能夠證實他們對DPU的這一表態(tài)??紤]到GPU在目前深度學(xué)習(xí)訓(xùn)練市場的地位,這實在是很大膽的宣言。
據(jù)了解,Wave的DPU擁有16000個處理元件,超過8000個算術(shù)單元,不通過CPU進(jìn)行協(xié)調(diào),所有的核都以6.7GHz運(yùn)行(平均),使用粗粒度可重構(gòu)架構(gòu)。DPU有獨(dú)特的自定時機(jī)制(self-timing mechanism),當(dāng)沒有數(shù)據(jù)通過時,DPU進(jìn)入睡眠狀態(tài)。更通俗一點,DPU可以看做一種混合FPGA和多核處理器,能處理數(shù)千個元素的數(shù)據(jù)流圖的靜態(tài)調(diào)度。這個設(shè)計與其他深度學(xué)習(xí)硬件初創(chuàng)公司培育的產(chǎn)品大為不同。
Nicol指出,加速器架構(gòu)(特別是GPU)有兩個問題,一是加載新的內(nèi)核時有延遲,另一個是為了解決第一個問題使用MCU在運(yùn)行時將程序移入移出,程序本身決定何時與MCU通信,但芯片上還有一個程序緩存。最終的結(jié)果是,沒有CPU的架構(gòu)在一個offload model中能獲得更強(qiáng)的性能。軟件方面,Nicols說:“深度學(xué)習(xí)實際上是一個在深度學(xué)習(xí)軟件之上編程的數(shù)據(jù)流圖,在像我們這樣的處理器上運(yùn)行,可以在運(yùn)行時組裝數(shù)據(jù)流圖。例如,在運(yùn)行(runtime)時從TensorFlow獲取數(shù)據(jù)流圖,并在runtime直接將其轉(zhuǎn)換,在沒有CPU的情況下執(zhí)行,并映射到數(shù)據(jù)流芯片上。”
Wave Computing DPU
由于數(shù)據(jù)中心的訓(xùn)練目前主要采用GPU,并且這一市場目前由Nvidia主導(dǎo),因此Wave能否在數(shù)據(jù)中心的市場取得成功已經(jīng)影響Nvidia在這一市場的地位外界十分關(guān)注。作為硅谷較早進(jìn)入AI領(lǐng)域的二十多家企業(yè)之一,Wave也是較早將產(chǎn)品推向市場的企業(yè),Wave宣稱以創(chuàng)新的方式大大超越競爭對手。
被Imagination甩賣的MIPS能幫助Wave嗎?
Wave現(xiàn)在將自己定位為人工智能領(lǐng)域更廣泛的參與者,其技術(shù)和知識產(chǎn)權(quán)將進(jìn)入訓(xùn)練處理市場的邊緣。而MIPS已經(jīng)從高性能CPU轉(zhuǎn)向用于物聯(lián)網(wǎng)設(shè)備和其他低功耗應(yīng)用的高能效處理器。并且,盡管DNN數(shù)據(jù)中心訓(xùn)練市場如今很熱,但智能物聯(lián)網(wǎng)設(shè)備的未來將取決于DNN的高效邊緣訓(xùn)練或推理,因此Wave收購MIPS可以為這些應(yīng)用構(gòu)建平臺和許可IP,也就是可以將產(chǎn)品應(yīng)用從云端拓展到終端。
Wave收購MIPS的邏輯沒有問題,不過收購真的能幫助Wave在終端AI芯片上取得成功嗎?MIPS創(chuàng)立于1984年,2012年底,CEVA和Imagination Technologies為并購MIPS而搶標(biāo)時,許多業(yè)界觀察家們都納悶Imagination要拿MIPS來做什么,畢竟當(dāng)時這個年營收約6千萬美元的MIPS處于虧損狀態(tài)。當(dāng)Imagination最終以1億美元的壓倒性價格收購MIPS后,業(yè)界觀察家認(rèn)為這一高價收購顯示出MIPS CPU對于Imagination的未來發(fā)展很重要。
不過事與愿違,收購MIPS并沒給Imagination帶來預(yù)期的效果,反而還拖累了Imagination的業(yè)績。去年5月,Imagination開始出售MIPS,在不到五年的時間內(nèi)價值從1億美元縮水到6500萬美元。Tirias Research首席分析師Kevin Krewell認(rèn)為:“MIPS仍然是具有可擴(kuò)展性和成熟軟件生態(tài)系統(tǒng)的經(jīng)典CPU設(shè)計。因此盡管MIPS應(yīng)用在減少中,但仍然存在市場機(jī)會。”還有其他人認(rèn)為,MIPS CPU架構(gòu)存在一定的性能和效率優(yōu)勢,例如多線程技術(shù),MIPS也能在一些實時、功率敏感的應(yīng)用發(fā)揮重要作用,例如LTE、人工智能(AI)和物聯(lián)網(wǎng)(IoT)。更重要的是,據(jù)悉MIPS還有一支約200多名工程師的團(tuán)隊在開發(fā)CPU技術(shù),其中有些技術(shù)甚至比Arm所能提供的更為先進(jìn)——例如多線程。
但是,由于近來市場上都是Arm和x86架構(gòu),MIPS沒有太多生態(tài)系統(tǒng),許多分析師也提出現(xiàn)在還有誰想要買MIPS的疑問。不過在去年9月,Imagination宣布將公司賣給中資凱橋(Canyon Bridge),并同意將旗下MIPS CPU業(yè)務(wù)賣給Tallwood Venure Capital。雖然還不知道Wave收購MIPS的最終價格,但收購帶來的人才和專利對增強(qiáng)Wave的實力是毋庸置疑的,只是能否對其在終端的人工智能起到較大的作用仍需觀察。
IoT終端智能Arm延續(xù)輝煌還是被取代?
目前,Arm幾乎壟斷了移動設(shè)備的CPU IP市場,不過MIPS和RISC-V似乎要在物聯(lián)網(wǎng)智能終端大展身手。RISC(Reduced Instruction Set Computing),即精簡指令集系統(tǒng),與其對應(yīng)的是復(fù)雜指令集CISC,RISC指令數(shù)目和尋址方式更短,執(zhí)行效率更高,制造工藝簡單且成本低廉,最早誕生于80年代的MIPS主機(jī),不過隨后Arm采用的也是這一處理器架構(gòu)。
MIPS架構(gòu)的誕生要比Arm早幾年,起初MIPS和Arm的差距也不大,前者也占據(jù)了RISC架構(gòu)微處理器市場約30%的份額,但移動互聯(lián)網(wǎng)的興起時MIPS卻因為技術(shù)限制開始掉隊,而且學(xué)院派發(fā)展風(fēng)格也使得MIPS的商業(yè)進(jìn)程遠(yuǎn)遠(yuǎn)落后于Arm,當(dāng)然,MIPS最終被Arm打得潰不成軍還有許多復(fù)雜的原因。
不過在被Imagination收購之后也并沒有打算讓MIPS死磕手機(jī)市場,更多的是在可穿戴設(shè)備市場以及網(wǎng)絡(luò)設(shè)備上攻城略地,并且Imagination管理層認(rèn)為其疏于管理所以影響了MIPS的發(fā)展藍(lán)圖。但到了IoT時代,MIPS又有發(fā)揮其優(yōu)勢的機(jī)會。
OURS創(chuàng)始人兼CEO譚章熹近日也曾表示,智聯(lián)網(wǎng)的需求是高定制化、高模塊化、可擴(kuò)展化以及支持新的技術(shù),Arm架構(gòu)不允許加入新的東西,也不允許定制化和修改,并且還有專利授權(quán)費(fèi)。相反,技術(shù)上看,RISC-V 相比Arm架構(gòu)處理器功耗低 5-6倍、面積效率提升5倍,可以讓開發(fā)者有很多的自由度做一些特殊應(yīng)用的優(yōu)化,商業(yè)上看,RISC-V開源沒有專利授權(quán)費(fèi)用,對創(chuàng)業(yè)公司非常友好。因此RISC-V也是能和Arm媲美和競爭的架構(gòu),即使在IoT領(lǐng)域不替代Arm,RISC-V也將成為非常重要的玩家。
那么,RISC-V和MIPS是否在IoT智能終端替代Arm,或者至少成為重要玩家?