6月23日，鯤云科技在深圳的產(chǎn)品發(fā)布會(huì)發(fā)布全球首款數(shù)據(jù)流AI芯片CAISA，其定位于AI終端推理，目前已完成量產(chǎn)。

　　根據(jù)官方介紹，CAISA搭載了四個(gè)CAISA 3.0引擎，具有超過1.6萬個(gè)MAC(乘累加)單元，峰值性能可達(dá)10.9TOPs。該芯片采用28nm工藝，通過PCIe 3.0×4接口與主處理器通信，同時(shí)具有雙DDR通道，可為每個(gè)CAISA芯片提供超過340Gbps的帶寬。

　　鯤云援引第三方數(shù)據(jù)顯示，搭載CAISA芯片的加速卡僅擁有英偉達(dá)同類產(chǎn)品 1/3的峰值算力，但是其通過95.4%的芯片利用率可以實(shí)現(xiàn)3倍左右的的實(shí)測(cè)性能。

　　大部分廠商的AI芯片均為指令集的計(jì)算架構(gòu)，此次鯤云科技發(fā)布的CAISA芯片則為數(shù)據(jù)流架構(gòu)。鯤云表示，數(shù)據(jù)流架構(gòu)AI芯片提供較之于指令集架構(gòu)AI芯片更高的計(jì)算效率。指令集的計(jì)算架構(gòu)要求芯片的計(jì)算和控制是分離的，而控制過程中模塊間的數(shù)據(jù)移動(dòng)以及數(shù)據(jù)計(jì)算的過程中會(huì)存在等待周期，這會(huì)使得芯片的計(jì)算模塊存在閑置情況，這也是現(xiàn)有芯片利用率普遍低于30%的原因。而數(shù)據(jù)流架構(gòu)依托數(shù)據(jù)流流動(dòng)次序控制計(jì)算次序，采用計(jì)算流和數(shù)據(jù)流重疊運(yùn)行方式消除空閑計(jì)算單元。在實(shí)測(cè)中，數(shù)據(jù)流芯片可以與同峰值算力的指令集芯片表現(xiàn)出更高的芯片利用率以及更高的實(shí)測(cè)算力。

　　本次發(fā)布會(huì)鯤云科技也帶來了AI計(jì)算平臺(tái)星空加速卡X3以及X9。

　　星空X3加速卡是搭載單顆CAISA 芯片的數(shù)據(jù)流架構(gòu)深度學(xué)習(xí)推斷計(jì)算平臺(tái)，為輕量化規(guī)格，X3加速卡因此可以與不同類型的計(jì)算機(jī)設(shè)備進(jìn)行適配，包括個(gè)人電腦、工業(yè)計(jì)算機(jī)、網(wǎng)絡(luò)視頻錄像機(jī)、工作站、服務(wù)器等?；贑AISA芯片的X3加速卡動(dòng)態(tài)功耗為20W左右。英偉達(dá)邊緣端旗艦產(chǎn)品Xavier 在深度學(xué)習(xí)網(wǎng)絡(luò)ResNet-50, YOLO v3中實(shí)測(cè)獲得的芯片利用率分別為21.1%、6.8%，而星空X3加速卡的結(jié)果為92.3%及82.4%，遠(yuǎn)高于前者?？傮w算力表現(xiàn)可以達(dá)到Xavier的1.48-4.12倍。

　　星空X9加速卡為搭載4顆CAISA 芯片的深度學(xué)習(xí)推斷板卡，峰值性能43.6TOPS，主要滿足高性能場(chǎng)景下的AI計(jì)算需求。實(shí)測(cè)性能方面，X9在ResNet50可達(dá)5240FPS，與T4性能接近，在YOLO v3、UNet Industrial等檢測(cè)分割網(wǎng)絡(luò)，實(shí)測(cè)性能相較T4有1.83-3.91倍性能提升。最優(yōu)實(shí)測(cè)性能下，X9處理延時(shí)相比于T4降低1.83-32倍。

　　盡管數(shù)據(jù)流架構(gòu)顯著的提高了芯片算力的利用率，但是指令集的架構(gòu)支持各式各樣的數(shù)據(jù)組合，具有較強(qiáng)的通用性。CAISA目前工藝水平為28nm，這在晶體管數(shù)量、處理速度、溫升等方面較之于更加先進(jìn)工藝的芯片將會(huì)存在的劣勢(shì)。

　　鯤云科技認(rèn)為此次發(fā)布的芯片新品的核心競(jìng)爭(zhēng)力在于提供了更高的算力性價(jià)比。

　　AI芯片產(chǎn)品不同于SaaS等其他企業(yè)服務(wù)賽道，用戶衡量產(chǎn)品的好壞與否，基本是通過芯片的計(jì)算能力、通用性以及價(jià)格來進(jìn)行判斷。CAISA芯片的競(jìng)爭(zhēng)路線不是依靠更大的芯片面積和制程工藝提供更高的峰值算力，而是通過數(shù)據(jù)流動(dòng)控制計(jì)算順序來提升實(shí)測(cè)性能。

　　終端推理芯片賽道上，頭部廠商英偉達(dá)也部署了邊緣側(cè)Xavier芯片以及云端旗艦加速卡T4。鯤云科技創(chuàng)始人兼CEO牛昕宇表示，芯片賽道的競(jìng)爭(zhēng)是簡(jiǎn)單直接的，要素?zé)o非就是算力性價(jià)比、通用性以及遷移成本。用戶會(huì)根據(jù)自己的算力需求進(jìn)行產(chǎn)品篩選，然后比對(duì)價(jià)格。峰值算力的提升往往來自于工藝技術(shù)的迭代以及更大的芯片面積，這也就意味著更高的產(chǎn)品成本。但是此次鯤云CAISA架構(gòu)帶來的芯片利用率提升，并不需要更高的峰值算力從而讓用戶獲得更高的實(shí)測(cè)算力體現(xiàn)，這可以減少企業(yè)所需的制造成本。

　　值得關(guān)注的是，英偉達(dá)憑借其極強(qiáng)的峰值算力以及軟件生態(tài)構(gòu)建了極高的競(jìng)爭(zhēng)壁壘。除了產(chǎn)品在算力上的優(yōu)勢(shì)，英偉達(dá)憑借產(chǎn)品積累擁有極強(qiáng)的軟件生態(tài)，現(xiàn)有用戶的轉(zhuǎn)換芯片的成本較高。牛昕宇表示，也許初創(chuàng)企業(yè)可以選擇其他進(jìn)行拓展，CAISA帶來的數(shù)據(jù)流架構(gòu)也許就會(huì)是下一個(gè)方向。

　　此外，鯤云將會(huì)為用戶配備RainBuilder編譯工具鏈，可以支持從算法到芯片的端到端自動(dòng)化部署，用戶和開發(fā)者無需了解架構(gòu)的底層硬件配置。RainBuilder可自動(dòng)提取主流AI開發(fā)框架(TensorFlow，Caffe，Pytorch，ONNX等)中開發(fā)的深度學(xué)習(xí)算法的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)信息，并面向CAISA結(jié)構(gòu)進(jìn)行優(yōu)化。鯤云希望借助編譯工具鏈提供用戶較為方便的部署環(huán)境，同時(shí)也能完成較為低成本的算法遷移。