人工智能商業(yè)化加速將深刻改變?nèi)祟惿鐣?/strong>

　　1、 從學術研究走向商業(yè)應用

　　人工智能最早可追溯到上世紀的四五十年代，被譽為“人工智能之父”的艾倫·圖靈，在其論文《計算機器與智能》中，提出了非常著名的圖靈測試，即被測試的機器是否能夠表現(xiàn)出與人類等價或無法區(qū)分的智能。

　　人工智能概念正式提出是在1956年，在美國達特茅斯學院舉辦的夏季學術研討會上，約翰·麥卡錫、馬文·閔斯基、克勞德·香農(nóng)等學者參與討論“讓機器像人一樣認知、思考和學習”，這次會議上首次使用了“人工智能”這一術語。因此，業(yè)內(nèi)也一般都認為1956年是人工智能元年。

　　▲人工智能發(fā)展的三次浪潮在過去的六十多年里，人工智能發(fā)展跌宕起伏，經(jīng)歷了三次大的浪潮：

　　第一次浪潮(20世紀50～80年代)：人工智能的起步階段，期間提出了人工智能的概念，取得了一些突破性的研究成果，如機器定理證明、跳棋程序、LISP編程語言、首個聊天機器人等，但當時的算法理論、計算機的性能等因素，無法支持人工智能應用的推廣。

　　第二次浪潮(20世紀80～90年代)：這階段主要以專家系統(tǒng)和日本的第五代計算機為代表。專家系統(tǒng)促使人工智能從理論研究走向?qū)嶋H應用，并在醫(yī)療、氣象、地質(zhì)等領域取得成功。但隨著人工智能應用范圍的擴大，專家系統(tǒng)的缺點也逐漸顯現(xiàn)：應用領域狹窄、推理方法單一、缺乏常識性知識等，人工智能的發(fā)展又進入了停滯狀態(tài)。在這階段也出現(xiàn)了神經(jīng)網(wǎng) 絡算法，但是由于當時計算機的性能限制，最終也沒有較好的落地效果。

　　第三次浪潮(2000年～現(xiàn)在)：隨著信息技術蓬勃發(fā)展，為人工智能的發(fā)展提供了基礎條件。這階段人工智能的理論算法也在不斷的沉淀，以統(tǒng)計機器學習為代表的算法，在互聯(lián)網(wǎng)、工業(yè)等諸多領域取得了較好的應用效果。2006年，多倫多大學Hinton教授提出了深度學習的概念，對多層神經(jīng)網(wǎng)絡模型的一些問題給出了解決方案。標志性事件是在2012年，Hinton課題組參加ImageNet圖像識別大賽，以大幅領先對手的成績?nèi)〉昧斯谲?，使深度學習引起了學術界和工業(yè)界的轟動。

　　近幾年，以深度學習為代表的人工智能算法，在圖像分類和識別、語音識別、自然語言處理等領域取得了巨大的進步。究其原因，一方面計算機的性能得到了極大的提升，新型人工智能芯片、云計算技術都為大規(guī)模神經(jīng)網(wǎng)絡計算提供了基礎平臺;另一方面是互聯(lián)網(wǎng)、大數(shù)據(jù)技術的發(fā)展，積累了大量的數(shù)據(jù)資源。算法、算力和數(shù)據(jù)三者的結(jié)合，直接促成了這次浪潮，將人工智能再次推向繁榮期。

　　根據(jù)人工智能的研究領域、周邊技術和涉及的產(chǎn)業(yè)，可以將人工智能的技術體系分為三個層次，如圖2所示，具體包括：基礎層、技術層和應用層。

　　應用層：人工智能技術與行業(yè)深度結(jié)合，針對具體的場景來實現(xiàn)智能化的方案，目前主要的應用行業(yè)領域包括安防、金融、醫(yī)療、交通、教育、制造、互聯(lián)網(wǎng)、電力等，未來將會拓展到更多的領域。

　　當前，人工智能產(chǎn)品種類也比較多，比如機器人方面，包括家用機器人(掃地、陪伴、教育等用途)、工業(yè)機器人等;再如自動駕駛汽車，其中就使用到了大量的人工智能技術，包括通過計算機視覺技術來識別車道線、交通標志、信號燈等，進一步利用人工智能算法進行決策分析，做出正確的動作指令。未來將會有更多的人工智能產(chǎn)品進入生產(chǎn)生活當中。

　　技術層：產(chǎn)業(yè)界和學術界都比較關注的層面。底層包括各種機器學習/深度學習的開源框架等。以學術界為代表，對人工智能的底層理論算法的研究，包括近年來比較主流的深度神經(jīng)網(wǎng)絡算法、傳統(tǒng)機器學習算法，正是因為這些基礎理論取得突破，才使得當下人工智能技術在產(chǎn)業(yè)化方面取得突飛猛進的發(fā)展。應用算法層主要的研究領域包括計算機視覺、語音識別、自然語言處理、決策規(guī)劃等，涉及感知、認知、決策不同的智能方向。

▲人工智能技術體系層級在每個研究領域中，又有很多細分技術研究領域，比如計算機視覺領域，包括圖像識別、目標跟蹤、視頻理解、行為分析、圖像超分、多維特征識別等等。技術層是人工智能中最為令人關注的，也是最具挑戰(zhàn)的，其優(yōu)劣直接決定了行業(yè)應用落地的成效。

　　基礎層：作為人工智能產(chǎn)業(yè)的底座支撐，包括硬件、軟件和數(shù)據(jù)的技術支持。硬件主要是為人工智能應用提供強大的算力支撐，包括計算資源如GPU、FPGA、ASIC等加速芯片，網(wǎng)絡資源，存儲資源，以及各種傳感器件;系統(tǒng)平臺包括操作系統(tǒng)、云計算平臺、大數(shù)據(jù)平臺等;數(shù)據(jù)資源是人工智能技術(尤其是深度學習)獲得長足發(fā)展不可或缺的組成部分，猶如為發(fā)動機提供充足的“燃料”。

　　2016年，谷歌AlphaGo以4:1的成績戰(zhàn)勝了人類頂尖圍棋選手李世石，讓人工智能走進了大眾的視野。人工智能如今已不再停留在學術研究階段，開始大規(guī)模的應用到商業(yè)環(huán)境中。

　　人工智能技術只有在實踐中解決了具體的問題，才能產(chǎn)生價值。因此合適的商業(yè)場景是人工智能技術落地的關鍵。當前人工智能技術主要是以深度學習方法為主，通過大規(guī)模數(shù)據(jù)驅(qū)動的機制，挖掘數(shù)據(jù)中蘊含的潛在規(guī)律。這種方法，機器并沒有真正的推理和思考的能力，并沒有人類所具有的高階智能，一般只能解決特定領域內(nèi)的問題。

　　目前取得較好成效的主要在單任務、單領域的視覺感知方面上，有些已經(jīng)做到了非常極致，甚至超越人類，比如圖像識別技術在安防、交通流量監(jiān)測、閘機身份驗證等特定場景中，可以代替人工完成這些重復性的工作，取得了很好的效果。

　　但在認知方面目前效果不盡人意，還達不到像視覺感知領域的效果。隨著谷歌BERT等算法的突破，對于自然語言語義的理解和認知方面，也漸有起色。

　　由于目前人工智能算法機制對數(shù)據(jù)集的重度依賴，需要有足夠的數(shù)據(jù)，而數(shù)據(jù)都是在行業(yè)場景中積累產(chǎn)生的，比如醫(yī)療影像數(shù)據(jù)、金融交易數(shù)據(jù)等。因此，將人工智能技術與行業(yè)場景結(jié)合才能發(fā)揮人工智能的價值。并且只有在場景歷練通過不斷的反饋機制，使數(shù)據(jù)形成閉環(huán)，才能持續(xù)不斷迭代優(yōu)化和提升算法精準度。

　　2、 對人類社會產(chǎn)生深遠影響

　　人工智能對企業(yè)變革影響巨大，在未來15年內(nèi)，人工智能和自動化技術將取代40-50%崗位，同時也帶來效率的提升。

　　例如，在工業(yè)制造領域，AI技術將深度賦能工業(yè)機器，將會帶來生產(chǎn)效率和質(zhì)量的極大提升。采用AI視覺檢測替代工人來識別工件缺陷，帶來的益處：

　　識別精度，基于圖像數(shù)字化，可以達到微米級的精度;

　　無情緒影響，可以長時間保持穩(wěn)定工作;

　　檢測速度，毫秒級就能完成檢測任務。

　　隨著人工智能技術的普及，人們的居住、健康、出行、教育、娛樂等多方面的生活方式都將從中受益。

　　智能家居將會是人工智能技術應用的一個重要突破口。未來，智慧家居助理會統(tǒng)籌管理所有智能家居設備，使其協(xié)同工作，根據(jù)不同的活動場景，為人們營造更加舒適和安全的居住環(huán)境。人們不再是通過雙手去操作使用各種電器，而是通過更加自然的方式與智慧家居助理交流，輕松地讓各種電器完成任務。

　　醫(yī)療也將是人工智能大展身手的領域。AI技術的推廣，可以很大程度緩解當下的醫(yī)療資源緊缺、醫(yī)護人員工作強度大等問題，使更多的民眾受益。另外，通過健康穿戴設備，監(jiān)測人們的生理數(shù)據(jù)，對人們的日常健康狀況進行檢測管理，做到疾病的提前預防。

　　人工智能在糧食保障、能源利用、氣象預測、環(huán)境污染、自然資源保護等領域上應用，可有效改善人類生存環(huán)境，促進人與自然和諧共生。

　　農(nóng)業(yè)是人類賴以生存的基礎，為人類提供每天所需的食物。據(jù)《2019年全球糧食危機報告》顯示，全球仍有1億多人處于重度饑餓狀態(tài)。自然災害和氣候變化是導致糧食不安全的部分關鍵因素。人工智能在一定程度上可以改善農(nóng)業(yè)所面臨的問題。例如2019年底在全球較大范圍內(nèi)發(fā)生的非洲蝗蟲自然災害，造成部分地區(qū)糧食大幅減產(chǎn)。

　　有些機構(gòu)組織開始著手研究如何利用人工智能技術結(jié)合衛(wèi)星遙感地理信息，對類似的自然災害進行預警，減少農(nóng)業(yè)損失。另外，利用人工智能技術對小地域范圍內(nèi)實時、精準的氣象預測，可以指導農(nóng)業(yè)實施過程，在什么時間適合進行播種、施肥、灌溉、采摘等。人工智能還可以用于篩選優(yōu)良種子，達到糧食增產(chǎn)的目的。

　　3、 人工智能面臨的挑戰(zhàn)

　　正因為人工智能技術能夠?qū)θ祟惿鐣a(chǎn)生巨大效益，國家政策、資本等方面也大力支持，企業(yè)積極布局人工智能戰(zhàn)略，增加研發(fā)投入、加快商業(yè)落地。人工智能產(chǎn)業(yè)一片向好的景象。但在繁榮的背后，人工智能也面臨諸多挑戰(zhàn)。據(jù)《IDC中國人工智能軟件及應用市場半年度研究報告，2019H1》顯示，面臨的挑戰(zhàn)主要有缺乏人工智能技術人員、缺乏高質(zhì)量數(shù)據(jù)集、應用場景、成本等多個方面。

▲《IDC中國人工智能軟件及應用市場半年度研究報告，2019H1》市場調(diào)研面對這些挑戰(zhàn)，我們應該理性對待，尋找合適的解決方法，打造有利于人工智能健康發(fā)展的良好環(huán)境。

　　場景化落地面臨的挑戰(zhàn)。目前，人工智能商業(yè)落地效果比較好的是安防、金融等行業(yè)領域，在其他領域的部分場景中，落地效果并不是太理想。究其原因，一方面是安防、金融等落地效果好的領域，都是有良好的數(shù)字化基礎的，多年來積累了大量有價值的數(shù)據(jù)，利用人工智能技術來挖掘數(shù)據(jù)價值自然是水到渠成。

　　另一方面，是對當前人工智能算法所能解決問題的邊界沒有厘清，與用戶期望的有偏差，用戶期待的效果，可能當前AI算法還達不到成熟標準，而AI算法能解決問題的場景，還有待進一步挖掘。對此，建議各行業(yè)領域的企業(yè)，在實施人工智能應用落地過程中，優(yōu)先完成數(shù)字化改造，積累行業(yè)數(shù)據(jù)，然后再實施合理的智能化業(yè)務。

　　技術方面的挑戰(zhàn)。 在人工智能技術層面上，也面臨一定程度的風險，主要表現(xiàn)在數(shù)據(jù)和算法上。首先， 當前算法嚴重依賴有標注的數(shù)據(jù)。數(shù)據(jù)在人工智能商業(yè)化落地中有著不可替代的作用，目前人工智能算法以有監(jiān)督的深度學習為主，即需要標注數(shù)據(jù)對學習結(jié)果進行反饋，在大量數(shù)據(jù)訓練下，算法才能取得預期的效果。算法從大量數(shù)據(jù)中進行學習，挖掘數(shù)據(jù)中蘊含的規(guī)律。數(shù)據(jù)決定了人工智能模型精度的上限，而算法則是不斷逼近這個上限。

　　其次， 高質(zhì)量數(shù)據(jù)需求導致數(shù)據(jù)成本高昂。為了提高數(shù)據(jù)的質(zhì)量，原始數(shù)據(jù)需要經(jīng)過數(shù)據(jù)采集、清洗、信息抽取、標注等處理環(huán)節(jié)。得益于大數(shù)據(jù)技術的快速發(fā)展，當前采集、存儲海量數(shù)據(jù)已經(jīng)不再是難事。在時間和成本上，數(shù)據(jù)標注成了制約環(huán)節(jié)。目前數(shù)據(jù)標注主要是人工標記為主，機器自動化標注為輔助。但是人工標注數(shù)據(jù)的效率并不能完全滿足算法的需求，研究提升機器自動化標注的精度，是提高效率的重要思路，也是數(shù)據(jù)標注的一個重要趨勢。

　　數(shù)據(jù)噪聲、數(shù)據(jù)污染會帶來人工智能安全問題。人工智能訓練模型時用到的訓練數(shù)據(jù)，如果數(shù)據(jù)本身有較大的噪聲，或者數(shù)據(jù)受到人為破壞，都可能會導致模型決策出現(xiàn)錯誤。由于一些客觀因素，訓練數(shù)據(jù)中不可避免含有噪聲，如果算法模型處理的不得當，可能會導致模型漏洞，模型不夠健壯，給黑客有了可乘之機。

　　另外，也存在黑客故意在訓練數(shù)據(jù)中植入惡意數(shù)據(jù)樣本，引起數(shù)據(jù)分布的改變，導致訓練出來的模型決策出現(xiàn)偏差，進而按照黑客的意圖來執(zhí)行。從數(shù)據(jù)源角度進行攻擊，會產(chǎn)生嚴重的后果。例如在無人駕駛車輛上，會誘使車輛違反交通規(guī)則導致事故。

　　當前深度學習算法有一定局限性。深度學習算法通過構(gòu)建大規(guī)模多層次的神經(jīng)網(wǎng)絡模型，從大量數(shù)據(jù)中學習經(jīng)驗規(guī)則，從而達到擬合復雜的函數(shù)來解決實際問題。深度學習模型的學習能力強，效果也非常好，但在實際應用過程中依然面臨資源消耗、可解釋性、安全等方面的挑戰(zhàn)。

　　深度學習訓練的時候需要處理大量的數(shù)據(jù)，模型單元也會做大量的計算，所以會耗費大量的存儲和計算資源，成本高昂。即使是在模型推理階段，計算量相對較小，但在邊緣、端側(cè)部署深度學習模型，仍然需要對模型經(jīng)過壓縮、剪枝等出來，來進一步降低計算量。目前國內(nèi)很多企業(yè)在研究端側(cè)的AI芯片，提升邊緣側(cè)的計算能力，相信未來計算力的問題會得到解決。

　　人工智能模型的可解釋性，是指人類能夠理解機器做出決策原因的程度。由于深度神經(jīng)網(wǎng)絡模型異常復雜，參數(shù)量巨大，導致模型成為“黑箱”，我們很難獲知模型預測結(jié)果的準確原因，也不知道模型會在什么時候或條件下會出錯。這就導致了在一些如醫(yī)療、無人駕駛等關鍵場合中，使用深度學習都比較謹慎。當然在學術界，也在積極研究可解釋性的人工智能，包括如何改善用戶理解、信任與管理人工智能系統(tǒng)。

　　深度神經(jīng)網(wǎng)絡非常容易受到對抗樣本的攻擊的。一些圖像或語音的對抗樣本，僅有很輕微的擾動，以至于人類無法察覺這種擾動。但對于模型卻很容易覺察并放大這個擾動，進而處理后輸出錯誤的結(jié)果。這個問題對于在一些關鍵場合下危害非常大。對抗與攻擊也是深度學習研究領域的一個熱點，已經(jīng)有很多防范攻擊的方法來降低風險。

　　4、 社會規(guī)范方面的挑戰(zhàn)

　　人工智能技術是一把雙刃劍，一方面能推動社會進步和經(jīng)濟發(fā)展，另一方面也會帶來法律、隱私保護、倫理等的風險。人工智能技術的運作效率極高，如果被不法分子利用了，發(fā)起網(wǎng)絡攻擊或者竊取機密信息，將會產(chǎn)生巨大的危害。

　　另外，深度學習依賴于數(shù)據(jù)，在數(shù)據(jù)采集過程中，不可避免的會收集到用戶的一些隱私數(shù)據(jù)，涉及個人的生活習慣、健康等數(shù)據(jù)，如果這些數(shù)據(jù)不加以監(jiān)管被亂用，勢必會造成隱私侵犯。針對這方面風險，國家也在研究應對措施。

　　在《新一代人工智能發(fā)展規(guī)劃》中明確指出，到2025年，我國初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力。在2019年6月，《新一代人工智能治理原則——發(fā)展負責任的人工智能》發(fā)布，提出了人工智能治理的框架和行動指南。

　　相信隨著技術上的進步，法律、社會規(guī)范的出臺，人工智能將會朝著安全可靠、公平、保護隱私等正向發(fā)展，促進人類福祉。

　　人工智能產(chǎn)業(yè)化落地ICT技術是關鍵支撐

　　1、 算力突破推動算法創(chuàng)新，促成第三次AI浪潮

　　在2012年，Hinton課題組參加ImageNet圖像識別大賽，其AlexNet模型以大幅領先對手的成績?nèi)〉昧水斈甑墓谲?，使得深度學習算法一時間轟動整個學術界和工業(yè)界。

　　深度學習算法本質(zhì)上也是神經(jīng)網(wǎng)絡，早在上世紀80年代就已經(jīng)誕生。AlexNet模型使用了比以前更加深層的網(wǎng)絡，參數(shù)量高達千萬級，使用了大規(guī)模的圖像樣本進行訓練，當然也有一些細節(jié)上的算法創(chuàng)新。

　　當時支撐AlexNet模型的實現(xiàn)，是基于兩塊英偉達GTX 580的GPU，完成了當時CPU難以短時間完成的任務。從此，業(yè)內(nèi)普遍認同了兩方面的事實：一方面是神經(jīng)網(wǎng)絡的模型規(guī)模增大有助于提升識別效果;另一方面，GPU卡可以提供非常高效的算力，用來支撐大規(guī)模神經(jīng)網(wǎng)絡模型的訓練。

　　近幾年，業(yè)內(nèi)各廠家意識到算力的重要性，分別推出多種加速卡如GPU、谷歌的TPU等，用于加速人工智能計算，直接推動了人工智能算法飛躍式的創(chuàng)新。從2012年到2018年期間，以計算機視覺為主的感知類智能取得了突飛猛進的發(fā)展，有些領域如多維特征識別等，其識別率遠遠超越了人類水平。

　　在2018年末，谷歌發(fā)布的BERT模型，在11項不同的NLP測試取得最佳成績，直接推動了NLP認知類智能的突破。在這驚人成績的背后，是強大算力提供的支撐。跟據(jù)作者描述，BERT-Large模型是在33億詞量的數(shù)據(jù)集上訓練的，擁有3億多的參數(shù)。試想一下，如果沒有能支撐這么大計算量的算力資源，也許很難驗證算法的效果，算法創(chuàng)新也就更加不易。

　　另外，數(shù)據(jù)的爆發(fā)式增長，對算力的依賴也十分強烈。根據(jù)IDC報告顯示，“數(shù)據(jù)總量正在以指數(shù)形式增長。從2003年的5EB，到2013年的4.4ZB，在2020年將達到44ZB”。面對海量的數(shù)據(jù)，使用人工智能算法挖掘其中的價值，也必須有強大的算力支撐才能實現(xiàn)，這也直接關系到人工智能應用的創(chuàng)新和發(fā)展。

　　當前這種以深度學習訓練算法為主的時期，對算力和數(shù)據(jù)的需求是驚人的。OpenAI對近年來的模型訓練和算力需求做過一個分析總結(jié)，自2012年以來，最大規(guī)模的AI訓練運行中使用的計算量呈指數(shù)增長，且翻倍時間為3.4個月，遠快于芯片工藝的摩爾定律。

　　為了支撐巨大的算力需求，一種行之有效的方法就是采用異構(gòu)計算集群。在人工智能領域中，異構(gòu)計算是指聯(lián)合了通用的CPU和面向AI運算加速的GPU/FPGA/ASIC等不同計算體系結(jié)構(gòu)處理器的計算系統(tǒng)。另外，單顆芯片的計算能力是有限的，且隨著摩爾定律失效，僅從芯片角度來提升算力相對來說比較困難。

　　業(yè)界一般采用計算集群的方式來擴展算力，通過把成千上萬顆計算芯片，整合在一個系統(tǒng)中，為人工智能模型的訓練和推理應用提供支持。目前，鑒于GPU的通用性、性能和生態(tài)等因素，面向人工智能的異構(gòu)計算集群，仍然以CPU+GPU的方式為主流，但在一些特定應用場景中，CPU+FPGA/ASIC的方式也有一定的優(yōu)勢。

　　另外，異構(gòu)計算集群實現(xiàn)算力的擴展，不單是硬件設備上堆砌。由于人工智能特有的計算模式，設計面向人工智能計算的集群需要區(qū)別傳統(tǒng)通用計算集群，如在進行模型訓練的時候，集群計算節(jié)點間需要大量且頻繁的周期性數(shù)據(jù)同步等，都是需要考慮的因素。

　　為了提升性能，需要考慮系統(tǒng)軟件和計算框架層面上的優(yōu)化，如何合理的調(diào)度AI任務來最大化地利用計算資源。同時也還需要考慮高性能的網(wǎng)絡和存儲，來保障集群整體性能。

　　提升算力的另一條途徑，就是從芯片層面去實現(xiàn)。相對于傳統(tǒng)程序，AI計算有著明顯的特征，導致傳統(tǒng)處理器無法滿足：當前很大一部分AI應用，處理的是視頻、語音、圖像等非結(jié)構(gòu)化數(shù)據(jù)，計算量巨大且多數(shù)為矩陣運算，非常適合并行處理;另外，深度學習模型參數(shù)量非常多，對存儲單元訪問的帶寬和時延直接決定了其計算的性能。

　　為此，一方面可以通過不斷的改進優(yōu)化現(xiàn)有計算體系芯片的計算能力，從早期的CPU，到專用于并行加速計算的GPU，以及在特定場景應用的FPGA和ASIC芯片，都是在朝著適應AI計算模式的方向優(yōu)化，加速AI運算過程。

　　這種方式是目前AI計算加速的主流方式。另一方面可以采用新型計算架構(gòu)，如類腦芯片、量子計算等，從根本上顛覆現(xiàn)有計算模式。2019年8月，清華大學類腦計算研究中心研制的Tianjic芯片登上了《自然》雜志，展示了類腦芯片的潛力，是未來AI芯片的一個重要方向。

       ▲AI加速芯片及應用場景不同的計算場景對算力的需求特點是有差異的：

　　在云端/數(shù)據(jù)中心的訓練場景中，更多的關注算力的性能、精度、擴展性、通用性、可編程、能耗效率等;

　　在云端/數(shù)據(jù)中心的推理場景中，對算力考量的側(cè)重于吞吐率、延時、擴展性、能耗效率等;

　　在邊緣端的推理場景中，考慮更多的是延時、能效、成本等。

　　隨著市場的強勁需求和國家政策的引導，國內(nèi)研發(fā)AI芯片呈“井噴”趨勢，眾多廠家加入到了造芯行列當中。針對不同的人工智能應用場景，各個廠家都在打造各具特色的芯片。尤其是隨著物聯(lián)網(wǎng)的普及，端側(cè)應用場景更加繁雜，AI芯片百家爭鳴的態(tài)勢，有助于解決AI多樣化的算力需求。

　　2、大規(guī)模AI訓練場景，對網(wǎng)絡和存儲提出挑戰(zhàn)

　　數(shù)據(jù)、算法、算力是人們常說的AI發(fā)展三要素，必然在AI中起著至關重要的作用。那么除了這些，是否還有其他因素關系其發(fā)展呢?我們試想，AI是一輛火車，數(shù)據(jù)、算法、算力、好比其燃料、發(fā)動機，有更多，更好質(zhì)量的燃料，才能讓火車跑的更遠，更先進的發(fā)動機才能使火車跑的更快。不過，在實際火車運營中，僅僅這些是不夠的。

　　火車要在鐵軌上運行，也就是有了更好的路，火車才能四通八達、通暢無阻。AI面對實際應用也是如此，其爆棚的數(shù)據(jù)量和超高的算力要求都不是一臺普通的服務器能夠完成的，需要大規(guī)模的集群，集群中服務器、存儲設備間的互聯(lián)網(wǎng)絡就是AI中的“路”，而這些當前的“路”是不能滿足大規(guī)模AI訓練場景需求的。

　　除了“路”之外，火車是用來運輸貨物或者人，那車廂本身的存儲容量以及裝卸車的速度也是火車運營的重要指標。對應到AI應用中就是存儲容量及數(shù)據(jù)讀寫訪問技術。

　　大規(guī)模AI訓練場景對網(wǎng)絡之“路”要求很高，有多方面原因。

　　首先，AI相關業(yè)務通常包含大量的圖像、視頻等非結(jié)構(gòu)化數(shù)據(jù)，數(shù)據(jù)量上有一個指數(shù)級的增長，需要保證這些海量非結(jié)構(gòu)化數(shù)據(jù)順暢、快速通過才能使AI系統(tǒng)平穩(wěn)運行。

　　其次，AI運算相比以往運算更加復雜，一次智能化業(yè)務背后要幾百個模型計算，每次計算并非一臺服務器能完成的，需要龐大算力和復雜的異構(gòu)計算，背后實現(xiàn)往往是通過大規(guī)模集群并行處理的，那么集群中的服務器快速通信就成為完成一次計算任務的關鍵要素之一。

　　第三，AI業(yè)務很多需要實時學習，算法在框架層和應用層需要保持高精度一致。這些要求都是現(xiàn)存以太網(wǎng)所不具備的，其中千分之一的網(wǎng)絡丟包對AI的影響都是巨大的。這個如同以前的馬車走土路，壓過一塊小石頭，或許就是有個小顛簸，不會發(fā)生什么大問題，但是如果鐵軌上有一塊小石頭，可能就會造成火車的出軌，后果不堪設想。

　　當前鋪設的這條網(wǎng)絡“路”主要技術有TCP/IP及以太網(wǎng)，這是最常用的網(wǎng)絡傳輸技術，其優(yōu)點是應用范圍廣，成本低，兼容性好，缺點也很大，網(wǎng)絡利用率低，傳輸速率不穩(wěn)定等。InfiniBand是一個用于高性能計算的網(wǎng)絡標準，服務器間、 服務器與存儲設備間、存儲設備之間均可以使用其進行傳輸。

　　它的優(yōu)點就是傳輸性能好，可惜在大規(guī)模應用中支持不好，而且需要特定網(wǎng)卡和交換機的支持，成本相對高昂。還有諸如Intel提出的Omni-Path等技術，都是為了優(yōu)化網(wǎng)絡性能，不過均存在各種兼容、成本等問題。

　　要滿足AI的大規(guī)模訓練需求，我們需要一種綜合的網(wǎng)絡解決方案，既能廣泛大規(guī)模使用，價格低廉、成本可控，又能夠完成高性能AI計算的需求。這首先要保證網(wǎng)絡達到90%以上的帶寬有效利用率的同時，網(wǎng)絡中無丟包，并確保低時延。

　　通過RoCEv2、Lossless無損網(wǎng)絡流控技術綜合方案可以實現(xiàn)上述需求。RoCEv2即RoCE(RDMAover Converged Ethernet，基于以太網(wǎng)的遠程直接內(nèi)存訪問)的第二個版本，較第一個版本支持跨IP子網(wǎng)的通信能力。該技術主要解決兩大問題：

　　1、 通過遠程直接的內(nèi)存訪問繞過操作系統(tǒng)內(nèi)的多次內(nèi)存拷貝，遠程節(jié)點的CPU無需介入，降低CPU負載，數(shù)據(jù)直達對端應用buffer。測試顯示數(shù)據(jù)從CPU到網(wǎng)卡出口時間通過RoCEv2技術可以有效提升8倍，RoCEv2在提高網(wǎng)絡吞吐量的同時極大的降低了數(shù)據(jù)包傳輸延時。如圖5所示，傳統(tǒng)TCP/IP與RDMA方式的數(shù)據(jù)移動對比。

　　2、 RoCEv2是RDMA在以太網(wǎng)上傳輸?shù)膶崿F(xiàn)，部署時僅兩端點需要采用專用的網(wǎng)卡硬件，中途路徑采用原有以太網(wǎng)線路及設備即可，相較InfiniBand等技術大大降低了成本。

▲傳統(tǒng)TCP/IP與RDMA方式數(shù)據(jù)移動對比RoCEv2解決了成本、延時、吞吐等問題，這樣還是不夠的，上面提到面對大規(guī)模AI計算，網(wǎng)絡中是不能出現(xiàn)丟包。這就需要Lossless無損網(wǎng)絡流控技術來保證。如圖6所示，無損網(wǎng)絡解決方案部署參考。

▲無損網(wǎng)絡部署參考其實現(xiàn)包括如下幾個方面：

　　1、需要支持PFC流控能力，當某一優(yōu)先級報文發(fā)送速率超過接收速率時，通過向上一跳發(fā)Pause幀通知上一跳設備暫停發(fā)送本優(yōu)先級報文，實現(xiàn)不丟包機制;

　　2、開啟快速ECN能力，向服務端快速進行通告反壓，保證流量將要出現(xiàn)丟包時，快速通知發(fā)送端進行降速;

　　3、用戶可選擇開通ETS將網(wǎng)絡中的流量優(yōu)先級分成不同的優(yōu)先級組，為每組分配一定帶寬，如果一個組未消耗完為其分配的帶寬其他組可以使用這些未使用的帶寬，達到資源的合理分配及充分使用;

　　4、交換機與服務器網(wǎng)卡之間，通過開啟LLDP協(xié)議的DCBX TLV，其報文中攜帶ETS/PFC配置狀態(tài)，實現(xiàn)全網(wǎng)的DCBX能力通告和協(xié)商，保證網(wǎng)絡無丟包。

　　5、通常的一個訓練模型需要千萬甚至上億的文件數(shù)量，面對這樣的海量數(shù)據(jù)訪問，傳統(tǒng)分布式文件存儲架構(gòu)(如HDFS，MooseFS等)就顯得相形見絀了;

　　6、 很多的訓練模型都依賴于圖片、音視頻片段，為了進行更有效的特征分析，即便是大文件也會被切片成小文件。有些特征文件小到幾十、幾百字節(jié)，也有很多都在幾KB到幾MB之間。而傳統(tǒng)分布式存儲是針對大文件設計的，集群容量是其首要考慮的問題，面對AI訓練場景，80%以上是小文件，首要解決的是文件系統(tǒng)支持海量小文件的問題;

　　7、 業(yè)務部門數(shù)據(jù)組織存儲的不確定性，導致系統(tǒng)管理員不知道數(shù)據(jù)怎么存儲的，很可能將大量文件放在同一個目錄節(jié)點上，這樣在AI進行訓練時，會同時讀取一批數(shù)據(jù)，數(shù)據(jù)所在目錄的元數(shù)據(jù)節(jié)點成為“熱點”被大量訪問，從而導致訓練性能出現(xiàn)問題。

　　這幾個問題就如同過去的綠皮車時代，車次少，乘客少，停車時間還長，那么上下車就沒什么特別要求，大家慢慢上，慢慢下，反正時間很充裕。而現(xiàn)代高鐵時代，車次多，有的地方甚至十五分鐘左右一班車，車廂長了，乘客還都滿員，每站停車時間幾分鐘，有些甚至1分鐘，這樣就要求有合理的上下車次序和分流等手段進行優(yōu)化。

　　針對AI對存儲訪問的特殊應用需求，同樣需要針對性的進行優(yōu)化。如將單點MDS(Metadata server，元數(shù)據(jù)服務器)進行橫向擴展，形成MDS集群。MDS集群可以緩解CPU、內(nèi)存壓力，同時存儲更多的元數(shù)據(jù)信息，并提高海量文件并發(fā)訪問性能。

　　這點像火車乘車進站以前的一個兩個檢票口，現(xiàn)在擴充到十個左右，減輕一兩個檢票口的壓力，同時能夠一起進出更多的乘客。針對小文件，可進行小文件內(nèi)聯(lián)、聚合，客戶端讀緩存等優(yōu)化手段。這點可以理解為，老人小孩的，一家人一起提前檢票進站。

　　而“熱點”訪問問題，可采用目錄鏡像擴展或增加虛擬子目錄的方式。同樣映射到坐火車場景，可以理解為乘車時點餐服務。以前是大家都到餐車排隊購買，現(xiàn)在是將二維碼都貼到每個座位上，自己使用手機掃碼就可以點餐，到時乘務員會按照座位把餐送來。

　　綜上，我們可以看到，真正的AI時代，不僅僅是其三要素數(shù)據(jù)、算法、算力技術發(fā)展就能滿足的，同時對AI的運行環(huán)境也提出了更多挑戰(zhàn)。當前是把AI效能發(fā)揮最大的一系列技術共同發(fā)展的時代，而非僅AI技術本身，相關技術要合力前行。無論是網(wǎng)絡還是存儲技術應走到更前面，在全球產(chǎn)業(yè)智能化轉(zhuǎn)型中充當開路者的重要角色，為AI提供更順暢的運行環(huán)境。

　　3、 云邊端協(xié)同，滿足多樣化的AI應用場景

　　云計算的核心依靠云端超強的計算能力來完成計算要求很高的任務。進入云計算時代，由于云計算在成本、效益、規(guī)模、自動化和集中性等方面給企業(yè)帶來的好處，大量人工智能服務完全部署在云上或者在很大程度上依賴于云。與此同時，隨著物聯(lián)網(wǎng)等技術的不斷發(fā)展、數(shù)據(jù)的不斷增加，如何在數(shù)據(jù)從生成到?jīng)Q策再到執(zhí)行的整個過程中，保持盡可能小的延遲，就顯得尤為關鍵。在一個只有“云”的世界中，數(shù)據(jù)可能要傳輸幾千甚至上萬公里，較大的延遲是在所難免的。

　　對于一些時延敏感的人工智能應用場景，如自動駕駛汽車，對實時性要求極高，純粹依靠云端的能力是難以滿足的。另外，一些數(shù)據(jù)敏感的場景中，將數(shù)據(jù)上傳到云端進行智能計算，也會面臨一定程度的風險。云端服務在這些人工智能場景中的應用效果大打折扣，而邊緣計算則可以有效解決這一問題。

　　邊緣計算作為云計算的延伸拓展，是一種分布式處理和存儲的體系結(jié)構(gòu)，它更接近數(shù)據(jù)的源頭。它是將計算任務從數(shù)據(jù)中心遷移到靠近數(shù)據(jù)源的邊緣設備上，因此它更擅長處理實時性、安全性要求較高的計算任務。基于邊緣計算的方式，大大降低了網(wǎng)絡延遲，處理數(shù)據(jù)更加快速，支持企業(yè)更快更好的做出決策。

▲邊緣計算模型在人工智能應用場景中，將一些重量級的AI訓練任務，或者對時延不敏感的任務，放置在云上進行，而將一些輕量級、或者對時延敏感、或者對數(shù)據(jù)安全有要求的AI計算任務，下沉到邊緣設備或者終端設備中執(zhí)行，通過邊緣、終端和云端協(xié)同來實現(xiàn)快速決策、實時響應。在萬物智聯(lián)時代，只有云、邊、端緊密協(xié)同工作，才能更好地滿足各種AI應用場景的需求，從而最大化AI的價值。

　　云邊端協(xié)同工作將成為人工智能應用部署的重要方式，可以滿足云端AI短板，即時延或數(shù)據(jù)安全等方面，為支持更多有嚴苛要求的AI應用場景鋪平道路，提升應用效果。

▲云邊協(xié)同的智能安防應用在智慧安防場景中，傳統(tǒng)方式下需要將大量攝像終端采集到的視頻數(shù)據(jù)，通過網(wǎng)絡直接傳輸至云端或服務器進行存儲和處理，不僅加重了網(wǎng)絡的負載，也難以滿足業(yè)務低時延快速響應的需求。通過增加邊緣計算節(jié)點，將攝像采集終端采集的數(shù)據(jù)匯聚到邊緣節(jié)點，從而有效降低網(wǎng)絡傳輸壓力和業(yè)務端到端時延。

　　此外，智慧安防與人工智能相結(jié)合，在邊緣計算節(jié)點上搭載AI人工智能視頻分析模塊，面向智能安防、智慧安防、軌跡跟蹤、多維特征識別等AI典型業(yè)務場景，以低時延、大帶寬、快速響應等特性彌補當前基于云端AI的視頻分析中產(chǎn)生的時延大、用戶體驗較差的問題，實現(xiàn)本地分析、快速處理、實時響應。

▲云邊協(xié)同的智能水利應用在智慧水利場景中，5G、智慧安防、邊緣云和AI分析緊密結(jié)合，可以智能的識別出水利業(yè)務中的異常場景(河道漂浮物、釣魚、游泳、非法采砂等)，做到無人值守，實時告警。采用邊緣計算(MEC)的網(wǎng)絡結(jié)構(gòu)在河道附近部署無線攝像頭，在運營商本地機房部署MEC平臺。

　　實時性要求高的業(yè)務部署在邊緣云，其他業(yè)務部署在中心云，實現(xiàn)云邊協(xié)同。視頻流經(jīng)MEC分流后，將流量進行本地化分流，在本地完成AI智能分析，實施將告警信息上送中心云。在本地進行業(yè)務流量的分流和處理，不僅提高了響應速度，而且減輕對運營商核心網(wǎng)絡的數(shù)據(jù)傳輸壓力。

　　在智能家庭場景中，邊緣計算節(jié)點通過各種異構(gòu)接口就近匯聚、存儲和處理邊緣節(jié)點上的各類異構(gòu)數(shù)據(jù)，執(zhí)行AI任務，對敏感數(shù)據(jù)就地處理，不出本地，有力地保護數(shù)據(jù)隱私，同時將處理后的非敏感數(shù)據(jù)統(tǒng)一上傳到云平臺。用戶不僅僅可以通過網(wǎng)絡連接邊緣計算節(jié)點，對家庭終端進行智能控制，還可以通過訪問云端，對過往非敏感數(shù)據(jù)進行訪問。

　　在智慧交通場景中，汽車作為邊緣計算節(jié)點，通過集成的采集裝置采集實時數(shù)據(jù)，并與路側(cè)邊緣節(jié)點進行交互。邊緣計算節(jié)點進行視頻的就地處理和識別，將識別的車輛和位置信息通過5G等通信手段回傳到云計算中心。云計算中心通過大數(shù)據(jù)和人工智能算法，為邊緣節(jié)點、交通信號系統(tǒng)和車輛下發(fā)合理的調(diào)度指令，從而提高交通系統(tǒng)的運行效率，最大限度的減少道路擁堵。

　　4、人工智能應用普及，安全備受關注

　　人工智能技術發(fā)展迅速，目前在各行各業(yè)的應用已經(jīng)日益普及，但人工智能系統(tǒng)和技術自身的安全風險也越來越成為不能回避和不可忽視的風險，甚至在某些場景下還會帶來很大的問題。

▲人工智能系統(tǒng)自身面臨的安全風險目前人工智能在智能手機、辦公設備、智能家居上的應用越來越多，很多人家里都有了智能音箱，另外不少電視、冰箱、電飯煲、空調(diào)、窗簾等都具備了人工智能的功能，人們使用語音或者手勢就可以指揮它們幫人們完成查詢天氣預報、查找信息，甚至燒飯做菜，調(diào)節(jié)室內(nèi)環(huán)境等。由于這些智能設備為了隨時響應主人的召喚，需要實時在線，加上其日益強大和不斷升級的語音、圖像和視頻的感知、認知能力，有可能對主人家里每個人的一舉一動了如指掌，用戶在享受了人工智能帶來的便捷服務的同時也帶來了自己和家庭隱私泄露的隱患。

　　人工智能平臺和模型泄密風險主要有：模型竊取攻擊和用戶數(shù)據(jù)竊取攻擊。指的是攻擊者基于反復查詢并分析人工智能系統(tǒng)的輸入、輸出參數(shù)和其它外部信息，從而推測和猜測出系統(tǒng)的模型參數(shù)、訓練參數(shù)和訓練數(shù)據(jù)等信息。

　　目前很多云服務商提供了AI即服務(AIaaS)，由AI服務商負責模型訓練、識別等服務，對公眾開放，用戶可使用開放接口進行各種人工智能識別等操作。但通過反復調(diào)用AIaaS的識別接口，有經(jīng)驗的攻擊者就可能通過多次返回的信息從而還原出AI模型的各種參數(shù)等關鍵特性，從而把AI模型竊取到。或者即使不能完全竊取到原模型，也可以通過竊取到的信息構(gòu)建機器學習的對抗樣本或模型，從而對人工智能系統(tǒng)進行下一步更深層次的攻擊。

　　在用戶提供訓練數(shù)據(jù)的情況下，攻擊者可能通過反復查詢訓練好的機器學習模型，獲取到用戶的隱私數(shù)據(jù)。

　　當前的人工智能模型和算法非常依賴于輸入數(shù)據(jù)的真實性、完整性和全面性。從攻擊者視角，惡意的數(shù)據(jù)注入是進行對抗樣本攻擊的重要手段。數(shù)據(jù)真實性風險主要體現(xiàn)在訓練數(shù)據(jù)真實性和判斷數(shù)據(jù)真實性兩個方面。

　　攻擊者在訓練數(shù)據(jù)中摻入的惡意數(shù)據(jù)，可能會大大影響機器學習模型訓練的有效性，降低人工智能模型的推理能力。例如，研究者發(fā)現(xiàn)，只需要在訓練樣本中摻雜少量的惡意樣本(藥餌攻擊)，就能很大程度感染AI模型的準確率。通過加入藥餌數(shù)據(jù)，在人工智能健康數(shù)據(jù)庫應用中，攻擊者可以使模型對超過一半的患者的用藥量建議闡述超過四分之三的變化量。

　　在機器模型的判斷階段，對被判斷數(shù)據(jù)樣本加入少量噪音，即可能大幅改變判斷結(jié)果的準確性，甚至出現(xiàn)風馬牛不相及的結(jié)果。比如著名人工智能科學家Ian Goodfellow曾發(fā)布論文，通過圖像生動闡述了基于判讀數(shù)據(jù)投毒的對抗樣本攻擊概念，一張原本是熊貓的圖片，在加入了少量干擾白噪聲后，人眼看還是熊貓，但機器學習模型直接將其識別為長臂猿，且可信度高達99.3%。

　　包括TPU等AI專用芯片，GPU，CPU，F(xiàn)PGA，還有大到AI計算服務器集群，小到我們的智能手機、終端，都可能存在軟硬件設計缺陷、安全漏洞、后門。例如處理器硬件的安全風險，可能很多人并不陌生，如2018年全球最大處理器生產(chǎn)商英特爾爆出的Meltdown漏洞，該漏洞被認為是史上最嚴重的處理器漏洞之一，本質(zhì)上是英特爾處理器的預測執(zhí)行技術設計缺陷，但由于預測執(zhí)行讀取的數(shù)據(jù)防護不當，破壞了位于用戶和操作系統(tǒng)之間的基本隔離，從而可能允許惡意代碼訪問主機任意內(nèi)存，進而竊取其他應用程序以及操作系統(tǒng)內(nèi)核的敏感信息。這個漏洞“熔化”了由硬件來實現(xiàn)的安全邊界。允許低權限用戶級別的應用程序“越界”訪問系統(tǒng)級的內(nèi)存，從而造成數(shù)據(jù)泄露。

　　而且漏洞修復會不可避免地造成處理器性能的降低。另外，研究人員發(fā)現(xiàn)，在芯片制造過程中也可植入后門，或者硬件木馬。攻擊者只需要通過短時間在處理器上運行一系列看上去非常安全的命令，就能夠地觸發(fā)處理器的某個隱藏邏輯，從而獲得操作系統(tǒng)的高級權限。而更加讓人擔心的是，這種非常微小的硬件后門基本無法通過任何硬件檢測和安全分析手段檢測出來，并且可能只需要芯片工廠中的某位普通員工就能完成此項任務。

　　至于軟件設計、編碼過程中由于不小心、不遵守設計和編程規(guī)范等，無心埋入的軟件Bug，甚至別有用心的軟件后門的植入，一直都是軟件開發(fā)和應用全生命周期中需要解決的重大課題，在人工智能軟件系統(tǒng)中也不例外。而且由于人工智能系統(tǒng)的黑盒性和不可解釋性，使得軟件后門更難以被檢測。

　　騰訊安全平臺部預研團隊曾發(fā)現(xiàn)某著名人工智能系統(tǒng)框架存在自身安全風險，可被黑客利用，生成惡意模型文件，對使用該框架和平臺的人工智能研究者進行攻擊，受害者自身的人工智能應用可能被竊取或惡意篡改、破壞。

　　該漏洞危害面較大，一方面攻擊成本低，不需要太高深的人工智能技術能力，普通攻擊者即可實施攻擊;另一方面迷惑性強，使用該平臺的大部分人工智能研究者可能毫無防備;同時因為利用了該框架自身的跨平臺機制，其在PC端和移動端版本均會受到影響。

　　人工智能架構(gòu)、操作模式和運作流程設計的不合理。比較典型的例子有，去年某著名快遞企業(yè)的快遞柜，被人發(fā)現(xiàn)使用用戶的照片就可以輕松通過其多維特征識別系統(tǒng)的安全驗證，從而取走物品;目前還有一些企業(yè)的無接觸考勤系統(tǒng)也未能基于三維特征來進行識別，也存在類似問題，這種由于各種原因?qū)е碌募軜?gòu)或工作流程設計缺陷使得人工智能系統(tǒng)的安全性存在漏洞，容易被不法分子利用。

　　另外，AI模型的可檢測性、可驗證性、可解釋性普遍不足，在目前AI應用優(yōu)勢領域的語音、圖像、棋類競技類場景，可解釋性差可能問題不大，因為結(jié)果一般是可以快速取得并且顯而易見的，只要AI系統(tǒng)識別的結(jié)果是好的，人們可以忍受它繼續(xù)以黑盒形式存在。但對于有些場景，不可解釋性則會帶來一些法律上或者業(yè)務邏輯上的關鍵風險。例如在銀行給用戶發(fā)放貸款前的AI評估系統(tǒng)中，如果AI模型無法給出做出相應判斷的依據(jù)和來龍去脈，那就無法獲得用戶的充分信任，如果連其深層次的判斷原理和規(guī)則都無法得知，該系統(tǒng)也就很難說是一個安全的系統(tǒng)。

　　綜上可見，人工智能技術是一把雙刃劍，用好了可以造福人類，而如果用不好，甚至被惡意利用，也會給個人、企業(yè)、社會甚至國家的安全帶來危害。未來我們需要更多地從基礎技術到頂層設計上，從AI應用的全流程上考慮，對人工智能系統(tǒng)和技術進行端到端的安全設計和優(yōu)化，以使人工智能技術能朝向構(gòu)建信任和理解，尊重人權和隱私的方式進一步蓬勃發(fā)展。

　　近幾年來，隨著數(shù)字化基礎設施的不斷完善，再加上以深度學習為代表的算法上的突破，人工智能技術日漸成熟，已經(jīng)在安防、金融、客服、工業(yè)制造等領域，取代了大量重復性高、繁瑣枯燥或者大量使用人工并不經(jīng)濟的工作，不僅降低成本，而且生產(chǎn)效率提升也十分顯著。隨著5G商用落地，高帶寬、低延遲、大接入的特性將會進一步拓寬人工智能應用場景的邊界，未來3-5年，為人工智能技術在產(chǎn)業(yè)智能化的爆發(fā)奠定堅實的基礎。