“這個安全問題不是來自于你設計的考慮不周到，而是主要來源于算法本身的不安全性?！痹?月3日北京舉行的全球數(shù)字經(jīng)濟大會人工智能產業(yè)治理論壇上，中國科學院院士、清華大學人工智能研究院院長張鈸表示，這是當下人工智能領域安全問題頻發(fā)的根源所在。

　　近日高頻爆發(fā)的企業(yè)數(shù)據(jù)安全問題，已使官方層面密集出臺行動決策，其中焦點領域之一便是目前內嵌于各大APP的智能算法。如中宣部等五部門聯(lián)合日前印發(fā)的《關于加強新時代文藝評論工作的指導意見》便明確要求，健全完善基于大數(shù)據(jù)的評價方式，加強網(wǎng)絡算法研究和引導，開展網(wǎng)絡算法推薦綜合治理，不給錯誤內容提供傳播渠道。

　　張鈸表示，人工智能算法本身帶來的不安全問題很難被預先發(fā)現(xiàn)或覺察，所以如果我們在使用過程中稍不注意便會產生無意識錯用，從而造成非常嚴重的后果，為此，他認為技術創(chuàng)新是解決這一問題的良策之一。

　　除此之外，人工智能領域的善治，還有賴于法規(guī)、倫理以及企業(yè)自身等諸多層面的因素，對此多位權威人士也均給出了相關建議。

　　源頭出在自身

　　在張鈸看來，與信息系統(tǒng)中安全風險常來自軟件設計漏洞不同，目前引發(fā)人工智能算法安全風險的源頭更多在于技術本身。“這是由于第二代人工智能技術本身所引起的，第一代人工智能技術并不存在這個問題?！睆堚摫硎?。

　　人工智能技術最早于1956年起步于國外，到目前為止已經(jīng)歷兩代。第一代人工智能以知識驅動為特征，也被稱作“符號主義”；第二代人工智能則以數(shù)據(jù)驅動為特征，即目前為人熟知的“大數(shù)據(jù)”“深度學習”。中國人工智能技術從1978年開始發(fā)展，此前以第一代人工智能技術為主，進展較小，近20年里進入第二代后才迅猛發(fā)展，但也同時帶來此前未有的風險。

　　為此張鈸提出了發(fā)展“第三代人工智能”的呼吁，后者具備知識、數(shù)據(jù)、算法和算力四大要素，既能最大化當前人工智能技術的效能，也能規(guī)避第二代技術自帶的算法風險。

　　不過，創(chuàng)新之路并非坦途，張鈸強調，發(fā)展第三代人工智能是一項非常長期的任務，人工智能安全和治理也是長期的任務。

　　“我們解決人工智能安全性問題必須兩手抓：第一手抓治理，這個治理不是短期的任務，是長期的任務；第二手抓創(chuàng)新發(fā)展，這個創(chuàng)新發(fā)展要克服人工智能算法本身的不安全性，這也是一個長期的任務。我們雖然有兩種途徑去做，但這兩種途徑都非常困難?！睆堚摫硎?。

　　“治本”亦需“治標”

　　張鈸在指出應從技術創(chuàng)新層面發(fā)力去“治本”的同時，也向記者表示，從法律法規(guī)、倫理規(guī)范、行業(yè)共識等不同層面去“治標”也同樣重要。

　　中倫律師事務所合伙人陳際紅對9月1日起即將施行的《中華人民共和國數(shù)據(jù)安全法》（以下簡稱“《數(shù)據(jù)安全法》”）進行了解讀。在其看來，由于人工智能和社會的關系越來越密切，所以立法司法解釋已經(jīng)進入到隱私保護、數(shù)據(jù)安全、網(wǎng)絡安全、公平競爭、消費者權益保護等各個層面。

　　由于人工智能的產業(yè)都離不開數(shù)據(jù)處理，因此《數(shù)據(jù)安全法》和人工智能發(fā)展密切相關。陳際紅認為，該法在法律里建立起數(shù)據(jù)安全的標準化體系，設定一個數(shù)據(jù)安全的檢測評估和認證的管理體制?！爸匾倪€是數(shù)據(jù)分類分級的制度，重要數(shù)據(jù)和核心數(shù)據(jù)的清單和管理制度，預警處理機制和數(shù)據(jù)活動的國家安全審查，數(shù)據(jù)處理活動和國家安全密切相關，數(shù)據(jù)交易和數(shù)據(jù)的準入和監(jiān)管，以及數(shù)據(jù)跨境流動的監(jiān)管規(guī)則?！标愲H紅表示。

　　倫理規(guī)范層面，中國科學院自動化研究所研究員、聯(lián)合國教科文組織人工智能倫理特設專家組專家曾毅認為，人工智能的治理并不存在“發(fā)展優(yōu)先還是治理先行”的矛盾，人工智能穩(wěn)健發(fā)展的兩大前提是可持續(xù)發(fā)展和人工智能的善治，兩者深度協(xié)同。

　　中國社科院科技哲學研究室主任、科學技術和社會研究中心主任段偉文則認為，數(shù)字技術與人工智能產業(yè)發(fā)展的倫理風險帶來了諸多社會信任問題，面對既防患于未然也溯及既往的數(shù)字治理趨勢，人工智能企業(yè)應直面社會許可的挑戰(zhàn)，認真感知公眾對科技企業(yè)的認知和評價。“人工智能企業(yè)不應回避社會監(jiān)督，而是不斷思考、重塑科技的社會印象，技術改進和倫理設計要齊頭并進，攜手走向共建性的人工智能倫理治理?！倍蝹ノ谋硎?。

　　此外，在行業(yè)共識方面，本次大會推出了國內首個《人工智能產業(yè)擔當宣言》，這一宣言由北京智源人工智能研究院、瑞萊智慧發(fā)起，聯(lián)合百度、華為、螞蟻集團等國內產業(yè)領軍企業(yè)和機構進行發(fā)布。在發(fā)起儀式上，宣言成員代表表示，宣言將為積極探索國內人工智能治理的新路徑提供有益經(jīng)驗。