了解某人心里的想法，就更能理解他的行為。對人工智能(AI)也同樣如此。最近，一項(xiàng)新的技術(shù)能夠在神經(jīng)網(wǎng)絡(luò)處理問題時(shí)「抓拍快照」，將能有助于我們了解神經(jīng)網(wǎng)絡(luò)究竟是如何工作的，并能為我們帶來更好、更值得信任的AI。
過去幾年，構(gòu)建于神經(jīng)網(wǎng)絡(luò)(多層相互連接的人工神經(jīng))之上的深度學(xué)習(xí)算法在AI的許多領(lǐng)域都取得了突破性的進(jìn)展，包括自然語言處理、圖像識別、醫(yī)療診斷和下圍棋。
但有一個(gè)問題困擾著人們，那就是我們并不知道它們是如何做到這些的。以色列理工學(xué)院的Nir Ben Zrihem說，深度學(xué)習(xí)系統(tǒng)是一個(gè)黑盒子?！溉绻\(yùn)轉(zhuǎn)良好，那很好。如果它不工作，你就慘了。
神經(jīng)網(wǎng)絡(luò)遠(yuǎn)遠(yuǎn)大于它的各部分之和。它們的組成單元非常簡單——就是人工神經(jīng)。Zrihem說：「你沒法指著神經(jīng)網(wǎng)絡(luò)中的一個(gè)區(qū)域，然后說，智能就存 在于此。」但是連接的復(fù)雜性意味著我們有可能追蹤深度學(xué)習(xí)算法到達(dá)某個(gè)給定結(jié)果的步驟。在這種情況下，機(jī)器表現(xiàn)得很像一個(gè)先知，而它的結(jié)果則不證而明。
為了解決這個(gè)問題，Zrihem和他的同事創(chuàng)造出了深度學(xué)習(xí)的實(shí)時(shí)圖像。他們說，這項(xiàng)技術(shù)就像計(jì)算機(jī)的fMRI(功能性核磁共振)，可以捕捉到算法解決問題時(shí)的行為。這些圖像允許研究者追蹤神經(jīng)網(wǎng)絡(luò)進(jìn)程中的不同階段，包括死胡同。
為了得到這些圖像，這個(gè)團(tuán)隊(duì)交給一個(gè)神經(jīng)網(wǎng)絡(luò)一項(xiàng)任務(wù)——玩經(jīng)典的Atari 2600電子游戲：《打磚塊》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。當(dāng)這個(gè)深度學(xué)習(xí)算法玩游戲時(shí)，他們收集了這個(gè)算法的12萬張「快照」。接著，他們采用一種技術(shù)繪制了這些數(shù)據(jù)的圖譜，這種技術(shù)允許他們對游戲中反復(fù)嘗試的場景進(jìn)行比較。
結(jié)果真的很像真正的大腦掃描圖(如下圖，左邊是《海底救人》，右邊是《吃豆人》)。只不過在這個(gè)案例中，每個(gè)點(diǎn)都是一個(gè)「游戲狀態(tài)(game state)」，也就是游戲中每個(gè)時(shí)間點(diǎn)的一張快照。不同的顏色代表AI在那個(gè)時(shí)間點(diǎn)的表現(xiàn)如何。
比如說，在《打磚塊》中，玩家必須用一根橫條和一個(gè)小球在彩色磚塊組成的墻上撞出一個(gè)洞。每次算法嘗試在墻上鉆出一條隧道并把小球逼入墻頂區(qū)域時(shí)， 這個(gè)團(tuán)隊(duì)就會在圖譜中發(fā)現(xiàn)一個(gè)明顯呈香蕉形狀的區(qū)域，這就是算法自己找出來的獲勝技巧。繪制過關(guān)技巧的圖譜，讓研究者能追蹤該算法如何成功地將技巧運(yùn)用在 后續(xù)的游戲中。
在《海底救人》中，玩家必須要躲避、收集或毀壞某些物體，并救起水下的潛水者才能獲勝。這個(gè)游戲?qū)I來說更難掌握。在這些圖譜中，研究者發(fā)現(xiàn)了數(shù)不清的失敗策略，比如說在營救潛水者之前等待太長時(shí)間。Zrihem說，算法進(jìn)行再次訓(xùn)練時(shí)，這些細(xì)節(jié)可能十分有用。
構(gòu)建一個(gè)完美的游戲策略是一件很好玩的事。對AI進(jìn)行掃描則可以幫助我們磨煉算法，以設(shè)計(jì)出解決真實(shí)問題的算法，美國懷俄明州立大學(xué)的Jeff Clane如此說道。Clane對圖像識別算法的研究讓他創(chuàng)作出了一些可以迷惑神經(jīng)網(wǎng)絡(luò)的「錯(cuò)覺」，能讓神經(jīng)網(wǎng)絡(luò)認(rèn)為圖片上的某處存在一些實(shí)際上并不存在 的東西。
比如說，一個(gè)安全算法可能存在某些缺陷，讓它在某些特定的情況下很容易被愚弄。還有一些算法，本是設(shè)計(jì)來確定銀行是否應(yīng)該向某人發(fā)放貸款，結(jié)果它可 能會對某些特定種族或性別的人產(chǎn)生偏見。Clane說：「如果你將這項(xiàng)技術(shù)部署到真實(shí)世界，你會想要理解它究竟是如何工作的，以及它在什么情況下可能會失 效。如果我們能更好地理解神經(jīng)網(wǎng)絡(luò)，那我們就能理解它們的弱點(diǎn)，并增強(qiáng)它們的長處。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺，自1994年品牌成立以來，一直專注于安全&自動化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場趨勢的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動、展會等整合營銷服務(wù)。
粵公網(wǎng)安備 44030402000264號
