人工智能的學(xué)習(xí)能力是讓人類羨慕的，特別是讓計(jì)算機(jī)具備理解人類語言的人工智能(AI)更是科技上的一大進(jìn)步，但是語言本就是意識(shí)形態(tài)的產(chǎn)物，而今，廣泛學(xué)習(xí)人類語言的人工智能工具已經(jīng)出現(xiàn)了明顯的種族和性別偏見。我們禁不住問：人工智能向誰學(xué)壞了?
人工智能出現(xiàn)種族偏見和性別偏見
一項(xiàng)研究發(fā)現(xiàn)，計(jì)算機(jī)在學(xué)習(xí)人類語言的同時(shí)還吸收了人類文化中的一些根深蒂固的觀念，出現(xiàn)了相同的人類偏見。普林斯頓大學(xué)信息技術(shù)政策中心的計(jì)算機(jī)科學(xué)家們發(fā)現(xiàn)了這一問題，他們解釋，計(jì)算機(jī) AI 出現(xiàn)種族歧視和偏見源于算法偏差造成的。此前心理學(xué)家曾經(jīng)做過一項(xiàng)稱為“隱性關(guān)聯(lián)測試(IAT)”，測試已揭示人類的偏見。而在新的研究中，AI 在學(xué)習(xí)人類語言的時(shí)候也把這種關(guān)聯(lián)詞學(xué)到其中，從而也出現(xiàn)像人一樣的性別種族偏見。
這項(xiàng)研究被刊登在 2017 年 4 月 14 日發(fā)表的《科學(xué)》雜志上，為了揭示 AI 在語言學(xué)習(xí)中可能出現(xiàn)的偏見，研究團(tuán)隊(duì)們根據(jù) IAT 創(chuàng)建了新的統(tǒng)計(jì)檢測，重點(diǎn)關(guān)注一種名為“單詞嵌入”機(jī)器學(xué)習(xí)工具。結(jié)果發(fā)現(xiàn)這種學(xué)習(xí)算法改變了計(jì)算機(jī)解讀語音和文本的方式，結(jié)果表明，算法與 IAT 一樣擁有同樣的偏見，也就是把表示愉快的單詞與(美國和英國的)白人面孔聯(lián)系起來。這將意味著算法的存在也會(huì)讓隱性關(guān)聯(lián)出現(xiàn)在 AI 之中，從而也會(huì)帶來人類偏見。更嚴(yán)重的是，由于 AI 的學(xué)習(xí)速度驚人，這種人類偏見或許比現(xiàn)實(shí)社會(huì)中的還要嚴(yán)重。
關(guān)于“人工智能學(xué)壞”的幾點(diǎn)想法
偏見只是冰山一角，人工智能的快速學(xué)習(xí)能力可能是把雙刃劍。曾有研究表明，性別歧視和種族偏見將會(huì)對(duì)人類行為產(chǎn)生深遠(yuǎn)的影響。研究從面試角度進(jìn)行，對(duì)于非洲裔美國人，如果面試者的名字是歐洲裔美國人，即使簡歷內(nèi)容相同，后者所能獲得的面試邀請(qǐng)將比前者多出 50%。而我們使用 AI，并不希望它給我們帶來任何行動(dòng)上的麻煩。如何把握，還是一個(gè)重大課題。
技術(shù)本身沒錯(cuò)，但是如何應(yīng)用以及產(chǎn)生的后果則會(huì)淪為道德或者社會(huì)問題。其實(shí)，原則上，我們可以建立一些系統(tǒng)對(duì)帶有偏見的決定進(jìn)行檢測，然后采取行動(dòng)，并與其他人一起呼吁建立一個(gè)人工智能監(jiān)管機(jī)構(gòu)。這是一項(xiàng)非常復(fù)雜的任務(wù)，但作為一種社會(huì)責(zé)任，我們不應(yīng)回避。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺(tái)，自1994年品牌成立以來，一直專注于安全&自動(dòng)化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場趨勢的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會(huì)資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動(dòng)、展會(huì)等整合營銷服務(wù)。
粵公網(wǎng)安備 44030402000264號(hào)
