據(jù)BBC報(bào)道，在英國內(nèi)政部試行護(hù)照人臉識(shí)別系統(tǒng)期間，系統(tǒng)在遇到面部較白或較暗的人士時(shí)系統(tǒng)就會(huì)出現(xiàn)無法識(shí)別的情況。對(duì)此，英國內(nèi)政部承認(rèn)其人臉識(shí)別系統(tǒng)存在問題，但仍因系統(tǒng)“整體效果良好”而選擇繼續(xù)部署該系統(tǒng)，并表示在使用中會(huì)對(duì)其進(jìn)行改進(jìn)優(yōu)化。

　　英國相關(guān)部門在針對(duì)信息自由而發(fā)布的一份文件中寫道：“他們確實(shí)發(fā)現(xiàn)皮膚很淺或非常深色的人很難通過護(hù)照照片檢測(cè)。但是考慮到這個(gè)系統(tǒng)大體效果良好，還是選擇部署?！?/strong>

　　英國平等與人權(quán)委員會(huì)發(fā)言人說：“種族不應(yīng)該成為使用技術(shù)提供基本公共服務(wù)的障礙。盡管有證據(jù)表明面部識(shí)別系統(tǒng)對(duì)一些膚色的人臉具有識(shí)別障礙，但政府依然在推進(jìn)這項(xiàng)技術(shù)的實(shí)施，這令我們感到非常失望?！?/p>

　　據(jù)了解。自2016年6月英國相關(guān)部門啟用該服務(wù)以來，一些用戶在接觸人臉檢查服務(wù)時(shí)就遇到了問題。近日，黑人體育教練Joshua Bada被檢測(cè)系統(tǒng)攔截了，因?yàn)橄到y(tǒng)把他的嘴唇識(shí)別成了張開的嘴。人臉識(shí)別系統(tǒng)的問題早就顯現(xiàn)，谷歌在2015年的一套人臉識(shí)別系統(tǒng)將一對(duì)黑人夫婦標(biāo)記為大猩猩，為此谷歌不得不向當(dāng)事人道歉。

　　人臉檢測(cè)軟件通常需要對(duì)數(shù)千張圖像進(jìn)行訓(xùn)練。如果訓(xùn)練數(shù)據(jù)不夠大或不夠多樣化，“偏見”就會(huì)進(jìn)入人臉檢測(cè)系統(tǒng)。

　　Sam Smith來自英國隱私保護(hù)組織MedConfidential，曾提交了信息自由（FOI）要求。Sam說：“很明顯，護(hù)照系統(tǒng)部署者的邏輯是，如果沒有其它的圖像數(shù)據(jù)集可以為黑人服務(wù)，那么我們也可以不用?！?/p>

　　英國內(nèi)政部表示，當(dāng)機(jī)器發(fā)生故障后，用戶可以手動(dòng)糾正人臉識(shí)別器，然后繼續(xù)辦理護(hù)照。但是相關(guān)的研究人員認(rèn)為，這種說法就是在避重就輕。

　　西雅圖華盛頓大學(xué)的Os Keyes說：“即使用戶能夠手動(dòng)修改檢測(cè)結(jié)果，它仍然會(huì)在用戶之間造成很大的種族差異?！睂?duì)此，英國基爾大學(xué)的黑人技術(shù)官Hallam說，如果網(wǎng)站提示人們，有些照片可能無法通過檢測(cè)，他們的應(yīng)用會(huì)出現(xiàn)問題，那么用戶可能就不會(huì)有意愿使用這一功能。

　　為減輕該系統(tǒng)故障的影響，政府表示會(huì)采取措施。據(jù)稱，相關(guān)部門將繼續(xù)與適當(dāng)?shù)膮⑴c者進(jìn)行用戶研究和可用性測(cè)試，進(jìn)而使不同種族的用戶都能在遵循指導(dǎo)的情況下通過照片檢測(cè)。內(nèi)政部發(fā)言人表示：“我們將努力使上傳數(shù)字照片的體驗(yàn)盡可能簡(jiǎn)單，并為所有客戶改進(jìn)這一流程。”

　　對(duì)此，Keyes表示，政府承諾“稍后解決”的舉措讓人感到非常沮喪。種族平等基金會(huì)的Samir Jeraj說：“這太離譜了。Jeraj呼吁政府對(duì)將要做出的改進(jìn)以及在什么時(shí)候進(jìn)行改進(jìn)要更加清楚、有力。

　　英國謝菲爾德大學(xué)的計(jì)算機(jī)科學(xué)家Noel Sharkey表示，此案表明需要制定新法規(guī)。“眾所周知，對(duì)于膚色較深的人，當(dāng)前的面部識(shí)別系統(tǒng)非常不準(zhǔn)確。這已經(jīng)夠糟糕了，但現(xiàn)在這一有問題的技術(shù)卻被大肆用于護(hù)照部門，這會(huì)使不公正現(xiàn)象被合理化。我們迫切需要新的法規(guī)來制止不平等現(xiàn)象?！?/p>