據(jù)《衛(wèi)報》報道,荷蘭法院已下令立即停止使用基于 AI 的自動監(jiān)視系統(tǒng)來檢測福利欺詐,理由是該系統(tǒng)的使用侵犯了人們的隱私。對于有爭議法案的一項重要挑戰(zhàn),本次判決引發(fā)了國內外的密切關注。因為世界各地的政府正在越來越多地使用人工智能和風險管理模型,來應對福利管理和其它核心服務的挑戰(zhàn)。
Campaigners 報道稱:這種國家級數(shù)字福利政策,通常是在缺乏協(xié)商、且沒有適當監(jiān)督的情況下秘密發(fā)展起來的。
批評者稱,該政策等同于對窮人的監(jiān)視,侵犯了人們的隱私權利、以及不公正地懲罰了最弱勢的群體。
英國下議院工作與養(yǎng)老金選擇委員會主席 Stephen Timms,亦對英國政府正在加速的福利體系中的機器智能應用提出了擔憂。
他表示:“荷蘭法院的這項裁定表明,我們應該更加密切地關注政府在社會保障體系中使用技術來保護公民權利的方式”。
聯(lián)合國極端貧困與人權問題特別報告員 Philip Alston 也對荷蘭法院的這一裁定表示贊賞,稱之是關注數(shù)字福利系統(tǒng)威脅和侵犯弱勢群體權利的人們的一次顯著勝利。