美國公民自由聯盟 ( 簡稱: ACLU ) 對由 Amazon 開發的人臉識別技術系統 Amazon Rekognition 進行了測試，可是結果不太理想。有 28 個國會成員被誤認為罪案嫌疑犯。
為了測試系統的準確度，ACLU 把 535 個國會成員的臉孔和 25,000 個罪案嫌疑犯的臉孔對行對照，系統結果顯示其中 28 個國會成員都是疑犯。ACLU 稱，如果系統出錯，可能會使市民賠上他們的自由甚至生命。因此，他們促使國會禁止執法機關使用相關技術。Amazon 回應外媒時表示，結果未如理想是因為測試時使用的是默認設定，準確度只有 80%。Amazon 建議，如在執法的過程中應用，應把準確度調至 95%。
在 ACLU 進行的另一項準確度測試中， 系統把不同的照片與數據庫中 300,000 個嫌疑犯的照片比較。結果顯示，系統存在種族偏見的問題。在 28 個錯誤配對中，其中 11 人是有色人種，約佔整體 39%。結果顯示，系統在判別有色人種時較易出錯。這次的測試結果和美國國家標準技術研究所 ( 簡稱: NIST ) 的另一測試結果互相呼應。兩次測試結果都顯示，系統在測試女性和非裔美国人的時候較易出錯。
據一份由 ACLU 發表的報告顯示，數個執法部門都有使用這系統。據引述資料，倫敦警務處使用系統進行配對時，平均每次配對都要重試 49 次才得到正確結果。系統連同 Amazon 的雲端服務 ( Amazon’s Web Service Cloud ) 一起出售，而且價錢十分便宜，每月付款少於 $ 12 美元 ( 約港幣HK$94 )。
測試結果公佈後，三名國會成員聯合向 Amazon 的行政總裁貝索斯 ( Jeff Bezos ) 發公開信，要求他交出正在使用 Amazon Rekognition 的執法部門名單。
資料來源 : The Verge