人工智能訓練時使用的數據，對於其效能的影響相當大，最近有研究顯示，目前的自動駕駛系統對於兒童和深膚色人士的偵測能力，分別比成人和淺膚色人士為低。
來自倫敦國王學院 (KCL) 的研究人員之前針對 8 個主流行人偵測系統進行測試，使用了超過 8,000 張行人圖片，研究這些系統能否成功偵測出行人。結果發現，成人的平均偵測準確率比兒童高出近 20%。系統對淺膚色行人的偵測準確率也比深膚色行人高出 7.5%。研究認為這個結果顯示訓練用的數據缺乏代表性。
研究人員之一 Jie Zhang 博士表示，人工智能系統需要用大量的訓練數據進行訓練，這些數據的不足之處無可避免地會反映在人工智能的表現上，今次研究顯示用於訓練這些行人偵測系統的開源圖像庫並不能代表所有行人，而是偏重膚色較淺的成年人，加上在低對比度和低亮度條件下，對兒童和深膚色人士的偏見會加劇。自動駕駛汽車所使用的系統通常都是基於研究中測試過的系統作開發，因此很可能存在類似的問題。他希望可以提升行人偵測系統的透明度和加強監管，避免日後系統普及應用後造成安全問題。
來源：TNW