歐美多國銀行利用聲音驗證系統，都用到聲音認證功能，來取代客人輸入賬戶密碼，好處是認證可通過電話進行。不過有外媒測試利用網上免費 AI 聲音生成器，製作的聲效竟可騙過這類聲音驗證系統。
今次被成功騙過聲音驗證系統的是英國萊斯銀行（Lloyds Bank），該行介紹聲音驗證功能時，標榜「VoiceID 與指紋類似，分析超過 100 種聲音特徵，例如口與聲帶的使用方式、口音、說話的速度等」。
外媒《Motherboard》的測試人員，就嘗試利用 iPad 連接該銀行的聲音驗證功能。系統詢問來電者打電話進銀行系統的理由，測試者就播放 AI 人工智能聲音製作系統事先製作好的聲音「想查詢賬戶結餘」。
系統正常對此辨識，更回應「OK」。之後系統要求用戶用數字鍵盤輸入出生日期，再要求用戶說出「我的聲音是我的密碼」句子。測試人員同樣使用 AI 生成器的聲音回答。
數秒後，系統回應「感謝，銀行賬戶的結餘如下」讀出了結餘、最近轉賬的收款人名單等等。
今次測試用到的是由 ElevenLabs 提供的 AI 聲音製作服務，免費而且可製作出高準確度的聲音。萊斯銀行回應指，他們沒有收過 AI 聲音相關騙案的報告。本次測試的測試人員亦透露，他的測試最初失敗了好幾次，最後需要用長篇文章來訓練 AI，才能得出騙過聲音驗證系統的結果。不法人士單純錄音幾句，是很難以AI 製作的聲效，來突破銀行的聲音驗證系統。
資料來源：Vice