射擊遊戲《Call of Duty: Modern Warfare 3》將會在 11 月 10 日正式推出,早前遊戲商 Activision 就透露會加入人工智能管理員,用作監察所有玩家的語音對話。該人工智能管理員技術名叫 ToxMod,特別設計去實時分辨多人對戰時玩家是否有用上不當的言論。
根據 Activision 的介紹,ToxMod 能夠分辨仇恨、歧視、騷擾、性別歧視和欺凌的言論,這些都是在《Call of Duty》系列遊戲中被禁用的,人工智能會同時配合文字過濾功能和玩家投訴系統作整體的監察管理。Activision 表示沒有一個明確的禁語清單,他們更在意玩家說話內容的意圖,所以朋友間揶揄嘲諷和善意玩笑,人工智能是能夠將之與騷擾或欺凌分辨出來。
Activision 表示 ToxMod 的目的是偵測語音對話內的有害言論,而不是監聽個別關鍵字。開發 ToxMod 的公司 Modulate 強調軟件可以理解聲音的所有細微差別,並不局限於內容,還會考慮情感、言語行為和聽眾反應等等。Activision 表示 ToxMod 偵測到違規情況,並不會導致玩家馬上被封號,但公司會派員接手處理跟進。
《Call of Duty: Modern Warfare 3》玩家不想被人工智能監聽,唯一可做就是將語音通話功能關閉,換句話說,即是強制執行。Activision 又指實時人工智能管理員由 8 月 30 日開始,已經在《Call of Duty: Modern Warfare 2》和《Call of Duty: Warzon》開始了 Beta 測試。
資料及圖片來源:lifehacker