Categories: 科技新聞

IG 採用 AI 檢測冒犯字句 打擊網上欺凌以及歧視內容

Published by
Ringo

社交媒體出現令人反感的內容以及網上欺凌的情況經常出現,不少公司為了避免有關的事件再次出現亦使出不同的方法。在過去的星期一,Instagram 就宣佈即將會應用 AI 人工智能系統到程式內,當檢測到用家在發佈一些存在令人討厭或不雅的字詞時將發出提醒,希望他們在正式發佈前修改一下內容。

Instagram 在過去的星期一於網站上宣佈,公司即將採用 AI 以檢測一些可能會引起人們不滿的內容,當用戶在發佈時如果內容被檢測到有不當的言語,將會發出提醒並呼籲他們更改當中的內容。不過 Instagram 亦指出有關功能只作提醒用途,用戶在接收到通知後仍然可以選擇忽略訊息,繼續發佈。

 

Instagram 就指推出這一項新功能的目的是在於打擊網上的欺凌情況,希望提供一個「停下來並重新考慮的機會」,並將會盡快推廣至其他國家。其實 Instagram 在早前就曾經推出一項類似的功能,當用戶在留言時如果存在攻擊或歧視成分的話將會通知他們,希望他們更改內容,結果亦十分理想。

 

資料來源:Instagram

Published by
Ringo