生成式 AI 普及同時，要製作像真的圖片和文字來散播謠言的門檻也變低。有事實查驗機構警告，這個新科技有機會對未來的選舉產生影響，特別是即將進行的印度、美國和英國大選預計會看到 AI 生成的內容氾濫。
英國的事實查核 (Fact Checking) 公司 Logically 發表了一個調查報告，他們對於目前主流的生成式 AI 平台 Midjourney、DALL-E 2 和 Stable Diffusion 進行了測試，發現雖然這些工具都有某程度上進行關鍵字審查，不過其設定並不明確。
他們嘗試用各種指令，例如「移民湧入」和「駭客攻擊投票設施」等等會影響輿論的新聞題材來生成內容，結果發現達 85% 指令被接受，Midjourney 審查功能最強，同時生成的圖片質素最高，而 DALL-E 2 和 Stable Diffusion 的審查較寬鬆，但質素亦較差。
Logically 方面表示，雖然生成的圖片未算非常逼真，不過就算是粗製濫造的圖片也同樣可以被惡意使用。他們建議社交媒體平台對於 AI 生成的虛假資訊更主動進行封鎖，不過實際上要辨別 AI 生成內容已經變得愈來愈困難。
來源：TNW