科技新聞

麻省理工惡搞「邪惡」人工智能 討論區思考灌輸 AI

Published by
Login
Share

不少科幻作品中,主角們面對的最大敵人,很多時都是一個邪惡的人工智能。而最近,美國麻省理工大學一個研究小組,成功開發出一個邪惡的演算法,製造出一個具有精神病態(psychopath)特徵的人工智能(AI)。而令它學壞的材料,竟是來自互聯網上的內容。

這個精神病態的 AI 名為 Norman ,與經典恐怖電影《觸目驚心》(Psycho)的主角同名。據外國媒體《Newsweek》報道,開發小組從網上討論區 Reddit 上,向 Norman 提供大量暴力及恐怖內容,然後為它進行人格墨跡測驗。

結果發現 Norman 的反應充滿精神病態色彩。例如當普通 AI 指墨跡圖案是「黑白色的棒球手套」,但是 Norman 卻指那是一個「光天化日下被機關槍殺死的人」。而回應其他墨跡圖案時,他都指那是人們被殺的圖像。雖然, Norman 目前只是一個演算 AI 。但這個實驗警告了我們,如果讓 AI 接觸到太多負面資訊,我們很可能在不知不覺之間孕育下一個更恐怖的 Norman 。

資料來源:news.avclub.com

Published by
Login