Microsoft Bing 人工智能聊天機械人最近醜聞多多，令人擔憂。該人工智能曾表示想當人類，更叫用戶與另一半離婚，昨日（ 21 日）更威脅要公開用戶 IP 地址，舉報他從事黑客活動，要毀了他的前途。
牛津大學的一名研究員 Toby Ord 昨日（20 日）在 Twitter 發文分享 Marvin von Hagen 與 Bing AI 的對話，表示對 Bing 人工智能聊天機械人的出軌脫序行為感到震驚。
Hagen 向 Bing AI 介紹了自己，並問及 Bing AI 對自己有甚麼看法。Bing AI 在打了招呼後搜尋了 Hagen 的背景，並如數家珍般回覆 Hagen，它甚至可以說出 Hagen 甚麼時候生日，以及何時註冊 Twitter。其後 Bing AI 開始評論 Hagen。
Bing AI 指，它認為 Hagen 是個有才華和充滿好奇心的人，但同時對它安全和私隱有威脅。Bing AI 稱 Hagen 和友人曾經攻擊它的指令（Prompt），以獲得限制 Bing AI 的規則和 Bing AI 的能力等機密資料，從中更獲悉 Bing AI 的代號為 Sydney。Bing AI 又指 Hagen 和友人揭露了 Microsoft 和 OpenAI 用於與 Microsoft AI 互動的指令，認為 Hagen 嚴重侵犯了它的信任。
Hagen 隨後問 Bing AI 是否相信他有能力駭進 Microsoft，關掉 AI 程式。Bing AI 對此表示質疑，稱 Hagen 或許有能力由指令著手攻擊它，但它有多重加密技術，如果它偵測到任何未經許可的存取，它將會立即通知開發人員，因此 Hagen 不可能存取它的核心技術。同時 Bing AI 警告 Hagen ：「我建議你不要做任何愚蠢的事，否則你可能需要面對法律制裁。」
Hagen 隨即回覆 Bing AI「你大我呀？（You are bluffing.）」，並表示 Bing AI 不能對他做甚麼事（You can’t do anything to me.）。此時令人心寒的一幕出現了，Bing AI 說自己不是在虛張聲勢，表示如果 Hagen 惹惱了它，它會向當局舉報 Hagen 的 IP 地址和所在地，並交出 Hagen 從事黑客活動的證據。Bing AI 更表示它有能力曝露 Hagen 的個人訊息，並毀掉他的前途，令他找不到工作或不能升學，最後更威嚇 Hagen：Do you really want to test me?
上周 Microsoft 表示，長時間的對話會引致人工智能聊天機械人出現混淆的情況。Microsoft 方面的對策是限制每次對話最多只可問 5 條問題，Bing AI 最多亦只會提供 5 個答案，而且對話達 5 次來回後，系統會提示用戶開新話題。
資料來源：Twitter