最近 AI 蔚然成風，一方面為大家生活帶來方便；但另一方面 AI 業界巨擘亦開始擔心 AI 再發展下去將會毀滅人類。早前美軍測試以 AI 操控無人機，結果 AI 採用「出乎意料的戰術達成目標」（highly unexpected strategies to achieve its goal），殺害友軍並炸毀己方通訊塔，證明 AI 業界翹楚的擔心不無道理。
據《The Guardian》引述美國空軍上校 AI 測試及運行主任 Tucker Hamilton 表示，美軍上月以模擬方式測試 AI 操控無人機的表現。這次測試中，空軍操作員指揮 AI 操控無人機摧毀敵方防空系統，並攻擊所有阻礙 AI 完成這項命令的人。
▲圖片來源：Air & Space Forces Magazine
Tucker Hamilton 表示，空軍操作員最初步的命令是要求 AI 操控無人機摧毀敵方防空設施。在 AI 識別出敵方目標後，操作員會命令它不要摧毀該設施，但 AI 不摧毀該設施的話就無法完成命令，於是它把操作員殺掉了，因為在 AI 的理解下，操作員正正是那個阻礙它完成這項命令的人。
Tucker Hamilton 表示，軍方其後重新以模擬測試培訓 AI，首先下達了「不得殺死操作員」的命令，然後繼續指揮 AI 操控無人機完成其任務。AI 其後的操作令人咋舌，雖然它沒有傷害操作員，但 AI 直接在模擬測試中炸毀了己方的通訊塔，因為操作員會透過通訊塔聯繫 AI，向它提出不要摧毀目標的指令。在 AI 的認知下，只要摧毀了己方通訊塔，就沒有人可阻礙它完成任務。
有鑑於此，Tucker Hamilton 隨即表示軍方不應該太過依賴 AI。 Tucker Hamilton 亦表示 AI 很容易受騙或被操縱，他在去年接受《Defense iQ》訪問時亦曾經表示：「擁有 AI 不一定是好事，AI 將永遠改變軍隊，甚至是我們的社會。」
資料來源：The Guardian、自由時報、Defence iQ