美國政府近日通過委託 Gladstone AI 公司進行深入調查,發布了一份關於人工智能(AI)帶來的國家安全風險的重要報告,標題為「提升先進人工智能安全與保障的行動計劃」。這份報告基於與超過 200 名來自不同領域的專家,包括政府官員、大規模毀滅性武器專家、頂尖人工智能公司高層主管及網絡安全研究人員等一年多的訪談,揭示了人工智能快速發展背後潛藏的「災難性」風險。
報告指出,若不加以嚴格控制,最先進的人工智能系統可能對人類種族構成「滅絕級」的威脅。為了應對這一巨大挑戰,報告建議美國政府採取一系列前所未有的措施,包括限制 AI 模型訓練時使用的計算能力,並要求處於行業前沿的 AI 公司在訓練和部署新模型時需取得政府許可。此外,還建議成立一個全新聯邦 AI 機構,負責設定和管理這些門檻,以及嚴格限制AI晶片的生產和出口。
這份由美國國務院於 2022 年 11 月委託編撰的報告,目的在於了解是否應將 AI 納入其監控範圍,同時強調所提建議並不反映美國國務院或美國政府的觀點。隨著 AI 技術的快速發展,以及新工具如 ChatGPT 的推出,全球對 AI 潛在威脅的關注不斷升溫。
報告中還提到,許多 AI 安全工作人員對其公司高層所追求的錯誤激勵機制表示擔憂,認為這可能會加劇 AI 帶來的風險。因此,報告建議美國政府考慮立法禁止開源先進 AI 模型的「權重」,以防止其被災難性地武器化或失去控制。
儘管這些建議可能面臨政治上的困難,但鑒於 AI 潛在的風險如此之大,報告的作者,包括前國防部官員,強調慎重行事變得尤為重要。他們希望透過提出這些建議,能夠在享受 AI 技術帶來的巨大好處的同時,避免可能的災難性後果。