現在生成式 AI 可以覆蓋的應用範圍越來越廣泛，個人助理也是其中一個備受重視的範疇。不過 Google DeepMind 最近就發表一篇論文，表示這種高智能 AI 助理有可能帶來道德挑戰。
DeepMind 的論文指出，目前正在開發中的次世代 AI 智能助理（AI Agents）預計可以擔任更貼身的個人助理，協助用家完成各種日常工作，例如管理行事曆、提供資訊、購物等等，比現時的語音助理強勁得多，論文表示，這個技術將會「徹底改變工作、教育和創作方式，乃至我們溝通、協調和談判的方法，最終將影響我們的生活形態。」
不過，強勁的能力也會帶來相關的道德挑戰，尤其是當 AI 助理代表用家行事的時候，能否體現用家的價值觀和利益，同時遵守社會規範，將會是一個不容忽視的問題，而且鑑於目前 AI 存在的「幻覺」問題，當 AI 助理擁有更多自主權，對於資訊生態系統和公共輿論也會造成影響。論文表示，次世代 AI 智能助理將會引起信任、私隱和擬人化等道德議題，特別是當 AI 智能助理提供意見時，到底應該遵從用家的喜好，還是提供客觀對其有益的建議，就是一個兩難的局面。
來源：DeepMind