無論是學習或工作,很多人都開始使用 ChatGPT 作為輔助,雖然人工智能聊天機械人日漸普及,甚至陸續為各大企業所採用,ChatGPT 仍然存在不少尚解決的問題。就連 ChatGPT 的開發者 OpenAI 亦承認模型可能會產生誤導性的結果,日後的開發要集中提升人工智能答案的可靠度。
早前由哈佛大學醫學院轄下布萊根婦女醫院研究人員撰寫,有關 ChatGPT 提供癌症治療方案的研究報告,獲刊登於《美國醫學會腫瘤學期刊》。研究人員發現 ChatGPT 提供的治癌方案存在嚴重漏洞,不但毫無參考意義,而且還將正確與錯誤的資訊混雜,令用戶難以分辨資訊的真偽。
報告指 ChatGPT 在回答有關癌症病例和治療方案時,有三分一為失實資訊。參與研究的 Danielle Bitterman 博士指出,ChatGPT 生成的答案將正確和錯誤內容混合,已經達到連專家也難以辨別的程度。雖然存在回答失實的情況,但 ChatGPT 的使用條款有明確表示,該模型並非用於提供醫療資訊,也不該用於嚴重醫療狀況的診斷或治療。
資料及圖片來源:cnbeta