無論是學習或工作，很多人都開始使用 ChatGPT 作為輔助，雖然人工智能聊天機械人日漸普及，甚至陸續為各大企業所採用，ChatGPT 仍然存在不少尚解決的問題。就連 ChatGPT 的開發者 OpenAI 亦承認模型可能會產生誤導性的結果，日後的開發要集中提升人工智能答案的可靠度。
早前由哈佛大學醫學院轄下布萊根婦女醫院研究人員撰寫，有關 ChatGPT 提供癌症治療方案的研究報告，獲刊登於《美國醫學會腫瘤學期刊》。研究人員發現 ChatGPT 提供的治癌方案存在嚴重漏洞，不但毫無參考意義，而且還將正確與錯誤的資訊混雜，令用戶難以分辨資訊的真偽。
報告指 ChatGPT 在回答有關癌症病例和治療方案時，有三分一為失實資訊。參與研究的 Danielle Bitterman 博士指出，ChatGPT 生成的答案將正確和錯誤內容混合，已經達到連專家也難以辨別的程度。雖然存在回答失實的情況，但 ChatGPT 的使用條款有明確表示，該模型並非用於提供醫療資訊，也不該用於嚴重醫療狀況的診斷或治療。
資料及圖片來源：cnbeta