美國紐約有一名律師使用 OpenAI 開發的人工智能聊天機械人 ChatGPT 為同事收集訴訟資料，其後被對家律師發現，起碼有 6 宗案例屬杜撰，現時該名使用 ChatGPT 的律師下月須接受紀律聆訊。
案件涉及一個名叫 Roberto Mata 的男子及美國 Avianca 航空公司，該位男子控告航空公司涉嫌人身傷害。美國律師 Steven Schwartz 及其同事 Peter LoDuca 負責處理這項控罪。 Roberto Mata 指控 Avianca 航空公司員工在 2019 年疏忽致使他受傷。律師 Steven Schwartz 以 ChatGPT 搜尋以往相關案例，但航空公司的代表律師質疑原告律師團在案情摘要中列舉的多宗案例真偽。法官本月 4 日指出，有 6 個案例疑似是偽造，要求原告律師團作出解釋。
負責搜尋資料的律師 Steven Schwartz 上周三（24 日）以書面回覆法官質詢，文件中包括 Steven Schwartz 與 ChatGPT 間的對話紀錄，表明 Steven Schwartz 曾多次求證，要求 ChatGPT 確認案例真偽，而 ChatGPT 每次均向 Steven Schwartz 確認內容屬實。
Steven Schwartz 其後對依賴 AI 表示後悔，並稱之前從來未用過 AI 來搜尋舊案例，所以不知道 ChatGPT 有機會提供虛假內容。據報 Steven Schwartz 及其同事 Peter LoDuca 將於 6 月 8 日接受紀律聆訊。
ChatGPT 是 2022 年 11 月推出的人工智能聊天機械人，能夠以自然、類似人類的語言回答問題。除此以外，ChatGPT 亦可能模仿其他寫作風格外。ChatGPT 的數據庫只有 2021 年之前的數據。