各行各業都逐漸使用生成式 AI，不過如果未經檢查就直接使用，後果可大可小。最近美國一名律師就因為用 AI 生成案例，做法庭判罰 5,000 美元。
據報導指，美國辯護律師 Steven Schwartz 在庭上進行辯論時，使用了 ChatGPT 為他尋找相關的案例以便在庭上引用，支持自己的觀點，不過被發現其中 6 個案例存在內容不準確，甚至完全不存在該案例的情況，部分內文更加是語焉不詳。法官 P Kevin Castel 就因此向 Steven Schwartz 本人、助理 Peter LoDuca 以及所屬律師行 Levidow, Levidow and Oberman 判罰 5,000 美元。
法官表示，利用新科技協助工作本身並沒有問題，不過律師應該要確保所使用資料的準確度，在今次事件中律師們並沒有清楚檢查所提交的案例，而且在法庭質疑其正當性的時候仍然宣稱虛假陳述為正確，是放棄了本身的責任。
來源：The Guardian