難怪openai最近緊急修改使用守則，需要再加上專家審核。
畢竟蒐集到錯誤資訊就會給出錯誤建議。
如果中華民國律師用了美國法律跟判例會怎樣？

AI 幻覺侵蝕法律界：美國律師引用假案例遭重罰，引發全球追查浪潮

人工智慧濫用問題正蔓延至法律界。美國德州一名律師今年向破產法院提交文件時，引用了不存在的「1985 年布拉舍訴史都華案」（1985 case called Brasher v. Stewart），以及 31 條同樣遭捏造的引證。法官嚴厲批評這位律師，將其移交州律師協會並命令其接受六小時 AI 教育課程。

根據《紐約時報》報導，該事件被洛杉磯律師羅伯特·弗羅因德（Robert Freund）揭發，並將此案例上傳至一個專門追蹤全球AI法律濫用的資料庫。這個由律師與研究者組成的線上社群，旨在蒐集、記錄並揭露AI捏造案例的實例，藉此提醒業界建立審查機制。

根據統計，自2022年ChatGPT問世以來，全球已有超過509起類似案件被記錄。專家指出，AI生成內容常出現「幻覺」，也就是虛構但看似真實的資料。

紐約大學法學院教授史蒂芬·吉勒斯（Stephen Gillers）警告，這類錯誤正「損害法律職業的公信力」。美國律師協會也重申，使用AI並非違規，但「律師對文件準確性負最終責任」。

儘管法院陸續開罰，濫用情形仍層出不窮。一名紐約律師泰隆·布萊克本（Tyrone Blackburn）因使用AI撰寫法律文件、誤引虛假案例，被罰款5,000美元並遭客戶解聘，他坦承疏忽稱「未意識到AI能捏造案件」。