用AI寫報告被抓包：引用資料不存在、抄錯法院判決！澳洲Deloitte大翻車給企業的警惕

鼓勵同仁運用AI提升效率，但你做好把關了嗎？

日前，全球專業顧問公司Deloitte正宣布與知名AI新創公司Anthropic合作，將旗下50萬名員工全面推進AI工具使用時，就在同一天，其澳洲分公司因一份報告有多處內容出現幻覺，捏造了不存在的判決、論文，為了止血，被迫局部退還報酬，引起全球同業嘩然、商譽受到重創。

報告有虛假內容，退回875萬元費用

該事件起因為Deloitte Australia（Deloitte澳洲分公司）受澳洲就業與工作場所關係部門（DEWR）委託，製作共237頁的澳洲福利津貼支付的審查報告。但報告在發布後，卻被發現多處引用錯誤，包括：

1. 引用某聯邦法院判決之語錄，該引文在原判決中不存在

2. 引用某學術論文或書籍，但這些論文／書籍不存在

3. 報告中某些專家或機構的觀點，無法在公開學術、法律資料庫找到支撐

曝光後，Deloitte Australia同意退回約44萬澳元（約新台幣875萬元），並在修正版附註承認草稿階段確實使用了Azure OpenAI等生成式模型。公司聲稱已修正錯誤，報告結論不受影響，但實際上，客戶的信任、企業的形象不可能安然無傷。

鄰居失火，不可能自己沒事。此案最值得警惕的是，面對AI生成的缺陷，企業與主管在內部稽核與品質控管上，是否有做到盡職把關、建立審核機制？

AI幻覺並非撒謊，是缺乏驗證

所謂「AI幻覺」，因其生成的內容是以機率算出文字接龍的語句，文字順暢卻未必為真，尤其在遇到缺乏資料支持時，模型可能自行編造合乎語境、可信的文字，以避免空白回答。一旦人類審查環節不足，特別是法律、政策分析等高門檻內容，只要一個錯誤引用、一個捏造判決，都會直接失去公信力。

而這次Deloitte Australia的報告出錯，正顯示其內部稽核機制形同虛設。

導入AI，稽核要先於應用

這不是第一起因AI幻覺導致出包的事件。根據如OECD的《AI principles》、與歐盟《AI Act》等規範，高風險AI應用（如法律、金融、公共政策）必須具備「人工覆核」、「可追溯紀錄」與「透明揭露」三大要件。

企業若要防範未然，應建立以下防線：

(責任編輯 / 溫為翔)