德勤承認澳洲政府委託之報告使用AI生成,引發信任與專業爭議
德勤承認澳洲政府委託報告使用AI生成,報告錯誤引發信任與專業爭議
德勤澳洲公司(Deloitte Australia)承認,其為澳洲就業與工作場所關係部(DEWR)撰寫的一份價值44萬澳元的報告中使用生成式人工智慧(AI),該報告因多項錯誤並引述虛假參考文獻遭揭發,德勤同意退還部分款項。
事件起於7月發布的初版報告,雪梨大學學者Christopher Rudge發現報告中出現多處不存在的學術參考與錯誤引文,推測是源於AI的「幻覺」(hallucinations)所生成之虛構回應資訊。
德勤於內部調查後,於10月初上傳修正版報告,刪除10餘處錯誤引述,重寫參考文獻並修正多處印刷錯誤。
R教授批評,德勤未在初稿揭露AI的使用,等於承認報告的關鍵分析任務(core analytical task)係由AI完成,導致報告的可信度受損。又稱,當報告建立在有漏洞、未披露且非專家的方法之上,其建議內容即難以被信任。
DEWR回應表示,修訂版仍保留獨立審查的實質分析與建議,但未確認錯誤是否因AI導致。DEWR證實德勤同意償還最後一期款項,但未透露金額,惟未說明是否續聘該公司。
據悉,自2021年以來,德勤澳洲與DEWR的合約總額近2,500萬澳元,此次事件將對德勤專業形象造成衝擊。(資料來源:經濟部國際貿易署)
|
|
|
|