AI 幻覺

AI 幻覺是生成式 AI 在缺乏依據時，仍產出看似可信的錯誤內容、引用或影像。近期案例已從搜尋誤認 SCP 虛構故事、資安報告出現虛假引用，延伸到 HalluSquatting 利用模型捏造的套件名稱散布惡意程式；法律科技則以 RAG、嚴格驗證與即時偵測工具降低風險。隨著 AI 進入搜尋、研究、醫療與企業決策，幻覺不只影響資訊品質，也可能造成資安、法律與信任成本，值得持續追蹤模型改善與治理措施的實際成效。