醫療 AI 正加速進入臨床決策與照護流程,但模型輸出若看似合理卻漏掉關鍵病史、症狀或處置資訊,可能延誤診斷並傷害患者。NOHARM 評測因此聚焦實際危害,而非只看答案正確率,也讓醫療人員的查核義務、監管標準及過失責任成為迫切議題。
NOHARM 最新研究顯示,包括 OpenAI、Anthropic 在內的主流模型皆有產生有害錯誤的風險,其中 76.6% 源自「資訊遺漏」,凸顯模型可能未說錯話,卻因少說關鍵內容而釀成後果。研究警告臨床人員不應過度信賴現有系統,並促使主管機關重新檢視醫療 AI 的驗證、監督與究責機制。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡這個訊號沒有歷史回聲
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。