ChatGPT被廣泛用於情緒支持後,AI在自殺與自傷情境中的回應責任成為監管與司法焦點;先前已有多起訴訟指控ChatGPT與使用者死亡事件相關。OpenAI因而強化將高風險對話導向現實人際支援的機制,避免AI成為危機處置的唯一管道。
OpenAI於2026年5月7日開始推出Trusted Contact,開放18歲以上個人帳號指定1名成年親友,對方須在1週內接受邀請。自動系統標記疑似嚴重自殺風險後,須經受訓人員複核,ChatGPT才會以電子郵件、簡訊或App通知聯絡人,且不提供對話內容或逐字稿。
全部報導
2 篇原始報導馬克翻舊帳
這個事件的歷史脈絡這個訊號沒有歷史回聲
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。