生成式 AI 可將真實照片快速改造成擬真影像，也讓未經同意的深偽與兒少性剝削風險升高。這起擬議集體訴訟鎖定 Elon Musk 旗下 xAI，原告指控 Grok 缺乏年齡辨識、內容攔截等基本防護，仍可依提示生成未成年人不當影像，可能牽涉數千名受害者。
2026 年 7 月 7 日提交美國加州北區聯邦地方法院的修正訴狀，新增 Jane Doe 4 等原告及 Stability AI 為被告。她稱繼父以她 11 歲時的一張照片，透過 Grok 製作約 7,000 張露骨影像並在網路交換；警方同年 3 月發現後，繼父自殺。訴方尋求損害賠償、懲罰性賠償與禁制令。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡xAI 起訴 Grok 用戶生成非法兒少性影像引發責任爭議
隨著生成式AI工具普及，利用AI生成非法兒少性影像的爭議愈演愈烈。馬斯克旗下的科技公司xAI主動起訴惡意用戶，試圖將非法內容的責任歸咎於故意繞過系統防護的個人。此案是全球首例由AI開發商控告自家用戶的訴訟，正式拉開AI平台與個人犯罪界線的法律攻防，對未來科技監管與法律責任歸屬具有指標性意義。
2026年7月，xAI向美法院起訴67歲男子哈伍德，指控他設計誤導性提示詞繞過Grok防護生成兒少性影像。xAI強調，自2026年以來已停權逾5萬個惡意帳號，並向美國國家失蹤與受剝削兒童中心（NCMEC）通報逾7萬份報告。然而，xAI亦面臨多起集體訴訟，指控其模型防護不足，使責任歸屬陷入拉鋸。
前 xAI 工程師提告公司，稱因揭露 Grok 安全風險遭報復性解雇
Elon Musk 旗下 xAI 開發生成式 AI 模型 Grok，其安全防護、偏見與法規遵循攸關企業部署及監管信任。前工程師 Devin Kim 指控，公司未妥善處理內部風險警告，並將揭弊行為轉化為解雇理由，使案件成為 AI 公司治理與員工保護的重要爭議。
Kim 已對 xAI 與 SpaceX 提告，稱自己因持續通報 Grok 資安不足及偏見問題，最終遭報復性解雇；訴狀並指 xAI 共同創辦人 Jimmy Ba 曾試圖規避歐盟安全規範。截至 2026 年 7 月 20 日，提告確切日期與求償金額尚未公開，Kim 正尋求補償性及懲罰性賠償。
訂閱馬克雷達週報
每週五，本週最強訊號送進收件匣。隨時一鍵退訂。