xAI 起訴 Grok 用戶生成非法兒少性影像引發責任爭議

隨著生成式AI工具普及，利用AI生成非法兒少性影像的爭議愈演愈烈。馬斯克旗下的科技公司xAI主動起訴惡意用戶，試圖將非法內容的責任歸咎於故意繞過系統防護的個人。此案是全球首例由AI開發商控告自家用戶的訴訟，正式拉開AI平台與個人犯罪界線的法律攻防，對未來科技監管與法律責任歸屬具有指標性意義。

2026年7月，xAI向美法院起訴67歲男子哈伍德，指控他設計誤導性提示詞繞過Grok防護生成兒少性影像。xAI強調，自2026年以來已停權逾5萬個惡意帳號，並向美國國家失蹤與受剝削兒童中心（NCMEC）通報逾7萬份報告。然而，xAI亦面臨多起集體訴訟，指控其模型防護不足，使責任歸屬陷入拉鋸。