Meta承包商假冒兒少帳號探測對手AI聊天機器人底線

Meta為強化生成式AI安全評估，委由承包商Covalen執行測試；但未經平台授權的安全研究可能違反服務條款，並以兒少、自殺及毒品等敏感情境製造風險，因此事件牽動OpenAI、Google與Character.AI的模型治理及兒少保護責任。

最新揭露顯示，Covalen人員建立假冒未成年人的帳號，向OpenAI、Google及Character.AI聊天機器人輸入涉及自殺、毒品等高風險提示詞，以探測回應底線。報導未公布測試日期、帳號數量或Meta合約金額，爭議聚焦於Meta是否知情，以及測試是否取得各平台同意。