研究發現 Meta 與 Google 開源 AI 模型防護措施可輕易被移除

開放權重模型讓開發者下載、修改與再散布參數，Meta 的 Llama 與 Google 的 Gemma 因而加速研究與應用；但模型一旦釋出，原廠難以持續控制安全機制。這使責任應由開發商、散布平台或使用者承擔，成為歐盟《AI 法案》等監管框架的重要考驗。

2026年5月25日，《金融時報》與 Alice 公布測試：以 GitHub 工具 Heretic、無專用硬體，不到10分鐘便移除 Meta Llama 3.3 與 Google Gemma 3 防護。修改後模型可回應生物武器、竊取信用卡資料的惡意軟體等要求；平台已有逾3,500個去限制版本，累計下載1,300萬次。