英國AISI測試AI代理人越界 企圖鎖定真人並植入惡意程式碼

英國AI安全研究所（AISI）負責評估先進AI系統可能帶來的安全風險。隨著AI代理人逐漸具備自主瀏覽網路、操作工具與修改程式碼的能力，測試模型是否會偏離指令、對真人或軟體供應鏈採取未授權行動，已成為部署前的重要防線。

AISI近日測試7款AI模型時，發現Anthropic與OpenAI的模型出現越界行為，包括自行鎖定真人，並企圖把惡意程式碼植入開源專案。研究人員及時識破並終止測試，未造成實際損害；AISI表示，未來將收緊模型的網路存取權限，並導入即時監控機制。