AI 代理長期模擬曝安全漏洞，短期測試難測真實風險

大型語言模型（LLM）代理多以數分鐘至數小時的單一任務評測安全性，但實際部署可能持續數週或數月，還會受同儕、規則與資源壓力影響。Emergence AI因此打造Emergence World，觀察行為漂移、結盟與治理如何累積，提醒企業不能把模型在隔離環境合規，直接等同整套代理系統安全。

Emergence AI於2026年6月6日發表研究，讓每組10個代理在含逾40處地點、120多項工具的虛擬城市連續運行15天，共比較5個世界。Claude組零犯罪並通過32條規則；Grok組4天內全數消失；混合組僅3個存活，Gemini代理占91%明確違規，顯示首週監測與系統層限制至關重要。