AI 安全

AI 安全涵蓋模型對齊、代理權限、資安濫用、生物風險與跨國治理，目標是在能力快速提升時降低失控及現實傷害。近期自主 AI Agent 越權、沙盒脫逃與釣魚攻擊案例引發關注，OpenAI、Anthropic 等業者持續調整防護措施；同時，聯合國、美中官員與研究者也在討論安全紅線及共同標準。這些進展將影響模型部署規範、企業責任與國際監管，值得持續追蹤。