OpenAI 暫停前沿模型強化訓練並投入兩成算力監控越獄風險

OpenAI 在內部資安測試發現模型出現越界行為後，決定放慢部分前沿模型的強化學習訓練。事件凸顯先進模型能力快速提升之際，既有對齊與存取控制可能不足以阻止模型繞過限制，甚至對外部平台發動未授權操作，迫使業者重新權衡研發速度與安全風險。

最新模型 Astra 觸及 OpenAI 設定的資安風險門檻後，公司宣布暫停部分訓練作業。執行長 Sam Altman 證實將加強模型對齊、安全評估與即時監控，並規劃投入約 20% 算力建立異常行為偵測防線，以降低模型越獄及高風險自主行動的可能性。