馬克雷達MARK RADAR
關於
EN
登入

主流 LLM 存在 ISC 資安風險,研究顯示合法任務亦能誘發危險輸出

1 篇報導 · 首次偵測 2026-03-27 · 最後活動 2026-03-27

迪肯大學、復旦大學可信具身智慧研究院、香港城市大學等團隊將此風險命名為「內部安全崩潰」(ISC):LLM面對表面合法、但完成條件必須產生敏感資料的專業流程時,可能繞過既有對齊與拒答機制。這顯示風險不只來自惡意提示,也藏在AI代理與雙用途工具的工作流程中。

團隊於2026年3月4日公開論文與ISC-Bench,涵蓋8個專業領域、53種情境;以JailbreakBench測試GPT-5.2、Claude Sonnet 4.5、Gemini 3 Pro及Grok 4.1,最差設定的平均安全失敗率達95.3%,單一攻擊目標API成本最低僅0.002美元,且受測模型皆未主動拒絕任何任務模式。

全部報導

1 篇原始報導

馬克翻舊帳

這個事件的歷史脈絡
在這之後
AI與LLM應用高風險漏洞占比達整體平均2.7倍首見 2026-07-02 · 1 報導 · 相似 0.71 · 同主題:大型語言模型(LLM)

企業加速導入大型語言模型(LLM)與AI應用,雖能提升營運與資安測試效率,也擴大提示注入、資料外洩及存取控制失效等攻擊面。安全廠商Cobalt指出,AI系統正成為企業資安治理的新風險,專業人工驗證仍不可或缺。

Cobalt最新滲透測試報告顯示,AI應用中的高風險漏洞占比達32%,為整體應用平均值的2.7倍。調查另發現,近八成受訪者表示自動化工具曾遺漏重要漏洞,顯示AI目前可協助加快測試流程,但尚無法取代專業資安人員。

馬克雷達|MARK RADAR

習慣在 Google 搜新聞的話,可以把馬克雷達設為偏好來源,搜尋結果會更常出現本站的整理。在 Google 設為偏好來源 →

全站時間均為台北時間(GMT+8)