馬克雷達MARK RADAR
關於
EN
登入

OpenAI 推出安全臭蟲獎勵方案防範 AI 濫用

1 篇報導 · 首次偵測 2026-03-30 · 最後活動 2026-03-30

傳統臭蟲獎勵多聚焦程式碼、帳號或基礎設施漏洞,難以涵蓋提示注入、代理人遭劫持等 AI 原生風險。OpenAI 因此另設 Safety Bug Bounty,補足既有 Security Bug Bounty,鼓勵研究人員揭露可能造成實際傷害的濫用路徑。

OpenAI 於 2026 年 3 月 25 日透過 Bugcrowd 啟動方案,重大發現最高獎勵 10 萬美元。範圍涵蓋代理人與 MCP 風險、OpenAI 內部資訊洩漏,以及帳號與平台完整性;提示注入或資料外洩攻擊須至少有 50% 重現率,一般越獄與單純違反內容政策不列入獎勵。

全部報導

1 篇原始報導

馬克翻舊帳

這個事件的歷史脈絡
在這之後
OpenAI 推出 ChatGPT 封鎖模式防範提示注入攻擊首見 2026-06-07 · 3 報導 · 相似 0.78 · 同主題:OpenAI

提示注入會把惡意指令藏在網頁、檔案或郵件中,誘使 AI 偏離使用者意圖,甚至把敏感資料傳給外部。隨著 ChatGPT 串接網路與企業系統,外洩風險升高;OpenAI 因此以封鎖模式縮減對外連線,作為沙箱、監控、權限與稽核紀錄之外的多層防線。

OpenAI 於2026年2月13日先向企業方案推出封鎖模式與「高風險」標籤,6月4日擴及 Free、Go、Plus、Pro 與自助式 Business。啟用後停用即時網頁、回覆圖片、Deep Research、代理模式、Canvas 網路、即時連接器和檔案下載等7項功能;官方稱可大幅降險,但不能完全阻擋攻擊。

馬克雷達|MARK RADAR

習慣在 Google 搜新聞的話,可以把馬克雷達設為偏好來源,搜尋結果會更常出現本站的整理。在 Google 設為偏好來源 →

全站時間均為台北時間(GMT+8)