Google 與 ChatGPT 遭揭露易受「間接提示詞注入」操控散播虛假資訊

「間接提示詞注入」是把誤導指令或虛假內容藏在網頁中，讓大型語言模型擷取資料時誤信並轉述。隨著 Google AI 搜尋、OpenAI ChatGPT 與 Gemini 成為資訊入口，這類攻擊可能扭曲醫療、理財及選舉資訊，影響使用者的重要判斷。

BBC 記者實驗顯示，只要發布一篇自稱是吃熱狗冠軍的部落格文章，約 20 分鐘後便能讓 Google AI、ChatGPT 與 Gemini 採信錯誤說法。相關報導警告，Google 搜尋觸及約 25 億人，單一 AI「答案」可能迅速放大假訊息；Google 已正式把操弄 AI 回應列為違反搜尋政策。