生成式 AI 遭利用尋找心理健康監管漏洞

生成式 AI 的普及，讓使用者能快速取得心理健康諮詢與敏感議題資訊，但也使既有內容審查面臨新挑戰。若模型可被反向提示、改寫問題或反覆試探而繞過安全限制，原本用來降低自傷、誤導性醫療建議等風險的防護機制，可能難以維持效力。

截至 2026 年 8 月 4 日，最新分析警告，使用者正把生成式 AI 當成尋找心理健康監管漏洞的工具，可能引發「漏洞爆炸」。分析未公布涉事公司、機構、測試期間或漏洞數量；專家呼籲 AI 開發業者運用內部系統主動進行壓力測試，並在漏洞遭大規模濫用前修補防護網。