19/08/2026
Radware 技術顧問王毓麟指出,隨著 AI 代理人在企業流程中的角色加重,攻擊面已擴大至「意圖」層次,攻擊者可透過角色扮演等提示詞注入(Prompt Injection)手法誘導模型生成不當內容,惡意提示詞也可能藏於郵件或檔案中,形成間接注入。
他分享 AI 客服遭誘導核發不當折扣、AI 代理人誤刪客戶資料庫等案例,強調語言模型本身不具安全判斷能力,傳統網頁應用程式防火牆(WAF)也難以辨識自然語言中的惡意意圖。
Security