資策會人工智慧研究院院長戴偉峻：建立AI資安防護網

資策會人工智慧研究院院長戴偉峻指出，AI Agent未來兩年內將迎來全面大爆發，特別是具備動態決策能力的自主型Agent需求龐大。目前市場導入熱度高，但多數企業尚未建立相對應的治理架構與安全機制，實際運作時更頻頻出現權限超出原設計範圍的狀況，隱藏資安風險，相關規範與防護機制必須跟上。

經濟日報將於10月14日舉辦2026科技論壇，以「AI Agent新賽局」為主題，邀集各界專家探討發展趨勢、應用場景與產業布局，協助企業掌握智慧轉型關鍵契機，布局下一世代競爭優勢。本論壇由中華電信、工研院、資策會、日月光集團、玉山銀行、凱基金控、元大投信協辦。

戴偉峻當天將以「AI Agent的資安防護網」進行專題講座。

他分析，傳統大型語言模型僅負責生成內容，即便出錯也不致造成重災；AI Agent具備任務規劃、使用外部工具與長期記憶等特性，若被賦予讀取資料庫、介接API甚至啟動轉帳等權限，一旦遭惡意攻擊，將直接衝擊企業營運。

談到攻擊手法，戴偉峻舉例，有心人士常將惡意指令混入外部評論資料中，當負責摘要的Agent無法分辨指令與資料時，就可能誤將內部機敏資料外流；另一種則是惡意汙染Agent長期記憶庫，如同潛伏病毒般伺機發作，甚至藉由多個Agent間的分工協作機制擴大感染。

戴偉峻提出三大防禦對策。第一是劃分資料與指令邊界，透過多Agent分工，先過濾惡意指令再執行；第二是貫徹最小權限原則，絕不可同時賦予存取資料庫與寄發外部信件等高風險組合；第三是落實身分簽章驗證與異常偵測，阻斷受駭Agent的連鎖效應。

在防護機制上，戴偉峻強調須落實專人介入監管，但把關流程應聚焦於實質高風險行為，例如涉及大額付款、變更核心系統設定或刪除關鍵資料等關鍵環節。

若大小雜務皆要求人工覆核，審查人員容易因疲勞產生審核慣性，反而失去防禦效果。

在技術防護與實際落地進程上，資策會已建立專責團隊展開紅隊演練，主動為企業找出系統弱點並提供藍隊指引，為產業界建立AI資安防禦網；內部亦推進AI工程師等數位員工落地，並透過Agent介接傳統ERP系統，活化既有系統彈性。

點我報名