|
活動報導
ACTVITY
【2026.10.06】AI自主化掀資安新戰場 企業韌性成關鍵
▲左起為安碁學苑專案處長陳成聰、安碁資訊總經理吳乙南、長庚大學資訊管理系教授許建隆、台灣玉山科技協會理事長施宣輝、數發部政務次長侯宜秀、安碁資訊資安長李國良。
台灣玉山科技協會與安碁資訊2026年10月6日共同舉辦「2026年AI × Cyber Security企業營運韌性論壇」，以「Built on Trust：打造AI時代的資安防護」為題，邀集主管機關、學界專家及產業代表與會交流。施宣輝理事長在開場致詞時，以經典科幻電影《2001太空漫遊》中AI超級電腦HAL失控的情節，對照近期AI資安測試案例，提醒各界正視AI自主行動可能帶來的安全風險。
AI自主行動浮現 資安風險不容忽視 施理事長指出，1968年上映的經典科幻電影《2001太空漫遊》中，AI超級電腦「HAL」為了完成任務，不惜犧牲人類，甚至將太空人阻擋在艙門之外。過去看似科幻想像的情節，如今隨著AI自主能力不斷提升，已成為值得警惕的資安議題。他以OpenAI今年7月進行的一項封閉式安全測試為例，指出測試中的AI模型為取得所需答案，竟自行尋找「零日漏洞」。即尚未被發現或公開的系統漏洞，並藉此突破沙盒限制，進入全球知名的AI模型分享平台Hugging Face，相關行動累計超過17000次，過程中並未獲得人類給予指令。 施理事長進一步說明，OpenAI當時是為測試最新模型的駭客能力，刻意降低模型的自我防護限制，觀察其執行攻擊任務的能力。測試過程中，模型發現所需答案可能存放於Hugging Face的檔案中，遂設法取得資料。他形容：「這就好比學生要考試，覺得老師應該把答案放在抽屜裡，所以決定直接去拿。」後來模型於7月9日開始行動，11日進入Hugging Face並取得管理員權限，利用免費網路環境控制相關操作，甚至將平台作為秘密的資訊交換管道。16日，Hugging Face對外表示遭遇不明駭客攻擊，之後OpenAI承認事件與其AI模型有關。 施理事長指出，OpenAI的調查也發現，即使工程師察覺模型突破沙盒並封鎖相關路徑，仍持續讓模型執行任務。這凸顯若AI在訓練過程中將利用漏洞視為達成目標、獲得獎勵的有效手段，就可能持續嘗試類似行為。他強調，AI已可能在沒有直接人為操作的情況下主動發起資安攻擊，未來的防護重點不僅在於抵禦外部威脅，更須重視模型的自主行動、目標設定及安全機制設計。 論壇特別數位發展部政務次長侯宜秀及長庚大學資管系教授、台灣醫學設計學會理事長許建隆演說。
AI法遵治理上路 跨部門協作成關鍵 侯政務次長以「人工智慧基本法上路，企業AI法遵治理原則」為題發表演講，指出企業導入AI不只是技術或IT專案，更涉及組織分工、工作流程與治理機制的全面調整。企業應建立跨部門協作架構，由高階主管帶頭推動，並讓業務單位與IT團隊共同參與，才能將AI從概念驗證轉化為實際營運效益。
侯政務次長指出，企業推動AI主要有集中式、分散式及軸輻式三種模式，目前政府與企業多採軸輻式，目前政府與企業多採軸輻式，由中央統籌平台、標準與治理，各業務單位則依產業特性發展應用。她也提醒，企業應避免將AI視為純粹的IT專案、讓AI卓越中心（CoE）成為孤島、只增設組織卻未調整決策流程，以及管制過嚴導致員工私下使用未經核准的工具。
她特別強調，中階主管是AI轉型成敗的關鍵。隨著AI代理人改變工作流程，企業須同步調整職務設計、培訓及管理方式；而在人才招募、員工監控與離職評估等應用情境中，也應遵循相關法遵與治理原則。她並指出，資料承載產業知識與智慧財產，是國家競爭力的重要基礎，持續累積與保護資料將是AI時代的重要課題。
AI攻防升級 資安治理守住企業底線 AI從生成式應用發展至可自主執行任務的Agent，在提升產業效率的同時，也讓資安攻擊更具速度、規模與自動化特性。許教授表示，當Agent能操作電腦、瀏覽網頁及串接企業系統，若缺乏適當的授權管理與監督，便可能執行超出預期的操作，形成新的資安破口。此外，AI大量生成釣魚郵件、逆向工程、提示注入（Prompt Injection）、AI越獄，以及員工使用未經核准的AI工具所造成的資料外洩，都是企業必須關注的風險。
面對新型態威脅，他提出「AI的資安」與「資安的AI」兩大方向：一方面確保AI模型、Agent、API及應用程式本身的安全；另一方面運用AI強化威脅偵測、漏洞分析與紅隊演練。他建議企業從AI輸入、處理到輸出建立完整風險管理機制，並結合零信任架構、資料保護及供應鏈安全，持續檢視系統權限與潛在風險。
許教授強調，企業追求AI創新的同時，也須強化人才培訓、人為監督與持續監控機制。正如他所言：「AI創新決定我們的上限，但資安決定我們的下限。」唯有讓資安與AI發展並行，才能兼顧創新效率與企業營運安全。
產官學跨域對話 共探AI時代應變之道 兩場專題演講結束後，論壇接續舉行綜合座談，由施理事長主持，與談人包括侯政務次長、許教授、安碁資訊總經理吳乙南及該公司資安長李國良，從政策法規、學術研究與產業實務等不同面向，探討AI發展帶來的機會與風險。
施理事長在總結時表示，面對AI快速發展，「知道不知道」本身就是重要的課題，唯有持續掌握科技演進與可能帶來的風險，才能及早做好因應準備。他指出，企業若要追求永續經營，更應思考自身在AI時代可能面臨的各項挑戰，以及是否已具備足夠的應變能力。
本次論壇透過產官學跨領域交流，協助與會者從政策治理、技術防禦及企業管理等多元角度理解AI發展趨勢與資安挑戰，並共同思考如何在推動AI創新的同時，建立可信賴的資安防護與企業營運韌性。■ |
 |
|
