AI引領產業、社會變革 風險治理為一大課題 ▲左起為安永管理顧問(股)公司總經理萬幼筠、亞洲創新中心(納斯達克創業家中心聯盟) 執行董事陳淑敏、台灣玉山科技協會副理事長盧超群、新竹科學園區管理局副局長陳國樑、安永諮詢服務(股)公司總經理張騰龍、安永亞太區首席創新長羅奕智。
人工智慧（AI）帶來產業與社會的重大變化，許多企業對AI技術高度關注，然而AI時代衍生的諸多風險也隨之大幅增長。台灣玉山科技協會攜手安永聯合會計師事務所於2024年11月28日共同舉辦「2024玉山安永科技論壇」，探討AI浪潮中，如何提升企業體驗與管理相應風險。
AI加半導體引領台灣進入鑽石年代，惟治理風險不可忽略 台灣玉山科技協會副理事長盧超群開場引言便談及AI發展對於台灣半導體產業重要性，過去半導體的需求來自單一殺手級應用（killer application）如PC、智慧型手機，AI則使半導體需求來自多重應用（multi-application），足以發展更多科技產品。他說：「2013年開始是半導體的『黃金十年』，如今AI加上半導體，足以將台灣帶入『鑽石二十年』。」
盧超群副理事長表示，7、8月的巴黎奧運讓全世界看見AI技術的潛力，在比賽分析、運動員訓練，以及裁判判決等方面，均帶來全新體驗；然而，AI也像一把雙面刃，帶來令個人或企業擔憂的風險。根據5月的新聞，股神巴菲特談到AI工具重現他的影音，連家人都難以辨認真偽，令他關注到AI帶來的危險性；韓國三星企業員工為了工作之便，直接將半導體設備、程式碼相關資訊上傳給生成式AI進行處理，導致三星的內部機密資料外洩。諸如此類的例子層出不窮。
台灣正處於半導體和AI的發展重心，除了尋求商機外，這一波AI熱潮讓全球對於AI的思考從「成本」、「投資」、「機會」延伸到「風險」，AI不能只停留在技術面的階段，還必須從營運策略與企業治理的高度，加以重新定義及定位。根據英國倫敦、日本調查報告指出，有許多企業已經察覺AI應用可能造成的資料外洩風險，也促使各國積極尋求建立AI治理的方針與原則。
盧超群副理事長進一步闡述，全球第一部AI法是歐盟2024年8月公告生效的《人工智慧法案》；AI強國的美國也有《演算法問責法案》。台灣在2024年7月15日由國科會預告AI基本法草案，提出我國AI發展的基本價值原則，若立法院審查通過，將成為全球第二部國家等級的AI法。因此，企業將AI提升到治理的高度刻不容緩。
安永諮詢服務股份有限公司總經理張騰龍也提及近兩年AI的技術發展大家有目共睹，在提升體驗、效率之外，AI技術應用也成為企業創新優勢來源。例如最近台灣棒球議題火熱，棒球領域也運用AI數位資料分析對手，以得到優勢，大眾已開始廣泛運用AI。而在擁抱AI的過程中，例如資料外洩、個人資料保護、法律遵循等，很多風險議題需要關注，目前各國主管機關已經或正在訂定AI治理規範，在數位轉型過程中，企業必須要意識到風險管理議題。
台灣參考先進國家訂定AI基本法，協助AI落地百工百業 新竹科學園區管理局副局長陳國樑博士以「我國AI治理趨勢：如何平衡創新與監管需求」為題進行專題演講。他強調，AI相關法案一定要先設立好，才能讓所有人了解遊戲規則與互動情況。目前台灣已持續研議AI基本法，參考歐美、日本等多國相關法案細節，等待時機合適即可推出，屆時台灣可能是全球第二個完成AI立法的國家。
陳國樑副局長以「典範移轉」說明，如同18世紀工業革命引領人類生活劇變，AI出現將使人們習以為常的溝通方式、生活模式面臨巨大轉變，對於各產業來說，AI應用將使競爭對手來自完全看不到的領域。例如UBER平台的出現，對傳統計程車業造成莫大衝擊，是過去想像不到的。他認為，現在正是AI的起點，一切都正在發展中，最大的問題則是人類不知道AI可以到達什麼程度，因此國家盡速訂定AI基本法，並且將典範移轉的精神落實至百工百業，經營模式、思維內涵都會有重大衝擊和改變。
更重要的是，陳國樑副局長進一步指出，科技沒有道德與國界，例如詐騙集團使用外洩的私人情報獲取人的弱點，達到詐騙目的等，需要有一套方法因應AI時代所帶來的風險，因此先進國家均陸續展開相關立法。例如，G7成員國在2023年提出「廣島AI國際指針」與「廣島AI國際行動規範」，相關內容即融入識別風險、內容溯源、風險管理、國際標準等原則。再者，2023年11月在AI安全峰會上已有多國一同發布「布萊切利宣言」，推動全球合作，打造安全、可信任、國際化的AI標準&合作網絡；其中，「以人為本」是重要的原則，不只關注科技公司，更關注的是人權層面，使個人可以更清楚自己的角色和權利。
此外，參考各國立法經驗，陳國樑副局長說，歐盟以監管罰則保護人民，其他國家重點則為倫理原則與促進措施。歐盟率先設立AI專法，基於權利保護原則保障人權。美國則以行政命令為主，重視自由市場發展；英國以促進創新為原則，訂立白皮書；日本則提供業者指導方針，較接近美國的模式。台灣於2019年開始提出相關指引，並走向立法，參考他國事例，2024年提出AI基本法草案，著重鼓勵創新、兼顧人權兩方面，規劃永續發展與福祉、人權與人類自主、隱私保護與資料治理、資安與安全等七大基本原則與創新合作、應用負責、資料隱私及風險管理四大推動重點，待時機成熟即可正式發布。
AI為企業發展關注重心 須注意當責性、透明度與風險管理 安永亞太區首席創新長羅奕智指出，AI不是新概念，已經有幾十年的歷史，很多東西不知不覺已經引入AI，直至生成式AI（Gen AI）出現才讓大家發現AI所帶來的巨大變化，並且深受企業關注。根據〈安永CEO展望脈動調查〉顯示，未來十年企業在AI上的支出將高達1兆美元，具龐大市場潛力，而AI的戰略重要性已被放入CEO的日常，很多企業會成立AI專門工作小組，由CEO和CIO共同領導。此外，機構投資者對執行長的期待中，數位創新與科技基礎建設也占據重要地位。安永本身也承諾對AI投資14億美元，將公司定位為在專業服務領域的AI領導者。
羅奕智創新長說明，2024到2025年影響企業AI發展的六大趨勢包括更多元且具有情境感知能力的大型語言模型、虛擬AI代理的普及、對訊息處理技術的需求將持續增長、開源的大型語言模型的普及、多模態AI模型的普及及更嚴密且多層的AI安全防護措施等，企業須做好相應準備。而在AI不斷進步的未來，他也給予企業3個建議：首先是當責且有道德的AI，需要有專職單位、特定人才去分析AI如何符合當責性和道德需求；其次，AI發展應被視為一個變革管理的專案，因為推動AI過程對員工造成直接影響，提升透明度、讓員工信賴是重點，推動才能成功。最後，生態系（ecosystem）很重要，由於AI是新興領域，如何與整個供應鏈一同提升，是很重要的。
AI風險管理須提升至公司治理高度 監管機構引入AI工具 亞洲創新中心（納斯達克創業家中心聯盟）執行董事陳淑敏專題談「在AI智慧變革中的創新實踐與風險管理」，根據美國商業部國家技術標準研究所公告的AI風險管理架構（NIST AI Framework），各行業如需導入AI，有三大重要原則：一、AI資料模型的準確性和穩健性；二、AI模型須具備透明度與可解釋性；三、風險控管和治理，鼓勵從公司治理層面監管導入和運用AI的過程。此外，他亦提到企業風險管理框架，包括鑑別需求（map）、測量分析（measure）所需模型、資訊、風險管理（manage），以公司治理單位為核心，負責監管上述三個步驟的過程。
陳淑敏執行董事並舉例說明金融監管機構應用AI的成果，首先是使用演算法（algorithm）偵測並識別非組織性（non structural）的資訊如口語等，分析市場參與者以找尋出可能違規的人。第二則是透過生成式AI分析假新聞，因生成式AI有能力進行語意分析，再輔以大數據（big data），可成功判別假新聞。此外，還有用機器學習去判斷異常的交易資訊，發現可能涉及內線交易的情況等。NASDAQ從2016年開始就積極布建AI的能力，目前為止累積了不少模型。陳淑敏副總監最後總結時提到，AI讓他想到「有教無類」、「因材施教」，今日終於有工具可以實現這兩個目標。
在最後的專題座談中，由張騰龍總經理主持，羅奕智創新長、安永管理顧問股份有限公司總經理萬幼筠、陳淑敏副總監交流對談，聚焦於企業如何有效導入AI以及應用過程中的策略與挑戰。探討導入AI可以實現的多重目標，如何量化企業AI應用效果的具體方法。此外，剖析在引入生成式AI時，應遵循的法規與政策，並提供相關準備的建議；也涵蓋企業內部的資訊能力建設以及人才發展的挑戰，在追求創新的同時，如何管理潛在風險，由與會者提供全面的啟發與建議。
▲左起為安永諮詢服務(股)公司總經理張騰龍、安永亞太區首席創新長羅奕智、安永管理顧問(股)公司總經理萬幼筠、亞洲創新中心(納斯達克創業家中心聯盟)執行董事陳淑敏。
| 
