透視AI風險 產官學界齊聚交流AI契機與挑戰
 台灣玉山科技協會與KPMG安侯建業聯合會計師事務所於4日共同舉辦「2024玉山安侯論壇」,左起遠傳電信總經理井琪、微軟台灣總經理卞志祥、KPMG安侯建業主席陳俊光、台灣玉山科技協會理事長童子賢、台灣大學電機工程學系名譽教授陳良基、KPMG安侯建業顧問部執行副總經理林大馗及KPMG安侯建業數位長賴偉晏均一同與會。
生成式AI(Gen AI)浪潮興起,AI技術迅速發展普及,企業在導入AI提升工作效率的同時,新興風險和挑戰也相伴而至。台灣玉山科技協會與安侯建業會計師事務所(KPMG)攜手於2024年6月4日 舉辦「Future First - 透視AI風險 掌握贏家策略 前進數位新價值」論壇,結合產官學各界專家互動交流,分享AI技術在企業內部的落地應用與風險管理因應之道。 AI衍生新型態風險 企業及早正視因應
台灣玉山科技協會理事長童子賢開場引言指出,過去兩年AI強勁爆發,吸引市場、媒體關注,他於2018年曾說過:「得AI者得天下。」童理事長說,AI強勢帶動經濟、產業蓬勃發展,也引領社會前進,這是非常重要的。台灣非常幸運處於浪潮之中,但是幸運的背後也是許多努力累積而來,從PC到手機等終端應用發展,又回頭促使半導體業進化,台灣產業具備完整生態系(Ecosystem)正向循環,因此得以迅速跟上趨勢成長。
童理事長說,目前AI幾乎成為全民運動,各廠商、公領域在AI的規劃容易受到全民的關注,也使AI很快進入深水區,已不僅是單純的技術或產業問題。當AI被運用到生活中,衍生出許多虛假訊息、詐騙等風險,例如深偽(Deepfake)即是一例。此外,在AI時代下,為使資訊處理順暢,如將所有資料都傳上雲端,甚至個人的私密資訊等,不僅有資安問題,也可能涉及倫理問題或道德風險,這些議題都會影響AI未來10年是否能順利發展。面對AI時代來臨,產業要正視風險,公司治理上需要升級檢討,也需要政府部會、法規層面提早做出相應的研討與擬定,不僅探討AI技術,更要關注AI所帶來的風險。
安侯建業主席陳俊光致詞道,各大企業期待運用AI幫助公司轉型,但在導入AI過程中,也會對AI抱持好奇與懷疑態度,會懷疑資料的安全與AI回應的正確性,需要反覆校正、訓練,才能協助工作效率提升。AI所帶來的風險,以及AI人才的培育,也是企業日漸關心的議題。藉由與會講者從不同角度分享相關思考。
數位發展部部長黃彥男透過預錄影片致詞,AI在產業發展中扮演著至關重要的角色,並且是推動國內數位經濟發展的關鍵因素。未來,數位發展部將致力於建構「數位經濟高速公路」,積極推動AI技術的應用,並在數位經濟和數位韌性方面持續努力。
台灣產業具備AI強勁優勢 人才培育為當務之急
在主辦單位及貴賓致詞結束後,第一場演講由台灣大學電機工程學系名譽教授陳良基登場,陳教授的講題是「台灣AI新契機人才與應用治理新局」。他表示,台灣作為半導體、IT產業重鎮,具備完整供應鏈,在AI領域地位穩固,將迎來新的契機。首先是不斷增長的AI新應用、新產品,例如提升生產效率、或內容生成、提升工作效能的工具等,都可能成為供應鏈的機會;以及對應AI的訓練需求,數據資料的導入,將公司know how轉化為可供AI學習的資料,例如「AI美容師」因而形成新興行業。更重要的是,公司必須掌握自己的know how,再依據其營運模式選擇AI模型,這是台灣企業可以努力的方向。
陳教授表示,台灣的晶圓製造被全世界所信賴,這個優勢10年內也不會改變,但台灣更應善用此機會,利用AI再升級,使產業持續進步演變。而不同的AI新功能都需要供應者,因此人才的訓練很重要,期待民間攜手政府一起面對這些機會與挑戰,幫助台灣繼續成為全世界的重要夥伴。
善於使用AI者可突破階級發展 惟須重視信賴度
接著,由台灣微軟(Microsoft)總經理卞志祥分享「AI浪潮下的企業新契機─掌握跳級進化的成功關鍵」。他說,從生成式AI問世以來,AI發展進程非常迅速,AI可處理的資訊從純文字進化到多媒體,乃至於非結構性的資料,甚至已有能力與人類進行實時互動,成為強大工具。而從企業的角度如何看待此趨勢,微軟從受訪的31,000家企業客戶回饋中,發現員工強烈需要AI,其中有許多超級使用者(super user),台灣有85%內部員工會自己導入AI工具以幫助日常工作,其中特別擅長使用AI的員工,有92%認為AI可提升生產力與創造力,擅於使用AI的員工有機會打破其階級,甚至跨領域發展。然而站在企業的角度,雖然有79%領導者同意AI是未來的趨勢,但還有60%未實際導入,主要由於企業有資安、AI 模型等多種問題須考量,使得員工使用與企業導入之間存在斷層,企業通常從小範圍、單點開始試用,如促銷活動、客服對應等,要擴及整個企業導入,更重視的是AI的信賴度,組織內也需要相應的人才。
卞總經理總結,2023到2024年最受重視的AI研究議題就是「Responsible AI」,即利用AI智能作為工具,但「以人為本」產生負責任的AI,具備當責性、透明度、安全性等等前提,企業或個人才能放心使用AI。
以人為本 多元AI應用帶動企業升級
遠傳電信總經理井琪以「AI無所不在 創新企業應用價值」為題,分享遠傳企業內部導入AI的經驗。井總經理表示,企業是每一個「個人」所組成,當「個人」具備AI能力時,企業能力也會隨之升級,並且當每個人的能力上限往上打開,可加深員工的創新能力,員工也會願意嘗試更多。由於企業內部溝通最花成本,遠傳選擇使用共通性的工具如微軟的Copilot,使用門檻降低,且每個人都能上手,可有效節省彼此溝通時間。
遠傳內部目前使用生成式AI在整理數據、管理與追蹤歷史資料、會議記錄整理、客服資料整合等多項工作中,特別是日前與亞太電信合併後,需要整合兩家公司的客服、顧客訊息等資料,透過AI協作,即可用很精簡的人力處理龐大的資料量,更提升顧客滿意度。井總經理進一步表示,AI的導入是為了幫助員工的工作生活平衡,有效提升工作效率,釋放創造力,也減少工時。更重要的是,要讓員工體會到使用AI前後的差異,而身為主管不只是發號施令,也要親自示範使用,讓員工有成就感後,創造正向循環。她並期待未來透過生成式AI,拓展更多企業前進的可能性。井總經理最後幽默總結以「大家心動不如行動」鼓勵各企業盡快導入AI於日常營運中。
安侯建業顧問部執行副總經理林大馗表示,企業必須落實防範AI隱形風險,首先從數據治理、雲端治理和資訊治理開始,再進一步實現AI治理,這樣不僅可以提升AI技術的透明性、公平性和可靠性,同時也能降低深偽技術、資安攻擊和演算效能不足等問題,避免對企業營運構成威脅。此外,AI風險治理不僅僅是技術層面,更涉及倫理、法規和資料隱私等多方面的考量。只有在各產業共同努力下,才能打造出一個值得信賴的AI生態系,確保AI的進步不會對社會造成負面影響。在AI演進的過程中,安侯建業強調需要建立健全的風險管理機制,強化各面向的管控措施,才能避免「人工智慧」變成「人工誤會」。
專精於數位創新轉型的安侯建業數位長賴偉晏在座談交流中分享,隨著人工智慧發展加速,產業掀起了一波AI熱潮,「AI」成為整個生態系的熱門關鍵字,各界都在思考如何透過數據落地應用AI,以實現產業新價值。值得注意的是,《歐盟人工智慧法案》已甫於五月正式由歐盟理事會通過,顯示AI的監管與治理風險已成為不可忽視的議題,面對新時代的變動,企業需要掌握風險管理與創新應用策略,並強化治理,才能在數位時代中立於不敗之地。 |