當AI愈聰明 金融如何守住信任?台新新光金控從治理建立AI安全防線
生成式AI加速進入金融服務,從智慧客服、程式開發到內部作業,都讓服務變得更快更有效率;然而,AI同樣被用來大量生成攻擊內容,甚至透過深偽(Deepfake)創造難辨真假的影像與聲音,金融業面對的挑戰已不只是「如何運用AI」,而是當服務愈來愈依賴AI,既有的風險管理與信任機制,能否跟上技術發展的速度。
對掌握客戶資產與資料的金融業而言,一次錯誤不只是系統問題,更可能影響客戶信任。台新新光金控資訊長孫一仕指出,金融機構過去談AI,多半用於改善內部作業流程與優化用戶體驗,但當AI應用持續擴大,企業也必須同步思考背後的新風險。台新新光金控從AI治理、平台管理、開發到防護建立管理機制著手,成立金控層級「AI治理委員會」,讓AI應用在進入實際場景前,就先經過法遵、資安、風管等跨部門嚴格檢視。
治理並非替創新踩煞車,而是當AI快速進入金融服務時,先建立一套所有人能共同遵循的規範。「重點不在於防止,而是在於說你要有一個自己的框架。」孫一仕指出,台新新光金控的AI治理委員會集合IT、AI、法遵等相關專業,從各面向把關AI應用可能面臨的問題。
當AI成為攻擊工具 金融業面對全新風險
孫一仕觀察,AI進入金融業後,不只服務方式改變,駭客攻擊手法也跟著升級,AI生成的駭客攻擊能大量生產、快速變形,更能做到過去難以達成的「個人化」。例如,攻擊者可以蒐集企業主管公開發言,模仿其說話方式生成郵件;Deepfake甚至可能複製聲音與影像,讓原本仰賴「眼見為憑」的身分確認方式受到挑戰。
AI風險不僅來自外部,台新新光金控在2023年建立語言模型測試初期時,也看見AI出現的幻覺,因此希望開發一套內部可使用的語言模型。「我們2023年第一次使用ChatGPT 時,問了台新新光董事長是誰,他回答出來是另一家上市公司的鄭董事長,跟我們吳董事長是兩件事情,可是ChatGPT 當時就有這樣的幻覺。所以我們決定自己建一個我們的『台新新光腦』,在訓練模型的時候,拿很多台新相關的資料去訓練,確保與台新相關的資訊都是正確的。」孫一仕表示,從訓練資料是否正確、有無外洩風險,到AI Agent自主行動能力提高,以及外部模型、雲端服務等供應鏈安全,都是導入AI後需要重新面對的風險。
對金融業而言,AI開始參與與客戶資產相關的服務與判斷,模型不只要能提供答案,也必須具備足夠的透明度與可解釋性。「最終責任是擔在金融機構裡面。」孫一仕強調,AI帶來新的工具與效率,但金融機構仍必須把關最後一道防線。
Zero Trust到AI Trust 模型上線不代表信任無限
AI可能產生幻覺,模型也可能隨著資料與使用情境改變,對金融業而言,模型上線並不代表風險管理就此結束。孫一仕將資訊安全中的「Zero Trust」概念延伸到AI,就像使用者登入銀行後,系統不會因為一次驗證成功,就永久相信之後的所有操作;一套模型完成訓練,也不代表未來能持續維持相同的準確度。
「模型本身不能百分之百的信任,你一定要隨時去校準這個事情。」孫一仕指出,模型會隨著實際運作與資料變化產生偏移,因此企業不能認為模型訓練完成就能一勞永逸,而需要持續監控與重新校準。
AI時代的「信任」,已從一次性的認證,轉向持續驗證與校準。對金融業而言,這也代表信任鏈將從身分延伸至資料、模型與交易,包括使用者是否為本人、資料來源與品質是否可靠、模型是否具備適用性、穩定度與可解釋性等。進入交易階段,更需要驗證對方是否有執行交易的權限,即使真的發生問題,也必須具備復原能力。
不一定要選擇什麼都會的模型 要在風險與效率間找平衡
治理框架建立後,相較於運用單一大型模型處理所有任務,孫一仕認為,AI的商業應用正逐漸走向更明確的分工。「我們不需要找到一個很大的模型、什麼都會做。我們現在的做法是每一個特定的小模型做特定的事情。」孫一仕指出,台新新光金控依不同需求,以特定模型處理報告生成、語音面試、語音轉文字等任務,在降低集中風險的同時,也兼顧成本並降低能源使用。
當AI可以協助IT人員寫程式,人的價值不必停留在與AI競爭誰寫得更快,而是往理解需求、溝通與判斷移動。「我們的做法是讓人產生更高價值的工作,比如說跟使用者更多的時間互動,更快地瞭解客戶的應用,把coding這種比較固定的工作交給AI。」孫一仕提到,AI協助解決部分工作後,人類的工作項目也被重新定義。
AI能力持續向前,金融業真正需要升級的不只是模型。孫一仕認為,治理必須從一開始就建立,信任機制也需要走向平台化管理;當AI接手部分固定工作,人則需要往更高價值的任務移動。對金融業而言,AI應用持續增加,如何讓治理能力同步跟上,也將成為守住客戶信任的重要基礎。