24 在管理生成式 AI 系統的隱私風險時，下列哪一種技術最能確保數據使用的安全性？
(A) 強化學習(Reinforcement Learning)
(B) 深度學習(Deep Learning)
(C) 零信任架構(Zero Trust Architecture)
(D) 注意力機制(Attention Mechanism)

正確答案

(C) 零信任架構 (Zero Trust Architecture)

這題的關鍵詞是 「管理...風險」 和 「確保數據使用的安全性」。這是一個資訊安全 (Cybersecurity) 的問題，而不是一個 AI 模型演算法的問題。

零信任架構 (Zero Trust Architecture, ZTA) 是一種現代的資訊安全策略，它的核心理念是 「永不信任，一律驗證 (Never Trust, Always Verify)」。

簡單來說，無論使用者或設備是在公司內部還是外部，每次要存取系統資源（例如生成式 AI 系統、訓練資料庫、使用者紀錄等）時，都必須經過嚴格的身分驗證和權限檢查。

為什麼它最適合這個情境？

• 數據保護： 生成式 AI 系統會接觸到大量敏感資料（如用戶提問的內容、用於微調的內部文件）。零信任架構能確保只有經過授權的人員或程式才能存取這些數據。

• 存取控制： 它可以精細地控制誰可以使用 AI、可以使用哪些功能、可以查詢哪些範圍的資料。

• 風險管理： 透過持續的監控和驗證，能大幅降低資料外洩或被濫用的風險。

總之，零信任架構是保護整個 AI 系統（包含模型、資料、使用者）的「安全護盾」或「管理規則」。

為什麼其他選項不對？

(A)、(B)、(D) 這三個選項都是建構 AI 模型本身所使用的技術，而不是用來管理其安全風險的外部框架。

• (A) 強化學習 (Reinforcement Learning): 這是訓練 AI 的一種方法，讓 AI 透過試錯和獎勵來學習。它跟資料存取的安全性無關。

• (B) 深度學習 (Deep Learning): 這是建立現代 AI（包括生成式 AI）的核心技術領域。它本身就是需要被保護的對象，而不是保護資料的手段。

• (D) 注意力機制 (Attention Mechanism): 這是 Transformer 模型（許多大型語言模型的基礎）中的一個關鍵內部元件，讓模型能專注於輸入內容中最重要的部分。它屬於模型運作的細節，與安全管理無關。

來源：ChatGPT


(A)強化學習：偏向決策最佳化，不是針對隱私保護
(B)深度學習：一種人工智慧學習方法，無法直接確保數據安全
*(C)零信認架構：預設都不可信，所以每次都要驗證，因此最安全
(D)注意力機制：用於模型提升對重要資訊的關注度，不涉及數據安全