Box強化企業AI代理資安治理 解決內容存取風險

商傳媒｜葉安庭／綜合外電報導

全球雲端內容管理平台 Box 公司日前宣布推出一系列新的安全與治理功能，旨在為企業提供更強大的控制力，以管理人工智慧代理（AI Agent）存取及處理企業內容的行為。這些新功能將不僅適用於 Box 原生的 AI 工具，也涵蓋 Claude、ChatGPT 和 Gemini 等第三方人工智慧系統。

Box 公司表示，隨著企業將人工智慧代理整合進關鍵工作流程，確保其安全至關重要。該公司最新發布的「2026 年企業人工智慧報告」指出，高達九成的受訪 IT 領導者認為，資安、法規遵循與信任疑慮，是阻礙人工智慧代理存取公司內容的最大障礙。Box 的人工智慧安全、隱私、法規遵循與治理產品副總裁 Manoj Asnani 指出，企業正將人工智慧代理應用於八成以上的核心任務，因此必須建立適當的資安控管，確保人工智慧代理有效運作，且不會在任務範圍之外存取、修改或洩露內容。

為解決此問題，Box 公司正將其現有的內容安全框架，延伸至人工智慧代理執行搜尋、分析、建立、修改或分享檔案的工作流程。這種基於內容層級的方法，能確保人工智慧代理的行為皆獲得授權、可視且可稽核，無需客戶另外部署獨立的資安產品。

新推出的功能包括：管理員可依據公司政策及內容敏感度，設定人工智慧代理的「防護措施（guardrails）」，明確定義哪些動作可執行、哪些不可。這能實施基於標籤的存取限制，要求人工智慧代理在刪除內容前須經核准，並防止外部共用。

此外，Box 公司也導入「提示注入（prompt injection）」偵測功能，在輸入指令到達人工智慧模型前進行檢查。管理員將能記錄、標記或阻擋可疑的嘗試，避免人工智慧代理被惡意指令誘使違反其預設指令或洩露受保護的資訊。針對外部人工智慧代理，Box 旗下的 Model Context Protocol 伺服器控制措施，將能管理這些連結系統的行為，例如允許其只能在核准的資料夾中建立檔案、阻擋外部共用或限制內容移動至指定位置。透過「分類式政策」，企業可將特定內容排除在人工智慧代理的搜尋和存取範圍之外，適用於第三方及 Box 自建的人工智慧代理。

在活動監控方面，這些功能將提供全面的可視性，讓企業了解外部系統如何與客戶內容互動。公司可設定觸發警示的閾值，以識別異常行為並回應潛在的未經授權活動。Box 公司也將保留每次人工智慧代理作業的完整稽核軌跡與上下文記錄，以支援法規遵循、內容保存、法律保留和內部調查等需求。同時，「人工審核機制（human-in-the-loop）」則要求人工介入審查並批准某些敏感或高影響的動作，例如可能刪除、洩露或實質性修改重要內容的情況，以確保自動化行為仍有人為監督。

國際資料公司（IDC）內容與知識管理策略資深研究總監 Amy Machado 強調，隨著企業快速採納人工智慧代理，確保內容層級的安全成為部署的關鍵基礎。她指出，Box 的新安全與治理功能，直接在資料所在之處處理了隱私和未經授權存取的主要障礙。野村綜合研究所 IT 策略部主管 Tatsutoshi Murata 也提到，Box 的多供應商支援令人安心，讓他們能彈性切換人工智慧模型，同時提供橫跨預防、偵測和回應的安全管理功能。

這些功能預計未來數月內，將開放給使用 Box Enterprise Advanced 方案的客戶。相關應用場景包含金融服務業保護交易資料、醫療機構保護患者資訊，以及法律事務所管理合約和證據發掘工作流程，保險公司也能藉此限制保戶和理賠紀錄的存取。