科羅納市導入AI治理平台 克服應用可見性挑戰

商傳媒｜何映辰／台北報導

隨著人工智慧（AI）工具日益普及，企業與政府部門正努力應對 AI 應用帶來的管理挑戰。資訊科技（IT）與資安主管面臨一大難題，即難以全面掌握組織內 AI 工具的實際運作與數據處理狀況，這種現象被稱為「AI 可見性問題」。特別是員工自行選用或內建於未經核准應用程式中的 AI 工具，恐對敏感政府資料構成潛在風險。

為解決此問題，位於加州的科羅納市（Corona）資訊長 Chris McMasters（CIO）選擇與 Darwin AI 合作，導入其 Govern 平台。這款軟體平台能提供組織內所有 AI 工具使用狀況、高風險行為及政策遵循落差的全面視圖，幫助 IT 部門監控與管理 AI 的使用。McMasters 的目標是建立一個安全的 AI 使用環境，讓用戶在日常工作中無須過度思考 AI 的安全規範。

McMasters 採取循序漸進的策略，首先了解員工使用 AI 的頻率，並探討他們對 AI 可能取代工作的擔憂，進而啟動關於 AI 政策的對話。他坦言，雖然科羅納市擁有大量遙測數據，但卻缺乏足夠人力分析這些資料，這也是許多城市面臨的共同困境。Darwin AI 的 Govern 平台則能彌補這項缺口，提供城市員工使用工具的透明度與潛在風險向量（risk vectors）。

透過 Govern 平台，科羅納市團隊得以即時發現敏感資料是否外洩或未遵循內部政策，並能採取改正措施。該平台還能提供 AI 工具的授權成本洞察，識別不同部門的「高用量用戶」（power users）與偏好工具，有助於優化資源分配。

Darwin AI 執行長 Noam Maital（CEO）表示，其公司旨在為 AI 普及的環境提供洞察與防護措施。他指出，現今幾乎所有部署的軟體工具都內建 AI 功能，這讓追蹤 AI 使用變得日益繁重。Maital 認為，AI 為科羅納這類預算有限的較小型組織創造機會，使其能以更靈活的方式，取得與大型城市相同甚至更佳的影響力。McMasters 也強調，科羅納市能善用既有預算，藉由敏捷性（nimbleness）達成顯著成效。