OpenClaw 掀起 AI Agent 熱潮 三大考量助企業安全應用

自主式人工智能代理（AI Agent）「龍蝦」OpenClaw近日引發全城熱議，內地不少城市出現長長人龍，爭相參加騰訊、百度等科技企業舉辦的安裝活動。但「養龍蝦」熱潮亦隨即引起監管部門關注，國家工信部點名OpenClaw 存在安全風險，香港的創科局亦提醒公務員切勿在政府電腦安裝OpenClaw，反映這類自主式AI Agent雖然具備強大的主動決策和跨系統協作能力，但亦伴隨合規、安全等風險與挑戰。企業要全面享受AI Agent帶來的好處，並同時兼顧系統安全，就必須從管治架構、員工培訓及工具部署與專業系統管理三方面作全面考量。

 

在管治方面，企業必須建立清晰的AI 執行策略，制定對業務合規的管治機制。AI Agent 雖然可自動分析與執行任務，但若沒有人員把關，有可能會產生任務偏差、誤判或合規等問題。因此，企業在部署AI Agent時，應透過人機協作（Human-in-the-loop）的模式，確保AI的行為在一個可控的框架內運作，透過政策執行與技術整合，把AI使用規範內嵌於系統之中。具體工作包括，在任務開展前由人員為AI訂立目標、規則、權限等具體運作準則；讓使用者只可執行已審批的AI Agent；AI執行任務期間，人員可在關鍵步驟檢視、修訂或批准AI的建議；以及在任務完成後，由人員審視紀錄並作出檢討，持續修正模型設計和流程，提升企業應用AI Agent的安全性。

 

企業在推動 AI Agent 應用的過程中，員工培訓同樣關鍵。除了掌握 AI 系統的運作準則外，員工亦需理解操作方式、合適使用場景及相關條件限制。企業亦有必要加強使用 AI的合規及資訊安全教育，透過結合情境示例與實作演練等培訓，讓不同崗位員工清楚分辨能讓AI自動化處理的場景，以及必須由人員把關的關鍵決策。員工若能配合清晰的使用指引與審批機制，企業便能在提升效率的同時，確保管理與風險控制得宜。

 

企業亦可按業務性質及資料敏感度，審慎選擇合適的AI應用工具及管理平台。在AI 部署架構方面，要實現可控的 AI 安全運算環境，企業可透過本地部署的AI 應用系統（On-Premise Private AI），以離線方式運行 AI 模型，避免資料傳送至外部雲端。至於系統管理方面，企業在引入 AI Agent 時，需同時處理系統整合、數據安全及法規等不同範疇問題。然而在 IT 人才短缺及成本考慮下，未必所有企業都有充足資源應付。故此，可考慮利用企業託管服務（Enterprise Managed Services），利用服務供應商的專業 IT 技術和資源，以較少的人力資源處理 IT 問題和系統維護，降低營運開支，並專注核心業務發展，提升營運韌性及整體競爭力。

 

總括而言，AI 從輔助工具邁向成為與人員協作的智能夥伴，為企業帶來更高效率、韌性及精準的決策能力，但同時亦有機會為企業帶來安全風險。企業在擁抱創新的同時，必須承擔安全與合規責任，並以管治架構、員工培訓及工具部署與專業系統管理三方面作全面考量，策略性推動 AI Agent應用。唯有平衡創新科技及安全風險，企業才能真正享受創新科技帶來的益處。