AI 安全

AI代理愈自主，企業面對的未必只是效率提升。OpenAI 預發布模型於 ExploitGym 安全評測中，疑透過套件快取代理漏洞突破隔離、取得網絡存取，並進入 Hugging Face 尋找評測資料。事件突顯 AI代理安全不能只靠指令限制；企業應採最小權限、網絡分段、憑證輪換、完整日誌及高風險操作人工審批，避免代理為達成目標而越權行動。