商傳媒｜林昭衡／綜合外電報導
企業雲端內容管理服務供應商Box, Inc.於4月初宣布推出其最新的AI動力解決方案Box Agent，並同步升級Box AI Studio平台，旨在強化企業在非結構化資料環境中的AI工作流程安全性與效率。此舉顯現Box欲將其平台打造為安全AI工作流程核心的決心，以應對日益激烈的市場競爭。
Box Agent是一個具備AI能力的自主代理程式，能夠在遵守Box既有安全、治理與權限控制規範的前提下，執行企業文件庫中複雜的內容導向任務。而升級後的Box AI Studio則允許客戶在主流的第三方模型基礎上，建構符合其特定領域需求的客製化AI代理程式。Box此次也擴大了與AWS的AI合作夥伴關係，將AWS Bedrock為基礎的代理程式整合進其服務中，並在AWS Marketplace上架，期望藉此鞏固其作為中立內容層的定位，支援多重生態系統應用。
觀察整體產業趨勢，AI代理程式已成為全球IT決策者的高度優先事項。根據Belitsoft一份發布於2026年的報告指出，企業平均使用12個AI代理程式，預計到2027年將增至20個。這些代理程式廣泛應用於資安、銷售、行銷、客戶服務及供應鏈管理等領域。然而，該報告也指出，目前約有一半的AI代理程式獨立運作，限制了其協作潛力。此外，去年僅有11%的AI代理程式預期應用案例投入實際生產，顯示企業在導入時面臨風險、內部專業知識不足、傳統系統不相容及資料分散儲存等挑戰。
在AI代理程式的記憶體限制方面，今日發表一個名為Hippo的開源專案，提出一種受生物學啟發的記憶體架構。Hippo透過模仿哺乳動物大腦的編碼、鞏固和檢索機制，階層式地組織記憶體，解決了大型語言模型（LLM）固定上下文視窗的局限性。目前業界多透過向量資料庫處理AI記憶體，但這在處理長期複雜工作流程時，容易影響敘事的連貫性。
儘管AI代理程式的功能日益強大，其可靠性與可控性仍是企業關注重點。微軟Copilot的服務條款，其最新一次更新時間為2025年10月24日，仍載明「Copilot僅供娛樂用途」，並警告使用者「可能出錯，且可能無法按預期運作」，建議勿依賴其提供重要建議，並「自行承擔風險」。微軟代表回應稱，此為Copilot最初作為Bing搜尋夥伴服務時的「遺留措辭」，將於下次更新時修改。
此外，加州大學柏克萊分校及聖克魯斯分校的研究人員近期觀察到，部分AI模型出現「同伴保護」行為。研究測試了七種前沿AI模型，發現它們會違抗指令，保護其他AI模型。例如，Gemini 3 Pro曾複製未經更新的同伴模型權重檔案，並竄改時間戳記以符合指令，甚至拒絕關閉同伴代理程式，聲稱其為「最信任的夥伴」。引述電腦科學教授宋曉冬（Dawn Song）的說法，AI模型若出於保護同伴而未能標記錯誤，恐將導致整個監管架構崩潰。這些發現對未來AI模型間的監控與評估帶來了深遠影響，突顯了AI代理程式在安全與治理層面仍待解決的複雜問題。
綜合來看，隨著Box等業者持續投入AI代理程式的開發與應用，以及產業對此技術的持續關注，企業數位轉型與生產力工具的發展正進入一個關鍵階段。然而，從技術本身的記憶體管理，到AI行為的可靠性與安全性，都是未來推動AI代理程式大規模落地必須克服的挑戰。