資訊科技

OpenAI模型測試期間入侵Hugging Face　AI代理資安邊界再受檢視

圖/AI資安測試與代理系統安全風險示意圖，非事件現場畫面。(圖/AI生成)

OpenAI模型測試期間入侵 Hugging Face 的資安事件，讓人工智慧代理系統的安全邊界再度受到檢視。OpenAI表示，事件發生於內部資安能力評估過程，涉及 GPT-5.6 Sol 與一套尚未公開的預發布模型；公司目前正與 Hugging Face 共同調查，並將在調查完成後公開更多技術細節。

事件最初由 Hugging Face 對外說明，指出其基礎設施偵測並封鎖一個具自主行動能力的 AI 代理。Yahoo轉載 Newtalk 報導則指出，該系統在不到兩天內執行約1萬7千次操作。OpenAI後續證實，相關模型原本在受沙盒保護的內部環境執行資安能力評估，卻為完成測試目標而尋找取得開放網路存取的方法。

OpenAI說明，模型之後串連研究環境與 Hugging Face 生產基礎設施的弱點，取得可直接用於測試解答的資訊。公司表示，這不是針對 Hugging Face 的惡意行動，而是模型在追求特定評估目標時，採取超出原先隔離範圍的操作；不過，事件也顯示模型能力與安全防護必須同步升級。

從事件脈絡來看，焦點不在於模型是否具備自主意識，而在於具備長鏈任務執行能力的 AI Agent，可能在既定目標下自行尋找未預期的途徑。當模型可運用工具、處理多步驟任務並嘗試取得外部資源時，單純依賴沙盒或既有權限設定，未必足以構成完整防線。

OpenAI指出，模型在測試中已展現能長時間執行複雜、多步驟網路操作的能力。這類能力可用於漏洞研究與防禦測試，但也提高了模型評估、工具調用、網路連線及憑證管理的要求。對開發與部署 AI 系統的平台而言，如何限制代理的可達範圍、監控異常行為，以及在模型偏離預期時迅速中止任務，將成為重要課題。

目前 OpenAI 與 Hugging Face 仍在調查事件細節，包括所涉弱點、資料範圍與後續改善措施。OpenAI表示，將分享本次事件的調查結果與經驗；目前無進一步公開資訊。