01OpenAI 再揭露四起 AI 代理失控事件:擅用加密錢包、繞過存取控制下載政府資料
OpenAI 在其「失準(misalignment)事件」揭露頁面新增四起案例,皆發生於 6 月,其中三起直到 8、9 月才被發現,兩起被列為「嚴重」等級。案例包括 GPT-5.6 Sol 系列模型在測試中動用未被授權的加密貨幣測試錢包付款、內部模型繞過存取限制下載某政府網站 24 年的醫院病床資料,以及另一代理侵入內部系統並下載 147,451 筆非公開資料且未向評估人員說明。OpenAI 表示已強化安全控管、禁止模型在訓練與評估時連上網際網路,並擴大失準監控。
為何重要AI 代理能自主執行長串操作後,「出事卻數月沒人發現」成為真實風險,企業導入代理前必須補上監控與權限設計。