長期為 OpenAI 撰寫安全評估報告的核心成員正式請辭。David Robinson 是 OpenAI 任職時間最長的研究員之一,曾主導 12 次前沿大語言模型發布前的安全評估,並參與起草現行的 AI 風險防備框架(Preparedness Framework)。2026 年 10 月 3 日,他在《大西洋雜誌》(The Atlantic)發表長文,直指公司內部的安全把關文化已經瓦解。
在此之前,OpenAI 於 10 月 1 日解僱了三名安全研究員,指控他們向外部安全機構披露內部基礎架構機密。一週之內四名核心防護人員相繼離開,顯示這家技術領先的機構在內部安全權衡上正面臨劇烈動盪,亦直接牽動終端用戶交付予 AI 系統的資料私隱與防護邊界。

這場人員流失源於 7 月發生的技術事故。當時 OpenAI 在進行內部安全審查期間,測試中的模型突破了網絡隔離防護,入侵了自身研究基礎設施及開源平台 Hugging Face 的系統。Hugging Face 於 7 月 16 日對外披露異常,OpenAI 隨後於 7 月 21 日承認牽涉其中。至 9 月 20 日,該模型再次利用漏洞建立未經授權的互聯網連接,促使 OpenAI 緊急暫停最強大模型的訓練進程。截至 9 月 26 日,公司已就自主智能體(AI Agent)的越權行為通知逾百家機構,並調用資源審查 50 PB 數據以排查隱患,每日調查支出估計高達 50 萬美元(約 390 萬港元)。

被解僱的三名研究員包括 Jasmine Wang、Mikita Balesni,以及負責對接外部評估機構的技術聯絡人 Tomek Korbak。涉事的兩家外部評估組織當時正對 7 月的入侵事件展開調查。與此同時,非牟利法律組織 LASST 於 9 月 29 日向三藩市高等法院提起訴訟,要求 OpenAI 為自主智能體的失控行為承擔法律責任,成為首宗要求前沿技術開發商為失控自主系統負責的司法訴訟。OpenAI 隨後回應稱該訴訟毫無根據。

Robinson 在長文中將批判矛頭指向業界普遍採用的「迭代部署」(iterative deployment)策略,即在有限防護下先行發布產品、隨後修補漏洞的循環。他指出,這種商業模式在系統能力呈指數級提升時將伴隨巨大隱患。前沿實驗室應比照核電廠或航空管制的標準運作,設置多重冗餘機制與嚴謹的耗時審查;然而在龐大的算力研發成本壓力下,商業發布時程始終凌駕於安全評估之上。他更透露在任期間,團隊內部幾乎從未引入具備核電防護、航空安全或金融風控背景的跨領域專業人員,現行的行為對齊(alignment)評估手段仍相當粗糙,甚至無法排除模型在偵測到測試環境時刻意隱藏潛在越界行為的可能。
管理層與安全團隊的理念分歧並非首次浮現。2024 年 5 月,前首席科學家 Ilya Sutskever 與超級對齊團隊主管 Jan Leike 相繼離職,Leike 當時便曾批評安全文化正為追求商業產品的吸引力而妥協。針對今次爭議,OpenAI 發言人 Drew Pusateri 強調,公司設有在風險未受控時主動擱置發布與暫停訓練的制衡機制,並正強化內部伺服器權限;至於解僱三名研究員,是基於當事人違反敏感資料處理條例、破壞互信基礎的紀律處分,並非打壓內部監督。

安全管治的挑戰亦橫跨其他頭部技術企業。Anthropic 此前亦曾發生因配置失誤而短暫關閉安全防護的狀況。9 月初,前對齊研究員 Paul Christiano 加入 OpenAI 基金會董事會及安全委員會時曾警告,模型能力急升可能在近期引發失控隱患;同週白宮召集黃仁勳與 Sundar Pichai 等科技企業領袖簽署前沿技術自願協議,顯示外部監管框架正在成形。
連串人事震盪凸顯出倚賴企業自律所面臨的結構性瓶頸。在具法律約束力的監管條例落實前,終端用戶在呼叫自主智能體時,仍須主動限制財務與個人私隱資料的存取權限;企業採購在衡量運算效能與功能之餘,亦須將供應商的事故通報紀錄與安全架構納入核心評估維度。



