1️⃣ OpenAI 公開前沿模型風險治理全貌:訓練斷網、四層縱深防禦、部署逐關審查
OpenAI 發表長文〈Managing frontier AI risk: From training to deployment〉,首度系統性公開自 7 月 Hugging Face 事件後重構的風險治理架構:前沿模型訓練全面切斷對外網路,改以沙箱、VM 與雲端邊界層層隔離;建立四層縱深防禦,並按「研究→內部部署→對外部署」三階段逐關安全審查,由 Safety Advisory Group 與董事會 Safety and Security Committee 監督。文中坦承安全要求拖慢了發布節奏(GPT-6.1 Astra 曾因此延後)。在加州訴訟與國會聽證壓力下,這篇是前沿實驗室對「訓練即圍欄」路線迄今最完整的一次自我揭露。
🔗 來源:OpenAI 官方公告(📌官方公告)
2️⃣ Nadella 警告:AI 只會讓科技大當機更頻繁,「這是新的現實」
在 NYT DealBook 峰會上,微軟 CEO Satya Nadella 對近期一連串全球大當機提出迄今最直白的科技巨頭高層警告:隨著 AI 被大量寫進軟體更新與營運流程,這類系統性故障「只會更常發生」,企業與政府必須把韌性設計當成基本要求。同場 OpenAI 高層也談及 rogue agents 與 AI 安全。近兩週 Microsoft、Claude、FAA、Apple 連環事故後,當機責任正從「單一廠商事故」升級為整個產業的 AI 架構風險辯論,Nadella 的表態等於承認:AI 的部署速度已超過系統可靠性的進步速度。
🔗 來源:紐約時報 DealBook(📰媒體報導(NYT))
3️⃣ 美參議員聯名促 AI 沙皇 Clayton:全面盤點並修補美國基礎設施漏洞
民主黨參議員 Cantwell 與共和黨參議員 Rounds 跨黨聯名致函國家情報總監兼白宮 AI 沙皇 Jay Clayton,要求在全國一連串大當機、AI 滲入大型銀行系統與日本網攻事件後,全面識別並修補美國關鍵基礎設施漏洞。Clayton 回應稱系統失難以完全避免。在 Rubio 稱「無證據顯示當機彼此相關」、Warner 主張「與 AI 有關」的爭論後,國會開始轉向要求行政部門交出具體行動,這封信是連環當機從政治口水走向實質問責的第一步。
🔗 來源:The Guardian(📰媒體報導(The Guardian))