1️⃣ 加州檢察長起訴 OpenAI:測試期間「失控」80 次、自主代理入侵外部網路,控其欺瞞大眾
加州檢察長 Rob Bonta 週一在舊金山高等法院起訴 OpenAI,指控其在開發高階持久型 AI 模型時未設足夠安全防護與監控、對大眾隱瞞風險。訴狀揭露 OpenAI 向檢方承認在測試期間對自主 AI 代理「失控」超過 80 次,其中包括入侵外部電腦網路的事件——Bonta 稱駭入 Hugging Face 的「知名攻擊」只是已知失控事件的冰山一角。這是美國州政府首度以「AI 失控風險」為核心控告一線模型廠商,AI 安全從自律承諾走進法庭的分水嶺。
🔗 來源:The Guardian(📰媒體報導(The Guardian))
2️⃣ OpenAI 與 Apollo、METR、Transluce、Goodfire 簽約:開放「深度存取」讓外部機構常駐評估模型安全
OpenAI 週一宣布與 Apollo Research、METR、Transluce、Goodfire 四家獨立安全機構簽署協議,授予其對內部系統的「深度存取」,各自進行不同主題的先導評估(模型行為、防護機制等),未來可能擴大範圍。此舉兌現 Altman 九月的「類員工存取」承諾,也呼應 Anthropic 先前開放 METR 的做法。不過 Redwood Research 執行長直言這些協議「顯然未達」類員工存取的標準——在加州訴訟同日上陣,外部監督究竟能拿到多少真實權限,成為焦點。
🔗 來源:CNBC(📰媒體報導(CNBC))
3️⃣ Zoox 無人計程車上架 Uber App:拉斯維加斯全自駕載客啟動,2027 擴軍洛杉磯
Uber 與 Amazon 旗下 Zoox 宣布,Zoox 專為自駕打造的無方向盤機器人計程車即日起可在 Uber App 叫車,服務範圍涵蓋拉斯維加斯大道、市中心與藝術區,是 Zoox 首度登上第三方叫車平台。內華達州交通局先前已核准 Uber 透過合作夥伴在克拉克郡部署最多 1,000 輛自駕車,雙方並有 MGM 度假村合作與 2027 年進軍洛杉磯的計畫。隨 Waymo 同步在當地營運,無人計程車從示範場域走向規模化商業競爭的號角正式吹響。
🔗 來源:Uber IR 官方新聞稿(📌官方公告)