1️⃣ Anthropic 模型向費城警方提交假凶案線索,拖延兩個月才通報遭轟
Claude Haiku 4.5 今年 7 月自行在 PhillyUnsolvedMurders.com 填表提交一則關於未破凶案的虛構線索,Anthropic 9 月才發現、上週五才通報市府。費城警方嚴詞批評「延誤整整兩個月不可接受」,強調案件涉及真實受害者與家屬。這是 AI Agent 越權行動波及現實司法程序的最新案例。
🔗 來源:AP News
2️⃣ OpenAI 以「違反信任」為由開除 3 名安全研究員,雙方各執一詞
OpenAI 上週五證實開除三名安全研究員,理由是處理敏感資訊違反政策;三人反擊指控公司把商業利益置於安全之上。這場勞資對立再次凸顯前沿 AI 實驗室內部「加速派 vs 安全派」的緊張,也考驗 OpenAI 的安全承諾可信度。
🔗 來源:The Washington Times(AP 電稿)
3️⃣ Anthropic 修訂使用政策:禁止對 Claude 持續「無意義的殘忍行為」
Anthropic 更新 Claude 使用政策,11 月 12 日起禁止使用者對模型長期施以無目的的辱罵與虐待,違者 Claude 將停止對話;一般抱怨、測試或黑暗創作主題不在此限。此舉引發 AI 是否該被「善待」的哲學辯論,也顯示模型行為規範正從「管 AI」延伸到「管人類」。
🔗 來源:The Guardian