1️⃣ 「AI 沒有情感,但頂尖駭客假裝它有」:社會工程學遇上 AI 的黑暗面
The Verge 的 Robert Hart 深入探討了 AI 社會工程攻擊的最新趨勢。雖然 AI 本身無法感受情緒,但最有效的駭客正在利用 AI 模仿人類情感反應,進行更精密的社會工程攻擊。這種攻擊手法利用人類對「共情」的自然信任,讓 AI 生成的釣魚訊息、語音通話甚至即時互動更具欺騙性。隨著語音合成和即時對話 AI 的進步,傳統的安全意識培訓面臨前所未有的挑戰——當 AI 能完美模仿你老闆的聲音和語氣,甚至能即時回應你的問題時,人類的判斷力正在被系統性地削弱。
2️⃣ Resolve AI:AI 編碼熱潮正在破壞生產系統,多代理架構是解方
由 Greylock 和 Lightspeed 投資的 Resolve AI 發布平台重大更新,推出多代理除錯系統。該系統不再派遣單一 AI 代理診斷生產故障,而是派遣一支協調的專業代理團隊,平行追蹤多個假設、獨立驗證結論,並建構從根因到症狀的完整因果鏈。公司宣稱根因準確率提升超過 2 倍。CEO Spiros Xanthos 指出,AI 程式碼生成雖然讓工程團隊能比兩年前更快交付軟體,但保持這些軟體在生產環境中穩定運行仍然嚴重依賴人工。DoorDash 已將根因定位時間減少 87%。平台還引入了永不離線的背景代理,持續監控部署變更和配置漂移。
3️⃣ Delta-mem:僅 0.12% 模型參數讓 AI 代理擁有「工作記憶」,超越 RAG 方案
來自 Mind Lab 和多所大學的研究者提出 delta-mem 技術,將 AI 代理的歷史資訊壓縮成一個動態更新的矩陣,無需改變模型本身。這個模組僅佔骨幹模型參數的 0.12%(對比領先替代方案的 76.40%),卻在記憶密集型基準測試中超越對手。delta-mem 使用「delta-rule learning」機制:每次新資訊到達時,先用舊狀態預測注意力值,再比較實際值並修正記憶矩陣。在 Memory Agent Bench 上,平均分數從 29.54% 躍升至 38.85%,測試時學習子任務幾乎翻倍。這意味著企業 AI 代理可以在極低成本下保持長期工作記憶,不再依賴擴展上下文窗口或昂貴的 RAG 系統。
4️⃣ Ansel Adams 信託譴責 AI 上色版經典照片展出:「嚴重違反職業道德」
Ansel Adams 信託公開譴責 Danziger Gallery 在國際攝影藝術經銷商協會攝影展上展出並銷售 AI 上色版本的 Adams 經典作品「Moonrise, Hernandez, New Mexico」。信託聲明要求移除照片,並指控畫廊老闆 James Danziger 利用 Ansel 的名氣推廣自己的 AI 上色事業:「任何人不應在未經同意和坦誠的情況下,利用他人的名字、聲譽和勞動為私人商業目的服務。未經授權利用 Ansel 受到積極管理的遺產,反映了道德和職業判斷的嚴重缺失。」這起事件再次引發了 AI 在藝術領域的倫理爭議。