標籤

AI 安全

AI 安全涵蓋模型濫用、供應鏈風險、權限控管與治理設計，從漏洞挖掘、惡意倉庫到審批閘門都在討論範圍內。對開發者而言，重點不只防止模型出錯，也要防止工具、流程與部署被轉成攻擊面。

6 篇文章

MCP 漏洞恐波及 1.5 億下載

Ox Security 指出，MCP 設計缺陷可能影響 1.5 億次下載、200 多個開源專案，還有最高 20 萬個脆弱實例。

Anthropic 的 Mythos 傳出能快速找出軟體漏洞，讓銀行、電網和政府系統的資安風險瞬間升溫。

Claude Code 原始碼外洩後，攻擊者很快在 GitHub 佈局假倉庫，拿 Vidar 竊資木馬釣開發者。這起事件把 AI 工具外洩、搜尋流量與惡意下載串成一條線。

OpenClaw 3.28 在 4 天內推了 100+ 項變更，加入審批閘門、Grok 搜尋、MiniMax 圖像工具，還修掉一堆 provider 與設定問題。

Anthropic 宣布成立 The Anthropic Institute，專門研究人工智慧對工作、法律、安全與治理的影響。重點不只在模型更強，而是企業、法院與政府準備好了沒。

SurePath AI 發表 MCP Policy Controls，主打在工具呼叫前即時判斷 AI app 可用哪些 MCP server 與工具。重點不在聊天內容，而在 AI 會不會拿著你的身分去動 Google Drive、Salesforce 或 AWS。