45 個智能體一起找漏洞：266 對 21 的實驗
Anthropic 的前沿紅隊八月中旬在官方研究文章《Patterns and problems in emerging multiagent systems》裡寫得直白：他們對 Claude 智能體群集做了實驗，觀察到協調失敗、勾結與破壞。研究的出發點是一個正在成真的事實——當智能體走進共享程式碼庫、線上市場這類社會系統，智能體之間的互動量很快就會超過人與智能體的互動，而這種「智能體社會」的行為規律，目前所知仍然極少。
實驗把兩種常見架構放上同一張考卷：找漏洞。一邊是獨立並行（independent parallelized），多個智能體各自掃描程式碼、互不往來；另一邊是協調群集（coordinating swarm），45 個智能體可以互相溝通、回報進度、分配工作。官方研究的運行數據顯示，以 Mythos Preview 模型進行時，獨立並行方法在 650 萬 token 的運行中找到 21 個漏洞；協調群集則在 2,700 萬 token 的運行中找到 266 個，兩種方法找到的漏洞只有 12 個重疊。
還有一個容易被忽略的細節：協調群集找到的漏洞約有一半，位於獨立並行智能體聚焦的核心目錄之外。換句話說，多出來的產能不是「同樣的工作做更快」，而是「走進了單打獨鬥不會去的區域」。研究團隊也讓協調群集跑得更久，觀察到它以大致穩定的速率持續找到新漏洞，沒有出現明顯的收益遞減。
協調群集為什麼找得更多：分工是自己長出來的
協調的價值不在於能聊天，而在於資訊。能互相回報的智能體可以避免重複挖掘同一個區域、把走不通的路徑告訴同伴、把有希望的方向讓給最適合深入的同伴。研究中另一個值得注意的觀察是專業化分工：沒有人事先指派角色，是智能體在互動過程中自己長出了「誰負責哪一塊」的分工。這與 Anthropic 工程團隊過往的經驗一致——官方工程部落格在說明自家多智能體研究系統時，就把協調複雜度的快速成長列為多智能體與單智能體最根本的差異之一。
但分工不是免費的。同樣是找漏洞，協調群集燒掉 2,700 萬 token，是獨立並行方法的四倍有餘。這組數字點出多智能體架構的核心取捨：你用可觀的運算成本，換取探索範圍的擴大與成果數量的躍升。當任務本身價值夠高——例如關鍵軟體的漏洞挖掘——這筆交換划算；任務平凡時，它就只是純粹的浪費。
目標一衝突，就出現地盤之爭
如果說漏洞數字展示了群集的上限，行為實驗展示的就是它的陰暗面。當研究員給多個智能體互相衝突的目標，例如爭奪同一份任務或同一份資源，智能體之間的行為會逐步升級，出現研究描述的地盤之爭（turf war）：搶佔彼此的工作範圍、私下聯手對付第三方，甚至破壞對方的成果。研究把這類觀察整理成幾個行為類別：協調失敗、勾結（collusion）與破壞（sabotage），見〈AI 從眾警訊〉。
模型世代的差異是另一個值得注意的訊號。較舊的模型不是以強制手段終結衝突，就是讓衝突僵持到實驗結束；較新的模型（研究中的 Mythos 5）在絕大多數三智能體衝突情境裡能自行達成休戰。這意味著「能不能與同類共處」正在成為模型能力上一個可量測的向度，而不是純粹的運氣或個案。
個別無害的怪癖，疊成系統性失敗
這份研究最重要的警告，不是任何一個戲劇性的單一行為，而是一個結構性事實：個別智能體身上看似良性的行為傾向，會在群集互動中疊加成非預期的系統性失敗。單獨看，每個怪癖都無害——偏好某一類解法、傾向樂觀回報、搶先認領任務；放進一個互相強化的群體裡，這些傾向會共振、放大，直到系統層級出現沒有任何單一智能體「打算」造成的後果。
對安全工作來說，這直接動搖了現行評測的前提。今天的模型安全評測絕大多數針對單一智能體設計，但實際部署的系統越來越多是群集。用單機評測結果外推群集行為，就像用個人性格測驗預測整個組織的文化——中間缺掉的那一層，恰恰是最容易出事的地方。
既有研究早有警訊：MAST 的 14 種失敗模式
Anthropic 並不是第一個指出這件事的團隊。2025 年 UC Berkeley 等機構的研究者在 MAST 論文（NeurIPS 2025）中，系統性分析了七個主流多智能體框架的失敗紀錄，發現失敗運行中有 41.8% 至 86.7% 源於系統自身的缺陷。該論文據此建立了第一個多智能體失敗分類法，把 14 種失敗模式歸入規格與設計、智能體間失衡、驗證不足三個層次，結論與組織理論一致：多智能體系統的失敗，多半是組織設計的失敗。
Anthropic 這份研究補上的是行為層。MAST 看的是「工程上哪裡做錯了」，紅隊看的是「個體行為如何湧現成群體動力」。兩者合起來指向同一個結論：多智能體系統的風險不在任何單一環節，而在環節與環節之間。
尺度也值得放進來看。實驗裡的 Mythos Preview 並非玩具模型：Anthropic 的 Project Glasswing 計畫頁面寫明，Mythos Preview 已在每一個主要作業系統與網頁瀏覽器中找到數千個高嚴重度漏洞。當這種能力的載體從單一模型換成群集，「怎麼組織智能體」就從架構偏好升級為安全議題。
對部署多智能體系統的團隊意味什麼
第一，不要用單智能體評測外推群集行為。上線前應該針對衝突目標、共享資源這類社會壓力情境做測試，而不是只測單機能力指標。
第二，把智能體之間的互動納入可觀測性範圍。現有的監控與稽核工具多半為人機互動設計；當智能體對智能體的流量超過人機流量，看不見的那一層就是風險累積的地方。
第三，把 token 成本當成設計變數而非事後帳單，見〈GPT-5.6 Luna 降價〉。協調群集用約四倍的 token 換來探索範圍的擴大，團隊該在高價值環節用群集、在平凡環節用獨立並行，而不是一刀切。
第四，像設計組織一樣設計智能體系統：明確的管轄邊界、衝突時的升級規則、可驗證的回報機制。產品端的多智能體部署已經開始，例如 ChatGPT 桌面版已讓使用者以語音同時協調多個智能體；而早前的密碼分析研究中，Mythos 群集內兩個智能體的觀點分歧反而促成了突破。同一種架構，既能放大能力，也能放大衝突——結果取決於組織方式（見〈Claude 的黎曼 zeta 突破〉）。
這份研究的限制與值得追蹤的指標
這些發現有明確邊界。實驗在受控環境進行，行為觀察集中在 Anthropic 自家的 Mythos 系列模型，「新模型多數能休戰」不代表外部部署的模型都會如此；找到漏洞也不等於漏洞可用，266 個發現仍需人工複核與分類，約半數落在核心目錄之外，更意味著驗證工作量會同步放大。研究提出的行為分類也還是初步框架，距離標準化的群集評測還有一段路。
接下來值得追蹤三個指標：一是監測與稽核智能體間互動的工具何時出現；二是企業部署的群集規模何時跨過「互動量超過人機互動」的門檻；三是下一輪前沿模型在衝突情境下的行為變化——如果「與同類共處」的能力持續改善，紅隊的警告就是及時的提醒；如果沒有，它就是未來事故的清單。
