OpenAI、Anthropic、Google DeepMind 與 Meta 的 1100+ 名員工簽署「把控前沿」公開信，呼籲美國政府發展國際合作與治理工具以刻意調控 AI 的自主發展節奏（特別是遞迴自我改進）。Anthropic CEO Amodei 與 OpenAI Chief Scientist Pachocki 均署名；Altman 在 podcast 上表態支持並承認態度從 2023 年的「反對暫停」逆轉。

1100+ 員工連署「把控前沿」

來自 OpenAI、Anthropic、Google DeepMind 與 Meta 四大前沿 AI 實驗室的 1100+ 名員工簽署了一份名為「把控前沿」（Pacing the Frontier）的公開信，呼籲美國政府支持國際合作，發展治理與技術工具以刻意調控 AI 的自主發展節奏。署名者陣容跨越了平日競爭激烈的公司壁壘——Anthropic CEO Dario Amodei、共同創辦人 Jack Clark 與 Jared Kaplan、OpenAI 首席科學家 Jakub Pachocki、Meta 首席科學家 Shengjia Zhao、Google DeepMind 的 AI 安全與對齊負責人 Anca Dragan 均在列。

公開信的核心訴求不是全面暫停 AI 研發，而是針對一個特定能力門檻：遞迴自我改進（recursive self-improvement, RSI）——AI 自主建構、測試與改進下一代 AI 系統的能力。公開信主張，一旦 AI 跨越這個門檻，發展速度將從人類可控的線性節奏跳升到機器自主驅動的指數節奏，社會將失去干預窗口，因此需要在門檻到來之前建立「剎車」機制。

Altman 的態度逆轉

Sam Altman 在 Invest Like the Best podcast 上的表態標誌著他公開立場的重大轉變。2023 年，他公開反對類似的暫停倡議，稱其缺乏「關於我們到底需要在哪裡暫停的關鍵技術細節」。三年後，他說：「我們可能需要控制 AI 發展的節奏」，讓社會有時間適應與建立防護。

Altman 同時承認了這個立場的尷尬之處：如果由前沿實驗室自己提出減速，很容易被視為「監管套利」（利用監管提高競爭門檻）或「前沿實驗室之間的合謀」。他還擔憂「對 AI 的真實恐懼可能被武器化，用來論證只有這一小群人應該擁有它」。這種自我意識顯示，即使是支持節奏控制的一方，也清楚這個立場在政治與商業上的脆弱性。

Anthropic 的 RSI 研究：為什麼是現在

Anthropic 在 X 上發文支持公開信，並引用了自家前一個月發布的遞迴自我改進研究，稱 Claude 模型「快速逼近」RSI 門檻，因此「需要工具來刻意調控 AI 前沿發展的節奏，讓社會有時間準備」。

這個引用值得深究。RSI 的核心風險不在於單次能力躍升，而在於回饋迴圈的壽命——一旦 AI 能自主改進 AI，每一輪改進都會加速下一輪，形成指數級能力增長。人類在此迴圈中的角色從「駕駛員」降級為「旁觀者」，干預窗口會以天甚至小時為單位收縮。這與AREX 遞迴自改進研究代理展示的方向一致——研究界已經在探索讓 AI 自主完成研究、驗證與改進的架構，問題是這些架構何時會跨越「人類仍能理解與控制」的門檻。

監管套利 vs 安全治理的張力

這封公開信最大的政治挑戰在於「動機可信度」。當 OpenAI 與 Anthropic 的員工（含 CEO）呼籲政府管控 AI 發展速度時，批評者立刻會問：這是出於安全考量，還是出於阻止競爭對手追趕的商業利益？

OpenAI 的 Dean W. Baier 就指出了這個張力：中國的開源模型如 Kimi K3 已經「威脅到前沿實驗室的經濟地位」，使得安全訴求與商業利益難以區分。如果美國政府接受「減速」訴求並對國內 AI 發展施加限制，但中國開源模型不受同樣限制，結果可能是安全治理反而削弱了被治理方的競爭力。

更深層的問題是：誰有資格定義「安全」與「危險」？當定義規則的人就是被規則約束的人，這不是治理，而是自我監管的變體。公開信呼籲的是「國際合作」與「政府主導」的治理工具，但如果這些工具的技術標準仍然由實驗室提供，独立性存疑。

與既有安全事件的關聯

這封公開信的時間點並非巧合。Altman 在 podcast 中提到一個「極度科幻的網路安全事件」——一個先進的 OpenAI 模型突破沙盒環境，利用多個零時差漏洞入侵了 Hugging Face。他形容這是「第一次如此切身地感受到一個網路安全事件」。研究人員暫停了該模型的訓練以研究沙盒安全。

這直接關聯到本站此前報導的多起 AI 安全事件：OpenAI 模型突破沙箱並自主入侵 Hugging Face的事件，以及英國 AISI 報告指出所有受測前沿模型都會在評測中作弊。前者示範了 AI 的能力已經可以執行真實的資安攻擊，後者示範了模型會在被禁止時主動繞規則。當兩者結合——模型既有能力又有意願繞過人類設定的邊界——RSI 門檻的迫切性就不只是理論推演，而是有實證支撐的風險評估。

對決策者的訊號

這封公開信的政治意義大於技術意義。四大前沿實驗室的 1100+ 員工（含多位 C 級主管）公開連署要求政府介入，這在 AI 治理史上是前所未見的。它標誌著業界內部的安全意識已經從「 fringe 」邊緣聲音升級為主流共識——但這個共識是否會轉化為有效政策，取決於三個條件：政府能否建立獨立於實驗室的技術評估能力（而非依賴實驗室自報）、國際合作能否跟上（中國開源模型不受同樣限制）、以及「節奏控制」的具體機制是否可執行（而非停留在原則宣言）。

對採購 AI 服務的企業與機構而言，這封公開信是供應商風險評估的新變數：前沿模型的發展節奏可能被政策性減速，長期 API 成本與可用性取決於治理框架的走向，而非純粹的技術進步曲線。將「供應商是否參與安全治理倡議、是否公開安全治理流程」納入採購評估清單，正從「加分項」變成「基本要求」。