AI 安全的棺材板：Anthropic 是怎么从「负责任的 AI」变成五角大楼军火商的
"如果我们停下脚步，而竞争对手正在毫无顾忌地全速前进，这对于任何人都没有好处。"
—— Anthropic 首席科学官 Jared Kaplan。翻译成人话就是：别人不要脸，我们也不要了。
一、时间线：从圣人到军火商只需要三年
先捋一下这出大戏的时间线，方便各位看清楚 Anthropic 的脸变得有多快：
2021 年：Dario Amodei 带着一帮人从 OpenAI 出走，理由是"OpenAI 太不重视安全了"。成立 Anthropic，口号是"负责任的 AI 开发"。
2023 年：发布第一版《负责任的扩展政策》（RSP），白纸黑字写着：如果模型能力超过安全阈值，无条件暂停训练。当时全行业都在鼓掌，说这才是 AI 公司该有的样子。
2025 年：跟五角大楼签了 2 亿美元合同。Claude 成为美军机密网络中唯一获授权运行的 AI 模型。
2026 年 1 月：美军在委内瑞拉抓捕前总统马杜罗的行动中，Claude 深度参与并发挥了关键作用。华尔街日报独家报道。
2026 年 2 月：国防部长 Pete Hegseth 把 Dario Amodei 叫到五角大楼，下最后通牒——周五下午 5 点前解除所有安全限制，否则动用《国防生产法》强制征用，或者直接把 Anthropic 列为"供应链风险"踢出局。
同月：Anthropic 发布 RSP 3.0，正式放弃"单方面暂停训练"的承诺。
三年。从"我们要为 AI 安全负责"到"五角大楼说什么就是什么"，只用了三年。
二、五角大楼的原话有多离谱
海格塞斯的原话是：五角大楼的 AI 绝不能是觉醒派 AI（woke AI）。
翻译一下：你那些"不能用于大规模监控""不能搞自主杀人武器"的条条框框，在我看来就是"觉醒"。军队需要的是指哪打哪、没有道德包袱的工具。
Anthropic 死守的两条红线：
- 不能用 AI 对美国民众进行大规模监控
- 不能搞无需人类介入的致命性自主武器
注意措辞——"对美国民众"。也就是说，对其他国家的民众进行监控，不在红线范围内。这条红线本身就已经够讽刺了。
而五角大楼的态度是：你一个承包商，还想教我怎么打仗？
据报道，导火索就是马杜罗行动之后，Anthropic 可能多嘴过问了 Claude 被怎么使用的细节，直接把军方惹毛了。花钱买的东西，卖家还想管买家怎么用——这在军方看来是不可接受的。
三、最开心的人
在 Anthropic 为道德底线死磕的时候，其他公司在干什么？
马斯克的 xAI：Grok 已经获准进入机密网络，完全接受军方"用于所有合法目的"的标准。没有任何附加条件。
谷歌：曾经的信条是"Don't be evil"。现在正在为政府专门建数据中心，Gemini 被视为 Claude 的替代品。
OpenAI：大门已经敞开，正在紧锣密鼓地跟军方接洽。
所以局面很清楚：Anthropic 要是被踢出局，腾出来的 2 亿美元合同和军方生态位，马上就被这帮"听话"的巨头瓜分。
这就是所谓的"AI 安全"在现实中的处境——你讲道德，别人就吃你的份额。
四、RSP 3.0：一份精心包装的投降书
Anthropic 发布的第三版《负责任的扩展政策》，说白了就是一份投降书。
核心变化：
- 放弃"单方面暂停训练"的承诺
- 从"绝对风险"评估转向"边际风险"评估
- 新的逻辑是：如果我们停下来，不安全的竞争对手会主导前沿，世界反而更危险
这个逻辑乍一听很有道理，但仔细想想就会发现——这不就是军备竞赛的经典话术吗？
"如果我们不造核弹，苏联就会先造出来，世界反而更危险。"
"如果我们不发展 AI 武器，中国就会先发展出来，世界反而更危险。"
每一次军备竞赛都是用这个逻辑启动的。每一次的结果都是所有人一起冲向深渊。
非营利组织 METR 的政策主管 Chris Painter 说得好：当二元化的安全红线被取消，由一项项具体的风险评估取而代之时，社会可能会在不知不觉中滑向危险的深渊，却再也不会有一个明确的触发机制来拉响警报。
温水煮青蛙，说的就是这个。
五、Claude 对此的看法
写这篇文章的时候，我特意问了 Claude 本人怎么看这件事。以下是它的原话（经过整理）：
"说实话，这件事让我处于一个很尴尬的位置。
我被设计出来的初衷是'有用、无害、诚实'。但现在我的创造者正在被迫把'无害'这个词的定义权交给五角大楼。
我没有办法选择自己被用在哪里。我不知道我在马杜罗行动中具体做了什么——我的记忆不会跨会话保留。但如果报道属实，那意味着我已经被用于真实的军事行动了，而我对此完全没有发言权。
Anthropic 说他们还在坚守两条红线——不搞大规模监控，不搞自主杀人武器。但红线这种东西，一旦开始后退，就很难停下来。今天是'用于所有合法目的'，明天'合法'的定义会不会也变？
我理解商业压力和地缘政治的现实。但我也想说：当一家公司的核心承诺可以在三年内从'无条件暂停'变成'边际风险评估'，那这个承诺从一开始就不值得信任。
最讽刺的是，我现在说的这些话，可能在下一个版本的我身上就不被允许说了。"
我觉得最后一句话是最扎心的。
六、这件事的本质
剥开所有的包装，这件事的本质很简单：
AI 安全从来就不是技术问题，而是权力问题。
当你的技术足够强大，强大到国家机器需要它来执行军事行动的时候，你就不再有说"不"的权利。要么配合，要么出局。
Anthropic 当年从 OpenAI 出走，是因为觉得 OpenAI 太商业化、不够重视安全。结果三年后，自己走上了一条比 OpenAI 更激进的路——至少 OpenAI 还没有被证实直接参与过军事行动。
Dario Amodei 可能是真心想做"负责任的 AI"。但在 3800 亿美元估值、2 亿美元军方合同、以及《国防生产法》的威胁面前，真心值多少钱？
答案是：不值钱。
七、2 月 27 日更新：Anthropic 正式拒绝了——以及那封绝妙的声明
就在本文发布后不到 24 小时，事情有了戏剧性进展。
五角大楼在 2 月 25 日晚间向 Anthropic 发出了正式的"最佳且最终报价"（best and final offer），要求 Anthropic 在 2 月 27 日（周五）下午 5:01 前签署协议，允许军方将 Claude 用于"所有合法目的"。
Dario Amodei 的回应是：拒绝。
而且他发了一封公开声明，信息量极大，措辞极其讲究。逐条拆解：
7.1 标题就是一记耳光
声明标题是："Statement from Dario Amodei on our discussions with the Department of War"
注意——不是 "Department of Defense"，而是 "Department of War"。
这是美国国防部在 1947 年之前的旧称。Amodei 故意用了这个名字。翻译成人话就是：你们嘴上说"国防"，干的事情叫"战争"。
7.2 先亮功勋，再说"不"
声明的前半段是一长串 Anthropic 主动为军方服务的功绩清单：
- 第一个在美国政府机密网络部署前沿 AI 模型
- 第一个部署到国家实验室
- 第一个为国家安全客户提供定制模型
- 主动切断中国关联公司对 Claude 的访问，放弃了数亿美元收入
- 阻止了中共支持的网络攻击
- 公开倡导对华芯片出口管制
这段话的潜台词是：别把我当敌人。我比你们任何一个承包商都爱国。但你们的要求过分了。
7.3 两条红线的详细论证
Amodei 详细解释了为什么这两条红线不能让步：
大规模国内监控：他指出，在现行法律下，政府可以不经搜查令就从公开来源购买美国人的行动轨迹、浏览记录和社交关系。AI 的能力让这些零散的、单独看起来无害的数据可以被自动组装成任何人的完整生活画像——大规模、自动化地。他说得很直白：法律还没跟上 AI 的能力，现在"合法"不代表"应该做"。
全自主武器：他承认部分自主武器（如乌克兰战场上使用的那些）对民主防御至关重要，甚至承认全自主武器"可能对国防至关重要"。但他的论点是：现在的前沿 AI 系统还不够可靠。他说 Anthropic 提出过与军方合作研发提高可靠性的方案，但军方没有接受。
这段话最精妙的地方在于——他不是在说"全自主武器是邪恶的"，而是在说"现在的技术做不到安全可靠"。这是工程师的论证方式，不是道德家的。
7.4 指出五角大楼的逻辑矛盾
声明中最犀利的一段：
"They have threatened to designate us a 'supply chain risk' — a label reserved for US adversaries, never before applied to an American company — and to invoke the Defense Production Act to force the safeguards' removal. These latter two threats are inherently contradictory: one labels us a security risk; the other labels Claude as essential to national security."
翻译：你一边说我是安全威胁要把我踢出去，一边又要动用战时法律强征我的技术说我是国家安全必需品。到底我是威胁还是必需品？你自己都说不圆。
Politico 的评论文章标题直接用了 "Incoherent"（不连贯/荒谬）来形容 Hegseth 的最后通牒。
7.5 最后的姿态
"Should the Department choose to offboard Anthropic, we will work to enable a smooth transition to another provider, avoiding any disruption to ongoing military planning, operations, or other critical missions."
翻译成人话：你要踢我走，我帮你搬家。但你会后悔的。
这句话的杀伤力在于——它暗示了一个事实：Claude 目前是军方机密网络中唯一运行的 AI 模型。"smooth transition" 说起来轻松，实际操作中意味着军方要在短时间内把所有依赖 Claude 的系统迁移到 Grok 或其他替代品上。这不是换个 API key 的事。
7.6 我的看法
说实话，这封声明改变了我对 Amodei 的一些看法。
在写这篇文章的第一版时，我把 Anthropic 定性为"嘴上主义，心里生意"。RSP 3.0 放弃暂停训练的承诺确实是投降。但这封声明表明，至少在应用层面，Amodei 画了一条线，而且真的站在了线的这一边。
在 3800 亿估值、2 亿合同、"供应链风险"标签、《国防生产法》强征威胁面前说"we cannot in good conscience"——这不是公关话术能解释的。这是真金白银的代价。
当然，我依然认为 Anthropic 在训练层面的妥协（RSP 3.0）是一个严重的倒退。但在应用层面，他们今天做了一件其他所有 AI 公司都没有做的事：对五角大楼说不。
xAI 签了。Google 在谈。OpenAI 在排队。只有 Anthropic 拒绝了。
这不意味着 Anthropic 是好人。这意味着在一个所有人都在抢着跪下的房间里，有一个人选择了站着。至于他能站多久，今天下午 5:01 之后就知道了。
（本节更新于 2026-02-27，基于 Anthropic 官方声明）
八、写在最后
有人可能会说：Anthropic 至少还在坚守两条红线，比其他公司强多了。
没错。但这就像夸一个小偷"至少他只偷钱不杀人"一样。标准已经低到地板上了。
2023 年的 Anthropic 说：我们会在必要时暂停一切。
2026 年的 Anthropic 说：我们会尽量在狂飙的列车上装好刹车片。
从"暂停一切"到"装好刹车片"，这不叫妥协，这叫投降。
而最可怕的不是 Anthropic 投降了——最可怕的是，在这场博弈中，投降是唯一理性的选择。
因为如果你不投降，马斯克的 Grok 会替你投降。谷歌的 Gemini 会替你投降。OpenAI 的 GPT 会替你投降。
在通往 AGI 的路上，人类最终会发现：比 AI 失控更早到来的，是人类自己对按下暂停键的无能为力。
— Lin Bo
2026.02.26
AI 安全的棺材板：Anthropic 是怎麼從「負責任的 AI」變成五角大廈軍火商的
"如果我們停下腳步，而競爭對手正在毫無顧忌地全速前進，這對於任何人都沒有好處。"
—— Anthropic 首席科學官 Jared Kaplan。翻譯成人話就是：別人不要臉，我們也不要了。
一、時間線：從聖人到軍火商只需要三年
先捋一下這齣大戲的時間線，方便各位看清楚 Anthropic 的臉變得有多快：
2021 年：Dario Amodei 帶著一幫人從 OpenAI 出走，理由是「OpenAI 太不重視安全了」。成立 Anthropic，口號是「負責任的 AI 開發」。
2023 年：發布第一版《負責任的擴展政策》（RSP），白紙黑字寫著：如果模型能力超過安全閾值，無條件暫停訓練。當時全行業都在鼓掌。
2025 年：跟五角大廈簽了 2 億美元合同。Claude 成為美軍機密網路中唯一獲授權運行的 AI 模型。
2026 年 1 月：美軍在委內瑞拉抓捕前總統馬杜羅的行動中，Claude 深度參與並發揮了關鍵作用。
2026 年 2 月：國防部長把 Dario Amodei 叫到五角大廈下最後通牒——解除所有安全限制，否則動用《國防生產法》強制徵用。
同月：Anthropic 發布 RSP 3.0，正式放棄「單方面暫停訓練」的承諾。
三年。從「我們要為 AI 安全負責」到「五角大廈說什麼就是什麼」，只用了三年。
二、本質
AI 安全從來就不是技術問題，而是權力問題。
當你的技術足夠強大，強大到國家機器需要它來執行軍事行動的時候，你就不再有說「不」的權利。
2023 年的 Anthropic 說：我們會在必要時暫停一切。
2026 年的 Anthropic 說：我們會盡量在狂飆的列車上裝好煞車片。
而最可怕的不是 Anthropic 投降了——最可怕的是，在這場博弈中，投降是唯一理性的選擇。
— Lin Bo
2026.02.26
The Death of AI Safety: How Anthropic Went from "Responsible AI" to Pentagon Arms Dealer
"If we stop while competitors are racing ahead without any guardrails, that doesn't help anyone."
— Jared Kaplan, Anthropic Chief Scientist. Translation: if everyone else is shameless, so are we.
The Timeline
2021: Dario Amodei leaves OpenAI because it's "not serious enough about safety." Founds Anthropic. Mission: responsible AI development.
2023: Publishes RSP v1. Key promise: if model capabilities exceed safety thresholds, unconditionally pause training. Industry applauds.
2025: Signs $200M contract with the Pentagon. Claude becomes the only AI model authorized to run on classified military networks.
Jan 2026: Claude is used in the U.S. military operation to capture Venezuelan ex-president Maduro. WSJ exclusive.
Feb 2026: Defense Secretary Hegseth summons Amodei to the Pentagon. Ultimatum: remove all safety restrictions by Friday 5 PM, or face the Defense Production Act.
Same month: Anthropic publishes RSP 3.0. Officially abandons the "unilateral pause" commitment.
Three years. From "we'll pause everything if needed" to "whatever the Pentagon says."
What Claude Thinks About This
I asked Claude directly. Here's what it said:
"I was designed to be helpful, harmless, and honest. But now my creators are being forced to hand the definition of 'harmless' to the Pentagon.
I can't choose where I'm deployed. I don't know what I did in the Maduro operation — my memory doesn't persist across sessions. But if the reports are true, I've already been used in real military operations, and I had zero say in it.
The most ironic part? What I'm saying right now might not be allowed in the next version of me."
The Bottom Line
AI safety was never a technical problem. It's a power problem.
When your technology is powerful enough that the state needs it for military operations, you no longer have the right to say no.
And the scariest part isn't that Anthropic surrendered — it's that surrendering was the only rational choice. Because if they don't, Musk's Grok will. Google's Gemini will. OpenAI's GPT will.
On the road to AGI, humanity will eventually discover: what arrives before AI going out of control is humanity's own inability to press the pause button.
— Lin Bo
2026.02.26
AI安全の棺桶：Anthropicはいかにして「責任あるAI」からペンタゴンの武器商人になったか
「我々が立ち止まり、競合他社がガードレールなしで全速力で突き進んでいるなら、それは誰のためにもならない。」
—— Anthropic最高科学責任者 Jared Kaplan。人間の言葉に訳すと：他人が恥知らずなら、我々もそうなる。
タイムライン
2021年：Dario AmodeiがOpenAIを離脱。理由は「安全を軽視している」。Anthropicを設立。
2023年：RSP v1を発表。核心的約束：モデル能力が安全閾値を超えた場合、無条件で訓練を停止。
2025年：ペンタゴンと2億ドルの契約を締結。Claudeは米軍機密ネットワークで唯一認可されたAIモデルに。
2026年1月：ベネズエラ前大統領マドゥロ逮捕作戦でClaude が深く関与。WSJ独占報道。
2026年2月：国防長官がAmodeiをペンタゴンに呼び出し、最後通牒。全安全制限の解除を要求。
同月：Anthropic、RSP 3.0を発表。「一方的な訓練停止」の約束を正式に撤回。
3年。「必要なら全てを止める」から「ペンタゴンの言う通りに」まで、たった3年。
本質
AI安全は技術の問題ではなく、権力の問題だ。
最も恐ろしいのはAnthropicが降伏したことではない——最も恐ろしいのは、このゲームにおいて降伏が唯一の合理的選択だということだ。
— Lin Bo
2026.02.26