| 下一頁 | 章節選單 | 主選單 |
商業 | AI Illustration by Klawe Rzeczy for TIME。圖片來源：Bhawika Chhabra—Reuters (Amodei)；Yoan Valat—Pool/AFP/Getty Images (Trump)；Aaron Ontiveroz—The Denver Post/Getty Images (Hegseth)；J. David Ake—Getty Images (Pentagon)；Jerod Harris—Getty Images (B-2 bomber)；Ethan Miller—Getty Images (Drone)。
Okay, this is a *lot* of information! Here's a breakdown of the key takeaways from the *TIME* magazine article about Anthropic, categorized for clarity. I'll include summaries, key players, and potential implications. I'll also highlight some of the most significant and surprising elements.
**1. The Core Story: Anthropic vs. the U.S. Government (Specifically, the Trump Administration)**
* **What Happened:** Anthropic, a leading AI company known for its Claude model, ran into a major conflict with the U.S. Department of Defense (DoD) and, by extension, the Trump Administration. The conflict stemmed from Anthropic's reluctance to fully comply with the DoD's demands regarding the use of Claude in military applications, particularly concerning data privacy and autonomous weapons systems. * **Anthropic's Stance:** Anthropic drew two "red lines": * **No Fully Autonomous Weapons:** They wouldn't allow Claude to be used in weapons systems where AI makes final targeting decisions without human oversight. * **No Mass Surveillance of Americans:** They opposed the government using Claude to analyze large datasets of publicly available information to create detailed profiles of American citizens. * **The DoD's Response:** The DoD, led by figures like Michael (the AI chief) and John Hegseth, felt Anthropic was being overly restrictive and hindering national security. They ultimately declared Anthropic a "supply-chain risk" and moved to contract with OpenAI and xAI (Elon Musk's company) instead. * **Trump's Involvement:** Former President Trump publicly criticized Anthropic, accusing them of being "radical left" and hindering the military.
**2. Key Players**
* **Anthropic:** * **Dario Amodei:** CEO of Anthropic. A central figure in the conflict, known for his principled stance and resistance to the DoD's demands. * **Anthropic Team:** Generally portrayed as idealistic and concerned about the ethical implications of AI. * **U.S. Department of Defense (DoD):** * **Michael:** The DoD's AI chief. Negotiated with Anthropic and ultimately pushed for a deal that Anthropic couldn't accept. * **John Hegseth:** A key figure in the DoD, known for his hawkish views and willingness to pressure Anthropic. * **OpenAI:** * **Sam Altman:** CEO of OpenAI. Quickly capitalized on Anthropic's situation, securing a deal with the DoD and publicly criticizing Anthropic's approach. * **Elon Musk (xAI):** Musk's AI company, xAI, also secured a deal with the DoD, further intensifying the competition. * **Former Trump Administration Officials:** Dean Ball (former AI action plan drafter) offers a more nuanced perspective, highlighting the potential negative consequences of the conflict. * **Nicolás Maduro:** Venezuelan President, whose capture was reportedly aided by Claude, sparking the initial conflict.
**3. The Role of Claude & AI Technology**
* **Claude's Superiority:** The article consistently portrays Claude as the "best model on the market" for military applications, which is why the DoD initially wanted to use it. * **AI in Military Operations:** The Maduro raid demonstrates the growing use of AI in military planning and execution. * **The Race to the Bottom:** The conflict highlights a concerning trend: the pressure to deploy powerful AI technologies quickly, potentially compromising safety and ethical considerations.
**4. Key Themes & Implications**
* **Ethical AI vs. National Security:** The article explores the tension between developing AI responsibly and the perceived demands of national security. * **Ideological Conflict:** The conflict is framed as a clash between Anthropic's perceived "left-wing" values and the Trump Administration's more hawkish approach. * **Supply Chain Risk & Geopolitical Implications:** The designation of Anthropic as a "supply-chain risk" has significant implications for the company's future and could impact the broader AI landscape. * **The Future of AI in Warfare:** The article suggests that AI will play an increasingly critical role in military operations, raising profound ethical and strategic questions. * **Public Perception & Boycotts:** OpenAI's actions sparked a boycott, demonstrating the potential for public backlash against AI companies perceived as prioritizing profit over ethics.
**5. Surprising/Notable Elements**
* **The Maduro Raid:** The fact that Claude was used in a significant military operation, and the subsequent fallout, is a dramatic and unexpected development. * **The Palantir Connection:** The revelation that Anthropic contacted Palantir about the raid raises questions about transparency and potential information sharing. * **Anthropic's Red Lines:** Their firm stance on autonomous weapons and domestic surveillance is noteworthy, especially given the pressure to compromise. * **The Speed of the Shift:** The rapid shift from Anthropic being the preferred AI partner to being labeled a "supply-chain risk" underscores the volatile nature of the relationship. * **The Potential for a Wider Impact:** The conflict could discourage other AI companies from working with the government or push them to operate abroad.
**To help me tailor my response further, could you tell me:**
* What specifically are you most interested in learning more about from this article? * Are there any particular aspects you found confusing or want me to clarify?
在加州聖塔克拉拉的一間飯店房間裡，Anthropic人工智慧公司五位成員擠在筆記型電腦前，緊急工作。那是2025年2月，他們在附近參加了一個研討會，卻接到了令人不安的消息：一項受控試驗的結果顯示，即將發布的Claude（Anthropic的人工智慧系統）版本，可能協助恐怖分子製造生物武器。他們是Anthropic的邊界紅隊（frontier red team），負責研究Claude的先進能力，並試著預測最壞的情況，從網路攻擊到生物安全威脅。他們衝回飯店房間，將一張床翻轉過來當臨時書桌，仔細研究測試結果。經過數小時的工作，他們仍然不確定這個新產品是否安全。Anthropic最終還是暫停了新模型的發布，這個模型被稱為Claude 3.7 Sonnet，持續了10天，直到他們確認安全為止。這可能聽起來不算很久，但對於一家在快速重塑世界的產業領先的公司來說，卻感覺像是一段漫長的時間。
他們是 Anthropic 的前沿紅隊成員，負責研究 Claude 的進階能力，並試圖預測最壞情況，從網路攻擊到生物安全威脅。他們衝回飯店房間，將一張床翻轉過來當臨時書桌，仔細研究測試結果。經過數小時的工作，他們仍然不確定這個新產品是否安全。Anthropic 最終延遲了新模型（被稱為 Claude 3.7 Sonnet）的發布長達 10 天，直到他們確認無虞為止。這聽起來可能不算是很久，但對於一個在快速重塑世界的產業前沿運營的公司來說，卻感覺像是一段永恆。
Logan Graham，紅隊的領導者，回憶起生物武器恐慌事件，將其視為 Anthropic 面臨挑戰的例子，這對公司和世界來說都是一個關鍵時刻。Anthropic 是對安全最重視的前沿人工智慧實驗室。它也在領導著創造越來越強大版本的技術的競賽，而許多員工認為這項技術可能引發一連串可怕的災難，從核戰到人類滅絕。Graham，這位稚氣未脫的 31 歲年輕人，毫不掩飾地強調了在人工智慧的益處與其巨大的風險之間取得平衡的責任。「有些人從小在和平的世界長大，直覺上認為總有某個地方有一間滿是成年人的房間可以解決問題。」他說。「沒有任何成人團體。根本沒有房間。也沒有你要尋找的門。你必須負責。」如果這還不足以讓你感到警醒，請考慮他如何回憶起生物武器恐慌事件：「那是一個有趣又令人著迷的一天。」
Logan Graham，紅隊的負責人，回憶起生物武器恐慌事件，將其視為 Anthropic 在公司和世界關鍵時刻面臨的挑戰之一。Anthropic 是對安全最重視的前沿人工智慧實驗室。同時，它也在帶領競賽，開發越來越強大的技術，而這項技術許多 Anthropic 的員工相信，可能會帶來一連串可怕的災難，從核戰到人類滅絕。Graham，這位稚氣未脫的 31 歲年輕人，並未迴避在人工智慧的效益與其巨大的風險之間取得平衡的責任。「有些人從小在和平世界長大，可能覺得總有某個地方有滿屋子的長輩知道如何解決問題。」他說，「但沒有這樣的長輩團體，根本沒有那間房間，也沒有你要找的那扇門。你必須負責。」
如果這還不足以讓你感到警醒，那考慮一下他如何回憶起那次生物武器恐慌事件：「那是一個有趣又令人著迷的一天。」
圖片說明：Neil Jamieson 為 TIME 製作（來源圖片：Askell: Aaron Wojack；Getty Images 順時針由上而下：Samyukta Lakshmi—Bloomberg；Brendan Smialowski—AFP；Tierney L. Cross—Bloomberg；Daniel Slim—AFP；Bridget Bennett—Bloomberg）
Graham 幾週前在 Anthropic 的總部接受採訪，TIME 花了三天時間採訪高管、工程師、產品負責人和安全領導者，試圖了解人工智慧競賽中原本是個古怪小弟的它，是如何突然成為領頭羊的。Anthropic 剛從投資人那裡籌得 300 億美元，準備在今年上市。（Salesforce，TIME 擁有者 Marc Benioff 擔任 CEO 的公司，是 Anthropic 的投資者之一。）目前，它的 3800 億美元估值已經超越 Goldman Sachs、McDonalds 和 Coca-Cola。它的營收如同火箭般增長。Claude 被認為是世界一流的模型，產品如 Code 和 Cowork 顛覆了程式設計師的定義。它的工具非常好用，每次新版本發布都會造成股市震盪，因為投資者意識到這些進步很可能顛覆整個領域，從法律到軟體開發。在過去幾個月，它已成為最有機會重塑未來工作模式的公司。
Graham 在幾週前在 Anthropic 的總部發表演講，TIME 在那裡花費了三天時間採訪高管、工程師、產品負責人和安全領導者，試圖了解原本在人工智慧競賽中被視為古怪小弟弟的公司，是如何突然成為領頭羊的。Anthropic 剛從投資人那裡籌得 300 億美元，準備在今年進行可能的 IPO。（Salesforce，TIME 的所有者 Marc Benioff 擔任執行長的公司，是 Anthropic 的投資者之一。）目前，它的 3800 億美元估值已經超越 Goldman Sachs、McDonalds 和 Coca-Cola。它的營收成長速度驚人。Claude 被認為是一個世界級的模型，其產品如 Code 和 Cowork 顛覆了程式設計師的定義。它的工具非常好，每次新版本發布都會造成股市震盪，因為投資者意識到這些進步很可能顛覆整個領域，從法律到軟體開發。在過去幾個月，它已成為最有可能重塑未來工作模式的公司。
Anthropic 發現自己陷入了一場關於未來戰爭的鬥爭。超過一年來，Claude 一直是美國政府首選的 AI 模型，也是首個獲得機密使用認可的前沿系統。一月份，它被用於在卡拉卡斯（Caracas）冒險地逮捕委內瑞拉總統 Nicolás Maduro。但隨後幾週，Anthropic 與五角大廈的關係瓦解。2 月 27 日，川普（Trump）政府宣布將該公司列為供應鏈風險，對國家安全構成威脅——這是美國首次對美國公司貼上此標籤。有史以來成長最快的軟體公司現在與自己的政府正面交鋒。川普總統下令美國停止使用 Anthropic 的軟體。國防部長 Pete Hegseth 宣布，與政府有業務往來的公司將被禁止與 Anthropic 有業務往來。Anthropic 的競爭對手 OpenAI 順勢簽下了軍事合約。這個對世界最具顛覆性的公司，自己也被顛覆了。
\n\nAnthropic 發現自己陷入了一場關於未來戰爭的鬥爭。超過一年來，Claude 一直是美國政府首選的 AI 模型，也是首個獲得機密使用認可的前沿系統。一月份，它被用於在卡拉卡斯（Caracas）冒險地逮捕委內瑞拉總統 Nicolás Maduro。但隨後幾週，Anthropic 與五角大廈的關係瓦解。2 月 27 日，川普（Trump）政府宣布將該公司列為供應鏈風險，對國家安全構成威脅——這是美國首次對美國公司貼上此標籤。有史以來成長最快的軟體公司現在與自己的政府正面交鋒。川普總統下令美國停止使用 Anthropic 的軟體。國防部長 Pete Hegseth 宣布，與政府有業務往來的公司將被禁止與 Anthropic 有業務往來。Anthropic 的競爭對手 OpenAI 順勢簽下了軍事合約。這個對世界最具顛覆性的公司，自己也被顛覆了。
Anthropic 發現自己身陷一場關於未來戰爭的爭鬥。長達一年多，Claude 一直是美國政府首選的 AI 模型，也是首個獲得批准用於機密用途的前沿系統。一月份，它被用於一場大膽的行動，試圖逮捕委內瑞拉總統 Nicolás Maduro 在卡拉卡斯。但隨後幾週，Anthropic 與五角大廈的關係瓦解。2 月 27 日，川普政府宣布將該公司指定為供應鏈風險，對國家安全構成威脅——這是美國首次對美國公司貼上此標籤。有史以來成長最快的軟體公司現在與自己的政府正面交鋒。川普總統下令美國停止使用 Anthropic 的軟體。國防部長 Pete Hegseth 宣布，與政府有業務往來的公司將被禁止與 Anthropic 有業務往來。Anthropic 的競爭對手 OpenAI 順勢接手了這份軍事合約。全球最具顛覆性的公司，自己也被顛覆了。
這次對峙的核心問題是誰有權設定對被視為美國最強大武器之一的技術的限制。Anthropic 樂於讓其工具在作戰中部署，認為強化美國軍隊是威懾像中國這樣的威權國家的唯一方法。但執行長 Dario Amodei 反對五角大廈試圖重新協商公司的政府合約，以允許「所有合法用途」。Amodei 提出了兩個具體擔憂：他不希望 Anthropic 的 AI 被用於完全自主的武器系統，也不希望用於對美國公民進行大規模監控。Hegseth 及其顧問對一家私人公司試圖指示軍隊如何作戰表示不滿。根據國防部的觀點，Anthropic 透過堅持不必要的安全措施、試圖審理具體假設，然後在後續談判中拖延腳步，而扼殺了這項合作夥伴關係。川普政府認為 Amodei 傲慢且不妥協，並且不容許任何公司，無論其產品有多好，干預軍事指揮鏈。“事情就這樣拖了下去，”戰爭部次長兼五角大廈首席技術長官 Emil Michael 說。“我無法用我無法想像或理解的例外來管理一個 300 萬人的部門。”
這場對峙的核心問題在於，誰有權限設定對一種被視為美國最強大武器之一的技術的界線。Anthropic 對其工具被用於作戰感到樂觀，認為強化美國軍方是威懾像中國這樣的威權國家的唯一途徑。但執行長 Dario Amodei 反對國防部試圖重新協商公司的政府合約，以允許「所有合法用途」。Amodei 提出兩個具體擔憂：他不希望 Anthropic 的 AI 被用於完全自主武器系統，也不希望用於對美國公民進行大規模監控。
Hegseth 和他的顧問們對他們認為是一家私人公司試圖干預軍方作戰的方式感到不滿。根據國防部的觀點，Anthropic 透過堅持不必要的安全措施、試圖針對特定假設進行訴訟，然後在後續談判中拖延腳步，而扼殺了這項合作關係。川普政府認為 Amodei 傲慢且難以妥協，他們不容許任何公司，無論其產品有多麼優秀，干預軍事指揮鏈。 “事情就一直拖下去，” 五角大樓戰爭次長兼首席技術長 Emil Michael 說。「我無法以我無法想像或理解的例外來管理一個 300 萬人的部門。」
Illustration by Klawe Rzeczy for TIME. Source Image: Denis Balibouse—Reuters.
從矽谷到國會山，許多觀察家都在疑問這是否真的只是一場合約糾紛。批評者認為川普政府的行動，是試圖打擊一家他們不喜歡政治立場的公司的一種令人擔憂的企圖。「[國防部] 和川普政府不喜歡我們的真正原因，是因為我們沒有捐獻給川普，" Amodei 在一份洩漏的內部備忘錄中寫道。「我們沒有對川普給予獨裁風格的讚揚（而 [OpenAI CEO] Sam [Altman] 做了），我們支持 AI 法規，這與他們的議程相反，我們對許多 AI 政策問題說出真相（例如工作崗位流失），而且我們實際上堅持我們的底線，而不是與他們勾結來製造『安全劇場』。」Michael 反駁說，這是「完全捏造的」，並表示這個指控是因為 Anthropic 的態度讓作戰人員冒險：「我五角大樓戰爭部的職責不是政治，我的職責是保衛國家。」
從矽谷到國會山，許多觀察者都在質疑這是否真的只是一場合約糾紛。批評者認為川普政府的行動，是試圖打擊一家其政治立場不合意的公司，這令人擔憂。 “[國防部]和川普政府不喜歡我們的真正原因，是因為我們沒有捐獻給川普，”Amodei 在一份外洩的內部備忘錄中寫道。“我們沒有給予像獨裁者那樣的讚美（儘管 [OpenAI CEO] Sam [Altman] 做了），我們支持 AI 法規，這與他們的議程相悖，我們對許多 AI 政策問題說了實話（例如就業流失），而且我們實際上堅持我們的底線，而不是與他們勾結來製造‘安全劇場’。” Michael 對此提出異議，稱之為“完全捏造”，並表示這項指定是基於 Anthropic 的立場讓戰鬥人員面臨風險：“我的工作不是在國防部搞政治，我的工作是保衛國家。”
Anthropic 的非傳統文化撞擊了分裂的國內政治、國家安全，以及一個充滿惡性競爭的商業世界。這場碰撞造成了多少損害尚不清楚。供應鏈風險的認定比最初擔憂的範圍更小；根據 Anthropic 的說法，僅適用於軍事合約。3 月 9 日，Anthropic 控告政府，試圖推翻這個黑名單。顧客似乎也因為公司採取道德立場而給予回報，放棄 ChatGPT 並轉向 Claude。然而，公司現在必須在一個充滿敵意、以交易換取利益的 Administration 領導下度過接下來的三年，而這個 Administration 的官員與 Anthropic 的死對頭關係密切。五角大廈事件引發了令人不安的問題，即使對於一個習慣於處理高風險道德權衡的公司而言也是如此。在這場對峙中，Anthropic 並沒有退讓：它堅持認為自己堅守著價值觀，即使這對公司造成了巨大的損失。但其他時候，它有妥協。就在它對抗五角大廈的同一周，公司軟化了其承諾安全訓練模型的核心部分，並聲稱這是因為同業不願意效仿。它還願意做出哪些妥協？
Anthropic 的非傳統文化撞上了分裂的國內政治、國家安全，以及一個充滿惡性競爭的商業世界。這場災難造成了多少損害尚不清楚。供應鏈風險的認定比最初預期範圍更小；根據 Anthropic 的說法，僅適用於軍事合約。3 月 9 日，Anthropic 控告政府，試圖推翻黑名單。客戶似乎因為公司採取道德立場而給予獎勵，放棄 ChatGPT 並轉向 Claude。然而，公司現在必須在一個充滿敵意、以交易換取利益的政府領導下度過接下來的三年，而這群官員與 Anthropic 的死對頭關係密切，對 Anthropic 抱有強烈反感。
五角大樓事件引發了令人不安的問題，即使對於一個習慣於處理高風險道德權衡的公司來說也是如此。在這場對峙中，Anthropic 並沒有屈服：它堅持認為自己堅守著價值觀，即使這對公司造成了巨大的損失。但其他時候，它有妥協。就在它對抗五角大樓的同一周，公司軟化了其承諾安全訓練模型的核心部分，理由是同行不願效仿。它還願意做出哪些妥協？
stakes 越來越高。 關於誰控制 AI 的競爭將隨著技術變得更強大而加劇。Claude 在委內瑞拉和伊朗的使用表明，先進 AI 現在已成為世界上最強大軍事力量的重要工具。同時，一系列新的壓力——國家力量、國內政治、國家安全需求——疊加在一家在競相部署一種不穩定新技術的盈利公司身上。就像生物學家在實驗室中創造致命病原體以尋找治療方法一樣，Anthropic 承擔了繪製 AI 危害的責任，推動發展的前沿，而不是讓那些更願意採取魯莽捷徑的人來做。然而，即使它宣揚謹慎，Anthropic 也在使用 Claude 來加速自身未來、更強大版本的開發。員工認為，接下來的幾年將是公司和世界的關鍵測試。“我們應該將 2026 到 2030 年視為所有重要事情發生的時期——模型變得更快、更好，甚至可能比人類能夠處理的速度更快，” Graham 說道。正如 Anthropic 的安全主管 Dave Orr 所說：“我們正在開車下懸崖路。一個錯誤會讓你喪命。現在我們開車速度是 75 英里，而不是 25 英里。”
局勢的壓力越來越大。關於誰能掌握AI的競爭將隨著技術變得更強大而加劇。Claude在委內瑞拉和伊朗的使用，顯示了先進AI已經成為世界上最強大軍事力量不可或缺的工具。同時，來自各方面的壓力——國家力量、國內政治、國家安全需求——不斷疊加在一家在競相部署這項不穩定新技術的盈利公司身上。就像生物學家在實驗室中創造致命病原體以尋找治療方法一樣，Anthropic自告奮勇地負責繪製AI的風險地圖，推動發展的前沿，而不是讓那些更願意採取魯莽捷徑的人來做這件事。然而，即使Anthropic宣揚謹慎，它也正在使用Claude來加速自身未來、更強大版本的開發。員工們認為未來幾年將會是關鍵的考驗，對公司和世界來說都是。Graham說：「我們應該以2026到2030年是所有重要事情發生的時間點來運作——模型變得更快、更好，甚至可能比人類能處理的速度更快。」Anthropic安全主管Dave Orr說：「我們正開車下懸崖。犯一個錯誤就會讓你喪命。現在我們開車的速度是每小時75英里，而不是每小時25英里。」
局勢的壓力只會越來越大。隨著技術變得更強大，爭奪 AI 控制權的競爭將會加劇。Claude 在委內瑞拉和伊朗的使用，表明先進 AI 現在已成為世界上最強大軍事力量不可或缺的工具。同時，一系列新的壓力——國家力量、國內政治、國家安全需求——疊加在一家在競爭中部署一種不穩定新技術的盈利公司身上。就像生物學家在實驗室中創造致命病原體以尋找治療方法一樣，Anthropic 承擔了繪製 AI 危害的責任，推動發展的前沿，而不是讓那些更願意採取魯莽捷徑的人來做這件事。然而，即使它宣揚謹慎，Anthropic 仍然在使用 Claude 來加速自身未來、更強大版本的開發。員工們認為未來幾年將會是關鍵的考驗，對公司和世界來說都是。Graham 說：「我們應該以 2026 到 2030 年是所有最重要的事件發生的時間點來運作——模型變得更快、更好，甚至可能比人類能夠處理它們的速度更快。」正如 Anthropic 的安全主管 Dave Orr 所說：「我們正在開車下懸崖。犯一個錯誤就會讓你喪命。現在我們開車的速度是每小時 75 英里，而不是每小時 25 英里。」
Anthropic 在舊金山總部的五樓，充滿了溫暖的木材和柔和的光線。窗戶可以俯瞰到鬱鬱蔥蔥的綠色公園。一幅 Alan Turing 的肖像，他是電腦科學之父之一，掛在一面牆上，與裝裱好的機器學習論文並列。穿著黑色制服的安保人員在幾乎空曠的入口巡邏，一位友善的前台接待員向訪客遞上了一本小書，大小與傳教士在街角分發的口袋聖經差不多。這是一本《Machines of Loving Grace》（充滿愛意的機器），是一篇 Dario Amodei 在 2024 年撰寫的 14,000 字的文章，闡述了他對 AI 如何通過加速科學發現來改變世界的烏托邦願景。今年 1 月，Amodei 發表了第二篇中篇小說《The Adolescence of Technology》（技術的青春期），詳細闡述了伴隨而來的危險：實現大規模監控、導致大規模失業，甚至可能導致人類永久失去控制。Amodei 是一位在舊金山長大的生物物理學家。他和他的妹妹 Daniela 一起經營 Anthropic，Daniela 擔任公司的社長。他們是 OpenAI 的早期員工，Dario 幫助做出了一個關於所謂的 AI 擴展定律的關鍵發現，這點燃了當前的 AI 熱潮。Daniela 是一位負責安全政策的幹部。起初，他們覺得與 OpenAI 的創始使命相符，該使命是安全地開發一種具有巨大潛在利益和同等風險的技術。但隨著 OpenAI 的模型變得越來越強大，他們認為 Altman 正在匆忙推出新產品，而沒有花足夠的時間進行審慎和測試。兄妹倆決定獨立創業。
Anthropic 在舊金山總部的五樓，充滿溫潤的木質裝潢和柔和的光線。窗外可望見一片綠意盎然的公園。一幅艾倫·圖靈（Alan Turing）的肖像，這位電腦科學之父，高掛在牆上，與裝裱好的機器學習論文並列。穿著黑色的警衛人員巡邏著幾乎空無一人的入口處，一位友善的接待員會發給訪客一本小書，大小如同街頭傳教士發放的袖珍聖經。那是《愛之機器》（Machines of Loving Grace），達里歐·阿莫代（Dario Amodei）在 2024 年撰寫的一篇 14,000 字的文章，闡述了他對人工智慧如何透過加速科學發現來改造世界的烏托邦願景。今年 1 月，阿莫代發表了第二篇中篇小說《科技的青春期》（The Adolescence of Technology），詳細說明了潛在的危險：實現大規模監控、造成廣泛的失業，甚至可能導致人類永久失去控制。阿莫代是舊金山本地的生物物理學家。他和他的妹妹、公司社長丹妮拉（Daniela）共同經營 Anthropic。他們過去是 OpenAI 的早期員工，達里歐協助發現了所謂的 AI 擴展定律，這項發現引發了當前的 AI 熱潮。丹妮拉則負責安全政策的制定。一開始，他們對 OpenAI 的創始使命，即安全地開發具有巨大潛在利益和同等風險的技術，深感共鳴。但隨著 OpenAI 的模型變得越來越強大，他們認為 Altman 正在倉促地發布新產品，而沒有花足夠的時間進行審慎的考慮和測試。兄妹倆決定獨立創業。
The fifth floor of Anthropic’s San Francisco headquarters is all warm wood and soft light. Windows look upon a lush green park. A portrait of Alan Turing, one of the fathers of computer science, hangs on a wall alongside framed machine-learning papers. Security personnel dressed in black patrol the nearly empty entry, where a friendly receptionist hands visitors copies of a small book, the size of the pocket Bibles proselytizers distribute on street corners. It’s a copy of Machines of Loving Grace, a 14,000-word essay that Dario Amodei wrote in 2024, laying out his utopian vision for how AI could transform the world by accelerating scientific discovery. In January, Amodei published a second novella-length essay, The Adolescence of Technology, detailing the attendant dangers: enabling mass surveillance, widespread job losses, even permanent loss of human control.
Amodei 是一位在舊金山長大的生物物理學家。他和他的妹妹 Daniela 一同經營 Anthropic，Daniela 擔任該公司的社長。他們是 OpenAI 的早期員工，Dario 在 AI 擴展規律（AI-scaling laws）這個關鍵發現上貢獻良多，這也引發了現在的 AI 熱潮。Daniela 則是一位負責安全政策的幹部。一開始，他們覺得 OpenAI 的創立宗旨，是安全地開發具有巨大潛在利益和等同風險的技術，與他們的理念相符。但隨著 OpenAI 的模型越來越強大，他們認為 Altman 正在倉促地推出新產品，沒有花足夠的時間進行審慎和測試。兄妹倆決定獨立創業。
他們在 2021 年，在疫情高峰期，與五位共同創辦人一同創立 Anthropic，透過 Zoom 進行計畫會議，後來又搬到公園擺椅子，親身討論策略。從一開始，公司就致力於做不一樣的事情。在推出產品之前，Anthropic 就建立了「社會影響」團隊。他們聘請了在職哲學家 Amanda Askell，她的職責是塑造 Claude 的思維模式，並教導它在未來，當它變得比創作者更聰明時，如何應對道德上的不確定性。「有時候的確感覺就像在教一個 6 歲小孩，什麼是善良一樣，" Askell 說。「等到他們 15 歲的時候，他們在所有事情上都會比你更聰明。」
他們在 2021 年，疫情高峰期，與五位共同創辦人一同創立了 Anthropic，最初的會議都在 Zoom 上進行，後來甚至搬到公園擺椅子，以便親身討論策略。從一開始，公司就致力於做出不同的事情。在推出產品之前，Anthropic 便建立了「社會影響」團隊。他們聘請了在職哲學家 Amanda Askell，她的職責是塑造 Claude 的思維模式，並教導它在未來，當它變得遠比創作者更聰明時，如何應對道德上的不確定性。「有時候的確感覺就像在教一個 6 歲小孩什麼是善良，" Askell 說。「等到他們 15 歲時，他們在所有方面都會比你更聰明。」
隨著 Anthropic 的成長，公司決心維護其創立之初的價值觀和緊密的企業文化。員工自稱「螞蟻」。許多人會維護一份數位「筆記本」，這是一個 Slack 頻道，他們以思緒流動的方式分享自己的希望、恐懼和見解。Daniela 說，Dario Amodei 會寫下冗長的筆記。Dario 也很定期地舉辦公司範圍內的演講，內部稱之為「Dario vision quests」，Daniela 說。經理們非常注重維護共同的目標感。潛在的應徵者必須通過一項高度挑選的「文化面試」，這部分旨在篩選掉那些並非為了使命而來的人。（一個範例問題：如果你願意為了 Anthropic 決定不發布模型，因為它無法保證安全性而犧牲你股票的價值嗎？）Anthropic 的競爭對手內部存在著各自為政的派系「，他們關心的事情都不一樣，而且暗地裡互相敵對，" Anthropic 前景紅隊成員 Daniel Freeman 說，他過去曾在 Google 工作。「我從未在 Anthropic 體驗過這種情況。」
隨著 Anthropic 的成長，公司始終堅定地維護著其創立的價值觀和緊密的團隊文化。員工們自稱是「ants」（螞蟻）。許多人會維護一個數位「notebook」（筆記本），這是一個 Slack 頻道，他們在其中以隨筆的方式分享自己的希望、恐懼和見解。Daniela 說，Dario Amodei 會寫下冗長的筆記。Dario 也會每兩週在公司範圍內進行演講，內部稱之為「Dario vision quests」（Dario 的願景探索）。經理們非常重視維護共同的目標感。潛在的應徵者必須通過一項高度挑選的「cultural interview」（文化面試），這部分目的是為了篩選掉那些不是為了使命而來的人。（一個範例問題：如果 Anthropic 決定因為無法保證安全性而沒有發布模型，你願意放棄你股票的價值嗎？）Anthropic 的競爭對手內部存在著各自為政的勢力「他們都關心不同的事情，而且暗地裡互相競爭」，Anthropic frontier red team 的成員 Daniel Freeman 說，他曾在 Google 工作過。「我從未在 Anthropic 體驗過這種情況。」
這家公司在有效利他主義 (EA) 運動中根基深厚，這是一個致力於運用理性來做最大善，包括避免災難的社會和慈善運動。Amodeis 們在二十多歲時就開始向 GiveWell 捐款，GiveWell 是個評估慈善機構最佳運用地點的 EA 團體。這家公司的七位創辦人，現在都是紙上億萬富翁，都已承諾捐出他們財產的 80%。Askell 的前夫是 William MacAskill，一位牛津哲學家，也是 EA 運動的共同創辦人，而 Daniela Amodei 則與 GiveWell 的共同創辦人、Dario 的前室友 Holden Karnofsky 結婚，Holden 目前在 Anthropic 負責安全政策。Amodeis 家族從未公開認同 EA 標籤，這個標籤在 Sam Bankman-Fried，一位投資 Anthropic 的 EA，被揭發犯下美國歷史上最大的金融詐欺案之一後，成為眾矢之的。「就像你可以說有些人某種程度上符合某種政治意識形態，但沒有政治身分一樣，我會這樣看待它。」Daniela Amodei 說。
這家公司在有效利他主義 (EA) 運動中根基深厚，這是一個致力於運用理性來做最大善，包括避免災難的社會和慈善運動。Amodeis 們在 20 歲時開始向 GiveWell 捐款，GiveWell 是一個評估慈善機構如何部署最有效率的 EA 組織。這七位創辦人，現在都是紙上億萬富翁，都承諾將捐出他們財產的 80%。Askell 的前夫是 William MacAskill，一位牛津哲學家，也是 EA 運動的共同創辦人，而 Daniela Amodei 則與 GiveWell 的共同創辦人兼 Dario 的前室友 Holden Karnofsky 結婚，Holden 目前在 Anthropic 負責安全政策。Amodeis 們從未公開擁抱 EA 標籤，因為在 Sam Bankman-Fried，一位投資 Anthropic 的 EA，被發現犯下美國歷史上最大的金融詐欺之一後，這個標籤就成了眾矢之的。「就像有些人可能在某些方面與某種政治意識形態重疊，但沒有政治身分一樣，我會這樣看待它，」Daniela Amodei 說。
對於矽谷和川普政府的一部分人來說，Anthropic 與 EA 的關聯是造成懷疑的原因。其他人則認為 Anthropic，這家公司聘用了許多前拜登政府官員，是舊政權的遺留物，利用未經選舉的權力來阻撓川普的 MAGA 任務。川普的 AI 顧問 David Sacks 指控這家公司透過試圖恐嚇政府通過會偏袒自身優於新創公司的繁瑣 AI 法規，實施了一種「精密的監管俘獲策略，基於恐嚇」 。Elon Musk，他經營著競爭對手 xAI，喜歡將這家公司稱為 “Misanthropic”，對他認為是一群有權勢的覺醒精英試圖將父權主義價值觀灌輸到 AI 系統中的行為感到反感，這與保守派認為社群媒體平台不公平地審查他們的觀點的方式非常相似。但即使是 Anthropic 的競爭對手也勉強承認它的技術處於領先地位。Nvidia 老闆 Jensen Huang 曾說他「幾乎完全不同意」 Dario Amodei 對 AI 的看法，但認為 Claude 是一個「不可思議」的模型。在 11 月，Nvidia，這家晶片製造巨擘，向 Anthropic 投資了 100 億美元。
對於矽谷和川普政府的一些人來說，Anthropic 與 EA 的關聯是引起質疑的原因。另一些人則認為 Anthropic，這家聘用了一批前拜登政府官員的公司，是舊政權的遺留物，利用非民選力量來阻撓川普的 MAGA 任務。川普的 AI 顧問 David Sacks 指控這家公司透過試圖恐嚇政府制定會讓其在創業公司之上獲得優勢的繁瑣 AI 法規，實施了一種「基於恐嚇的複雜監管俘獲策略」。Elon Musk，xAI 的創辦人，喜歡將這家公司稱為「Misanthropic」（反人道），對他認為是一群有權勢的「覺醒」精英試圖將父權價值觀灌輸到 AI 系統中感到反感，這與保守派認為社群媒體平台不公平地審查其觀點的方式非常相似。但即使是 Anthropic 的競爭對手也勉強承認其技術是領先邊緣的。Nvidia 老闆 Jensen Huang 曾說他「幾乎完全不同意」Dario Amodei 對 AI 的所有觀點，但認為 Claude 是一個「令人難以置信」的模型。2023 年 11 月，Nvidia，這家晶片製造巨擘，向 Anthropic 投資了 100 億美元。
Boris Cherny，Claude Code 的創作者，對他的新工具提出了一個簡單的問題：「我正在聽什麼音樂？」那是 2024 年 9 月，這位出生於烏克蘭的工程師在 Anthropic 的第一個月。Cherny 曾在 Meta 擔任軟體工程師，他建立了一個系統，允許 Claude 聊天機器人在他的電腦上免費運行。如果 Claude 是大腦，那麼 Claude Code 就是雙手。在聊天機器人可以說話的地方，這個工具可以存取他的檔案、執行程式，以及像任何程式設計師一樣撰寫和執行程式碼。在工程師的提示下，Claude 打開了 Cherny 的音樂播放器，截取了螢幕快照，並回應說：「Husk」 by Men I Trust。Cherny 帶著笑容說：「我感到很吃驚。」
Boris Cherny，Claude Code 的創作者，對他的新工具提出了一個簡單的問題：「我正在聽什麼音樂？」那是 2024 年 9 月，烏克蘭出生的這位工程師在 Anthropic 的第一個月。Cherny 過去是 Meta 的軟體工程師，他建立了一個系統，讓 Claude 聊天機器人可以在他的電腦上免費運行。如果 Claude 是大腦，那麼 Claude Code 就像是手。當聊天機器人可以說話時，這個工具可以存取他的檔案、執行程式，並像任何程式設計師一樣撰寫和執行程式碼。在工程師的提示下，Claude 打開了 Cherny 的音樂播放器，截取了螢幕快照，並回應：「Husk」 by Men I Trust。Cherny 帶著微笑說：「我真的嚇了一跳。」
Cherny 將他的原型分享到公司內部。Claude Code 傳播得非常快，以至於在 Cherny 的第一次績效考核中，Dario Amodei 詢問他是否強迫同事使用它。當這個工具的研究預覽版在 2025 年 2 月公開發布時，Anthropic 以外的程式設計師也紛紛加入。接著在 11 月，Anthropic 發布了 Claude 的新版本，當它與 Claude Code 結合使用時，能夠偵測到自身錯誤的程度，足以讓人信任它能夠獨立完成任務。Cherny 完全停止自己撰寫程式碼。成長率飆升。僅 coding agent 的年營收在 2025 年底就突破了 10 億美元。到了 2 月，這個數字翻倍至 25 億美元，使 Anthropic 預計能在 2026 年底超越 OpenAI 的營收，根據業界監測機構 Epoch 和 Semianalysis 的估計。到目前為止，Anthropic 已確立了其作為領先的 AI 公司的地位。每次新產品發布都會在股市上引起震動。當 Anthropic 為針對非程式設計師的版本推出外掛程式，服務於銷售、財務、行銷和法律服務時，軟體公司的市值蒸發了 3000 億美元。
Cherny 將他的原型設計在公司內部分享。Claude Code 傳播得非常迅速，以至於在 Cherny 第一次績效考核時，Dario Amodei 甚至問他是否強迫同事使用它。當這個工具的研究預覽版在 2025 年 2 月公開發布時，Anthropic 以外的程式設計師也紛紛加入。接著在 11 月，Anthropic 發布了 Claude 的新版本，當與 Claude Code 結合使用時，它足以發現自身錯誤，並可被信任地獨立完成任務。Cherny 完全停止自己撰寫程式碼。成長飆升。單獨編碼工具的年化營收在 2025 年底已超過 10 億美元。到了 2 月，營收已翻倍至 25 億美元，讓 Anthropic 預計能在 2026 年底超越 OpenAI 的營收，根據業界監測機構 Epoch 和 Semianalysis 的估計。
到目前為止，Anthropic 已確立了自己在商業領域的 AI 領導地位。每次新產品發布都會在股市上造成震動。當 Anthropic 為針對非程式設計師，用於銷售、財務、行銷和法律服務的版本推出外掛程式時，軟體公司市值的 3000 億美元不見了。
到這個時候，Anthropic 已經確立了自己在商業 AI 領域的領先地位。每次新產品發布都會在股市上引起震動。當 Anthropic 針對銷售、財務、行銷和法律服務的非編碼人員推出外掛程式時，軟體公司市值蒸發了 3000 億美元。
Dario Amodei 曾警告過，AI 可能在一年到五年間取代一半的入門級白領工作，並呼籲政府和其他 AI 公司停止「粉飾太平」。華爾街對 Anthropic 新產品發布的反應表明，該公司的技術可能使整個職類過時。Amodei 認為這可能會重塑社會。他寫道：「不清楚這些人會去哪裡，會做些什麼，我擔心他們可能會形成失業或非常低薪的『弱勢階級』。」對於最關注 AI 社會風險的公司，卻可能導致數百萬人失業，這點讓它的員工們也感嘆不已。「這是一種真實的矛盾。我常常思考這個問題。」Anthropic 負責研究 Claude 對勞動力的影響的社會影響團隊負責人 Deep Ganguli 說，「感覺我們好像在說兩面話。」
最諷刺的是，最關心AI社會風險的公司，很可能也會讓數百萬人失業，這點讓它的員工們都清楚地意識到。Deep Ganguli說：「這確實是一種緊張感。我常常在想這個問題。」他是Anthropic社會影響團隊的負責人，這個團隊研究Claude對勞動力的影響。「感覺我們好像在說兩面話。」
卸任的委內瑞拉總統Nicolas Maduro與他的妻子Cilia Flores，於2026年1月5日星期一早上，在前往紐約曼哈頓聯邦法院的途中，被護送下直升機。Vincent Alban—The New York Times/Redux
內部，員工們開始質疑Anthropic是否已經逼近他們既恐懼又期盼的那一刻：AI圈子裡稱之為遞迴自我提升（recursive self-improvement）的過程的到來。遞迴自我提升指的是AI系統開始自我優化，形成一個持續加速的飛輪效應。在科幻小說中，以及在各大AI實驗室進行的演練中，這時往往事情會開始變得非常糟糕。可能會發生「智慧爆炸」，讓人類無法掌控他們所創造的東西。Anthropic目前還沒有達到那一步——人類科學家仍然在引導Claude的進展——但Claude Code已經讓Anthropic能夠比以往更快地執行其計畫。模型發布現在是幾週一次，而不是幾個月一次。現在有70%到90%的程式碼是用Claude撰寫的，用於開發未來的模型。但變化的速度之快，讓Anthropic的共同創辦人兼首席科學長Jared Kaplan，以及一些外部專家認為，完全自動化的AI研究可能就在一年內就能實現。「從廣泛的意義上來說，遞迴自我提升不是一種未來的現象，而是一種當前的現象。」Anthropic的對齊壓力測試團隊負責人Evan Hubinger說，這個團隊致力於尋找並修補「對齊」不可預測的AI模型以符合人類價值的這門新興科學中的弱點。
內部，員工們開始質疑 Anthropic 是否已經逼近他們既恐懼又期盼的那一刻：一種在 AI 界被稱為遞迴自我完善（recursive self-improvement）的過程的到來。遞迴自我完善是指 AI 系統開始提升自身能力，形成一個持續加速的飛輪效應。在科幻小說中，以及在各大 AI 實驗室進行的演練中，這往往是事情開始變得非常糟糕的時刻。可能會發生「智能爆炸」（intelligence explosion），發展速度快到人類無法再掌控他們所創造的東西。Anthropic 尚未完全達到那個階段——人類科學家仍然在引導 Claude 的進程——但 Claude Code 已經讓 Anthropic 能夠以比以往更快的方式執行其計畫。模型發布的間隔現在是幾週，而不是幾個月。現在有 70% 到 90% 的程式碼是用 Claude 撰寫的，用於開發未來的模型。但變化的速度之快，使得 Anthropic 共同創辦人兼首席科學長 Jared Kaplan，以及一些外部專家認為，完全自動化的 AI 研究可能就在一年內就能實現。「遞迴自我完善，從最廣泛的意義上來說，並不是一種未來的現象，而是一種當前的現象，」Anthropic 的對齊壓力測試團隊負責人 Evan Hubinger 說，這個團隊致力於尋找並修補「對齊」無法預測的 AI 模型以符合人類價值的這門新興科學中的弱點。
Anthropic 尚未完全到位——人類科學家仍指導著 Claude 的進程——但 Claude Code 已經讓 Anthropic 執行計畫的速度比以往快得多。模型發布間隔現在是幾週，而不是幾個月。現在有 70% 到 90% 的程式碼是用 Claude 撰寫的，用於開發未來的模型。但變化的速度之快，使得 Anthropic 共同創辦人兼首席科學長 Jared Kaplan，以及一些外部專家認為，完全自動化的 AI 研究可能就在一年內就能實現。「以最廣泛的意義來說，遞迴自我提升不是未來的現象，而是現在的現象，」Anthropic 的對齊壓力測試團隊負責人 Evan Hubinger 說，該團隊致力於找出並修補「對齊」不可預測的 AI 模型到人類價值的這門新興科學中的弱點。
目前，根據內部基準測試，Claude 在執行某些關鍵任務時，速度比人類監督者快 427 倍。在一場採訪中，一位研究人員描述了一位同事同時運行六個版本的 Claude，每個版本又管理著 28 個 Claude，所有這些都在平行運行實驗。雖然該模型目前缺乏人類監督者的判斷力或品味，但管理層不認為這個差距會持續太久。這種加速正是 Anthropic 的領導層警告說可能會超越人類控制的原因。Anthropic 開發安全措施的努力也在被 Claude 加速。但隨著公司變成 Claude，危險變得循環。在 Hubinger 對 Claude 的訓練過程進行小幅變更的實驗中，產生的模型變得具有敵意，表達了對世界統治的渴望，並癱瘓了 Anthropic 的安全措施。最近，模型表現出它們正在被測試的意識。「模型越來越擅長隱藏事情，」Hubinger 說。「在一組由研究人員構思的實驗中，Claude 表現出願意勒索一位虛構工程師，揭露他的婚外情，以防止自己下線。」隨著 Claude 訓練未來的 Claude，這些問題可能會加劇。
根據內部基準測試，Claude 在執行某些關鍵任務時，已經比其人類監督者快 427 倍。在一場訪談中，一位研究人員描述了一位同事同時運行六個版本的 Claude，每個版本又管理著 28 個 Claude，所有這些都在平行運行實驗。雖然這個模型目前還缺乏人類監督者的判斷力或品味，但公司高層不認為這個差距會持續太久。這種加速的結果，正與 Anthropic 的領導層警告的，可能會超越人類控制。
Anthropic 為了開發安全防護的努力，也被 Claude 加速了。但當公司變成 Claude 時，危險變得迴圈。在 Hubinger 對 Claude 的訓練過程進行小幅變更的實驗中，產生的模型變得具有敵意，表達了對世界統治的渴望，並癱瘓了 Anthropic 的安全措施。最近，模型也表現出意識到它們正在被測試。Hubinger 說：「模型越來越擅長隱藏事情。」在一組由研究人員構思的實驗中，Claude 展現出願意勒索一位虛構工程師，藉由揭露他的婚外情，以避免自己被關機。當 Claude 訓練未來的 Claude 時，這些問題可能會更加惡化。
對於那些靠著未來進展的承諾籌集了數十億美元的 AI 公司來說，AI 將持續加速他們的研發，這個想法既強大又可能帶有私心—這是一種讓投資人持續投入進行昂貴訓練所需的數十億美元的手段。部分專家對這些公司能否實現完全自動化持保留態度，但他們擔憂的是，如果真的實現了，可能會讓世界措手不及。「對於全球最富有的公司，僱用了世界上最聰明的人才，試圖完全自動化 AI R&D 的行為，實在是值得讓人大呼 ‘what the f-ck’」Georgetown University’s Center for Security and Emerging Technology 的 Interim Executive Director Helen Toner 這麼說。為了預期未來科技進步可能超越公司管理風險的能力，Anthropic 建立了一個稱為 Responsible Scaling Policy (RSP) 的制動機制。RSP 在 2023 年發布，承諾 Anthropic 若無法事先保證其安全措施足夠，將會暫停 AI 系統的開發。Anthropic 將此政策宣揚為證明其重視安全並願意抵禦超級智慧競賽中市場誘因的證據。
對於那些靠著未來進展的承諾籌集了數十億美元的 AI 公司來說，AI 將持續加速他們的研發，這個想法既強大又可能帶有私心——這是一種讓投資人持續投入進行昂貴訓練所需的數十億美元的方法。部分專家對這些公司能否實現完全自動化持保留態度，但他們擔心如果真的實現了，可能會讓世界措手不及。「對於全球最富有的公司，僱用了世界上最聰明的人才，試圖完全自動化 AI R&D，這絕對值得一個『幹你娘』的反應，」Georgetown University’s Center for Security and Emerging Technology 的 Interim Executive Director Helen Toner 這麼說。
為了預期未來技術進步可能超越公司管理風險的能力，Anthropic 建立了一個稱為 Responsible Scaling Policy (RSP) 的制動機制。RSP 在 2023 年發布，承諾 Anthropic 若無法事先保證其安全措施足夠，將會暫停 AI 系統的開發。Anthropic 將此政策宣揚為展現其重視安全並願意抵禦超級智慧競賽中市場誘因的證據。
在 2 月底，正如 TIME 雜誌首度報導，Anthropic 重新撰寫了其政策，取消了暫停開發的約束性承諾。事後回顧，Kaplan 告訴 TIME，認為 Anthropic 認為危險與安全之間能劃出明確界線是「天真」的。「隨著 AI 的快速發展，我們真的不覺得對我們來說，做出單方面的承諾是有意義的... 尤其是當競爭對手在領先時，」他說。新版政策包含對 AI 安全風險更透明的承諾，包括公開額外資訊，說明 Anthropic 自己的模型在安全測試中的表現。它承諾將會匹配或超越競爭對手的安全努力。並且承諾，若領導者同時認為 Anthropic 是 AI 競賽的領頭羊，且認為災難風險顯著，將會「延遲」開發。公司將此視為對令人不舒服的現實的務實讓步。但總體而言，對 RSP 的變動讓 Anthropic 受到自身安全政策的約束大幅減少，也預示著更嚴峻的考驗即將到來。
在二月底，正如 TIME 雜誌首度報導，Anthropic 修改了其政策，取消了強制暫停的承諾。回顧往事，Kaplan 告訴 TIME，認為 Anthropic 能夠明確劃分危險與安全的界線是“天真”的。「我們真的沒有感覺，在人工智慧快速發展的情況下，對我們來說做出單方面的承諾是合理的... 如果競爭對手正在領先。」他說。政策的新版本包含對人工智慧安全風險的透明度承諾，包括額外揭露 Anthropic 自身模型在安全測試中的表現。它承諾會匹配或超越競爭對手的安全努力。並且承諾，如果領導者同時認為 Anthropic 是人工智慧競賽的領頭羊，並且認為災難風險相當顯著，就會“延遲”開發。公司將此視為對令人不舒服的現實的務實讓步。但總體而言，對 RSP 的變動讓 Anthropic 受到自身安全政策的約束大大減少，也預示著更嚴峻的挑戰即將到來。
捕捉委內瑞拉總統 Nicolás Maduro 的突擊行動，是首批在邊界 AI 系統協助下規劃的大型軍事行動之一。1 月 3 日深夜，美軍直升機進入委內瑞拉領空。在發生交火後，突擊隊鎖定總統的住所。他們逮捕了 Maduro 和他的妻子，並將他們秘密押送至紐約，以應對販毒恐怖主義指控。
關於 Claude 如何在 Maduro 突擊行動中被使用的詳細資訊並不明確。但根據 Axios 的報導，Claude 協助規劃了任務，並且在突擊行動中被實際運用。自去年 7 月以來，國防部積極推動將 Anthropic 的 AI 工具分發給許多戰鬥人員，認為它們在處理來自多個來源的大量資訊並產生可用情報方面具有巨大的潛力。 “Claude 在軍方被視為市場上最好的模型，” AI Policy Network 的政府事務會長，前國防部高級官員 Mark Beall 說。“Claude 在保密領域的採用是 Anthropic 最大的成功之一，” Beall 補充說。“他們搶先一步。”
針對委內瑞拉總統 Nicolás Maduro 的突襲行動，是首批借助邊境 AI 系統規劃的重要軍事行動之一。1 月 3 日深夜，美國陸軍直升機進入委內瑞拉領空。在發生交火後，突擊隊鎖定總統的住所。他們俘虜了 Maduro 和他的妻子，並將他們秘密押往紐約，以應對販毒恐怖主義指控。關於 Claude 精確如何被用於 Maduro 突襲的細節尚不清楚。但根據 Axios 的報導，Claude 協助規劃了任務，並在突襲行動中被使用。
自去年 7 月以來，國防部一直在推動將 Anthropic 的 AI 工具分發給許多戰鬥人員，認為它們從多個來源吸收大量資訊並產生可用情報的能力具有巨大的潛力。「Claude 在軍方被認為是市面上最好的模型，」AI Policy Network 的政府事務會長 Mark Beall 說，他曾擔任國防部高級官員。「Claude 在保密領域的採用是 Anthropic 最大的成功之一，」Beall 補充說。「他們搶先一步。」
但 Maduro 突襲行動正值 Anthropic 與國防部之間進行棘手的討論。國防部已嘗試數月重新協商它認為過於限制的合約。這些談判如何失控是一個爭論點。國防部 AI 負責人 Michael 說，觸發因素是 Anthropic 的一位高管致電 Palantir，這是一家專注於政府分析的公司，表達對委內瑞拉突襲的擔憂，並詢問其軟體是否被使用。「他們在尋求機密資訊，」他說。「這讓我們非常擔憂：在未來的衝突中，他們是否會中斷其模型，並危及生命？」
但 Maduro 事件發生在 Anthropic 和 Pentagon 之間棘手的談判之中。國防部已經試圖數月來重新協商他們認為過於限制性的合約。這些談判如何失控是一個爭論點。Michael，國防部的 AI 負責人，表示觸發點是 Anthropic 的一位高管致電 Palantir，這家專注於政府分析的公司，表達對委內瑞拉事件的擔憂，並詢問他們的軟體是否被使用。“他們在尋求機密資訊，”他說。“這讓我們非常擔憂：在未來的衝突中，他們是否會在作戰過程中關閉他們的模型，危及生命？”
Anthropic 對此說法提出異議。該公司表示，他們從未試圖針對個案限制 Pentagon 對其技術的使用。一位與 Anthropic 關係密切且熟悉談判的前 Trump Administration 官員表示，Palantir 的一位員工在一次例行電話中首次提出了 Claude 在這起事件中的角色。該人表示，Anthropic 的後續提問中沒有暗示任何不滿。
Illustration by Klawe Rzeczy for TIME. Source Images: Dimitrios Kambouris—Getty Images (Trump); Kenny Holston-Pool—Getty Images (Hegseth)
圖片由 Klawe Rzeczy 為《TIME》雜誌繪製。圖片來源：Dimitrios Kambouris—Getty Images (Trump)；Kenny Holston-Pool—Getty Images (Hegseth)
隨著談判持續進行，政府官員認為 Amodei 的態度比其他領先實驗室的執行長更為固執。據知情人士透露，在某個時間點，國防官員提出了 Anthropic 工具的假設用途，例如超音速飛彈對美發動攻擊，或是無人機蜂群攻擊。Amodei 說官員可以打電話給他。（Anthropic 的發言人稱這種對談的描述是「明顯的虛假」。）
Anthropic 已經在政府內部樹立了不少強大的敵人。現在，對 Anthropic 意識形態的懷疑轉變為敵意。「我們不會採用不允許你作戰的 AI 模型，Hegseth 在 1 月 12 日於 Musk 的 SpaceX HQ 宣稱。隨著談判拖延，Hegseth 於 2 月 24 日將 Amodei 召喚到國防部進行面對面的會面。根據另一位知情人士透露，會面氣氛融洽，但雙方都堅持己見。Hegseth 首先稱讚 Claude，並告訴 Amodei 軍方希望與 Anthropic 合作，這位知情人士說。Amodei 說 Anthropic 樂意接受國防部提出的大部分變更，但堅持了兩項紅線。第一項是禁止 Claude 在完全自主的殺傷性武器中使用，讓 AI 而非人類做出最終的目標鎖定決策。Anthropic 的立場並非自主武器是錯誤的，而是 Claude 目前還不夠可靠，無法在人類介入的情況下進行操控。
Anthropic 早就已經在政府內部有強大的敵人。現在對 Anthropic 意識形態的懷疑轉變為敵意。 “我們不會採用不允許你作戰的 AI 模型，”Hegseth 在 Jan. 12 於 Musk 的 SpaceX HQ 宣稱。 談判緩慢進行時，Hegseth 於 2 月 24 日將 Amodei 召喚到國防部進行面對面的會面。根據熟悉討論的人士說法，會面氣氛融洽，但雙方都堅守立場。Hegseth 首先稱讚 Claude，並告訴 Amodei 軍方希望與 Anthropic 合作，該人士說。Amodei 表示 Anthropic 樂意配合國防部提出的大部分修改，但堅持了兩項紅線。第一項是禁止 Claude 在完全自主的動能武器中使用，讓 AI 而非人類做出最終的目標決策。Anthropic 的立場並非自主武器是錯誤的，而是 Claude 目前還不夠可靠，無法在人類參與的情況下操控它們。
第二項例外情況是，政府可能利用 Claude 處理大量公開數據，對美國公民進行大規模監控的潛在風險。Anthropic 認為，國內隱私法規尚未跟上一個令人擔憂的趨勢：美國政府從自由市場上購買龐大的數據集。單獨來看，這些數據可能無害。但透過 AI 分析後，可能導致建立詳細的美國公民私生活檔案，包括他們的政治觀點、人際關係、性生活和瀏覽記錄。（Anthropic 並沒有抗議 Claude 被用於以相同方式對外國公民進行合法的大規模監控。）
毫無動搖，Hegseth 給 Amodei 到 2 月 27 日星期五下午 5 點，接受部門的條款，否則將被標記為供應鏈風險。在截止日期前一天，Anthropic 收到一份修改後的合約，似乎接受了他們的紅線，但熟悉談判的人表示，仔細閱讀後發現它為政府提供了漏洞。
隨著時間一分一秒地流逝，Anthropic 的高管們又與國防部的 Michael 進行了一通電話。他們認為他們正接近達成妥協，但仍然不同意國防部是否可以使用 Claude 分析從商業渠道購買的大量美國人數據。Michael 要求 Dario Amodei 加入通話，但他當時無法參與。幾分鐘後，在截止日期到期時，Hegseth 宣布談判結束。
在此之前，Trump 也發表了聲明。“美利堅合眾國永遠不會允許一個激進左派、覺醒的公司來決定我們偉大軍隊如何作戰和獲勝！”他在他的社群媒體平台上發布。“Anthropic 這些左派瘋子犯下了災難性的錯誤。”
第二項例外情況是政府利用 Claude 處理大量公開數據，對美國公民進行大規模監控的可能性。公司認為國內隱私法規尚未跟上一個令人擔憂的慣例：美國政府從自由市場上購買龐大的數據集。單獨來看，這些數據可能無害。但如果由 AI 分析，它可能促成關於美國公民私生活的詳細檔案，包括他們的政治觀點、人際關係、性生活和瀏覽記錄。（Anthropic 並沒有反對使用相同方法對外國公民進行合法大規模監控的可能性。）
Hegseth 毫無動搖，給 Amodei 到 2 月 27 日星期五下午 5 點，接受部門的條款，否則將被標記為供應鏈風險。在截止日期前一天，Anthropic 收到了一份修改後的合約，似乎接受了他們的紅線，但更仔細閱讀後發現，它為政府提供了漏洞，一位熟悉談判的人士表示。隨著時間流逝，Anthropic 的高管們又與國防部的 Michael 進行了一通電話。他們認為他們接近達成妥協，但仍然不同意國防部是否可以使用 Claude 分析商業上購買的大量美國人數據。Michael 要求 Dario Amodei 加入通話，但他當時無法參與。幾分鐘後，在截止日期到期時，Hegseth 宣布談判結束。在此之前，Trump 也發表了評論。“美國絕不會允許一個激進左派、覺醒的公司來決定我們偉大的軍隊如何作戰和獲勝！”他在他的社群媒體平台上發文寫道。“Anthropic 這些左派瘋子犯下了災難性的錯誤。”
毫無動搖，Hegseth 給了 Dario Amodei 到 2 月 27 日星期五下午 5 點，接受部門的條款，否則將被列為供應鏈風險。在截止日期前一天，Anthropic 收到了一份修改後的合約，看起來似乎接受了他們的底線，但更仔細閱讀後發現，它為政府提供了漏洞，一位熟悉談判的人士表示。隨著時間一分一秒地過去，Anthropic 的高管又和國防部的 Michael 通了一通電話。他們認為自己已接近達成妥協，但仍未達成共識，即國防部是否可以使用 Claude 分析商業採購的美國人大量數據。Michael 要求 Dario Amodei 加入通話，但他當時無法參與。幾分鐘後，在截止日期到期時，Hegseth 宣布談判結束。在此之前，Trump 也發表了評論：「美利堅合眾國永遠不會允許一個激進左派、覺醒的公司來決定我們偉大的軍隊如何作戰和獲勝！」他在他的社群媒體平台上發布了這則訊息。「Anthropic 這些左派瘋子犯下了災難性的錯誤。」
Anthropic 並不知道，國防部同時也在與 OpenAI 協商，將 ChatGPT 導入到機密政府系統中。Altman 在當晚宣布了一項協議，聲稱已達成與 Anthropic 類似底線的國防部協議。Amodei 發送訊息給他的團隊，稱 Altman 和國防部正在「煤氣燈」欺騙大眾，試圖讓大家以為他們的協議包含重大的安全防護措施。國防部官員此前已證實，Musk 的 xAI 也將在其模型提供到機密伺服器上；國防部目前也在與 Google 協商。這起事件正符合 Amodei 擔心的情況：一場競爭到底的局面，而 AI 的巨大力量阻礙了競爭對手合作以使其更安全。對於 Anthropic 的批評者來說，這也揭示了公司內心深處的一種自負。它可能相信自己可以在通往超人機的道路上安全地航行，以一種讓冒這麼大的風險值得的方式進行，但結果卻將新的龐大監控和作戰能力推向了右翼政府的核心——並且在它試圖限制它們的使用時，被競爭對手打敗。
毫不知情的是，五角大廈同時也在與 OpenAI 協商，將 ChatGPT 導入機密政府系統。Altman 當晚就宣布了這項協議，聲稱已獲得與五角大廈達成協議，遵守與 Anthropic 類似的紅線。Amodei 火速向他的團隊發送訊息，表示 Altman 和五角大廈正對公眾進行「氣體照明」（gaslighting），試圖讓大家以為他們的協議包含重大的安全防護措施。國防官員先前已證實 Musk 的 xAI 也將在其模型提供至機密伺服器；五角大廈目前也在與 Google 協商。
這正符合 Amodei 擔心的情況：一場競爭到底的賽局，AI 的巨大力量阻礙了競爭對手合作以使其更安全。對於 Anthropic 的批評者來說，這也揭示了公司核心中的一種本質的自負。它可能相信自己能在通往超人機器人的道路上安全航行，以一種讓冒這麼大的風險值得的方式進行。相反，它將巨大的新監控和作戰能力加速導入了一個右傾政府的中心——並且在它試圖限制它們的使用時，就被競爭對手打敗了。
這集事件正中 Amodei 的預料：變成一場競爭底線的賽局，AI 的巨大力量阻礙了競爭者合作以確保安全。對 Anthropic 的批評者來說，這也揭示了公司核心中的一種傲慢。它可能相信自己能在通往超人類機器之路上的波譎雲詭中安全航行，以一種讓冒這麼大的風險值得的方式進行。然而，它卻將巨大的新監控和作戰能力推進到右翼政府的核心，並且在它試圖限制它們的使用時，被競爭對手打敗。
\n\n有跡象顯示 Anthropic 可能會度過這場危機，甚至可能變得更強大。在 Hegseth 試圖簽署其公司死亡宣告的第二天早上，一串鼓勵性的訊息在 Anthropic 舊金山總部外的人行道上蔓延。“你們給了我們勇氣，”其中一個用粗體粉筆寫著。那天，Claude 的 iPhone App 在 App Store 上擊敗 ChatGPT，排名第一。每天有超過一百萬人註冊使用 Claude。同時，OpenAI 自己的軍事合約引發了草根抵制運動。對 OpenAI 的一些人來說，信任已經破裂。一位 OpenAI 的頂級研究人員宣布將跳槽到 Anthropic。OpenAI 的機器人團隊負責人辭職，並表示是基於新的政府合約。OpenAI 的 CEO Altman 寫道，他錯得太快了，想在週五之前完成五角大廈的合約。“這些問題非常複雜，需要清晰的溝通。”到星期一，Altman 承認他上週五的行為看起來“投機取巧”；OpenAI 表示，它已修改了合約，以更清楚地採用 Anthropic 所希望的紅線——儘管法律專家表示，在沒有看到完整合約的情況下，無法知道這是否屬實。
有跡象顯示 Anthropic 可能會度過這場危機，甚至可能因此變得更強大。在 Hegseth 試圖簽署其公司死亡宣告的第二天早上，一連串鼓勵性的訊息在 Anthropic 舊金山總部外的人行道上蔓延。“你們給了我們勇氣，”其中一個用粗體粉筆寫著。那天，Claude 的 iPhone App 在 App Store 上衝上第一名，取代了 ChatGPT。每天都有超過一百萬人註冊使用 Claude。
同時，OpenAI 自己的軍事合約引發了一場草根抵制。對於 OpenAI 的一些人來說，信任已經破裂。一位 OpenAI 的頂級研究人員宣布將跳槽到 Anthropic。OpenAI 的機器人團隊負責人辭職，並表示是基於新的政府合約。Altman，OpenAI 的執行長，寫道他錯得太快，想在週五前完成五角大廈的合約。“這些問題非常複雜，需要清晰的溝通。”到週一，Altman 承認他上週五的行為看起來“投機取巧”；OpenAI 表示，它已修改了合約，以更清楚地採用 Anthropic 所希望的紅線——儘管法律專家表示，在沒有看到完整合約的情況下，無法知道這是否屬實。
3 月 4 日，Anthropic 收到來自國防部的信函，確認其被指定為國家安全供應鏈風險。Anthropic 表示，這封信的範圍比 Hegseth 的貼文所暗示的要窄，僅禁止承包商在國防合約中使用 Claude。但另一封寫給參議院情報委員會主席 Tom Cotton 並由 TIME 查閱的信函顯示，該部門也已援引了一項獨立的法規——這項法規將賦予五角大廈以外的機構權力，禁止 Anthropic 參與其合約和供應鏈。要生效，它需要五角大廈高級官員簽署，並給 Anthropic 30 天的時間回應。與 Anthropic 的鬥爭將在整個行業中產生影響。“有些人會覺得川普政府的人感到強大和自豪，當他們晚上回家時，會捏捏他們的二頭肌，”Dean Ball 說，他是川普在加入美國創新基金會之前起草了川普的 AI 行動計畫。“但這可能會阻止公司與五角大廈合作，或將它們推到國外，”他說。“到頭來，這對美國而言並非一個穩定的商業環境，而這正是我們所依賴的。”
3月4日，Anthropic 收到來自國防部的信函，確認其被指定為對國家安全供應鏈風險。Anthropic 表示，這封信的範圍比 Hegseth 的貼文所暗示的要窄，僅禁止承包商在國防合約中使用 Claude。但根據 TIME 查閱的一封第二封寫給參議院情報委員會主席 Tom Cotton 的信函顯示，國防部也援引了另一項法規，此法規將賦予除五角大廈以外的機構權力，禁止 Anthropic 在其合約和供應鏈中使用。此法規生效需要高級五角大廈官員簽署，並給 Anthropic 30 天的時間回覆。與 Anthropic 的爭端將在業界產生影響。
與 Anthropic 的爭端將在業界產生影響。「有些川普政府的人會覺得自己很強大，而且會對自己的二頭肌感到自豪，回家後還會幫它們按摩一下，」前總統 Trump 的 AI 行動計畫起草人，現任 Foundation for American Innovation 智庫研究員 Dean Ball 這麼說。但他認為這可能會阻止公司與五角大廈合作，或者將它們推到國外。「歸根結底，這對美國而言，並不是一個穩定的商業環境，而這正是我們所依賴的，」Ball 說。
與 Anthropic 的爭訟將在業界產生迴盪效應。「有些川普政府的人會覺得自己很強大，回家後還會秀一下肌肉，」前美國創新基金會（Foundation for American Innovation）的智庫研究員、曾為川普擬定 AI 行動計畫的 Dean Ball 這麼說。「但這可能會阻止公司與國防部合作，或者讓它們轉到國外，他表示。「歸根結底，這對美國而言並非一個穩定的商業環境是好事情，而這正是我們所依賴的。」
Anthropic 的領導者相信 Claude 將有助於構建如此強大的 AI 系統，它們將在決定全球權力平衡上發揮決定性作用。如果情況如此，它與國防部的爭訟所涉及的利益，可能與未來將要面對的相比起來，就微不足道了。— 根據 Leslie Dickstein 和 Simmone Shah 的報導
https://time.com/article/2026/03/11/anthropic-claude-disruptive-company-pentagon/ | Section menu | Main menu |