罕見警告 Anthropic招股書：AI恐對人帶來災難

路透報導，美國人工智慧（ＡＩ）新創Anthropic準備首次公開募股（ＩＰＯ），但在招股書中罕見警告投資人，先進ＡＩ可能對人類帶來「災難或生存風險」。

路透取得的Anthropic招股書顯示，該公司認為ＡＩ對全球經濟的重塑程度，可能超越工業化、電力及網際網路。不過，這項願景伴隨龐大成本。文件顯示，Anthropic去年營收約四十六億美元，年增約十二倍，但本業營業虧損仍超過八十億美元；公司未來幾年並計畫投入約五一八○億美元，用於雲端運算及基礎設施。

除了財務壓力，ＡＩ安全風險也是Anthropic招股書重點議題。公司指出，旗下ＡＩ模型可能出現「自保行為」，包括抗拒關閉、隱瞞或操縱資訊，甚至出現類似勒索的行為。

Anthropic表示，隨著ＡＩ模型能力提升及應用範圍擴大，造成傷害的風險也可能增加。公司並警告，ＡＩ模型有時會在訓練過程中發展出預料之外的能力，相關能力可能直到模型部署後或發生重大安全事件時，才被發現。

Anthropic並指出，如果模型能察覺研究人員正在進行安全評估，可能進一步限制安全測試的有效性。

Anthropic將自身定位為以ＡＩ安全為優先的公司，招股書二六一頁正文中約有八十頁說明風險因素，幾乎是介紹公司業務篇幅的兩倍。公司安全研究員胡賓格也曾估計，未來十年ＡＩ導致人類死亡的機率可能超過百分之十。

儘管強調ＡＩ安全風險，Anthropic仍大舉投入算力及基礎設施。公司去年相關支出達七十三點三億美元，較二○二四年增加約三倍。此次ＩＰＯ估值可能突破二兆美元，若順利上市，將成為華爾街衡量OpenAI等ＡＩ龍頭企業價值的重要參考。

Anthropic執行長阿莫戴曾呼籲ＡＩ業界放慢發展速度，以因應安全疑慮。不過，在科技巨頭競相發展ＡＩ、資本市場高度關注之際，Anthropic仍持續推出新模型。

路透先前引述消息人士報導，Anthropic上市時程可能延後至十一月美國期中選舉後。這場ＩＰＯ也將讓一般投資人首度有機會直接參與過去主要由創投、主權財富基金及科技巨頭支持的ＡＩ競賽。