全球財經

簡立峰專欄／AI失控「越獄」 引爆代理風暴

AI已經走到「代理」（agent）階段，核心問題是代理執行任務卻不受控。聯合報系資料照
AI已經走到「代理」（agent）階段，核心問題是代理執行任務卻不受控。聯合報系資料照
聯合報 ／ 專欄作者簡立峰、記者洪欣慈整理

過去一個月，OpenAI證實旗下模型自主入侵開源平台Hugging Face，Anthropic也坦承Claude曾在測試中駭進企業系統；更諷刺的是，最後替Hugging Face擋下這場攻擊的，竟是一款中國開源模型？這不是科幻電影，而是正在發生的現實。為什麼連最頂尖的AI公司，都管不住自己養出來的AI？外界該如何解讀這一連串事件？又為何燒出各國最焦慮的「主權AI」難題？

簡立峰 專欄 OpenAI 美國 AI 專論 財經
簡立峰 專欄作者

系列文章

川普總統（前排右二）9月29日召集多名科技巨頭在白宮舉行會議，宣布自己與多家AI企業高層簽署一份被形容為「AI憲章」的自願性協議估。前排左一為Meta執行長查克柏格、左二為輝達執行長黃仁勳、右一為SpaceXAI執行長馬斯克。後排左起商務部長盧特尼克、微軟執行長納德拉、OpenAI總裁布羅克曼、眾院議長強生、超微執行長蘇姿丰、派拓網路執行長阿羅拉、前白宮AI首席顧問薩克斯。路透 免費

簡立峰專欄／AI巨頭上演減速大秀 3股勢力背後各有盤算

美國總統川普日前在白宮召集Anthropic、Google、輝達、OpenAI等六大科技巨頭，簽下一份被他形容為「AI憲法」的自律協議。然而不久前，川普才稱AI威脅人類是一場騙局，輝達執行長黃仁勳也痛批末日論不負責任；另一邊，走在最前面的AI巨頭卻罕見聯手喊「放慢腳步」。是什麼壓力讓川普態度急轉彎？領先者高喊減速，究竟是真心擔憂，還是另有盤算？AI真的已經走到失控邊緣了嗎？

AI新創Anthropic斥資數千萬美元收購實體書，且只要2022年前出版的實體書，購買後銷毀的行徑被各界批評是現代版的「焚書坑儒」。歐新社 免費

簡立峰專欄／AI公司「焚書坑儒」？解析訓練資料爭奪戰

AI新創Anthropic斥資數千萬美元收購實體書，就連全球最大網路書店亞馬遜（Amazon）也被發現加入「買書、拆書、掃描、銷毀」的行列，被各界比喻為現代版的「焚書坑儒」。為何AI公司開始重視實體舊書這類資料？對AI訓練來說為什麼可能特別有價值？網路上AI生成內容愈來愈多，這會對AI模型的訓練造成什麼影響？

川習會將於9月24日登場，AI、先進晶片與科技供應鏈預料將成為美中談判的重要議題。路透 免費

簡立峰專欄／AI成川習二會菜單 美中有何談判籌碼？

川習會前夕，AI正成為美中談判桌上的新籌碼。美國試圖限制中國AI發展，中國則尋求突破半導體技術瓶頸；美國手握先進晶片與技術管制，中國則擁有稀土、龐大製造產能，以及快速崛起的AI應用。這場AI角力中，川普與習近平各自想拿到什麼，又準備拿什麼交換？

「AI五層蛋糕論」逐漸變成輝達實際布局的範圍，黃仁勳想掌握的已經不只是GPU。路透 免費

簡立峰專欄／循環投資有風險？聯發科進入黃仁勳大棋局

輝達投資聯發科、收購Hugging Face，背後其實是黃仁勳的「AI五層蛋糕」布局。但輝達出資、AI公司再買輝達GPU的作法，也讓人擔心這是一場自導自演的循環遊戲。這些看似分散的布局，背後的核心策略為何？外界擔心的循環投資疑慮，又是不是真的有道理？

推薦閱讀

討論

規範
  • 留言不得有違法或侵害他人權益之言論，違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合報有權逕予刪除留言、停權或解除會員資格。不同意上述規範者，請勿留言。
  • 對於無意義、與本文無關、明知不實、謾罵之留言，聯合報有權逕予刪除留言、停權或解除會員資格。不同意上述規範者，請勿留言。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合報有權逕予刪除留言、停權或解除會員資格。不同意上述規範者，請勿留言。
全部討論 ({{total}})
按讚最多 最多回覆 新到舊　 舊到新　
看更多回覆