AI幻覺 美軍險攔截陸貨船

美國有線電視新聞網（ＣＮＮ）十八日引述消息人士報導，今春美伊戰爭期間，美國由於一份人工智慧（ＡＩ）協助生成的錯誤情資報告，誤認一艘在中東的中國大陸船舶運載核武計畫相關零組件而一度準備展開攔截行動，所幸在行動前夕發現有誤，避免恐因此引發的美中軍事衝突。

報告由一位美國太平洋特種作戰司令部（ＳＯＣＰＡＣ）分析師製作。美軍當時迅速採取行動，武裝人員準備攔截該船，軍機也升空。

美軍及美國情報界正推動將ＡＩ融入幾乎所有的工作層面，從分析大量原始情資、挑選攻擊目標，到管理預算、後勤及供應鏈。

但這起事件凸顯，在戰爭期間使用這種新穎且尚未被充分理解的技術協助選定攻擊目標，恐帶來重大風險。這起事件的分析師就ＳＯＣＰＡＣ一份涉及該船貨物清單的報告，向聊天機器人查詢。尚不清楚此一聊天機器人是市售產品或美國政府的產品。

聊天機器人將公開來源情報和政府掌握的機密情報結合，最後對該船貨物得出錯誤結論。分析師就將ＡＩ相關發現整理成美軍官員通常會信任的標準情資報告後發出。

美國軍方正迅速轉向使用ＡＩ協助選定攻擊目標，但顯然存在導致致命錯誤的風險。然而，即使保留人工決策環節，究竟要如何防止平民傷亡或誤傷友軍，目前也沒有真正的指引。

從ＡＩ工具開始在美國政府內部廣泛使用後，情報界出現像這起事件的「幻覺」並非個案。對部分較年長的情報官員而言，即使整體上支持軍方使用ＡＩ，仍認為這項技術正使分析師承受必須更快速製作，並將情資發出的壓力，因此增加出錯空間。