AI越界意外頻傳 前OpenAI董事籲業者提高透明度

前OpenAI董事唐納今天在美國週日的政論節目指出，許多AI安全與管理工作者憂心，難道非得發生類似車諾比核電廠意外事件的真實災難，才能喚醒人們採取監管行動。她強調，首先要做的是主要AI企業增加透明度。

美國人工智慧業者OpenAI與Anthropic，近期陸續發生AI代理（agent）透過網路駭入其他公司的意外事件。人工智慧系統無分國界地自動、主動取得他人資訊或研究成果，已成為重大國安議題。

美國跨黨派國會議員近期提出「AI強制關閉法案」（AI Kill Switch Act），賦予聯邦機構強制暫停AI模型運作的權力，不過白宮在中國競爭下看法謹慎。

前OpenAI董事暨喬治城大學安全與新興科技中心（Center for Security and Emerging Technology）執行主任唐納（Helen Toner），在美國廣播公司（ABC）週日政論節目「本週」（This Week）呼籲AI業者增加透明度。

唐納表示，聽到多家公司內部討論，特別上週主要AI公司有1300名員工公開指出，他們沒有（AI）煞車踏板，希望政府、公民社會、大眾協助建立煞車機制，讓員工必要時可放緩AI的工作進度。

她指出，近期發生多起事件顯示，AI公司員工不瞭解打造出來的科技，也無法控制AI，這是必須關注問題的原因。

唐納進一步說，AI高層的想法很有趣，他們認為有許多風險，也必須關注，但如果不做，別人將搶先動手，別人可能是中國，也可能是美國競爭對手的執行長。他們不願先放手讓別人成為贏家。

主持人史蒂法諾普洛（George Stephanopoulos）問道，這該做些什麼？該如何監管？

唐納回應，首先要提高透明度，由幾間公司先做起，這些公司正致力將AI推向極限與最前線，加州、紐約州、伊利諾州已通過相關法案。但這不是東拼西湊的任務，應協力增加透明度，公布嚴重AI意外事件，賦予第3方專家更多權力檢視系統。

她強調，長期來看，美國須就AI風險與中國對話。雙方必須思考是否看到相同風險，全面發展科技安全機制是否符合彼此重大利益。

史蒂法諾普洛問道，難道非得發生嚴重危機才能完成必要立法工作？

唐納表示，希望不會如此。但許多AI安全與管理領域工作者認為，目前政治氣氛下（立法監管）可能性不高，他們憂心非得發生類似車諾比（Chernobyl）核電廠意外事件的真實災難，才能喚醒人們採取行動。

她強調，OpenAI近期駭入其他業者意外引起關注，讓人感到希望，大家的憂慮是對的。