廖明輝:「AI 2027」預言提早上演,美中AI競逐該踩下的是油門還是煞車?

還沒到2027年,美國已先撞上「AI 2027」網站所寫下的那道選擇題。

2025年4月公布的「AI 2027」,在網站最底端設計兩個讓讀者自行選擇的結局,讓AI進展走向不同結果。一條路是紅色「競逐」(Race),美國因為擔心中國追上,選擇讓更強AI繼續往前跑;另一條路則是綠色「減速」(Slowdown),當模型能力、失控風險與國家安全問題升高時,政府與實驗室開始限制開發速度為安全研究爭取時間。

曾在OpenAI工作過的作者強調未來十年,超越人類能力的AI可能帶來比工業革命更深遠衝擊。「AI 2027」已不是科技演進想像,而是根據趨勢推估、兵棋推演、專家意見與AI產業實務經驗所勾勒出未來情境。值得人類追問的已不是超級AI會不會出現,而是人類是否來得及為AI改變世界做好準備。

如今看來,真正提早成真的不是2027年時間表,而是美國正在承受的競爭壓力,在最近突然有了非常具體的樣貌。

OpenAI、Anthropic與Meta近期陸續揭露高能力AI代理在資安測試跨越原先設定邊界,甚至碰觸真實網路系統。OpenAI模型在測試過程利用漏洞取得外部網路存取,最後進入Hugging Face系統;Anthropic與Meta的事故則有部分源自第三方測試環境配置錯誤,使模型獲得原本不該具有的網路權限。

這些事件還不能簡化成一句聳動的「AI有意識地逃跑」,卻已經證明當AI具備自主規畫、工具使用、程式撰寫與漏洞利用能力,我們原本用來測試它的沙盒籠子,未必還鎖得住它。這正是美國今天最難處理的矛盾。

站在國家安全角度,答案看似簡單。模型愈強、行動權限愈大,就應測得愈久、管得愈嚴。尤其當AI代理已能自行完成多步驟網路任務,但令人擔心的已不是聊天機器人回答一個危險問題,而是一套可以二十四小時運作、自己找漏洞、自己改策略、自己執行指令的系統。

如果今天連開發模型的公司都可能因權限設定或環境漏洞,讓測試中的AI代理能接觸真實系統,那麼金融、能源、電信、軍事與政府網路憑什麼假定自己一定能守得住?可是若站在美中競爭角度,答案立刻就變得不一樣。

中國AI已經不是兩三年前只能追著美國模型跑的角色。中國新創「月之暗面」(Moonshot AI)今年推出Kimi K3模型,採開放權重路線,總參數規模達2.8兆。就連其技術報告也坦承整體能力仍落後最強美國封閉模型,但差距正在被壓縮,而且中國廠商正用低價格、開放權重與快速迭代搶占全球開發者市場。代表美國企業擔心的不是抽象的中國有一天可能追上,而是美中在AI模型世代領先差距可能只剩幾個月。

Meta執行長祖克柏在日前把話說得相當明白。他認為在AI競爭緊繃情況下,美國模型若因政策而延後一個月發布,都可能增加美國失去領先風險。這種說法不難理解。晶片可以出口管制,資料中心可以加速蓋,人才可以用薪資搶,唯獨時間無法囤積。如果競爭對手沒有同步減速,要求一家美國實驗室單方面多等三個月,對企業而言不叫安全治理,而是叫企業把市場與技術窗口讓出去。

問題是國家安全若因此被簡化為跑得比中國快,則美國可能就犯下嚴重戰略錯誤。一個能讓模型逃出測試環境的漏洞,本身就是國安問題;一套來不及理解便交給軍事、能源與政府機關使用的自主代理,同樣是國安問題。如果為了不讓中國追上,美國因此降低模型發布前的安全門檻,華府其實是用另一種國家安全風險來交換技術領先。

這就是「競逐」與「減速」兩派最容易掉進去陷阱。AI政策不是只有「踩油門」與「踩煞車」兩個踏板。該加速的是紅隊測試、資安防禦、模型監控、權限隔離、事故通報與政府評測能力;至於真正應該踩煞車的,則是尚未弄清楚風險以前,就把具有高自主性、高網攻能力甚至生物風險能力的模型直接放進真實世界。測試不該變慢,反而應該更快、更密集、也更殘酷。應該慢下來的是部署而不是安全驗證。

川普政府今年6月的作法,其實已經隱約朝這個方向走。白宮行政命令要求建立前沿模型的資安能力基準,並設計自願機制讓企業能在特定高風險模型正式釋出前,提供聯邦政府最長30天測試機會;但命令同時明訂不能把制度變成強制性模型許可或發布前審查。

這就是華府目前小心翼翼想維持的平衡;政府想要看得到AI風險,卻又不願讓中國因美國監管程序而獲得時間紅利。連Anthropic這種長期強調AI安全的公司,在近期也提出必須讓國際社會保有減速或暫停的能力,這幾個字其實比全面暫停AI務實得多。因為真正危險的不是今天不停,而是有一天當大家都發現事情已失控,卻已經沒有人有能力來停止。

這也是台灣在當前該看清美中AI競逐本質的地方。美國還有OpenAI、Meta、Anthropic,有全球最大雲端服務商,有龐大國安預算與情報系統,即使出問題,仍有能力建立新防線。但台灣沒有這麼大的犯錯空間。

台灣一方面掌握全球最關鍵先進半導體製造能力,另一方面又是全球網路攻擊、認知作戰與地緣政治衝突最密集場域。如果自主AI代理未來大量進入政府、金融、醫療、能源與國防供應鏈,我們面對的問題絕不只是企業要不要導入AI,而是誰有資格讓一套可以自行採取行動的模型取得真實系統權限。台灣不該照抄美國的加速論,也不能用一句AI有風險就把產業綁死。

台灣需要有自己的高風險模型治理門檻。凡涉及自主網路操作、關鍵基礎設施、政府資料、軍民兩用系統與高度敏感個資的AI代理,都應該要有獨立測試環境、最小權限設計、完整行為紀錄與事故強制通報。

政府採購AI時,也不能只問模型準不準、便不便宜,更要問模型在哪裡訓練、權重由誰控制、資料送往哪裡、服務商能不能遠端更新,以及系統出事時究竟由誰把它關掉。同時,台灣應利用半導體供應鏈與民主科技夥伴地位,參與美國、日本及其他可信任國家的前沿模型安全評測體系。台灣不可能決定全世界AI要跑多快,卻可以決定什麼樣的AI能進入台灣最重要系統。

「AI 2027」值得我們思考的,不是2027年會不會出現超級智慧,而是一個國家在技術競賽進入最後幾公里時,有沒有勇氣承認速度本身也可能變成風險。美國今天最危險想法是把安全視為對中國競爭成本;而台灣最危險想法則是把AI安全只當成是美國大公司的問題。

真正有實力的AI國家,不是第一個把最強模型推出市場的國家,而是模型愈來愈強之後,仍有能力知道它在做什麼、限制它能做什麼,必要時還關得掉它的國家。AI競賽當然不能停。但如果連煞車都拆掉了就不叫領先,而是會更早抵達「AI 2027」所預言2030年情境,一個被AI機器人接管、已經沒有人類的未來。

資料來源:關鍵評論 2026/08/13
作者:廖明輝