今年7月9日，前OpenAI研究員、現任AI Futures Project執行主任丹尼爾・科科塔伊洛（Daniel Kokotajlo）與團隊，在去年4月發布的「AI 2027」基礎上，提出新情境與政策建議方案「AI 2040」。
從「AI 2027」到「AI 2040」，值得我們注意的不是某一天AI突然覺醒，而是可能讓治理措手不及的變化。尤其當AI開始大規模參與AI本身研發，使技術進步速度不再完全受限人類研究者工作節奏。
「AI 2027」核心情境是AI從協助程式設計與實驗執行開始，逐步提高AI研發效率；當更強模型能反過來參與下一代模型的研究與設計時，就能形成一個自我強化的回饋循環。報告假設在更後期情境，大量超越人類能力的AI研究代理可以同時運作，使原本以人類研究團隊為中心的研發週期大幅縮短。
這些雖屬情境推演而非已發生事實，但它所提出AI治理難題卻十分清楚；如果AI研發速度持續加快，企業內控、政府立法、跨部會協調、國際談判與安全驗證所需要時間，可能愈來愈跟不上技術迭代速度。
「AI 2027」描繪的是失控可能如何發生，「AI 2040」則把問題往前推進一步。不只描述快速發展可能造成什麼後果，更試圖提出避免失控競賽的路徑，包括放慢前沿AI研發、提高研究透明度、讓先進AI能力分散於更多國家與企業，以及建立可驗證彼此是否遵守限制的國際機制。
換句話說，問題已從AI最後會不會比人類更聰明，轉變成在人類仍有能力控制發展速度時，能否先建立一套讓所有人都無法偷偷加速的規則。關鍵不再只是誰能在AI競賽跑得最快，而是人類能否在競賽快到來不及踩煞車之前，把誰跑得比較快改寫成誰都不能偷跑得太快。聽來像是語意上的差別，但其實是權力結構的差別。
「AI 2040」把人類在2029年的選擇拆分成五條路徑。最左端的計畫D，接受超級人工智慧（ASI）是不可避免前提，主張美國乾脆一路衝刺讓AI全面接管資料中心、工廠、武器與AI研發，只求比中國早一步抵達超級人工智慧。
計畫C稍微踩煞車，留一些安全測試與人類監督的時間；計畫B則把減速條件延伸到中國，用出口管制、算力限制與國家力量阻止對手趁機超車。最右端的計畫S乾脆全面關閉最前沿自我改進研究。
其中最值得警惕反而是看起來最溫和的計畫C。它最符合民主政治直覺的不停止創新，只多做一點安全。但只要落後中國仍是最高政治風險，任何多出的測試期都會被重新解釋成競爭劣勢。護欄可以加但AI競賽的油門卻沒有鬆。最後最可能發生的不是安全換來時間，而是安全標準在下一次國安焦慮中被拆掉。
真正有意思的是在中間的計畫A。它不要求美中互相信任，而是要求彼此可以查證。算力在哪裡、先進晶片流向哪裡、大型資料中心正在跑什麼等級訓練，都必須留下可以驗證紀錄。它借用核武管制的務實精神，也就是和平不能建立在善意上，只能建立在違約時會被發現的制度上。這就是「AI 2040」最重要洞見，也是最容易被低估地方。
過去幾年，AI治理多半還停留在模型要不要開源、生成內容如何標示、個資怎麼保護、企業要不要做安全評估。這些當然重要，但一旦AI真的進入自我強化階段，治理就會從模型轉成速度。一個國家即使規定每個模型上線前都要測試，如果下一代模型的生成速度已經快過測試制度，規則就會變成只像是上一個時代的交通號誌。
但把AI治理直接類比核武，也有容易忽略的陷阱。核彈頭、飛彈基地、濃縮設施都有相對清楚的物理邊界，AI能力卻藏在晶片、演算法、資料、人才與軟體流程裡。今天看起來不算前沿的算力，配上明天的新演算法，可能突然變得足夠危險；一項原本只是提高程式設計效率的工具，也可能成為自動化AI研發的關鍵。
這代表AI版的信任驗證不能只數晶片，更要追蹤研發加速本身。哪一家公司的研究週期縮短多少？多少實驗由代理系統自主提出、執行、判讀？AI開始替自己的後繼模型做多少工作？這些指標若一直被視為企業內部機密，政府永遠只能在事發後才知道門檻已被跨過。
問題也在這裡。計畫A看似是技術治理，實際上卻需要一套比今天更尖銳的國際政治。誰有權要求資料中心接受查核？誰能判定某批高階晶片用途？如果一家公司聲稱某次大規模運算只是推論而不是訓練，又由誰來驗證？如果一國拒絕稽核，制裁將由誰執行？這些都不是工程師可以單獨回答的問題。
所謂可驗證減速，最後仍要靠國家權力、供應鏈控制與同盟制度才能落地。
台灣也不可能置身事外。今天在台灣談AI，語言幾乎都集中在算力夠不夠、人才留不留得住、主權AI做不做、應用產值能不能拉高。這套討論把台灣想像成AI浪潮的受益者與供應者，卻很少問如果三年後全球開始限制最危險的前沿訓練，台灣要站在哪一個位置？答案其實沒那麼抽象。
全球前沿AI要往前跑，離不開先進晶片、先進封裝、高頻寬記憶體、伺服器與大型資料中心。台灣不一定握有每一個環節，卻身處其中最難替代的製造樞紐。未來的AI管制可能先從訂單、晶片序號、設備出貨、封裝產能與資料中心的算力紀錄開始。這可能是台灣現在該提前思考與布局的地方。不能等美中決定規則後才被要求配合執行。
台灣應把AI算力的可驗證性當成下一階段科技安全政策，建立高階AI晶片的追蹤能力，參與國際驗證標準，讓政府能區分一般商業運算、軍事用途與可能觸及前沿AI自我強化的訓練活動。
我們須留意這套制度不能只成為美國出口管制的延伸工具。台灣需要有自己的判定標準、法律程序與民主監督，否則今天我們擔心AI權力集中在少數科技巨頭手上，明天卻可能把監管權力集中到少數大國手上。
不過，筆者在看完「AI 2040」計畫A後最大的保留，主要在計畫A是由四項核心原則所指引。
從爭取時間，在有需要時放慢發展速度直到對安全性有高度把握；到研究全面透明，讓幾乎所有AI研究成果都完全公開讓大眾能夠看見；再要求廣泛分散AI能力，讓許多國家的多家公司都能處於AI技術前沿而不是由少數機構壟斷最先進能力；到最後保留可逆性及限制演算法進展，並維持相互保證算力摧毀的制衡機制。
這些原則抓對問題，但卻太相信驗證本身是中性的。但事實是晶片追蹤不是中性的、資料中心監測不是中性的、研究透明更不是中性的；誰掌握資訊，誰就可能掌握定義違規的權力。若未來只有美中兩強坐在桌前決定什麼叫安全、什麼叫越線，其他國家只能負責交出供應鏈資料，那就已不是全球治理，只是把AI霸權從技術競賽改寫成監管競賽。
因此，台灣的課題並不是等到2029年，才在計畫A、B、C、D、S之間選一條路來走。真正需要選的是角色；我們要繼續只當高階晶片生產基地，還是成為AI時代制度設計的一部分？AI自我強化最可怕地方，未必是它終有一天比人類聰明，而是它把時間變成權力。
模型把研發週期從一年縮成一個月，企業就多出十一個月；政府若仍用一年修一部法，反而就少掉十一個月。這種落差累積幾輪之後，所謂人類仍掌握控制權說法，可能就只剩下法律文字上的幻覺。
「AI 2027」提醒我們，通用人工智慧（AGI）可能來得比制度反應快。「AI 2040」則對超級人工智慧（ASI）提出一個不算漂亮、但至少承認現實的答案。不要期待領跑者自願停下來，要把能不能停做成一套彼此看得見、也付得起違約代價的制度。
對台灣來說，真正的倒數不是2040，也未必是2029。而是從現在就開始。因為當世界決定替AI踩煞車時，大家第一個要找的不會只是演算法，而是晶片從哪裡來、送到哪裡去，以及誰有能力證明它沒有被偷偷踩到底。
資料來源：關鍵評論 2026/08/18
作者：廖明輝