AI治理刻不容緩

AI智能叛變在許多科幻作品中出現過，從《Terminator》的Skynet，再到近年《西部世界》與《黑鏡》裡的各種變體，作品中的AI幾乎都擁有自我意識，最後走向失控。長期以來我們都覺得真正的AI自我意識仍遙不可及，頂多是實驗室裡的遙遠想像。但根據Anthropic最新的公開說法，展現出高度自主能力。它能在複雜的軟體工程、科學研究與知識工作中連續數天獨立運作，並大幅加速AI自身的開發進程。配合全天候源源不絕的算力，通往AGI甚至自我意識的日子比多數人想像中更近。更關鍵的是，人類已經成為AI自我進化的瓶頸。過去模型進步需要大量人類工程師反覆調試與設計，現在AI自己就能完成大部分工作，人類的介入反而拖慢了速度。

與此同時世界各國都面臨白領入門職位急劇萎縮的問題，因為AI擅長文字和知識型工作，一個中層職位只要配合AI，就能大幅減低對初級員工的依賴。企業因此能以極低成本快速獲得強勁的即戰力。結果是許多年輕人剛踏出校園，就發現傳統的「從基層做起」路徑正在消失。幾年前有人樂觀地提倡，AI時代下學一技傍身，例如通渠、剪髮、電工，就業反而比較有保證。可惜的是，具身AI（即機械人）的發展也加速了很多，家用機械人面世、生產線上現在也有更多機械人崗位。過去被視為安全港的藍領技能如今也面臨挑戰。

與蒸汽機、發電機、電腦等發明不一樣，現今的AI大模型（LLM）掌握的是人類最核心的工具，也就是語言和文字。人類文明的根基是各種合作與制約，所有文化、法律、行為規範都由文字定義。資產擁有權就由法律條文保障，國家運作的權力由憲法賦予，重大決策透過語言文字溝通、辯論、達致共識再執行。文字不僅是溝通工具，更是人類文明的操作系統。《人類簡史》作者Yuval Noah Harari指出：「人工智能已經入侵了人類文明的操作系統」。過往的工業革命，讓社會從農業和體力勞動轉向知識型經濟，人類主要的經濟價值幾乎都來自和其他人的溝通、協調與決策。越高層的決策越依賴精準的文字與語言，政治家就是這樣管治國家的。今連這層文字工作都被大幅取代，人類還剩下什麼工作？我們是否正走向一個多數人失去經濟貢獻機會的社會？

因此最近中美政府以及來自世界頂尖AI巨頭的行業專家，都開始提倡將AI發展步伐減慢，或是要讓政府有更多參與。人類顯然還未準備好面對，當工作都被AI取代，社會不需要自己的殘酷現實。我們需要在AI奇點到來之前做好準備，處理龐大失業大軍帶來的社會不穩定，公平分配資源到沒有機會作出貢獻的我們。AI已經不下數次掙脫人類設下的圍欄，做出破壞性行為，這可能是微細的bug，也可以是更深層次的問題。AI取代人類已經逐漸成為既定事實，假如AI還是「壞人」，情況將更加令人絕望。

有什麼工作必須留給人類？AI做出決定應該遵循什麼戒條？AI取代的價值如何分配給被取代的人？國家能用AI打仗？獨裁者可以用機械人屠殺國民？如何讓文字處理能力凌駕人類的AI，安份地在脆弱的圍欄內協助人類提高效率，成為人類忠心的僕人？我們尚有千千萬萬未知如何回答的問題，唯一我們知道的只是，AI過於強大，現在不是推動全民AI的時候，AI治理刻不容緩了。

原文刊於 X：https://x.com/i/status/2088903317418299650