我會被 AI 取代嗎？

讀 Stephen Wolfram 與「運算不可化約性」

上週日黃仁勳來台大演講，大家轟轟烈烈的都在聊 AI。

整理演講內容的文章很多了，不需要我再寫同樣的東西。今天我想更深入討論 AI 發展浪潮中，所有人都在焦慮的點：

「我的工作會不會被 AI 搶走？」

甚至，更長遠來看：

「人類會不會被 AI 取代？」

為了思考這個問題，我讀了《Will AIs Take All Our Jobs and End Human History—or Not?》這篇文章。

作者 Stephen Wolfram 非常有來頭，他是電腦科學界的思想家，物理學背景出身，軟體發明有 Mathematica 與 WolframAlpha 兩種研究工具，在理論物理與人工智慧領域都有重要的貢獻。

在文章中，他從電腦科學與文明演進的觀點，探討「AI 會不會取代人類文明？」，講得非常精彩深入。

（aka 難懂）

今天這封電子報，我試著整理一些文章重點，跟你分享他如何回答「人類會不會被 AI 取代」這個問題。

---

1. 是否有一天，所有可以被發明的事物都被發明完了？

1899 年工業革命後期，當時有一則笑話想像 100 年後的未來（1999 年）：

（圖片來自 "Punch Magazine"，出版於 1899 年）

<地點：專利局>󠀠

發明家：「我想要見見專利局的經理。」

櫃檯：「噢，我們沒有經理。」

發明家：「咦？那誰來管理這些發明？」

󠀠櫃檯：「全由機器代勞，先生。」

發明家：「那麼誰來檢驗這些發明的專利呢？」

櫃檯：「不太需要了，先生。一切能被發明的，早已被發明了。」

發明家：「不管了。我想要留下一些專利，一本小說、一張圖畫和一個點子。」

櫃檯：「先生您可真老派！咱們今天所有能做的工作都被作完了，由心像機器給代勞。」

在當時想像的未來，這個「心像機器」取代了所有人類可以做的工作。

人類被「自動化」取代的焦慮，早從工業革命，機器開始取代勞力的時候就開始了。

我們到底會不會被機器取代？

我的工作在五年後還有價值嗎？

當 AI 無所不能時，人類的「工作」還有意義嗎？

這些問題，都是在思考 AI 未來的大哉問。

Wolfram 認為，要回答這些問題，你首先要理解一個概念：

2. 「運算不可化約性」是理解 AI 的關鍵概念

大多數的工程系統，都像是一個時鐘：我們設計精密的部件，讓它照著我們的期望運轉。

軟體也是如此，我們寫一行一行的程式碼，讓軟體運作。

我們也因此期望：會做複雜工作的機械或軟體，底層的設計也同樣的複雜。

但是在電腦運算中不是如此。有時候非常小的軟體，單純幾個法則反覆運算，也可以產生驚人的複雜結果。

這符合自然界的規律：有限的物理法則與設計原理，產生了人類無法窮盡的複雜性。

這種複雜性是不可被化約的，我們只會得到複雜的結果，但無法詳細知道每一個步驟發生了什麼事，也無法用一個抽象公式表達這個「複雜性」。

也因此，複雜系統無法被預測。要知道這個系統運行會產生什麼結果，唯一的方法是實際運行系統。

同時，複雜系統不是人類能喊停就停的，而是會不斷演進，有相對的自主性。

Wolfram 稱這個特性叫做「運算不可化約性」（computational irreducibility）。

如同人不能預測生態系怎樣發展、預測股市怎樣漲跌，人也不可能準確預測 AI 的每一步行為。

「運算不可化約性」是人類知識的極限。

3. 我們同時發明，也「馴化」了 ChatGPT

從這個角度看，ChatGPT 就是具有不可化約性的「複雜系統」。

我們並不能像拆解一個時鐘一樣，拆解它產生對話的每一個步驟。它更像是一個神經網絡（neural-net）的黑盒子，我們只是訓練它學會了人類的語言，但實際上不知道它怎樣做到的。

這本質上，更像是在馴化一個自然界的動物：我們可以使用驢子來背負貨物，但實際上驢子的新陳代謝機制怎樣做到的，有無法窮盡的複雜性。

馴化驢子的過程，就是在牠無法窮盡的複雜系統中，找到可以利用、可以化約的「子系統」（例如，只要鞭打就會前進）（跟馴化老公一樣）

Wolfram 認為 ChatGPT 也很類似這樣。

神經網絡原本就是一個「Raw computation」，原本產出的東西是沒有規律跟意義的。人類用大量的網路資料訓練後，產出「可以用」的內容。

我們發明了 AI，同時也「馴化」了 AI。

4. 不斷找出「可化約的子系統」就是文明演進的過程

文明的進展，大多都來自我們發現了這些子系統，並且成功「化約」（reduce），使其為人類服務。

在科技界，就是「自動化」，過去要大量的細節步驟，現在只要一個按鈕。

在科學界，就是「抽象化」，過去要多個步驟的討論細節，現在只要用一個字。

甚至演化也是同樣規律：在生物界，就是「結構」，過去是原核生物只有一層膜，後來演進出粒線體、細胞、翅膀等具有功能的模組構造。

科技、文明、自然界都是會持續不斷演進的「複雜系統」，因此也在不斷產生新的「子系統」。在自然界中，這些子系統的數量可能有無限多個。

說到這邊，我們就可以回答原先的問題了：

「是否有一天，所有可以被發明的事物都被發明完了？」

基於「複雜系統具有運算不可化約性，會不斷地演進」，Wolfram 認為，人類的發明不可能窮盡。

因為，能夠找到的「子系統」有無限多個。

只要有新的子系統存在，就可以有新的化約（發現與發明），然後又會產生新的子系統...英雄造時勢，時勢造英雄。

在 AI 浪潮中常有人問：「是否會有一個終極科技，取代所有的發明？」（例如，AGI 通用人工智慧）

這個問題就好比在問：「是否會有一個終極生物物種，終結所有演化進程？」

兩個問題其實是等價的，我們可以從「運算不可化約性」知道答案：「不會」。

事物不會被發明完畢，永遠有更多運算要做。

長期來看，人類的工作永遠不會消失，自動化科技會取代現有工作，但同時產生更多新的工作機會。這在歷史上都有同樣的模式：

電話接線生（switchboard operators）被取代了，但是自動化的電話技術讓溝通基礎建設更有效率，打開了大量的工作市場。

會計計算員（accounting clerk）被計算機取代了，但計算自動化讓金融市場更複雜，因此也打開了大量的新工作。

Wolfram 認為 AI 發展也是一樣，取代現有的工作，但會創造新的工作。因此工作機會總量不會減少，反而可能更多。

5. 那我的工作是否會被取代？

目前為止，我們的討論還著重在「整個人類文明未來會不會被 AI 取代」。

但我們最在乎的，應該是更急迫的問題：「明天，我會不會被 AI 取代？」。

其實，我認為更好的問法，應該是反過來問：「我的哪些工作內容不能被取代？」

也就是：

「到底哪些事情是 AI 不能做，只有人類可以做的？」

Wolfram 的答案是：「決定意義」。

AI 已經證明，不論是創意、新想法、判斷、共感、同理、判斷、考試等工作，它都已經可以執行，未來表現也會越來越好（理論上）。

但是最終，人類還是得決定「要用 AI 做什麼才有意義」。

AI 擅長執行「目標」，但要決定「什麼目標值得做」，還是得回歸到人類身上。

也就是說，「策略性思考」是 AI 永遠不會取代的工作內容。

如果你的工作內容很少這個成分，多數都是「執行」為主，那從 Wolfram 的觀點，確實在未來五年、十年內，AI 會在某種程度上取代你「怎樣辦公」的方法。

甚至當新方法效率提升，不需要這麼多人力執行時，確實會被少數擅長 AI 工具的人取代。

就像是用手算數的會計計算員，被操作電腦 Excel 報表的會計取代一樣。

我們都聽過：「AI 不會取代你，但擅長使用 AI 的人會」。

這句話，在說的對象是「執行者」，而不是「決策者」。

6. 所以，我們該學習什麼？

Wolfram 認為，面對這個劇烈的未來變動，我們應該學習的重點有三個：

學習如何使用這個工具。

綜觀歷史，適應新工具的人都會勝出。

除了學習使用自動化工具，也應該在學習過程中應用自動化工具，加大你獲取經驗與案例的速度。

學習有哪些事情可以應用這個工具。

最好的槓桿會來自「找出全新可能」，那些過去我們做不到，但是因為新的科技而可行的事情。

例如教育領域（AI 私人家教）、醫療（AI 診斷）等已經看到許多破壞性創新。

學習能幫助你思考這些事情的知識。

世界確實不斷分化，領域 know how 越來越專精。

但越是具體的專業，就有可能應用 AI 執行任務。

相對的，懂得應用 AI ，思維上跨領域，以底層邏輯思考的「雜學者」更有機會勝出。

Wolfram 認為，學習最好的方向是盡可能廣與深，結合大量的跨領域知識。細節已經不重要了，而是要能抓出更高層次的抽象邏輯思考。

7. 淺談「運算式思考」

關於「更高層次的抽象邏輯」，Wolfram 最後講了一個我沒有看很懂的概念：「運算式思考」。

Wolfram 認為，我們正在一個人類如何認識世界的關鍵轉捩點。過去我們有邏輯與數學，作為架構思考的工具，現在隨著電腦科學演進，我們又有一個新工具：「運算思考」（computational thinking）

用數學做比喻。

五百年前，數學還是用自然語言在進行教學。直到數學符號漸漸成熟，才誕生數學思考，然後有數學科學發展，數學語言於是成為認識世界的新方式。

現在是同樣的場景，只是廣度更大：任何一個領域或職業，都可以應用「運算思考」。

“...for basically every field or occupation “X” there’s a “computational X” that’s emerging.”——Stephen Wolfram

這邊在講的「電腦運算語言」不是「程式語言」，而是一套可以描述自然世界的電腦語言。這讓使用者像是電腦一般地思考（字串元、資料集、列表...）

這不意味著你應該學寫程式，而是要用「電腦科學思維」看世界。

未來，擅長「運算式思考」的人，會是最能夠跟 AI 與電腦溝通的人，也是可以用全新思維觀點認知世界的人。這會給你很強大的思考能力和競爭力。

你說哪一套語言是「電腦運算語言」，可以讓我用電腦科學的思維看世界呢？

好巧，就是 Wolfram 自己發明的語言。（就叫 Wolfram）

---

寫作者會被 AI 取代嗎？

會寫這篇文章，其實跟最近黃仁勳來演講沒有關係，只是因為我最近很焦慮寫作者會不會被 AI 取代而已。

還好，讀完這篇文章，我內心其實是比較安心的。

寫作的工具、研究整理的工具絕對會在某種程度上被 AI 取代。

但，寫作者不會。

社群上創作，真正關鍵的是「取得信任」。寫作者的任務是使用工具來完成這件事，不管是紙筆、打字機、電腦還是 AI。

寫作工具會被取代，但是寫作者本身不會。

作為一個經營個人品牌的創作者，其實我每天在做的工作內容都是在想策略，決定哪個問題比較有意義，而不是單純在產出內容。

那是好事。

所以，如果你是個正在「取代焦慮」的創作者，那你應該可以放一點心。

做好 Wolfram 說的三種學習，讓自己持續前進，就很夠了。

---

大概這樣，掰掰。

PS: 這篇文章是手打的。（你看我焦慮到要註明了 嗚嗚）