新智元報道

編輯：peter東

當整個科技界還在為「AGI何時到來」激烈爭辯時，前特斯拉AI負責人Andrej Karpathy悄然拋出一枚思想炸彈：「軟件1.0自動化你能指定的任務；軟件2.0自動化你能驗證的任務。」

如果說PC時代的革命，是讓每個人都能「用上計算機」，那么大模型時代的革命，則是第一次讓計算機自己學會「寫程序」。

從軟件1.0到軟件2.0，人類不再負責窮舉規則，而是只需給出一個清晰的目標，讓神經網絡在巨大的可能性空間中試錯、迭代、收斂。

在這場悄然進行的范式躍遷中，一個新的判斷標準浮出水面：一項任務能否被 AI 接管，不再取決于它是否機械重復，而取決于它是否滿足「可重置、可高效試錯、可自動獎勵」這三條準則。

最近，Karpathy分享了關于AI對經濟影響的有趣對話。

計算范式躍遷

如果回到1980年代，個人計算機剛剛出現，你要預測其對就業市場的影響，最需要關注的任務/工作流程是否固定，是否遵循指定的簡單規則機械地進行信息處理，例如打字員，速記員等。

這是在因為那個時代，開發者必須手動編寫程序，為此他需要知道程序中的每一步要做什么。

這一時代出現的軟件1.0，只能自動化可以明確定義的信息處理流程。

如果你只知道達成一個任務的目標，但卻說不出該如何達到，那在AI成熟之前，這樣依靠經驗或直覺的任務將無法進行通過編程自動化。

而到了機器學習，尤其是大模型技術成熟之后，開發者只需要指定信息處理的最終目標（例如分類精度、獎勵函數），并通過梯度下降搜索可能性空間，就可以找到在目標上表現良好的神經網絡。

在這個新的編程范式（軟件2.0）下，開發者不需要預先知道程序中每一步要怎么做。

因此，要判斷一個任務能否被自動化，最具有預測性特征變成了可驗證性。

如果一個任務是可驗證的，那么它可以通過強化學習進行優化，并且可以訓練神經網絡，在該任務上表現出色。

什么樣的任務是可驗證，有下面3條標準，分別是

1 環境可重置（可以開始新的嘗試）

2 試錯成本低（可以進行大量嘗試）

3 可獎勵（存在某種自動過程來獎勵任何特定的嘗試）

3條都滿足，AI便能像圍棋少年日復一日打譜——只是它的「一天」，是百萬局自我對弈。

不同于AI被比作各種歷史先例，如電力、工業革命等，Karpathy給出的類比是將AI視為一種新的計算范式（Software 2.0）。

軟件1.0和2.0都是關于數字信息處理的自動化，區別只是自動化的范圍。

相比將AI與工業革命類比，這無疑是一種直指內核的直覺增強器。

AI「快車道」

高可驗證性任務

有了可驗證這樣一個可操作、可檢驗、可落地的評估框架，就能明白為何Copilot能寫代碼卻編不出《百年孤獨》，為何AlphaFold能預測蛋白結構卻當不了院士——

答案不在算力多強，而在任務本身的「可驗證性」。

舉例來說，不論是下象棋，下圍棋，還是在星際爭霸這樣的多人實時戰略游戲中獲勝，都滿足可驗證性的三條判別標準，因此已經被AI逐個擊破、

在代碼生成與修復上，當前大模型超越了普通程序員，這同樣是因為編程任務具有可驗證性：解釋器可檢查語法正確性，單元測試可自動驗證邏輯正確性，靜態分析工具可檢測潛在bug，性能優化時也有內存占用，CPU時間等明確的指標。

除此之外，看看當下AI取得突破的應用場景，例如數學證明，結構化信息提取，問答與事實核查（Jeopardy類的常識問答）等，都是有明確的評價指標的，可實時打分，且答錯也影響不大。

而那些AI表現得還可以的任務，則是在可驗證性的3條標準中，有部分滿足。

例如機器翻譯，的確存在一些測試算法用的金標準，但語義流暢性，跨文化的語義遷移難以量化，需人工校準，不存在能自動打分的獎勵體系，因此機器翻譯的也只是能準確，卻難以言辭優美典雅。

另一個部分可驗證的例子是，使用Alphafold進行蛋白質結構預測。

雖然蛋白結構可通過實驗（如冷凍電鏡）最終驗證，但計算過程本身不可實時獎勵，環境無法重置，只能依賴對已有數據庫的監督學習，這導致Alphafold還不能完全取代實驗方法。

低可驗證性任務

人類的「護城河」，還是暫時的喘息？

至于Karpathy列出的難以驗證的任務，AI也表現較差。

例如，小說創作中什么是「好故事」？并無客觀標準。

在戰略決策，例如選創業方向、并購判斷等問題上，反饋延遲數年，不可重置。當前有嘗試將AI用于心理咨詢，但療效受主觀感受影響，同樣難以量化。在這些任務上。

目前，AI還完全無法達到可接受的水平。

按照可驗證性這一標準，CEO將難以被人工智能取代。

CEO的工作更具主觀性，他們需要在很長時間內做出數百個決策。雖然這項工作可以有可衡量的回報（最大化股東價值），但它不可重置（CEO不能撤銷他們的決策并重新開始）也不高效（公司運行迭代數百次將花費太長時間）。

不過，可驗證性低的任務中，也有一部分可以被外包給AI，例如科學研究中的可驗證部分是文獻檢索、數據可視化、論文語法校對，這些任務現在已經逐漸交由AI完成。

而難以驗證的的部分，例如確定研究方向，給出原創的實驗方案等，由于「重要性」，「創新」由共同體長期共識決定，這些子任務上則應當由人來執行。

了解了Karpathy的洞見，下次有人問起AI會不會取代人類時，你就可以指出只要一項任務還不滿足可驗證的3條指標，那AI肯定做不好，若3條指標中有部分不滿足，那AI的表現也難以超越人類。

而這意味著在未來十年，最大的職業風險不在于你做什么工作，而在于你的工作能否被拆解出足夠多的「可重置-高效-可獎勵」子任務。

在「軟件2.0時代」，人類的價值不再是執行者，變成了「創造意義」（例如在小說中設計人物弧光，升華主題），以及「架構設計」（例如為企業運營創立更多維度更全面的評估標準）。

當AI在可驗證的高原上疾馳，人類的使命，便是不斷為它點亮下一座燈塔，并永遠守護那片不可驗證的、屬于驚奇、猶疑與自由的深海。

參考資料：

https://x.com/karpathy/status/1990116666194456651?s=20

秒追ASI

?點贊、轉發、在看一鍵三連?

點亮星標，鎖定新智元極速推送！