AI 協作,經作者定稿。 關於
大家都在用 AI,怎麼像活在不同年代?
從 Karpathy 的四層漏斗,理解 AI 使用經驗的落差,以及工作差異、取得門檻與人類審查帶來的質疑。
本文目錄
Andrej Karpathy。照片來源:個人網站。
最近 AI 圈有個很奇妙的現象:有人覺得 AI 頂多幫忙改改信,還常常一本正經地亂講;有人卻已經把一整個工作交給它,回過頭來還在煩惱,自己怎麼看得完它做出來的東西。
這兩群人如果坐下來討論「AI 到底有沒有用」,大概聊沒多久,就會開始懷疑對方是不是活在平行世界。
曾任特斯拉 AI 主管、也是 OpenAI 創始成員的 AI 研究者 Andrej Karpathy,在 10 月 11 日把這種落差畫成了一個「漏斗」。如果你不認識他,先知道這是一位長期開發、使用,也教人認識 AI 的研究者就夠了。他想說的是,人們實際接觸到的 AI 能力差異很大,而且差距還在擴大。21
不過,看完這個漏斗,除了驚訝 AI 到底進步了多少,我也覺得有幾個問題值得一起問。尤其是:一個人沒有被 AI 說服,真的能用「你用得還不夠深」來解釋嗎?

從兩群人,變成四種使用經驗
今年四月,Karpathy 就提過類似的觀察。一些人的印象停留在過去用過的免費聊天機器人;另一些人已經在用最新的付費工具,處理程式、數學等專業工作。兩邊看到的進步幅度差很多,討論起來自然很難對上。3
這也稍微修正了我們常聽到的簡化說法:當時的差別,已經包含工具版本、使用領域與任務大小。光是「會不會用 agent」,還不足以概括。
Agent 可以先理解成「會接著動手做的 AI 助理」。例如你請 AI 幫忙做一個報名網站,聊天機器人可能告訴你怎麼做;能使用工具的 agent,則可能接著建立檔案、寫程式、執行測試,再依錯誤訊息修改。它能做到多少,還是取決於工具、任務和你給的權限。
到了十月,Karpathy 把這種落差分成四層:幾乎沒接觸的人、偶爾用聊天工具的人、把強力 AI 用在專業工作的人,以及接觸實驗室內部最前沿系統的人。1
先提醒一下,圖上的人數來自他的粗估。原文自己就用了「餐巾紙上算一算」的說法,沒有附上一份全球使用者調查。可以拿來理解他觀察到的落差,別把它當成精確的人口統計。
四層裡最容易讓人看出差異的,是第三層和第四層。依他的描述,前者已經把原本要花很久的數位工作交給 AI;後者看到的,則是大量 AI 助理分工、持續處理更長期的專案。這些內部系統的完整能力,外界並沒有相同的條件可以自行檢驗。
所以,這個漏斗同時放進了幾件事:你有沒有接觸工具、拿它做什麼、任務有多大,以及你到底拿不拿得到那套系統。它沒有告訴我們每個人都會沿著同一條路往下走。
為什麼寫程式的人,特別容易覺得世界變了?
把 AI 當搜尋工具,和讓它處理一整個專案,帶來的感受當然不同。但工作本身也很重要。
以寫程式為例,許多步驟可以直接在電腦裡完成,還能用測試檢查結果。改完程式就執行,出錯就再改,這種回饋可以很快來回。Karpathy 認為,目前的進步特別集中在這類可數位化、可驗證,而且有商業價值的領域。1
要是你的工作是替人翻身、安撫一個正在哭的小孩,或處理客人現場突然冒出來的要求,情況就很不一樣。AI 可以幫忙做其中一些事,但從產生建議到真正把現場處理好,中間還有很多工作。
原帖下就有人直接反駁:多數一般人忙著照顧病人、教孩子、開車、清潔、蓋道路和建築,還有維持讓大家能上網發文的電力與網路。4

這個提醒很重要。整天寫程式的人,可能把一大段工作交給 AI 就能省下幾天;整天照顧人的人,可能省下了寫紀錄的時間,其他事情卻還是得自己來。兩個人對 AI 的評價不同,完全可能來自各自真實的工作經驗。
Karpathy 自己也有提到領域差異,甚至認為一些非科技業朋友覺得暫時用不上 AI,是合理的。因此,把漏斗轉述成「不覺得 AI 厲害的人就是沒跟上」,會比他原本的說法走得更遠。
沒有打開聊天視窗,就算沒在用 AI 嗎?
另一位回覆者問得更根本:如果一個人用的是由 AI 協助開發的 App,那算不算「使用 AI」?一般人接觸新技術,常常是透過做好的產品,不會直接操作底下那套技術。5
這讓漏斗裡的「接觸」需要分清楚。親自指揮 AI 做事,能讓你更直接地摸到它的能力;透過產品間接受惠,也是真實的使用情境。兩者帶來的理解不同,卻很難只靠有沒有訂閱聊天工具來判斷一個人受到多少影響。
同一串討論裡,也有一個方向比較樂觀的例子。有人說,他替沒有專業程式背景的父親訂閱工具,父親就替自己的生意做出了網站,還加上付款功能。他認為,更多人需要的是有人示範,讓他們看到這些工具和自己的需求有什麼關係。6

這是當事人分享的個案,我們沒有另外測試那個網站的安全性或完整度。但它提出了一個很實際的可能:有些人的距離,或許只差一個真正想解決的問題,加上一點帶著做的協助。
對開店的人來說,「最新模型推理能力提升」可能沒什麼感覺;「能不能幫我把客人的預約整理好」,就具體多了。看完一百則 AI 又突破了什麼的貼文,也未必比一次和自己有關的成功經驗更有說服力。
漏斗最裡面的人,也可能只看見一部分
有趣的是,質疑也指向了另一端。
研究 AI 應用的教授 Ethan Mollick 回應,就算是能接觸內部先進系統的人,也還沒有把它們的用途探索完;目前注意力仍集中在資安、數學和 AI 研發,而其他領域還有很多問題可以解。7

換句話說,拿到最強的工具,仍然會受自己熟悉的工作影響。每天在找程式漏洞的人,自然會先測試 AI 找漏洞有多厲害;真正知道別的領域有哪些難題的人,卻可能還沒有同樣的工具和使用條件。
另一個回覆則追問,這樣的能力集中,會不會也帶來權力集中?相對樂觀的看法是,價格會下降,更多人將有機會接觸並把能力帶到外界。這兩種反應分別來自 Clément Delangue 和 Garry Tan。89
兩邊的差別在於,一邊擔心目前的取得門檻,另一邊期待未來普及。價格會降到什麼程度、哪些能力會開放、多久之後一般人才用得上,這些仍需要實際發展來回答。不能光靠「內部已經很厲害」,就把普及當成已完成的事情。
AI 做得太快,人反而看不完了
還有一種回應,來自已經用得很深的人。
一位使用者說,自己的系統產出已經多到無法全部讀完、理解,感覺撞上了自身認知能力的限制。另一位則直言,他無法放心接受完全沒有人類審查的程式專案。1011
這兩個意見放在一起,很容易理解:原本你擔心 AI 做不出來,後來它做得出來了,甚至做得比你看得還快。接下來的問題就變成,誰來確認它做對了?如果要重做、維護或承擔錯誤的後果,又需要多少時間?
(AI 多請十個助理很容易,你的眼睛倒是還只有兩顆。)
這點 Karpathy 自己在原帖也提到了。他已經注意到,人類的審查和理解開始追不上產出速度。這是漏斗描述的一部分,不能把它說成他完全沒有想到的反駁。1
多個 AI 助理合作,也不全是外界看不到的故事。開發 Claude 的公司 Anthropic,曾公開多個 AI 協作開發 C 語言編譯器的案例。編譯器可以先理解成把程式轉成電腦能執行形式的工具;公開文章附了程式碼、測試及限制,讀者至少有材料可以進一步檢查。12
不過,這是公司的公開工程報告,不能直接當成所有內部系統能力的獨立證明。一個大型專案做出來,和它在各種情境下都可靠,也還有距離。
對使用者來說,衡量進步時除了看 AI 產出了多少,也得把檢查、修改和接手後續工作的時間算進去。這樣才知道,省下來的究竟有多少。
我們可以多試一點,也可以保留不同意的理由
我認同這個漏斗的一個提醒:只憑很久以前試過一次聊天機器人的印象,很難判斷現在的 AI 能做什麼。拿一個自己真的在意、原本需要花時間處理的問題,認真試過之後,對它的能力和限制都會更有感。
但如果有人試過之後,仍然覺得幫助有限,也應該先聽聽他做的是什麼。可能是工具用錯了,可能還沒有找到合適的做法,也可能那份工作的難處,現在的 AI 確實還幫不上多少。
我會把 Karpathy 的漏斗拿來提醒自己,問別人「你覺得 AI 怎麼樣」之前,多問一句:你用哪個工具,拿它做什麼,最後又花了多少力氣檢查?
親自深入使用,能讓判斷更具體。至於有沒有被震撼到,實在不必變成另一場考試。
輕鬆的 AI 新聞