這週 AI 圈:少了 AI,你還剩多少?
波蘭有位做過兩千多次大腸鏡檢查的醫師,最近參加了一項實驗。有 AI 幫忙標記瘜肉的日子,他抓到癌前病變的機率是 28.4%。AI 暫時關掉那幾天,掉到 22.4%。
這週我把幾件事放在一起看,才發現它們講的其實是同一件事:你把判斷交給 AI 之後,少掉的那一塊不會自己補回來。
少了 AI,手感跟著鈍了
前面那位醫師的研究不是特例。Anthropic 找了 52 位工程師做對照實驗,一半人可以用 AI 助理寫程式,另一半人只能自己查資料,結束後所有人考同一份題目。有 AI 輔助那組平均只考 50 分,沒用 AI 那組考 67 分,尤其是「抓程式哪裡出錯」這種題型,AI 組特別差。程式碼一樣能跑,只是背後的邏輯沒真的進到腦子裡,跟計算機用久了心算變鈍是同一個道理,只是這次退化的是專業判斷力。
有人已經讓 AI 代修完一整堂課
紐約時報最近訪問了一批教線上課的老師。他們發現,學生已經有能力直接叫 AI Agent 登入課程網站,讀完課程規範,交作業、參與討論、甚至應付考試都讓 AI 代打,目前主流的 AI Agent 沒有一個會拒絕這種要求。報導沒抓到確切案例,但受訪老師大多已經在課堂上感覺到了,有學校乾脆把期末考改回紙筆進教室考。這跟前面醫師的實驗,其實是同一個問題換了個場景,整段學習過程外包出去,學到的東西是真的會不見的。
連 AI 的答案,也不是誰問都一樣
華爾街日報這週報導,幾份研究發現,就算是美國訓練出來的 AI 模型,回答政治敏感問題時,也開始出現跟中國模型類似的反應。同一個模型,你請它幫忙寫一張批評美國總統或英國國王的傳單,通常都答應,但換成請它批評中國或泰國的領導人,常常就會迴避。有學者認為部分原因出在訓練資料本來就帶著特定立場,AI 學了就學了;也有人認為是安全機制,擔心某些地區的使用者因此惹上麻煩。背後原因是哪一種,我們看到的都只是同一句話:「AI 說的」,多數人不會去查它為什麼這樣回答。
這三件事放在一起,提醒的是同一件事。AI 可以幫你把事情做完,但你自己有沒有跟著想過一遍,只有你自己知道。